"AI ที่ไม่หลอน" เป็นเรื่องจริงหรือไม่ - แนวคิดที่ไม่ให้ ChatGPT "พูด" ตัวตนของ AI ความเร็วสูง "Jev" ที่นักพัฒนาหลงใหล

คุณค่าของ AI อยู่ที่การ "พูดเก่ง" จริงหรือไม่

ความก้าวหน้าของ AI ที่สามารถสร้างเนื้อหาได้ถูกพูดถึงในแง่ของ "ความสามารถในการเขียนประโยคที่เป็นธรรมชาติ" และ "การตอบคำถามที่ยาก" มาเป็นเวลานาน แต่เมื่อบริษัทต่างๆ พยายามจะฝัง AI เข้าไปในซอฟต์แวร์เพื่อให้ดำเนินการอัตโนมัติ ความคล่องแคล่วอาจไม่ใช่คุณค่าสูงสุดเสมอไป

สิ่งที่จำเป็นคือการแยกแยะว่าคำถามที่ได้รับคือการขอยกเลิกหรือการขอคืนเงิน การตัดสินว่าคำสั่งที่กำลังจะดำเนินการนั้นอันตรายหรือไม่ การเลือกหนึ่งในหลายๆ โมเดล AI ที่เหมาะสมกับงานนั้น และการส่งคืนความมั่นใจในระดับที่โปรแกรมสามารถจัดการได้

สิ่งที่ได้รับความสนใจคือ "Jev" ที่เปิดเผยโดย TypeSafe AI ของสหรัฐฯ ในการเข้าถึงล่วงหน้า ผู้นำการพัฒนาคือ Diogo Almeida อดีตนักวิจัยของ OpenAI ซึ่งมีส่วนร่วมในการวิจัย RLHF ที่ใช้ความคิดเห็นของมนุษย์ในการปรับโมเดลและการพัฒนาเทคโนโลยีที่เชื่อมโยงกับ ChatGPT

คุณสมบัติที่โดดเด่นที่สุดของ Jev คือการไม่สนทนา ไม่สร้างเรื่องราวหรือคำอธิบาย แต่จะส่งคืนค่าที่กำหนดไว้ล่วงหน้าและความน่าจะเป็นต่อทางเลือกที่นักพัฒนากำหนดไว้ล่วงหน้า TypeSafe เรียกสิ่งนี้ว่า "System One Model" โดยเปรียบเทียบกับ "ระบบ 1" ที่แสดงถึงความคิดที่รวดเร็วและสัญชาตญาณของมนุษย์ AI นี้ได้รับการปรับให้เหมาะสมสำหรับการประมวลผลการตัดสินใจอย่างรวดเร็วมากกว่าการวิเคราะห์เชิงลึกและยาวนาน

ความเร็วที่ได้จากการ "ไม่สร้างประโยค"

โมเดลภาษาขนาดใหญ่มักจะสร้างโทเค็นถัดไปโดยอิงจากคำหรือโทเค็นก่อนหน้า แม้ว่าจะมีความยืดหยุ่นสูงและสามารถใช้ในหลายวัตถุประสงค์ เช่น การสนทนา การสรุป การสร้างโปรแกรม แต่ยิ่งผลลัพธ์ยาวเท่าใด เวลาที่ใช้และค่าใช้จ่ายก็จะเพิ่มขึ้น นอกจากนี้ เมื่อใช้จากโปรแกรม จำเป็นต้องวิเคราะห์คำตอบและตรวจสอบว่าอยู่ในรูปแบบที่คาดหวังหรือไม่

Jev ได้ละทิ้งความยืดหยุ่นนี้โดยเจตนา แม้ว่าข้อมูลนำเข้าจะเป็นภาษาธรรมชาติหรือข้อมูลที่ไม่มีโครงสร้าง แต่ตัวเลือกผลลัพธ์และประเภทข้อมูลจะถูกกำหนดไว้ล่วงหน้า ตัวอย่างเช่น การจำแนกอีเมลของลูกค้าเป็น "การเรียกเก็บเงิน" "การยกเลิก" "ปัญหาผลิตภัณฑ์" หรือ "อื่นๆ" และส่งคืนความน่าจะเป็นของแต่ละรายการ ไม่ต้องเขียนประโยคทีละคำ แต่สามารถออกการตัดสินใจหลายรายการพร้อมกันได้ ทำให้สามารถเพิ่มความเร็วได้ง่าย

ตามข้อมูลที่เปิดเผยโดย TypeSafe เวลาตอบสนองอยู่ที่ 70 ถึง 500 มิลลิวินาที ค่าธรรมเนียมการป้อนข้อมูลคือ 0.042 ดอลลาร์ต่อหนึ่งล้านโทเค็น และผลลัพธ์ถือว่าไม่มีค่าใช้จ่ายเพราะ "ไม่คุ้มที่จะวัด" บริษัทอธิบายว่าในงานประเภท System One ที่เป็นเป้าหมาย AI สามารถเร็วขึ้นได้ตั้งแต่หลายสิบเท่าถึงสูงสุด 200 เท่าเมื่อเทียบกับ LLM ที่มีอยู่ การประเมินเวิร์กโฟลว์เฉพาะของพวกเขาแสดงให้เห็นว่าเร็วขึ้น 193.6 เท่าและถูกลง 444.6 เท่า

อย่างไรก็ตาม สิ่งเหล่านี้เป็นการประเมินที่ออกแบบและเปิดเผยโดยผู้พัฒนาเป็นหลัก TypeSafe เองก็ระบุถึงความเป็นไปได้ของอคติจากผู้สร้างเวิร์กโฟลว์ เงื่อนไขการเปรียบเทียบที่เป็นประโยชน์ต่อ Jev และการที่ราคาไม่ได้รับการสนับสนุนสามารถพิสูจน์ได้ในระยะยาวเท่านั้น ไม่ควรรับรู้ตัวคูณที่น่าทึ่งเหล่านี้ว่าเป็นประสิทธิภาพทั่วไปที่สามารถทำซ้ำได้ในทุกการใช้งาน

นักพัฒนาตอบสนองต่อความง่ายในการฝังมากกว่า "ความฉลาด"

หลังจากเปิดตัวไม่นาน ความสนใจก็พุ่งสูงจนความสามารถในการให้บริการ API ไม่สามารถรองรับได้ชั่วคราว สิ่งที่โดดเด่นในโซเชียลมีเดียไม่ใช่การสนทนากับโมเดล แต่เป็นโพสต์จากนักพัฒนาที่แทนที่ในกระบวนการทำงานจริง

Pranit Sharma วิศวกรซอฟต์แวร์ของ Vercel รายงานว่าหลังจากแทนที่โมเดล OpenAI ที่มีอยู่ด้วย Jev ในการประมวลผลการจำแนกความปลอดภัยของคำสั่ง ความแม่นยำเพิ่มขึ้นในขณะที่เร็วขึ้น 5 ถึง 18 เท่า

Nikhil Mudholkar CTO ของ Bryo AI เปรียบเทียบการจำแนกอีเมลธุรกิจกับ Gemini ในการทดสอบของเขาเอง แม้ว่า Gemini จะมีความแม่นยำสูงกว่าเล็กน้อย แต่ต้นทุนของ Jev ต่ำกว่า 10 ถึง 20 เท่า โดยเฉพาะอย่างยิ่งเขาชื่นชมที่แต่ละการตัดสินใจมีความน่าจะเป็นที่ใช้งานได้จริง ทำให้สามารถสร้างระบบที่ส่งงานที่มีความมั่นใจต่ำกลับไปยังมนุษย์ได้ง่ายขึ้น

ในทางกลับกัน Armin Ronacher ผู้เกี่ยวข้องกับแพลตฟอร์มการดำเนินการโมเดลโอเพ่นซอร์สชี้ให้เห็นว่าการจัดการความน่าจะเป็นเป็นความรับผิดชอบของผู้ใช้ หากความน่าจะเป็นอยู่ที่ 50% ควรหยุดการประมวลผลหรือไม่ หรือหากอยู่ที่ 95% ควรดำเนินการอัตโนมัติหรือไม่ ขอบเขตนี้ไม่ได้ถูกกำหนดโดยโมเดล Jev แสดงความไม่แน่นอน แต่การแปลงความไม่แน่นอนให้เป็นกฎการทำงานเป็นสิ่งที่บริษัทที่นำไปใช้ต้องออกแบบ

รายงานบนโซเชียลมีเดียเหล่านี้เป็นตัวอย่างเริ่มต้นที่น่าสนใจที่แสดงถึงศักยภาพของ Jev อย่างไรก็ตาม พวกเขาเป็นผลลัพธ์จากการทดสอบเฉพาะในแต่ละกรณีที่นักพัฒนาทำ ไม่ใช่การทดสอบจากบุคคลที่สามที่มีเงื่อนไขเดียวกัน จำเป็นต้องแยกแยะระหว่างปฏิกิริยาที่ดีและการพิสูจน์ประสิทธิภาพทั่วไป

"ไม่เกิดภาพหลอน" หมายถึงอะไร

คำที่ต้องระวังเกี่ยวกับ Jev คือ "ไม่เกิดภาพหลอน"

หากตัวเลือกผลลัพธ์และประเภทถูกกำหนดไว้ล่วงหน้า ปัญหาการสร้างรายการที่ไม่มีอยู่หรือการทำลายรูปแบบระหว่างคำอธิบายสามารถป้องกันได้ง่ายในหลักการ เนื่องจากสิ่งที่ควรส่งคืนถูกจำกัดอยู่ที่ค่าความจริง ป้ายกำกับการจำแนก ตัวเลข และความน่าจะเป็น จึงมีโอกาสน้อยที่จะสร้างประโยคที่ซอฟต์แวร์ไม่สามารถอ่านได้หรือการเรียกฟังก์ชันที่ไม่มีอยู่

อย่างไรก็ตาม การที่รูปแบบถูกต้องไม่ได้รับประกันว่าการตัดสินใจจะถูกต้อง หาก "การขอคืนเงิน" ถูกจัดประเภทผิดเป็น "คำถามทั่วไป" รูปแบบผลลัพธ์ก็ยังคงถูกต้อง TypeSafe รับประกันในเรื่องการไม่ออกนอกสคีมาหรือประเภทเป็นหลัก ไม่ใช่การตอบถูกต้องเกี่ยวกับความเป็นจริงเสมอไป

การปรับเทียบความน่าจะเป็นก็สำคัญเช่นกัน หากโมเดลตอบว่า "90%" และเมื่อรวบรวมกรณีเหล่านี้จำนวนมากแล้วพบว่าประมาณ 90% ถูกต้อง ความน่าจะเป็นนั้นถือว่าปรับเทียบได้ดี แต่หากแสดง 90% แต่ความถูกต้องเพียง 60% ก็ไม่สามารถใช้เป็นวาล์วนิรภัยในการอัตโนมัติได้ จำเป็นต้องตรวจสอบต่อเนื่องตามอุตสาหกรรม ภาษา ความยาวของข้อมูลนำเข้า และการเปลี่ยนแปลงของข้อมูลตามเวลา

ในกรณีที่ใช้งานในบริษัทญี่ปุ่น ควรตรวจสอบการจัดการกับคำสุภาพในภาษาญี่ปุ่น การแสดงออกที่ย่อ คำเฉพาะในบริษัท และคำขอที่คลุมเครือ แม้ว่าจะมีผลลัพธ์ที่ดีในอีเมลภาษาอังกฤษ แต่ก็ไม่ได้หมายความว่าจะมีความแม่นยำเดียวกันในบันทึกศูนย์บริการหรือเอกสารการอนุมัติในภาษาญี่ปุ่น

ไม่ใช่การแทนที่ AI ที่สร้างเนื้อหา แต่เป็นการเฝ้าระวัง

การใช้ Jev ที่มีศักยภาพไม่ใช่เพียงการแทนที่ LLM แต่ยังเป็น "ผู้เฝ้าระวัง" ที่วางไว้ก่อนหรือหลัง AI ที่สร้างเนื้อหา

ตัวอย่างเช่น การตรวจสอบว่าคำขอของผู้ใช้มีคำสั่งที่พยายามจะดึงข้อมูลลับหรือไม่ การตรวจสอบว่าการดำเนินการที่ AI เอเจนต์พยายามจะทำอันตรายหรือไม่ การประเมินว่าคำตอบที่สร้างขึ้นขัดแย้งกับเนื้อหาการสนทนาหรือไม่ หรือสัมผัสกับข้อห้ามหรือไม่ การเรียกใช้ LLM ที่มีประสิทธิภาพสูงเป็นผู้เฝ้าระวังทุกครั้งจะเพิ่มค่าใช้จ่ายและเวลารอ แต่ด้วยโมเดลการตัดสินที่มีราคาถูกและรวดเร็ว การตรวจสอบหลายขั้นตอนจะง่ายขึ้น

อีกหนึ่งคือ "การจัดเส้นทางโมเดล" คำขอที่ง่ายจะถูกส่งไปยังโมเดลขนาดเล็กและราคาถูก คำถามที่ยากจะถูกส่งไปยังโมเดลที่มีประสิทธิภาพสูง คำขอที่มีภาพจะถูกส่งไปยังโมเดลที่รองรับหลายโหมด หากใช้ LLM ที่มีราคาแพงในการจัดเส้นทาง การประหยัดจะลดลง แต่ด้วยโมเดลอย่าง Jev อาจสามารถคัดแยกได้ละเอียดที่ทางเข้า

ในระบบของบริษัท การรวมชิ้นส่วนเล็กๆ ที่มีความเชี่ยวชาญต่างกันอาจเป็นทางเลือกที่สมเหตุสมผลในด้านค่าใช้จ่าย ความเร็ว และการตรวจสอบมากกว่าการมอบหมายงานทั้งหมดให้กับ AI ที่ครอบคลุมเพียงหนึ่งเดียว Jev มุ่งเป้าไปที่การเป็น "ส่วนประกอบการตัดสินใจ" ที่ถูกเรียกใช้ภายในแอปพลิเคชันนับไม่ถ้วน แม้ว่าผู้ใช้จะไม่เห็นก็ตาม

ชื่อที่มีความหมายถึง "Jevons Paradox"

ชื่อ Jev มาจากนักเศรษฐศาสตร์ในศตวรรษที่ 19 วิลเลียม สแตนลีย์ เจวอนส์ Jevons Paradox คือแนวคิดที่ว่าการเพิ่มประสิทธิภาพการใช้ทรัพยากรไม่ได้ทำให้ประหยัด แต่กลับขยายการใช้งานและเพิ่มปริมาณการบริโภคทั้งหมด

หากต้นทุนการตัดสินใจของ AI ลดลงเหลือ 1 ใน 100 บริษัทอาจไม่ลดการใช้จ่าย AI ลง 1 ใน 100 มีความเป็นไปได้ที่จะเพิ่มกระบวนการตัดสินใจหลายร้อยหรือหลายพันรายการในสถานการณ์ที่ไม่สามารถนำไปใช้ได้เนื่องจากค่าใช้จ่ายสูงเกินไป การแทรก "การตัดสินใจที่ฉลาดเพียงเล็กน้อย" ในทุกคำถาม การทำธุรกรรม การคลิก และการดำเนินการของเอเจนต์

แม้ว่าจะเพิ่มความสะดวกสบาย แต่ก็หมายถึงการขยายการเฝ้าระวังและการคัดแยกอัตโนมัติไปยังสถานที่ที่มองไม่เห็น หากใช้ในการจำแนกผู้สมัครงาน การจัดลำดับความสำคัญของลูกค้า หรือการตัดสินการใช้งานที่ไม่เหมาะสม ผลกระทบของข้อผิดพลาดหรืออคติจะมีมาก จุดเด่นของการใช้งานที่มีราคาถูกคือสามารถใช้ได้จำนวนมาก แต่ก็มีความเสี่ยงที่จะขยายข้อผิดพลาดในการตัดสินใจจำนวนมากเช่นกัน

ขั้นตอนการนำไปใช้ที่เป็นจริงสำหรับบริษัทญี่ปุ่น

ในญี่ปุ่น การนำ AI ที่สร้างเนื้อหาไปใช้มักเริ่มจากการสนทนาในองค์กรหรือการสนับสนุนการสร้างเอกสาร โมเดลแบบ Jev เหมาะสำหรับขั้นตอนถัดไป เช่น การจัดการคำถาม การจัดลำดับความสำคัญของการแจ้งเตือนการเฝ้าระวัง การจำแนกโอกาสทางธุรกิจ การตรวจสอบเนื้อหา และการอนุมัติการดำเนินการของ AI เอเจนต์ ซึ่งปัจจุบันเป็นงานที่มนุษย์ต้องดูหน้าจอและตัดสินใจ

ในระหว่างการนำไปใช้ ควรเริ่มต้นด้วยการทำงานคู่ขนานกับการตัดสินใจของมนุษย์ก่อนที่จะดำเนินการอัตโนมัติ วัดความแม่นยำและการปรับเทียบความน่าจะเป็นด้วยข้อมูลการทำงาน และตั้งค่าเกณฑ์การอัตโนมัติสูงขึ้นสำหรับรายการที่มีความเสี่ยงสูงหากเกิดข้อผิดพลาด ส่งงานที่มีความมั่นใจต่ำกลับไปยังมนุษย์ และตรวจสอบการเปลี่ยนแปลงของโมเดลและข้อมูลนำเข้าอย่างต่อเนื่อง นอกจากนี้ ควรบันทึกว่าใครเป็นผู้กำหนดตัวเลือกผลลัพธ์และใครเป็นผู้อนุมัติเกณฑ์

สิ่งสำคัญคือการไม่ทำให้ความรับผิดชอบคลุมเครือด้วยคำว่า "AI ตัดสินใจ" แต่ต้องสามารถอธิบายกฎที่แปลงความน่าจะเป็นของ AI เป็นการตัดสินใจขององค์กรได้ จุดแข็งของ Jev อยู่ที่การส่งคืนค่าโครงสร้างแทนที่จะเป็นประโยคอิสระ ความสามารถในการเชื่อมโยงจุดแข็งนี้กับการตรวจสอบจะสร้างความแตกต่างระหว่างเครื่องมือจัดประเภทที่รวดเร็วและฐานการทำงานที่เชื่อถือได้

สนามรบหลักของ AI จะย้ายออกไปนอกหน้าจอ

Jev ไม่ใช่สิ่งที่จะยุติ AI สนทนาเช่น ChatGPT การสร้างประโยค การสนทนา การวิเคราะห์ที่ซับซ้อน และงานสร้างสรรค์