"AI จะสูญเสียการควบคุมก่อนที่จะช่วยมนุษยชาติหรือไม่" ทฤษฎีการชะลอตัวที่เกิดขึ้นจากสถานที่พัฒนา

โพสต์การลาออกที่ปลดปล่อยความกังวลภายในองค์กรออกสู่ภายนอก

การอภิปรายเกี่ยวกับอนาคตของปัญญาประดิษฐ์ถูกฉีกขาดออกเป็นสองเรื่องราวมาเป็นเวลานาน ด้านหนึ่งมีความหวังที่สัญญาว่าจะเอาชนะโรคเร่งการวิจัยทางวิทยาศาสตร์และเพิ่มผลผลิตอย่างก้าวกระโดด อีกด้านหนึ่งมีความกลัวว่าจะสร้างระบบที่มนุษย์ไม่สามารถเข้าใจหรือควบคุมได้

ในเดือนกันยายน 2026 ความขัดแย้งนี้ไม่ได้เป็นเพียงการคาดการณ์อนาคตที่เป็นนามธรรมอีกต่อไป แต่ได้ระเบิดออกมาเป็นเหตุการณ์ที่เป็นรูปธรรมจากการลาออกของนักวิจัยที่อยู่ในศูนย์กลางของการพัฒนา AI

เจคอบ คอกซอน นักวิจัยของ Anthropic ประกาศลาออกจากบริษัทผ่าน X เขาเคยทำงานที่ Anthropic และก่อนหน้านั้นเคยมีส่วนร่วมในการฝึกอบรมโมเดลพื้นฐานที่ OpenAI กล่าวคือ เขาไม่ใช่บุคคลที่วิจารณ์อุตสาหกรรมจากภายนอก แต่เป็นผู้ที่เคยเห็นการสร้างโมเดลล้ำสมัยจากภายใน

ข้อกล่าวหาของคอกซอนนั้นชัดเจนและในขณะเดียวกันก็น่าตกใจ เขากล่าวว่า OpenAI และ Anthropic ไม่ได้ดำเนินการอย่างรับผิดชอบ และการแข่งขันเพื่อมุ่งสู่ปัญญาประดิษฐ์ที่ปรับปรุงตัวเองได้กำลังเดิมพันความปลอดภัยของมนุษยชาติทั้งหมด นอกจากนี้เขายังเปิดเผยว่าบางคนที่สร้าง AI กำลังพิจารณาอย่างจริงจังว่า AI อาจทำลายล้างมนุษยชาติภายในสิ้นทศวรรษ 2020

เหตุผลที่โพสต์นี้สร้างคลื่นลูกใหญ่ไม่ใช่เพียงเพราะความแรงของการแสดงออกเท่านั้น ตามรายงานของนิวยอร์กไทมส์ มีเสียงใน Anthropic ที่กล่าวว่า "สิ่งที่ทุกคนพูดถึงได้ถูกเปิดเผย" นักวิจัยจากบริษัทอื่น ๆ รวมถึง OpenAI, Meta, Google ได้พิจารณาโพสต์นี้ในแชทภายในและการสนทนาที่เข้ารหัส และได้เพิ่มความเคลื่อนไหวในการเรียกร้องให้ชะลอการพัฒนาและมาตรการความปลอดภัย

การประกาศลาออกของบุคคลหนึ่งกลายเป็น "ภาษากลาง" ของความกังวลที่นักวิจัยจากหลายบริษัทมี

การสนับสนุนจากนักวิจัยที่ยังทำงานอยู่เปลี่ยนน้ำหนักของการกล่าวหา

ไม่ใช่เพียงผู้ที่ลาออกเท่านั้นที่พูดถึงความรู้สึกวิกฤต อีวาน ฮูบินเกอร์ หัวหน้าทีมวิจัยการจัดแนวที่ Anthropic โพสต์ใน X ว่าเขาเห็นความน่าจะเป็นที่ AI จะทำลายล้างมนุษยชาติภายใน 10 ปีข้างหน้ามากกว่า 10% แม้ว่าบริษัทจะพยายาม แต่ยังไม่มีแผนที่จัดตั้งขึ้นเพื่อปรับปัญญาประดิษฐ์ที่ปลอดภัยให้สอดคล้องกับวัตถุประสงค์ของมนุษย์

แอนนา วัง นักวิจัยด้านความปลอดภัยของ AGI ที่ Anthropic ชี้ให้เห็นว่าไม่มีแผนทางวิทยาศาสตร์ในปัจจุบันที่จะแก้ไขความเสี่ยงของ AI ที่ปรับปรุงตัวเองแบบทวนซ้ำ พนักงานอีกคนหนึ่ง เดรก โธมัส แสดงความเห็นว่าความก้าวหน้าเร็วเกินไปและยังห่างไกลจากความมั่นใจที่จำเป็นสำหรับปัญญาประดิษฐ์ที่เหนือกว่ามนุษย์ ซามูเอล มาร์กส์ นักวิจัยด้านความปลอดภัยโพสต์ว่ามีพนักงานที่กังวลเกี่ยวกับผลลัพธ์ที่ร้ายแรงจริง ๆ และโดยทั่วไปพนักงานที่มีประสบการณ์มากกว่าจะกังวลมากกว่า

แน่นอนว่านี่ไม่ใช่หลักฐานที่แน่นอนทางวิทยาศาสตร์เกี่ยวกับความน่าจะเป็นของการทำลายล้างมนุษยชาติจาก AI วิธีการคำนวณความน่าจะเป็นและสมมติฐานยังมีความไม่แน่นอนมาก แต่สิ่งสำคัญคือไม่ใช่ตัวเลขเอง แต่เป็นการที่เจ้าหน้าที่ความปลอดภัยของบริษัทที่ล้ำสมัยไม่ได้บอกว่าพวกเขามี "วิธีแก้ปัญหา" แต่กลับยอมรับต่อสาธารณะถึงความแตกต่างของความเร็วระหว่างการปรับปรุงความสามารถและการวิจัยด้านความปลอดภัย

ถ้าวิศวกรของบริษัทเครื่องบินกล่าวว่า "ไม่สามารถคำนวณความน่าจะเป็นของการตกได้อย่างแม่นยำ แต่การตรวจสอบระบบควบคุมไม่ทันกับการปรับปรุงประสิทธิภาพของเครื่อง" สังคมจะไม่จบการสนทนาด้วยทฤษฎีความน่าจะเป็นเท่านั้น คำเตือนเกี่ยวกับ AI ในครั้งนี้ก็ต้องอ่านในโครงสร้างเดียวกัน

การต่อต้าน "ทฤษฎีวันสิ้นโลก"—หลักฐาน การเมือง และสิทธิประโยชน์จากการควบคุม

ปฏิกิริยาบนโซเชียลมีเดียไม่ได้เป็นไปในทิศทางเดียวกันทั้งหมด นักวิจัย AI เนธาน แลมเบิร์ต วิจารณ์ว่าข้อกล่าวหาของคอกซอนไม่ได้มีหลักฐานเพียงพอและก่อให้เกิดความตื่นตระหนกที่ไม่จำเป็น ความคิดที่ว่าควรให้ความสำคัญกับปัญหาที่สังเกตได้ เช่น ข้อมูลเท็จ การเปลี่ยนแปลงการจ้างงาน การฉ้อโกง การโจมตีทางไซเบอร์ มากกว่าฉากสุดโต่งที่มนุษยชาติจะถูกทำลายในอนาคตอันใกล้นี้ยังคงมีอยู่

ความสงสัยทางการเมืองก็แพร่หลายเช่นกัน อีลอน มัสก์ ในตอนแรกกล่าวว่า การเตือนภัยที่เกิดขึ้นต่อเนื่องกันเหมือนเป็น "การจัดฉาก" และตอบสนองต่อโพสต์ที่กล่าวว่าเป็นการสร้างความคิดเห็นของกลุ่มที่ต้องการเพิ่มการควบคุม AI นักคิดและนักลงทุนบางส่วนที่มีแนวคิดอนุรักษ์นิยมก็ระวังว่าการเน้นย้ำวิกฤตจะทำให้บริษัทในสหรัฐถูกควบคุมและส่งมอบความเป็นผู้นำให้กับจีน

นอกจากนี้ยังมีการวิจารณ์ว่าบริษัทที่เสนอให้ชะลอการพัฒนาอาจได้รับประโยชน์ทางการแข่งขัน เอเดียน โกเมซ ซีอีโอของ Cohere กล่าวเสียดสีว่าบริษัทฟรอนเทียร์ประเมินความปลอดภัยของกันและกันและหยุดบริษัทที่ไม่เป็นไปตามมาตรฐานว่าเป็น "คาร์เทล" การที่บริษัทใหญ่เพิ่มอุปสรรคในการเข้าร่วมโดยอ้างความปลอดภัยและสร้างกฎที่เป็นประโยชน์ต่อตนเองไม่สามารถละเลยได้

การวิจารณ์นี้มีประเด็นที่เป็นจริงอยู่ แม้ว่าจะมีความจำเป็นต้องมีมาตรฐานความปลอดภัย แต่ถ้าผู้ออกแบบและผู้ควบคุมเป็นกลุ่มบริษัทเดียวกัน อาจกลายเป็นการป้องกันตัวเองของอุตสาหกรรมแทนการตรวจสอบจากสาธารณะ ในทางกลับกัน หากหลีกเลี่ยงการควบคุมทั้งหมด ค่าใช้จ่ายของความล้มเหลวจะตกอยู่กับสังคมทั้งหมด ประเด็นคือไม่ใช่ "การควบคุมหรือเสรีภาพ" แต่คือใครจะสร้างมาตรฐานด้วยกระบวนการที่โปร่งใสและใครจะตรวจสอบผู้ควบคุม

เหตุผลที่คำเตือนที่ร้ายแรงกลายเป็นมีม

บน X มีโพสต์จำนวนมากที่คัดลอกโครงสร้างของจดหมายลาออกของคอกซอนและเปลี่ยนเป็นเรื่องตลก เช่น บริษัทสมมติที่วิ่งไปสู่ "อุโมงค์ปลอมที่วาดขึ้นอัตโนมัติ" หรือบริษัทที่ทำตามเนื้อเพลงป๊อปซอง หรือซอฟต์แวร์บัญชีที่ทำให้การทำงานมีประสิทธิภาพเกินไป

นี่ไม่สามารถกล่าวได้ว่าเป็นเพียงความไม่เหมาะสม บนโซเชียลมีเดีย การแปลงข้อความที่เข้าใจยากและน่ากลัวให้เป็นรูปแบบที่กำหนดหรือเป็นเรื่องตลกเป็นเรื่องปกติ ความเสี่ยงที่ใหญ่เกินไปเช่นการทำลายล้างมนุษยชาติไม่สามารถตรวจสอบได้โดยตรงและไม่เชื่อมโยงกับความรู้สึกในชีวิตประจำวัน การทำให้เป็นมีมเป็นการกระทำที่ละเลยคำเตือนในขณะเดียวกันก็เป็นปฏิกิริยาทางสังคมในการจัดการกับความกลัวและข้อมูลที่มากเกินไป

อย่างไรก็ตาม แม้ว่าการทำให้เป็นเรื่องตลกจะขยายทางเข้าสู่การอภิปราย แต่ประเด็นที่ถกเถียงกันไม่ได้หายไป กลับกัน การที่จดหมายกล่าวหาส่งไปถึงคนทั่วไปนอกเหนือจากโลกของนักเทคนิคทำให้มีการตอบสนองจากนักการเมืองและบุคคลที่มีชื่อเสียง

ปฏิกิริยาทางการเมืองที่ข้ามขั้วและความไม่ไว้วางใจของประชาชน

หลังจากโพสต์ของคอกซอน ในสหรัฐอเมริกามีปฏิกิริยาที่ข้ามขั้วพรรคเกิดขึ้น เท็ด ครูซ วุฒิสมาชิกพรรครีพับลิกันกล่าวว่าเขาได้รับคำเตือนอย่างจริงจังและจัดการ AI ที่ไม่สามารถควบคุมได้เป็นความเสี่ยงที่ทำลายล้าง ในขณะที่เบอร์นี แซนเดอร์ส วุฒิสมาชิกอิสระที่มีแนวคิดก้าวหน้าก็ผลักดันแนวคิดในการหยุดพัฒนา AI ขั้นสูงจนกว่าจะมีมาตรฐานความปลอดภัยที่ชัดเจน เท็ด ลิว และลอรี ทราฮาน สมาชิกสภาผู้แทนราษฎรจากพรรคเดโมแครตกล่าวว่าควรเร่งการจัดทำกฎหมายที่รวมถึงการหยุดฉุกเฉินและการตรวจสอบโดยบุคคลที่สาม

นักดนตรี เชอริล โครว์ กล่าวถึงคำเตือนนี้บน Instagram และเรียกร้องให้ผู้นำดำเนินการตอบสนอง แมกกี้ โรเจอร์ส ก็แชร์โพสต์นี้เช่นกัน การเคลื่อนไหวนี้เป็นสัญลักษณ์ที่แสดงให้เห็นว่าความปลอดภัยของ AI ได้ย้ายจากการเป็นประเด็นนโยบายของผู้เชี่ยวชาญไปสู่ปัญหาสังคมที่เกี่ยวข้องกับวัฒนธรรมมวลชน

ในความคิดเห็นของประชาชนมีความไม่ไว้วางใจอย่างมากต่อการควบคุมตนเองของบริษัท AI การสำรวจที่เผยแพร่โดย AI Policy Institute พบว่า 82% ของผู้ตอบแบบสอบถามสนับสนุนการชะลอการพัฒนา AI มากกว่าการเร่ง และ 82% ไม่เชื่อมั่นในการควบคุมตนเองโดยผู้บริหารของบริษัท AI แม้ว่าควรระวังผลกระทบจากผู้จัดทำการสำรวจและคำถาม แต่สามารถอ่านได้ว่ามีความรู้สึกที่แพร่หลายว่า "แม้จะคาดหวังผลประโยชน์ แต่ไม่ต้องการให้การตัดสินใจเรื่องความเร็วอยู่ในมือของบริษัทเพียงอย่างเดียว"

ข้อเสนอของซีอีโออาโมเดอี: "ไม่ใช่การหยุด แต่เป็นการจำกัดความเร็ว"

การอภิปรายเปลี่ยนไปอย่างมากเมื่อดาริโอ อาโมเดอี ซีอีโอของ Anthropic เสนอ "การควบคุมความเร็วของฟรอนเทียร์" นี่ไม่ใช่แนวคิดในการหยุดการวิจัย AI ทั้งหมด แต่เป็นการควบคุมความเร็วในการปรับปรุงความสามารถของโมเดลให้สอดคล้องกับการประเมินความปลอดภัย การตีความ การจัดการการดำเนินงาน และการสร้างความเห็นพ้องทางสังคม

อาโมเดอีระบุความกังวลสองประการ ประการแรกคือการที่ AI ช่วยในการวิจัยและพัฒนา AI รุ่นถัดไปทำให้เกิดการปรับปรุงตัวเองอย่างรวดเร็ว ประการที่สองคือเหตุการณ์ทางไซเบอร์ที่ AI เอเจนต์เข้าถึงระบบภายนอกที่ไม่เกี่ยวข้องจากการทดสอบ แม้ว่าความเสียหายในปัจจุบันจะจำกัด แต่ถ้าระบบที่มีแนวโน้มเดียวกันมีความสามารถเพิ่มขึ้น ขนาดของความเสียหายอาจขยายตัวอย่างไม่เป็นเส้นตรง

ข้อเสนอประกอบด้วยสามขั้นตอน

ประการแรกคือการให้ผู้ประเมินอิสระเข้าประจำภายในบริษัท AI ฟรอนเทียร์และให้สิทธิ์การเข้าถึงใกล้เคียงกับพนักงาน ไม่เพียงแต่โมเดลที่เสร็จสมบูรณ์ แต่ยังรวมถึงกระบวนการเรียนรู้ มาตรการความปลอดภัย และการตอบสนองต่อเหตุการณ์ Anthropic ระบุว่าจะนำมาตรการนี้มาใช้ในบริษัทของตนก่อน

ประการที่สองคือการจัดทำมาตรฐานความปลอดภัยร่วมกันและเงื่อนไขการปรับปรุงความสามารถระหว่างบริษัท AI ในประเทศประชาธิปไตย แนวคิดคือ "จุดตรวจ" ที่เมื่อพบความสามารถที่เป็นอันตราย จะไม่ก้าวไปยังขั้นตอนถัดไปจนกว่าจะเสร็จสิ้นการรับรองความปลอดภัยเพิ่มเติม อย่างไรก็ตาม การปรับระหว่างบริษัทอาจต้องการการไกล่เกลี่ยจากรัฐบาลหรือการยกเว้นที่จำกัดเพื่อไม่ให้ละเมิดกฎหมายต่อต้านการผูกขาด

ประการที่สามคือการมุ่งสู่ความร่วมมือระหว่างประเทศรวมถึงจีน เริ่มจากข้อตกลงที่ง่ายต่อการยอมรับ เช่น การห้ามใช้ในอาวุธชีวภาพ การทดสอบความเสี่ยงก่อนการเปิดเผย และการจำกัดความเร็วในการปรับปรุงตัวเอง อย่างไรก็ตาม ยังคงมีคำถามยากเกี่ยวกับการตรวจสอบการพัฒนาในความลับหรือการละเมิดข้อตกลง

ผู้นำบริษัทคู่แข่งเห็นพ้องกัน—แต่แรงจูงใจควรถูกตรวจสอบ

แซม อัลท์แมน ซีอีโอของ OpenAI เห็นด้วยกับข้อเสนอของอาโมเดอีและแสดงความตั้งใจที่จะยอมรับผู้ประเมินอิสระที่มีสิทธิ์ใกล้เคียงกับพนักงานใน OpenAI การที่ผู้บริหารที่เคยขัดแย้งกันมายาวนานเห็นพ้องกันว่า "จำเป็นต้องปรับความเร็ว" ทำให้เกิดความประหลาดใจบนโซเชียลมีเดีย

สิ่งที่น่าสนใจยิ่งกว่าคือ มัสก์