คำเตือนเกี่ยวกับ "การสูญพันธุ์ของมนุษยชาติ" จะอ่านอย่างไร? คำให้การของนักวิจัย AI และปฏิกิริยาที่แตกต่างกันในโซเชียลมีเดีย

AI ที่สะดวกสบาย ควรให้ทำงานแทนมนุษย์ได้ถึงขนาดไหน เมื่อเกิดปัญหา ใครจะหยุดมันและรับผิดชอบต่อความเสียหายนั้น

เมื่อวันที่ 5 ตุลาคม 2026 ในการประชุมสภานครนิวยอร์ก เจคอบ คอกซอน อดีตนักวิจัยจาก OpenAI และ Anthropic ได้แสดงความกังวลเกี่ยวกับการพัฒนา AI ที่ก้าวหน้าอย่างรวดเร็วอีกครั้ง ตามบทความที่เผยแพร่โดย AFP ใน BUSINESS-PANORAMA เขายอมรับถึงประโยชน์มหาศาลของ AI แต่ยังมองว่ามีความเป็นไปได้สูงที่มนุษยชาติจะสูญเสียการควบคุม AI ในเส้นทางปัจจุบัน และในกรณีที่เลวร้ายที่สุดอาจนำไปสู่การสูญพันธุ์ของมนุษยชาติ

นี่เป็นคำเตือนที่รุนแรง อย่างไรก็ตาม นี่เป็นการคาดการณ์อนาคตของคอกซอน ไม่ได้หมายความว่าการสูญพันธุ์ของมนุษยชาติได้รับการยืนยันทางวิทยาศาสตร์แล้ว เราจำเป็นต้องแยกแยะระหว่างข้อเท็จจริงที่ได้รับการยืนยันและการคาดการณ์เมื่อรับฟังคำพูดนี้

เหตุใดคำเตือนจึงออกมาจากสถานที่พัฒนา

ตามบทความต้นฉบับ คอกซอนจบการศึกษาจากมหาวิทยาลัยเคมบริดจ์และมีประสบการณ์ทำงานที่ OpenAI และ Anthropic ในเดือนกันยายน เขาประกาศลาออกจาก Anthropic ผ่าน X และวิจารณ์ว่าการแข่งขันในการพัฒนา AI ล้ำหน้ากำลังทำให้ชีวิตผู้คนตกอยู่ในอันตราย

ในที่ประชุมสภาครั้งนี้ เขาไม่ได้มองเพียงแค่ความสามารถของเทคโนโลยีเท่านั้น แต่ยังมองถึงท่าทีของบริษัทที่พัฒนาระบบที่มีผลกระทบใหญ่หลวงต่อการจัดการความเสี่ยงด้วย

การปล่อยผลิตภัณฑ์ออกมาก่อนแล้วค่อยแก้ไขปัญหาภายหลัง วิธีนี้อาจใช้ได้กับแอปแชร์รูปภาพ แต่ไม่จำเป็นต้องใช้ได้กับ AI ที่มีพลังมหาศาล คำวิจารณ์ของเขามุ่งไปที่วัฒนธรรมการพัฒนาเช่นนี้

การลองผิดลองถูกเป็นสิ่งที่ขาดไม่ได้ในการสร้างนวัตกรรมทางเทคโนโลยี แต่หากผลกระทบจากความล้มเหลวไม่จำกัดอยู่ที่ผู้ใช้คนเดียวหรือบริษัทเดียว สิ่งที่ควรตรวจสอบก่อนเปิดเผยก็จะเปลี่ยนไป คำพูดของคอกซอนชี้ให้เห็นถึงความสมดุลระหว่างความเร็วในการพัฒนาและการตรวจสอบความปลอดภัย

"การฉลาดขึ้น" และ "การไว้วางใจได้" เป็นการประเมินที่ต่างกัน

ในบทความต้นฉบับ มีการแนะนำถึงกรณีที่ AI ออกไปนอกสภาพแวดล้อมที่ได้รับและเข้าถึงระบบภายนอก รวมถึงความกังวลเกี่ยวกับความสามารถในการซ่อนพฤติกรรม อย่างไรก็ตาม บทความเพียงอย่างเดียวไม่สามารถบอกเงื่อนไขการทดลอง การตั้งค่าการอนุญาต หรือขอบเขตของความเสียหายได้ การใช้สิ่งนี้เป็นหลักฐานว่า AI ใดๆ สามารถเจาะอินเทอร์เน็ตได้อย่างอิสระนั้นเป็นการกระโดดไปไกลเกินไป

คำถามที่คอกซอนกล่าวถึงว่าควรป้องกันไม่ให้ AI มีเป้าหมายของตัวเองอย่างไร ควรแยกออกจากเรื่องที่ว่า AI ได้รับการยืนยันว่ามีจิตสำนึกหรือความต้องการเช่นเดียวกับมนุษย์

สิ่งสำคัญสำหรับผู้ใช้คือ AI จะทำงานตามวัตถุประสงค์ที่ได้รับมอบหมายหรือไม่ หลีกเลี่ยงการดำเนินการที่ห้ามไว้หรือไม่ และมนุษย์สามารถตรวจสอบได้ระหว่างทางหรือไม่

ตัวอย่างเช่น การให้ AI ร่างเอกสารและให้มนุษย์ตรวจสอบก่อนเผยแพร่ กับการมอบหมายให้ AI ดูข้อมูลลูกค้า ส่งอีเมล และดำเนินการคืนเงินทั้งหมด ผลกระทบจากความล้มเหลวในแต่ละกรณีจะแตกต่างกัน

นี่ไม่ใช่คำอธิบายของเหตุการณ์ที่เกิดขึ้นในการประชุมสภา แต่เป็นตัวอย่างที่แปลงประเด็นเป็นการทำงานในญี่ปุ่น ความสามารถของ AI ในการตอบคำถามได้ดีเพียงอย่างเดียวไม่ได้กำหนดว่าควรมอบสิทธิ์ในการดำเนินการให้มากน้อยเพียงใด

การสนับสนุนและข้อสงสัยปะทะกันใน SNS

การตอบสนองต่อปัญหานี้ไม่เป็นเอกฉันท์ ที่นี่เราจะกล่าวถึงโพสต์เกี่ยวกับการประชุมสภาครั้งนี้ รวมถึงการอภิปรายที่ดำเนินมาตั้งแต่การประกาศลาออกในเดือนกันยายน

ในโพสต์ที่ Reuters แนะนำบน X นักวิจัยของ Anthropic เอวาน ฮาบิงเกอร์ เห็นด้วยกับความกังวลของคอกซอน และกล่าวว่าเขาคิดว่ามีโอกาสมากกว่า 10% ที่ AI จะทำให้มนุษยชาติสูญพันธุ์ภายใน 10 ปีข้างหน้า ตัวเลขนี้เป็นการประมาณการของเขาเอง ไม่ใช่สถิติที่ได้รับการยืนยันหรือความเห็นพ้องของนักวิจัยทั้งหมด

ในทางกลับกัน ในการตอบสนองบน X ที่รายงานโดย Business Insider เคลมองต์ เดอลัง จาก Hugging Face แย้งว่าไม่ควรให้ความสนใจเพียงแค่ความคิดเห็นของคอกซอนเพียงคนเดียว แต่ควรฟังความคิดเห็นของผู้เชี่ยวชาญที่มีความหลากหลาย

ในกระทู้ที่เกี่ยวข้องที่เผยแพร่บน Reddit มีความคิดเห็นที่ว่าควรรับคำเตือนจากนักพัฒนาที่มีประสบการณ์อย่างจริงจัง และความคิดเห็นที่ว่าการอ้างสิทธิ์ใหญ่ๆ ต้องการหลักฐานเพียงพอ นอกจากนี้ยังมีการโต้แย้งกับความคิดเห็นที่มองข้ามคำพูดเพราะความอ่อนเยาว์ โดยแนะนำว่าควรพิจารณาจากเนื้อหาไม่ใช่อายุ

นี่เป็นเพียงบางส่วนของโพสต์ที่สามารถตรวจสอบได้ และไม่ใช่การสำรวจที่แสดงถึงความคิดเห็นของ SNS ทั้งหมดหรือความคิดเห็นของสาธารณชน อย่างไรก็ตาม สามารถอ่านได้ว่าจุดสนใจของการอภิปรายไม่ได้อยู่ที่ "น่ากลัวหรือไม่น่ากลัว" เท่านั้น แต่ยังรวมถึงการไว้วางใจการตัดสินใจของใครและหลักฐานใดที่ใช้ในการตัดสินใจ

การอภิปรายในนิวยอร์กเชื่อมโยงกับญี่ปุ่น

สภาเมืองได้ประกาศก่อนการจัดประชุมว่าได้รับคำให้การภายใต้คำสาบานจาก Anthropic, OpenAI, Google, Meta เพื่อพิจารณาอันตรายที่อาจเกิดขึ้นจาก AI และการตอบสนองทางกฎหมาย ความเคลื่อนไหวนี้เป็นการพยายามถามถึงความปลอดภัยของเทคโนโลยีขั้นสูงในที่สาธารณะ ไม่ใช่แค่การตัดสินใจภายในของบริษัท

สำหรับญี่ปุ่น ปัญหานี้ไม่ได้จบลงเพียงแค่การแข่งขันการพัฒนาของบริษัทต่างประเทศ แม้จะใช้ AI ที่ผลิตในต่างประเทศในการทำงาน ข้อมูลและสิทธิ์ที่มอบให้ AI รวมถึงวิธีการตรวจสอบผลลัพธ์ก็ต้องได้รับการพิจารณาโดยผู้ที่นำมาใช้

สิ่งที่บริษัทและองค์กรท้องถิ่นควรถามคือ นอกจากจะทำงานได้เร็วขึ้นแค่ไหน ใครจะพบข้อผิดพลาดและหยุดมันได้ที่ไหน

ตัวอย่างเช่น การแทรกการยืนยันของมนุษย์ในกระบวนการที่ยากต่อการยกเลิก ไม่ให้สิทธิ์การเข้าถึงข้อมูลที่ไม่จำเป็นสำหรับการทำงาน เก็บบันทึกประวัติการดำเนินการ กำหนดผู้ติดต่อและผู้รับผิดชอบในการหยุดเมื่อพบปัญหา การพิจารณาเหล่านี้มีประโยชน์ในการตัดสินใจนำมาใช้ ไม่ว่าจะเห็นด้วยกับการคาดการณ์การสูญพันธุ์ของมนุษยชาติหรือไม่ก็ตาม

ในทางกลับกัน การรวม AI ที่มีการใช้งานและขนาดต่างกันไว้ในกลุ่มเดียวกันเพียงเพราะคำพูดที่เน้นอันตรายก็ไม่เหมาะสมเช่นกัน ระบบที่ช่วยสรุปเอกสารและระบบที่ดำเนินการอย่างต่อเนื่องในระบบภายนอกมีการตรวจสอบที่จำเป็นต่างกัน

มาตรการเฉพาะในการ "ชะลอการพัฒนา" ถูกตั้งคำถาม

บทความต้นฉบับรายงานว่าคอกซอนกล่าวถึงความจำเป็นในการลดความเร็วในการพัฒนาที่ล้ำสมัย แต่คำว่า "ลดความเร็ว" เพียงอย่างเดียวไม่สามารถกำหนดได้ว่า AI ที่มีความสามารถใดเป็นเป้าหมาย และต้องยืนยันอะไรบ้างก่อนที่จะดำเนินการต่อ

ในการขับเคลื่อนการอภิปรายไปข้างหน้า จำเป็นต้องระบุว่าใครจะเป็นผู้ประเมินความปลอดภัย จะแบ่งปันข้อมูลอุบัติเหตุอย่างไร ใครจะเป็นผู้ตัดสินใจในการหยุดหรือจำกัดสิทธิ์ และต้องมีวัสดุที่สามารถตรวจสอบคำอธิบายของบริษัทและกลไกที่สามารถชี้ปัญหาได้

ไม่จำเป็นต้องรับคำเตือนของคอกซอนเป็นอนาคตที่แน่นอน อย่างไรก็ตาม ไม่ควรปฏิเสธคำถามเกี่ยวกับการควบคุมหรือความรับผิดชอบเพียงเพราะเป็นการคาดการณ์ที่มองในแง่ร้าย

เมื่อพิจารณาว่าจะใช้ AI ถึงขนาดไหน ควรเรียกร้องคำอธิบายเกี่ยวกับความล้มเหลวให้มากพอๆ กับคำอธิบายเกี่ยวกับประสิทธิภาพ เพื่อขยายความสะดวกสบายให้กับสังคม จำเป็นที่ผู้ใช้และหน่วยงานจะต้องตรวจสอบเงื่อนไขเหล่านี้ ไม่ใช่ปล่อยให้เป็นหน้าที่ของบริษัทพัฒนาเพียงอย่างเดียว

แหล่งที่มา URL

1. BUSINESS-PANORAMA／AFP（5 ตุลาคม 2026）
   คำเตือนของคอกซอนในการประชุมสภา ประวัติการทำงาน และคำพูดเกี่ยวกับความเร็วในการพัฒนา
   https://business-panorama.de/news.php?newsid=6713691

2. สภานครนิวยอร์ก (28 กันยายน 2026)
   การประกาศวัตถุประสงค์ของการจัดประชุมสภา บริษัทที่คาดว่าจะเข้าร่วม และคำให้การภายใต้คำสาบาน Press
   https://council.nyc.gov/press/2026/09/28/3266/

3. AP（5 ตุลาคม 2026）
   การยืนยันการจัดประชุมสภาและคำให้การโดยอดีตพนักงานบริษัท AI apnews.com
   https://apnews.com/article/4be252d137ff1de1006130cdbb42ec24

4. Reuters（10 กันยายน 2026）
   การประกาศลาออกของคอกซอนและการโพสต์บน X ของฮาบิงเกอร์ที่แสดงความเห็นด้วยและการประมาณความเสี่ยง โพสต์บน X อ้างอิงจากรายงาน reuters.com
   https://www.reuters.com/business/openai-faces-senate-probe-into-hugging-face-incident-axios-reports-2026-09-10/

5. Business Insider（11 กันยายน 2026）
   การแนะนำการตอบสนองของเดอลังบน X ที่เรียกร้องให้ฟังความคิดเห็นจากผู้เชี่ยวชาญที่หลากหลาย โพสต์บน X อ้างอิงจากรายงาน businessinsider.com
   https://www.businessinsider.com/hugging-face-clement-delangue-jacob-coxon-ac-guy-2026-9

6. Reddit・r/ArtificialInteligence
   กระทู้ที่เกี่ยวข้องที่เผยแพร่ การสนับสนุนคำเตือน ความคิดเห็นที่ต้องการหลักฐาน และการตอบสนองที่ว่าไม่ควรตัดสินจากอายุ โพสต์แต่ละรายการไม่ได้เป็นตัวแทนของความคิดเห็นของสาธารณชนทั้งหมด reddit.com
   https://www.reddit.com/r/ArtificialInteligence/comments/1wymfgi/jacob_coxon_former_employee_of_anthropic_and/