เมื่อ AI เริ่มสร้าง AI มนุษย์ยังสามารถควบคุมได้หรือไม่

บริษัทพัฒนา AI ชื่อ Anthropic ได้ออกมาเตือนเกี่ยวกับการแข่งขันในการพัฒนา AI ขั้นสูง โดยบริษัทกล่าวว่า AI กำลังเข้าสู่ขั้นตอนที่ไม่เพียงแต่เป็นเครื่องมือช่วยเหลือมนุษย์เท่านั้น แต่ยังเร่งการพัฒนาระบบ AI เองด้วย และเสนอว่าควรมีการชะลอหรือหยุดการพัฒนาในระดับอุตสาหกรรมก่อนที่สังคม กฎระเบียบ และการวิจัยความปลอดภัยจะตามไม่ทัน

ศูนย์กลางของการอภิปรายในครั้งนี้คือแนวคิดของ "การปรับปรุงตนเองแบบวนซ้ำ" ซึ่งหมายถึง AI ที่สามารถออกแบบและพัฒนา AI ที่มีประสิทธิภาพสูงกว่าได้ และ AI ใหม่เหล่านั้นก็สามารถสร้าง AI รุ่นถัดไปได้อีก แม้ว่าคำนี้จะฟังดูเหมือนนิยายวิทยาศาสตร์ แต่ Anthropic มองว่านี่เป็นความเสี่ยงที่เป็นจริงในแนวโน้มทางเทคโนโลยีปัจจุบัน ไม่ใช่แค่จินตนาการในอนาคตที่ห่างไกล

บทความใน Lanka Newspapers รายงานว่า Anthropic เตือนถึง "อันตรายที่มนุษย์อาจไม่สามารถควบคุม AI ขั้นสูงได้" และแนะนำว่าบริษัท AI หลักควรร่วมกันสร้างระบบหยุดการพัฒนา อย่างไรก็ตาม เมื่ออ่านข้อเสนอของ Anthropic อย่างละเอียด จะพบว่าบริษัทไม่ได้เรียกร้องให้หยุดการพัฒนา AI ทันที แต่เสนอว่าควรเตรียมตัวเลือกในระดับนานาชาติที่สามารถชะลอหรือหยุดการพัฒนา AI ขั้นสูงได้ในรูปแบบที่สามารถตรวจสอบได้เมื่อเงื่อนไขความเสี่ยงบางประการได้รับการตอบสนอง

ทำไม Anthropic ถึงใช้ถ้อยคำที่รุนแรงเช่นนี้

เหตุผลที่ Anthropic แสดงความกังวลคือ AI กำลังเริ่มมีบทบาทสำคัญในการพัฒนา AI เอง บริษัทอธิบายว่าโค้ดมากกว่า 80% ที่ถูกผสานในบริษัทนั้นถูกเขียนโดย Claude นอกจากนี้ ปริมาณการผลิตโค้ดต่อวิศวกรหนึ่งคนก็เพิ่มขึ้นมากเมื่อเทียบกับอดีต

นี่ไม่ใช่แค่เรื่องของ "เครื่องมือช่วยเขียนโค้ดที่สะดวก" เท่านั้น ไม่กี่ปีที่ผ่านมา AI ยังเป็นเพียงเครื่องมือที่เสนอชิ้นส่วนโค้ดสั้น ๆ แต่ปัจจุบัน AI สามารถแก้ไขไฟล์ แก้ไขบั๊ก ทำงานระยะยาว และแบ่งงานให้กับหลายเอเจนต์ได้ Anthropic มองว่าหากการเปลี่ยนแปลงนี้ดำเนินต่อไป AI อาจจะสามารถรับผิดชอบการพัฒนารุ่นใหม่ได้อย่างอิสระในอนาคต

แน่นอนว่าบริษัทไม่ได้กล่าวว่า AI ได้สร้างตัวเองขึ้นมาอย่างสมบูรณ์แล้ว สิ่งที่สำคัญคือทิศทางที่กำลังมุ่งไป มนุษย์ให้เป้าหมาย AI คิดวิธีการ ทดลอง เขียนโค้ด และประเมินผล เมื่อสัดส่วนนี้เริ่มเอียงไปทาง AI มากขึ้น ความเร็วในการพัฒนาอาจจะเกินกว่าความเร็วในการตัดสินใจของสังคมมนุษย์

ปัญหาที่เกิดขึ้นไม่ใช่แค่ความสามารถของ AI เท่านั้น แต่ยังรวมถึงระบบสังคม กฎหมาย การตรวจสอบ ข้อตกลงระหว่างประเทศ การปกครองของบริษัท มาตรการรักษาความปลอดภัย และความเข้าใจของมนุษย์ที่อาจไม่สามารถตามทันความเร็วในการพัฒนา AI ได้

ในขณะที่ AI สามารถพัฒนาตัวเองได้ในรอบเวลาไม่กี่วันหรือไม่กี่ชั่วโมง นโยบายและข้อตกลงระหว่างประเทศอาจใช้เวลาหลายเดือนหรือหลายปีในการเปลี่ยนแปลง ความแตกต่างของความเร็วนี้คือหัวใจของคำเตือนจาก Anthropic

เหตุผลที่การ "หยุด" เป็นเรื่องยาก

การกล่าวว่าควรหยุดการพัฒนา AI ชั่วคราวอาจฟังดูง่าย แต่การดำเนินการนั้นยากมาก

ประการแรกคือปัญหาของการแข่งขัน หากบริษัทหนึ่งหยุดการพัฒนาอย่างสมัครใจ แต่บริษัทอื่นไม่หยุด บริษัทที่ระมัดระวังอาจจะล้าหลังได้ สิ่งนี้สามารถเกิดขึ้นระหว่างประเทศได้เช่นกัน หากบริษัทในสหรัฐฯ หยุด แต่บริษัทในจีน ยุโรป ตะวันออกกลาง หรือประเทศและภูมิภาคอื่น ๆ ยังคงดำเนินต่อไป ความเป็นผู้นำทางเทคโนโลยีอาจจะย้ายไปที่อื่น

ประการที่สองคือปัญหาของการตรวจสอบ ไม่เหมือนกับอาวุธนิวเคลียร์หรือสถานที่เก็บขีปนาวุธที่สามารถตรวจสอบได้ง่ายด้วยดาวเทียม การเรียนรู้ AI ขนาดใหญ่เป็นสิ่งที่มองไม่เห็น สิ่งที่ต้องการคือศูนย์ข้อมูล, GPU, พลังงาน, ซอฟต์แวร์, นักวิจัย และเงินทุน ซึ่งส่วนใหญ่สามารถใช้เป็นโครงสร้างพื้นฐานทั่วไปของภาคเอกชนได้ การตรวจสอบว่ามีใครบางคนกำลังพัฒนาอย่างลับ ๆ หรือไม่นั้นไม่ใช่เรื่องง่าย

ประการที่สามคือการนิยามว่า "หยุดอะไร" ก็เป็นเรื่องยาก ควรหยุดการวิจัยพื้นฐานหรือไม่ หยุดเฉพาะการเรียนรู้ขนาดใหญ่หรือไม่ อนุญาตให้ปรับปรุงโมเดลที่มีอยู่หรือไม่ และการพัฒนาโอเพนซอร์สควรจัดการอย่างไร หากไม่มีการตัดสินใจเกี่ยวกับเงื่อนไขการหยุด เงื่อนไขการยกเลิก หน่วยงานที่ควบคุม และการลงโทษเมื่อมีการละเมิด ข้อตกลงที่มีประสิทธิภาพจะไม่เกิดขึ้น

Anthropic เองก็ยอมรับความยากลำบากนี้ บริษัทเรียกร้องให้มีการหยุดที่ไม่ได้เกิดจากความตั้งใจดีของบริษัทเดียว แต่เป็นการหยุดที่หลายห้องปฏิบัติการ AI หลักหยุดในเงื่อนไขเดียวกันและสามารถตรวจสอบซึ่งกันและกันได้ กล่าวอีกนัยหนึ่งคือแนวคิดที่ใกล้เคียงกับการควบคุมอาวุธใน AI

ในโซเชียลมีเดีย ความเห็นแตกต่างกันอย่างชัดเจน

ข้อเสนอนี้ได้รับการตอบรับที่แตกต่างกันในโซเชียลมีเดียและชุมชนเทคโนโลยี

ฝ่ายที่สนับสนุนมองว่าคำเตือนของ Anthropic เป็น "สัญญาณสำคัญจากภายใน" ไม่ใช่จากนักวิจารณ์ภายนอกหรือหน่วยงานกำกับดูแล แต่เป็นบริษัทที่พัฒนา AI ขั้นสูงเองที่มองเห็นปัญหาช่องว่างระหว่างความเร็วในการพัฒนาและการเตรียมพร้อมของสังคม ความคิดเห็นจากบัญชีที่สนใจในความปลอดภัยของ AI และนโยบายชื่นชมที่ Anthropic หยิบยกความเสี่ยงของการปรับปรุงตนเองแบบวนซ้ำขึ้นมา และพยายามที่จะอภิปรายเกี่ยวกับการชะลอที่สามารถตรวจสอบได้ในระดับอุตสาหกรรม

ในทางกลับกัน ความเห็นที่สงสัยก็มีมาก ในชุมชนเทคโนโลยีอย่าง Hacker News มีคำถามว่า "การที่บริษัทพัฒนา AI อย่างรวดเร็วในขณะที่พูดถึงความปลอดภัยนั้นขัดแย้งกันหรือไม่" ยิ่ง Anthropic เน้นย้ำถึงการสร้างโค้ดและการเพิ่มประสิทธิภาพการพัฒนาโดย Claude มากเท่าไหร่ คำถามว่า "ถ้ามันอันตรายขนาดนั้น ทำไมบริษัทไม่หยุดก่อน" ก็ยิ่งเกิดขึ้น

นอกจากนี้ยังมีความไม่พอใจจากผู้ใช้ Claude ที่มองว่าการที่ AI สามารถทำงานได้อย่างอิสระเป็นเวลานานนั้นไม่สอดคล้องกับประสบการณ์จริงที่มีข้อจำกัดของ API หรือปัญหาชั่วคราวที่ทำให้การทำงานระยะยาวถูกขัดจังหวะ แม้ว่านี่จะไม่ใช่การโต้แย้งต่อทฤษฎีความเสี่ยงของ AI แต่แสดงถึงความแตกต่างในมุมมองว่า AI ได้มาถึงขั้นตอนที่อิสระขนาดนั้นแล้วหรือไม่

นอกจากนี้ยังมีมุมมองที่เข้มงวดจากนักวิเคราะห์ทางการเมืองและธุรกิจที่สงสัยว่า Anthropic อาจใช้การเน้นย้ำความเสี่ยงของ AI เพื่อสร้างกรอบการกำกับดูแลที่เอื้อประโยชน์ต่อบริษัทเอง โดยเฉพาะอย่างยิ่ง การกำกับดูแลที่เข้มงวดอาจเป็นภาระใหญ่สำหรับบริษัทขนาดเล็กหรือกลุ่มโอเพนซอร์ส แต่สามารถจัดการได้โดยบริษัทใหญ่ ซึ่งอาจเป็นการกีดกันคู่แข่งภายใต้ชื่อของ "ความปลอดภัย"

ดังนั้น ความเห็นในโซเชียลมีเดียสามารถแบ่งออกเป็นสามกลุ่มใหญ่ กลุ่มแรกคือผู้ที่เห็นว่าความเสี่ยงที่ AI จะปรับปรุงตนเองเป็นเรื่องจริงและควรมีมาตรการความปลอดภัยในระดับนานาชาติ กลุ่มที่สองคือผู้ที่เข้าใจถึงความเสี่ยงแต่รู้สึกว่าการกระทำและคำกล่าวของ Anthropic ขัดแย้งกัน และกลุ่มที่สามคือผู้ที่มองว่านี่ไม่ใช่เรื่องความปลอดภัย แต่เป็นกลยุทธ์ทางธุรกิจและการกำกับดูแล

ความแตกต่างกับ OpenAI และบริษัทอื่นๆ

ข้อเสนอในครั้งนี้ยังทำให้เห็นความแตกต่างกับบริษัท AI อื่นๆ ตามรายงาน OpenAI มีแนวคิดว่ากฎและความรับผิดชอบของ AI ควรกำหนดโดยรัฐบาลที่มีความเป็นประชาธิปไตย ไม่ใช่จากการตกลงกันระหว่างบริษัทเอกชน

นี่เป็นประเด็นสำคัญ เมื่อบริษัทที่มีเทคโนโลยีขั้นสูงอย่าง Anthropic พูดว่า "มาสร้างระบบที่หยุดได้ในระดับอุตสาหกรรม" มันอาจฟังดูเป็นจริง แต่ยังคงมีคำถามว่าบริษัทเอกชนควรมีสิทธิ์ในการตัดสินใจเกี่ยวกับเทคโนโลยีที่มีผลกระทบต่อสังคมทั้งหมดหรือไม่

ในทางกลับกัน หากปล่อยให้รัฐบาลทำเพียงอย่างเดียวก็อาจไม่เพียงพอ การพัฒนา AI มีความซับซ้อนและก้าวหน้าอย่างรวดเร็ว การที่หน่วยงานกำกับดูแลจะเข้าใจระดับเทคโนโลยีในปัจจุบันและสร้างกฎที่มีประสิทธิภาพข้ามพรมแดนต้องใช้เวลา ในขณะที่การแข่งขันระหว่างบริษัทก็ยังคงดำเนินต่อไป

ดังนั้น สิ่งที่จำเป็นในอนาคตคือการกำกับดูแลที่ซับซ้อนซึ่งรวมถึงบริษัท รัฐบาล นักวิจัย และสังคมพลเมือง บริษัทควรเปิดเผยข้อมูลภายในและความรู้ทางเทคนิค รัฐบาลควรมีความชอบธรรมทางประชาธิปไตยและความสามารถในการบังคับใช้ และนักวิจัยบุคคลที่สามและสังคมพลเมืองควรทำหน้าที่ตรวจสอบและวิจารณ์ ข้อเสนอของ Anthropic มีความหมายในฐานะจุดเริ่มต้นของการอภิปราย

สิ่งที่น่ากลัวจริงๆ ไม่ใช่ "หุ่นยนต์ที่ควบคุมไม่ได้"

เมื่อพูดถึงความเสี่ยงของ AI ภาพลักษณ์ที่มักจะปรากฏคือหุ่นยนต์ที่ก่อกบฏต่อมนุษย์เหมือนในภาพยนตร์ แต่สิ่งที่สำคัญในครั้งนี้คือความเสี่ยงที่เป็นจริงและไม่หวือหวา

ตัวอย่างเช่น หาก AI มีความสามารถในการค้นหาช่องโหว่ของซอฟต์แวร์จำนวนมาก มันสามารถใช้ในการป้องกันหรือโจมตีได้ หาก AI เร่งการวิจัยและพัฒนา มันอาจนำไปสู่ประโยชน์ใหญ่ในด้านการแพทย์และวิทยาศาสตร์ แต่ก็อาจทำให้ความรู้ทางชีววิทยาที่เป็นอันตรายหรือความสามารถในการโจมตีทางไซเบอร์แพร่กระจายได้เช่นกัน หาก AI เพิ่มประสิทธิภาพการผลิตของบริษัทหลายสิบเท่า ตลาดแรงงานและสภาพแวดล้อมการแข่งขันจะเปลี่ยนแปลงอย่างรวดเร็ว

นอกจากนี้ หาก AI เริ่มเร่งการพัฒนา AI เอง มนุษย์อาจสูญเสียความสามารถในการ "เข้าใจว่าเกิดอะไรขึ้นแล้วจึงจัดการ" เมื่อปัญหาเกิดขึ้น อาจมีรุ่นถัดไปของโมเดลที่ทำงานอยู่แล้ว ความสามารถจะถูกปรับปรุงก่อนที่การประเมินความปลอดภัยหรือการตรวจสอบจะเสร็จสิ้น นี่คือความกังวลพื้นฐานเกี่ยวกับการปรับปรุงตนเองแบบวนซ้ำ

สิ่งสำคัญคือ Anthropic ไม่ได้ปฏิเสธประโยชน์ของ AI บริษัทรับรู้ว่า AI อาจนำไปสู่ประโยชน์ใหญ่ในด้านวิทยาศาสตร์ การแพทย์ การป้องกันทางไซเบอร์ และการเพิ่มประสิทธิภาพการผลิต ปัญหาคือเมื่อประโยชน์มีมาก การแข่งขันในการพัฒนาก็ยากที่จะหยุด

เป็นเพียงการ "สร้างความกลัว" หรือไม่

เมื่อบริษัท AI พูดถึงความเสี่ยง มักจะมีความขัดแย้งทางผลประโยชน์อยู่เสมอ เมื่อบริษัทใหญ่กล่าวว่า "เทคโนโลยีนี้อันตรายและต้องการการกำกับดูแล" กฎระเบียบที่เกิดขึ้นอาจกลายเป็นอุปสรรคในการเข้ามาของคู่แข่งที่เอื้อประโยชน์ต่อบริษัทใหญ่เท่านั้น

โดยเฉพาะอย่างยิ่ง Anthropic เป็นบริษัทที่วางความปลอดภัยเป็นศูนย์กลางของแบรนด์ การเน้นย้ำถึงอันตรายของ AI สอดคล้องกับภาพลักษณ์ของบริษัท การแสดงให้เห็นว่า "เราคือบริษัท AI ที่ระมัดระวังและมีความรับผิดชอบมากที่สุด" อาจมีผลต่อการสร้างความเชื่อมั่นให้กับนักลงทุนและลูกค้า

แต่ก็ไม่ได้หมายความว่าคำเตือนนั้นจะไม่มีความหมาย แม้ว่าบริษัทอาจมีแรงจูงใจเชิงกลยุทธ์ แต่ปัญหาทางเทคนิคที่พวกเขาชี้ให้เห็นอาจเป็นจริง สิ่งสำคัญคือการไม่ตัดสินใจจาก "ใครพูด" แต่ควรแยกแยะเนื้อหาของข้อเสนอออก

AI กำลังเร่งการพัฒนา AI เองหรือไม่
ความเร็วนั้นกำลังเกินกว่าระบบสังคมหรือไม่
การหยุดหรือชะลอเป็นสิ่งที่สามารถตรวจสอบได้ทางเทคนิคและการเมืองหรือไม่
มันจะกลายเป็นระบบที่ป