AI จะไปสู่สนามรบหรือไม่: จุดห้ามใช้ที่ OpenAI เสนอและประเด็นร้อนในโซเชียลมีเดีย

AI จะไปสู่สนามรบหรือไม่: จุดห้ามใช้ที่ OpenAI เสนอและประเด็นร้อนในโซเชียลมีเดีย

ในขณะที่ AI กำลังเข้าใกล้การเป็น "โครงสร้างพื้นฐานสำคัญ" ของความมั่นคงแห่งชาติ OpenAI ได้ทำสัญญาใหม่กับหน่วยงานกลาโหมสหรัฐฯ โดยกำหนด "การใช้งานที่ห้าม" อย่างชัดเจนในด้านการทหาร ประเด็นนี้ไม่ใช่แค่ "การร่วมมือทางทหารหรือไม่" เท่านั้น การควบคุมการใช้งาน AI ไม่ให้ขึ้นอยู่กับดุลยพินิจของผู้ใช้ แต่จะสามารถควบคุมได้มากน้อยเพียงใดผ่านสัญญาและการดำเนินงาน และ การควบคุมนั้นจะสามารถทนต่อการเปลี่ยนแปลงของสภาพแวดล้อมทางการเมืองได้หรือไม่——คือประเด็นสำคัญ


1) สิ่งที่ได้ตัดสินใจ: "เส้นแดง" ที่ OpenAI แสดง

ตามรายงาน ข้อตกลงของ OpenAI กับหน่วยงานกลาโหมสหรัฐฯ ได้วางข้อจำกัดที่เข้มงวด (หรือที่เรียกว่าเส้นแดง) ในบางพื้นที่อย่างน้อยดังต่อไปนี้

  • ห้ามใช้ในการสอดส่องภายในประเทศอย่างกว้างขวาง (mass domestic surveillance)

  • ห้ามการใช้งาน AI ในการบังคับบัญชาและดำเนินการอาวุธอัตโนมัติ (autonomous weapons) โดยอิสระ

  • ห้ามการดำเนินการที่โยนการตัดสินใจที่มีความเสี่ยงสูงไปให้ AI โดยไม่ผ่านการอนุมัติจากมนุษย์ (การยับยั้งการตัดสินใจอัตโนมัติที่มีความเสี่ยงสูง)


OpenAI เน้นย้ำว่าไม่เพียงแค่แสดงสิ่งเหล่านี้เป็น "อุดมการณ์" เท่านั้น แต่ยังปกป้องด้วยข้อกำหนดในสัญญา กฎการดำเนินงาน และมาตรการทางเทคนิค

2) "รั้วกั้นหลายชั้น" คืออะไร: การล็อกสามชั้นทางเทคนิค การดำเนินงาน และสัญญา

ลักษณะเด่นของครั้งนี้คือ ไม่เพียงแค่ประกาศจริยธรรม แต่ยังเน้นว่า "จะปกป้องอย่างไร" รายงานของ Reuters ระบุว่า OpenAIคาดการณ์การดำเนินงานบนเครือข่ายลับและจะทำให้รั้วกั้นมีหลายชั้น เช่น

  • การรักษาดุลยพินิจในการออกแบบและการใช้มาตรการความปลอดภัย

  • รูปแบบการให้บริการในระบบคลาวด์หรือสภาพแวดล้อมปิด

  • การตรวจสอบความเหมาะสมและการควบคุมของบุคลากร

  • การปกป้องสัญญาที่เข้มงวดรวมถึงการหยุดหรือยกเลิกเมื่อมีการละเมิดสัญญา
    สิ่งเหล่านี้คือองค์ประกอบ (รายละเอียดมีขอบเขตการเปิดเผย) สิ่งสำคัญคือ การสร้างโครงสร้างที่สามารถหยุดได้เมื่อมีการละเมิดโดยไม่พึ่งพา "ความตั้งใจดีของผู้ใช้"


แต่ในทางกลับกัน ยิ่งความสามารถของ AI เพิ่มขึ้นเท่าใด การกำหนดว่า "อะไรคือการใช้งานที่ห้าม" และ "จะจัดการกับการใช้งานผสมอย่างไร" ก็ยิ่งยากขึ้นเท่านั้น ตัวอย่างเช่น การวิเคราะห์ข้อมูลสามารถเป็นได้ทั้งเป้าหมายที่ชอบธรรมสำหรับการป้องกันและการเสริมสร้างการสอดส่อง ยิ่งการกำหนดเส้นห้ามชัดเจนเท่าใดก็ยิ่งมีสิ่งล่อใจที่จะ "ทำสิ่งที่อยู่นอกเส้น" การออกแบบรั้วกั้นไม่เพียงพอ แต่ยังต้องมีการตรวจสอบ การบันทึก และการตรวจจับการเบี่ยงเบนที่ครบถ้วนในการดำเนินงาน

3) ทำไมสัญญานี้ถึงได้รับความสนใจในขณะนี้: การกีดกัน Anthropic และเงาทางการเมือง

เบื้องหลังที่ทำให้ข่าวนี้ได้รับความสนใจอย่างรวดเร็วไม่ใช่แค่เรื่องของ OpenAI เท่านั้น รายงานระบุว่ารัฐบาลสหรัฐฯ ได้จัดให้ Anthropic เป็น "ความเสี่ยงในห่วงโซ่อุปทาน" และเคลื่อนไหวเพื่อหยุดการใช้งานของรัฐบาล และทันทีหลังจากนั้นสัญญากับ OpenAI ก็ถูกนำเสนอ


กระแสนี้แสดงให้เห็นว่าการจัดหา AI ไม่ได้เป็นเพียง "การแข่งขันด้านประสิทธิภาพ" แต่ยังเกี่ยวข้องกับการเลือกของรัฐในด้านการเมือง ความมั่นคง และจริยธรรมขององค์กร OpenAI อธิบายสัญญาของตนว่ามีเส้นแดง แม้จะมีความกังวลและข้อโต้แย้งเกี่ยวกับการปฏิบัติต่อคู่แข่ง


4) ปฏิกิริยาบน SNS: การประเมินและความไม่ไว้วางใจที่อยู่ร่วมกันใน "การถกเถียงเรื่องเส้นแดง"

 

ปฏิกิริยาที่โดดเด่นบน SNS แบ่งออกเป็นสามกลุ่มใหญ่


A. กลุ่มที่เห็นว่า "การใส่เส้นแดงในสัญญาเป็นความก้าวหน้า"

ใน Reddit และที่อื่นๆ มีเสียงเรียกร้องให้ "อ่านว่าการใช้งานที่ห้ามคืออะไร" ก่อนที่จะยกเลิกหรือบอยคอตทันทีเมื่อเห็นข่าว เมื่อเส้นแดงในสัญญา (การห้ามสอดส่องอย่างกว้างขวางและการดำเนินการอาวุธอัตโนมัติโดยอิสระ) กลายเป็นประเด็น

  • "แค่การระบุการห้ามในเอกสารก็ถือว่าดีกว่าเมื่อก่อน"

  • "ถ้าไม่สามารถหยุดการใช้ทางทหารได้ทั้งหมด อย่างน้อยการสร้างเส้นเขตก็เป็นทางเลือกที่เป็นจริงมากกว่า"
    เป็นการประเมินในแนวทางที่เป็นจริง


B. กลุ่มที่เห็นว่า "คำพูดไม่สามารถหยุดได้" (ความกังวลเกี่ยวกับช่องโหว่และการทำให้ไร้ความหมาย)

ในขณะที่มีความสงสัยอย่างต่อเนื่องว่า **"การห้ามจะถูกทำให้ไร้ความหมายในการดำเนินงาน"**

  • การวิเคราะห์ข้อมูล การสนับสนุนการเลือกเป้าหมาย และระบบสอดส่องมีขอบเขตที่ไม่ชัดเจน

  • "แม้จะบอกว่ามนุษย์เป็นผู้อนุมัติขั้นสุดท้าย แต่ในความเป็นจริงอาจเป็นการยอมรับตามหลัง"

  • การดำเนินงานลับทำให้การตรวจสอบโดยบุคคลที่สามเป็นเรื่องยาก
    ประเด็นเหล่านี้ถูกกล่าวถึงซ้ำๆ ที่นี่ ความไม่ไว้วางใจไม่ได้อยู่ที่เส้นแดงเอง แต่การขาดความสามารถในการตรวจสอบและความโปร่งใสเป็นหัวใจของความไม่ไว้วางใจ


C. กลุ่มที่เห็นว่า "ในที่สุดก็เป็นความร่วมมือทางทหาร" (ปฏิเสธในฐานะค่านิยม)

อีกประเด็นหนึ่งคือเรื่องของค่านิยม Business Insider กล่าวถึงการตอบโต้ที่มีการเคลื่อนไหวเพื่อ "เลิกใช้ ChatGPT และย้ายไปที่คู่แข่ง" การยอมรับความร่วมมือทางทหารแม้จะมี "ข้อตกลงตามเงื่อนไข" ก็ไม่สามารถยอมรับได้

 
นอกจากนี้ โพสต์บางส่วนบน SNS ยังแสดงมุมมองวิพากษ์วิจารณ์ว่าหลายบริษัทได้ผ่อนปรนรั้วกั้นสำหรับการใช้งานทางทหาร

5) ประเด็นไม่ใช่ "ทางทหารหรือพลเรือน" แต่คือ "สามารถควบคุมได้หรือไม่"

สิ่งที่ปรากฏชัดจากกรณีนี้คือ การอภิปรายเกี่ยวกับการใช้ AI ในความมั่นคงได้ก้าวข้ามจากการเห็นด้วยหรือไม่เห็นด้วยไปสู่ขั้นต่อไป นั่นคือ

  • ไม่เพียงแค่ "เขียนข้อห้าม" แต่ยังมีระบบที่บังคับใช้ในการดำเนินงานหรือไม่

  • เมื่อกฎถูกกลับด้านด้วยการตัดสินใจทางการเมือง บริษัทสามารถปฏิเสธได้หรือไม่

  • ในสภาพแวดล้อมลับ จะรักษาความรับผิดชอบขั้นต่ำ (ป้องกันอะไร) ได้อย่างไร


การที่ OpenAI ประกาศ "เส้นแดง" และ "รั้วกั้นหลายชั้น" สามารถอ่านได้ว่าเป็นคำตอบต่อประเด็นนี้ แต่เพื่อให้สังคมยอมรับ ไม่เพียงแค่การมีอยู่ของเส้นแดงเท่านั้น แต่ยังต้องมีการตรวจจับการเบี่ยงเบน การแก้ไข และการรายงานในขอบเขตที่สามารถเปิดเผยได้


ด้านการทหารมักจะเรียกร้อง "ข้อยกเว้น" นั่นคือเหตุผลที่เมื่อ AI ถูกนำมาใช้มากขึ้น ความเสี่ยงที่ "ข้อยกเว้นจะไม่เป็นข้อยกเว้นอีกต่อไป" ก็เพิ่มขึ้น สิ่งที่สัญญานี้แสดงให้เห็นไม่ใช่เพียงแค่ความเป็นจริงที่ AI กำลังเข้าใกล้สนามรบ แต่คือคำถามว่าเราจะเลือกใช้โมเดลการควบคุมแบบใดต่อความเป็นจริงนั้น


แหล่งที่มา URL

บทความที่เกี่ยวข้อง