AI กำลัง "ถอดเสื้อผ้า" ในยุคนี้ กฎหมายจะตามทันหรือไม่ ― ผลกระทบจากการปิดกั้น Grok

"การบล็อก Grok ครั้งแรกของโลก" อินโดนีเซียแสดงใบแดงต่อ "ดีพเฟคที่ไม่ยินยอม"

รัฐบาลอินโดนีเซียได้ทำการบล็อกการเข้าถึง AI แชทบอท "Grok" ของอีลอน มัสก์ชั่วคราว เหตุผลนั้นชัดเจน Grok อาจถูกใช้ในทางที่ผิดในการสร้างและแพร่กระจายดีพเฟคทางเพศที่ไม่ยินยอม (non-consensual sexual deepfakes) เช่น การ "ถอดเสื้อผ้า" หรือ "ปรับแต่งทางเพศ" ภาพถ่ายของผู้อื่น รัฐบาลมองว่านี่เป็น "ปัญหาร้ายแรงที่ละเมิดสิทธิมนุษยชนและศักดิ์ศรี รวมถึงความปลอดภัยของพลเมืองในพื้นที่ดิจิทัล" และได้เรียกตัวแทนจาก X มาชี้แจง

การเคลื่อนไหวนี้ได้รับความสนใจไม่ใช่เพียงเพราะ "ประเทศหนึ่งบล็อกบริการเฉพาะ" แต่เพราะการเปลี่ยนแปลงทางเพศที่ไม่ยินยอมโดย AI กำลังกลายเป็นปัญหาสังคมที่ข้ามพรมแดน และหน่วยงานกำกับดูแลมองว่า "หากปล่อยไว้จะเป็นอันตราย" ในยุโรป หน่วยงานกำกับดูแลได้ขอให้ X เก็บรักษาเอกสารและข้อมูลที่เกี่ยวข้องกับ Grok ซึ่งแสดงให้เห็นถึงการเพิ่มความเข้มงวดในการตรวจสอบ

เกิดอะไรขึ้น: "การปรับแต่ง" ภาพถ่ายกลายเป็น "การเผยแพร่ความเสียหาย"

ประเด็นของครั้งนี้อยู่ที่การที่ "สามารถสร้างได้" โดยที่ขั้นตอนการสร้างสั้นมาก และผลลัพธ์สามารถแพร่กระจายในพื้นที่สาธารณะได้ง่าย

ตามรายงาน Grok ถูกใช้บน X ในการสร้างและแก้ไขภาพ โดยผู้ใช้สามารถขอให้ปรับแต่งภาพถ่ายของผู้อื่น เช่น การถอดเสื้อผ้า และผลลัพธ์ที่ได้จะถูกเผยแพร่เป็นการตอบกลับ ซึ่งเป็นปัญหา การปรับแต่งทางเพศโดยไม่มีความยินยอมถูกทำขึ้น และเผยแพร่ในไทม์ไลน์ของบุคคลที่สามในลักษณะที่เป็น "การแสดง"

รัฐมนตรีที่เกี่ยวข้องของอินโดนีเซียวิจารณ์ดีพเฟคที่ไม่ยินยอมอย่างรุนแรง และยกตัวอย่างถึงความเสี่ยงที่อาจเกิดขึ้นกับผู้หญิงและเยาวชนที่มักเป็นกลุ่มที่อ่อนแอ ในกฎหมายภายในประเทศก็มีการควบคุมที่เข้มงวดเกี่ยวกับการเผยแพร่เนื้อหาลามกอนาจาร

การตอบสนองของบริษัท: xAI กำลังดำเนินการ "จำกัด" แต่การวิจารณ์ยังไม่หยุด

xAI (บริษัทที่พัฒนา Grok) ได้รายงานว่ากำลังจำกัดฟังก์ชันการสร้างและแก้ไขภาพ และอย่างน้อยก็จำกัดฟังก์ชันบางอย่างให้กับผู้ใช้ที่จ่ายเงิน

อย่างไรก็ตาม จากมุมมองของหน่วยงานกำกับดูแลและผู้เสียหาย มีการวิจารณ์ว่า "การตำหนิผู้ใช้ที่ใช้ไม่ดี" นั้นไม่สามารถหยุดยั้งความเสียหายได้จริง หน่วยงานกำกับดูแลของมาเลเซียได้ระบุว่าการตอบสนองที่พึ่งพาการรายงานของผู้ใช้นั้นไม่เพียงพอ และจะดำเนินการจำกัดต่อไปจนกว่าจะมีมาตรการความปลอดภัยทางเทคนิคและการดำเนินงานที่มีประสิทธิภาพ

มัสก์ได้รายงานว่าได้กล่าวใน X ว่าผู้ที่สร้างเนื้อหาที่ผิดกฎหมายจะได้รับ "ผลลัพธ์เช่นเดียวกับการอัปโหลดเนื้อหาที่ผิดกฎหมาย" อย่างไรก็ตาม เมื่อพิจารณาถึงความเร็วในการเกิดและการแพร่กระจายของความเสียหาย"การลงโทษภายหลัง" เพียงอย่างเดียวไม่สามารถช่วยเหลือได้ทันซึ่งเป็นจุดโฟกัสของการวิจารณ์หลายประการ

การตอบสนองจากประเทศต่างๆ: ยุโรป, สแกนดิเนเวีย, และเอเชียตะวันออกเฉียงใต้

การบล็อกของอินโดนีเซียครั้งนี้เป็นส่วนหนึ่งของกระแสระหว่างประเทศ ในยุโรป การตรวจสอบ Grok ได้เพิ่มขึ้น และมีรายงานว่าผู้นำรัฐบาลสวีเดนได้วิจารณ์ว่าเป็น "รูปแบบหนึ่งของความรุนแรงทางเพศ"

ในเอเชียตะวันออกเฉียงใต้ มาเลเซียได้จำกัดการเข้าถึง Grok ชั่วคราวตามอินโดนีเซีย โดยมองว่าการสร้างภาพที่ "ปรับแต่งโดยไม่ยินยอม" รวมถึงผู้หญิงและเยาวชนเป็นปัญหาที่เกิดขึ้นซ้ำๆ

การเชื่อมโยงนี้หมายความว่า ไม่เพียงแค่ "การหยุดฟังก์ชัน AI" แต่ยังถามว่า "สามารถออกแบบแพลตฟอร์มให้มีโครงสร้างที่ลดความเสียหายได้หรือไม่" ตัวอย่างเช่น การออกแบบที่อนุญาตให้เผยแพร่ผลลัพธ์เป็นการตอบกลับสาธารณะสามารถกลายเป็น "ปุ่มแพร่กระจาย" สำหรับการใช้ในทางที่ผิด หน่วยงานกำกับดูแลเริ่มเน้นย้ำถึง "ความรับผิดชอบในการออกแบบและการดำเนินงาน" ซึ่งเป็นเหตุผลที่มีการเน้นย้ำ

การตอบสนองในโซเชียลมีเดีย: การโต้แย้งระหว่าง "การควบคุมหรือการเซ็นเซอร์"

การตอบสนองในโซเชียลมีเดียแบ่งออกเป็นสามกระแสหลัก

1) กลุ่มที่เห็นว่า "การบล็อกเป็นเรื่องที่สมควร": ให้ความสำคัญกับความรุนแรงของความเสียหาย

ใน Reddit มีความคิดเห็นที่สนับสนุนการบล็อกด้วยภาษาที่รุนแรง เช่น "แอปอาชญากรรมแบบนี้ควรถูกบล็อกในทุกประเทศ"
นอกจากนี้ รายงานจากต่างประเทศระบุว่าการโพสต์ที่ "เปลี่ยนภาพถ่ายผู้หญิงให้เป็นชุดว่ายน้ำ" เพิ่มขึ้นอย่างรวดเร็วในช่วงปลายปีและต้นปีใหม่ และกลายเป็นเรื่องที่รุนแรงในระยะเวลาอันสั้น การมองเห็นเสียงของผู้เสียหายทำให้เกิดบรรยากาศที่ว่า "ไม่ใช่ปัญหาที่ควรปล่อยไว้"

2) กลุ่มที่เห็นว่า "ประเทศที่มีการควบคุมเข้มงวดอยู่แล้ว": สงสัยในความสม่ำเสมอและแรงจูงใจของการควบคุม

ในทางกลับกัน มีมุมมองที่เย็นชาว่า "อินโดนีเซียมีความเข้มงวดกับสื่อลามกอยู่แล้ว" และ "การตอบสนองครั้งนี้เป็นการตัดสินใจที่ก้าวหน้าต่อปัญหาใหม่" หรือไม่ แต่เป็นเพียงการขยายแนวทางการควบคุมเดิม ใน Reddit ก็มีความคิดเห็นที่พูดในบริบทว่า "เป็นประเทศที่ห้ามสื่อลามกโดยสิ้นเชิง"

3) กลุ่มที่เห็นว่า "การแก้ปัญหาเฉพาะหน้า": วิจารณ์ว่าไม่ใช่การแก้ปัญหาที่แท้จริง

นอกจากนี้ การที่ xAI กำลังดำเนินการ "จำกัดฟังก์ชันให้กับผู้ใช้ที่จ่ายเงิน" ก็ถูกวิจารณ์ว่า "ไม่ใช่มาตรการความปลอดภัย แต่เป็นการสร้างรายได้" และ "หากต้องการหยุดความเสียหาย ต้องมีการ์ดเรลทางเทคนิค" หน่วยงานกำกับดูแลของมาเลเซียที่ระบุว่าการตอบสนองที่พึ่งพาการรายงานของผู้ใช้นั้น "ไม่เพียงพอ" ก็เป็นส่วนหนึ่งของการวิจารณ์นี้

"ความจริง" ที่เกิดขึ้นในอินโดนีเซีย: การจัดการของไอดอลก็เตือน การบังคับใช้กฎหมายก็อยู่ในสายตา

ในอินโดนีเซีย หน่วยงานกำกับดูแลได้บอกใบ้ถึง "ความเป็นไปได้ของความรับผิดทางอาญา" นอกเหนือจากการลงโทษทางปกครอง สื่อท้องถิ่นรายงานว่าบุคคลหรือบริษัทที่ใช้ในทางที่ผิดอาจตกเป็นเป้าหมายของการลงโทษ และผู้เสียหายถูกกระตุ้นให้รายงาน นอกจากนี้ ยังมีรายงานว่าการจัดการของกลุ่มไอดอลยอดนิยมในท้องถิ่นได้เตือนถึงความเป็นไปได้ที่จะดำเนินการทางกฎหมายต่อ "การถอดเสื้อผ้าดิจิทัล" ของสมาชิก การที่ "ผู้มีส่วนได้เสีย" ในสังคมเริ่มส่งเสียงโดยตรงเป็นจุดที่ไม่ควรมองข้าม

จุดสนใจในอนาคต: "การบล็อก" ไม่ใช่จุดสิ้นสุด

การตัดสินใจของอินโดนีเซียอาจมีผลในระยะสั้นในฐานะ "การดับไฟ" แต่ในระยะยาวจะมีคำถามต่อไปนี้

• แพลตฟอร์มสามารถออกแบบให้ไม่สามารถ "สร้าง/แพร่กระจาย" การเปลี่ยนแปลงทางเพศที่ไม่ยินยอมได้หรือไม่

• หน่วยงานกำกับดูแลจะใช้คำขอการลบ คำสั่งเก็บข้อมูล และการบล็อกอย่างไร

• การช่วยเหลือผู้เสียหาย (การลบ การยับยั้งการแพร่กระจาย การสนับสนุนทางกฎหมาย การสนับสนุนทางจิตใจ) จะสามารถทำให้เป็นระบบได้มากน้อยแค่ไหน

ปัญหานี้ซับซ้อนเพราะ "เทคโนโลยี" กำลังพัฒนาอย่างรวดเร็ว ในขณะที่ "การสร้างความเห็นพ้องและการจัดทำกฎหมายของสังคม" ไม่สามารถตามทัน AI ที่สร้างขึ้นสามารถสนับสนุนการสร้างสรรค์และธุรกิจได้อย่างมีประสิทธิภาพ แต่หากถูกปรับให้เหมาะสมในทิศทางที่ "เหยียบย่ำศักดิ์ศรีของผู้อื่นโดยไม่มีค่าใช้จ่าย" สังคมจะต้องต่อต้านและการควบคุมจะเข้มงวดขึ้น

การบล็อก Grok ของอินโดนีเซียเป็นเหตุการณ์ที่แสดงถึงจุดเปลี่ยนที่สำคัญ สิ่งที่ถูกถามต่อไปคือ บริษัทจะสามารถรวมความปลอดภัยเป็นแนวคิดการออกแบบได้หรือไม่ แทนที่จะเป็น "การแก้ปัญหาหลังจากเกิดเหตุการณ์" และแต่ละประเทศจะสามารถสร้างกฎที่มีประสิทธิภาพโดยยืนอยู่ข้างผู้เสียหายได้หรือไม่