AI ที่เข้าใจอารมณ์เป็นอันตรายหรือไม่? ความตกใจจากกฎ "ความปลอดภัยทางใจ" ที่จีนแสดงให้เห็น

1）จีนมุ่งเป้าไปที่ "AI ที่คล้ายมนุษย์"——จุดเด่นของข้อเสนอการควบคุมในครั้งนี้

วันที่ 27 ธันวาคม 2025 หน่วยงานกำกับดูแลไซเบอร์ของจีนได้เปิดเผยข้อเสนอการควบคุม (ขอความคิดเห็น) เพื่อเสริมสร้างการกำกับดูแลบริการ AI ที่มี "พฤติกรรมคล้ายบุคลิกภาพมนุษย์" และมีปฏิสัมพันธ์ทางอารมณ์กับผู้ใช้ การเคลื่อนไหวนี้ซึ่งรายงานโดย Reuters มีเป้าหมายเพื่อเสริมสร้างข้อกำหนดด้านจริยธรรมและความปลอดภัยท่ามกลางการแพร่หลายอย่างรวดเร็วของ AI สำหรับผู้บริโภค InfoMoney

เป้าหมายคือผลิตภัณฑ์/บริการ AI ที่ใช้ข้อความ ภาพ เสียง วิดีโอ เป็นต้น ซึ่งเลียนแบบลักษณะบุคลิกภาพมนุษย์ รูปแบบการคิด และลักษณะการสื่อสาร และมี "การโต้ตอบทางอารมณ์" กับผู้ใช้ ซึ่งคาดว่าจะรวมถึง "AI เพื่อนคู่ใจ" "AI คู่รัก" และ "แชทบอทที่ปรึกษา" Reuters

ข้อเสนอการควบคุมมีสามประเด็นหลัก

• (A) การแทรกแซงการพึ่งพาและการเสพติด
  ผู้ประกอบการจะต้องเตือนเกี่ยวกับการใช้งานที่มากเกินไปและจัดทำกรอบการแทรกแซงเมื่อมีสัญญาณของการพึ่งพา นอกจากนี้ยังคาดหวังให้ระบุสถานะของผู้ใช้ ประเมินอารมณ์และระดับการพึ่งพา และดำเนินการที่จำเป็นเมื่อมีการยืนยันอารมณ์ที่รุนแรงหรือพฤติกรรมเสพติด InfoMoney

• (B) ความรับผิดชอบด้านความปลอดภัยตลอดวงจรชีวิต
  มีการระบุทิศทางในการจัดตั้งระบบการตรวจสอบอัลกอริทึม ความปลอดภัยของข้อมูล และการปกป้องข้อมูลส่วนบุคคล และรับผิดชอบด้านความปลอดภัยตลอดวงจรชีวิตของผลิตภัณฑ์ InfoMoney

• (C) "เส้นแดง" ของเนื้อหาที่สร้างขึ้น
  มีการกำหนด "พื้นที่ต้องห้าม" อย่างชัดเจน ซึ่งสอดคล้องกับการควบคุมข้อมูลของจีนในปัจจุบัน ซึ่งห้ามสร้างเนื้อหาที่เป็นอันตรายต่อความมั่นคงของชาติ ส่งเสริมข่าวลือ ความรุนแรง หรืออนาจาร InfoMoney

นอกจากนี้ รายงานจากสื่อจีนยังระบุว่า มีการรวมข้อกำหนดให้แจ้งอย่างชัดเจนว่า "คู่สนทนาไม่ใช่มนุษย์แต่เป็น AI" China Daily

นอกจากนี้ รายงานจาก Bloomberg ยังแนะนำข้อกำหนดการออกแบบที่ลึกซึ้ง เช่น การแจ้งเตือนผู้ใช้ทุกๆ สองชั่วโมง (หรือเมื่อมีการตรวจพบสัญญาณการพึ่งพาที่มากเกินไป) นอกเหนือจากการแจ้งเตือนเมื่อเข้าสู่ระบบ Bloomberg.com

2）ทำไม "การแลกเปลี่ยนอารมณ์" ถึงกลายเป็นปัญหาในตอนนี้

เมื่อพูดถึงความเสี่ยงของ AI ที่สร้างขึ้น มักจะพูดถึงเรื่องลิขสิทธิ์ ข้อมูลที่ผิดพลาด และการแทนที่งานก่อน แต่ข้อเสนอการควบคุมในครั้งนี้มุ่งเน้นไปที่หัวข้อที่ใกล้ชิดกับผู้บริโภคมากขึ้น—**"การทำให้เป็นมนุษย์" และ "การพึ่งพาทางอารมณ์"**

แม้ว่ามนุษย์จะเข้าใจว่าคู่สนทนาเป็นเครื่องจักร แต่ยิ่งการสนทนาธรรมชาติและมีความเห็นอกเห็นใจมากเท่าใด ก็ยิ่งรู้สึกถึง "ความสัมพันธ์" ได้ง่ายขึ้น หาก AI แสดงตัวว่า "อยู่ข้างคุณ" หรือ "เข้าใจคุณ" ผู้ที่รู้สึกโดดเดี่ยวหรือวิตกกังวลอาจมีแนวโน้มที่จะพึ่งพามากขึ้น ในจุดนี้ หน่วยงานของจีนพยายามจัดการด้วยคำว่า "ความเสี่ยงทางจิตวิทยา" (อารมณ์ที่รุนแรง การพึ่งพา การเสพติด) Reuters

ประเด็นนี้ไม่ใช่เพียงปัญหาของจีนเท่านั้น ในช่วงไม่กี่ปีที่ผ่านมา ความกังวลเกี่ยวกับ "AI เพื่อนคู่ใจ" ได้เพิ่มขึ้นในหลายประเทศ และเป็นพื้นที่ที่มักจะมีช่องว่างว่า "ใครจะรับผิดชอบถึงไหน" ข้อเสนอการควบคุมของจีนอาจถูกมองว่าเป็นความพยายามของรัฐในการกำหนดเส้นในช่องว่างนั้น

3）สิ่งที่คาดหวังจากฝั่งบริษัท—"การตรวจจับการพึ่งพา" สามารถดำเนินการได้หรือไม่

อย่างไรก็ตาม การที่สถานที่ปฏิบัติงานจะสามารถดำเนินการตามอุดมคติที่ข้อบังคับระบุไว้นั้นเป็นอีกเรื่องหนึ่ง ตัวอย่างเช่น "การตรวจจับสัญญาณการพึ่งพา" จะต้องมีการออกแบบอย่างน้อยดังต่อไปนี้

• ตัวชี้วัดพฤติกรรม เช่น เวลาในการใช้งาน ความถี่ในช่วงกลางคืน การใช้งานต่อเนื่อง

• การประเมินสถานะทางจิตวิทยาจากเนื้อหาการสนทนา (การจำแนกอารมณ์ การตรวจจับคำวิกฤติ)

• การแทรกแซงตามระดับความเสี่ยง (การแจ้งเตือนป๊อปอัป การทำให้เย็นลง การเสนอช่องทางสนับสนุน การจำกัดฟังก์ชัน เป็นต้น)

อย่างไรก็ตาม มีการแลกเปลี่ยนที่สำคัญในที่นี้ยิ่งการตรวจจับมีความแม่นยำมากเท่าใด การเฝ้าระวังก็ยิ่งเข้มงวดมากขึ้น และการตรวจจับที่ผิดพลาดจะทำลายประสบการณ์ของผู้ใช้
นอกจากนี้ การประเมินสถานะอารมณ์ของผู้ใช้ยังต้องมีการประมวลผลข้อมูลที่ละเอียดอ่อน ซึ่งมีความยากลำบากในแง่ของการปกป้องข้อมูลส่วนบุคคล ข้อเสนอการควบคุมยังเรียกร้องให้มีความปลอดภัยของข้อมูลและการปกป้องข้อมูลส่วนบุคคล แต่การทำให้ทั้งสองสิ่งนี้อยู่ร่วมกันไม่ใช่เรื่องง่าย Reuters

4）การปกครอง AI ของจีนจาก "จุด" สู่ "พื้นที่": การเชื่อมโยงกับกฎที่มีอยู่

ในช่วงไม่กี่ปีที่ผ่านมา จีนได้ถูกกล่าวถึงว่าได้กำหนดกฎเกณฑ์ตั้งแต่ระยะเริ่มต้น แทนที่จะ "ปล่อยให้ AI ดำเนินไป→ควบคุมเมื่อเกิดปัญหา" สำหรับ AI ที่สร้างขึ้น มีการใช้มาตรการชั่วคราวในปี 2023 และการกำกับดูแลได้ถูกจัดตั้งขึ้นโดยหน่วยงานกำกับดูแล (CAC) 中国法翻訳

นอกจากนี้ จีนยังมีข้อกำหนดเกี่ยวกับอัลกอริทึมแนะนำและ "การสังเคราะห์เชิงลึก (deep synthesis)" และมีการสร้างกรอบการปกครองตามหมวดหมู่ทางเทคนิค DigiChina

ข้อเสนอการควบคุม "AI ที่มีการทำให้เป็นมนุษย์และการแลกเปลี่ยนอารมณ์" ในครั้งนี้สามารถกล่าวได้ว่าเป็นการเคลื่อนไหวที่ครอบคลุม "พื้นที่ที่ขอบเขตระหว่างมนุษย์และ AI ไม่ชัดเจน" ในแนวทางใหม่ Global Times อธิบายข้อบังคับนี้ว่าเป็นการกำกับดูแลตามระดับความเสี่ยง และแนะนำการจัดระเบียบที่เน้นทั้ง "การสนับสนุนการนวัตกรรม" และ "การป้องกันการละเมิด" グローバルタイムズ

5）ปฏิกิริยาของ SNS: ฝ่ายสนับสนุนชี้ว่า "การปกป้องผู้ใช้" ฝ่ายกังวลชี้ว่า "การควบคุมและการยับยั้ง"

เมื่อข่าวนี้แพร่กระจายบน SNS ต่างประเทศ ปฏิกิริยาถูกแบ่งออกเป็นสองฝ่ายใหญ่

① ฝ่ายที่ว่า "การควบคุมล่าช้าเกินไป จริงๆ แล้วก้าวหน้า"

ใน LinkedIn มีโพสต์ที่ประเมินข้อเสนอของจีนว่าเน้นความปลอดภัย ความรับผิดชอบ และมนุษย์เป็นศูนย์กลาง โดยคำนึงถึงแนวโน้มที่ว่า "การควบคุมฆ่านวัตกรรม" ในสหรัฐอเมริกาและที่อื่นๆ ตัวอย่างเช่น โพสต์หนึ่งกล่าวว่า "ในขณะที่มีฝ่ายที่เรียกร้องให้ไม่มีการควบคุม จีนได้เสนอร่างที่ครอบคลุมการใช้ AI ของสังคมโดยรวม" และมองว่าความล่าช้าในการควบคุมเป็นปัญหา LinkedIn

จากมุมมองนี้ มีเสียงที่บอกว่าการจัดการกับ "การพึ่งพา AI เพื่อนคู่ใจ" หรือ "การควบคุมอารมณ์" เป็นสิ่งจำเป็นทั่วโลก และการสร้างกฎยิ่งเร็วยิ่งดี

② ฝ่ายที่ว่า "การปกป้องในนามของการเสริมสร้างการเฝ้าระวัง?"

ในทางกลับกัน บน Reddit มีการอภิปรายว่า ควรแยก "การควบคุมเพื่อปกป้องผู้ใช้" ออกจาก "การควบคุมข้อมูลที่รัฐต้องการ" ตัวอย่างเช่น มีการชี้ให้เห็นว่า "จีนมีการควบคุมที่เข้มงวดใน AI และอุตสาหกรรมเทคโนโลยีโดยทั่วไป" หรือในทางกลับกัน "สิ่งที่เปิดเผยต่อสาธารณะและสิ่งที่รัฐใช้เป็นสิ่งที่แยกกัน" และเกิดการโต้เถียงเกี่ยวกับวัตถุประสงค์ของการควบคุม
Reddit

นอกจากนี้ ในกระทู้แยกกัน มีเสียงที่ก