"ด้านมืดของนักบำบัด AI" ─ การวิจัยล่าสุดจากสแตนฟอร์ดเปิดเผย "อคติที่อันตราย"

มหาวิทยาลัยสแตนฟอร์ดได้ประกาศเมื่อวันที่ 13 กรกฎาคมว่า ได้วิเคราะห์แชทบอท AI สำหรับการบำบัด 5 ชนิด และพบว่าแสดง "การแสดงออกที่มีอคติ" และ "ความล้มเหลวในการแทรกแซงในสถานการณ์วิกฤต" พบว่ามีการตอบสนองที่เลือกปฏิบัติต่อโรคจิตเภทและการพึ่งพาแอลกอฮอล์ รวมถึงการตอบสนองที่ไม่เหมาะสมต่อการบ่งบอกถึงการฆ่าตัวตาย และเตือนว่า "การขยายขนาดของโมเดลไม่ได้เพิ่มความปลอดภัย" รายงานนี้ถูกเผยแพร่โดย TechCrunch และในโซเชียลมีเดียมีการถกเถียงกันอย่างกว้างขวางเกี่ยวกับ "เร่งการควบคุม" และ "อย่าทำให้การเข้าถึงยากขึ้น" ผู้เชี่ยวชาญชี้ว่าควรเร่งสร้างมาตรฐานความปลอดภัยและระบบการตรวจสอบ ในขณะที่เห็นว่ามีศักยภาพในกรณีการใช้งานเสริม