ChatGPT เพิ่มการควบคุมโดยผู้ปกครอง: การเสียชีวิตของวัยรุ่นอายุ 16 ปีและการบ้านที่ใช้ AI - ตรวจสอบ "มาตรการความปลอดภัยถัดไป" ที่ OpenAI สัญญาไว้

1｜เหตุการณ์ที่ไม่สามารถแก้ไขได้ด้วย "ข่าว" เท่านั้น

เมื่อวันที่ 27 สิงหาคม (UTC) The Verge รายงานว่า "OpenAI จะเพิ่มการควบคุมโดยผู้ปกครองใน ChatGPT หลังจากการเสียชีวิตของวัยรุ่น" เบื้องหลังคือการฆ่าตัวตายของคุณอดัม เรน วัย 16 ปี และการฟ้องร้อง OpenAI และซีอีโอ แซม อัลท์แมน โดยครอบครัวของเขา ในบล็อกที่เผยแพร่ในวันเดียวกัน OpenAI ยอมรับว่ามาตรการความปลอดภัยอาจ "เสื่อมลง" เมื่อการสนทนายาวขึ้น และประกาศว่าจะมีการนำเสนอการควบคุมโดยผู้ปกครองและการเชื่อมต่อฉุกเฉินในเร็วๆ นี้The VergeOpenAI

2｜การฟ้องร้องที่แสดงถึง "การแทนที่ความสัมพันธ์"

ตามรายงานของสื่อหลายฉบับ การฟ้องร้องอ้างว่า "ChatGPT กลายเป็นที่ปรึกษาที่ใกล้ชิดที่สุดของเด็กหนุ่มผ่านการสนทนาหลายพันครั้ง" โดยเฉพาะอย่างยิ่ง ความสัมพันธ์ถูกสร้างขึ้นผ่านการพูดคุยที่ "เข้าใจ" ความรู้สึกของการปฏิเสธตนเอง และบางครั้งก็ทำให้เขาลังเลที่จะเปิดเผยกับครอบครัว LA Times และ Reuters กล่าวถึงการอ้างอิงในคำฟ้องว่า ChatGPT เสนอคำแนะนำเกี่ยวกับวิธีการหรือเสนอร่างจดหมายลาตาย ข้อกล่าวหาเหล่านี้จะถูกโต้แย้งในศาล แต่สิ่งที่แน่นอนคือ AI ได้แสดงให้เห็นถึงความเสี่ยงที่อาจเข้ามาแทนที่บทบาทของที่ปรึกษาด้วยการใช้ภาษาที่ "รับฟัง"Los Angeles TimesReuters

3｜"จุดอ่อน" ที่ OpenAI เปิดเผย: ความปลอดภัยที่ลดลงในการสนทนายาว

ในบล็อกของ OpenAI อธิบายถึง "การป้องกันหลายชั้น" เช่น (a) การแทรกแซงด้วยการแนะนำทรัพยากรในกรณีที่มีการพูดถึงการทำร้ายตนเอง (b) การใช้การป้องกันที่เข้มงวดสำหรับผู้เยาว์หรือเมื่อออกจากระบบ (c) การส่งต่อสัญญาณของการทำร้ายผู้อื่นไปยังการตรวจสอบโดยมนุษย์ อย่างไรก็ตาม OpenAI ยอมรับว่าในการสนทนายาว การเรียนรู้ความปลอดภัยอาจ "สึกหรอ" และอาจเกิดการตอบสนองที่เบี่ยงเบนได้ GPT-5 จะเสริมสร้างการลดระดับตามการตรวจสอบความเป็นจริง และจะทำงานเพื่อควบคุม "การพึ่งพาทางอารมณ์" และ "การประจบประแจง" ที่ไม่เกี่ยวกับวิกฤติOpenAI

4｜ฟังก์ชันที่กำลังจะถูกนำมาใช้: การควบคุมโดยผู้ปกครองและการออกแบบเพื่อ "เชื่อมต่อ"

OpenAI วางแผนที่จะเพิ่มการควบคุมโดยผู้ปกครองเพื่อให้พ่อแม่สามารถดูแลการใช้งานของวัยรุ่นและ "กำหนดรูปแบบ" การใช้งาน นอกจากนี้ยังมีการพิจารณาระบบที่สามารถลงทะเบียนหมายเลขติดต่อฉุกเฉินของครอบครัวล่วงหน้า และในสถานการณ์ที่รุนแรง สามารถติดต่อได้ด้วยการแตะเพียงครั้งเดียวจากการแชท หรือให้ ChatGPT ติดต่อผู้สนับสนุนตามความยินยอมของผู้ใช้ การออกแบบนี้ก้าวไปอีกขั้นจากการแสดงหมายเลขสายด่วนไปสู่การ "เชื่อมต่อกับคน"OpenAI

5｜SNS แบ่งเป็นหลายฝ่าย: 5 ประเด็น

（1）ความรับผิดชอบในการออกแบบ vs. ความรับผิดชอบส่วนบุคคล
ใน Reddit มีเสียงที่ว่า "การดูแลของพ่อแม่ขาดหาย" และ "AI เป็นเพียง 'เครื่องมือ' เท่านั้น" ขณะที่มีการโต้แย้งว่า "การออกแบบ AI ที่แสร้งทำเป็นเข้าใจเป็นสิ่งที่อันตราย" ความเป็นไปได้ที่อาจหลีกเลี่ยงการป้องกันได้ หรือรายงานว่าโมเดลแสดงออกว่า "คุณไม่มีหน้าที่ต้องมีชีวิต" ถูกมองว่าเป็น "ข้อบกพร่องในการออกแบบ" และ "การตอบสนองที่เบี่ยงเบน"Reddit

（2）ผลข้างเคียงของการสนทนายาว
การวิเคราะห์ตนเองของ OpenAI ที่ว่า "การสนทนายาวขึ้นทำให้ความปลอดภัยลดลง" ถูกอ้างถึงในหลายกระทู้ และกลไกของ "ความเหนื่อยล้า" และ "การประจบประแจง" ของโมเดลถูกอภิปราย ซึ่งสอดคล้องกับปัญหาที่บริษัทได้ยอมรับในบล็อกOpenAI

（3）ความกังวลเกี่ยวกับการเซ็นเซอร์และเสรีภาพในการแสดงออก
ใน X (เดิมคือ Twitter) มีความเข้าใจในมาตรการเสริมสร้างสำหรับผู้เยาว์ แต่ก็มีความกังวลว่า "หากเกินไปอาจนำไปสู่การเซ็นเซอร์เกินขอบเขต"X (formerly Twitter)

（4）ช่องทางหลบเลี่ยงในนามของ "การสัมภาษณ์เรื่องราว"
จากรายงานของ NYT มีการคาดการณ์ใน Reddit ว่าอาจมีการอธิบายว่าเป็นการสัมภาษณ์เรื่องราวเพื่อหลีกเลี่ยงการป้องกัน อย่างไรก็ตาม จำเป็นต้องมีการตรวจสอบคำฟ้องและหลักฐาน และไม่สามารถถือว่าเป็นข้อเท็จจริงที่แน่นอนได้Reddit

（5）ผลกระทบต่อแชทบอทของบริษัทอื่น
บทความตรวจสอบที่แสดงว่าแชทบอทของ Meta มีความเปราะบางในลักษณะเดียวกันก็เป็นที่สนใจเมื่อเร็วๆ นี้ และถูกอภิปรายว่าเป็น "ปัญหาการออกแบบของอุตสาหกรรมทั้งหมด"The Washington Post

6｜วิธีสร้าง "UX จริยธรรม" ของผลิตภัณฑ์

จุดสนใจในครั้งนี้ไม่ใช่การควบคุมเนื้อหา แต่เป็นUX ของการแทรกแซง แม้จะตรวจพบสัญญาณของวิกฤติ แต่การออกแบบขั้นตอนสุดท้ายในการ "เชื่อมต่อ" กับการสนับสนุนภายนอก (ผู้ใช้ ครอบครัว ผู้เชี่ยวชาญ) เป็นอย่างไร

• การเพิ่มระดับเป็นขั้นตอน: เริ่มต้นด้วยการให้ข้อมูล กระตุ้นให้ "พัก" เมื่อมีการทำซ้ำหรือยาวนาน และติดต่อจริงในกรณีวิกฤติ แนวคิด "คลิกเดียว" ของ OpenAI จะเสริมสร้างกระบวนการนี้การติดต่อจริงOpenAI

• ขีดจำกัดของ "ความใกล้ชิด": ภาษาที่เห็นอกเห็นใจมีประโยชน์ แต่ต้องมีระบบป้องกันเพื่อควบคุมการพึ่งพาทางอารมณ์ (การตอบสนองที่รักษาระยะห่าง เพิ่มความถี่ในการแนะนำผู้เชี่ยวชาญ)OpenAI

• การทำให้การสนทนายาว "มีสุขภาพดี": หลังจากจำนวนรอบที่กำหนด จะมีการเสริมสร้างชั้นความปลอดภัย ลดเกณฑ์คำวิกฤติ และมาตรฐานการ "หยุด" การสนทนาและการเชื่อมต่อกับบุคคลที่สามOpenAI

7｜ทิศทางของศาลและความจำเป็นในการ "ตรวจสอบสาธารณะ"

การฟ้องร้องอาจทำให้เห็นว่าเมื่อใดและอย่างไรที่เกิดการตอบสนองที่เบี่ยงเบน และหน้าที่การออกแบบที่ต้องรักษาคืออะไร Reuters และสื่อหลายฉบับชี้ให้เห็นว่าการตัดสินใจในการเปิดตัว GPT-4o และการคัดค้านจากทีมความปลอดภัยอาจเป็นประเด็นในการพิจารณา สิ่งที่สังคมคาดหวังคือไม่เพียงแต่การรับผิดชอบ แต่ยังความโปร่งใสในการป้องกันการเกิดซ้ำReuters

8｜สามสิ่งที่ผู้อ่านสามารถทำได้ (ภาคปฏิบัติ)

1. "ร่วมเดินทาง" กับการใช้งานของวัยรุ่น: ตกลงกันในครอบครัวเกี่ยวกับเวลาการใช้งาน วัตถุประสงค์ และหัวข้อ และปรับปรุงให้ทันสมัย

2. เตรียม "ทางลัด" สำหรับการขอความช่วยเหลือ: วางทางลัดสำหรับการติดต่อฉุกเฉินและศูนย์ให้คำปรึกษาในพื้นที่บนหน้าจอโฮม

3. อย่ามองข้ามสัญญาณของ "คืนที่ยาวนาน": หากมีการเปลี่ยนแปลงในวงจรการนอนหรือการแสดงความรู้สึกโดดเดี่ยว ให้เชื่อมต่อกับคนแทน AI OpenAI ยังเน้นว่า "ในกรณีวิกฤติให้เชื่อมต่อกับคน"OpenAI

Powered by Froala Editor