1. 现在发生了什么

OpenAI估计，每周有“超过100万人”在ChatGPT上进行暗示自杀意图或计划的对话。这是基于每周8亿用户规模和0.15%的比例计算得出的。同时，0.07%（约56万人）表现出妄想或躁狂等可能存在紧急情况的迹象。《卫报》+1

2. 为什么向AI倾诉

因为AI可以在深夜立即响应，具有匿名性，并且提供“不被评判的安全感”。预约困难和污名化等医疗障碍也使AI成为“首选倾诉对象”。《卫报》

3. 能帮助到什么程度？（现状的安全措施）

OpenAI与超过170名临床医生合作，加强危机信号检测、安抚对话以及引导至现实世界的支持。OpenAI表示，新模型在遵循安全相关的理想响应方面有所提升。OpenAI+1

4. 仍然存在的风险

AI不是医疗。在灰色案例中可能会出现判断不一致。如果依赖固定化，可能会加深孤立。关于未成年人的诉讼和监管紧张局势也在加剧。《连线》+1

5. 对日本的影响

由于长时间工作、夜间孤立以及就诊门槛高，人们容易在深夜将AI作为“倾诉对象”。在加强AI的同时，必须加强与地区咨询窗口和医疗的连接。《卫报》

6. 法律和伦理问题

“在何时报告”“过度检测与隐私”“未成年人的对话数据与企业责任”——这些问题都尚未有明确答案。各国需要紧急制定法规和指导方针。OpenAI

7. 如果现在感到痛苦

AI可以成为一个契机，但保护生命的是人的支持。如果感到危机，请“立即”联系家人、朋友、工作场所、学校、地区窗口或紧急服务。OpenAI

8. 总结

“每周100万人”是反映社会孤独程度的数字。AI是桥梁。加强现实中的支持网络是下一个课题。《卫报》

由Froala Editor提供技术支持