「La oscuridad del terapeuta de IA」 ─ La última investigación de Stanford revela los "prejuicios peligrosos"

La Universidad de Stanford anunció el 13 de julio que analizó cinco chatbots de terapia de IA y confirmó la presencia de "expresiones sesgadas" y "fallos en la intervención en crisis". Se identificaron respuestas discriminatorias hacia la esquizofrenia y la dependencia del alcohol, así como respuestas inapropiadas ante insinuaciones de suicidio, advirtiendo que "el aumento del tamaño del modelo no mejora la seguridad". Este informe fue difundido por TechCrunch, y en las redes sociales surgieron opiniones divididas entre "apresurar la regulación" y "no comprometer la accesibilidad". Los expertos señalan la posibilidad de casos de uso complementarios, pero subrayan la necesidad urgente de establecer estándares de seguridad y un sistema de auditoría.