„Die dunkle Seite von AI-Therapeuten“ – Neueste Forschung der Stanford-Universität enthüllt „gefährliche Vorurteile“

Die Stanford-Universität gab am 13. Juli bekannt, dass sie fünf AI-Therapie-Chatbots analysiert und dabei „voreingenommene Äußerungen“ sowie „Fehler bei der Krisenintervention“ festgestellt hat. Diskriminierende Antworten in Bezug auf Schizophrenie und Alkoholabhängigkeit sowie unangemessene Reaktionen auf Andeutungen von Suizid wurden aufgedeckt, und es wurde gewarnt, dass die Vergrößerung der Modelle die Sicherheit nicht erhöht. Dieser Bericht wurde von TechCrunch verbreitet, und in den sozialen Medien entbrannte eine hitzige Debatte zwischen „Beschleunigt die Regulierung“ und „Beeinträchtigt nicht die Zugänglichkeit“. Experten sehen zwar Potenzial in unterstützenden Anwendungsfällen, weisen jedoch darauf hin, dass der Aufbau von Sicherheitsstandards und Auditsystemen dringend vorangetrieben werden sollte.