Symptomensuche von Google zu ChatGPT? Wie KI-Gesundheitsberatung Sicherheit und Risiken erweitert

Symptomensuche von Google zu ChatGPT? Wie KI-Gesundheitsberatung Sicherheit und Risiken erweitert

Jeder Vierte fragt zuerst die KI statt den Arzt – Die neue Norm der Gesundheitsberatung und ihre gefährlichen Grenzen

Ein Unwohlsein im Körper. Halsschmerzen, ein unruhiges Gefühl in der Brust, Schlaflosigkeit, unbekannte Begriffe in der Packungsbeilage eines Medikaments. In solchen Momenten öffneten viele Menschen bislang zuerst eine Suchmaschine. Doch dieser Einstieg beginnt sich leise zu verändern. Anstatt Wörter in ein Suchfeld zu tippen, wenden sich immer mehr Menschen an einen Chat, um zu fragen: „Was könnte dieses Symptom bedeuten?“, „Sollte ich zum Arzt gehen?“, „Kannst du die Nebenwirkungen des Medikaments einfach erklären?“.

Eine von EY durchgeführte Umfrage, die in deutschen Medien vorgestellt wurde, zeigt diesen Wandel in Zahlen. In Deutschland haben 54 % der Befragten in den letzten Monaten KI-Anwendungen genutzt, und 23 % gaben an, KI zu nutzen, um „schnell Gesundheitsinformationen zu erhalten, ohne zum Arzt zu gehen“. Zudem sagten 20 %, dass sie ihre Symptome mit einem Chatbot wie ChatGPT analysiert haben. 14 % nutzten es für Gespräche über psychische Gesundheit, und 10 % verwendeten es, um die Packungsbeilage von Medikamenten zu verstehen.

Wichtig ist hier, dass KI nicht mehr nur ein „praktisches Suchwerkzeug“ ist. Nutzer wenden sich nicht nur mit körperlichen Symptomen, sondern auch mit Ängsten, Einsamkeit, Fragen zu Medikamenten und der Unsicherheit, ob sie einen Arzt aufsuchen sollten, an die KI. Anstatt eine Liste von Suchergebnissen selbst zu vergleichen, fragen sie die KI: „Wie sollte ich in meinem Fall denken?“. Dies ist eher eine Beratung als eine Informationsbeschaffung.

Im Hintergrund steht das Problem des Zugangs zur medizinischen Versorgung. Es ist schwierig, einen Termin im Krankenhaus zu bekommen, die Sprechzeiten sind begrenzt, Kosten und Wartezeiten sind ein Thema, und es ist schwer zu entscheiden, ob die Symptome leicht oder schwerwiegend sind. Als Lösung für diese alltäglichen Unannehmlichkeiten erscheint eine KI, die rund um die Uhr antwortet, attraktiv. Besonders in Situationen, in denen man „schnell beruhigt werden möchte“, „es vielleicht nicht wert ist, den Arzt zu fragen“ oder „vor dem Arztbesuch den Kopf sortieren möchte“, ist die KI sehr benutzerfreundlich.

Die Reaktionen in den sozialen Medien spiegeln diese Bequemlichkeit gut wider. In öffentlichen Beiträgen und Foren sind positive Stimmen zu hören wie „Ich kann meine Fragen sortieren, bevor ich ins Krankenhaus gehe“, „Es hilft, Notizen für das Gespräch mit dem Arzt zu machen“, „Ich habe meine Symptome eingegeben und wurde zur Konsultation aufgefordert, was letztendlich der Anlass war, ins Krankenhaus zu gehen“. Auf Reddit wird oft über Erfahrungen berichtet, bei denen die KI bei der Differenzialdiagnose und der Entscheidung zur Konsultation geholfen hat. Einige Beiträge berichten sogar, dass die Antworten der KI dazu führten, dass sie einen Arzt konsultierten und auf eine übersehene Möglichkeit aufmerksam wurden.

Andererseits gibt es in denselben sozialen Medien auch starke Vorsicht. „KI ist kein Arzt“, „Es ist gefährlich, weil sie plausible Antworten gibt“, „Menschen, die ängstlich sind, neigen dazu, den bestimmenden Ton der KI zu glauben“, „Letztendlich werden mehr Menschen nicht mehr ins Krankenhaus gehen“. Diese Bedenken sind keineswegs nur emotional. Entscheidungen über die Gesundheit werden unter Berücksichtigung vieler Faktoren getroffen, wie Alter, Krankengeschichte, Medikamenteneinnahme, Testergebnisse, Lebensumfeld, Symptomveränderungen und der Zustand der Person. Die wenigen Zeilen, die in ein Chatfenster eingegeben werden, unterscheiden sich in Qualität und Quantität von den Informationen, die ein Arzt im Behandlungszimmer erhält.

Die Stärke der KI liegt darin, allgemeine Informationen zu ordnen, Möglichkeiten aufzulisten und schwierige Begriffe zu vereinfachen. Zum Beispiel die Erklärung der Bedeutung von Testparametern, das Umschreiben von Packungsbeilagen in einfache Sprache, das Erstellen einer Liste von Fragen, die beim Arztbesuch gestellt werden sollten, oder das Zusammenfassen des Verlaufs von Symptomen in chronologischer Reihenfolge. In dieser Art der Nutzung kann die KI das Verständnis der Patienten unterstützen und die Kommunikation mit dem Arzt verbessern.

Schwierig ist es jedoch für die KI, zu beurteilen, „ob diese Person jetzt wirklich in Gefahr ist“. Symptome mit hoher Dringlichkeit wie Brustschmerzen, Atemnot, starke Kopfschmerzen, Bewusstseinsveränderungen, plötzliche Lähmungen, Selbstverletzungsgefahr oder schwere allergische Reaktionen können nicht allein anhand von Text sicher beurteilt werden. Wenn die KI eine Antwort gibt, die als „Beobachten Sie es einfach“ interpretiert werden kann, könnte dies zu einer Verzögerung bei der Konsultation führen. Umgekehrt kann eine übermäßige Betonung der Gefährlichkeit die Angst verstärken.

Im Bereich der psychischen Gesundheit ist noch mehr Vorsicht geboten. Die KI widerspricht nicht, antwortet sofort und hört lange zu. Für Menschen, die sich einsam oder ängstlich fühlen, kann diese Antwort als Rettung empfunden werden. Auch in sozialen Medien sind Reaktionen zu sehen wie „Ich kann der KI Dinge sagen, die ich niemandem sonst sagen kann“, „Es hilft, wenn ich nachts Angst habe“. Doch für die Unterstützung der psychischen Gesundheit sind die Fähigkeit, Krisenanzeichen zu erkennen, eine kontinuierliche Beziehung, die Verbindung zu lokalen Unterstützungssystemen und die Beurteilung durch Fachleute unerlässlich. Dass die KI einfühlsame Texte zurückgeben kann, bedeutet nicht, dass sie verantwortungsvolle Unterstützung leisten kann.

Interessant an der aktuellen Umfrage ist, dass die Nutzungsrate in Deutschland unter dem weltweiten Durchschnitt liegt. Weltweit wird die Nutzung von KI im Gesundheitsbereich mit 62 % angegeben, in Indien sind es 90 %, in China 89 %. Japan liegt mit 42 % auf einem niedrigen Niveau unter den untersuchten Ländern. Auch Deutschland liegt mit 54 % unter dem weltweiten Durchschnitt. Dies wird nicht nur durch den Grad der Technologieverbreitung beeinflusst, sondern auch durch das Vertrauen in das Gesundheitssystem, das Empfinden für persönliche Daten, die kulturelle Distanz zur KI und die Erwartungen an die Regulierung.

In Deutschland, obwohl die Nutzung von KI zunimmt, gaben nur 28 % an, dass sie „KI gut verstehen und sinnvoll nutzen können“. Das bedeutet, dass viele Menschen es nutzen, aber nicht unbedingt die Funktionsweise und Grenzen verstehen. Diese Lücke ist das größte Risiko bei Gesundheitsberatungen. Die Antworten der KI wirken natürlich, beruhigend und manchmal wie von einem Experten. Doch die Geschmeidigkeit dieser Texte garantiert keine Genauigkeit.

 

Der in sozialen Medien häufig geäußerte Hinweis „Die Antworten der KI sind zu selbstsicher“ trifft genau dieses Problem. Ein menschlicher Arzt würde in Situationen, in denen er sagen würde „Das kann man ohne Tests nicht wissen“, „Es gibt eine Möglichkeit, aber ich kann es nicht bestätigen“ oder „Gehen Sie vorsichtshalber zum Arzt“, oft Unklarheiten lassen, während die KI die Möglichkeiten in geordneter Sprache aufzeigt. Diese Klarheit gibt zwar Sicherheit, kann aber gleichzeitig zu falschen Überzeugungen führen. Wenn Nutzer entscheiden: „Die KI hat gesagt, es ist in Ordnung“, verwandelt sich die Bequemlichkeit in Gefahr.

Sollte man also die Nutzung von KI-Gesundheitsberatungen vermeiden? Die Antwort ist nicht einfach. In der Realität nutzen es bereits viele Menschen. Ein Verbot oder eine Ablehnung kann mit der tatsächlichen Nutzung nicht Schritt halten. Notwendig ist, KI nicht als Ersatz für Ärzte zu sehen, sondern als „Hilfslinie vor und nach dem Erreichen eines Arztes“.

Zum Beispiel, um vor dem Arztbesuch den Verlauf der Symptome zu ordnen. Um in der Untersuchung zu übermittelnde Informationen stichpunktartig festzuhalten. Um die Fachbegriffe in der Packungsbeilage eines Medikaments allgemein zu verstehen. Um Fragen zu den Testergebnissen zu überlegen, die man dem Arzt stellen sollte. Um allgemeine Optionen zur Verbesserung der Lebensgewohnheiten zu kennen. In dieser Art der Nutzung kann die KI ein Werkzeug sein, das die Eigenständigkeit der Patienten erhöht.

Im Gegensatz dazu gibt es auch Nutzungsweisen, die vermieden werden sollten. Die Dosierung von Medikamenten nur auf Grundlage der KI-Antworten zu ändern. Die Konsultation abzubrechen. Eine Diagnose festzulegen. Dringende Symptome nur durch Chat zu beurteilen. Sich bei einer schweren psychischen Krise ausschließlich auf die KI zu verlassen. Leichtfertig medizinische Informationen einzugeben, die eine Identifizierung der Person ermöglichen. Diese bergen mehr Risiken als Bequemlichkeit.

Auch das medizinische Personal muss sich ändern. Ärzte und medizinische Einrichtungen sollten nicht einfach sagen „Verwenden Sie keine KI“, sondern erklären, „wie man sie sicher verwendet“, in der Annahme, dass Patienten mit Informationen aus der KI kommen. Wenn Patienten mit Antworten der KI kommen, wird Vertrauen nicht aufgebaut, indem man sie einfach ablehnt. Vielmehr ist es wichtig, gemeinsam zu überprüfen, welche Teile angemessen und welche gefährlich sind.

Unternehmen und KI-Entwickler tragen ebenfalls Verantwortung. Bei Gesundheitsberatungen sind nicht nur die Verständlichkeit der Antworten, sondern auch die Offenlegung von Grenzen, die Förderung von Konsultationen im Notfall, der Schutz persönlicher Daten, die Überprüfung durch Fachleute und die Unterdrückung gefährlicher Ratschläge unerlässlich. Besonders in den Bereichen psychische Gesundheit, Medikamente, Diagnosen und Behandlungsrichtlinien ist ein Design erforderlich, das verhindert, dass Nutzer die KI als „sicheren Experten“ missverstehen.

Die aktuelle Umfrage zeigt nicht, dass KI die Medizin auf einen Schlag ersetzt. Vielmehr zeigt sie, wie viele Ängste und Unsicherheiten Menschen haben, bevor sie Zugang zur medizinischen Versorgung haben. Der Grund, warum KI gewählt wird, ist nicht, dass sie perfekt ist. Sondern weil sie sofort antwortet, leicht zu fragen ist, auch peinliche Dinge gefragt werden können und die psychologische Hürde vor dem Gang zu einer medizinischen Einrichtung senkt.

Doch das eigentliche Ziel der Gesundheitsberatung ist nicht, dass die KI antwortet. Es ist, dass die Menschen, die es brauchen, zur richtigen Zeit die angemessene medizinische Versorgung oder Unterstützung erhalten. KI könnte den Eingang erweitern. Aber wenn der Eingang zum Ausgang wird, ist das gefährlich.

Das Verhalten, „zuerst die KI zu fragen“, wird in Zukunft noch allgemeiner werden. Daher ist die Frage nicht, ob man KI verwendet oder nicht, sondern wo man die Grenze zieht, wie viel man ihr überlässt und ab wann man zu menschlichen Experten übergeht. In der Ära der KI-Gesundheitsberatung ist weder blindes Vertrauen in die KI noch ihre Ablehnung erforderlich. Vielmehr ist es wichtig, sie als praktischen Gesprächspartner zu nutzen, während man die endgültige Entscheidung nicht von der menschlichen Medizin trennt.


Quellenverzeichnis

Verwandte Artikel