Wie wird die Zukunft der Medizin durch KI verändert? Verringert oder erhöht KI die Unsicherheit? Apple plant eine Untersuchung zur tatsächlichen Nutzung von Gesundheitsberatungen.

Wie wird die Zukunft der Medizin durch KI verändert? Verringert oder erhöht KI die Unsicherheit? Apple plant eine Untersuchung zur tatsächlichen Nutzung von Gesundheitsberatungen.

Mitten in der Nacht habe ich ein beunruhigendes Symptom entdeckt. In den Ergebnissen der Gesundheitsuntersuchung stehen unbekannte Begriffe. Die Fragen, die ich während der Konsultation stellen wollte, fallen mir erst zu Hause wieder ein.

In solchen Momenten kann man einfach mit dem Smartphone sprechen, und die KI gibt sofort eine Erklärung. Einerseits fühlt es sich praktisch an, andererseits bleibt die Frage: Wie sehr kann man diesen Antworten vertrauen?

Die von Apple in den USA gestartete „Apple Health AI Usage Study“ ist eine Forschung, die sich mit dieser Frage auseinandersetzt. Sie untersucht, wie Menschen, die sich mit der KI über Gesundheitsthemen beraten lassen, die Antworten aufnehmen, verstehen und danach handeln.

Bemerkenswert ist, dass nicht nur die Technik zur Erstellung der Antworten im Fokus steht, sondern auch die Menschen, die diese Antworten lesen. Es wird versucht, den Unterschied zwischen einer plausibel wirkenden Erklärung und einer wirklich hilfreichen Erklärung aus der Praxis heraus zu ermitteln.


Antworten auf alltägliche Fragen mit medizinischer Literatur

Die Nutzer verwenden eine spezielle Forschungs-App. Die Antworten basieren auf der Technologie von OpenEvidence, die klinische KI für medizinisches Fachpersonal bereitstellt.

Die Teilnehmer können Fragen zur Gesundheit stellen und erhalten medizinische Informationen in verständlicher Sprache erklärt. Die Antworten enthalten Links zu den zugrunde liegenden, peer-reviewed medizinischen Publikationen.

Teilnehmer, die dies wünschen, können über HealthKit Daten wie Herzfrequenz, Schlaf, Aktivität und Testergebnisse teilen. Die Forschung interessiert sich dafür, ob Erklärungen leichter verständlich werden, wenn sie mit persönlichen Informationen kombiniert werden.

Zum Beispiel könnte sich die Wahrnehmung ändern, ob man eine allgemeine Erklärung zum Schlaf liest oder seine eigenen Aufzeichnungen zur Klärung von Fragen heranzieht. Allerdings ist nicht bewiesen, dass die Verwendung persönlicher Daten immer zu genaueren Ergebnissen führt. Die Nützlichkeit zu überprüfen, ist ebenfalls ein Ziel dieser Initiative.


„Vertrauenswürdig“ und „blind vertrauen“ sind nicht dasselbe

Eine Herausforderung bei der Betrachtung von Gesundheits-KI ist, dass die Lesbarkeit einer Erklärung nicht automatisch deren Richtigkeit bedeutet.

Wenn der Text natürlich klingt, medizinische Begriffe geordnet sind und sogar der Name einer renommierten Fachzeitschrift angegeben ist, wirkt die Antwort vertrauenswürdig. Dennoch muss separat überprüft werden, inwieweit die zitierte Forschung die Erklärung tatsächlich stützt.

Hier gibt es mindestens drei Stufen.

  • Dass medizinische Literatur in der Antwort angegeben ist
  • Dass der Inhalt dieser Literatur angemessen erklärt wird
  • Dass diese Erklärung auf die Situation des Ratsuchenden zutrifft

Wenn man all dies zusammenfasst und denkt „mit Literaturangabe ist es sicher“, könnte die Anzeige von Belegen zu übermäßigem Vertrauen führen.

Apple selbst erkennt an, dass Gesundheitsinformationen aus groß angelegten Sprachmodellen für Verbraucher unvollständig oder schwer verständlich sein können. Diese Forschung ist keine Ankündigung, dass die Sicherheit von Gesundheits-KI bereits bestätigt wurde.

Es ist wichtig, nicht nur zu sehen, ob die Nutzer zufrieden waren, sondern auch, was sie verstanden und was sie missverstanden haben.


Erwartungen an den „Mitternachtsberater“ und Vorsicht bei Zitaten in sozialen Netzwerken

In einem Reddit-Post, der sich mit dieser Ankündigung befasst, gab es Reaktionen, die gut die Situationen widerspiegeln, in denen Gesundheits-KI verwendet wird.

 

In der Apple-Community wurde scherzhaft vermutet, dass die Hauptanwendung, die in der Studie entdeckt wird, darin besteht, „um 2 Uhr morgens Fragen zu einem beunruhigenden Muttermal zu stellen“.

Dies ist kein Untersuchungsergebnis über das tatsächliche Nutzungsverhalten. Dennoch spiegelt es die Unsicherheit wider, wenn man zu einer Zeit, in der man niemanden fragen kann, auf eine KI zurückgreift, die jederzeit antwortet.

Im selben Thread gab es auch Stimmen, die sich fragen, ob die Gesundheits-App in Zukunft integriert wird, sowie Interesse an der Zusammenarbeit mit OpenEvidence. Kommentare, die eine Integration in Produkte vorhersagen, spiegeln jedoch nicht Apples Entscheidungen wider.

In einer anderen KI-bezogenen Community wurden vorsichtigere Punkte angesprochen. Ein Nutzer äußerte den Wunsch zu wissen, ob die Nutzer in der Lage sind, gut formulierte Antworten zu erkennen, die über den Inhalt der Quellen hinausgehen.

In den Antworten wurde auch die Frage aufgeworfen, ob das bloße Vorhandensein eines Zitats nicht bereits überzeugend wirkt, wenn viele Menschen die Quelle nicht öffnen.

Dies sind nur einige öffentliche Beiträge und repräsentieren nicht die gesamte öffentliche Meinung. Dennoch verdeutlichen sie die Herausforderungen, denen sich die Forschung stellt. Das Gefühl, dass KI zuverlässig ist, und die Fähigkeit, ihre Antworten angemessen zu bewerten, sind nicht unbedingt dasselbe.


Für japanische Leser ist die Nutzung zur „Vorbereitung auf die Konsultation“ naheliegend

In Japan könnte die Nachricht leicht zu der Frage führen, ob KI Ärzte ersetzen kann. Doch was in dieser Forschung greifbar erscheint, ist die Unterstützung bei der Vorbereitung auf die Konsultation.

Man möchte dem Arzt seinen Gesundheitszustand mitteilen, kann aber nicht genau erklären, wann sich etwas verändert hat. Es gibt viele Fragen, die man stellen möchte, und man ist unsicher, was man priorisieren soll. Solche Situationen sind leicht vorstellbar.

Zum Beispiel könnte es einfacher sein, das Gespräch zu beginnen, wenn man vor der Konsultation folgende Punkte klären kann:

  • Veränderungen, die einem aufgefallen sind, und deren Zeitpunkt
  • Fragen, die man dem Arzt stellen möchte
  • Informationen aus den Gesundheitsaufzeichnungen, die man bei der Konsultation zeigen möchte

Dies ist ein potenzielles Nutzungsszenario und bedeutet nicht, dass die Wirksamkeit in dieser Forschung nachgewiesen wurde.

Wenn man nur die von der KI gezogenen Schlussfolgerungen mitbringt, könnte es sein, dass der Arzt die Erklärung neu formulieren muss, um deren Angemessenheit zu überprüfen. Wenn jedoch die eigenen Fragen und der Verlauf gut organisiert sind, könnte dies das Gespräch unterstützen.

Es ist nicht nur die Länge der Zeit, die man mit der KI spricht, die bewertet werden sollte. Es ist auch die Veränderung, ob man in der anschließenden Konsultation die notwendigen Informationen vermitteln und die Erklärungen verstehen konnte.


Gesundheitsdaten sollten mit „Bequemlichkeit“ und Bedacht behandelt werden

Je mehr persönliche Aufzeichnungen verwendet werden, desto eher fühlt sich die Antwort auf einen selbst zugeschnitten an. Andererseits ist es auch eine Frage, die sorgfältig überlegt werden sollte, wie viel Gesundheitsinformationen man teilt.

Laut Apple können Teilnehmer entscheiden, ob sie HealthKit-Daten und Umfrageantworten teilen möchten. Zudem werden die Forschungsdaten nicht für das Training von KI-Modellen verwendet.

Die App verfügt über Mechanismen, die bestimmte besorgniserregende Fragen erkennen und bei Bedarf eine Beratung durch medizinisches Personal oder andere empfehlen.

Allerdings bedeutet „nicht für das Training verwenden“ nicht, dass die Daten nicht verarbeitet oder gespeichert werden. Auch die bloße Existenz von Sicherheitsmechanismen kann nicht alle gefährlichen Antworten verhindern.

Für die Nutzer ist es wichtig, nicht nur auf das Image des Unternehmens zu vertrauen, sondern zu verstehen, was geteilt wird und zu welchem Zweck es verwendet wird. Auch die Verständlichkeit dieser Erklärungen wird das Vertrauen in Gesundheits-KI beeinflussen.


Nutzung in Japan? Die aktuelle Forschung richtet sich an Teilnehmer in den USA

Laut der offiziellen Ankündigung von Apple richtet sich die Forschung an qualifizierte Personen ab 21 Jahren in den USA, mit einer maximalen Teilnehmerzahl von 200.000. Ein iPhone mit Apple Intelligence und iOS 26 oder höher ist erforderlich.

In der aktuellen Ankündigung ist keine Bereitstellung in Japan vorgesehen. Außerdem ist die Forschungs-App nicht als Ersatz für Diagnose, Behandlung oder medizinischen Rat gedacht.

Wenn man in Japan über ähnliche Dienste in der Zukunft nachdenkt, wird es wichtig sein zu prüfen, ob die Erklärungen auf Japanisch verständlich sind und ob sie in der japanischen Gesundheitsumgebung angemessen beraten können. Die Erkenntnisse aus den USA lassen sich nicht unbedingt direkt auf alle Nutzer in Japan übertragen.


Was Gesundheits-KI braucht, ist der Blick über die Antwort hinaus

Aus der aktuellen Forschung wird deutlich, dass die Bewertung von Gesundheits-KI nicht mit der Frage enden sollte, ob sie die Fragen gut beantwortet hat.

Konnte die Person, die die Antwort gelesen hat, ihre Fragen klären? Oder hat sie eine unsichere Erklärung in eine Gewissheit verwandelt? Hat es das Gespräch mit dem Arzt unterstützt? Hat es notwendige Konsultationen nicht verzögert?

Diese Aspekte sind schwer allein durch den Text auf dem Bildschirm zu messen.

Das Vertrauen in Gesundheits-KI kann nicht nur durch die Geschwindigkeit und Flüssigkeit der Antworten aufgebaut werden. Es geht darum, die Grundlagen und Grenzen zu kommunizieren und die Nutzer bei ihren nächsten Schritten zu unterstützen. Was bei Apples Forschung beachtet werden sollte, ist, inwieweit konkrete Antworten auf diese Fragen gegeben werden.


Quellen

  1. Digital Trends: Forschungs-App, Zusammenarbeit mit OpenEvidence, Konsultationsvorbereitung, Datenschutz-Erklärung.
    https://www.digitaltrends.com/cool-tech/apple-launches-health-ai-usage-study-to-explore-ai-health-advice/

  2. Apple Newsroom: Offizielle Ankündigung vom 15. November 2026. Zweck der Forschung, Teilnahmebedingungen, Umgang mit Daten, Bestätigung, dass sie nicht für Diagnose oder Behandlung gedacht ist.
    https://www.apple.com/newsroom/2026/11/apple-launches-research-study-to-explore-the-use-of-ai-for-health/Apple

  3. Reddit・r/apple: Reaktionen auf die aktuelle Ankündigung. Zusammenfassung von Kommentaren, die nächtliche Gesundheitsberatung vermuten, und Erwartungen an eine zukünftige Integration in Gesundheits-Apps.
    https://www.reddit.com/r/apple/comments/1xxfzzn/apple_launches_new_app_to_study_how_people_use_ai/reddit.com

  4. Reddit・r/artificial: Diskussionen über die aktuelle Forschung. Zusammenfassung von Beiträgen zur Konsistenz zwischen zitierten Quellen und Antworten und der Möglichkeit, dass das bloße Vorhandensein von Zitaten Vertrauen schafft.
    https://www.reddit.com/r/artificial/comments/1xxigdv/apple_opens_a_us_study_of_health_ai_that_can/reddit.com