Bauchgefühl statt Chatbot

„Künstliche Intelligenz wird auch aus medizinischer Sicht nicht mehr aus unserem Alltag wegzudenken sein“, ist Marlene Heckl überzeugt. Für die deutsche Ärztin und Wissenschaftsjournalistin geht es aktuell vor allem um die Frage, wie wir diese sinnvoll einsetzen können. Denn immer mehr Menschen nutzen KI-gestützte Tools wie ChatGPT, Gemini oder Copilot zur Recherche bei Gesundheitsfragen. Laut den Daten von OpenAI, dem US-amerikanischen Softwareunternehmen hinter ChatGPT, sind es 40 Millionen Menschen täglich. Ein plötzliches Stechen in der Hüfte, ein Pochen in der Schläfe oder länger anhaltende Müdigkeit? Dr. ChatGPT und seine Kollegen sind 24 Stunden erreichbar, und das größtenteils kostenlos. Seit Anfang des Jahres können sich User:innen – vorerst nur in Amerika – in eine Warteliste für „ChatGPT Health“ eintragen lassen. Für Heckl ist das Vertrauen in KI-Tools wenig überraschend: „Viele Patient:innen fragen KI-Chatbots auch deswegen, weil sie davon ausgehen, genauere und einfühlsamere Antworten zu bekommen als in einer fünfminütigen Sprechstunde beim Arzt“, schreibt sie in ihrem kürzlich erschienenen Buch „Bauchgefühl: So triffst du die beste Entscheidung für deine Gesundheit“ (Scorpio Verlag, € 20,60). Sie ist überzeugt: „Richtig eingesetzt, kann KI Brücken bauen, besonders in komplexen oder emotional belastenden Situationen.“ Etwa, wenn seltene Erkrankungen im ersten Schritt verständlich erklärt werden sollen.

Doch was verlockend klingt, birgt Risiken und Nebenwirkungen, die nicht in der Packungsbeilage stehen: Forscher:innen warnen jetzt schon davor, dass das vermeintliche Gesundheitsservice von „ChatGPT Health“ nicht einmal medizinische Notfälle erkenne. Nur 48 Prozent werden als solche eingestuft. Eine Studie der Oxford University, erschienen im Fachmagazin Nature Medicine, nimmt darüber hinaus die gängigen generativen Chatbots in die Mangel. Basierend auf dem großen Sprachmodell (LLM – Large Language Model), liefern auch diese häufig unzutreffende Ergebnisse. Der Grund liege bei den User:innen selbst: Viele erstellen ihre Suchanfragen, sogenannte Prompts, nicht ausreichend. Für Symptome wie stechende Kopfschmerzen oder Übelkeit stehen den generativen Bots zwar große Datenmengen zur Einordnung zur Verfügung, doch bei fehlenden Informationen beziehungsweise Mehrdeutigkeit kann es schwierig sein, daraus die richtigen Schlüsse zu ziehen. Außerdem sind die Daten, auf die KI-Tools zugreifen, nicht tagesaktuell. Neueste Studien beziehungsweise medizinische Erkenntnisse werden möglicherweise nicht in die Einordnung miteinbezogen. Das erwähnen die Chatbots nicht, im Gegenteil. Sie sind darauf trainiert, ihre Antworten überzeugend wirken zu lassen, und werden dafür mitunter auch erfinderisch. „Fachleute sprechen hier von sogenannten Halluzinationen: Antworten, die plausibel klingen, aber ungenau oder sogar falsch sein können“, weiß Heckl. Für medizinische Laien sei es oft schwer, zu erkennen, wo die Fehler liegen. Darüber hinaus reagieren KI-Systeme stark auf die Art der Frage, gibt die Medizinerin, die derzeit ihre Facharztausbildung im Bereich Psychiatrie und Psychotherapie in München absolviert, zu bedenken: „Wer mit einer bestimmten Sorge sucht, bekommt häufig genau dazu passende Einschätzungen. Die Ergebnisse sind immer auch durch die Fragestellung geprägt und weniger objektiv, als wir vielleicht denken.“ Zu bedenken ist weiters, dass kostenlose Versionen immer fehleranfälliger sind als die Pro-Modelle, betonen Expert:innen.

Dass viele Menschen in medizinischen Belangen auf generative KI-Tools wie ChatGPT setzen, beeinflusst das Vertrauensverhältnis zwischen Ärzt:innen und Patient:innen, beobachtet Heckl: „Einerseits gehen Patient:innen heute informierter und selbstbewusster in Gespräche. Gleichzeitig entstehen neue Spannungen. Denn wer viel im Internet liest oder eine KI befragt, kommt oft mit Eindrücken in die Sprechstunde, die nicht immer zur eigenen Situation passen.“ Die Ärztin ermutigt aufgrund dieser Entwicklungen dazu, wieder mehr auf die eigene Körperwahrnehmung zu vertrauen: „Es klingt banal, aber man kann zum Beispiel selbst beobachten: Wann fühle ich mich wirklich erholt? Wann merke ich, dass mir etwas zu viel wird? Und wie verändern sich Beschwerden im Laufe von ein paar Tagen?“ In ihrem Praxisalltag nimmt Heckl wahr, dass viele Patient:innen den Zugang zu sich selbst verloren haben – die perfekte Ausgangslage, um in eine Online-Recherche zu kippen. Dabei könne der innere Kompass dabei helfen, medizinisch fundierte Entscheidungen zu treffen: „Wenn man lernt, Zusammenhänge zu erkennen, merkt man, wann der Körper eine Pause braucht – und nicht unbedingt sofort eine Untersuchung.“

Auf der anderen Seite können auch Ärzt:innen etwas dazu beitragen, die Beziehung zu ihren Patient:innen im KI-Zeitalter zu stärken: „Häufig sind es gar nicht die großen Dinge, die den Unterschied machen, sondern kleine Momente im Gespräch. Verständliche Erklärungen, ein paar Minuten für offene Fragen oder das ehrliche Eingestehen von Unsicherheiten“, ist Heckl überzeugt. „Gute Kommunikation braucht nicht immer mehr Zeit, sondern vor allem Aufmerksamkeit.“ Langfristig sei dafür aber auch ein Umdenken in der Medizin notwendig: „Kommunikation sollte schon in der Ausbildung einen größeren Stellenwert haben.“ Wer bei Symptomen dennoch im Internet recherchieren möchte, ist mit Suchmaschinen wie Google oftmals besser beraten – auch das zeigt die Oxford-Studie: Hier werden den Nutzer:innen unabhängig von ihren Anfragen in der Regel aktuellere Datenlagen präsentiert. Langfristig hofft die Autorin dennoch auf eine positive Entwicklung der Dreiecksbeziehung: „Entscheidend wird sein, dass man offen darüber spricht, wie KI in medizinische Entscheidungen einfließt. Wenn das gelingt, können digitale Tools das Vertrauen sogar stärken, weil Patientinnen und Patienten sich besser verstanden und einbezogen fühlen.“