KI-Nutzung bei Gesundheitsfragen: Wie kann ich die Verlässlichkeit der Ergebnisse überprüfen?

Berlin, 29. April 2025 – Immer mehr Menschen nutzen bei ihrer Suche nach Informationen künstliche Intelligenz (KI) in Form von KI-Chatbots. Diese können auch bei Gesundheitsfragen schnelle Ergebnisse liefern. Aber gerade beim Thema Gesundheit sollte man den Antworten nicht blind vertrauen. Die Stiftung Gesundheitswissen erklärt, wie einfach man prüfen kann, ob ein KI-Chatbot seriöse Ergebnisse produziert. 

Chatbots wie z. B. ChatGPT werden mit einer großen Menge an Textdaten aus Webseiten, digitalisierten Artikeln, Büchern und anderen Quellen trainiert. Dabei erfasst die KI Muster unserer Sprache und lernt, Wahrscheinlichkeiten für Wörter und Wortfolgen bestmöglich vorherzusagen. Diese nutzt sie dann, um Antworten auf Nutzeranfragen zu generieren. So können sie auf Fragen antworten oder gleich ganze Arbeitsaufträge erledigen, indem sie z. B. Inhalte zu bestimmten Krankheiten zusammenstellen. Um die Ergebnisse richtig einzuordnen, ist es wichtig zu wissen, dass die KI in ihren Antworten zwar menschlich anmutet, sie aber nicht wie ein Mensch denkt. Sie versteht die Nutzerfragen und die eigenen Antworten nicht. Stattdessen erkennt sie Sprachmuster.

Manchmal baut die KI auch falsche Antworten zusammen. Ob die Antworten korrekt sind, überprüft sie nicht. KI-Chatbots sind außerdem darauf programmiert, auf jede Frage eine Antwort zu liefern. Das tun sie auch, wenn ihnen keine passenden Informationen zur Frage vorliegen. Dann erzeugt die KI häufig eine sogenannte Halluzination: einen Inhalt, der auf den ersten Blick zwar plausibel klingt, aber frei erfunden ist. Zudem können die Informationen, mit denen die KI trainiert wurde, veraltet sein. Eine Fehlerquelle kann auch der Nutzer selbst sein. Etwa wenn seine Frage voreingenommen formuliert ist.

Insbesondere bei Gesundheitsfragen können fehlerhafte Informationen vom KI-Chatbot schwerwiegende Folgen haben. Deshalb sollten Sie die Antworten immer mit folgenden Schritten überprüfen:

• Antworten kritisch gegenlesen: Passen die Antworten auf die Frage und klingen sie plausibel und nachvollziehbar? Wenn Zweifel aufkommen, stellen Sie Nachfragen an den Chatbot.
• Quellen angeben lassen: Fordern Sie den Chatbot auf, die Quellen für die aufgeführten Informationen aufzulisten. Dann lässt sich überprüfen, ob die Quellen aufrufbar sind, ob der Inhalt mit den Quellen übereinstimmt und ob diese vertrauenswürdig sind. Werden in den Quellen Autoren genannt? Ist die Quelle unabhängig?
• Im Zweifel hilft ein Vergleich: Gleichen Sie die Chatbot-Informationen mit anderen vertrauenswürdigen Informationen ab.
• Selbstkontrolle durch die KI: Manchmal kann es hilfreich sein, den Chatbot aufzufordern, die Antwort selbst zu beurteilen, indem Sie fragen, wie hoch die Wahrscheinlichkeit ist, dass die Antwort zutreffend ist, oder indem Sie der KI befehlen, noch einmal nach Fehlern zu suchen und diese zu korrigieren.

Wichtig: Bei Fragen, die Ihre Gesundheit betreffen, kann eine KI-Recherche lediglich eine Unterstützung oder erste Orientierung für Sie sein. Den Besuch beim Arzt kann sie nicht ersetzen.