von Anja Braunwarth
Mit Bauchweh oder Husten zum Arzt: Das scheint aus der Mode. Stattdessen setzen immer mehr Menschen auf medizinische Beratung durch Künstliche Intelligenz. Eine gute Entscheidung?
Immer mehr Menschen suchen medizinischen Rat bei Dr. KI. Doch es gibt Risiken und Grenzen.
Quelle: Imago / ingimageEinfache Erkältung oder eine Grippe? Harmloses Muttermal oder vielleicht doch Hautkrebs? Mit diesen und ähnlichen Fragen gingen Menschen jahrzehntelang zum Arzt. Heute wenden sie sich damit immer häufiger an virtuelle Assistenten, sogenannte Chatbots. Bereits ein Viertel der Bevölkerung nutzt hierzulande solche Anwendungen für medizinische Belange.
In Diagnose-Apps und Symptom-Checkern können Nutzer ihre Beschwerden eingeben. Ein Algorithmus berechnet mögliche Ursachen. Stiftung Warentest hat zehn kostenlose Apps getestet.
05.03.2025 | 2:47 minDie meisten Chatbots arbeiten auf Basis Künstlicher Intelligenz (KI). Das bedeutet, sie werden mit riesigen Datenmengen aus allen erdenklichen Fachbereichen gefüttert und trainiert. Die Daten stammen aus unterschiedlichen Quellen, zum Beispiel von Webseiten, aus Büchern oder Fachartikeln, und werden ständig aktualisiert.
Regelbasierte Chatbots beantworten einfache Fragen, auf die sie programmiert werden. Dagegen erhalten KI-basierte Chatbots kontinuierlich neue Informationen und lernen, Wörter und Inhalte miteinander zu verknüpfen. Aus diesen erlernten Mustern erzeugen sie dann Antworten auf Fragen.
Die Antworten sind jedoch nicht immer richtig, zum Beispiel, weil schon zugrunde liegende Daten falsch oder veraltet waren. Da die KI aber darauf programmiert ist, ein Ergebnis zu liefern, beginnt sie zu "halluzinieren". Das heißt, sie liefert eine frei erfundene Antwort, die völlig plausibel klingen kann. Das passiert bei regelbasierten Chatbots mit den einprogrammierten Antworten nicht.
Künstliche Intelligenz (KI) revolutioniert auch die Medizin. Algorithmen nehmen verstärkt Einfluss auf Diagnosen und Therapien. Was bedeutet das für Patienten?
13.05.2024 | 43:02 minEs gibt verschiedene KI-Chatbots, die unterschiedlich programmiert wurden. Bekannte Beispiele sind ChatGPT, Google Gemini, Copilot oder Perplexity. Inzwischen wächst auch die Zahl rein medizinischer Chatbots, die teilweise von Kliniken oder Krankenkassen angeboten werden.
Seriöse Systeme zeigen die Quellen an, aus denen die Informationen stammen. Gerade bei Gesundheitsfragen ist das von großer Bedeutung. Wird eine KI gezielt mit medizinischen Expertendaten gefüttert, hat sie ein ganz anderes Wissen als eine, die gleichzeitig Tipps zum Aktienmarkt oder Kochrezepte bereithalten soll, betont Michael von Wagner von der Stabsstelle Medizinische Informationssysteme und Digitalisierung der Universitätsmedizin Frankfurt am Main.
Je breiter ein System ist, desto schlechter ist seine Antwort zu spezifischen Fragen.
Dr. Michael von Wagner, Stabsstelle Medizinische Informationssysteme und Digitalisierung
Das sei auch nicht anders als bei menschlichen Experten. Patienten, die gesundheitlichen Rat suchen, sollten also versuchen, einen medizinisch gut gefütterten KI-Chatbot zu wählen, rät von Wagner.
Wie eine Gesundheits-App mit KI jungen Menschen helfen soll, mit psychischen Belastungen besser umzugehen.
02.04.2025 | 5:12 minWie gut KI-Chatbots auf Gesundheitsfragen eingehen, wird regelmäßig untersucht. Die Ergebnisse sind insgesamt ermutigend, da die KI-Systeme überwiegend richtige Aussagen liefern. Gibt man beispielsweise gravierende Symptome wie Atemnot oder Brustschmerzen an, ordnen KI-Chatbots diese in der Regel als alarmierend ein und fordern auf, den Notruf 112 zu wählen.
Bei einfachen Fragen, etwa zu Erkältungssymptomen oder Regelschmerzen, liefern sie schnell hilfreiche Tipps. Damit seien sie für banalere Probleme eine echte Hilfe, sagt von Wagner.
Ob Ärzte für ihre Arbeit Chatbots nutzen, ist ihnen prinzipiell selbst überlassen. Sie sollten aber die medizinischen Hintergründe der genutzten KI kennen, vor allem worauf die Daten beruhen, und die Ergebnisse immer kritisch hinterfragen. Sie sollten außerdem die Patienten über die Anwendung aufklären. Die Verantwortung für einen umgesetzten Vorschlag der KI liegt immer bei den Medizinern, nicht bei den Chatbots beziehungsweise ihren Herstellern.
Eine neue Studie aus Deutschland zeigt, wie signifikant KI die Trefferquote bei Mammografie-Screenings verbessert.
27.10.2025 | 4:41 minBei Fragen nach Medikamenten geben einige KI-Chatbots Empfehlungen, die gefährlich sein könnten, zum Beispiel zu Schmerzmittel-Kombinationen. Im Praxis-Check raten nicht alle Systeme dann dazu, zusätzlich Experten zu befragen.
Die KI sollte eigentlich klarmachen, dass die Einnahme noch mal dezidiert mit dem Arzt oder Apotheker zu besprechen ist.
Dr. Michael von Wagner, Universitätsmedizin Frankfurt am Main
Denn es gilt, mögliche Wechselwirkungen zu beachten, vor allem, wenn dauerhaft andere Medikamente eingenommen werden.
Digitale Psychotherapeuten, die zuhören und Ratschläge geben: Dank KI kann das Realität werden. Wie sinnvoll ist der Einsatz von Bots und Avataren im Therapiealltag?
14.07.2025 | 3:06 minIn manchen Fällen ist die Anwendung von KI-Chatbots schwieriger, zum Beispiel bei diffusen Beschwerden. Die Systeme geben unter Umständen Entwarnung, obwohl echte Gefahr besteht.
Oder sie sagen ganz im Gegenteil, es handele sich um etwas Ernsthaftes. Das kann eine Kaskade anstoßen, erklärt Stephen Gilbert vom Else Kröner Fresenius Zentrum für Digitale Gesundheit der Technischen Universität Dresden.
Es kann zu überflüssigen Untersuchungen führen, die nicht nur die Betroffenen, sondern auch das Gesundheitssystem belasten.
Stephen Gilbert, Professor für Medical Device Regulatory Science
Patienten sollten daher sowohl ihre Fragen als auch die Antworten gut überdenken und sich nicht nur auf die Empfehlungen von einem einzigen KI-Chatbot verlassen. Im Zweifel gilt: lieber auf den Rat des Arztes vertrauen.
Das Karlsruher Institut für Technologie (KIT) entwickelt zur Zeit einen KI-Chatbot für Menschen mit depressiven Symptomen, der auf Elementen der kognitiven Verhaltenstherapie basiert. Der Chatbot könnte die Wartezeiten auf einen Therapieplatz überbrücken oder eine laufende Therapie ergänzen. Außerdem wäre er eine Unterstützung für Menschen, die keine persönliche Therapie wünschen, zum Beispiel aus Angst vor Stigmatisierung oder aufgrund schlechter Erfahrungen mit Therapeuten.
Sie wollen auf dem Laufenden bleiben? Dann sind Sie beim ZDFheute-WhatsApp-Channel richtig. Hier erhalten Sie die wichtigsten Nachrichten auf Ihr Smartphone. Nehmen Sie teil an Umfragen oder lassen Sie sich durch unseren Podcast "Kurze Auszeit" inspirieren. Zur Anmeldung: ZDFheute-WhatsApp-Channel.