Jede zweite Antwort eines KI-Chatbots auf Gesundheitsfragen ist problematisch. Das ist das Ergebnis einer aktuellen Studie im BMJ Open – und es ist kein Randphänomen. Wöchentlich werden allein bei ChatGPT über 200 Millionen Gesundheitsfragen gestellt. Die Technologie ist längst in der Versorgungsrealität angekommen. Die Frage ist nicht mehr, ob Patienten KI nutzen. Die Frage ist: Was bedeutet das für uns als Gesundheitsberufe?
Was die Forschung zeigt
Ein Team der Universität Tübingen testete im April 2026 fünf der meistgenutzten KI-Systeme – ChatGPT, Gemini, Grok, Meta AI und DeepSeek – mit je 50 medizinischen Fragen zu Krebs, Impfungen, Stammzellen, Ernährung und Sport. Zwei unabhängige Experten bewerteten die Antworten. Ergebnis: Rund 50 Prozent waren problematisch, 20 Prozent sogar hochproblematisch. Kein einziges System lieferte zuverlässig korrekte Quellenangaben. Nur zweimal verweigerte ein Chatbot eine Antwort, obwohl Schweigen in vielen Fällen das Verantwortungsvollste gewesen wäre.
Noch aufschlussreicher: Eine Parallelstudie der Universität Oxford in Nature Medicine (Februar 2026) zeigte, dass die KI-Modelle selbst in fast 95 % der Fälle die richtige medizinische Antwort lieferten, aber echte Nutzer kamen damit nur in 35 % der Fälle zum richtigen Schluss. Schlechter als eine Kontrollgruppe ohne KI-Unterstützung. Das Problem liegt also nicht nur in der Technologie. Es liegt darin, wie Menschen mit selbstsicher formulierten, autoritär klingenden KI-Antworten umgehen.
Parallel dazu: OpenAI hat ChatGPT Health im Januar 2026 gestartet. Ein Tool, das explizit für Gesundheitsfragen konzipiert ist. Eine Studie der Icahn School of Medicine at Mount Sinai (Nature Medicine, März 2026) stellte jedoch fest, dass selbst dieses spezialisierte System rund die Hälfte aller Hochrisikonotfälle als zu wenig dringlich einstufte und Sicherheitsmechanismen bei Krisenhinweisen unzuverlässig aktivierte.
Was das für die Praxis bedeutet
Patienten googeln schon lange nicht mehr – sie fragen KI. Und KI antwortet mit einer Überzeugungskraft, die selbst gut informierten Menschen schwerfällt zu hinterfragen. In Österreich und Deutschland hat sich die KI-Nutzung für Symptome und Gesundheitsfragen im vergangenen Jahr fast verdreifacht.
Ärzt:innen erleben das in der Sprechstunde täglich: Patienten kommen mit KI-generierten "Diagnosen", hinterfragen bewährte Therapien oder haben bereits auf Basis von Chatbot-Antworten gehandelt. Apotheken stehen vor denselben Situationen. Bei Wechselwirkungen, Dosierungen, Alternativpräparaten. Die Lücke zwischen KI-Antwort und medizinischer Realität schließt sich nicht von selbst. Sie muss durch kompetente Fachpersonen geschlossen werden.
KI einordnen, nicht verteufeln
Die Lösung ist nicht, KI zu verdammen. Chatbots können komplexe Themen zusammenfassen, Fragen für das Arztgespräch vorbereiten und Orientierung bieten. Aber sie können keine individuelle Anamnese erheben, keine Risikofaktoren abwägen, keine Verantwortung übernehmen. Das können wir.
Was fehlt, ist keine weitere Information. Was fehlt, ist trainierte Urteilskraft. Die Fähigkeit, KI-Antworten schnell und sicher einzuordnen. Genau hier setzt MEDCH an: mit fallbasiertem Lernen, das nicht abstrakte Fakten in den Mittelpunkt stellt, sondern konkrete Entscheidungssituationen. Für Ärzt:innen und Pharmazeut:innen gemeinsam.
„KI kann ein Einstiegspunkt sein. Sie darf nie der Endpunkt sein.“
Es wird Zeit. Für MEDCH.