Die Menschen stellen medizinische Fragen nicht mehr nur Ärztinnen und Ärzten, sondern auch Suchmaschinen und KI-Systemen. Der Impuls, sich Rat zu holen, ist nicht neu. Die Qualität der Antworten schon: Die KI liefert plausible Formulierungen, klare Empfehlungen und wirkt scheinbar autoritativ. Deshalb warnte Barmer-Chef Christoph Straub beim BIG BANG KI FESTIVAL 2025 vor der Illusion: Die Technologie werde die Medizin verbessern, aber der Weg dorthin berge Risiken. „In der frühen Phase werden ChatGPT und Co. Schaden anrichten“, sagt er.
Wenn der Rat zu gut klingt
Straub illustriert seine These mit einem Fall aus der Fachpresse: Ein Patient in Seattle wollte Kochsalz ersetzen, weil es den Blutdruck treiben kann. Er fragte eine KI nach einer Alternative und bekam als Antwort: Natriumbromid. Der Mann würzte mit der Substanz sein Essen – und landete in der Psychiatrie, mit Wahnvorstellungen und Halluzinationen. Erst später fanden Ärztinnen und Ärzte heraus, dass er einen stark erhöhten Bromidspiegel im Blut hatte.
Für Straub als Mediziner ist das kein Argument gegen KI, sondern eine Warnung vor ungesicherten Empfehlungen. Als Arzt wisse man: Zu viel Brom im Körper verursacht psychische Veränderungen. Entscheidend sei nicht der KI-Fehler, sondern dass die KI etwas als Austauschstoff benennen könne, ohne die medizinischen Risiken zu hinterfragen.
Sicherheit entsteht erst in der Praxis
Straubs zentrale Einordnung: Jede Technologie wird genutzt, bevor sie vollständig abgesichert ist. So sei es bei der Dampfmaschine gewesen, so beim Fliegen. „Erst kommt die Einführung, und dann beginnt die eigentliche Arbeit an der Sicherheit“, sagt er. Schutzmechanismen und Regulierung entstünden nicht am Reißbrett, sondern in der Realität. Weil reale Fälle die Schwachstellen sichtbar machen. Doch Straub warnt nicht nur, er will Innovation aktiv mitgestalten: Als erste gesetzliche Kasse investierte die Barmer 15 Millionen Euro in einen Venturecapital-Fonds des Investors Earlybird. Dieser unterstützt Healthtech-Start-ups dabei, neue Gesundheitsprodukte in den Markt zu bringen. Straub testet neue Technologien selbst. Seit einigen Wochen trägt er ein Wearable, das den Blutdruck ohne Manschette messen soll – und sieht als Arzt genau hin, wo die Technik im Alltag noch versagt.
Sein Blick nach vorn bleibt optimistisch: Seine Kinder nutzten KI selbstverständlich, aber sehr kritisch. Nach jeder Antwort erinnerten sie sich selbst daran: „Da müssen wir jetzt noch mal gucken, ob wir dem Ergebnis vertrauen können.“ Genau das sei die richtige Haltung gegenüber einer Technologie, die künftig mehr Wissen verfügbar macht, aber auch mehr Verantwortung beim Einordnen fordert.
