Aktuelles-Wissen

ChatGPT Health gibt im Notfall oft den falschen Rat

KI mit Schwächen

🧠 ChatGPT Health in der Triage: Chancen – aber klare Grenzen

Eine aktuelle Studie zeigt: KI-Tools wie „ChatGPT Health“ können bei der Einschätzung von Krankheitssituationen helfen – machen aber gerade im Notfallbereich noch relevante Fehler.

🔍 Die wichtigsten Ergebnisse

  • Notfälle werden oft unterschätzt:
    In rund 50 % der echten Notfälle wurde keine sofortige Behandlung empfohlen.  
  • Unkritische Fälle werden überbewertet:
    In fast 65 % der harmlosen Fälle riet die KI unnötig zur schnellen ärztlichen Abklärung.  
  • Problem bei Verläufen:
    Die KI erkennt klassische „Lehrbuch-Fälle“ gut, hat aber Schwierigkeiten bei schleichenden oder komplexen Verläufen.  
  • Psychische Krisen kritisch:
    Hinweise auf Suizidgedanken wurden häufig nicht als Notfall erkannt – ein besonders sensibles Risiko.  

🏥 Was bedeutet das für den Praxisalltag?

  • KI kann eine erste Orientierung bieten – ersetzt aber keine medizinische Einschätzung.
  • Gerade bei unklaren oder dynamischen Symptomen ist klinische Erfahrung entscheidend.
  • Für MFA bedeutet das:
    👉 Wachsam bleiben bei Notfallsymptomen
    👉 Patienten nicht ausschließlich auf KI-Einschätzungen vertrauen lassen
    👉 Im Zweifel immer ärztlich abklären

⚠️ Fazit

KI ist ein spannendes Tool, aber aktuell nicht zuverlässig genug für die Triage, insbesondere bei Notfällen. Die Verantwortung im Praxisalltag bleibt klar beim medizinischen Team.


🔗 Quelle:
https://www.springermedizin.de/kuenstliche-intelligenz/triage/chatgpt-health-gibt-im-notfall-oft-den-falschen-rat/52186412