Große Sprachmodelle in der Medizin: Übersichtsarbeit analysiert Risiken und Strategien für sicheren klinischen Einsatz

Große Sprachmodelle (LLMs), darunter die Modelle hinter ChatGPT und Claude sowie zahlreiche weitere speziell für medizinische Anwendungen entwickelte Systeme, halten Einzug in klinische Arbeitsabläufe. Ihre Nutzung schreitet häufig jedoch schneller voran, als offizielle Sicherheits- und Schutzmaßnahmen Schritt halten können. Ein interdisziplinäres Forschungsteam vom Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit an der Technischen Universität Dresden (TUD) und dem Dresdner Universitätsklinikum hat gemeinsam mit nationalen und internationalen Kolleg:innen die Risiken beim Einsatz von LLMs in der Medizin systematisch analysiert.
Quelle: IDW-Informaitionsdienst d. Wissenschaft