Forschende fordern klare Regelungen für KI im Bereich mentaler Gesundheit

Künstliche Intelligenz (KI) kann Gespräche führen, Emotionen spiegeln und menschliches Verhalten simulieren. Frei verfügbare große Sprachmodelle (Large Language Models, LLMs) – häufig genutzt als personalisierte Chatbots oder KI-Charaktere – erfahren zunehmend Gebrauch bei Fragen zur mentalen Gesundheit. Diese Anwendungen eröffnen neue Möglichkeiten, bergen jedoch zugleich erhebliche Risiken, insbesondere für verletzliche Nutzergruppen. Forschende des Else Kröner Fresenius Zentrums (EKFZ) für Digitale Gesundheit an der TU Dresden und des Universitätsklinikums Carl Gustav Carus haben nun zwei Fachartikel veröffentlicht, in denen sie eine stärkere regulatorische Aufsicht fordern.
Quelle: IDW-Informaitionsdienst d. Wissenschaft