Unabsichtlich KI-generierte Kinder- und Jugendpornografie

Forschende des Fraunhofer-Instituts für Sichere Informationstechnologie SIT haben festgestellt, dass viele KI-Bildgeneratoren auch dann Darstellungen von Minderjährigen erzeugen, wenn Nutzende ausdrücklich erotische Bilder von Erwachsenen anfordern. Das Problem: Auch wer versehentlich Bilder erzeugt, die Minderjährige in einem sexuellen Kontext zeigen, und speichert oder gar verbreitet, riskiert strafrechtliche Konsequenzen. Die Ergebnisse der Studie haben die Wissenschaftler erstmals auf der Fachkonferenz für Computer Vision WACV 2026 vorgestellt.
Quelle: IDW-Informaitionsdienst d. Wissenschaft