Datensatzfilterung bietet nur begrenzten Schutz vor der Erzeugung von CSAM in Text-zu-Bild-Modellen

Text-zu-Bild-Modelle haben die Erzeugung synthetischer Bilder, darunter illegale Inhalte wie Darstellungen sexuellen Kindesmissbrauchs (CSAM), deutlich vereinfacht. In öffentlichen Debatten wird häufig vorgeschlagen, Bilder von Kindern aus den Trainingsdatensätzen zu entfernen. Eine von CISPA-Faculty Dr. Ana-Maria Cretu geleitete Studie legt jedoch nahe, dass dieser Ansatz nur begrenzten Schutz bietet und leicht umgangen werden kann. Die Ergebnisse der Studie mit dem Titel „Evaluating Concept Filtering Defenses against Child Sexual Abuse Material Generation by Text-to-Image Models“ präsentierte sie auf dem 47. IEEE-Symposium für Sicherheit und Datenschutz (S&P 2026).
Quelle: IDW-Informaitionsdienst d. Wissenschaft