Überleben Wasserzeichen das Training neuer KI-Modelle? Eine CISPA-Studie gibt Auskunft

Wasserzeichen werden zunehmend eingesetzt, um KI-generierte Bilder erkennbar und ihre Herkunft nachvollziehbar zu machen. Im Fokus der Forschung stand bisher, ob Wasserzeichen Bildmanipulation überstehen. CISPA-Forscher Michel Meintz vom SprintML-Lab hat nun untersucht, ob Wasserzeichen das Training eines neuen generativen Modells überstehen. Das Ergebnis: Wasserzeichen sind nicht gleich robust. Ihre Fähigkeit, über mehrere Modellgenerationen hinweg erhalten zu bleiben, hängt stark von ihrer Konstruktion und vom verwendeten Modell ab. Das Paper „Watermark Degradation Across Model Iterations“ wurde auf dem ACM Workshop on Information Hiding and Multimedia Security in Florenz vorgestellt.
Quelle: IDW-Informaitionsdienst d. Wissenschaft