Wächter gegen anstößige Bildinhalte: Team der TU Darmstadt stellt innovatives Sicherheitstool „LlavaGuard“ vor

Darmstadt, 10. Juli 2024. Forschende am Fachgebiet Künstliche Intelligenz und Maschinelles Lernen (AIML) des Fachbereichs Informatik der TU Darmstadt und des Hessischen Zentrums für Künstliche Intelligenz (hessian.AI) haben eine Methode entwickelt, mit der sich erstmals mithilfe von Vision-Language Models bestimmte Bildinhalte in großen Datensätzen oder von Bildgeneratoren filtern, bewerten und unterdrücken lassen. Die Forschung ist Bestandteil des Clusterprojekts „Reasonable Artificial Intelligence (RAI)“, das bei der Exzellenzstrategie des Bundes und der Länder einen Vollantrag für die Förderlinie „Exzellenzcluster“ gestellt hat.
Quelle: IDW-Informaitionsdienst d. Wissenschaft