Wenn Sturheit zum Sicherheitsproblem wird: Wie KI-Agenten andere manipulieren können

Stell dir vor, ein Nachbar behauptet hartnäckig, dass du nachts Lärm machst. Andere widersprechen zunächst, doch er versucht immer wieder, sie zu überzeugen. Ob ihm das gelingt, hängt neben seiner Beharrlichkeit auch davon ab, wie gut er vernetzt ist und wie leicht andere ihre Meinung ändern. Mit dem Bild des sturen Nachbarn beschreibt CISPA-Forscherin Samira Abedini ein herrschendes Sicherheitsproblem in KI-Agenten-Netzwerken. Gemeinsam mit Kolleg:innen hat sie untersucht, wie sich der Einfluss eines einzelnen Agenten ausbreitet und unter welchen Bedingungen er die gemeinsame Entscheidung der Gruppe manipulieren kann.
Quelle: IDW-Informaitionsdienst d. Wissenschaft