Adversarielle Angriffe

Adversarielle Angriffe sind gezielte Manipulationen der Eingabedaten, die darauf abzielen, ein Machine-Learning-Modell zu täuschen und zu Fehlklassifikationen oder unerwünschtem Verhalten zu bewegen.

Kategorie: Risiken, Grenzen & Bias

Diese Angriffe nutzen oft minimale, für Menschen kaum wahrnehmbare Änderungen an den Daten, können aber für das Modell gravierende Auswirkungen haben, insbesondere in sicherheitskritischen Anwendungen.