Adversarielle Perturbationen
Geringfügige, oft für Menschen nicht wahrnehmbare Änderungen an Eingabedaten, die ein KI-Modell dazu bringen, eine falsche Klassifikation oder Vorhersage zu treffen.
Kategorie: Risiken, Grenzen & Bias
Adversarielle Perturbationen sind eine Form von gezieltem Angriff auf die Robustheit von KI-Modellen, insbesondere in der Bilderkennung, aber auch in anderen Domänen wie der Spracherkennung. Ein Angreifer fügt dem ursprünglichen Eingabebild sorgfältig berechnetes 'Rauschen' hinzu, das für das menschliche Auge irrelevant ist, aber das KI-Modell dazu verleitet, das Objekt falsch zu identifizieren (z.B. eine Katze als Hund). Dies stellt ein ernstes Sicherheitsrisiko dar, insbesondere in kritischen Anwendungen wie autonomen Fahrzeugen oder Sicherheitssystemen.
Synonyme / Tags
- Adversarial Perturbations
- Gegnerische Störungen
- Adversarielle Beispiele
Die ganze Definition im Member Hub braucht ein kostenloses Konto.