Robustheitslücke (KI)
Eine Schwachstelle in der Robustheit eines KI-Modells, die dazu führt, dass das Modell bei kleinen, oft kaum wahrnehmbaren Änderungen an den Eingabedaten unerwartet falsche oder unsichere Ergebnisse liefert.
Kategorie: Risiken, Grenzen & Bias
KI-Modelle können trotz hoher Genauigkeit auf normalen Daten anfällig für sogenannte adversarielle Angriffe sein. Eine Robustheitslücke beschreibt genau diese Anfälligkeit, bei der geringfügige, absichtlich manipulierte Störungen in den Eingabedaten das Modell zu einer Fehlklassifikation verleiten können, die für Menschen offensichtlich ist.
Synonyme / Tags
- KI-Robustheitsschwäche
- AI Robustness Gap
- Angriffsanfälligkeit KI
Die ganze Definition im Member Hub braucht ein kostenloses Konto.