Poisoning-Angriff (KI)
Eine Art von adversariellem Angriff, bei dem ein Angreifer bösartige oder manipulierte Daten in den Trainingsdatensatz eines KI-Modells einschleust, um dessen Verhalten zu manipulieren oder zu verfälschen.
Kategorie: Risiken, Grenzen & Bias
Bei einem Poisoning-Angriff wird das Ziel verfolgt, das Verhalten eines KI-Modells während seiner Trainingsphase zu beeinträchtigen. Die eingefügten Daten sind so gestaltet, dass das Modell unerwünschte Muster lernt oder absichtlich fehlerhafte Entscheidungen trifft, wenn es später in der Produktion eingesetzt wird.
Synonyme / Tags
- KI-Modell-Vergiftung
- Data Poisoning Attack AI
- Datenmanipulation (Training)
Die ganze Definition im Member Hub braucht ein kostenloses Konto.