Intransparenz von KI-Entscheidungen
Die mangelnde Nachvollziehbarkeit, wie ein KI-System zu einer bestimmten Entscheidung oder Vorhersage gelangt ist, oft als 'Black-Box-Problem' bezeichnet.
Kategorie: Risiken, Grenzen & Bias
Viele leistungsfähige KI-Modelle, insbesondere tiefe neuronale Netze, sind aufgrund ihrer Komplexität und der hohen Anzahl von Parametern schwer zu interpretieren. Es ist oft nicht direkt ersichtlich, welche Eingabemerkmale oder internen Prozesse zu einem bestimmten Output geführt haben. Diese Intransparenz hat mehrere negative Konsequenzen:
Synonyme / Tags
- KI-Black-Box-Problem
- Lack of AI Transparency
- Undurchsichtigkeit KI
Die ganze Definition im Member Hub braucht ein kostenloses Konto.