Black-Box-Problem (KI)

Die Schwierigkeit, die internen Entscheidungsprozesse und die Logik komplexer KI-Modelle, insbesondere tiefer neuronaler Netze, nachzuvollziehen und zu erklären.

Kategorie: Risiken, Grenzen & Bias

Viele leistungsstarke KI-Modelle arbeiten als 'Black Boxes', was bedeutet, dass ihre internen Mechanismen für Menschen undurchsichtig sind. Man kann die Eingaben und Ausgaben beobachten, aber nicht genau verstehen, wie die Transformation von der Eingabe zur Ausgabe erfolgt ist.