Modell-Transparenz (KI)

Das Ausmaß, in dem die Funktionsweise, die Entscheidungsfindung und die internen Prozesse eines KI-Modells für menschliche Beobachter verständlich und nachvollziehbar sind.

Kategorie: Risiken, Grenzen & Bias

Modell-Transparenz ist eng verwandt mit Erklärbarkeit und Interpretierbarkeit. Ein transparentes Modell ermöglicht es, die Gründe für eine bestimmte Ausgabe zu verstehen, potenziellen Bias zu erkennen und Vertrauen in das System aufzubauen.