Kontrollverlust (KI)
Das Risiko, dass ein autonomes KI-System seine vordefinierten Ziele überschreitet, sich unvorhersehbar verhält oder nicht mehr steuerbar ist, was zu unbeabsichtigten und potenziell schädlichen Ergebnissen führt.
Kategorie: Risiken, Grenzen & Bias
Kontrollverlust ist ein zentrales Sicherheits- und Ethikrisiko bei fortschrittlichen KI-Systemen, insbesondere solchen mit hoher Autonomie. Es beschreibt Szenarien, in denen die KI nicht mehr im Einklang mit den menschlichen Absichten agiert oder unerwünschte Nebenwirkungen erzeugt, die nicht mehr rückgängig gemacht werden können.
Synonyme / Tags
- KI-Autonomie-Risiko
- Loss of Control (AI)
- Unkontrollierbare KI
Die ganze Definition im Member Hub braucht ein kostenloses Konto.