Safety Alignment
Der Prozess, ein KI-Modell so zu trainieren und zu steuern, dass es sich an ethische Richtlinien hält, schädliche Inhalte vermeidet und im Einklang mit menschlichen Werten agiert.
Kategorie: Prompting & Steuerung
Safety Alignment (Sicherheitsausrichtung) ist ein kritischer Aspekt bei der Entwicklung und dem Einsatz von Sprachmodellen, insbesondere von großen generativen Modellen. Ziel ist es, sicherzustellen, dass die Modelle keine schädlichen, voreingenommenen, unethischen oder illegalen Inhalte generieren und stattdessen nützliche und verantwortungsvolle Antworten liefern. Dies umfasst eine Reihe von Techniken, darunter:
Synonyme / Tags
- AI Safety
- Model Alignment
- Ethical AI
Die ganze Definition im Member Hub braucht ein kostenloses Konto.