Prompt-Sicherheit
Prompt-Sicherheit bezieht sich auf Maßnahmen und Praktiken, die darauf abzielen, Large Language Models vor schädlichen oder unbeabsichtigten Manipulationen durch Prompts zu schützen und die Generierung von unsicheren, voreingenommenen oder unerwünschten Inhalten zu verhindern.
Kategorie: Prompting & Steuerung
Angriffe auf LLMs über Prompts stellen ein erhebliches Risiko dar. Prompt-Sicherheit ist entscheidend, um die Integrität, Vertraulichkeit und Verfügbarkeit von LLM-Anwendungen zu gewährleisten und Missbrauch zu verhindern.
Synonyme / Tags
- Prompt Security
- LLM-Sicherheit
- Sicheres Prompting
Die ganze Definition im Member Hub braucht ein kostenloses Konto.