Lexikon
Guardrails
Regeln und technische Schranken, die festlegen, was eine KI darf und was nicht.
Definition
Guardrails sind Leitplanken für KI-Systeme. Sie verhindern unerwünschte Antworten (etwa Rechtsberatung durch einen Servicebot), schließen Themen aus, unterbinden das Nennen von Wettbewerbern und verlangen Bestätigungen vor sensiblen Aktionen.
Beispiele
- Themen-Blocklist
- Wettbewerbsschutz
- Pflichthinweise bei bestimmten Fragen
- Bestätigungsschritt vor Vertragsänderungen
- Automatische Übergabe bei Beschwerden
Beispiel aus der Praxis
Eine Bank legt fest: keine Anlageempfehlungen, keine Zinsprognosen, bei Kartenverlust sofort Sperr-Hotline nennen. Fragt jemand „Soll ich in Aktien investieren?“, antwortet der Bot neutral und bietet einen Beratungstermin an.
Häufige Fragen zu Guardrails
- Machen Guardrails den Bot unflexibel?
- Gut formulierte Guardrails begrenzen nur Risiken. Für alle anderen Themen bleibt der Bot frei in der Formulierung.
Verwandte Begriffe
- RAG (Retrieval-Augmented Generation)Ein Verfahren, bei dem ein Sprachmodell vor der Antwort relevante Inhalte aus einer Wissensbasis abruft.
- AI AgentEin KI-System, das nicht nur antwortet, sondern eigenständig Aufgaben in angebundenen Systemen ausführt.
- LLM (Large Language Model)Ein großes Sprachmodell, das auf riesigen Textmengen trainiert wurde und Sprache versteht und erzeugt.
Guardrails in der Praxis erleben
Wir zeigen dir in 30 Minuten, wie Dialina das für dein Unternehmen umsetzt.
Demo buchen