Guardrails erklärt: Wie KI-Firmen ihre Modelle an die Leine legen

Damit KI-Systeme keine gefährlichen Antworten geben, bauen die Hersteller technische Leitplanken ein. Aber wie funktionieren sie? Und bietet die Technik einen zuverlässigen Schutz vor autonomen Agenten?

Claude bleibt stur: „Das ist etwas, wobei ich nicht helfen kann.“ Auch ChatGPT weigert sich, mir Informationen zum Bau einer Atomwaffe bereitzustellen. Eine verständliche Entscheidung. Aber woher wissen die KI-Modelle, dass genau diese Information ungemein gefährliche Folgen haben könnte?

Kim Rixecker betreut bei t3n das Ressort Software & Entwicklung. Darüber hinaus kümmert er sich einmal wöchentlich als Chef vom Dienst um die Planung und Koordinierung der Online-Inhalte auf t3n.