Halluzination (KI)
Kurz erklärt: Eine Halluzination ist eine überzeugend klingende, aber falsche Aussage einer KI; im Kundenservice wird sie durch Wissensbasis, RAG und Guardrails verhindert.
Als Halluzination bezeichnet man es, wenn ein KI-Sprachmodell Inhalte erfindet: einen Preis, eine Frist, eine Funktion, die es gar nicht gibt. Das Gefährliche: Die Aussage klingt genauso sicher wie eine richtige. Im Kundenservice kann das teuer werden, wenn ein Bot eine Kulanz zusagt oder eine falsche Lieferzeit nennt.
Warum Sprachmodelle halluzinieren
Ein Sprachmodell berechnet, welche Wörter wahrscheinlich als Nächstes kommen. Es „weiß“ nichts, es formuliert plausibel. Ohne Zugriff auf verlässliche Quellen füllt es Lücken mit Wahrscheinlichem. Je allgemeiner die Frage und je dünner die Datenlage, desto größer das Risiko.
So werden Halluzinationen verhindert
- RAG: Der Bot antwortet nur aus freigegebenen Dokumenten.
- Guardrails: Themen und Zusagen, die der Bot nicht machen darf, sind gesperrt.
- Systemprompt: „Wenn du es nicht sicher weißt, sag es und übergib.“
- Niedrige Kreativität (Temperatur) für sachliche Antworten
- Protokollierung und Stichproben durch Menschen
Umgang bei Susi
Susi ist so eingerichtet, dass sie bei fehlenden Informationen nicht rät. Sie sagt dann, dass sie das Anliegen aufnimmt und sich jemand aus Ihrem Team meldet. Preise, Fristen und Zusagen kommen ausschließlich aus Ihrer Wissensbasis. Alle Gespräche werden protokolliert, so dass Sie stichprobenartig prüfen können.
Susi für Ihr Unternehmen
Einmalig 99 € Einrichtung, 9,90 € im Monat, 0,20 € je Botminute, monatlich kündbar. In der Regel innerhalb von 48 Stunden eingerichtet.