Customer-Service-Lexikon

Large Language Model (LLM)

Kurz erklärt: Ein Large Language Model ist ein großes KI-Sprachmodell, das Texte versteht und erzeugt und heute das Herzstück moderner Voicebots und Chatbots bildet.

Ein Large Language Model, kurz LLM, ist ein KI-Modell, das mit riesigen Textmengen trainiert wurde und dadurch Sprache in Zusammenhängen versteht und selbst formuliert. Bekannte Beispiele sind die Modelle hinter ChatGPT, Claude oder Gemini. In Voicebots und Chatbots übernimmt das LLM das Verstehen der Kundenanfrage und das Formulieren der Antwort.

Warum LLMs Bots besser gemacht haben

Früher musste ein Bot für jede denkbare Frage vorbereitet werden. Ein LLM versteht auch Fragen, die nie vorgesehen waren, und antwortet in vollständigen, natürlich klingenden Sätzen. Es kann zusammenfassen, nachfragen, umformulieren und mehrsprachig arbeiten. Das Setup eines Bots dauert dadurch Tage statt Monate.

Wo Vorsicht geboten ist

Ein LLM allein weiß nichts über Ihr Unternehmen und kann im Zweifel plausibel klingende Falschaussagen erzeugen, sogenannte Halluzinationen. Deshalb wird ein LLM im Kundenservice nie allein eingesetzt. Es bekommt eine Wissensbasis (RAG), klare Regeln (Guardrails) und einen Systemprompt, der festlegt, was es darf und was nicht. Antworten zu Preisen, Verträgen oder Fristen kommen aus Ihren Daten, nicht aus dem Gedächtnis des Modells.

LLM bei Susi

Susi nutzt aktuelle Sprachmodelle für das Verstehen und Formulieren, antwortet aber ausschließlich auf Basis Ihrer freigegebenen Inhalte. Was nicht in Ihrer Wissensbasis steht, beantwortet Susi nicht frei, sondern übergibt an Ihr Team.

hey contact heroes Held

Susi für Ihr Unternehmen

Einmalig 99 € Einrichtung, 9,90 € im Monat, 0,20 € je Botminute, monatlich kündbar. In der Regel innerhalb von 48 Stunden eingerichtet.

Susi anfragen