EU-KI-Verordnung (AI Act) im Kundenservice
Kurz erklärt: Die EU-KI-Verordnung verpflichtet Unternehmen unter anderem dazu, Nutzer darüber zu informieren, dass sie mit einer KI sprechen; für Service-Bots gilt vor allem diese Transparenzpflicht.
Die KI-Verordnung der EU (AI Act) ist seit August 2024 in Kraft und wird stufenweise anwendbar. Sie teilt KI-Systeme nach Risiko ein: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Transparenzpflichten und Systeme mit minimalem Risiko. Chatbots und Voicebots im Kundenservice fallen in der Regel in die Kategorie mit Transparenzpflichten.
Was für Service-Bots gilt
Die wichtigste Pflicht: Menschen müssen erkennen können, dass sie mit einer KI interagieren, es sei denn, das ist aus den Umständen offensichtlich. Ein Voicebot, der sich als Mensch ausgibt, verstößt gegen die Verordnung. In der Praxis heißt das: eine kurze Vorstellung zu Beginn („Ich bin die digitale Assistentin von …“) und eine ehrliche Antwort auf die Frage „Bin ich hier mit einem Menschen verbunden?“.
Weitere Pflichten
- KI-Kompetenz: Unternehmen müssen dafür sorgen, dass Mitarbeiter, die mit KI arbeiten, ausreichend geschult sind (seit Februar 2025).
- Hochrisiko-Bereiche wie Kreditwürdigkeitsprüfung oder Bewerberauswahl unterliegen strengen Anforderungen. Ein normaler Service-Bot gehört nicht dazu, solange er keine solchen Entscheidungen trifft.
- Dokumentation und Protokollierung sind sinnvoll, auch wenn sie für Transparenz-Systeme nicht in vollem Umfang verpflichtend sind.
Susi und die KI-Verordnung
Susi stellt sich in jedem Gespräch als digitale Assistentin vor und bestätigt auf Nachfrage, dass sie eine KI ist. Entscheidungen mit rechtlicher oder finanzieller Tragweite trifft Susi nicht, sie übergibt an Menschen. Die Protokollierung der Gespräche gibt Ihnen jederzeit Nachvollziehbarkeit.
Susi für Ihr Unternehmen
Einmalig 99 € Einrichtung, 9,90 € im Monat, 0,20 € je Botminute, monatlich kündbar. In der Regel innerhalb von 48 Stunden eingerichtet.