KI-Verordnung: Was Unternehmen beim Einsatz von Voicebots jetzt beachten müssen
Benjamin Barnack, Geschäftsführer hey contact heroes3 Min. LesezeitTransparenzpflicht, KI-Kompetenz, Dokumentation: Die EU-KI-Verordnung betrifft auch Service-Bots. Was wirklich gilt und was Panikmache ist.
Seit die KI-Verordnung der EU in Kraft ist, kursieren viele Halbwahrheiten. Manche Berater malen Hochrisiko-Szenarien an die Wand, andere behaupten, die Verordnung betreffe nur große Tech-Konzerne. Beides stimmt nicht. Für Voicebots und Chatbots im Kundenservice gelten klare, überschaubare Pflichten. Hier ist, was Sie wissen müssen.
Die Risikoklassen
Die Verordnung teilt KI-Systeme in Stufen ein. Verbotene Praktiken wie Social Scoring sind seit Februar 2025 untersagt. Hochrisiko-Systeme, etwa für Kreditwürdigkeitsprüfung oder Bewerberauswahl, unterliegen strengen Anforderungen an Dokumentation, Risikomanagement und menschliche Aufsicht. Systeme mit Transparenzpflichten sind solche, die direkt mit Menschen interagieren, und genau hier landen Service-Bots. Alles andere ist minimales Risiko.
Was für Ihren Voicebot gilt
Die zentrale Pflicht ist Transparenz: Ihre Kunden müssen erkennen können, dass sie mit einer KI sprechen. Das heißt nicht, dass der Bot bei jedem Satz darauf hinweisen muss. Eine kurze Vorstellung am Anfang („Hallo, hier ist die digitale Assistentin von …“) reicht. Wichtig ist, dass der Bot sich nicht als Mensch ausgibt und auf die Frage „Bin ich mit einem Menschen verbunden?“ ehrlich antwortet.
Die zweite Pflicht betrifft Sie als Unternehmen: KI-Kompetenz. Mitarbeiter, die mit KI-Systemen arbeiten oder deren Ergebnisse nutzen, müssen ausreichend geschult sein. Das gilt seit Februar 2025. Was „ausreichend“ heißt, hängt vom Einsatz ab. Für ein Serviceteam, das Übergaben vom Bot bearbeitet, reicht eine Einweisung in Funktionsweise, Grenzen und Fehlerquellen des Systems.
Wann ein Service-Bot zum Hochrisiko-System wird
Das passiert, wenn der Bot Entscheidungen trifft, die in einen Hochrisiko-Bereich fallen. Ein Bot, der eigenständig über Kreditvergabe, Versicherungsleistungen oder den Zugang zu wesentlichen Diensten entscheidet, ist etwas anderes als einer, der Termine bucht und Lieferstatus nennt. Die Faustregel: Solange der Bot informiert, aufnimmt und weiterleitet, aber keine folgenreichen Entscheidungen fällt, bleibt er in der Transparenzklasse.
Was zusätzlich gilt: DSGVO
Die KI-Verordnung ersetzt den Datenschutz nicht. Für jeden Bot brauchen Sie weiterhin einen Auftragsverarbeitungsvertrag mit dem Anbieter, eine Information der Kunden über die Verarbeitung (Datenschutzerklärung, gegebenenfalls Ansage) und eine klare Regelung, welche Daten wie lange gespeichert werden. Besonders bei Sprachaufzeichnungen ist Zurückhaltung angebracht: Transkripte statt Audio, kurze Löschfristen, keine Stimmbiometrie ohne ausdrückliche Einwilligung.
Praktische Checkliste
- Stellt sich der Bot zu Beginn als KI vor?
- Antwortet er ehrlich auf die Frage nach einem Menschen?
- Gibt es einen Auftragsverarbeitungsvertrag mit allen Unterauftragnehmern?
- Ist die Datenschutzerklärung um den Bot ergänzt?
- Sind Löschfristen für Gesprächsdaten definiert?
- Sind die Mitarbeiter, die mit dem Bot arbeiten, eingewiesen?
- Trifft der Bot Entscheidungen mit rechtlicher oder finanzieller Tragweite? Falls ja: Übergabe an Menschen einbauen.
- Werden Gespräche protokolliert, damit Sie im Zweifel nachvollziehen können, was gesagt wurde?
Wie wir das bei Susi lösen
Susi stellt sich in jedem Gespräch als digitale Assistentin vor und bestätigt auf Nachfrage, dass sie eine KI ist. Entscheidungen mit Tragweite trifft sie nicht, sie übergibt. Jeder Kunde bekommt von uns einen Auftragsverarbeitungsvertrag mit der vollständigen Liste der beteiligten Dienstleister. Und zum Start gibt es eine kurze Einweisung für Ihr Team. Keine Raketenwissenschaft, aber sauber gemacht.
Hinweis: Dieser Beitrag gibt unsere Praxiserfahrung wieder und ersetzt keine Rechtsberatung. Für Ihre konkrete Situation sprechen Sie bitte mit Ihrem Datenschutzbeauftragten oder Ihrer Anwältin.
Susi für Ihr Unternehmen
Einmalig 99 € Einrichtung, 9,90 € im Monat, 0,20 € je Botminute, monatlich kündbar. In der Regel innerhalb von 48 Stunden eingerichtet.