Voicebot einführen: Datenschutz, Kennzeichnung und die richtige Ansage

Art. 50 Abs. 1 der KI-Verordnung richtet sich an die Anbieter von KI-Systemen, die für die direkte Interaktion mit Menschen bestimmt sind. Diese Systeme müssen so gestaltet sein, dass die Personen erfahren, dass sie mit einem KI-System interagieren. Ausgenommen ist nur, was für eine verständige Person aus den Umständen ohnehin offensichtlich ist. Am Telefon ist das selten so, denn moderne Stimmen klingen menschlich. Nach Abs. 5 kommt die Information spätestens bei der ersten Interaktion, klar, eindeutig und barrierefrei. Die Vorschrift gilt seit dem 2. August 2026.

Ob du im Sinne der Verordnung Anbieter oder Betreiber bist, hängt davon ab, wer den Voicebot entwickelt oder entwickeln lässt und unter wessen Namen er in Betrieb geht (Art. 3 Nr. 3 und 4). Lässt du dir einen Voicebot bauen, der unter deinem Firmennamen arbeitet, kann die Anbieterrolle bei dir liegen. Für die Praxis ändert das wenig: Der Hinweis gehört in den ersten Satz, egal wer den Bot gebaut hat. Anrufer, die erst später merken, dass sie mit einer Maschine sprechen, fühlen sich getäuscht, und das zu Recht.

Gesprächsinhalte, Rufnummer und Name sind personenbezogene Daten. Damit gelten die Informationspflichten nach Art. 13 DSGVO: Wer Daten erhebt, informiert zum Zeitpunkt der Erhebung über Zweck, Rechtsgrundlage, Empfänger und Speicherdauer. Bewährt hat sich eine Information in zwei Stufen: das Wichtigste in der Ansage, der Rest in der Datenschutzerklärung, die den Voicebot ausdrücklich nennt. Fragt ein Anrufer nach, hat der Voicebot eine verständliche Antwort oder gibt an einen Menschen weiter.

Der zweite Grundsatz ist Datensparsamkeit nach Art. 5 Abs. 1 Buchst. c DSGVO. Der Voicebot fragt nur, was für das Anliegen nötig ist. In einer Praxis heißt das: Terminwunsch ja, Beschwerden und Befunde nein, denn Gesundheitsdaten sind nach Art. 9 DSGVO besonders geschützt. Die Datenschutzkonferenz rät in ihrer Orientierungshilfe zu KI außerdem, zu prüfen, ob ein Anbieter Eingaben für das Training eigener Modelle verwendet. Für jede Datenart legst du eine Speicherfrist fest, und die Rechtsgrundlage klärst du je Gesprächsart.

Wer den Voicebot pflegt, die Notizen bearbeitet oder das Wissensblatt aktualisiert, arbeitet beruflich mit einem KI-System. Damit gilt Art. 4 der KI-Verordnung: Der Betrieb ergreift Maßnahmen, um die KI-Kompetenz dieser Personen zu fördern. Was das heißt und wie du es festhältst, erklärt der Ratgeber zur KI-Schulungspflicht nach Art. 4.

Gibt es einen Betriebsrat, gehört er früh an den Tisch. Kann der Voicebot auswerten, welche Mitarbeiterin wie viele Rückrufe erledigt hat, ist er eine technische Einrichtung, die Leistung oder Verhalten überwachen kann. Dafür hat der Betriebsrat ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG. Auch ohne Betriebsrat lohnt das Gespräch mit dem Team: Die Leute, die heute ans Telefon gehen, kennen die Fragen, die im Skript fehlen.

Danach startet der Voicebot in einem begrenzten Einsatz, zum Beispiel nur außerhalb der Öffnungszeiten oder nur für eine Gesprächsart. Die ersten Gespräche werden vollständig mitgelesen, das Skript wird nachgeschärft, erst dann wächst der Einsatz. Eine Obergrenze für die Gesprächsminuten im Monat schützt davor, dass ein Fehler unbemerkt teuer wird.

Wer mit dem Voicebot selbst anrufen will, um zu werben, prüft vorher § 7 UWG. Werbeanrufe bei Verbrauchern brauchen deren vorherige ausdrückliche Einwilligung. Für Werbung mit einer automatischen Anrufmaschine verlangt § 7 Abs. 2 Nr. 2 UWG diese Einwilligung von jedem Adressaten, auch von Unternehmen. Ob ein Voicebot darunter fällt, lässt du vor dem Start im Einzelfall prüfen. Wie Voicebots Termine vergeben, steht im Ratgeber Termine automatisch vereinbaren.