KI-Chatbot und AI Act: Was Sie ab dem 2. August 2026 wissen müssen

Wenn auf Ihrer Website ein KI-basierter Chat läuft, gilt für Sie seit dem 2. August 2026 eine neue Vorschrift: Die Kundschaft muss wissen, dass sie mit einer Maschine spricht. Das ist eine der einfacheren Pflichten aus der EU-Verordnung über künstliche Intelligenz (AI Act, auf Deutsch KI-Verordnung), doch man setzt sie leicht nachlässig um. Unten erkläre ich, was die Vorschrift sagt, was bei personenbezogenen Daten zu beachten ist und was die Anpassung des Chats kostet.

Ich bin kein Jurist. Dies ist eine praktische Zusammenfassung aus der Sicht von jemandem, der Chatbots einführt. Bei ungewöhnlichen Einsatzgebieten, etwa in der Medizin, im Finanzwesen oder bei der Personalauswahl, holen Sie rechtlichen Rat ein.

Der AI Act in Kürze: Was ab wann gilt

Der AI Act ist die Verordnung (EU) 2024/1689. Sie gilt unmittelbar in allen EU-Ländern. Sie trat am 1. August 2024 in Kraft, und ihre Vorschriften gelten schrittweise:

• 2. Februar 2025: verbotene Praktiken, z. B. Social Scoring oder Manipulation, die Schwächen von Menschen ausnutzt.
• 2. August 2025: Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, also solcher, auf denen gängige Chats laufen.
• 2. August 2026: die meisten übrigen Vorschriften, darunter die Transparenzpflichten aus Art. 50, die Chatbots betreffen.

Einige Fristen waren in den Jahren 2025–2026 Gegenstand von Änderungsvorschlägen im Rahmen des sogenannten Digital-Omnibus-Pakets, vor allem im Hinblick auf Hochrisiko-Systeme. Vor der Umsetzung lohnt es sich, den aktuellen Stand der Vorschriften zu prüfen. Der Hinweis, dass man mit einer KI spricht, ist jedoch am einfachsten umzusetzen, es lohnt sich also nicht, damit zu warten.

Die Sanktionen verhängen nationale Behörden. Der AI Act sieht für Verstöße gegen die Pflichten aus Art. 50 Geldbußen von bis zu 15 Mio. Euro oder bis zu 3 % des weltweiten Jahresumsatzes vor. Grundsätzlich gilt der höhere dieser Beträge, für kleine und mittlere Unternehmen der niedrigere.

Was Art. 50 genau sagt

Der Chatbot muss sich vorstellen

KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind, müssen so gestaltet sein, dass Menschen wissen, dass sie mit einer KI sprechen (Art. 50 Abs. 1). Die Ausnahme betrifft Situationen, in denen das für eine verständige, aufmerksame Person offensichtlich ist. Auf diese Ausnahme würde ich mich nicht verlassen: Ein Roboter-Symbol neben dem Chatfenster ist nicht für jeden offensichtlich.

Der Hinweis muss klar und deutlich sein, spätestens bei der ersten Interaktion erfolgen und die Barrierefreiheitsanforderungen erfüllen (Art. 50 Abs. 5). In der Praxis sollte ihn auch ein Screenreader vorlesen.

Wer für die Kennzeichnung verantwortlich ist

Die Pflicht aus Absatz 1 liegt beim Anbieter des KI-Systems. Nach der Definition in Art. 3 ist Anbieter auch eine Firma, die die Entwicklung eines Systems in Auftrag gibt und es unter eigenem Namen oder eigener Marke in Betrieb nimmt. Wenn der Chat auf Ihrer Website unter Ihrer Marke läuft, gehen Sie davon aus, dass diese Pflicht Sie betrifft, auch wenn darunter ein Modell von OpenAI, Google oder Anthropic arbeitet.

Dasselbe gilt für Bots auf Messenger, Instagram oder WhatsApp. Antwortet dort eine KI, muss die Kundschaft auch dort davon erfahren.

Von KI erzeugte Inhalte

Art. 50 Abs. 2 verpflichtet Anbieter von Systemen, die Bilder, Audio, Video und Text erzeugen, die Ergebnisse in maschinenlesbarer Form zu kennzeichnen. Das betrifft vor allem die Entwickler von Modellen und Generatoren, und die Einzelheiten sollen Leitlinien und ein Verhaltenskodex präzisieren, die die Europäische Kommission vorbereitet.

Für Firmen, die solche Tools nutzen (der AI Act nennt sie Betreiber), gilt Art. 50 Abs. 4:

• Es muss offengelegt werden, dass ein Bild, eine Aufnahme oder ein Video ein Deepfake ist, also ein realistischer KI-Inhalt, den das Publikum für echt halten könnte.
• Es muss offengelegt werden, dass ein Text mit Hilfe von KI entstanden ist, wenn Sie ihn veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, ein Mensch hat ihn redigiert und jemand trägt die redaktionelle Verantwortung dafür.

In der Praxis braucht eine mit KI-Hilfe geschriebene und von Ihnen geprüfte Produktbeschreibung kein Label nach dem AI Act. Eine KI-Visualisierung einer Terrasse, die wie ein Foto eines fertigen Projekts aussieht, beschriften Sie besser als Visualisierung. Das ist gegenüber der Kundschaft fair und schützt Sie vor dem Vorwurf der Irreführung.

DSGVO: Woran man leicht nicht denkt

Der AI Act ist das eine, aber ein Chat erfasst auch personenbezogene Daten: Name, E-Mail, Telefon, die Adresse der Baustelle und manchmal Informationen, die die Kundschaft gar nicht eingeben sollte. Prüfen Sie einige Dinge:

• Datenschutzerklärung. Beschreiben Sie darin den Chat: welche Daten er erfasst, zu welchem Zweck, wie lange Sie die Gespräche aufbewahren und wer Empfänger der Daten ist, z. B. der Anbieter des KI-Modells.
• Auftragsverarbeitungsvertrag. Mit dem Anbieter des Modells und des Hostings benötigen Sie einen Vertrag über die Auftragsverarbeitung (AVV, englisch DPA).
• Ort der Verarbeitung. Gelangen die Daten außerhalb des Europäischen Wirtschaftsraums, brauchen Sie eine Grundlage für diese Übermittlung, z. B. einen Angemessenheitsbeschluss der Europäischen Kommission oder Standardvertragsklauseln.
• Training von Modellen. Prüfen Sie in den Bedingungen des Anbieters, ob die Gespräche zum Training von Modellen verwendet werden dürfen. In bezahlten API-Tarifen ist das meist ausgeschlossen, in kostenlosen ist es unterschiedlich.
• Datenminimierung. Der Chat sollte nicht nach Daten fragen, die er nicht braucht. Laden Sie in seine Wissensbasis keine internen Dokumente und keine Kundendaten hoch, die Sie nicht der ganzen Welt zeigen wollen.
• Aufbewahrungsdauer. Legen Sie fest, nach welcher Zeit Gespräche gelöscht werden.

Wenn Sie Gespräche und Kundendaten auf einem separaten Server in der Europäischen Union halten möchten, ist das eine eigene Leistung ab 1.990 PLN plus Serverkosten.

Checkliste: AI-Act-konformer Chatbot

1. Die erste Nachricht des Chats sagt ausdrücklich, dass es sich um einen KI-Assistenten handelt. Zum Beispiel: „Hallo, ich bin der KI-Assistent der Firma X. Ich kann mich irren, daher verbinde ich Sie in wichtigen Angelegenheiten mit einem Menschen.“
2. Der Hinweis auf die KI ist auch in der Kopfzeile des Chatfensters sichtbar und nicht nur in der ersten Nachricht, die man wegscrollen kann.
3. Der Hinweis ist barrierefrei: Ein Screenreader liest ihn vor, und der Text hat ausreichenden Kontrast.
4. Wenn jemand fragt „Bist du ein Mensch?“, antwortet der Chat wahrheitsgemäß.
5. Der Chat gibt sich nicht als eine bestimmte Person aus dem Team aus, etwa mit Namen und Foto einer realen Person.
6. Man kann leicht zu einem Menschen wechseln: Telefon, E-Mail oder Formular.
7. Es ist klar festgelegt, was der Chat nicht versprechen darf: Rabatte, Termine oder Preise, die nicht in der Preisliste stehen.
8. Die Datenschutzerklärung beschreibt den Chat, und mit dem Anbieter besteht ein Auftragsverarbeitungsvertrag.
9. Für die Gespräche ist eine Aufbewahrungsdauer festgelegt.
10. KI-Inhalte auf der Website, die irreführen können, etwa realistische Visualisierungen oder Videos mit generierten Menschen, sind gekennzeichnet.
11. Jemand in der Firma liest regelmäßig die Gespräche und verbessert das Wissen des Chats.

Die Punkte 1 und 3 ergeben sich direkt aus Art. 50, Punkt 10 dann, wenn der Inhalt ein Deepfake ist. Die übrigen sind bewährte Praktiken, mit denen sich Missverständnisse mit der Kundschaft vermeiden lassen.

Was ein Chatbot und die Anpassung an den AI Act kosten

Auf dem Markt kostet die Einführung eines Chatbots in der Regel 3.000 bis 15.000 PLN, und ein Abonnement für einen einfachen Chat liegt bei etwa 200–500 PLN pro Monat. Die monatliche Gebühr ergibt sich daraus, dass jedes Gespräch Kosten verursacht: Der Anbieter des KI-Modells rechnet nach Verbrauch ab, und der Chat muss auf einem Server laufen.

Einen KI-Chat habe ich unter anderem auf den Websites Łazienki Giżycko und Drzwi Giżycko eingeführt. Der Assistent auf meiner Website sagt von der ersten Nachricht an, dass er eine KI ist.

Ich prüfe Ihren Chat

Haben Sie bereits einen Chatbot und wissen nicht, ob er die Anforderungen erfüllt? Oder möchten Sie einen neuen einführen, der von Anfang an dem AI Act entspricht? Schreiben Sie mir über das Formular. Ich antworte innerhalb von 24 Stunden mit einem Angebot, und wer neu bei mir ist, erhält 20 % Rabatt auf den ersten Auftrag.