Dürfen wir ChatGPT für Kundendaten verwenden?

Grundsätzlich ja, aber nur unter klaren Voraussetzungen. Personenbezogene Daten dürfen nur dann an einen externen LLM-Anbieter übermittelt werden, wenn eine gültige Rechtsgrundlage nach Art. 6 DSGVO vorliegt, ein Auftragsverarbeitungsvertrag mit dem Anbieter abgeschlossen ist, der Datentransfer in Drittländer (zum Beispiel USA) durch Standardvertragsklauseln oder gleichwertige Mechanismen abgesichert ist und sensible Daten vorab pseudonymisiert oder anonymisiert wurden. In der Praxis empfehlen wir, vor jeder Anfrage an ein externes Modell eine PII-Redaktionsschicht zu schalten, die Namen, Adressen, Kontonummern und Gesundheitsdaten automatisch entfernt oder durch Platzhalter ersetzt. Für hochsensible Anwendungen ist ein lokal gehostetes Modell oder eine EU-Region-Instanz vorzuziehen. Eine pauschale Nutzung von Standard-Konsumenten-Accounts für geschäftliche Kundendaten ist datenschutzrechtlich nicht haltbar.

Was bedeutet automatisierte Entscheidung im DSGVO-Sinn?

Eine automatisierte Entscheidung im Sinne von Art. 22 DSGVO liegt vor, wenn ein System ausschliesslich auf Basis algorithmischer Verarbeitung eine Entscheidung trifft, die rechtliche Wirkung gegenüber einer Person entfaltet oder sie in ähnlich erheblicher Weise beeinträchtigt. Typische Beispiele sind automatisierte Kreditentscheidungen, KI-gestützte Bewerberauswahl ohne menschliche Prüfung, dynamische Versicherungstarifierung oder automatische Sperrung von Konten. Entscheidend ist, dass kein Mensch substanziell in den Entscheidungsprozess eingreift. Wenn ein KI-System nur Empfehlungen liefert und ein qualifizierter Mitarbeitender diese prüfen und überstimmen kann, fällt das nicht unter Art. 22. Betroffene Personen haben das Recht auf Information über die Logik der Verarbeitung, auf Darlegung ihres Standpunkts und auf eine menschliche Überprüfung der Entscheidung.

Brauchen wir Einwilligung für KI-Tools?

Nicht zwingend. Einwilligung nach Art. 6 Abs. 1 lit. a DSGVO ist nur eine von sechs möglichen Rechtsgrundlagen. In vielen geschäftlichen Kontexten ist die Vertragserfüllung (Art. 6 Abs. 1 lit. b) oder das berechtigte Interesse (Art. 6 Abs. 1 lit. f) die passendere Grundlage. Ein KI-Chatbot, der Kundenanfragen zu bestehenden Bestellungen beantwortet, läuft typischerweise auf Vertragserfüllung. Eine KI, die Marketing-Texte aus Kundendaten generiert, kann auf berechtigtem Interesse basieren, sofern eine Interessenabwägung dokumentiert ist. Eine Einwilligung ist erforderlich, wenn besondere Datenkategorien (Gesundheit, Religion, biometrische Daten) verarbeitet werden oder wenn die Verarbeitung über das hinausgeht, was die betroffene Person vernünftigerweise erwarten kann. Transparenzpflichten nach Art. 13 und 14 DSGVO bestehen aber immer.

Was passiert bei DSGVO-Verstössen mit KI?

Verstösse gegen die DSGVO können mit Bussgeldern bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem welcher Betrag höher ist. KI-spezifische Verstösse sind in den letzten Jahren mehrfach geahndet worden, unter anderem wegen fehlender Rechtsgrundlage für das Training auf personenbezogenen Daten, unzureichender Transparenz gegenüber Betroffenen und fehlender Massnahmen zur Datenminimierung. Neben Bussgeldern drohen Anordnungen der Aufsichtsbehörden, die zur sofortigen Einstellung der Verarbeitung führen können, Schadensersatzansprüche betroffener Personen sowie erhebliche Reputationsschäden. Mit dem Inkrafttreten des EU AI Act kommen je nach Risikoklasse zusätzliche Sanktionen hinzu. Eine fundierte DSGVO-Compliance für KI ist daher keine Kür, sondern eine wirtschaftliche Notwendigkeit.

Wer prüft die DSGVO-Konformität unserer KI?

Die Verantwortung liegt primär beim Verantwortlichen, also beim Unternehmen, das die KI einsetzt. Intern übernimmt der Datenschutzbeauftragte (DSB) die Beratungs- und Kontrollfunktion. Bei Unternehmen mit über 20 Beschäftigten, die regelmässig personenbezogene Daten automatisiert verarbeiten, ist die Bestellung eines DSB Pflicht. Die externe Kontrolle erfolgt durch die zuständige Landesdatenschutzbehörde, in der Schweiz durch den Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten (EDÖB). Für die rechtliche Validierung empfehlen wir die Einbindung eines spezialisierten Rechtsanwaltes für IT- und Datenschutzrecht, insbesondere bei Hochrisiko-Anwendungen oder Drittlandtransfers. Technische Massnahmen wie Datenflussanalysen, Datenschutz-Folgenabschätzungen (DSFA) und Audit-Logs liefern die Grundlage für die rechtliche Bewertung. Unsere Rolle als Technologiepartner endet bei der technischen Umsetzung, die rechtliche Endbewertung liegt beim Rechtsanwalt.

DSGVO und KI 2026: Was DACH-Unternehmen beachten

Wo überschneiden sich DSGVO und KI?

Die Datenschutz-Grundverordnung gilt für jede Verarbeitung personenbezogener Daten, unabhängig davon, mit welcher Technologie sie erfolgt. Sobald ein KI-System Daten verarbeitet, die einer natürlichen Person zugeordnet werden können, greifen die vollen Pflichten der DSGVO. Das ist 2026 bei den meisten produktiven KI-Anwendungen der Fall, denn Chatbots, Sales-Automatisierungen, HR-Tools und Customer-Support-KI arbeiten regelmässig mit Namen, E-Mail-Adressen, Telefonnummern, Kaufhistorien oder Standortdaten.

Die Schnittstellen sind dabei vielfältiger, als viele Verantwortliche annehmen. Personenbezogene Daten können in drei Phasen einer KI-Pipeline auftreten: in den Trainingsdaten, mit denen ein Modell entwickelt oder feinabgestimmt wird, in den Prompts und Eingaben, die zur Laufzeit an ein Modell übergeben werden, und in den Outputs, die das Modell zurückliefert. Jede dieser drei Phasen muss separat datenschutzrechtlich bewertet werden.

Besonders sensibel sind Modelle, die über externe APIs angesprochen werden. Hier verlassen die Daten oft den Verantwortlichen, durchqueren mehrere Jurisdiktionen und werden möglicherweise vom Anbieter zwischengespeichert. Ohne einen sauberen Auftragsverarbeitungsvertrag, klare Datenflussdokumentation und technische Schutzmassnahmen entsteht ein erheblicher Compliance-Risikobereich, der bei einer Prüfung durch die Aufsichtsbehörde kaum verteidigt werden kann.

Rechtsgrundlagen (Art. 6 DSGVO)

Jede Verarbeitung personenbezogener Daten benötigt eine gültige Rechtsgrundlage. Art. 6 DSGVO listet sechs mögliche Grundlagen auf, von denen in der KI-Praxis drei besonders relevant sind: Einwilligung, Vertragserfüllung und berechtigtes Interesse. Die Wahl der richtigen Grundlage hängt vom konkreten Use Case ab und sollte vor dem Go-Live dokumentiert werden.

Einwilligung ist die strengste Grundlage. Sie muss freiwillig, informiert, spezifisch und jederzeit widerrufbar sein. Sie eignet sich typischerweise für optionale Personalisierungsfunktionen, Marketing-Automatisierungen oder KI-gestützte Empfehlungssysteme, bei denen die Person aktiv zustimmen kann. Wichtig: Eine pauschale Einwilligung für alle KI-Anwendungen ist unwirksam.

Vertragserfüllung trägt viele B2B- und Customer-Support-Use-Cases. Wenn ein Kunde einen Vertrag mit dem Unternehmen hat und die KI im Rahmen der vertraglichen Leistungserbringung eingesetzt wird, ist diese Grundlage tragfähig. Ein typisches Beispiel ist ein KI-Chatbot, der Anfragen zu bestehenden Bestellungen, Rechnungen oder Verträgen beantwortet. Auch interne HR-Chatbots, die Mitarbeitenden bei arbeitsvertraglich relevanten Themen helfen, fallen oft hierunter.

Berechtigtes Interesse ist die flexibelste, aber auch anspruchsvollste Grundlage. Sie verlangt eine dokumentierte Interessenabwägung zwischen dem Geschäftsinteresse des Unternehmens und den Schutzinteressen der Betroffenen. In der Praxis trägt sie Sales-KI für Bestandskundenkommunikation, interne Wissens-Chatbots, Betrugserkennung oder Sicherheitsmonitoring. Voraussetzung ist, dass die Verarbeitung für die Betroffenen vernünftig erwartbar ist und keine überwiegenden Schutzinteressen entgegenstehen.

Risiken: Automatisierte Entscheidungen und Profiling (Art. 22)

Art. 22 DSGVO enthält eine Sonderregelung für automatisierte Entscheidungen im Einzelfall einschliesslich Profiling. Sobald ein KI-System ohne substanziellen menschlichen Eingriff Entscheidungen trifft, die rechtliche Wirkung oder eine ähnlich erhebliche Beeinträchtigung für Personen haben, greifen zusätzliche Schutzmechanismen.

Typische Hochrisikobereiche sind automatisierte Kreditentscheidungen, KI-gestützte Bewerberauswahl, dynamische Versicherungstarife, automatische Konto- oder Account-Sperrungen sowie KI-basierte Diagnoseunterstützung im Gesundheitswesen. Auch Scoring-Modelle, die über Zugang zu Leistungen entscheiden, fallen typischerweise darunter.

Die zentralen Pflichten bei solchen Anwendungen sind: vorherige Information der Betroffenen über die Logik der Verarbeitung in verständlicher Form, das Recht auf menschliche Überprüfung der Entscheidung, das Recht auf Darlegung des eigenen Standpunkts und das Recht auf Anfechtung der Entscheidung. Technisch bedeutet das, dass jede automatisierte Entscheidung protokolliert und nachvollziehbar gemacht werden muss. Eine reine Blackbox-Architektur ist hier nicht haltbar.

Wichtig: Wenn ein qualifizierter Mitarbeitender die KI-Empfehlung prüfen, modifizieren oder ablehnen kann und dies in der Praxis auch substantiell tut, fällt der Anwendungsfall nicht unter Art. 22. Diese sogenannte Human-in-the-Loop-Architektur ist daher in vielen Fällen der pragmatischste Compliance-Weg, ohne den Geschäftsnutzen der KI zu opfern.

Technische Massnahmen für KI-Compliance

Compliance ist nicht nur eine juristische Aufgabe. Die DSGVO verlangt explizit in Art. 25 die Umsetzung von Datenschutz durch Technikgestaltung (Privacy by Design) und durch datenschutzfreundliche Voreinstellungen (Privacy by Default). Folgende technische Massnahmen haben sich in unserer Praxis als wirksam erwiesen und sollten bei jedem KI-Projekt von Anfang an mitgedacht werden.

Datenminimierung ist der wichtigste Hebel. Vor jeder Anfrage an ein KI-Modell sollte geprüft werden, welche Felder tatsächlich benötigt werden, um die gewünschte Antwort zu erzeugen. Eine Support-KI, die Versanddaten klärt, braucht keine Geburtsdaten oder Bankverbindungen im Prompt. Eine schmale Eingabe reduziert das Risiko bei jedem Einzelvorfall dramatisch und vereinfacht die rechtliche Bewertung.

Pseudonymisierung und Anonymisierung entkoppeln die Daten von der konkreten Identität. Datenanonymisierung-Tools können Namen durch konsistente Pseudonyme ersetzen, Adressen auf Postleitzahl-Ebene aggregieren und sensible Identifikatoren wie Sozialversicherungsnummern oder Kontonummern komplett entfernen. Für viele KI-Use-Cases reicht eine pseudonymisierte Eingabe vollkommen aus.

Retention-Kontrollen definieren, wie lange Daten in welchem System verbleiben dürfen. Chat-Verläufe, Prompts und KI-Outputs sollten nach klaren Fristen automatisch gelöscht oder anonymisiert werden. Viele LLM-Anbieter speichern standardmässig Anfragen für 30 Tage oder länger, das muss vertraglich und technisch unterbunden werden, wenn personenbezogene Daten verarbeitet werden.

Audit-Logging ist sowohl Pflicht als auch Schutzmechanismus. Jeder Zugriff auf personenbezogene Daten durch ein KI-System sollte mit Zeitstempel, User-Identität, Zweck und Datenumfang protokolliert werden. Bei einer Prüfung durch die Aufsichtsbehörde oder bei einem Datenschutzvorfall sind diese Logs die wichtigste Verteidigungsgrundlage.

Prompt-Injection-Abwehr ist ein KI-spezifisches Sicherheitsthema, das datenschutzrechtlich relevant wird. Bei unzureichendem Schutz kann ein Angreifer über manipulierte Eingaben das KI-System dazu bringen, interne Daten oder Daten anderer Nutzer preiszugeben. Technische Gegenmassnahmen sind Eingabevalidierung, Output-Filter, separate Kontexte pro Nutzer und ein striktes Berechtigungsmodell innerhalb der RAG-Architektur.

RAG mit PII-Redaktion ist 2026 der Goldstandard für Unternehmens-KI. Statt das Modell direkt mit Rohdaten zu füttern, wird eine Retrieval-Schicht vorgeschaltet, die nur autorisierte Inhalte aus internen Wissensbasen liefert. Eine zwischengeschaltete Redaktionsschicht entfernt personenbezogene Daten, bevor diese den eigentlichen Modell-Aufruf erreichen. Dieser Aufbau kombiniert Compliance, Datenschutz und praktische Nutzbarkeit.

DSGVO und EU AI Act: das Zusammenspiel

Die DSGVO und der EU AI Act sind zwei eigenständige, aber komplementäre Regulierungsrahmen. Die DSGVO schützt personenbezogene Daten, der EU AI Act regelt KI-Systeme nach ihrem Risikoprofil. In der Praxis greifen beide oft gleichzeitig.

Ein KI-System, das personenbezogene Daten verarbeitet und gleichzeitig als Hochrisiko-System nach AI Act eingestuft wird (zum Beispiel im HR-Bereich), muss beide Regelwerke vollständig erfüllen. Die DSGVO-Pflichten (Rechtsgrundlage, Datenminimierung, Betroffenenrechte) bestehen unabhängig vom AI Act weiter. Der AI Act fügt zusätzliche Pflichten hinzu: Risikomanagement-System, technische Dokumentation, Konformitätsbewertung, Transparenzpflichten und CE-Kennzeichnung für Hochrisiko-Anwendungen.

Eine kombinierte Compliance-Strategie ist wirtschaftlich sinnvoll. Eine Datenschutz-Folgenabschätzung (DSFA) nach DSGVO und die Risikobewertung nach AI Act lassen sich in einem integrierten Prozess durchführen. Vertiefen Sie das Thema mit unserer EU AI Act Compliance-Checkliste 2026 sowie der Übersicht zu EU AI Act Compliance.

Praxis-Checkliste für DACH-Mittelstand

Die folgende Checkliste fasst die wichtigsten Schritte zusammen, mit denen Sie Ihre KI-Anwendungen DSGVO-konform aufsetzen. Sie ersetzt keine individuelle rechtliche Prüfung, schafft aber eine solide Arbeitsgrundlage für das Gespräch mit Datenschutzbeauftragten und Rechtsanwalt.

Datenflussanalyse durchführen: Welche personenbezogenen Daten gehen in welches KI-System, zu welchem Anbieter, in welche Jurisdiktion?
Rechtsgrundlage pro Use Case dokumentieren: Einwilligung, Vertrag oder berechtigtes Interesse, jeweils mit Begründung.
Auftragsverarbeitungsverträge abschliessen: Mit jedem externen LLM-Anbieter, der personenbezogene Daten verarbeitet.
Drittlandtransfers absichern: Standardvertragsklauseln, EU-Region-Hosting oder gleichwertige Garantien.
PII-Redaktion technisch verankern: Eingehende Prompts automatisiert filtern, bevor sie den Modell-Anbieter erreichen.
Retention-Policy konfigurieren: Speicherfristen für Prompts, Outputs und Trainingsdaten klar definieren.
Audit-Logging aktivieren: Jeden Datenzugriff durch KI-Systeme protokollieren und auswertbar machen.
Human-in-the-Loop bei kritischen Entscheidungen: Substanzielle menschliche Prüfung dokumentieren.
Transparenzhinweise für Betroffene: Datenschutzerklärung aktualisieren, KI-Nutzung sichtbar machen.
Rechtsanwalt für rechtliche Validierung einbinden: Insbesondere bei Hochrisiko-Anwendungen und Drittlandtransfers.

Erfahren Sie mehr über unsere KI-Integrationsleistungen und KI-Automatisierung oder lesen Sie unseren Leitfaden zur KI-Integration für Unternehmen.

DSGVO und KI 2026: Was DACH-Unternehmen rechtlich beachten müssen

Inhaltsverzeichnis

Wo überschneiden sich DSGVO und KI?

Rechtsgrundlagen (Art. 6 DSGVO)

Risiken: Automatisierte Entscheidungen und Profiling (Art. 22)

Technische Massnahmen für KI-Compliance

DSGVO und EU AI Act: das Zusammenspiel

Praxis-Checkliste für DACH-Mittelstand

Häufig gestellte Fragen zu DSGVO und KI

Verwandte Artikel

EU AI Act Compliance-Checkliste 2026

KI Integration für Unternehmen

KI-Chatbot für Unternehmen

Datenschutz-Check für Ihre KI-Lösung