DSGVO und KI

Was bedeutet DSGVO und KI?

DSGVO und KI bezeichnet die datenschutzrechtlichen Anforderungen, die ein Unternehmen erfüllen muss, wenn es KI-Systeme wie Claude oder ChatGPT mit personenbezogenen Daten einsetzt. Das Unternehmen bleibt als Verantwortlicher für die Verarbeitung zuständig und muss Rechtsgrundlage, Auftragsverarbeitung, Datentransfer in Drittländer, Datenminimierung und die Information der Betroffenen sicherstellen.

Die Datenschutz-Grundverordnung enthält keine eigenen Regeln für künstliche Intelligenz. Sie gilt für jede Verarbeitung personenbezogener Daten, unabhängig von der Technik. Ein KI-Assistent ist aus Sicht der DSGVO ein Werkzeug wie ein E-Mail-Programm oder ein CRM-System: Wer damit Daten von Kunden, Mitarbeitenden oder Geschäftspartnern verarbeitet, muss die Verarbeitung rechtfertigen und absichern können.

Neu ist die Art der Verarbeitung. Bei einem KI-Assistenten werden Daten an einen externen Anbieter gesendet, dort von einem Modell verarbeitet und möglicherweise gespeichert. Mitarbeitende geben Daten ein, ohne dass eine technische Schnittstelle sie filtert. Und die Ergebnisse können personenbezogene Daten enthalten, die das Modell aus dem Kontext ableitet. Diese Besonderheiten machen den KI-Einsatz nicht unzulässig, sie verlangen aber eine bewusste Gestaltung.

Dieser Eintrag beschreibt die wesentlichen Fragen aus Unternehmenssicht. Er ist keine Rechtsberatung und ersetzt nicht die Prüfung durch einen Datenschutzbeauftragten oder eine Anwaltskanzlei. Die Antworten hängen in jedem Punkt vom Einzelfall ab.

Die Rolle des Unternehmens als Verantwortlicher

Das Unternehmen, das den KI-Assistenten einsetzt, ist der Verantwortliche im Sinne der DSGVO. Der Anbieter des Assistenten ist Auftragsverarbeiter, solange er die Daten nur nach Weisung verarbeitet. Diese Rollenverteilung hat Folgen: Das Unternehmen muss die Rechtmäßigkeit sicherstellen, die Betroffenen informieren, deren Rechte gewährleisten und die Verarbeitung dokumentieren. Der Anbieter muss technische und organisatorische Maßnahmen bieten und darf die Daten nicht für eigene Zwecke nutzen.

An diesem Punkt unterscheiden sich Pläne. In den Consumer-Plänen von KI-Assistenten gibt es Einstellungen zur Datennutzung, und je nach Einstellung können Inhalte zur Verbesserung der Modelle verwendet werden. Für den Unternehmenseinsatz sind deshalb die Geschäftspläne vorgesehen: Bei Claude sind das Team, Enterprise und die API, bei denen Inhalte standardmäßig nicht zum Training genutzt werden und ein Auftragsverarbeitungsvertrag verfügbar ist. Vergleichbare Regelungen bieten andere Anbieter. Der genaue Stand sollte in den jeweiligen Vertragsdokumenten geprüft werden.

Die Nutzung privater Konten für Unternehmensdaten ist aus dieser Perspektive das größte praktische Risiko. Hier fehlt der Vertrag, die Datennutzung ist unklar, und das Unternehmen hat keine Kontrolle. Der erste Schritt jeder Datenschutzprüfung ist deshalb die Frage, über welche Konten Mitarbeitende tatsächlich arbeiten.

Die fünf zentralen Prüfpunkte

Der erste Prüfpunkt ist die Rechtsgrundlage. Jede Verarbeitung personenbezogener Daten braucht eine Grundlage nach Art. 6 DSGVO. Im Unternehmensalltag kommen vor allem die Vertragserfüllung (etwa Kundenanfragen beantworten) und das berechtigte Interesse (etwa Effizienz interner Prozesse) in Betracht. Beim berechtigten Interesse ist eine Abwägung mit den Interessen der Betroffenen nötig, die dokumentiert werden sollte. Für besondere Kategorien wie Gesundheitsdaten gelten strengere Regeln.

Der zweite Prüfpunkt ist der Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Er regelt, was der Anbieter mit den Daten tun darf, welche Sicherheitsmaßnahmen gelten, ob Unterauftragnehmer eingesetzt werden und was bei Vertragsende passiert. Die großen Anbieter stellen solche Verträge für Geschäftskunden bereit. Der Vertrag sollte vor dem ersten produktiven Einsatz abgeschlossen und abgelegt sein.

Der dritte Prüfpunkt ist der Drittlandtransfer. Anthropic, OpenAI und Google haben ihren Sitz in den USA. Ein Transfer personenbezogener Daten dorthin ist zulässig, wenn ein Angemessenheitsbeschluss greift oder geeignete Garantien vorliegen. Nach aktuellem Stand können Unternehmen auf das EU-US Data Privacy Framework zurückgreifen, sofern der Anbieter zertifiziert ist, oder auf Standardvertragsklauseln. Einige Anbieter bieten zudem eine Verarbeitung in EU-Regionen an, Claude etwa über Amazon Bedrock, Google Cloud Vertex AI oder Microsoft Foundry. Welche Option im Einzelfall trägt, ist vom Datenschutzbeauftragten zu bewerten, und die Rechtslage zum Datentransfer hat sich in der Vergangenheit mehrfach geändert.

Der vierte Prüfpunkt ist die Datenminimierung. Die DSGVO verlangt, nur die Daten zu verarbeiten, die für den Zweck erforderlich sind. Für KI-Assistenten bedeutet das: Kundendaten anonymisieren oder pseudonymisieren, wo der Personenbezug für die Aufgabe nicht nötig ist. Wer eine Antwort auf eine Reklamation formulieren lässt, braucht dafür meist nicht den vollständigen Namen und die Adresse. Eine kurze Regel in der KI-Richtlinie und eine Schulung der Mitarbeitenden reichen oft, um dieses Prinzip im Alltag zu verankern.

Der fünfte Prüfpunkt ist die Information der Betroffenen. Kunden, Bewerber und Mitarbeitende müssen wissen, dass ihre Daten mit KI-Systemen verarbeitet werden, sofern das nicht bereits von den bestehenden Datenschutzhinweisen abgedeckt ist. In der Regel ist eine Ergänzung der Datenschutzerklärung und des Verzeichnisses der Verarbeitungstätigkeiten nötig. Bei Mitarbeitenden kommt die interne Information hinzu, in Deutschland häufig verbunden mit der Beteiligung des Betriebsrats.

Organisatorische Maßnahmen im Unternehmen

Neben den rechtlichen Prüfpunkten braucht es organisatorische Vorkehrungen, die den Datenschutz im Alltag sichern. Eine interne Richtlinie legt fest, welche Werkzeuge zugelassen sind, welche Datenkategorien eingegeben werden dürfen und welche nicht, und wie mit Ergebnissen umzugehen ist. Erfahrungsgemäß wirken drei klare Regeln mit Beispielen besser als ein umfangreiches Dokument.

Die Schulung der Mitarbeitenden ist der wichtigste Baustein. Datenschutzverstöße beim KI-Einsatz entstehen fast nie aus Absicht, sondern aus Unwissen: Jemand kopiert eine E-Mail mit Kundendaten in einen Chat, weil es schnell geht. Eine KI-Schulung, die den Datenschutz praxisnah behandelt, ist zugleich Bestandteil der Pflicht zur KI-Kompetenz nach dem EU AI Act.

Der Datenschutzbeauftragte sollte früh einbezogen werden, nicht erst nach der Einführung. Er bewertet Rechtsgrundlage, Vertrag und Transfer, prüft, ob eine Datenschutz-Folgenabschätzung nötig ist, und dokumentiert das Ergebnis. Diese Dokumentation ist auch die Grundlage für die Rechenschaftspflicht, die die DSGVO dem Unternehmen auferlegt.

Praxisbeispiel aus dem Unternehmensalltag

Eine Zahnarztpraxis mit drei Behandlern und zwölf Mitarbeitenden möchte Claude für die Formulierung von Patientenanschreiben, Erinnerungen und Antworten auf allgemeine Anfragen nutzen. Gesundheitsdaten gehören zu den besonderen Kategorien, deshalb geht die Praxis vorsichtig vor.

Gemeinsam mit dem externen Datenschutzbeauftragten legt sie fest: Claude wird im Team-Plan mit Auftragsverarbeitungsvertrag genutzt. Behandlungsdaten werden nicht eingegeben. Für Anschreiben nutzt das Team Vorlagen in einem Claude Projekt, in die nur Platzhalter für Namen und Termine eingesetzt werden, die nach dem Export in der Praxissoftware ersetzt werden. Allgemeine Anfragen, etwa zu Öffnungszeiten oder Kostenerstattung, werden ohne Patientenbezug beantwortet. Die Datenschutzerklärung wird ergänzt, alle Mitarbeitenden erhalten eine zweistündige Schulung, und die Regeln stehen auf einer Seite im Teamordner.

Der Nutzen ist geblieben: Anschreiben entstehen in einem Bruchteil der Zeit, in gleichbleibender Qualität und Tonalität. Die Praxis hat dafür bewusst auf Anwendungsfälle verzichtet, bei denen der Aufwand für die rechtliche Absicherung den Nutzen überstiegen hätte. Ob dieses Vorgehen in einer anderen Praxis trägt, muss dort geprüft werden.

Bedeutung für kleine und mittelständische Unternehmen

Für KMU ist der Datenschutz beim KI-Einsatz lösbar, aber nicht nebenbei. Die gute Nachricht: Die Anbieter haben sich auf Geschäftskunden eingestellt und bieten die nötigen Verträge und Einstellungen. Die weniger gute Nachricht: Die Verantwortung bleibt beim Unternehmen, und sie lässt sich nicht an den Anbieter delegieren.

Ein pragmatischer Weg besteht aus fünf Schritten: Bestandsaufnahme der tatsächlichen Nutzung, Wechsel auf einen Unternehmensplan mit Vertrag, Prüfung durch den Datenschutzbeauftragten, Richtlinie und Schulung, regelmäßige Kontrolle. Dieser Weg ist Bestandteil unserer Begleitung bei Claude für Unternehmen und der KI-Beratung für den Mittelstand. Wir bereiten die Entscheidungen vor, die rechtliche Bewertung bleibt bei Datenschutzbeauftragtem und Rechtsberatung. Eine Sammlung der häufigsten Fragen finden Sie im Artikel Claude, Datenschutz und DSGVO: Die wichtigsten Fragen.

Vorteile und Grenzen

Ein sauber geregelter KI-Einsatz gibt Mitarbeitenden Sicherheit, schützt das Unternehmen vor Bußgeldern und Reputationsschäden und schafft die Grundlage, KI in der Breite zu nutzen. Der Aufwand ist einmalig hoch und danach überschaubar.

Die Grenzen liegen in der Rechtsunsicherheit. Die Bewertung von Drittlandtransfers hat sich mehrfach geändert, die Aufsichtsbehörden entwickeln ihre Positionen zu KI noch, und das Zusammenspiel mit dem EU AI Act wirft neue Fragen auf. Was heute als vertretbar gilt, kann morgen anders bewertet werden. Unternehmen sollten ihre Entscheidungen dokumentieren, regelmäßig prüfen und Änderungen in der Rechtslage verfolgen. Und sie sollten die Grenze akzeptieren, dass es keine Garantie für DSGVO-Konformität gibt, sondern nur eine sorgfältige, nachvollziehbare Gestaltung, die im Rahmen einer KI-Governance gepflegt wird.