11.05.2026

KI Datenschutz in der Verwaltung

Datenschutz beim KI-Einsatz in der Verwaltung: Was Behörden jetzt wissen müssen

Der Bayerische Landesbeauftragte für den Datenschutz (BayLfD) hat im März 2026 eine Orientierungshilfe zum Thema „Datenschutz bei KI-Projekten in der bayerischen Verwaltung“ veröffentlicht. Das Dokument richtet sich an öffentliche Stellen in Bayern und erklärt, was beim datenschutzkonformen Einsatz von KI-Systemen zu beachten ist – von der Beschaffung über den Betrieb bis zum Umgang mit Betroffenenrechten. Die Orientierungshilfe steht als PDF-Dokument zum Download bereit.

Was gilt als KI-System?

Die KI-Verordnung (Verordnung (EU) 2024/1689) definiert in Art. 3 Nr. 1 erstmals gesetzlich, was ein KI-System ist. Danach handelt es sich um ein maschinengestütztes System, das für einen autonomen Betrieb ausgelegt ist, aus erhaltenen Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte oder Empfehlungen erzeugt werden, und damit physische oder virtuelle Umgebungen beeinflusst.

Kein KI-System im Sinne der Verordnung liegt vor, wenn ein System ausschließlich auf von Menschen definierten Regeln für automatische Operationen basiert. Ein wesentliches Merkmal echter KI ist die Fähigkeit, Modelle oder Algorithmen aus Daten abzuleiten.

Vereinfacht gesagt: KI liegt vor, wenn Computersysteme Aufgaben eigenständig lösen können, die normalerweise menschliche Intelligenz erfordern – und wenn der Entscheidungsweg dabei nicht exakt nachvollziehbar ist.

Für bayerische Verwaltungsstellen relevant sind insbesondere diese KI-Einsatzfelder:

Erstellung von Zusammenfassungen langer Dokumente
Automatisierte Datenanalysen und Formulierungsvorschläge
Erkennung von Handschriften, Objekten oder Grafiken
Chatbots für die Erstbeantwortung von Bürgeranfragen
Digitale Assistenten für die Antragsbearbeitung

Die Risikoklassen der KI-Verordnung

Die KI-Verordnung verfolgt einen risikobasierten Ansatz und unterscheidet vier Stufen. Je höher das Risiko, desto strenger die Anforderungen.

Verbotene KI-Praktiken (Art. 5 KI-Verordnung)

Bestimmte KI-Systeme sind vollständig verboten. Dazu gehören unter anderem manipulative oder täuschende Techniken zur unterschwelligen Beeinflussung von Personen, sogenanntes „Social Scoring“ auf Basis persönlicher Merkmale wie Geschlecht oder Religion sowie „Predictive Policing“, also die Prognose von Straftaten allein auf Basis von Persönlichkeitsprofilen. Auch die massenhafte Erstellung von Datenbanken zur Gesichtserkennung und biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken sind grundsätzlich verboten. Verstöße gegen Art. 5 der KI-Verordnung sind bußgeldbewehrt.

Hochrisiko-KI-Systeme (Art. 6 KI-Verordnung)

Hochrisiko-KI-Systeme unterliegen besonders strengen Anforderungen. Sie müssen unter anderem eine Grundrechte-Folgenabschätzung durchlaufen, wenn sie von öffentlichen Stellen eingesetzt werden. Typische Hochrisiko-Bereiche sind Bildung, Beschäftigung, Grundversorgung und Strafverfolgung. Betreiber, also öffentliche Stellen, die solche Systeme einsetzen, müssen die Vorgaben der KI-Verordnung vollständig umsetzen und dies nachweisen können.

KI mit begrenztem oder geringem Risiko

KI-Systeme mit begrenztem Risiko – etwa Chatbots – unterliegen Transparenzpflichten. Nutzer müssen wissen, dass sie mit einer KI interagieren. KI-Systeme mit keinem oder geringem Risiko, wie einfache Bild- oder Textgeneratoren ohne sensible Daten, unterliegen den wenigsten Pflichten. Bayerische Behörden werden in der Orientierungshilfe darauf hingewiesen, dass sie beim Einsatz solcher Systeme trotzdem das Datenschutzrecht vollständig einhalten müssen.

DSGVO-Anforderungen beim KI-Einsatz

KI-Verordnung und DSGVO ergänzen sich gegenseitig. Die KI-Verordnung regelt die Sicherheit und Transparenz von KI-Systemen als solchen. Die DSGVO regelt, was mit den dabei verarbeiteten personenbezogenen Daten passieren darf. Beide Regelwerke gelten gleichzeitig und unabhängig voneinander.

Rechtsgrundlage und Datenschutzgrundsätze

Jede Verarbeitung personenbezogener Daten durch ein KI-System braucht eine Rechtsgrundlage nach Art. 6 DS-GVO. Für öffentliche Stellen kommt in der Regel die Wahrnehmung einer öffentlichen Aufgabe nach Art. 6 Abs. 1 lit. e DS-GVO in Betracht. Eine Einwilligung scheidet für hoheitliches Handeln meist aus, weil das dafür erforderliche freiwillige Einverständnis im Verhältnis Bürger zu Behörde kaum gegeben ist.

Dazu müssen alle Grundsätze des Art. 5 DS-GVO eingehalten werden: Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung und Vertraulichkeit. Besondere Kategorien personenbezogener Daten nach Art. 9 DS-GVO, also etwa Gesundheits- oder biometrische Daten, dürfen nur unter engen Voraussetzungen verarbeitet werden.

Automatisierte Entscheidungen

Trifft eine Behörde eine Entscheidung, die ausschließlich auf automatisierter Verarbeitung beruht und die eine Person rechtlich oder erheblich beeinträchtigt, greift Art. 22 DS-GVO. Betroffene haben dann grundsätzlich das Recht auf menschliche Überprüfung der Entscheidung. Das ist bei vielen KI-gestützten Verwaltungsprozessen relevant, etwa bei der automatisierten Vorbewertung von Anträgen.

Datenschutz-Folgenabschätzung und Verzeichnis

Vor dem Einsatz von KI-Systemen, die ein hohes Risiko für Rechte und Freiheiten natürlicher Personen mit sich bringen, ist eine Datenschutz-Folgenabschätzung nach Art. 35 DS-GVO durchzuführen. Der Einsatz von Hochrisiko-KI ist nach dem BayLfD grundsätzlich als solches Hochrisiko-Szenario einzustufen. Alle KI-bezogenen Verarbeitungstätigkeiten müssen außerdem im Verzeichnis nach Art. 30 DS-GVO dokumentiert sein.

Auftragsverarbeitung und Drittlandübermittlungen

Wird ein KI-System nicht selbst betrieben, sondern als Dienstleistung eingekauft, ist in der Regel ein Auftragsverarbeitungsvertrag nach Art. 28 DS-GVO abzuschließen. Besonders kritisch wird es, wenn der KI-Anbieter Server außerhalb der EU betreibt oder personenbezogene Daten in Drittländer übermittelt. In solchen Fällen greift das Drittlandtransferrecht nach Art. 44 ff. DS-GVO, das ohne angemessene Schutzmaßnahmen keine Übermittlung erlaubt.

Umsetzungsempfehlungen des BayLfD

Der BayLfD gibt in der Orientierungshilfe konkrete Handlungsempfehlungen für öffentliche Stellen. Diese betreffen alle Phasen des KI-Lebenszyklus – von der Planung bis zum laufenden Betrieb.

Bei der Beschaffung sollte geprüft werden, ob der Einsatz personenbezogener Daten überhaupt erforderlich ist oder ob Anonymisierung ausreicht. Technische und organisatorische Maßnahmen müssen das Risiko unbefugter Datenzugriffe minimieren. Ohne interne Regelungen – etwa eine Dienstanweisung oder Dienstvereinbarung – besteht das Risiko, dass Beschäftigte KI-Systeme unkontrolliert einsetzen, sogenannte „Schatten-IT“. Das kann direkt zu Datenschutzverstößen führen.

Beschäftigte müssen regelmäßig geschult werden – auch zur Formulierung von Eingaben an KI-Systeme (Prompt Engineering) und zum Umgang mit KI-Ergebnissen. Der behördliche Datenschutzbeauftragte sollte nach Art. 38 DS-GVO frühzeitig eingebunden werden. Interne Regelungen sind regelmäßig zu überprüfen und an neue technische oder rechtliche Entwicklungen anzupassen.

Der BayLfD weist auch darauf hin, dass eine nachträgliche Implementierung von Datenschutzanforderungen in bestehende KI-Systeme regelmäßig schwierig bis unmöglich ist. Datenschutz muss von Anfang an mitgedacht werden.

Unsere Empfehlungen

Behörden und öffentliche Stellen

Prüfen Sie vor jedem KI-Einsatz, ob eine Rechtsgrundlage nach Art. 6 DS-GVO besteht und ob eine Datenschutz-Folgenabschätzung nach Art. 35 DS-GVO erforderlich ist. Dokumentieren Sie alle KI-bezogenen Verarbeitungstätigkeiten im Verzeichnis nach Art. 30 DS-GVO. Erlassen Sie eine Dienstanweisung, die regelt, welche KI-Systeme unter welchen Bedingungen genutzt werden dürfen. Binden Sie Ihren behördlichen Datenschutzbeauftragten frühzeitig ein. Lesen Sie die Orientierungshilfe des BayLfD vollständig – sie ist das derzeit ausführlichste deutschsprachige Dokument speziell für die öffentliche Verwaltung in Bayern und steht hier zum Download bereit.

Unternehmen und KMU

Auch private Unternehmen, die KI-Systeme einsetzen, brauchen eine Rechtsgrundlage und müssen die Datenschutzgrundsätze nach Art. 5 DS-GVO einhalten. Setzen Sie KI-Systeme mit hohem Risikopotenzial ein, prüfen Sie frühzeitig, ob eine Datenschutz-Folgenabschätzung notwendig ist. Schließen Sie mit externen KI-Anbietern immer einen Auftragsverarbeitungsvertrag nach Art. 28 DS-GVO ab.

Gesundheitseinrichtungen

KI-Systeme im Gesundheitsbereich verarbeiten regelmäßig besondere Kategorien personenbezogener Daten nach Art. 9 DS-GVO. Dazu zählen Gesundheits- und biometrische Daten. Hier gelten erhöhte Anforderungen an die Rechtsgrundlage und die technischen Schutzmaßnahmen. Diagnostik-KI, die automatisierte Entscheidungen trifft, löst zudem Art. 22 DS-GVO aus. Patienten haben ein Recht auf menschliche Überprüfung solcher Entscheidungen.

Kanzleien und Freiberufler

Wer KI-Systeme zur Dokumentenanalyse, Fallvorbereitung oder mandantenbezogenen Recherche einsetzt, verarbeitet oft vertrauliche personenbezogene Daten. Achten Sie darauf, dass keine Mandantendaten in externe KI-Systeme eingegeben werden, ohne dass ein Auftragsverarbeitungsvertrag besteht und keine Drittlandübermittlung ohne ausreichende Garantien erfolgt.

Quelle: Bayerischer Landesbeauftragter für den Datenschutz (BayLfD)

Lassen Sie sich unverbindlich von einem Datenschutzbeauftragten beraten.

Kontakt aufnehmen

Weitere unterstützende Hinweise zum Datenschutz finden Sie in diesen Beiträgen:

Dieser Absatz enthält Affiliatelinks/Werbelinks