Leistung · DSGVO-konforme KI

DSGVO-konforme KI: die Fragen, die vor jedem KI-Projekt auf den Tisch gehören

DSGVO-konforme KI ist kein Produkt, das man kauft, sondern ein Einsatz, den man gestaltet. Wir zeigen, woran KI-Projekte datenschutzrechtlich üblicherweise hängen und welche technischen Wege es gibt: vom öffentlichen Dienst über Anbieter mit EU-Rechenzentrum bis zum eigenen Modell auf einem Server in Deutschland. Die rechtliche Bewertung bleibt bei Euren Fachleuten, die technische Grundlage dafür bauen wir.

Monatlich kündbar85 € pro Stunde
85 €pro Stunde im Projekt

Zufriedene Kunden der Suchhelden GmbH

eBayDeichmannVolkswagenCornelsenBundeswehrREWEIKK classicBertelsmannvhsERGOSchwäbisch HallAVMWavineBayDeichmannVolkswagenCornelsenBundeswehrREWEIKK classicBertelsmannvhsERGOSchwäbisch HallAVMWavin

Überblick

Wenn aus einem Technikthema plötzlich ein Datenschutzthema wird

In fast jedem Unternehmen läuft dieselbe Szene ab. Jemand probiert ein KI-Werkzeug aus. Es funktioniert erstaunlich gut. Und dann fragt jemand: Dürfen wir das eigentlich? Ab diesem Moment ist aus einem Technikthema ein Datenschutzthema geworden. Viele Projekte kommen über diesen Punkt nie hinaus.

Das ist verständlich, aber selten notwendig. KI und Datenschutz sind kein Widerspruch. Dahinter steckt eine Reihe von Fragen, die sich nacheinander klären lassen: Wohin gehen die Daten? Wer verarbeitet sie? Zu welchem Zweck? Wer darf was sehen? Neu sind diese Fragen nicht, sie stellen sich bei jedem Cloud-Dienst. Bei KI fühlen sie sich nur dringlicher an, weil Menschen dort spontan Inhalte hineinkopieren.

Viele Datenschutzdiskussionen entstehen erst durch die gewählte Technik. Wenn Daten das Haus nicht verlassen, fallen ganze Fragenblöcke weg. Gute Architektur ist die wirksamste Form der Datenschutzvorsorge.

Ein Hinweis gleich vorweg. Eine Rechtsberatung können wir nicht leisten. Wir sind Techniker:innen und Umsetzer:innen. Für die datenschutzrechtliche Bewertung Eures Falls zieh bitte spezialisierte Datenschutzberater:innen oder Deine:n Datenschutzbeauftragte:n hinzu. Was wir können: die technische Seite so bauen, dass diese Bewertung zu einem guten Ergebnis kommen kann.

Erst die Datenart, dann das Werkzeug

Datenschutz ist keine Hürde am Ende, sondern eine Entscheidung am Anfang. Wer zuerst die Datenarten klärt, wählt danach die passende Technik.

Der Server läuft auf Euren Namen

Ihr seid Vertragspartner des Rechenzentrums in Deutschland, wir haben nur einen Verwaltungszugang. Zwischen Euch und dem Rechenzentrum steht kein weiterer Dienstleister.

Training nie mit echten Daten

Wenn wir eine KI nachtrainieren, dann nur mit Beispielen, die wir gemeinsam mit Euch erfinden. Eure echten Dokumente bleiben in der Wissensanbindung, wo sie sich jederzeit ändern oder löschen lassen.

Technische Beschreibung inklusive

Datenfluss, Standort, Beteiligte, Rechte, Protokollierung, Löschung: Wir liefern die Unterlagen, auf denen Eure Prüfung aufsetzt.

Kostenlose Erstberatung

Sprich mit uns über Dein Vorhaben.

Anfragen ›

Aus der Praxis

Drei Situationen, in denen KI und Datenschutz kollidieren

Der PromptDas Pilotprojekt
01

Der Prompt mit dem Kundennamen darin

Jemand kopiert eine Kundenmail in ein KI-Werkzeug, um eine freundliche Antwort entwerfen zu lassen. Darin stehen Name, Adresse, Vorgangsnummer, vielleicht ein Gesundheitsproblem. Die Antwort ist hervorragend, die Daten sind trotzdem beim Anbieter gelandet. Das ist kein böser Wille, sondern der Normalfall. Verbote helfen wenig. Die Frage lautet: Welches Werkzeug stellen wir bereit, damit niemand ausweichen muss? Steht etwa eine ChatGPT-Alternative ohne Internetverbindung bereit, verliert der private Account seinen Reiz.

02

Das Pilotprojekt, das in der Prüfung liegen bleibt

Der Nutzen ist offensichtlich, dann geht die Anfrage in die Prüfung – Datenschutz, IT-Sicherheit, manchmal Betriebsrat – und bleibt liegen. Nicht aus Unwillen, sondern weil drei Unterlagen fehlen: welche Datenarten verarbeitet werden, wo und mit wem die Verarbeitung stattfindet, wie Zugriffe geregelt und protokolliert sind. Ohne diese Punkte kann niemand seriös prüfen. Wir liefern sie mit, als technische Beschreibung.

03

Mitarbeiterdaten und die Frage nach der Leistungskontrolle

Ein System, das Servicetickets zusammenfasst, verarbeitet auch, wer wie viele Tickets bearbeitet hat. Damit wird aus einem Effizienzthema ein Thema der Mitbestimmung. Das ist kein Grund zu stoppen, sondern früh mit dem Betriebsrat zu sprechen. Fast immer findet sich eine Gestaltung, die den Nutzen erhält und Leistungskontrolle technisch ausschließt. Wer ein fertiges System präsentiert, verhandelt aus einer schlechten Position.

Der ehrliche Vergleich

Drei Lösungswege im Vergleich

Öffentlicher KI-DienstCloud-Dienst mit EU-Rechenzentrum und AuftragsverarbeitungSelbst betriebenes Modell
DatenwegEingaben gehen an den Anbieter, oft über mehrere LänderEingaben gehen an den Anbieter, Verarbeitung vertraglich gebundenEingaben bleiben in Eurer Umgebung
ServerstandortHäufig außerhalb der EU, selten frei wählbarEU oder Deutschland, vertraglich zugesichertVon Euch festgelegt – Rechenzentrum oder eigenes Haus
VertragslageMeist Standardbedingungen, wenig verhandelbarAuftragsverarbeitung üblich, Unterauftragnehmer werden benanntKein externer Verarbeiter für die Inhalte nötig
Kontrolle über Modell und VersionAnbieter entscheidet, Verhalten kann sich ändernAnbieter entscheidet, oft mit Vorlauf und VersionswahlIhr entscheidet über Modell, Version und Zeitpunkt
Eignung für personenbezogene DatenOhne Anonymisierung in der Regel kritischJe nach Datenart und Vertragslage prüfbarAm ehesten darstellbar, weil kein Dritter beteiligt ist
NachweisbarkeitSchwer, da Verarbeitung intransparentÜber Vertrag, Zertifikate und AnbieterangabenÜber eigene Protokolle und eigene Systemdokumentation
AufwandSehr gering, sofort startklarGering bis mittel, Vertrags- und KonfigurationsarbeitHöher: Aufbau, Betrieb, Updates – übernehmen wir
Typisch sinnvoll fürÖffentliche Inhalte, Marketingtexte, Recherche ohne PersonenbezugInterne Texte, mittlere Vertraulichkeit, viele StandardfällePersonalakten, Verträge, Gesundheits- und Kundendaten

Diese Tabelle ist eine Landkarte, keine Empfehlung. Welcher Weg zu einem Anwendungsfall passt, hängt an der Datenart, und diese Bewertung gehört in fachkundige Hände. Was sich sagen lässt: Die meisten Unternehmen brauchen nicht einen Weg, sondern zwei. Einen öffentlichen Dienst für unkritische Aufgaben, eine geschützte Umgebung für alles andere. Der häufigste Fehler ist, die gesamte KI-Strategie an der sensibelsten Datenart auszurichten – dann wird lange geprüft, während niemand etwas nutzt. Der zweithäufigste ist das Gegenteil: ein Werkzeug für alles, ohne Unterscheidung.

Der dritte Weg ist technisch der aufwendigste und rechtlich der ruhigste. Umgesetzt wird er als betreutes LLM-Hosting im Rechenzentrum oder als lokale KI im eigenen Netz, auf Basis frei verfügbarer Modelle (Vergleich offener Modelle). Der Serververtrag läuft auf Euren Namen. Das ist aus Datenschutzsicht das stärkste Argument unseres Ablaufs. Wie der eigene KI-Server dafür ausgelegt wird, steht auf der Seite dazu. Was daraus rechtlich folgt, bewerten Eure Datenschutzfachleute.

Malte Hundertmark – KI-Experte für DSGVO-konforme KI bei KI-Helden

Malte Hundertmark – KI-Experte bei KI-Helden

Kernaussage

„Die meisten Datenschutzprobleme in KI-Projekten entstehen nicht durch böse Absicht, sondern durch eine Architektur, die niemand bewusst gewählt hat. Wenn wir früh klären, welche Datenart wohin fließt, lösen sich die meisten Fragen von selbst. Was dann noch offen bleibt, gehört in die Hände von Datenschutzfachleuten – und genau dorthin geben wir es auch.“
Malte Hundertmark KI-Entwicklung · KI-Helden

Grundlagen

Was bedeutet „DSGVO-konforme KI“ – und wo liegt der Unterschied zu sicherer KI?

DSGVO-konforme KI beschreibt keinen Produktzustand, sondern einen Einsatz, der die Anforderungen des Datenschutzes berücksichtigt. Kein Werkzeug ist von sich aus konform oder nicht konform. Entscheidend ist, welche Daten hineingehen, wohin sie fließen, zu welchem Zweck sie verarbeitet werden und wie der Zugriff geregelt ist. Konformität entsteht im Einsatz, nicht im Produkt.

Die Frage „Ist dieses Werkzeug DSGVO-konform?“ ist deshalb kaum zu beantworten. Sinnvoller ist: Lässt sich dieser Anwendungsfall mit diesem Werkzeug so gestalten, dass die Anforderungen erfüllt sind? Beim Datenschutz bei künstlicher Intelligenz kommen zwei Besonderheiten hinzu: die Spontaneität der Eingabe, weil Nutzer:innen Inhalte hineinkopieren, ohne über die Datenart nachzudenken, und die Frage, ob Eingaben zur Verbesserung des Modells weiterverwendet werden. Beides muss man aktiv gestalten.

Abgrenzung: Datenschutz, IT-Sicherheit und der EU AI Act

Datenschutz fragt, ob personenbezogene Daten zulässig verarbeitet werden. IT-Sicherheit fragt, ob das System gegen Angriffe und Ausfälle geschützt ist. Beides hängt zusammen, ist aber nicht dasselbe. Der EU AI Act ist die dritte Ebene: Er betrachtet KI-Systeme nach dem Risiko für Menschen und staffelt seine Anforderungen danach. Ein internes Textwerkzeug wird anders eingeordnet als ein System, das über Bewerbungen mitentscheidet. Die Einordnung in eine Risikoklasse ist eine rechtliche Bewertung; ein selbst betriebenes System lässt sich dafür leichter beschreiben als eine Blackbox. Mehr auf unserer Seite zum EU AI Act.

✕Öffentlicher KI-Dienst ohne besondere Vereinbarung

  • Eingaben verlassen Eure Infrastruktur
  • Verarbeitungsort und Unterauftragnehmer sind oft nicht frei wählbar
  • Eine Weiterverwendung der Eingaben lässt sich nicht immer sicher ausschließen
  • Betroffenenrechte müssten über den Anbieter abgebildet werden
  • Der Nachweis, was tatsächlich passiert ist, ist schwer zu führen

✓Geschützte Umgebung auf eigener oder gemieteter Infrastruktur

  • Eingaben und Antworten bleiben innerhalb Eurer Systemgrenze
  • Der Standort ist von Euch bestimmt, ebenso die Aufbewahrung
  • Eine Weiterverwendung für Modelltraining findet nicht statt
  • Zugriffsrechte folgen Euren bestehenden Rollen und Gruppen
  • Protokolle und Löschvorgänge liegen in Eurer Hand

Ehrliche Abgrenzung

Was der eigene Server erledigt – und was trotzdem Eure Pflicht bleibt

Ein selbst betriebenes Modell beantwortet die Frage nach dem Datenweg. Es nimmt Euch aber nicht jede Pflicht ab. Diese Trennung ist uns wichtig, damit niemand mit falschen Erwartungen startet.

✓Das wird durch den eigenen Server einfacher

  • Für die Inhalte gibt es keinen externen Verarbeiter mehr, der Fragenblock zur Auftragsverarbeitung schrumpft
  • Kein Transfer in ein Drittland für die Inhalte, solange Betreiber und Zugriffe in der EU liegen
  • Keine Weiterverwendung von Eingaben für fremdes Modelltraining
  • Löschen in der Quelle wirkt sofort, weil das Modell nur liest
  • Eigene Protokolle statt Anbieterangaben als Nachweis

✕Das bleibt trotzdem bei Euch

  • Rechtsgrundlage und Zweckbindung für jeden Anwendungsfall
  • Eintrag im Verzeichnis der Verarbeitungstätigkeiten
  • Prüfung, ob eine Datenschutz-Folgenabschätzung nötig ist
  • Information der Betroffenen und Transparenzhinweise nach KI-Verordnung
  • Mitbestimmung, Nutzungsregeln und Schulung

Klärungsfragen

Die Fragen, die in KI-Projekten regelmäßig auftauchen

In fast jedem Projekt kommen dieselben Themenblöcke auf den Tisch. Ausdrücklich: Das ist eine Beschreibung typischer Klärungsfragen, keine Rechtsberatung. Wie sie in Eurem Fall zu beantworten sind, gehört zu Euren Datenschutzberater:innen oder Eurer Datenschutzbeauftragten.

ThemenblöckeBeschreibungKlärungsfragenRechtsberatungServerstandortZweckbindungDSGVO-konforme KI

Serverstandort und Datenweg

Geprüft wird üblicherweise der gesamte Weg der Daten vom Arbeitsplatz bis zum Ort der Verarbeitung, auch ob Beteiligte außerhalb der EU zugreifen könnten, etwa über Wartung oder Support. Ein europäischer Standort ist eine gute Ausgangslage, aber keine abschließende Antwort: Datenstandort ist nicht Datenhoheit. Bei einem eigenen KI-Server in Deutschland ist die Frage leicht zu beantworten, weil die Kette kurz ist.

Auftragsverarbeitung

Verarbeitet ein externer Dienstleister personenbezogene Daten in Eurem Auftrag, wird üblicherweise ein Vertrag nach Art. 28 DSGVO geschlossen, bei KI wie bei jedem Cloud-Dienst. Geprüft werden Unterauftragnehmer, ihr Sitz und die Schutzmaßnahmen. Läuft das Modell auf Eurer Infrastruktur, gibt es für die Inhalte keinen externen Verarbeiter mehr. Was wegfällt, muss nicht verhandelt werden.

Zugriff durch Drittstaaten

Wem gehört der Anbieter? Behördliche Zugriffsrechte können ein Unternehmen treffen, das einer fremden Rechtsordnung unterliegt, je nach Konstellation unabhängig davon, wo der Server steht. Wir formulieren das als Frage, die zu prüfen ist, nicht als Feststellung. Technisch gilt: Je kürzer die Kette der Beteiligten, desto einfacher ist sie zu beantworten.

Wenn Ihr Daten Eurer eigenen Kunden verarbeitet

Agenturen, Kanzleien, Steuerbüros und IT-Dienstleister arbeiten im Auftrag anderer und müssen selbst Auskunft geben, welches KI-System im Spiel ist und wer beteiligt ist. Gebraucht werden eine nachvollziehbare Kette, ein Auftragsverarbeitungsvertrag und eine Beschreibung der Schutzmaßnahmen. Ein eigenes System ist hier ein echter Vorteil: Es gibt keinen weiteren Dienstleister zu erklären.

Zweckbindung und Rechtsgrundlage

Daten dürfen nicht beliebig weiterverwendet werden. Diese Frage wird am häufigsten unterschätzt, weil sie technisch nicht sichtbar ist. Präzision hilft: „KI im Kundenservice einsetzen“ ist nicht bewertbar. „Servicemails einer Kategorie zuordnen und einen Antwortentwurf erzeugen, den ein Mensch freigibt“ ist bewertbar. Ein Nachtraining mit echten Daten würde neue Zweckfragen aufwerfen – deshalb verwenden wir dafür nur erfundene Beispiele.

Betroffenenrechte, Löschung und Protokolle

Auskunft, Berichtigung, Löschung: Bei gut gebauten Systemen liegen die Daten in den Quellsystemen, aus denen die KI liest. Wird dort gelöscht, ist die Information auch für die KI weg. Dazu kommen Chatverläufe und Protokolle. Protokollierung ist selbst eine Verarbeitung und braucht Zweck, Aufbewahrungsdauer und Einsichtsregel. Wir legen das vorher fest, nicht im Nachhinein.

Mitarbeitende, Betriebsrat und Schatten-KI. Sobald KI im Arbeitsalltag eingesetzt wird, entstehen Daten über die Arbeit der Mitarbeitenden: wer was gefragt hat, wie oft, wie lange. Das berührt die Mitbestimmung (§ 87 Abs. 1 Nr. 6 BetrVG) und ist ein Thema für den Betriebsrat, lange bevor das System produktiv geht. Gleichzeitig gibt es Schatten-KI, die inoffizielle Nutzung privater Accounts. Gibt es kein freigegebenes Werkzeug, verschwindet das Risiko nicht, es wird nur unsichtbar. Ein offiziell bereitgestelltes System ist die kontrollierbarere Variante, nicht weil es alles erlaubt, sondern weil es sichtbar ist. Und weil eine KI-Antwort ein Vorschlag bleibt, bauen wir Abläufe so, dass ein Mensch den letzten Schritt macht.

Erst die Fragen klären. Dann die KI bauen.

Lass uns gemeinsam durchgehen, welche Anwendungsfälle bei Euch anstehen und welcher Lösungsweg dazu passt. Kostenlos, unverbindlich und ohne Verkaufsdruck.

Pflicht und Technik

DSGVO-Anforderungen und ihre technische Umsetzung

Viele Pflichten aus der DSGVO haben eine technische Entsprechung. Diese Übersicht zeigt, was wir an der Technik dafür bauen. Ob das im Einzelfall ausreicht, bewerten Eure Datenschutzfachleute.

Datenschutz durch Technikgestaltung (Art. 25)

Nur die Quellen anbinden, die der Anwendungsfall braucht. Platzhalter statt echter Namen, wo die Aufgabe es zulässt. Auf Wunsch Anonymisierung, bevor Inhalte das Modell erreichen.

Sicherheit der Verarbeitung (Art. 32)

Verschlüsselte Übertragung, abgesichertes Netz, getrennte Test- und Betriebsumgebung, Sicherheitsupdates und eine Ausgangs-Firewall, die dem System keine Verbindung nach außen erlaubt.

Auftragsverarbeitung (Art. 28)

Möglichst kurze Kette: Server auf Euren Namen, wir mit Verwaltungszugang. Wo ein externer Dienst nötig ist, beschreiben wir Anbieter, Standort und Unterauftragnehmer.

Verzeichnis und Dokumentation (Art. 30)

Technische Systembeschreibung mit Datenfluss, Verarbeitungsort, Komponenten, Rechte- und Rollenmodell, Protokollierung, Löschkonzept und angebundenen Quellen.

Folgenabschätzung (Art. 35)

Ob eine DSFA nötig ist, entscheiden Eure Fachleute, etwa anhand der DSK-Muss-Liste. Wir liefern die technischen Angaben dafür.

Betroffenenrechte und Mensch im Ablauf (Art. 15, 17, 22)

Daten bleiben in den Quellsystemen, Löschen wirkt sofort. Entscheidungen über Menschen trifft nicht die KI allein: Ein Mensch gibt frei.

Vorgehen

So gehen wir vor

1234
1

Bestandsaufnahme

Was passiert bei Euch bereits? In fast jedem Unternehmen wird KI schon genutzt, nur nicht offiziell. Das sichtbar zu machen ist kein Kontrollthema: Wer nicht weiß, welche Werkzeuge im Umlauf sind, kann keinen Datenweg beschreiben. Dazu sammeln wir die geplanten Anwendungsfälle und die beteiligten Datenarten.

2

Datenarten und Lösungsweg

Welche Anwendungsfälle berühren personenbezogene Daten? Wo reicht Anonymisierung? Oft ist es einfacher als befürchtet: Eine Vertragsklausel lässt sich prüfen, ohne den Vertragspartner zu nennen. Die Zuordnung treffen wir gemeinsam, die rechtliche Einordnung bleibt bei Euren Fachleuten.

3

Aufbau mit Datenschutz als Bauteil

Rechte aus Eurem Benutzerverzeichnis, Protokollierung ohne Leistungsüberwachung, Löschwege vorab. Und: technisch statt nur vertraglich absichern. Eine Ausgangs-Firewall macht aus einer Absicht einen Zustand, den man prüfen und protokollieren kann.

4

Betrieb, Nachweis und Nachschärfen

Jede Erweiterung verändert den Datenfluss. Wir halten die Dokumentation aktuell und melden, wenn eine erneute Bewertung sinnvoll ist. Dazu die unspektakuläre Pflege: Rechte bei Abteilungswechseln prüfen, Protokolle nach Plan löschen, Modelle aktualisieren, Schulungen auffrischen.

So setzen wir das mit Euch um. Ziele verstehen → Stack und Modelle wählen → Ihr mietet den Server nach unserer Vorgabe → wir richten ihn ein und betreuen ihn → wir führen die KI bei Euch ein → wir trainieren sie, bis Eure Ziele erreicht sind. Den Ablauf im Detail zeigt die Seite zum KI-Server.

Anbieter prüfen

Prüffragen an jeden KI-Anbieter – auch an uns

„DSGVO-konform“ steht auf fast jeder Anbieterseite. Diese Fragen helfen, die Aussage zu prüfen, egal ob es um ein KI-Tool, eine Plattform oder einen Dienstleister wie uns geht.

✓Diese Antworten sollte es geben

  • Wo genau werden Eingaben, Dateien und Protokolle verarbeitet und gespeichert?
  • Welches Modell läuft dahinter, und bei wem?
  • Welche Unterauftragnehmer sind beteiligt, mit welchem Sitz?
  • Werden Eingaben zum Training verwendet, und wie ist das ausgeschlossen?
  • Wer kann Chatverläufe einsehen, und wie lange werden sie aufbewahrt?

✕Warnsignale

  • „100 % DSGVO-konform“ ohne Beschreibung des Datenwegs
  • Ein EU-Rechenzentrum als einzige Antwort auf die Drittlandfrage
  • „On Premise“, obwohl alles in der Cloud eines Konzerns läuft
  • Kein Auftragsverarbeitungsvertrag oder keine Liste der Unterauftragnehmer
  • Keine Aussage dazu, wie Löschungen umgesetzt werden
Malte HundertmarkKI-Entwicklung · KI-Helden+49 541 507960-0

Anwendung

Einsatzszenarien im Mittelstand

Bei diesen Anwendungsfällen geben Datenschutzfragen besonders häufig den Ausschlag. Fast immer gibt es eine Variante, die weniger Personenbezug braucht als zunächst gedacht.

Personalakten und Bewerbungen

Hier ist der Personenbezug nicht Nebenwirkung, sondern Inhalt: Verträge, Zeugnisse, Krankmeldungen. Üblich ist eine eigene Umgebung mit strenger Rechtevergabe, ergänzt um KI-Dokumentenverarbeitung.

Kundenkommunikation und Servicefälle

Servicemails enthalten Namen, Vorgänge, manchmal Gesundheits- oder Finanzangaben. In einer eigenen Umgebung lässt sich die Fallhistorie anbinden, ohne sie einem Dritten zu geben, etwa für einen KI-Assistenten mit klarer Rechtegrenze.

Interner Wissensassistent

Handbücher und Wikis sind oft weniger heikel als gedacht, bis jemand merkt, dass in Protokollen Namen stehen. Wir klären vorab, welche Quellen hineingehören, und übernehmen bestehende Rechte. Niemand sieht über die KI, was er sonst nicht sehen dürfte.

Vertrags- und Dokumentenprüfung

Verträge enthalten fast immer Personenbezug. Für Fristenprüfung, Klauselvergleich und Abweichungsanalyse reichen oft anonymisierte Auszüge. Wo die Identität gebraucht wird, bleibt die Verarbeitung im Haus.

Produktion, Technik und Qualitätsdaten

Maschinen- und Messdaten haben meist keinen Personenbezug. Die Empfindlichkeit liegt bei Konstruktionswissen, Rezepturen und Prozessparametern – Geheimnisschutz statt Datenschutz. Die Antwort ähnelt sich: eine Umgebung ohne Verbindung nach außen.

Anbindung an CRM, ERP und DMS

Wirkt KI in Fachsysteme hinein, wird aus einem Chatfenster ein dauerhafter Datenfluss. Bei jeder Prozessautomatisierung beschreiben wir deshalb von Anfang an, welche Felder gelesen und welche geschrieben werden.

Zum Nachlesen

Offizielle Leitlinien zu KI und Datenschutz

Die Aufsichtsbehörden haben zu KI eine Reihe von Orientierungshilfen veröffentlicht. Sie sind die beste Grundlage für das Gespräch mit Euren Datenschutzfachleuten.

DSKEDSA-Stellungnahme 28/2024BayLDA

DSK: KI und Datenschutz

Orientierungshilfe der Datenschutzkonferenz vom Mai 2024 zu Auswahl und Einsatz von KI-Anwendungen. PDF öffnen

DSK: Technische und organisatorische Maßnahmen

Orientierungshilfe zu empfohlenen Maßnahmen bei Entwicklung und Betrieb von KI-Systemen (2025). PDF öffnen

DSK: generative KI mit RAG

Orientierungshilfe zu KI-Systemen, die Antworten aus angebundenen Dokumenten erzeugen (2025). PDF öffnen

EDSA-Stellungnahme 28/2024

Europäischer Datenschutzausschuss zu Datenschutzfragen bei KI-Modellen, Dezember 2024 (Englisch). PDF öffnen

BayLDA: Checkliste KI

Prüfkatalog des Bayerischen Landesamts für Datenschutzaufsicht für den datenschutzkonformen KI-Einsatz. PDF öffnen

LfDI Baden-Württemberg: Rechtsgrundlagen

Diskussionspapier zu Rechtsgrundlagen im Datenschutz beim Einsatz von KI. Seite öffnen

1

Ehrlich gesagt

Wo datenschutzbewusste KI an Grenzen stößt

Auch die beste Architektur löst nicht alles. Ein selbst betriebenes Modell beantwortet die Frage nach dem Datenweg, aber nicht die nach der Rechtsgrundlage. Ob Ihr bestimmte Daten für eine bestimmte Auswertung nutzen dürft, hängt am Zweck der ursprünglichen Erhebung. Das bleibt eine rechtliche Frage, egal wo der Server steht. Wer das Gegenteil behauptet, verkauft etwas.

Dazu kommt der Aufwand. Eine geschützte Umgebung bedeutet Betrieb, Pflege, Updates und Dokumentation. Für kleine Anwendungsfälle mit unkritischen Inhalten steht das in keinem Verhältnis. Dann sagen wir offen, dass ein etablierter Dienst mit europäischem Rechenzentrum die vernünftigere Wahl ist.

Und die Einschränkung, die im Alltag am meisten schmerzt: Technik ersetzt keine Regeln. Wenn niemand weiß, welche Inhalte in welches Werkzeug gehören, nützt die sicherste Umgebung wenig. Schulung, klare Nutzungsregeln und ansprechbare Zuständigkeiten gehören genauso dazu wie der Server. Wir bauen die Technik, die Regeln entstehen bei Euch.

2

Kosten

Was kostet eine datenschutzbewusste KI-Lösung?

Die Kosten bestehen bei uns aus drei Posten: der Servermiete, die Ihr direkt ans Rechenzentrum zahlt, Einrichtung und Einführung und der laufenden Betreuung. Die Höhe richtet sich nach Umfang und Lösungsweg. Eine abgesicherte Konfiguration eines bestehenden Dienstes ist etwas anderes als eine eigene Umgebung mit angebundenem Firmenwissen. Bei KI-Helden arbeitest Du im Retainer auf Stundenbasis: Wir sind die unkomplizierte KI-Abteilung Deines Unternehmens – ohne die Nachteile einer eigenen Abteilung, also ohne Recruiting, Fixkosten, Einarbeitung und Ausfallrisiko. Abgerechnet wird ein Stundenkontingent, monatlich kündbar. Größere Vorhaben setzen wir auch als einmaliges Projekt um, zu 85 € pro Stunde. Bei uns zahlst Du nur die Stunden, die wirklich anfallen.

Klein anfangen. Am besten mit einem Anwendungsfall, der Nutzen bringt und wenig Personenbezug hat. Das schafft Erfahrung im Haus, ohne die schwierigste Diskussion zuerst führen zu müssen. Parallel sortieren wir die übrigen Fälle nach Datenart. So entsteht eine Reihenfolge statt einer Grundsatzdebatte.

Warum KI-Helden

Aus der Praxis, für die Praxis.

KI-Helden ist die KI-Abteilung der Suchhelden GmbH aus Osnabrück. Seit über einem Jahrzehnt arbeiten wir mit Unternehmen an digitalen Projekten: über 4.000 realisierte Projekte, ein Team aus über 140 Held:innen. Wir kennen die Prüfungsschleifen im Mittelstand. Deshalb liefern wir die technische Beschreibung gleich mit und reden früh über Rechte, Protokolle und Löschwege. Für die rechtliche Bewertung arbeiten wir gern mit Euren Datenschutzberater:innen zusammen – deren Rolle übernehmen wir nicht. Wir sind herstellerunabhängig und mit keinem Anbieter partnerschaftlich verbunden. Wie wir mit sensiblen Daten umgehen, zeigt unser eigenes Produkt Lohnheld: eine Lohnabrechnungssoftware mit KI-Vorausfüllung von Feldern und Datenhaltung in Frankfurt.

Monatlich kündbar

Keine lange Vertragsbindung. Volle Flexibilität, volle Kostenkontrolle.

KI-Abteilung ohne Nachteile

Kein Recruiting, keine Fixkosten, keine Einarbeitung, kein Ausfallrisiko. Retainer auf Stundenbasis.

Modellagnostisch

Kein Vendor-Lock-in, keine Bindung an ein LLM – das Modell, das zu Euren Daten und Aufgaben passt.

Dein KI-Team

Persönlicher Ansprechpartner, Jour-Fixe-Calls und dediziertes Umsetzungsteam.

Kostenlose KI-Erstberatung – einfach anfragen.

Wir sagen Dir, wie sich KI und Datenschutz in Eurem Fall vereinbaren lassen: ehrlich, unverbindlich und auf Augenhöhe. Wenn ein etablierter Dienst für Euch reicht, sagen wir Dir das genauso klar.

Fragen & Antworten

Häufige Fragen zu KI und Datenschutz

Malte HundertmarkKI-Entwicklung · KI-Helden+49 541 507960-0
Kostenlose Erstberatung ›

KI-Helden in Osnabrück

Heinrichstraße 14c
49080 Osnabrück
Montag bis Donnerstag
08:30–17:00 Uhr
Freitag
08:30–15:00 Uhr
Samstag und Sonntag
Geschlossen
Erst nach dem Klick werden Daten an Google übertragen.
Route planen ›
Ist ChatGPT DSGVO-konform?

So pauschal lässt sich das nicht beantworten, weil Konformität nicht am Werkzeug hängt, sondern am Einsatz. Entscheidend sind die Datenart, der gewählte Tarif, die vertragliche Grundlage und die Einstellungen zur Weiterverwendung von Eingaben. Für unkritische Inhalte sieht die Bewertung anders aus als für Personalakten. Diese Einordnung gehört zu Euren Datenschutzverantwortlichen – wir liefern die technische Beschreibung, auf der sie aufsetzen können.

Darf man personenbezogene Daten in einen KI-Dienst eingeben?

Das hängt vom Dienst, vom Zweck und von der Rechtsgrundlage ab und ist im Einzelfall zu bewerten. Technisch gilt: Je weniger Personenbezug eine Aufgabe braucht, desto einfacher wird alles. Viele Aufgaben funktionieren mit Platzhaltern statt echter Namen genauso gut. Wo der Personenbezug unverzichtbar ist, spricht vieles für eine Umgebung, in der die Daten das Haus nicht verlassen.

Was ist der Unterschied zwischen anonymisieren und pseudonymisieren?

Anonymisieren bedeutet, den Personenbezug dauerhaft zu entfernen, sodass niemand mehr auf die Person zurückschließen kann. Pseudonymisieren ersetzt Namen durch Kennungen, die sich mit einer separaten Zuordnungstabelle wieder auflösen lassen. Der Unterschied ist erheblich, weil pseudonymisierte Daten weiterhin als personenbezogen gelten. In KI-Projekten arbeiten wir mit beiden Verfahren – welches passt, hängt daran, ob die Zuordnung später noch gebraucht wird.

Reicht ein Serverstandort in der EU aus?

Ein europäischer Standort ist eine gute Ausgangslage, aber selten die vollständige Antwort. Geprüft wird üblicherweise auch, wer tatsächlich Zugriff hat – etwa über Wartung, Support oder Unterauftragnehmer. Ein Standort in Frankfurt nützt wenig, wenn der Support aus einem Drittland heraus zugreifen kann. Deshalb schauen wir uns immer den gesamten Datenweg an, nicht nur die Adresse des Rechenzentrums.

Reicht ein Serverstandort in Deutschland allein aus?

Der Standort ist ein wichtiger Baustein, aber allein selten die ganze Antwort. In Prüfungen kommt regelmäßig eine zweite Frage dazu: Wer kontrolliert den Betreiber, und wessen Rechtsordnung ist auf ihn anwendbar? Behördliche Zugriffsrechte können ein Unternehmen je nach Konstellation auch dann treffen, wenn der Server hier steht. Wir beschreiben diesen Punkt, wir bewerten ihn nicht – das gehört zu Euren Datenschutzfachleuten. Technisch gilt: Je kürzer die Kette der Beteiligten, desto leichter ist die Frage zu beantworten.

Was brauchen wir gegenüber unseren eigenen Kunden?

Eine nachvollziehbare Kette und Unterlagen, die Ihr weiterreichen könnt. Üblich sind ein Auftragsverarbeitungsvertrag und eine Beschreibung der technischen und organisatorischen Schutzmaßnahmen. Dazu kommt eine verständliche Darstellung, welche Systeme beteiligt sind und wo verarbeitet wird. Je weniger Beteiligte im Spiel sind, desto einfacher wird diese Darstellung. Die technische Beschreibung liefern wir mit. Die vertragliche Ausgestaltung gehört zu Euren Datenschutzberater:innen oder Eurer Rechtsberatung – dort ist sie besser aufgehoben als bei uns.

Wie weisen wir nach, dass nichts nach außen geht?

Am belastbarsten über eine technische Sperre statt über eine vertragliche Zusage. Eine Ausgangs-Firewall lässt dem System keine Verbindung nach außen. Dieser Zustand lässt sich prüfen, protokollieren und in der Systemdokumentation festhalten. Dazu kommen Netzplan, Rechte- und Rollenübersicht sowie die Liste der angebundenen Quellen. Aus diesen Bausteinen entsteht ein Nachweis, der in einer Prüfung deutlich tragfähiger ist als eine Absichtserklärung. Eine Zusage beschreibt eine Absicht, eine Sperre beschreibt einen Zustand.

Brauchen wir einen Auftragsverarbeitungsvertrag für KI-Dienste?

Üblicherweise ja, sobald ein externer Anbieter personenbezogene Daten in Eurem Auftrag verarbeitet. Das ist bei KI nicht anders als bei anderen Cloud-Diensten. Geprüft wird dabei typischerweise, welche Unterauftragnehmer beteiligt sind und welche Schutzmaßnahmen zugesichert werden. Läuft das Modell dagegen auf Eurer eigenen Infrastruktur, entfällt für die Inhalte selbst der externe Verarbeiter. Die konkrete Vertragsgestaltung gehört in fachkundige Hände.

Muss der Betriebsrat beim KI-Einsatz beteiligt werden?

In vielen Fällen ja, weil KI-Werkzeuge Daten über die Arbeit von Mitarbeitenden erzeugen. Die genaue Beteiligungsform hängt vom Unternehmen und vom System ab. Unsere Erfahrung aus Projekten: Frühe Einbindung beschleunigt, späte blockiert. Wer Gestaltungsfragen gemeinsam klärt, bekommt meist eine tragfähige Lösung. Auswertungen ohne Personenbezug, kurze Protokollaufbewahrung, klare Zugriffsregeln – und ein System, das die Belegschaft auch nutzt.

Werden unsere Eingaben zum Training der Modelle verwendet?

Bei öffentlichen Diensten hängt das vom Tarif und den Einstellungen ab und ändert sich gelegentlich. Genau diese Unsicherheit ist für viele Unternehmen das Kernproblem. Bei einem selbst betriebenen Modell stellt sich die Frage nicht: Das Modell lernt aus Euren Eingaben nicht dazu, es bekommt sie nur zur Beantwortung vorgelegt. Wer hier Klarheit braucht, findet sie am ehesten im Eigenbetrieb. Und wenn wir die KI in unserem Ablauf nachtrainieren, dann nur mit Beispielen, die wir gemeinsam mit Euch erfinden – nie mit echten Daten.

Ist ein selbst betriebenes Modell automatisch datenschutzkonform?

Nein, und diesen Eindruck wollen wir ausdrücklich nicht erzeugen. Eigenbetrieb ist eine sehr gute Ausgangslage, weil Datenweg und Zugriff in Eurer Hand liegen. Fragen nach Zweckbindung, Rechtsgrundlage, Betroffenenrechten und Mitbestimmung bleiben trotzdem bestehen. Die Technik nimmt Euch einen großen Teil der Diskussion ab, aber nicht die Bewertung. Die gehört zu Euren Datenschutzberater:innen oder Eurer Datenschutzbeauftragten.

Was hat der EU AI Act mit dem Datenschutz zu tun?

Er ist eine eigene Ebene neben dem Datenschutz. Der Datenschutz fragt, ob personenbezogene Daten zulässig verarbeitet werden. Der EU AI Act betrachtet KI-Systeme nach dem Risiko für Menschen und staffelt seine Anforderungen danach. Ein internes Textwerkzeug wird anders eingeordnet als ein System, das über Menschen mitentscheidet. Was für Euren Fall gilt, ist eine rechtliche Frage.

Wie setzen wir Auskunfts- und Löschansprüche bei KI um?

Über die Quellsysteme, wenn das System sauber gebaut ist. Bei einer Anbindung des Firmenwissens liest das Modell bei jeder Frage aus Euren Dokumenten, statt sie zu speichern. Wird dort gelöscht, ist die Information auch für die KI weg. Dazu kommen Chatverläufe und Protokolle, für die Ihr die Aufbewahrung selbst festlegt. Richtig schwierig wird es nur bei Daten, die einmal ins Modell trainiert wurden.

Brauchen wir eine Datenschutz-Folgenabschätzung?

Das ist eine Frage, die Eure Datenschutzverantwortlichen anhand des konkreten Anwendungsfalls beantworten. In Projekten sehen wir, dass sie besonders dann geprüft wird, wenn viele Personen betroffen sind oder besonders sensible Daten verarbeitet werden. Unabhängig vom Ergebnis hilft eine saubere technische Beschreibung des Systems: Datenfluss, Standort, Beteiligte, Rechte, Protokollierung, Löschung. Genau diese Unterlagen liefern wir mit.

Wie gehen wir mit Schatten-KI im Unternehmen um?

Am wirksamsten durch ein gutes offizielles Werkzeug. Verbote scheitern in der Praxis, weil KI-Dienste auf jedem privaten Gerät verfügbar sind. Wer eine Umgebung bereitstellt, die im Alltag mindestens so gut funktioniert wie der private Account, nimmt dem Umweg den Reiz. Ergänzend helfen klare, kurze Nutzungsregeln und Ansprechpartner:innen für Rückfragen. Kontrolle allein hat dieses Problem unseres Wissens noch nirgends gelöst.

Können wir KI nutzen, ohne dass Mitarbeiterdaten betroffen sind?

Häufig ja, wenn man die Anwendungsfälle entsprechend zuschneidet. Ein Wissensassistent für technische Dokumentation berührt keine Personaldaten. Auswertungen lassen sich so gestalten, dass sie auf Gruppenebene statt auf Personenebene arbeiten. Protokolle lassen sich kurz halten und Zugriffe auf Gruppen statt auf Namen beziehen. Ganz vermeiden lässt sich der Personenbezug selten, weil schon jede Anmeldung Daten erzeugt. Gestalten lässt er sich dagegen fast immer.

Was bedeutet Zweckbindung im KI-Kontext?

Dass Daten nur für den Zweck verwendet werden, für den sie erhoben wurden. Kundendaten aus der Vertragsabwicklung lassen sich also nicht ohne Weiteres für eine beliebige KI-Auswertung nutzen. Praktisch hilft Präzision: Je genauer ein Anwendungsfall beschrieben ist, desto leichter lässt er sich einordnen. Wir formulieren Anwendungsfälle deshalb bewusst eng – die rechtliche Bewertung selbst treffen Eure Fachleute.

Wie dokumentieren wir den KI-Einsatz nachvollziehbar?

Über eine technische Systembeschreibung, die wir mitliefern. Darin stehen Datenfluss, Verarbeitungsort, beteiligte Komponenten, Rechte- und Rollenmodell, Protokollierung und Löschkonzept. Dazu kommt eine Übersicht der angebundenen Quellen. Diese Unterlagen sind kein Rechtsdokument, aber die Grundlage für jedes Gespräch mit Prüfenden. Wir halten sie aktuell und melden uns, wenn eine Änderung eine erneute Bewertung sinnvoll erscheinen lässt.

Was kostet eine datenschutzbewusste KI-Lösung?

Die Kosten bestehen bei uns aus drei Posten: der Servermiete, die Ihr direkt ans Rechenzentrum zahlt, Einrichtung und Einführung als Projekt zu 85 € pro Stunde oder im Retainer, und der laufenden Betreuung im Retainer auf Stundenbasis, monatlich kündbar. Die Höhe richtet sich nach Umfang und Lösungsweg. Eine abgesicherte Konfiguration eines bestehenden Dienstes ist etwas anderes als eine eigene Umgebung mit angebundenem Firmenwissen. In der kostenlosen Erstberatung klären wir Euren Bedarf und sortieren die Anwendungsfälle nach Datenart und Nutzen. Ihr bekommt ein transparentes, unverbindliches Angebot ohne lange Vertragslaufzeiten.

Wie fangen wir an, ohne uns zu verzetteln?

Mit einem Anwendungsfall, der Nutzen bringt und wenig Personenbezug hat. Das schafft Erfahrung im Haus, ohne die schwierigste Diskussion zuerst führen zu müssen. Parallel sammeln wir die übrigen Anwendungsfälle und sortieren sie nach Datenart. So entsteht eine Reihenfolge statt einer Grundsatzdebatte. Wir starten mit dem Fall, der den größten Nutzen bringt, und bauen von dort weiter aus.

Welche offiziellen Leitlinien gibt es zu KI und Datenschutz?

Für Deutschland sind vor allem die Orientierungshilfen der Datenschutzkonferenz hilfreich: zu KI und Datenschutz (Mai 2024), zu technischen und organisatorischen Maßnahmen bei KI-Systemen (2025) und zu generativer KI mit angebundenen Dokumenten (2025). Auf europäischer Ebene hat der Europäische Datenschutzausschuss im Dezember 2024 eine Stellungnahme zu KI-Modellen veröffentlicht. Dazu kommen Checklisten einzelner Landesbehörden. Die Links stehen oben auf dieser Seite im Abschnitt zu den Leitlinien.

Was verlangt die KI-Verordnung beim Einsatz von KI-Assistenten?

Zwei Pflichten betreffen fast jedes Unternehmen. Seit Februar 2025 müssen Unternehmen für ausreichende KI-Kompetenz der Beschäftigten sorgen (Art. 4 KI-Verordnung). Seit August 2026 gelten Transparenzpflichten (Art. 50): Wer mit einem KI-System interagiert, soll das erkennen können. Ob weitere Anforderungen greifen, hängt von der Risikoeinordnung Eures Anwendungsfalls ab – das ist eine rechtliche Bewertung. Mehr auf unserer Seite zum EU AI Act.

★★★★★ 4,9Google Bewertungen141 RezensionenSEHR GUT★★★★★ 4,89176 Bewertungen
HAST DU FRAGEN?Zum Kontaktformular ›RÜCKRUFSERVICEDirekt mit Experten sprechen ›