Ein Anbieter meldet sich, das Tool klingt gut, die Demo überzeugt: Pflegeberichte werden vorformuliert, Prüfanfragen zusammengefasst, Antwortentwürfe generiert. Die Frage, die dann auf dem Tisch der PDL oder Geschäftsführung landet, lautet selten „ist KI erlaubt?“ – die richtige Frage ist konkreter: Welche vier Prüfungen müssen bestanden sein, bevor ein KI-Werkzeug an echte Pflegedokumentation darf? KI in der Pflegedokumentation ist kein einzelnes Rechtsproblem, sondern vier getrennte, die in der Praxis ständig vermischt werden – mit dem Ergebnis, dass entweder gar nichts eingeführt wird oder zu viel auf einmal freigegeben wird.

Kurz zusammengefasst

  • Vier Prüfebenen sind zu trennen: DSGVO/Gesundheitsdaten, Schweigepflicht nach § 203 StGB, EU AI Act, Medizinprodukterecht (MDR).
  • Der EU AI Act folgt einem risikobasierten Ansatz – die Einordnung hängt vom konkreten Einsatzzweck ab, nicht vom Wort „KI“ im Produktnamen.
  • Ein Textentwurfs-Werkzeug ist rechtlich etwas anderes als ein automatisiert entscheidendes System, solange ein Mensch prüft und versendet.
  • Praktische Anbieterfragen (Verarbeitungsort, Training mit Ihren Daten, AVV, §203-Verpflichtung, Belegbarkeit der Ausgaben) sind oft aussagekräftiger als die Marketingfolie.
  • Geschwärztes oder pseudonymisiertes Arbeiten ist für die meisten Betriebe der pragmatische erste Schritt.

Warum KI in der Pflegedokumentation vier getrennte Prüfungen braucht

In Gesprächen mit Pflegediensten verschmelzen die vier Themen fast immer zu einer einzigen, unscharfen Frage: „Dürfen wir das?“ Das führt zu zwei Fehlern. Entweder wird ein Tool abgelehnt, weil irgendwo „KI“ und „Gesundheitsdaten“ in einem Satz vorkommen – ohne zu prüfen, ob es tatsächlich um ein Hochrisiko-System geht. Oder es wird eingeführt, weil die Demo überzeugend war, ohne dass AVV, Schweigepflicht-Verpflichtung oder Zweckbestimmung geklärt sind.

Die vier Ebenen sind rechtlich unabhängig voneinander. Ein Tool kann DSGVO-konform sein und trotzdem eine Schweigepflichtverletzung auslösen, wenn kein wirksamer AVV mit §203-Bindung besteht. Ein Tool kann datenschutzrechtlich sauber sein und trotzdem in den Hochrisiko-Bereich des AI Act fallen, wenn seine Zweckbestimmung entsprechend weit gefasst ist. Wer nur eine der vier Prüfungen durchführt, hat am Ende nichts geprüft.

Ebene 1: DSGVO und Gesundheitsdaten

Pflegedokumentation enthält praktisch immer Gesundheitsdaten im Sinne von Art. 9 DSGVO – eine besondere Kategorie personenbezogener Daten mit eigenen, strengeren Anforderungen an die Rechtsgrundlage. Bevor ein KI-Werkzeug solche Daten verarbeitet, muss geklärt sein: Auf welcher Rechtsgrundlage geschieht das, und ist der Anbieter über einen wirksamen Auftragsverarbeitungsvertrag gebunden? Wie ein solcher AVV im Pflegekontext konkret aussehen muss, behandelt der Artikel zur Auftragsverarbeitung mit externen Dienstleistern im Detail – er ist die Voraussetzung, nicht die Kür, bevor überhaupt ein Klarname in ein Eingabefeld eines KI-Tools eingegeben wird.

Ebene 2: Schweigepflicht nach § 203 StGB

Unabhängig vom Datenschutzrecht steht die strafrechtliche Schweigepflicht. Wer als Pflegefachkraft oder Betrieb Patientendaten an einen externen Dienstleister – auch einen KI-Anbieter – weitergibt, braucht dafür eine tragfähige rechtliche Grundlage und in der Regel eine ausdrückliche Einbindung des Dienstleisters in die Schweigepflicht. Das ist ein eigenständiges Thema mit eigenen Anforderungen an die Vertragsgestaltung; der Artikel zur Schweigepflicht bei externen Dienstleistern geht darauf gesondert ein. Wichtig für die KI-Prüfung: Ein AVV nach DSGVO ersetzt diese strafrechtliche Prüfung nicht automatisch – beide müssen separat sitzen.

Ebene 3: EU AI Act – Systematik statt Panik

Der EU AI Act folgt einem risikobasierten Ansatz. Vereinfacht gesagt unterscheidet er zwischen Praktiken, die verboten sind, Systemen mit hohem Risiko, die besonderen Pflichten unterliegen, Systemen mit spezifischen Transparenzpflichten und Anwendungen mit minimalem Risiko, für die kaum Sonderregeln gelten. Wo ein konkretes Werkzeug einzuordnen ist, hängt nicht vom verwendeten Modell ab, sondern von seiner Zweckbestimmung – wofür es laut Anbieter bestimmt ist und wofür es im Betrieb tatsächlich eingesetzt wird.

An dieser Stelle ist Zurückhaltung bei Detailangaben angebracht: Welche konkreten Fristen und Pflichten zu welchem Zeitpunkt greifen, wird gestaffelt wirksam, und die Einordnung eines einzelnen Produkts hängt von seiner konkreten Ausgestaltung ab. Wer eine verbindliche Aussage zu Geltungsdaten oder zur Einstufung eines bestimmten Tools braucht, sollte das mit rechtlicher Beratung oder direkt beim Anbieter klären – pauschale Zusagen („das fällt sicher nicht unter Hochrisiko“) sollten Sie mit Vorsicht behandeln.

Textentwurf ist nicht Hochrisiko-Entscheidung

Der praktisch wichtigste Unterschied für die tägliche Arbeit: Ein Werkzeug, das aus eingereichten Unterlagen einen Textentwurf erstellt – etwa einen Vorschlag für eine Stellungnahme oder eine Zusammenfassung einer Prüfanfrage –, ist in seiner Funktion etwas anderes als ein System, das eigenständig über Leistungsansprüche, Pflegegrade oder Versorgung entscheidet. Der entscheidende Unterschied liegt darin, ob am Ende ein Mensch die Ausgabe liest, fachlich bewertet und erst dann freigibt, oder ob die Ausgabe direkt wirksam wird. Diese Unterscheidung ersetzt keine Einzelfallprüfung, ist aber der erste sinnvolle Filter, wenn ein Anbieter mit „KI-gestützt“ wirbt.

Neben der Risikoeinstufung gilt für Systeme mit Transparenz- bzw. Kennzeichnungspflichten: Nutzer müssen erkennen können, dass sie mit einem KI-System interagieren bzw. dass ein Inhalt KI-generiert ist, sofern eine solche Kennzeichnungspflicht für den jeweiligen Anwendungsfall greift. Für ein internes Entwurfs-Werkzeug, dessen Ausgabe ohnehin von einer Fachkraft geprüft wird, ist das in der Regel unkompliziert umzusetzen – die Kennzeichnung sollte trotzdem dokumentiert, nicht nur mündlich zugesichert sein.

KI-Kompetenz der Beschäftigten

Der AI Act sieht vor, dass Anbieter und Betreiber von KI-Systemen sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt – angepasst an Kontext, Anwendungsfall und die Beschäftigten, die mit dem System arbeiten. Für einen Pflegedienst heißt das praktisch: Wer mit einem KI-Textentwurf-Tool arbeitet, muss verstehen, was das Tool tut, wo seine Grenzen liegen und warum die fachliche Prüfung der Ausgabe nicht optional ist. Eine kurze interne Einweisung, dokumentiert mit Datum und Teilnehmerliste, ist hier oft wirksamer als eine lange Schulungsordnung, die niemand liest.

Ebene 4: Medizinprodukterecht – Textwerkzeug oder Medizinprodukt?

Die vierte Prüfung wird am häufigsten übersehen. Ein Software-Werkzeug kann unter das Medizinprodukterecht (MDR) fallen, wenn es eine medizinische Zweckbestimmung hat – etwa wenn es zur Diagnose, Überwachung oder Behandlung eingesetzt wird oder entsprechend beworben wird. Ein Werkzeug, das Text aufbereitet, zusammenfasst oder einen Entwurf formuliert, ohne selbst eine medizinische Aussage zu treffen oder eine Behandlungsentscheidung zu unterstützen, bewegt sich in aller Regel außerhalb dieser Zweckbestimmung. Die Abgrenzung ist jedoch nicht immer trennscharf und hängt an der genauen Formulierung, mit der der Anbieter sein Produkt bewirbt und dokumentiert.

Ein einfacher Praxistest: Wirbt der Anbieter mit Formulierungen wie „erkennt Risiken“, „stellt fest“ oder „empfiehlt Maßnahmen“ im medizinischen Sinne, lohnt sich eine genauere Prüfung, ob eine MDR-Zweckbestimmung vorliegt. Bleibt die Beschreibung bei „formuliert Textvorschläge auf Basis Ihrer Eingaben, die Sie prüfen und freigeben“, ist das ein deutlich anderes Profil.

Warum „Mensch entscheidet und versendet“ die zentrale Weiche ist

Über alle vier Ebenen hinweg taucht derselbe Punkt immer wieder auf: Wer trifft die tatsächliche Entscheidung, und wer verantwortet die Ausgabe? Ein System, bei dem eine Pflegefachkraft oder die PDL den KI-generierten Entwurf liest, fachlich bewertet, gegebenenfalls korrigiert und erst dann freigibt und versendet, ist datenschutzrechtlich kein automatisiertes Entscheiden im Sinne von Art. 22 DSGVO – die Entscheidung trifft weiterhin ein Mensch. Die Verantwortung für den Inhalt bleibt vollständig beim Betrieb, nicht beim Werkzeug.

Das ist der Grund, warum bei einem gut konzipierten Prüfvorbereitungs-Werkzeug der Ablauf so aussieht, dass eine geschwärzte Prüfanfrage hochgeladen wird und am Ende ein Entwurf zurückkommt, den jemand im Betrieb liest und erst dann verwendet – nicht ein System, das selbständig antwortet. Wie ein solcher Prüfschritt mit menschlicher Freigabe praktisch aussieht, lässt sich an diesem Muster gut nachvollziehen: Hochladen, Entwurf erhalten, prüfen, erst dann entscheiden, ob und wie versendet wird. Dieser Zwischenschritt ist keine Formalie, sondern der Punkt, an dem Ebene 3 (Transparenz, keine automatisierte Letztentscheidung) und die Verantwortungsfrage nach DSGVO zusammenlaufen.

KI in der Pflegedokumentation: die vier Prüfebenen im Überblick

Prüfebene Zentrale Frage Wer im Betrieb zuständig ist
DSGVO / Art. 9 Gesundheitsdaten Gibt es eine Rechtsgrundlage und einen wirksamen AVV mit dem Anbieter? Geschäftsführung, ggf. Datenschutzbeauftragter
§ 203 StGB Schweigepflicht Ist der Dienstleister wirksam in die Schweigepflicht eingebunden? Geschäftsführung, PDL
EU AI Act Welche Zweckbestimmung hat das System, und greifen Transparenzpflichten? QMB, Geschäftsführung
MDR Hat das Werkzeug eine medizinische Zweckbestimmung oder bleibt es Textaufbereitung? QMB, im Zweifel externe Beratung

Diese Tabelle ersetzt keine Einzelfallprüfung. Sie zeigt aber, dass die vier Fragen selten von derselben Person allein beantwortet werden können – und dass ein Betrieb, der niemanden konkret benennt, am Ende gar keine der vier Fragen beantwortet.

Anbieterfragen vor dem ersten Upload

Bevor die erste echte Prüfanfrage oder der erste echte Pflegebericht in ein KI-Tool geht, lohnt sich eine kurze, konkrete Liste an Fragen an den Anbieter:

  • Wo werden die Daten verarbeitet – EU-Rechenzentrum oder außerhalb, und mit welcher Übermittlungsgrundlage bei Drittlandtransfer?
  • Werden meine Eingaben zum Training des Modells verwendet, oder ist das vertraglich ausgeschlossen?
  • Gibt es einen AVV, und deckt er die konkrete Verarbeitung ab, die ich vorhabe?
  • Übernimmt der Anbieter eine ausdrückliche Verpflichtung im Sinne von § 203 StGB, oder muss ich das separat regeln?
  • Kann ich mit geschwärzten oder pseudonymisierten Daten arbeiten, statt mit Klarnamen?
  • Wie sind die Ausgaben belegt – zeigt das Tool, auf welche eingereichten Unterlagen sich ein Entwurf stützt, oder ist die Herleitung eine Blackbox?
  • Wie beschreibt der Anbieter selbst die Zweckbestimmung seines Produkts – als Textwerkzeug oder mit medizinischen Begriffen?
  • Was passiert mit den Daten nach Abschluss des Auftrags – Löschfristen, Speicherort, Zugriffsrechte?

Wer auf diese acht Fragen keine klare, schriftliche Antwort bekommt, sollte die Einführung zurückstellen, unabhängig davon, wie überzeugend die Demo war.

Schwärzen als pragmatischer Einstieg

Für die meisten Betriebe ist der realistische erste Schritt nicht die vollständige Klärung aller vier Ebenen auf einmal, sondern ein reduzierter Einstieg: Namen, Geburtsdaten und andere direkte Identifikatoren werden vor dem Hochladen geschwärzt oder durch Platzhalter ersetzt, sodass ein KI-Werkzeug mit deutlich reduziertem Risiko getestet werden kann, während AVV, Schweigepflicht-Vereinbarung und die AI-Act-Einordnung im Hintergrund sauber aufgesetzt werden. Das ist kein Freibrief – auch pseudonymisierte Daten können im Einzelfall re-identifizierbar sein, wenn genug Kontext im Text steht –, aber es senkt die Einstiegshürde erheblich und schafft Zeit, die übrigen drei Prüfungen sorgfältig statt unter Zeitdruck durchzuführen.

Praktisch bedeutet das: Ein Prüfanfrage-Dokument wird vor dem Hochladen durchgesehen, Klarname und Versicherungsnummer werden geschwärzt oder ersetzt, der Rest des fachlichen Inhalts bleibt stehen. Der KI-Entwurf, der zurückkommt, wird danach von einer Fachkraft mit den Originaldaten abgeglichen, bevor er verwendet wird. Wie eine solche Beweiskette später bei einer MD-Prüfung standhält, hängt im Übrigen nicht am KI-Einsatz, sondern an derselben Sorgfalt, die auch für die Beweiskraft der Pflegedokumentation allgemein gilt: Nachvollziehbarkeit, Vollständigkeit, Konsistenz.

Was das für Ihren Betrieb heißt

KI in der Pflegedokumentation ist kein Alles-oder-Nichts-Thema. Die vier Prüfungen – Datenschutz, Schweigepflicht, AI Act, MDR – lassen sich getrennt und der Reihe nach abarbeiten, und keine davon verlangt, dass Sie auf den Einsatz verzichten, wenn die Antworten stimmen. Wer stattdessen versucht, alles auf einmal zu klären oder alles auf einmal zu verbieten, verliert entweder Zeit oder Chancen.

Der pragmatischste Startpunkt ist häufig ein Werkzeug, das erkennbar als Textentwurfs-Hilfe konzipiert ist, bei dem geschwärzt gearbeitet werden kann und bei dem am Ende ein Mensch im Betrieb liest, prüft und entscheidet, bevor irgendetwas versendet wird. Ob ein einzelner Anbieter diese Kriterien erfüllt, lässt sich mit der oben stehenden Fragenliste innerhalb eines einzigen Gesprächs klären.

Benennen Sie intern, wer für welche der vier Ebenen zuständig ist, bevor das nächste Anbietergespräch stattfindet. Ohne diese Zuordnung bleibt die Prüfung erfahrungsgemäß liegen, bis ein Anlassfall – etwa eine Nachfrage der Aufsichtsbehörde oder des MD – sie erzwingt, und dann fehlt die Zeit, die vier Fragen in Ruhe zu beantworten.