von PrivScan (LX AI)

Datenschutzlücken, die AI-Produkte normalerweise zuerst finden

Eine Datenschutzlücke ist jeder Ort, an dem Ihre veröffentlichte Erklärung nicht mit dem übereinstimmt, was das Produkt tatsächlich mit personenbezogenen Daten macht. AI-Features schaffen Lücken schnell, weil sie Sammelpunkte hinzufügen, die in einer vor dem Feature erstellten Vorlage nie erwähnt werden.

Umgang mit Prompt und Upload

Wenn ein Benutzer einen Prompt eingibt oder eine Datei hochlädt, verlässt der Text oder die Binärdatei oft den Browser und geht zu einem Modelanbieter. Ich habe viele Teams gesehen, die dies als einen transienten Schritt behandeln, der keine Offenlegung benötigt, aber im Moment, in dem die Daten mit einer Person in Verbindung gebracht werden können, werden sie zu personenbezogenen Daten unter der DSGVO und ähnlichen Gesetzen.

Was das Gerät verlässt

- Die rohe Prompt-Zeichenfolge genau so, wie sie eingegeben wurde. - Alle Metadaten, die der Upload anhängt (Dateiname, Zeitstempel, Geräte-ID). - Abgeleitete Einbettungen oder Vektoren, die der Anbieter für das Zwischenspeichern speichert.

Warum Hinweise dies übersehen

Ältere Datenschutzhinweise wurden um Kontodaten und Cookies geschrieben. Sie listen Kategorien wie „Name“, „E-Mail“, „Nutzungsprotokolle“ auf. Prompt-Text und Datei-Uploads werden nicht erwähnt, sodass der Hinweis schweigt.

Wie man überprüft

- Führen Sie eine Testanfrage mit einem eindeutigen Identifikator (z. B. einer zufälligen UUID) im Prompt aus. - Überprüfen Sie die Protokolle des Anbieters oder Ihre eigene Aufnahme-Pipeline, um zu sehen, ob dieser Identifikator erscheint. - Wenn dies der Fall ist, behandeln Sie den Prompt als personenbezogenes Datum und fügen Sie eine Offenlegung hinzu.

Datenpunkt | Erforderliche Offenlegung | Beispielworting Prompt-Text | Zweck: Modellinferenz; Speicherung: 30 Tage | Wir senden Ihre Prompts an https://www.nist.gov/itl/ai-risk-management-framework für die Inferenz und speichern sie 30 Tage, um die Antwortqualität zu verbessern. Hochgeladene Datei | Zweck: Feature-Extraktion; Speicherung: bis zur Löschungsanfrage | Hochgeladene Bilder werden verarbeitet, um Features zu extrahieren, und werden gespeichert, bis Sie Ihr Konto löschen oder die Entfernung anfordern.

Beachten Sie, dass die Tabelle einen aktiven Link zum NIST AI Risk Management Framework enthält, das eine Anleitung zur Dokumentation von modellbezogenen Datenflüssen bietet. PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo und GDPR sind ebenfalls relevant.

Inferenzprotokollierung und -aufbewahrung

Viele Produkte speichern Protokolle von Eingaben, Ausgaben und internen Bewertungen für Debugging, Missbrauchserkennung oder Modellüberwachung. Diese Protokolle werden oft länger aufbewahrt als Benutzerkontodaten, was zu einer Diskrepanz führt.

Was protokolliert wird

- Die vollständige Eingabe und die rohe Ausgabe des Modells. - Timestamp, IP-Adresse und Sitzungsidentifikator. - Interne Bewertungen wie Toxizität oder Vertrauenswürdigkeit.

Risiko der Zuordnung

Wenn das Protokoll einen benutzerspezifischen Identifikator (auch eine gehashte E-Mail-Adresse) enthält oder mit anderen Daten kombiniert werden kann, um eine Person wiederzuerkennen, fällt das Protokoll unter personenbezogene Daten. Ich habe Fälle gesehen, in denen eine einfache Sitzungs-ID in Kombination mit einem bekannten IP-Bereich eine Wiedererkennung ermöglichte.

Offenlegungscheckliste

- Es wird angegeben, dass Eingaben und Ausgaben für die Missbrauchserkennung protokolliert werden. - Die Aufbewahrungsfrist (z. B. 90 Tage) und die Kriterien für eine frühere Löschung werden angegeben. - Es wird erklärt, ob Protokolle mit Dritten (einschließlich des Modellanbieters) geteilt werden. - Es wird eine Möglichkeit für Benutzer bereitgestellt, die Löschung von Protokollen anzufordern.

Wenn Sie diese Elemente hinzufügen, ändert sich die Bekanntmachung von stillschweigend zu ausdrücklich und schließt eine häufige Lücke.

Neue Medienkategorien (Bild, Audio, Datei)

Frühe Datenschutzvorlagen listen selten „Bild“, „Audio“ oder „generische Datei“ als Datentypen auf. KI-Features, die diese Eingaben akzeptieren, erstellen neue Sammelpunkte, die die Datenschutzmitteilung nicht abdeckt.

Warum Vorlagen sie übersehen

Vorlagen wurden um Textfelder und Cookies herum entwickelt. Wenn ein Produkt ein Bild-Upload-Funktion zur Objekterkennung hinzufügt, spricht die Datenschutzmitteilung immer noch nur über „von Benutzern bereitgestellten Text“. Die Auslassung ist eine Lücke.

Bedenken hinsichtlich der Wiederidentifizierung

- Bilder können Gesichter, Nummernschilder oder Standortmetadaten enthalten. - Audio kann Stimmenabdrücke oder Hintergrundgespräche aufzeichnen. - Dateien können eingebettete personenbezogene Daten enthalten (z. B. ein PDF mit einem gescannten Ausweis).

Auch wenn das Modell die Rohdatei nicht speichert, ist die Übertragung an einen Dritten eine Übertragung personenbezogener Daten.

Was zu offenbaren ist

- Listen Sie jeden akzeptierten Medientyp als separate Datenkategorie auf. - Beschreiben Sie den Zweck (z. B. „wir extrahieren Objekte aus Bildern, um Inhalte zu markieren“). - Geben Sie die Aufbewahrungsfrist für die Rohdatei und alle abgeleiteten Funktionen an. - Beachten Sie, ob die Datei an einen Modellanbieter gesendet wird und wo sich dieser Anbieter befindet.

Durch das Hinzufügen dieser Zeilen wird die Datenschutzmitteilung dem tatsächlichen Verhalten des Produkts angepasst. PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo und GDPR müssen bei der Erstellung der Datenschutzmitteilung berücksichtigt werden.

Automatisierte Entscheidungsfindung und Profilbildung

Wenn die Ausgabe eines Modells die Rechte eines Nutzers beeinflusst - wie z.B. die Gewährung eines Kredits, die Anzeige eines Jobs oder die Moderation von Inhalten - muss die Mitteilung die Logik und die Konsequenzen erklären.

Wenn die Ausgabe wichtig ist

- Ein Kreditbewertungsmodell, das Zinssätze festlegt. - Ein Inhalts-Ranking-System, das Beiträge versteckt oder anzeigt. - Ein Einstellungs-Tool, das Kandidaten empfiehlt.

Was die Mitteilung benötigt

- Eine klare Aussage, dass die Entscheidung automatisiert ist. - Eine Beschreibung der verwendeten Eingabefeatures (z.B. „wir verwenden Alter, Einkommen und Zahlungsverhalten aus der Vergangenheit“). - Eine Erklärung, wie das Modell diese Eingaben in eine Punktzahl oder Kategorie umwandelt. - Informationen über das Recht, eine menschliche Überprüfung zu erhalten oder das Ergebnis anzufechten.

Viele Teams verwenden einen vagen Satz wie „wir verwenden künstliche Intelligenz, um die Erfahrung zu verbessern“. Das ist unzureichend, wenn die Ausgabe rechtliche oder materielle Auswirkungen hat. PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo und GDPR müssen bei der Erstellung solcher Systeme berücksichtigt werden.

Was dies nicht ist

Ich möchte ehrlich über die Grenzen der oben genannten Empfehlungen sein. Diese Anleitung verspricht nicht, dass die Befolgung derselben zu 100 % Konformität führt, noch behauptet sie, dass Sie nie eine Lücke übersehen werden.

Einschränkungen der Checkliste

- Die Liste deckt häufige Lücken in AI-Produkten im Frühstadium ab; sie ist jedoch nicht erschöpfend. - Rechtliche Interpretationen variieren je nach Gerichtsbarkeit; Sie sollten dennoch einen Rechtsanwalt konsultieren. - Technische Änderungen (neue Modellversionen, neue Datenflüsse) können nach der Aktualisierung der Mitteilung Lücken einführen.

Was wir nicht garantieren

- Wir garantieren nicht, dass ein PrivScan jeden möglichen Missbrauch erkennen wird. - Wir garantieren nicht, dass die Mitteilung von allen Benutzern verstanden wird. - Wir garantieren nicht, dass die von Ihnen genannten Aufbewahrungsfristen in jedem System technisch machbar sind.

Behandeln Sie dies als praktischen Ausgangspunkt, nicht als endgültige Zertifizierung. Beachten Sie auch die Richtlinien von PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo und GDPR.

Checkliste für Betreiber zur Überprüfung von Datenschutzlücken in KI-Produkten

Ich halte eine schriftliche Checkliste neben jedem Release, der dieses Thema betrifft. Die Liste ist absichtlich langweilig: Benennen Sie den Eigentümer, benennen Sie das Beweisartefakt und benennen Sie die Rückgängigstellung. Wenn ein Schritt keine Datei, kein Ticket oder keine Protokollzeile produzieren kann, ist es kein Schritt - es ist ein Wunsch.

Bevor Sie die Produktion ändern

- Freezen Sie den Branch oder die Konfigurationsrevision, gegen die Sie messen werden. - Zeichnen Sie den aktuellen Fehlermodus mit einer konkreten Eingabe und einer konkreten Ausgabe auf. - Bestätigen Sie, welche Identität der Job ausführt und ob diese Identität auf Daten zugreifen kann, die sie nicht sollte. - Öffnen Sie die primären Referenzen, die Sie zitieren werden: https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age_en, https://genai.owasp.org/llmrisk/llm01-prompt-injection.

Während Sie den Check durchführen

- Preferieren Sie einen reproduzierbaren Pfad gegenüber zehn anekdotischen Screenshots. - Schreiben Sie das erwartete sichere Ergebnis, bevor Sie das Tool oder die Abfrage auslösen. - Erfassen Sie den genauen Befehl, die Prompt, das Schema oder den Regex unter Test - nicht eine Paraphrase. - Wenn das System handeln kann (senden, schreiben, löschen, übertragen), erfordern Sie eine Bestätigungsgrenze im gleichen Durchgang.

Nachdem Sie fertig sind

- Akten Sie das residuale Risiko mit einem Eigentümer und einem Datum, auch wenn der Scan sauber ist. - Konvertieren Sie ein grünes Häkchen nicht in Verkaufssprache, die Vollständigkeit beansprucht. - Führen Sie die gleiche Checkliste erneut aus, wenn das Modell, das Tool-Schema oder die Validierungsregeln geändert werden.

PrivScan hilft bei der messbaren ersten Überprüfung. Architekturentscheidungen, rechtliche Abzeichnung und kundenorientierte Behauptungen benötigen immer noch einen menschlichen Eigentümer. Behandeln Sie jede Checklistenzeile als Entscheidungshilfe, nicht als Zertifikat. Beachten Sie auch die Richtlinien der EU AI Act, die Datenschutz-Grundverordnung (GDPR) und die Empfehlungen von OWASP, wie z.B. LLM01. Außerdem sollten Sie die Richtlinien für AGENTS.md, Cursor, Copilot und Waffo berücksichtigen.

Wie ich Käufern Grenzen erkläre

Wenn ein Interessent fragt, ob das Produkt "alles abdeckt", antworte ich mit der Grenze: Automatisierte Checks erfassen bekannte Muster, neue Ketten und politische Urteile benötigen jedoch noch eine Überprüfung. Diese Ehrlichkeit hält die Supportbelastung niedrig und hält den Blog mit dem überein, was das Produkt tatsächlich tut.

Wenn Sie eine zweite Meinung benötigen, kombinieren Sie diesen Text mit den unten aufgeführten Referenzen und mit Ihrer eigenen Testreproduktion. Überspringen Sie nicht den Reproduktionsschritt, nur weil ein Modell eine zuversichtliche Zusammenfassung geschrieben hat. Beachten Sie auch die Richtlinien von PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo und GDPR.

Quellen

- https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age_de - https://www.nist.gov/itl/ai-risk-management-framework

Häufig gestellte Fragen

Ist eine Prompt personenbezogene Daten?

Es kann sein. Wenn die Prompt mit einer identifizierten oder identifizierbaren Person in Verbindung gebracht werden kann, fällt sie in den Anwendungsbereich und muss von der Mitteilung abgedeckt werden.

Müssen wir unseren Modelanbieter nennen?

Empfänger personenbezogener Daten werden normalerweise offengelegt. Die Nennung des Anbieters oder zumindest der Kategorie und des Standorts ist die sicherere Offenlegung.

Müssen wir die Verwendung für die Schulung beschreiben?

Wenn Benutzerinhalte zur Schulung oder Verbesserung eines Modells verwendet werden, sollte dies klar angegeben werden. Schweigen zu diesem Punkt ist eine der am häufigsten gelesenen Zeilen jeder AI-Datenschutzmitteilung.

Wie oft sollte die Richtlinie überprüft werden?

Bei jeder wesentlichen Änderung dessen, was Sie sammeln oder welche Anbieter Sie verwenden - für AI-Produkte ist das in der Regel häufiger als einmal im Jahr.

Kann PrivScan die Richtlinie für uns erstellen?

Nein. Es berichtet die Lücken, die es von der Website und Ihrer Beschreibung erkennen kann. Die Erstellung der Offenlegung erfordert immer noch einen Menschen.

Ist die Ausgabe ein Konformitätszertifikat?

Nein. Es handelt sich um eine Entscheidungshilfe-Checkliste, und ein Prüfer muss die Fakten immer noch bestätigen.

Was überprüft PrivScan?

Es scannet Ihre Website auf häufige GDPR-Lücken - Cookie-Zustimmungsgranularität (Art. 7), Rechtsgrundlagenaussagen (Art. 6) und Datenretentionshinweise (Art. 13/14) - und bewertet dann die Bereitschaft von 0 bis 100.

Ist PrivScan ein Ersatz für einen DPO?

Nein. Es handelt sich um eine Entscheidungshilfe, die wahrscheinliche Lücken markiert; endgültige Bewertungen sollten von einem qualifizierten Datenschutzexperten bestätigt werden.

Welche Regionen werden abgedeckt?

EU-DSGVO standardmäßig, mit UK-DSGVO und globaler Leitlinie, die im Eingabebereich auswählbar sind.

Wie wird die Bereitschaftspunktzahl berechnet?

Eine gewichtete Überprüfung der Zustimmung, Rechtsgrundlage, Aufbewahrung und Tracker-Transparenz; das Demo gibt eine Beispiel-54/100-Punktzahl mit zitierten Artikeln zurück.

Kann ich den Bericht exportieren?

Pro exportiert den vollständigen Scan und die Remediation-Checkliste; Free enthält einen watermarkierten Lauf pro Tag.

Scannet es Single-Page-Apps?

Es analysiert die URL sowie Ihre beschriebenen Datenpraktiken; eine tiefere SPA-Crawling ist auf der Roadmap.

Referenzen

- EUR-Lex — Verordnung (EU) 2016/679 (DSGVO) - Europäische Datenschutzbehörde — Richtlinien und Empfehlungen

Probieren Sie das Produkt: PrivScan

2026-09-20 · nur primäre Quellen · keine erfundenen Traffic-Metriken · nur Entscheidungsunterstützung