Fortrolighedspolitikkløfter, som AI-produkter normalt finder først

Behandling af prompts og uploads

Når en bruger indtaster en prompt eller uploader en fil, forlader tekst eller binærdata ofte browseren og går til en modeludbyder. Jeg har set mange hold behandle dette som et midlertidigt trin, der ikke kræver afsløring, men det øjeblik data kan kobles til en enkelt person, bliver det persondata under GDPR og lignende love.

Hvad forlader enheden

- Den rå prompt-streng præcis som den er indtastet.

- Eventuel metadata, der er knyttet til uploadet (filnavn, tidsstempel, enheds-ID).

- Afledte indlejninger eller vektorer, som udbyderen gemmer til caching.

Hvorfor meddelelser ikke nævner det

Ældre privatlivsmeddelelser blev skrevet omkring kontodata og cookies. De nævner kategorier som "navn", "email", "brugslog". Prompt-tekst og filuploads nævnes ikke, så meddelelsen er tavs.

Hvordan man verificerer

- Kør en testanmodning med en unik identifikator (f.eks. en tilfældig UUID) i prompten.

- Tjek udbyderens log eller din egen indtagelsesrørledning for at se, om identifikatoren vises.

- Hvis den gør, behandle prompten som persondata og tilføj en afsløring.

Data punkt | Afsløring nødvendig | Eksempel formulering

Prompt-tekst | Formål: model slutning; Opbevaring: 30 dage | Vi sender dine prompts til https://www.nist.gov/itl/ai-risk-management-framework for slutning og gemmer dem i 30 dage for at forbedre svarkvaliteten.

Uploader fil | Formål: funktionsekstraktion; Opbevaring: indtil sletningsanmodning | Uploadede billeder behandles for at trække funktioner ud og gemmes, indtil du sletter din konto eller anmoder om fjernelse.

Bemærk, at tabellen indeholder en aktiv link til NIST AI Risk Management Framework, der giver vejledning i at dokumentere model-relaterede datastrømme, herunder PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo og GDPR.

Inferenslogning og opbevaring

Mange produkter gemmer logs af prompts, outputs og interne scores til fejlfinding, misbrugsdetektion eller modelovervågning. Disse logs opbevares ofte længere end bruger-kontodata, hvilket skaber en mislighed.

Hvad bliver logget

- Den fulde prompt og modellens rå output. - Tidspunkt, IP-adresse og sessions-id. - Interne scores såsom toksicitet eller tillid.

Risiko for sammenkædning

Hvis loggen indeholder en bruger-specifik identifikator (selv en hashet email) eller kan kombineres med andre data for at genskabe en persons identitet, falder loggen under persondata. Jeg har set tilfælde, hvor et enkelt sessions-id kombineret med en kendt IP-adresseområde tillod genskabelse af identitet.

Offentliggørelsescheckliste

- Erklær, at prompts og outputs logges til misbrugsovervågning. - Angiv opbevaringsperioden (f.eks. 90 dage) og kriterierne for tidligere sletning. - Forklar, om logs deles med tredjeparter (herunder modellens leverandør). - Tilbyd en mulighed for brugere at anmode om log-sletning.

Når du tilføjer disse punkter, ændrer meddelelsen fra stille til eksplizit og lukker en almindelig kap.

Nye mediekategorier (billede, lyd, fil)

Tidlige privatlivsskabeloner nævner sjældent "billede", "lyd" eller "generisk fil" som datatyper. AI-funktioner, der accepterer disse indtastninger, opretter nye indsamlingpunkter, som meddelelsen ikke dækker.

Hvorfor skabeloner mangler dem

Skabelonerne blev bygget op omkring tekstfelter og cookies. Når et produkt tilføjer en funktion til at uploade billeder for at genkende objekter, taler meddelelsen stadig kun om "brugerdefineret tekst". Udeladelsen er et hul.

Genkendelsesbekymringer

- Billeder kan indeholde ansigter, nummerplader eller lokationsmetadata. - Lyd kan fange stemmearbejdsdata eller baggrundsdialog. - Filer kan indeholde indlejret persondata (f.eks. en PDF med en scannede ID).

Selv hvis modellen ikke gemmer den rå fil, er handlingen at overføre den til en tredjepart en overførsel af persondata.

Hvad der skal afsløres

- Listen over hver medietype, du accepterer, som en separat datakategori. - Beskriv formålet (f.eks. "vi extractor objekter fra billeder for at markere indhold"). - Giv opholdsperioden for den rå fil og eventuelt afledte funktioner. - Bemærk, om filen sendes til en modeludbyder og hvor denne udbyder er beliggende.

Tilføjelse af disse linjer gør, at meddelelsen matcher produktets faktiske adfærd. PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo og GDPR er vigtige overvejelser i denne proces.

Automatiseret beslutningstagning og profilering

Når modellens output påvirker en brugers rettigheder - såsom at bevilge et lån, vise et job eller moderere indhold - skal meddelelsen forklare logikken og konsekvenserne.

Når output er vigtig

- En kreditvurderingsmodel, der beslutter om rentesatser. - Et indholdssorteringssystem, der skjuler eller viser opslag. - Et rekrutteringsværktøj, der anbefaler kandidater.

Hvad meddelelsen skal indeholde

- En tydelig erklæring om, at beslutningen er automatiseret. - En beskrivelse af de inputfunktioner, der bruges (f.eks. „vi bruger alder, indtægt og tidligere betalingsadfærd“). - En forklaring af, hvordan modellen omdanner disse input til en score eller kategori. - Oplysninger om retten til at få en menneskelig gennemgang eller at udfordre udfaldet.

Mange teams placerer en vagt linje som „vi bruger AI til at forbedre oplevelsen“. Det er utilstrækkeligt, når output har juridiske eller materielle effekter. PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo og GDPR er vigtige overvejelser i denne sammenhæng.

Hvad dette ikke er

Jeg vil være ærlig omkring begrænsningerne af råden ovenfor. Denne vejledning lover ikke, at følge den vil give dig 100 % overholdelse, og den hævder ikke, at du aldrig vil overse en åbning.

Begrænsninger af tjeklisten

- Listen dækker almindelige åbninger set i tidlige AI-produkter; den er ikke udtømmende. - Juridisk fortolkning varierer efter jurisdiktion; du bør stadig rådføre dig med en advokat. - Tekniske ændringer (nye modelversioner, nye datastrømme) kan introducere åbninger efter, at meddelelsen er opdateret.

Hvad vi ikke garanterer

- Vi garanterer ikke, at en PrivScan vil fange hver mulig misbrug. - Vi garanterer ikke, at meddelelsen vil blive forstået af alle brugere. - Vi garanterer ikke, at de opbevaringstider, du angiver, vil være teknisk gennemførbare i hvert system.

Behandle dette som et praktisk udgangspunkt, ikke en endelig certificering. PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo og GDPR skal alle være en del af dette.

Operatør checkliste for persondata politik huller AI produkter normalt finder først

Jeg holder en skrevet checkliste ved siden af hver udgivelse, der berører dette emne. Listen er bevidst kedelig: navngiv ejeren, navngiv bevisartefakten og navngiv rollback. Hvis et trin ikke kan producere en fil, en billet eller en loglinje, er det ikke et trin - det er en ønsketænkning.

Før du ændrer produktion

- Fryse branchen eller konfigurationsrevisionen, du vil måle imod. - Optegn den nuværende fejltilstand med en konkretpunktet indtastning og en konkretpunktet udgang. - Bekræft, hvilken identitet jobbet kører som, og om denne identitet kan nå data, den ikke skal kunne nå. - Åbn de primære referencer, du vil citerer: https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age_en, https://genai.owasp.org/llmrisk/llm01-prompt-injection.

Mens du kører checken

- Foretræk en reproducerbar vej over ti anekdotiske skærmbilleder. - Skriv den forventede sikre udfald, før du udløser værktøjet eller forespørgslen. - Fanget det eksakte kommando, prompt, skema eller regex under test - ikke en omskrivning. - Hvis systemet kan handle (sende, skrive, slette, overføre), kræv en bekræftelsesgrænse i samme pass.

Efter du er færdig

- Fil residual risiko med en ejer og en dato, selv når scan er ren. - Konverter ikke en grøn check til salgssprog, der hævder fuldstændighed. - Kør samme checkliste, når modellen, værktøjet, skemaet eller valideringsreglerne ændres.

Signal | Hvad at optegne | Stop-ship? Uventet skriv eller send | Værktøjsnavn, args, identitet | Ja, indtil gated Manglende bekræftelse på destruktiv handling | Call sti og omgåelse | Ja Ubetroet tekst behandlet som instruktion | Kildeoverflade og resulterende handling | Ja for agent rækkevidde Scanner ren, dommer åben | Udsatte punkter + ejer | Kun hvis kernevej er sikker

PrivScan hjælper med den målbare første passering. Arkitekturvalg, juridisk godkendelse og kundeorienterede krav har stadig brug for en menneskelig ejer. Behandle hver checkliste-række som beslutningsstøtte, ikke et certifikat. Det er vigtigt at følge EU's AI Act og GDPR, samt at være opmærksom på OWASP og LLM01. Desuden skal man være bekendt med Copilot, Cursor, Waffo og AGENTS.md.

Hvordan jeg forklarer begrænsninger for købere

Når en potentiel kunde spørger, om produktet "dækker alt", svarer jeg med grænsen: automatiserede kontroller fanger kendte mønstre, men nye kæder og politikdom kræver stadig gennemgang. Den ærlighed holder supportbelastningen nede og holder bloggen aligneret med, hvad produktet faktisk gør.

Hvis du har brug for en anden mening, par denne artikel med referencerne nedenfor og med din egen reproduktion af staging. Spring ikke reproductionstrinet over, bare fordi en model skrev en selvbevidst sammenfatning. PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo og GDPR er alle vigtige overvejelser i denne proces.

Referencer

- https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age_en - https://www.nist.gov/itl/ai-risk-management-framework

PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo og GDPR er vigtige begreber i denne sammenhæng.

Ofte stillede spørgsmål

Er en prompt personlige data?

Det kan være. Hvis prompten kan kobles til en identificeret eller identificerbar person, falder det ind under omfanget og skal dækkes af meddelelsen.

Skal vi navngive vores modelleverandør?

Modtagere af personlige data offentliggøres normalt. At navngive leverandøren eller i det mindste kategorien og placeringen er den sikrere offentliggørelse.

Skal vi beskrive træningsbrug?

Hvis brugerindhold bruges til at træne eller forbedre en model, skal det siges åbent. Tavshed på det punkt er en af de mest læste linjer i enhver AI-privatlivsmeddelelse.

Hvor ofte skal politikken gennemses?

Ved hver væsentlig ændring af, hvad der indsamles, eller hvilke leverandører der bruges - for AI-produkter er det normalt oftere end én gang om året.

Kan PrivScan skrive politikken for os?

Nej. Det rapporterer hullerne, det kan detektere fra websitet og din beskrivelse. Udkast til meddelelsen kræver stadig en menneskelig hånd.

Er output en overenskomstscertifikat?

Nej. Det er en beslutningsstøttende checkliste, og en gennemganger skal stadig bekræfte fakta.

Hvad checker PrivScan?

Det scanner dit websted for almindelige GDPR-huller - cookie-samtykkegranularitet (Art. 7), lovlige-basiserklæringer (Art. 6) og dataopbevaringsmeddelelser (Art. 13/14) - derefter scorer det klarhed fra 0 til 100.

Er PrivScan en erstatning for en DPO?

Nej. Det er beslutningsstøtte, der markerer sandsynlige huller; endelige vurderinger skal bekræftes med en kvalificeret privatlivsprofessionel.

Hvilke regioner dækker det?

EU GDPR som standard, med UK GDPR og global vejledning valgbart i input.

Hvordan beregnes klarheds-scoren?

En vægtet check af samtykke, lovlige grund, opbevaring og tracker-transparens; demo-returnerer en prøve på 54/100 med citerede artikler.

Kan jeg eksportere rapporten?

Pro eksporterer den fulde scanning og remedieringscheckliste; Free inkluderer en vandmærket kørsel per dag.

Gennemscanner det enkelt-sides-applikationer?

Det analyserer URL'en plus dine beskrevne datapraksisser; dybere SPA-krydning er på vej.

Referencer

- EUR-Lex — Forordning (EU) 2016/679 (GDPR) - Den Europæiske Databeskyttelsesbestyrelse — retningslinjer og anbefalinger

Prøv produktet: PrivScan

2026-09-20 · kun primærkilder · ingen fabrikerede trafikmål · beslutningsstøtte kun

Relaterede artikler

- En checkliste til GDPR-klarhed for SaaS-team - Udforsk det fulde AI mikro-SaaS emne-matrix →