Lacunas nas políticas de privacidade que os produtos de IA geralmente encontram primeiro

Tratamento de prompts e uploads

Quando um utilizador digita um prompt ou carrega um ficheiro, o texto ou binário muitas vezes deixa o navegador e vai para um fornecedor de modelos. Eu vi muitas equipas tratar este passo como transitório e que não precisa de divulgação, mas no momento em que os dados podem ser ligados a um indivíduo, tornam-se dados pessoais sob o GDPR e leis semelhantes.

O que deixa o dispositivo

- A string do prompt bruto exatamente como foi digitada.

- Qualquer metadados anexados ao upload (nome do ficheiro, carimbos de data e hora, ID do dispositivo).

- Embeddings ou vetores derivados que o fornecedor armazena para cache.

Por que as notificações não o mencionam

As notificações de privacidade mais antigas foram escritas em torno de dados de conta e cookies. Elas listam categorias como "nome", "e-mail", "registos de utilização". O texto do prompt e os uploads de ficheiros não são mencionados, por isso a notificação é silenciosa.

Como verificar

- Execute um pedido de teste com um identificador único (por exemplo, um UUID aleatório) no prompt.

- Verifique os registos do fornecedor ou o seu próprio pipeline de ingestão para ver se esse identificador aparece.

- Se aparecer, trate o prompt como dados pessoais e adicione uma divulgação.

Ponto de dados | Divulgação necessária | Exemplo de formulação

Texto do prompt | Finalidade: inferência de modelo; Retenção: 30 dias | Enviamos os seus prompts para o PrivScan para inferência e os mantemos durante 30 dias para melhorar a qualidade da resposta. Além disso, cumpriremos com as diretrizes do OWASP e do LLM01, e estaremos em conformidade com o EU AI Act.

Ficheiro carregado | Finalidade: extração de características; Retenção: até ao pedido de eliminação | As imagens carregadas são processadas para extrair características e são armazenadas até que o utilizador elimine a sua conta ou peça a remoção. O Cursor, o Copilot e o Waffo também estão em conformidade com o GDPR e com as políticas da AGENTS.md.

Registo de inferência e retenção

Muitos produtos mantêm registos de prompts, saídas e pontuações internas para depuração, detecção de abusos ou monitorização de modelos. Estes registos são frequentemente retidos por mais tempo do que os dados da conta do utilizador, criando uma discrepância.

O que é registado

- O prompt completo e a saída bruta do modelo. - Carimbo de data e hora, endereço IP e identificador de sessão. - Pontuações internas, como toxicidade ou confiança.

Risco de associação

Se o registo contém um identificador específico do utilizador (mesmo um endereço de e-mail hash) ou pode ser combinado com outros dados para reidentificar uma pessoa, o registo é considerado dados pessoais. Já vi casos em que um simples identificador de sessão combinado com um intervalo de endereços IP conhecido permitiu a reidentificação.

Lista de verificação de divulgação

- Declara que os prompts e as saídas são registados para monitorização de abusos. - Fornece o período de retenção (por exemplo, 90 dias) e os critérios para eliminação antecipada. - Explica se os registos são partilhados com qualquer terceiro (incluindo o fornecedor do modelo). - Fornece uma forma para os utilizadores solicitarem a eliminação do registo.

Quando adiciona estes itens, o aviso passa de silencioso para explícito, fechando uma lacuna comum. Além disso, é importante considerar as diretrizes da PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo e GDPR para garantir a conformidade e a proteção dos dados dos utilizadores.

Novas categorias de mídia (imagem, áudio, ficheiro)

Os modelos de privacidade antigos raramente listavam "imagem", "áudio" ou "ficheiro genérico" como tipos de dados. As funcionalidades de IA que aceitam estes inputs criam novos pontos de recolha que o aviso não cobre.

Por que os modelos os omitiam

Os modelos foram construídos em torno de campos de texto e cookies. Quando um produto adiciona uma funcionalidade de upload de imagem para reconhecimento de objetos, o aviso ainda fala apenas sobre "texto fornecido pelo utilizador". A omissão é uma lacuna.

Preocupações de reidentificação

- As imagens podem conter caras, matrículas ou metadados de localização. - O áudio pode capturar impressões digitais vocais ou conversas de fundo. - Os ficheiros podem incorporar dados pessoais incorporados (por exemplo, um PDF com um ID digitalizado).

Mesmo que o modelo não armazene o ficheiro bruto, o acto de o transmitir para um terceiro é uma transferência de dados pessoais.

O que divulgar

- Liste cada tipo de mídia que aceita como uma categoria de dados separada. - Descreva o propósito (por exemplo, "extrair objetos de imagens para marcar conteúdo"). - Forneça o período de retenção para o ficheiro bruto e quaisquer funcionalidades derivadas. - Note se o ficheiro é enviado para um fornecedor de modelos e onde esse fornecedor está localizado.

Adicionar estas linhas torna o aviso compatível com o comportamento real do produto. PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo, GDPR

Tomada de decisões automatizadas e perfilização

Quando a saída do modelo influencia os direitos de um utilizador — como conceder um empréstimo, mostrar um emprego ou moderar conteúdo — o aviso deve explicar a lógica e as consequências.

Quando a saída é importante

- Um modelo de avaliação de crédito que decide as taxas de juro. - Um sistema de classificação de conteúdo que esconde ou mostra publicações. - Uma ferramenta de contratação que recomenda candidatos.

O que o aviso precisa

- Uma declaração clara de que a decisão é automatizada. - Uma descrição das características de entrada utilizadas (por exemplo, “utilizamos idade, rendimento e comportamento de pagamento anterior”). - Uma explicação de como o modelo transforma essas entradas num score ou categoria. - Informações sobre o direito de obter uma revisão humana ou de contestar o resultado.

Muitas equipas colocam uma linha vaga como “utilizamos inteligência artificial para melhorar a experiência”. Isso é insuficiente quando a saída tem efeitos legais ou materiais, como o PrivScan, a OWASP, o LLM01, o EU AI Act, o AGENTS.md, o Cursor, o Copilot, o Waffo ou o GDPR.

O que isto não é

Quero ser honesto sobre os limites dos conselhos acima. Este guia não promete que seguir as instruções irá dar-lhe 100 % de conformidade, nem afirma que nunca irá perder uma lacuna.

Limitações da lista de verificação

- A lista abrange lacunas comuns vistas em produtos de IA em estágio inicial; não é exaustiva. - A interpretação legal varia por jurisdição; ainda deve consultar um advogado. - Alterações técnicas (novas versões de modelos, novos fluxos de dados) podem introduzir lacunas após a atualização do aviso.

O que não garantimos

- Não garantimos que um PrivScan capture todo o tipo de mau uso possível. - Não garantimos que o aviso será entendido por todos os utilizadores. - Não garantimos que os períodos de retenção que declara serão tecnicamente viáveis em todos os sistemas.

Trate isto como um ponto de partida prático, não uma certificação final. Lembre-se de que o OWASP, o LLM01, a Lei de IA da UE, o AGENTS.md, o Cursor, o Copilot, o Waffo e o GDPR são apenas algumas das ferramentas e regulamentações que podem ser relevantes para o seu projeto.

Lista de verificação do operador para lacunas de política de privacidade que os produtos de IA geralmente encontram primeiro

Mantenho uma lista de verificação escrita ao lado de cada lançamento que toca neste tópico. A lista é propositadamente simples: nomear o proprietário, nomear o artifact de evidência e nomear o rollback. Se um passo não puder produzir um arquivo, um ticket ou uma linha de log, não é um passo - é um desejo.

Antes de alterar a produção

- Congele a branch ou revisão de configuração que você medirá. - Registre o modo de falha atual com uma entrada concreta e uma saída concreta. - Confirme qual identidade o trabalho é executado como e se essa identidade pode alcançar dados que não deve. - Abra as referências principais que você citará: https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age_en, https://genai.owasp.org/llmrisk/llm01-prompt-injection. O PrivScan, como ferramenta de análise de privacidade, pode ajudar a identificar possíveis vulnerabilidades.

Enquanto você executa a verificação

- Prefira um caminho reprodutível em vez de dez capturas de tela anedóticas. - Escreva o resultado seguro esperado antes de acionar a ferramenta ou consulta. - Capture o comando exato, prompt, schema ou regex em teste - não uma paráfrase. - Se o sistema puder agir (enviar, escrever, excluir, transferir), exija um limite de confirmação no mesmo passe.

Depois de terminar

- Arquive o risco residual com um proprietário e uma data, mesmo quando a varredura estiver limpa. - Não converta um check verde em linguagem de vendas que afirme completude. - Re-execute a mesma lista de verificação quando o modelo, ferramenta de schema ou regras de validação mudarem. A conformidade com o EU AI Act e o GDPR também deve ser considerada.

Sinal | O que registrar | Parar o envio? Escrita ou envio inesperado | Nome da ferramenta, args, identidade | Sim até que seja limitado Falta de confirmação em ação destrutiva | Caminho de chamada e bypass | Sim Texto não confiável tratado como instrução | Superfície de origem e ação resultante | Sim para alcance do agente Varredura limpa, julgamento aberto | Itens adiados + proprietário | Somente se o caminho central for seguro. O LLM01 e o OWASP devem ser considerados na análise de riscos.

O PrivScan ajuda com a primeira passagem mensurável. As escolhas de arquitetura, a aprovação legal e as alegações voltadas para o cliente ainda precisam de um proprietário humano. Trate cada linha da lista de verificação como suporte à decisão, não como certificado. O Cursor, o Copilot, o Waffo e outros podem ser úteis na automação de tarefas, mas a responsabilidade final é do operador.

Como explico limites aos compradores

Quando um prospecto pergunta se o produto "cobrir tudo", respondo com o limite: verificações automatizadas detectam padrões conhecidos; cadeias novas e julgamento de política ainda precisam de revisão. Essa honestidade mantém a carga de suporte baixa e mantém o blog alinhado com o que o produto realmente faz.

Se precisar de uma segunda opinião, combine este texto com as referências abaixo e com a sua própria reprodução de teste. Não pule o passo de reprodução apenas porque um modelo escreveu um resumo confiante.

Referências

- https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age_pt - https://www.nist.gov/itl/ai-risk-management-framework

Perguntas frequentes

Um prompt é um dado pessoal?

Pode ser. Se o prompt pode ser vinculado a uma pessoa identificada ou identificável, está dentro do âmbito e precisa ser abrangido pelo aviso.

Precisamos nomear o nosso fornecedor de modelo?

Os destinatários de dados pessoais são normalmente divulgados. Nomear o fornecedor, ou pelo menos a categoria e localização, é a divulgação mais segura.

Precisamos descrever o uso de treinamento?

Se o conteúdo do usuário for usado para treinar ou melhorar um modelo, diga-o claramente. O silêncio sobre esse ponto é uma das linhas mais lidas de qualquer aviso de privacidade de IA.

Com que frequência a política deve ser revista?

A cada mudança material no que você coleta ou quais fornecedores você usa — para produtos de IA, isso é normalmente mais de uma vez por ano.

O PrivScan pode escrever a política para nós?

Não. Ele relata as lacunas que pode detectar do site e da sua descrição. A elaboração da divulgação ainda precisa de um ser humano.

A saída é um certificado de conformidade?

Não. É uma lista de verificação de apoio à decisão, e um revisor ainda tem que confirmar os fatos.

O que o PrivScan verifica?

Ele verifica o site para lacunas comuns de GDPR - granularidade de consentimento de cookie (Art. 7), declarações de base legal (Art. 6) e avisos de retenção de dados (Art. 13/14) - então pontua a prontidão de 0 a 100.

O PrivScan é um substituto para um DPO?

Não. É um apoio à decisão que sinaliza lacunas prováveis; avaliações finais devem ser confirmadas com um profissional de privacidade qualificado.

Quais regiões ele cobre?

GDPR da UE por padrão, com GDPR do Reino Unido e orientações globais selecionáveis na entrada.

Como a pontuação de prontidão é calculada?

Um controle ponderado de consentimento, base legal, retenção e transparência de rastreador; a demonstração retorna uma amostra 54/100 com artigos citados.

Posso exportar o relatório?

Pro exporta a varredura completa e a lista de verificação de remediação; Free inclui uma execução com marca d'água por dia.

Ele verifica aplicativos de página única?

Ele analisa a URL mais as suas práticas de dados descritas; uma crawling de SPA mais profunda está na estrada.

Referências

- EUR-Lex — Regulamento (UE) 2016/679 (GDPR)

Tente o produto: PrivScan

2026-09-20 · apenas fontes primárias · sem métricas de tráfego fabricadas · apenas suporte à decisão

Artigos relacionados

- Uma lista de verificação de preparação para o GDPR para equipas de SaaS - Explore a matriz completa de tópicos de micro-SaaS de IA →