Testar um sistema de IA antes de colocar em produção deixou de ser zelo de consultor exigente e virou pauta de regulador. A Autoridade Nacional de Proteção de Dados (ANPD) publicou, em agosto de 2026, a metodologia de testagem do seu sandbox regulatório de IA — um ambiente supervisionado, desenvolvido com o Centro de IA da USP, para avaliar sistemas que processam dados pessoais em três eixos: transparência, explicabilidade e proteção de dados. Enquanto isso, o Marco Legal da IA (PL 2338) segue parado na Câmara, com votação adiada para depois das eleições de outubro.
A resposta curta para quem lidera tecnologia numa empresa de médio porte: não há o que esperar. Os três eixos que a ANPD colocou num protocolo formal são as mesmas três perguntas que eu faço antes de qualquer sistema de IA entrar no ar, há anos, sem lei nenhuma pedindo. Este artigo é o checklist que uso para testar um sistema de IA antes de produção — e dois casos reais em que ele mudou a decisão.
Principais aprendizados
- O sandbox regulatório da ANPD avalia sistemas de IA em três eixos — transparência, explicabilidade e proteção de dados — e já opera com empresas e dados reais, antes de o Marco Legal da IA (PL 2338) ser votado.
- Testar um sistema de IA antes de produção não exige laboratório nem equipe de compliance: exige simular o comportamento real com dado real, observar o que o sistema faz quando erra e definir qual dado ele nunca deveria tocar.
- Prova de conceito auto-aplicável — o comprador simula o sistema com os próprios dados, sem depender da demo do fornecedor — está virando expectativa de mercado na contratação de IA, não exceção.
- Controle de segurança de IA que vive só no prompt não é controle: uma instrução pode falhar sob troca de modelo ou contexto longo. O controle confiável fica depois do modelo — filtro de saída, validação, sanitização.
- Esperar a lei para estruturar governança de IA custa a diferença entre chegar com processo pronto e chegar apressado: o checklist já existe, só ainda não se chama “lei”.
O que a ANPD testa no sandbox regulatório de IA — e por que isso é um checklist, não uma lei distante
Os três eixos do sandbox são diretos e qualquer empresa consegue aplicá-los a si mesma. Transparência é o usuário saber que está falando com um sistema de IA e de onde vem a resposta que ele recebeu. Explicabilidade é conseguir reconstruir, depois, por que o sistema decidiu o que decidiu — não em linguagem de pesquisa acadêmica, mas o suficiente para responder a um cliente ou a um auditor. Proteção de dados é saber qual dado pessoal entra no sistema, para onde ele vai, quem tem acesso e por quanto tempo fica armazenado.
O que torna o sandbox útil como referência não é o selo regulatório — é que ele roda com empresas e dados reais e produz achados preliminares sobre governança e segurança. Ou seja: é um protocolo testado na prática, não uma lista de intenções. Uma empresa de médio porte pode pegar esses três eixos e transformá-los em três perguntas obrigatórias antes de qualquer sistema de IA entrar em produção, sem esperar que a obrigação vire texto de lei.
Vale a ressalva de escopo: o sandbox foi desenhado para sistemas que processam dados pessoais e tomam ou apoiam decisões sobre pessoas. Um assistente interno que só resume documento público, sem dado sensível e sem decisão sobre ninguém, tem uma barra mais leve — aplicar o protocolo inteiro nele seria burocracia sem retorno. O critério é o risco, não a tecnologia.
Como testar um sistema de IA antes de colocar em produção?
Começo sempre por três testes, na ordem do mais barato para o mais trabalhoso: simular o comportamento real do sistema com um dado real antes de assinar qualquer contrato; provocar a falha de propósito e observar o que o sistema devolve ao usuário; e mapear o perímetro de dado — o que ele nunca deveria acessar. Nenhum dos três exige cientista de dados. Exige método e disciplina para registrar o que se viu.
O primeiro teste mudou uma decisão de contratação que acompanhei há alguns anos, numa operação educacional de grande porte que avaliava um robô de cobrança de inadimplência baseado em modelo de linguagem. O fornecedor permitia simular o robô no site da própria empresa, usando o CPF e o celular de um caso real de atraso — não uma demonstração conduzida pelo vendedor, mas o sistema respondendo como responderia a um cliente de verdade. A gente viu o texto que a pessoa inadimplente receberia, o tom, e o que o robô fazia quando o cliente pedia parcelamento. Depois da contratação, o resultado apareceu: cerca de dois pontos percentuais de melhora nos índices de recuperação e uma taxa de influência da IA em torno de 14% no consolidado — ainda com dependência de intervenção humana para fechar parcelamento. O resultado veio; o ponto aqui é outro. A decisão de assinar foi ancorada em ver o comportamento real, com dado real, e não no discurso comercial. Quando o fornecedor não oferece esse tipo de simulação auto-aplicável, isso já é um sinal.
O segundo teste — provocar a falha — vem de um caso dentro da própria carteira de produtos da HAIA. Um assistente que gera um relatório a partir das respostas do usuário às vezes devolvia, no texto final entregue a quem lia, blocos de instrução interna do sistema que jamais deveriam aparecer. A correção que não funcionou de forma confiável foi reforçar o prompt, pedindo ao modelo para não revelar aquilo. O que funcionou foi uma camada de sanitização na saída: um trecho de código que varre o texto gerado e remove qualquer bloco reconhecível de instrução de sistema antes de entregar a resposta. O controle vive depois do modelo, não dentro dele. Num diagnóstico, eu pergunto explicitamente se existe filtro na saída — não só se existe “boa instrução no prompt”. E separo dois riscos que costumam ser confundidos: vazamento de prompt, quando o modelo revela a própria estrutura por conta própria, e prompt injection, quando um usuário tenta manipular o sistema de propósito. São problemas diferentes, com mitigações diferentes.
O terceiro teste é o mais chato e o mais esquecido: escrever, antes de ligar o sistema, a lista do que ele nunca deveria tocar. Qual base de dado pessoal fica fora. Qual campo é mascarado. O que não pode sair do ambiente da empresa. É esse documento de uma página que transforma “proteção de dados” de princípio em regra verificável — e é exatamente o eixo que a ANPD colocou no protocolo dela.
Quanto custa esperar o Marco Legal da IA para começar?
Custa a diferença entre chegar pronto e chegar apressado. A regulação de IA no Brasil está avançando por dois trilhos paralelos: o sandbox da ANPD já funciona na prática, e o Marco Legal formal segue travado na Câmara. Quem já opera com testagem estruturada não depende do calendário do Congresso para estar em condições de responder a um conselho, a um cliente ou a uma auditoria. A leitura institucional desse cenário regulatório está no blog da HAIA, com o mesmo argumento visto do lado da empresa que precisa decidir.
O checklist não depende de lei aprovada: simular com dado real, testar a falha, mapear o perímetro de dado. Os três cabem numa semana de trabalho de uma pessoa que conheça o processo, e nenhum deles precisa de um PL sancionado para começar. O que a lei vai fazer, quando existir, é tornar obrigatório e auditável o que hoje é decisão de cada empresa — e a empresa que já testava assim vai só anexar a documentação que já tem.
Há um custo silencioso do outro lado também. Sistema de IA que entra em produção sem esses testes não fica mais barato — só empurra o custo para frente, para o dia em que um cliente questiona uma decisão, um dado sensível aparece onde não devia, ou o conselho pergunta quem aprovou o quê. Já escrevi aqui sobre por que o Brasil lidera em IA em produção e também em desistir dela: a pressa de colocar no ar e a disciplina de testar antes continuam sendo tratadas como decisões separadas, quando são a mesma.
O que não vale generalizar: nem todo piloto interno precisa virar um processo de auditoria. Se o sistema não toca dado pessoal e não decide nada sobre uma pessoa, a versão curta do checklist — simular e testar a falha — resolve. O protocolo completo é para quando há dado sensível ou decisão que afeta alguém. Aí não é exagero; é o mínimo.
Perguntas frequentes
O que é o sandbox regulatório de IA da ANPD?
É um ambiente supervisionado onde empresas testam sistemas de IA que processam dados pessoais, com acompanhamento da Autoridade Nacional de Proteção de Dados. A metodologia publicada em agosto de 2026, desenvolvida com o Centro de IA da USP, avalia transparência, explicabilidade e proteção de dados. Funciona com empresas e dados reais e gera achados preliminares de governança e segurança antes de o Marco Legal da IA ser votado.
Como testar um sistema de IA antes de colocar em produção sem equipe técnica dedicada?
Comece por três testes simples: simule o comportamento real do sistema com um dado real antes de assinar contrato; provoque a falha de propósito e observe o que ele devolve ao usuário; e liste qual dado pessoal ele nunca deveria acessar. Nenhum exige cientista de dados — exige método e o registro do que foi observado em cada teste.
Prompt bem escrito é suficiente para garantir a segurança de um sistema de IA?
Não. Uma instrução no prompt pode falhar quando o modelo muda, a temperatura varia ou o contexto fica longo. Controles confiáveis ficam fora do modelo: filtro e sanitização da saída, validação de formato, checagem de conteúdo antes de entregar a resposta. A regra prática é ter controle de entrada e de saída ao mesmo tempo, nunca só um dos dois.
Vale a pena esperar o Marco Legal da IA (PL 2338) para estruturar governança?
Não. O projeto segue parado na Câmara, com votação adiada para depois das eleições de outubro, enquanto a ANPD já regula na prática pelo sandbox. Estruturar testagem e governança agora não depende da lei — e evita a corrida de última hora quando a régua formal finalmente existir. Quem já testa assim só vai anexar a documentação que já tem.
Gillian Pellegrino é fundadora da HAIA e tem mais de 30 anos de carreira em tecnologia, com IA conversacional desde 2011 — antes do hype. Ajuda empresas de médio porte a testar, estruturar e governar sistemas de IA sem montar time dedicado nem esperar a próxima lei.
