ANPD publica 3º Relatório Parcial de Monitoramento do Sandbox em IA e proteção de dados
Documento apresenta os resultados dos testes de segurança e proteção de dados de três soluções tecnológicas e os próximos passos do projeto-piloto
A Agência Nacional de Proteção de Dados (ANPD) publicou o 3º Relatório Parcial de Monitoramento do Sandbox Regulatório em Inteligência Artificial (IA) e Proteção de Dados. O documento apresenta os avanços na testagem de três soluções tecnológicas desenvolvidas com uso de IA, em um ambiente experimental, controlado e supervisionado pela Agência, com a parceria do Centro de Inteligência Artificial e Aprendizado de Máquina da Universidade de São Paulo (CIAAM/USP).
» Confira o 3º Relatório Parcial de Monitoramento do Sandbox Regulatório em IA
Selecionadas por meio do Edital nº 2/2025, pela Superintendência de Inovação Tecnológica (Sitec), as empresas Metatext, Synapse AI e Prevvine Tecnologia atuam no desenvolvimento de soluções para os setores financeiro, de mobilidade e de saúde, respectivamente. Os testes focam no tratamento de dados pessoais relacionados a operações financeiras, localização e informações de saúde. O processo de testagem avalia controles de segurança e mecanismos de proteção de dados, sem atestar a conformidade das soluções com a legislação. Os ajustes em pontos que ainda precisam de aprimoramento foram colocados como condicionantes para o ciclo seguinte.
IA no cotidiano do cidadão
No setor de mobilidade, os testes avaliaram um aplicativo que recomenda trajetos com base na localização do usuário. Durante o uso simulado, o tráfego de dados foi acompanhado e não foram identificadas informações pessoais circulando sem proteção. Também foi verificado que o algoritmo utilizado para estimar a concentração de pessoas em imagens não identificou indivíduos nas imagens testadas. As próximas etapas incluem a avaliação de aspectos de acessibilidade do aplicativo e do compartilhamento de dados com serviços de terceiros, como plataformas de mapas.
Na área da saúde, a solução avaliada oferece apoio à decisão clínica de profissionais médicos. Foram utilizados 30 casos clínicos simulados para analisar as respostas do sistema. Para a continuidade dos testes, estão previstas melhorias na apresentação de avisos claros sobre os limites de uso da ferramenta, especialmente em situações de emergência, além da indicação das fontes consultadas para a elaboração das respostas.
Já no setor financeiro, os trabalhos se concentraram na análise da documentação e dos fluxos de dados de um sistema que utiliza a IA para detectar fraudes e bloquear operações suspeitas. No próximo ciclo, serão testados mecanismos de proteção de dados pessoais e de emissão de alertas, assim como formas de explicar decisões automatizadas às pessoas que tiverem operações bloqueadas.
Ambiente colaborativo e inovação responsável
O Sandbox Regulatório é conduzido em um ambiente de colaboração entre a ANPD, as empresas participantes e o CIAAM/USP. Durante as atividades, as organizações compartilham informações sobre as características técnicas de suas soluções e suas estruturas de governança, enquanto a Agência e a USP trabalham conjuntamente para identificar alternativas de aprimoramento diante de eventuais falhas ou inconformidades regulatórias.
A iniciativa tem caráter experimental e é voltada ao aprendizado e à produção de evidências, sem limitar a atuação das empresas participantes ou produzir efeitos fiscalizatórios. O objetivo é ampliar o conhecimento sobre os riscos, os benefícios e os desafios do uso da inteligência artificial, contribuindo para o desenvolvimento de tecnologias que respeitem os direitos dos titulares de dados pessoais.
De acordo com a equipe do Laboratório de Inovação da ANPD, vinculada à Sitec, o terceiro ciclo foi marcado pelo amadurecimento do processo de testagem. As avaliações consideraram o grau de maturidade tecnológica, as particularidades técnicas e organizacionais e os setores de aplicação de cada solução. Os trabalhos avançaram da estruturação metodológica e das análises técnicas e documentais para a verificação de controles e mecanismos de segurança, distinguindo as informações declaradas pelas empresas daquelas documentadas e efetivamente verificadas.
O ciclo também consolidou orientações para a continuidade da experimentação e encaminhamentos específicos para cada participante, considerando os aspectos críticos das tecnologias e seus contextos de uso.
Próximos passos
No quarto ciclo de monitoramento, as empresas deverão executar os testes previstos e comprovar o cumprimento das condicionantes identificadas nas etapas anteriores. Os resultados contribuirão para a produção de evidências e conhecimentos que poderão subsidiar futuras orientações e normas da ANPD.
Com o Sandbox Regulatório em Inteligência Artificial e Proteção de Dados, a Agência busca promover a inovação responsável, fortalecer a segurança jurídica e contribuir para o desenvolvimento de tecnologias com IA no Brasil, com atenção à proteção dos dados pessoais e à garantia dos direitos fundamentais dos cidadãos.
LEIA MAIS
» ANPD publica 2º Relatório Parcial de Monitoramento do Sandbox Regulatório em Inteligência Artificial
» Curta, compartilhe e comente o vídeo do Sandbox da ANPD que concorre à premiação internacional
» Projeto Sandbox Regulatório de IA da ANPD é finalista de prêmio internacional
» ANPD publica metodologia de testagem do Sandbox Regulatório em IA e Proteção de Dados
» Publicados primeiros resultados do Sandbox Regulatório em Inteligência Artificial
» Confira a página do Sandbox no site da ANPD