ANPD debate monitoramento de incidentes de Inteligência Artificial em workshop na Universidade de São Paulo
Participação da Agência reforça a importância da notificação sistemática e da cooperação institucional para a identificação de sistemas de alto risco, além do aprimoramento do quadro regulatório brasileiro no ambiente digital
A diretora da Agência Nacional de Proteção de Dados (ANPD) Miriam Wimmer participou, nesta segunda-feira (11), do Workshop sobre Taxonomia de Incidentes em Inteligência Artificial (IA), realizado no Instituto de Estudos Avançados da Universidade de São Paulo (IEA-USP), em São Paulo.
O evento reuniu especialistas, acadêmicos e reguladores para discutir mecanismos de coleta e sistematização de riscos associados ao uso da Inteligência Artificial. O debate tomou como base o framework da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) e a experiência internacional, com foco na criação de um Observatório de Incidentes em IA no Brasil.
Durante o encontro, foi ressaltado que a taxonomia de incidentes é peça-chave para que formuladores de políticas públicas identifiquem sistemas de alto risco em diferentes contextos. A notificação sistemática desses eventos permite compreender riscos atuais e futuros, além de avaliar impactos sobre os direitos dos cidadãos, sendo fundamental para o desenho do quadro regulatório brasileiro.
Durante sua fala, a diretora Miriam ressaltou que a atuação da ANPD tem sido pautada pela observação atenta de incidentes concretos que evidenciam os riscos à privacidade dos usuários. Ela citou as intervenções da Agência em casos de treinamento de modelos de IA com dados de redes sociais — como ocorreu com a Meta e a ferramenta Grok, do X — para exemplificar como a falta de transparência e o uso de bases legais inadequadas podem comprometer os direitos fundamentais, reforçando a necessidade de uma taxonomia/classificação clara para prevenir tais ocorrências.
O workshop também analisou avanços institucionais do Reino Unido e as diretrizes da OCDE para a definição de termos relacionados a incidentes de IA. Para a ANPD, o acompanhamento dessas discussões globais é essencial para o cumprimento de sua Agenda Regulatória e para o apoio a futuras ações de fiscalização de plataformas que utilizam processamento algorítmico complexo.
O encontro foi encerrado com a proposta de novos diálogos entre universidades, organizações da sociedade civil e entidades reguladoras para a consolidação de um ecossistema de IA ético e seguro no País.