Comissão temporária de IA debate os efeitos da inteligência artificial nos direitos fundamentais do titular de dados pessoais

Aconteceu nesta quinta-feira (19), audiência pública na Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), do Senado Federal. Foram debatidos pontos gerais da Inteligência Artificial relacionados aos aspectos jurídicos, as aplicações da tecnologia e as suas consequências jurídicas a direitos fundamentais, princípios e fundamentos da Lei Geral de Proteção de Dados Pessoais. Foram abordadas também questões relativas às aplicações da tecnologia no cotidiano dos cidadãos. 

A audiência foi iniciada pelo autor do requerimento nº 04/2023 (CTIA), o senador Eduardo Gomes (PL/TO), o documento trata sobre a realização de audiências públicas para debater temas e projetos sobre Inteligência Artificial no Brasil. 

Fernando Malerbi, do Departamento de Saúde Ocular da Sociedade Brasileira de Diabetes, abriu o debate falando sobre a ampliação do acesso dos pacientes a serviços que incorporam a inteligência artificial no tratamento de diabetes e como isso pode trazer benefícios aos avanços nos tratamentos de diabetes. Fernando destacou que sistemas de IA estão sendo usadas no controle de doses de insulina e no rastreio de complicações crônicas da diabetes, demonstrando assim, as diversas funcionalidades e benefícios do uso de IA na saúde. 

Lucas Borges, Gerente da projetos da ANPD, deu início a sua fala trazendo o dilema central da regulação de IA - o equilíbrio entre os direitos fundamentais dos indivíduos e a inovação. Para Lucas, “toda discussão sobre a regulação de IA passa por um equilíbrio entre direitos e inovação, que deve proteger direitos fundamentais e minimizar riscos”. Esclareceu, ainda, que “os usos de IA são imprevisíveis e talvez infinitos. Por isso é tão importante que, ao mesmo tempo em que se fala de proteger direitos, também não se deve esquecer de tentar equilibrar a regulação do ponto de vista da promoção e da inovação”.  

O gerente de projetos enfatizou, ainda, o papel central da ANPD na regulação do tema, dada a forte conexão entre IA e dados pessoais. “O treinamento de algoritmos pressupõe a utilização de uma quantidade massiva de dados, os quais em sua maioria são dados pessoais, principalmente naqueles casos mais controversos, que geram maior impacto, classificados como de alto risco.  É o caso de situações como trabalho e emprego, controle de imigração de fronteiras, na área de saúde, em situações de discriminação, por exemplo.  

Lucas também explicou que a LGPD se aplica a sistemas de IA, mas que ainda há uma série de pontos a serem esclarecidos, como aplicação dos princípios da LGPD da necessidade e da finalidade, quais as hipóteses legais poderão ser aplicadas a casos concretos e sobre a revisão de decisões automatizadas. Destacou ainda sobre o Estudo preliminar, realizado pela ANPD a respeito do PL 2338/2023, que dispõe sobre o uso da Inteligência Artificial no Brasil. Falou também sobre o projeto de Sandbox Regulatório divulgado recentemente pela Autoridade e concluiu salientando que: “Uma regulação adequada dos sistemas de IA pressupõe três pontos essenciais: uma abordagem equilibrada entre direitos e inovação; harmonia e coerência com a LGPD, em especial, afim de evitar fragmentação regulatória; e  o reconhecimento do papel central da ANPD, com seu necessário fortalecimento institucional”. 

O senador Astronauta Marcos Pontes (PL-SC) falou sobre a importância de se considerar o trabalho em conjunto da comissão com a ANPD, que trará maiores benefícios e soluções na regulação da IA. “Muito importante ter em mente que a IA tem uma capacidade muito grande de conclusões, mas não pode tomar decisões que possam afetar a vida dos seres humanos e deve ser usada para ser um auxílio às decisões humanas”, apontou.  

Diogo Cortiz, da PUC-SP, destacou a necessidade de uma atenção redobrada sobre a elaboração de uma estratégia sobre o ecossistema de desenvolvimentos das tecnologias de IA no brasil.  

Nina da Hora, Diretora-executiva do Instituto da Hora, defendeu a maior participação de acadêmicos nos debates sobre IA. “Temos que trazer mais perspectivas acadêmicas nas discussões sobre a regulação de IA para uma contribuição mais qualitativa, alinhando conhecimentos técnicos e científicos às necessidades dos cidadãos”, enfatizou. 

O professor da Universidade de São Paulo (USP) Marcelo Finger trouxe um caso da Itália sobre a proibição do uso do Chat GPT e que não funcionou. “Não funciona frear o desenvolvimento da tecnologia”, afirmou. O professor deu foco a uma experiência recente sobre o tratamento de IA nos estúdios de Hollywood e dos roteiristas que estavam em greve, fazendo um contraponto sobre direitos autorais, trazendo a questão da necessidade de se regulamentar a otimização dos direitos autorais de textos e roteiros com o uso de softwares de IA.  

Gustavo Zaniboni, Presidente da Coordenação de Inteligência Artificial da Associação Brasileira de Governança Pública de Dados Pessoais (govDADOS), lembrou aos expectadores da audiência “que tudo que poderá ser automatizado será”. Falou também sobre a popularização dos sistemas de IA, como a sociedade terá que lidar com essas novidades tecnológicas e sobre a importância da necessidade de precisão técnica para a abordagem do tema.  

Participantes da Audiência Pública:

Lucas Borges de Carvalho 

Gerente de Projetos da Autoridade Nacional de Proteção de Dados (ANPD) 

Diogo Cortiz 

Coordenador do Mestrado e Doutorado em Tecnologias da Inteligência e Design Digital da Pontifícia Universidade Católica de São Paulo (PUC SP) 

Marcelo Finger 

Professor Titular do Departamento de Ciência da Computação do Instituto de Matemática e Estatística da Universidade de São Paulo (USP) 

Fernando Malerbi 

Coordenador do Departamento de Saúde Ocular da Sociedade Brasileira de Diabetes (SBD) 

Gustavo Zaniboni 

Presidente da Coordenação de Inteligência Artificial da Associação Brasileira de Governança Pública de Dados Pessoais (govDADOS) 

Nina da Hora 

Diretora Executiva do Instituto da Hora 

André Lucas Fernandes 

Diretor e fundador do Instituto de Pesquisa em Direito e Tecnologia do Recife (IP.rec) 

André Carlos Ponce de Leon Ferreira de Carvalho 

Diretor do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP) 

Com informações da Agência Senado. 

Mais informações: 
Assessoria de Comunicação ANPD     
ascom@anpd.gov.br 
Atendimento das 10h às 17h