Rede GIRC debate ética, governança e inovação da inteligência artificial no setor público

A Rede GIRC (Governança, Integridade, Riscos e Controles Internos) promoveu, nesta quinta-feira (14/8), no auditório térreo do Bloco K, um painel de debates sobre o tema “Você é mais do que Sei... Inteligência Artificial, Ética e Inovação na Burocracia Pública”.  O debate marcou a 52ª edição da Rede GIRC e abordou ética, governança e inovação na inteligência artificial, discutindo seus impactos, desafios e aplicações no setor público, bem como riscos à sociedade, às modificações provocadas nos relacionamentos interpessoais e consequências ao trabalho.  

O painel foi mediado pela presidenta da Comissão de Ética da Advocacia-Geral da União (AGU), Mariana Montenegro, e participaram a ministra substituta do Tribunal Superior Eleitoral (TSE), Edilene Lôbo; o diretor de Segurança e Prevenção de Riscos no Ambiente Digital da Secretaria Nacional de Direitos Digitais do Ministério da Justiça e Segurança Pública (MJSP), Ricardo de Lins e Horta; e a professora e advogada Patrícia Peck. 

A mediadora Mariana Montenegro destacou a importância de refletir sobre o papel humano diante da tecnologia e ressaltou a necessidade de colocar a perspectiva humana no centro das decisões tecnológicas. “O tema ‘Você é mais do que Sei’ é bastante instigante. Para quem é do serviço público, é impossível não lembrar do SEI, o Sistema Eletrônico de Informações, que transformou a burocracia digital com processos eletrônicos. Mas também sei, no sentido do verbo ‘saber’, nos lembra que os sistemas não apenas registram o que fazemos, eles aprendem com o que fazemos. Por trás de qualquer sistema, há gente, há pessoas. A tecnologia não é boa ou má por si só; é o desenvolvimento e o uso dela que definem seu impacto. O olhar feminino precisa estar presente no desenvolvimento e na regulação da inteligência artificial, para que a IA sirva ao Estado e à sociedade sem se tornar um controle absoluto”, disse. 

Ao abordar os desafios da inteligência artificial no setor público, Patrícia Peck destacou a importância de alinhar a inovação tecnológica com princípios éticos, governança e transparência. Para ela, a IA oferece potencial para acelerar a aprendizagem e disseminar conhecimento, mas também impõe riscos se não for regulamentada e monitorada adequadamente. “Estamos vivendo uma realidade em que a inteligência artificial não é apenas uma ferramenta, mas um agente que interage com o ser humano e com o Estado. Se não for treinada e orientada dentro de regras éticas e valores claros, ela pode gerar resultados desastrosos. Por isso, precisamos de uma combinação de legislação, diretrizes de melhores práticas e transparência, garantindo que a tecnologia sirva ao cidadão e fortaleça a governança pública, sem substituir o julgamento humano”. 

A ministra substituta do TSE, Edilene Lôbo, trouxe um olhar crítico sobre o impacto social da inteligência artificial, refletindo sobre governança, responsabilidade e a necessidade de avaliação cuidadosa das consequências das tecnologias no setor público. “O olhar crítico sobre a tecnologia é essencial. Precisamos analisar como a inteligência artificial é implementada e usada, garantindo que sirva à sociedade de forma ética, responsável e transparente. É fundamental que as decisões tomadas com o apoio de sistemas inteligentes mantenham o ser humano no centro, preservando valores como justiça, equidade e integridade. A tecnologia não substitui o julgamento humano, mas deve ser usada para fortalecer a governança pública e melhorar os serviços prestados à população, sempre com atenção às implicações éticas e sociais de cada inovação” pontuou.  

O diretor da Secretaria Nacional de Direitos Digitais do MJSP, Ricardo de Lins, destacou os desafios éticos e técnicos dos sistemas de IA, especialmente em aplicações sensíveis como o reconhecimento facial. “Muitos desses sistemas de inteligência artificial funcionam como uma caixa preta, até seus próprios criadores não sabem exatamente como chegam aos resultados. É por isso que precisamos de regras claras e valores bem definidos para o uso da tecnologia, garantindo transparência, proporcionalidade e respeito aos direitos fundamentais. A ética na IA não é abstrata; ela se manifesta nos resultados e nas decisões que afetam diretamente a sociedade, e nossa missão é assegurar que esses sistemas atuem de forma responsável e segura”.  

Ao final das apresentações, os convidados responderam às dúvidas dos participantes e dos telespectadores que assistiam ao evento pelo YouTube. 

Assista a transmissão na integra.  

Sobre a Rede 

A Rede GIRC é uma rede colaborativa aberta, instituída em 2017, com o objetivo de disseminar boas práticas e promover debates sobre os temas de Governança, Integridade, Gestão de Riscos e Controles Internos no setor público. Atualmente, é formada por cerca de 1.200 profissionais de diversas organizações do setor público.