MGI debate integridade e boas práticas no uso da inteligência artificial

Realizado no Auditório Roseli Faria, no térreo do Bloco K, o evento teve curadoria da Coordenação de Suporte à Gestão de Riscos da Assessoria Especial de Controle Interno (CORIS/AECI) do MGI e contou com interpretação presencial em Libras. 

A atividade foi mediada por Rachel Oliveira Correa, Coordenadora-Geral de Inteligência e Governança Digital da Diretoria de Tecnologia da Informação, vinculada à Secretaria de Serviços Compartilhados do MGI, e teve como painelistas Thaciana Cerqueira, Coordenadora-Geral do Núcleo de IA da Diretoria de Ecossistemas e Inteligência Artificial da Secretaria de Governo Digital do MGI; e Camila Kobayashi, assessora técnica na Coordenação-Geral de Ciência de Dados da Escola Nacional de Administração Pública (Enap). 

Inteligência artificial e confiança do cidadão 

Ao abordar os desafios do uso da inteligência artificial no governo digital, Thaciana destacou que a adoção dessas tecnologias precisa estar associada à responsabilidade e à ética, especialmente quando as soluções são utilizadas na prestação de serviços públicos. “E como que a gente faz isso de uma forma responsável e ética, para que a gente consiga entregar soluções para o cidadão e que ele confie nas nossas soluções?” 

Segundo a painelista, o avanço da IA no setor público também exige investimentos em pessoas, dados e infraestrutura. Nesse contexto, a capacitação dos servidores é um dos pontos centrais para que as ferramentas sejam utilizadas de maneira adequada e para que novas soluções possam ser desenvolvidas com segurança. “A gente precisa trabalhar muito no contexto de capacitar servidores públicos que conheçam dessas ferramentas — não só em como utilizá-las no seu dia a dia com responsabilidade e ética, mas também para desenvolver soluções de IA com qualidade, segurança e responsabilidade.” 

Thaciana também chamou atenção para a necessidade de ampliar a integração entre os órgãos públicos e melhorar a qualidade dos dados utilizados pelas soluções de inteligência artificial. Para ela, a superação dos chamados “silos” de informação é parte importante desse processo. 

Governança e qualidade dos dados 

A relação entre dados, governança e qualidade das respostas produzidas por sistemas de IA foi um dos pontos destacados por Camila Kobayashi. Segundo ela, a adoção dessas tecnologias precisa estar acompanhada de políticas institucionais capazes de orientar seu desenvolvimento e utilização. “Sem um dado de qualidade, você não vai ter uma resposta de qualidade. Você vai ter uma resposta errada, uma resposta ruim, que pode trazer um viés. Então, é essencial que exista uma política de governança de dados, como também é essencial a política de governança de IA.” 

A painelista ressaltou ainda que essas políticas precisam acompanhar mudanças normativas e a evolução das próprias tecnologias. “Essas políticas precisam ser aderentes às legislações vigentes, às orientações e aos consensos sobre as boas práticas. Quem desenvolve as políticas de governança nos órgãos deve estar atento em manter essas políticas atualizadas.” 

Para Camila, a preocupação com a integridade também deve estar presente na prevenção de vieses e discriminações produzidos ou reproduzidos por sistemas de inteligência artificial. Ela destacou a importância de equipes diversas e de processos de avaliação e documentação dos mecanismos utilizados para reduzir esses riscos. 

Uso responsável no dia a dia 

A discussão também abordou situações práticas envolvendo o uso de ferramentas de inteligência artificial generativa por servidores públicos. Camila reforçou que essas tecnologias devem ser utilizadas como instrumentos de apoio ao trabalho, sem substituir a análise humana. “O uso da inteligência artificial tem que ser entendido como apoio, nunca como protagonista ou a principal resolução.” 

Entre os exemplos de utilização apresentados durante o encontro estão o resumo de conteúdos públicos, a organização de ideias, a elaboração de estruturas para conteúdos educacionais, a preparação de minutas de e-mails e comunicados e a simplificação da linguagem de termos jurídicos. 

Por outro lado, a painelista alertou para os cuidados necessários no tratamento de informações pessoais, sigilosas ou relacionadas a processos em tramitação. A orientação é observar as características e os termos de uso de cada ferramenta antes de inserir informações institucionais. “Se você não vai colocar uma informação num e-mail que é para fora do órgão, então não coloque nessa IA generativa aberta.” 

A revisão humana também foi apontada como etapa indispensável. Mesmo quando uma ferramenta apresenta uma resposta aparentemente adequada, cabe ao usuário verificar as informações antes de utilizá-las em seu trabalho. 

Integridade como parte da inovação 

Ao tratar da relação entre inovação e integridade, Camila destacou que os princípios de responsabilidade e ética não devem ser vistos como obstáculos à adoção de novas tecnologias. “Integridade não é um freio à inovação; é o que garante que ela sirva a todos e todas.” 

Durante o evento, houve consenso que, no setor público, o uso dessas ferramentas envolve não apenas ganhos de eficiência, mas também responsabilidade sobre os impactos das soluções oferecidas à sociedade.