Notícias
Pesquisadora do IPEN-CNEN destaca governança de IA em combustível nuclear
A necessidade de estabelecer mecanismos jurídicos e técnicos mais rigorosos para o uso da inteligência artificial (IA) em infraestruturas críticas, como a fabricação de combustível nuclear, foi o foco da apresentação da pesquisadora Aline Perini, do IPEN-CNEN, durante Encontro Técnico promovido pela Agência Internacional de Energia Atômica (AIEA), entre 27 e 31 de julho, em Viena, Áustria.
O evento reuniu especialistas de diversos países para discutir os avanços e desafios da digitalização e da inteligência artificial. A apresentação foi realizada durante o Encontro Técnico sobre Digitalização e Uso da Inteligência Artificial na Fabricação Avançada e no Controle de Qualidade de Combustível Nuclear.
No trabalho intitulado “From Soft Ethics to Hard Constraints: Governing Agentic AI, Cybersecurity, and LLM Data Management in Critical Infrastructures”, a pesquisadora defendeu que o avanço da digitalização no setor nuclear exige uma governança capaz de assegurar que sistemas baseados em inteligência artificial operem dentro de limites regulatórios claros e obrigatórios. A pesquisa aborda aspectos relacionados à cibersegurança, à gestão de dados de modelos de linguagem (LLMs) e aos desafios decorrentes do emprego de agentes autônomos em processos críticos.
Segundo Perini, embora a transformação digital prometa ganhos significativos de eficiência, ela também amplia riscos sistêmicos, especialmente aqueles relacionados à segurança cibernética e à falta de transparência dos modelos de inteligência artificial. A pesquisadora argumenta que experiências observadas no setor global de tecnologia demonstram que mecanismos voluntários de autorregulação são insuficientes para mitigar esses riscos em ambientes de alta criticidade.
Como alternativa, o estudo propõe a evolução de princípios éticos para um modelo de governança baseado em requisitos legais e restrições técnicas incorporadas diretamente à arquitetura dos sistemas de inteligência artificial. A proposta está alinhada ao conceito de Law-Following AI, no qual a conformidade regulatória deixa de ser apenas uma diretriz e passa a integrar o próprio funcionamento dos agentes inteligentes.
Aline Perini, é pós-doc sob supervisão dos pesquisadores Anderson Zanardi de Freitas e Mário Olímpio de Meneses.