Cartilha IA Generativa

A Inteligência Artificial Generativa é um ramo da inteligência artificial projetado para criar conteúdos, como textos, áudios, imagens, vídeos e até códigos de software. Essa tecnologia se baseia em modelos computacionais avançados, que aprendem padrões a partir de grandes volumes de dados. As ferramentas generativas atualmente mais conhecidas são os LLMs - (Large Language Model, ou Modelos de linguagem de grande escala) que tem como função central que geram textos de maneira natural, semelhante à humana.  

Os LLMs, como ChatGPT, Copilot, LLaMA e Gemini, funcionam por meio de uma estrutura de probabilidades, na qual procuram replicar com a maior precisão possível a maneira como a linguagem humana é utilizada. O modelo constrói respostas de forma incremental, reconhecendo a entrada fornecida pelo usuário (chamada prompt) e avaliando qual é a sequência de texto mais parecida com a de um ser humano no sentido estatístico. No entanto, é fundamental notar que as respostas da IAG não se baseiam em uma compreensão real de contexto, significado ou experiência. Por essa razão, a IAG pode cometer erros factuais convincentes, chamados "alucinações". 

Apesar de todo potencial da IA, inclusive para a realização de tarefas complexas, é sempre importante lembrar que essa tecnologia não substitui o papel dos humanos na revisão e análise dos resultados obtidos. Afinal, nem sempre os resultados produzidos com a ajuda da IA são confiáveis, previsíveis ou explicáveis, especialmente nos modelos de IA mais recentes que são baseados em probabilidades, ou seja, sempre existe a chance da resposta não ser adequada.   

Para fazer uma rápida comparação, os programas tradicionais de computador que você já conhece funcionam como se fosse uma calculadora: 2+2 sempre será igual a 4. Já em um sistema que funcione utilizando IA, o resultado de 2+2 pode ser igual ou diferente de 4. Vai depender se o modelo de IA foi treinado com uma base de dados com informações corretas ou incorretas. Por esse motivo todo sistema de IA carrega algum grau de risco, e por isso também a revisão dos resultados por parte do usuário é tão importante.    

A diferença essencial entre a IAG e a IA Analítica (ou Preditiva) reside em seus objetivos. A IA Analítica utiliza o aprendizado de máquina para processar grandes quantidades de dados existentes para gerar previsões, recomendações ou classificações. Seu foco é fazer inferências e prever um estado futuro (como a previsão de crimes ou detecção precoce de doenças) para fornecer suporte à decisão humana (Inteligência Assistida). Em contraste, a IA Generativa não se limita a analisar dados, mas sim a produzir algo novo (texto, imagem, áudio), dedicando-se à criação de conteúdo sintético através dos padrões que internalizou durante o treinamento. 

Os grandes modelos generativos de IA são um exemplo típico de Modelo de IA de Finalidade Geral, por permitirem a geração flexível de conteúdo, como texto, áudio, imagens ou vídeo, e podem se adaptar a uma ampla gama de tarefas distintas. Outros exemplos de IAG incluem modelos que produzem imagens a partir de texto (como DALL-E, Midjourney e Stable Diffusion). 

No setor público, as ferramentas de IAG oferecem oportunidades para modernizar processos, como automação de tarefas repetitivas, redação de documentos, criação de resumos de documentos e criação de materiais visuais. Contudo, sua adoção deve ser feita de forma criteriosa, garantindo que os benefícios superem os riscos e o uso esteja alinhado com valores éticos e regulatórios. 

Modelos de inteligência artificial passam normalmente por ciclos compostos por duas grandes fases: treinamento – onde ocorre o ajuste e captura de padrões nos dados, e produção - fase da aplicação. Durante a fase de treinamento, esses modelos são expostos a dados diversos, como documentos, imagens e outras fontes públicas ou privadas, para identificar relações e estruturas. Assim, conseguem gerar conteúdos que parecem ter sido criados por humanos. Por exemplo, podem criar um relatório, compor um texto ou gerar um design com base em comandos específicos fornecidos por usuários. 

Outra característica importante é que a IAG funciona com base em probabilidade e padrões, e não possui "consciência" ou "intenção". Isso significa que, embora seja uma ferramenta poderosa, ela pode gerar respostas que, em alguns casos, não são adequadas ou estão fora de contexto, o que exige atenção e validação por parte dos usuários. 

É crucial entender que, como esses modelos dependem dos dados com os quais foram treinados, eles podem reproduzir vieses ou informações imprecisas presentes nesses dados. Isso reforça a necessidade contínua de supervisão humana e de uma avaliação cuidadosa de suas aplicações, especialmente em instituições públicas que lidam com informações sensíveis e de impacto social. 

Os modelos de IAG podem ser classificados por licenças abertas ou fechadas. A diferença entre eles está diretamente relacionada à forma como podem ser utilizados e adaptados às necessidades específicas de cada contexto.  

Enquanto os modelos fechados são projetados para oferecer soluções padronizadas e práticas, os modelos abertos se destacam pela flexibilidade, permitindo personalizações e maior controle por parte dos usuários. A escolha entre eles depende das necessidades do projeto, dos recursos disponíveis e das preocupações éticas envolvidas. 

Em termos de desempenho, os modelos fechados frequentemente oferecem resultados otimizados em tarefas gerais devido ao alto investimento das empresas de tecnologia em infraestrutura e treinamento contínuo. Já os modelos abertos, embora demandem mais esforço para ajustes, podem superar os fechados em casos de uso específico, especialmente quando adaptados com dados internos.  

A escolha entre os dois tipos de modelos deve equilibrar a disponibilidade de recursos, eficiência, privacidade, custo e a necessidade de personalização, garantindo que as ferramentas de IAG sejam usadas de forma responsável e alinhada aos objetivos institucionais. 

Desenvolvidos principalmente por grandes empresas como OpenAI, Google e Anthropic, são amplamente utilizados para aplicações como assistentes em bases de conhecimento e bases de dados, auxílio na geração de relatórios padronizados, e automação de atendimento.  

Esses modelos geralmente são acessados por meio de APIs, o que facilita sua integração em sistemas existentes e permite que as instituições utilizem suas funcionalidades sem a necessidade de infraestrutura complexa.  

No mercado brasileiros, para modelos fechados destaca-se a Maritaca IA, que fornece um modelo treinado, utilizando bases de língua portuguesa, e que pode atender às demandas locais com um custo reduzido e performance equivalente a essas outras soluções. 

Atualmente, os modelos dessas empresas que oferecem os melhores benchmarks e desempenhos são: o GPT-4o, GPT-5 e o3-mini da OpenAI, o Gemini do Google, e o Claude da Anthropic, manus da Manus AI. Apesar das vantagens em desempenho e da facilidade no uso, os modelos fechados apresentam desafios importantes. Muitas vezes, seu uso implica o envio de dados para servidores localizados no exterior, o que pode representar riscos à privacidade e à conformidade com regulamentos locais como a Lei Geral de Proteção de Dados, dentre outras. Além disso, esses modelos funcionam como “caixas pretas”, dificultando auditorias e adaptações, o que pode ser uma limitação para instituições públicas que lidam com informações sensíveis ou que precisam de maior transparência.  

Desenvolvidos principalmente por empresas como a Meta, com o LLaMA 4, pela europeia Mistral AI, com o Mistral 7B, pelo DeepSeek, com o DeepSeek-R1, e pelo Alibaba Cloud com o Qwen-2.5, esses modelos oferecem vantagens significativas para quem busca maior controle e flexibilidade. Esses modelos são disponibilizados sob licenças abertas, permitindo que sejam utilizados e ajustados para atender a contextos específicos e podem ser instalados e executados em servidores locais, eliminando a necessidade de enviar dados para terceiros e garantindo a segurança de informações sensíveis. No Brasil, a Maritaca AI destaca-se com o Sabia-7B, voltado para o idioma português, demonstrando performance equivalente a um custo reduzido. 

A Hugging Face se tornou a principal plataforma para acesso a esses modelos abertos. Com suporte dessa plataforma, os usuários podem acessar esses modelos, fazer instalações locais, e realizar customizações tanto locais como diretamente na plataforma, permitindo que os usuários possam utilizar esses modelos de modo simplificado sem necessidade de treinamento do zero. 

Esses modelos são disponibilizados sob licenças abertas e podem ser ajustados para atender a contextos específicos, sendo executados em servidores locais para garantir maior segurança e controle sobre os dados. A plataforma Hugging Face oferece também mecanismos para download, fine-tuning e inferência na nuvem de forma simplificada, permitindo que os órgãos possam utilizar esses modelos pré-treinados sem precisar de infraestrutura própria. 

Como tendência na área da IAG podemos destacar a Geração Aumentada via Recuperação - RAG (Retrieval-Augmented Generation). Trata-se de uma das inovações mais promissoras para lidar com gestão de conhecimento nesse contexto. RAG é uma técnica que combina síntese de texto com recuperação de informação, integrando uma base de conhecimento ao modelo de IAG. Isso permite respostas mais precisas e contextualmente aderentes, ao complementar a capacidade do LLM com dados mais relevantes. 

Com o RAG, o modelo não é ajustado diretamente, mas combinado a sistemas de informações que fornecem bases de dados que podem ser consultadas para a geração de respostas. Embora os modelos fechados sejam projetados para tarefas generalistas, eles também podem ser integrados a dados próprios de uma instituição por meio de técnicas como RAG.  

Este texto preliminar estabelece os fundamentos e princípios gerais para as boas práticas do uso da Inteligência Artificial generativa no âmbito da administração pública federal. Os pontos visam proteger contra vazamentos de dados, garantir a confidencialidade das informações sigilosas, evitar violações de propriedade intelectual, assegurar a segurança de servidores e cidadãos, prevenir danos à reputação da instituição, mitigar viés de modelos automatizados e evitar infrações de direitos autorais. Ao seguir os cuidados no uso da IA no serviço público federal, há um reforço da responsabilidade do servidor juntamente com o compromisso com transparência, ética e inovação. 

Toda solução baseada em IA deve considerar a segurança da informação como prioridade, especialmente quando envolve dados sensíveis ou atividades críticas do Estado. A privacidade dos dados pessoais também deve ser respeitada rigorosamente, conforme os princípios da Lei Geral de Proteção de Dados (LGPD) e as boas práticas estabelecidas por órgãos como a ANPD e a CGU. O compartilhamento inadequado de informações pessoais ou sensíveis com sistemas de IA pode não apenas comprometer a segurança institucional, mas também resultar em responsabilização legal e disciplinar dos agentes envolvidos.  

Outro aspecto essencial é a supervisão humana. Mesmo em sistemas altamente automatizados, a responsabilidade final sobre decisões, ações e interpretações continua sendo do servidor público. A IA deve ser entendida como uma ferramenta de apoio. Ela pode ampliar a capacidade humana de agir com mais agilidade e inteligência, mas nunca substitui o julgamento ou a responsabilidade de quem a utiliza.  

Além dos sistemas institucionais, muitos servidores têm buscado experimentar individualmente ferramentas de IA para melhorar sua produtividade, como na redação de textos, tradução, organização de tarefas ou resumo de conteúdos. Esse uso pode ser positivo, desde que feito com cautela. É fundamental que o servidor não compartilhe dados sensíveis, informações sigilosas ou documentos institucionais com essas plataformas, especialmente quando operam em ambientes externos e não homologados pelo órgão. E, independentemente da ferramenta usada, os conteúdos gerados devem sempre ser analisados criticamente, já que a responsabilidade pelas ações administrativas permanece com o servidor.  

Também é importante lembrar que o uso de IA deve ser feito com propósito claro e justificado. Adotar essa tecnologia apenas por modismo ou sem uma necessidade concreta pode resultar em desperdício de recursos, aumento desnecessário da complexidade e baixa efetividade. Toda iniciativa com IA deve considerar o equilíbrio entre custos e benefícios, avaliando se os ganhos realmente justificam o investimento, o esforço de implantação e os riscos envolvidos. Esses riscos não se limitam a falhas técnicas ou imprecisões. Podem envolver vieses nos dados, decisões injustas, falta de transparência nos resultados e impacto negativo sobre pessoas ou grupos vulneráveis. Quanto maior o nível de automação, maior deve ser o cuidado na definição de regras, na curadoria de dados e na validação contínua do sistema.  

Outro fator relevante é o impacto ambiental associado ao uso de sistemas de IA, especialmente os mais avançados. O treinamento e operação de modelos complexos consomem grandes volumes de água, energia e demandam recursos computacionais significativos. Por isso, também é essencial avaliar a sustentabilidade das soluções desde a fase de planejamento, optando por abordagens mais eficientes sempre que possível.  

Por fim, o desenvolvimento e uso de soluções de IA devem estar alinhados a princípios éticos amplamente reconhecidos. A Recomendação da UNESCO sobre a Ética da Inteligência Artificial estabelece diretrizes para que a adoção dessas tecnologias respeite valores universais e direitos fundamentais. O documento enfatiza a importância da transparência, da proteção à privacidade, da justiça algorítmica, da não discriminação, da inclusão e da explicabilidade das decisões automatizadas. Também reforça que o uso de IA deve ser centrado nas pessoas, contribuindo para o bem-estar coletivo, a equidade e o desenvolvimento sustentável.  

Esses princípios devem servir de base para orientar políticas públicas, regulamentações, desenvolvimento de soluções e capacitação de servidores. Incorporar esses valores desde a concepção dos projetos é essencial para que a IA seja aplicada de forma segura, confiável e compatível com os objetivos do Estado democrático. 

Esta é uma ação do Plano Brasileiro de Inteligência Artificial, por meio do Núcleo de IA do Governo, onde a Secretaria de Governo Digital (SGD) e pelo Serviço Federal de Processamento de Dados (SERPRO) foram responsáveis pela elaboração, com a participação dos demais membros do Núcleo de IA (Casa Civil, MCTI, ENAP, Dataprev) na revisão deste guia.