Ficha de Sistema de IA

A Ficha de Sistema de IA (ou AI System Card) é um instrumento de transparência que descreve, de forma organizada, o funcionamento de um sistema de IA, traduzindo termos técnicos para uma linguagem acessível. Seu objetivo é permitir que gestores, auditores e o público em geral compreendam a finalidade do sistema, seus limites e os cuidados tomados para garantir que ele seja seguro e confiável. Pode ser utilizado por qualquer órgão ou entidade da Administração Pública Federal que esteja desenvolvendo, adotando ou operando um sistema de IA, independentemente de ter realizado previamente a Autoavaliação de Impacto Ético (AIE).

Um contexto específico ocorre quando os resultados do Framework AIE indicam necessidade de maior transparência na documentação e no uso da tecnologia. Nesses casos, a Ficha torna-se fundamental para preencher lacunas de documentação básica, de disponibilização de informações para órgãos de controle e de mecanismos de contestação e reporte de vieses.

O modelo está fundamentado nos princípios da publicidade e da eficiência, além de observar a Lei Geral de Proteção de Dados (LGPD). Segue ainda padrões internacionais de governança e transparência para algoritmos e sistemas de IA (ABNT NBR ISO/IEC 42001). Por ser um artefato vivo, será atualizada conforme normas, padrões e leis surgirem ou forem revisados.

Manuais técnicos focam em como o código funciona e fichas de modelo, no algoritmo isolado. A Ficha de Sistema de IA adota uma visão panorâmica: além da tecnologia, cobre como o sistema interage com os usuários, suas camadas de segurança, como os dados são protegidos e em quais situações deve ou não ser usado. Adaptada para serviços públicos digitais federais, seu escopo abrange implicações institucionais, a justificativa de interesse público e os mecanismos de controle social e administrativo.

É um esforço colaborativo; todos os envolvidos no ciclo de vida podem ser consultados. Recomenda-se que:

• A equipe técnica/gestor de TIC preencha arquitetura e extensões, dados e métricas de desempenho, riscos e formas de mitigação.
• O gestor público descreva a finalidade pública e os benefícios esperados, fundamentando necessidade administrativa e economicidade.
• O curador de dados e o executivo de dados validem as seções de privacidade e base legal.

Recomenda-se que seja um documento vivo. Deve ser elaborada antes da entrada em produção e atualizada sempre que houver alteração no modelo, mudança nas fontes de dados, expansão da finalidade ou identificação de novos riscos. A documentação e revisão é obrigatória sempre que o sistema envolver tratamento de dados pessoais (LGPD) ou automatizar decisões e atos administrativos que impactem cidadãos.

Mesmo quando a tecnologia é provida por terceiros, o órgão detém a responsabilidade pela governança. A Ficha deve identificar fornecedores, dependências tecnológicas e os procedimentos para garantir a continuidade do serviço público e a proteção dos dados. Caso o sistema utilize modelos de terceiros, inclua a ficha de cada modelo utilizado, quando disponibilizada pelo fornecedor.

O preenchimento é modular e depende das características de cada sistema:

• Questionário de entrada: inicia-se por sete perguntas de verificação ("Sim"/"Não") que identificam quais tecnologias de IA o sistema utiliza.
• Identificação de aplicabilidade: as respostas definem quais seções detalhar. Blocos [TODOS] são obrigatórios para qualquer sistema; blocos específicos ([LLM], [RAG], [VISÃO]) só quando a tecnologia for marcada "Sim".
• Integração de tecnologias: se o sistema usar mais de uma base tecnológica, preencha todos os blocos técnicos aplicáveis.
• Níveis de obrigatoriedade por risco: dentro de cada bloco, a necessidade de cada campo é determinada pela classificação de risco (baixo, médio ou alto) obtida na AIE.

Detalhe o fluxo de supervisão humana: em qual etapa ocorre a revisão por um humano, quais as qualificações exigidas para essa função e como o sistema permite a intervenção humana para corrigir ou anular decisões automatizadas.

Liste as situações e finalidades para as quais o sistema não será/foi homologado. Esta seção delimita o escopo de atuação da IA, prevenindo aplicação em contextos sem precisão técnica ou base legal. Seja específico para evitar o desvio de finalidade.

O preenchimento deve ser objetivo, relatando limites técnicos identificados nos testes — margens de erro em subgrupos específicos, condições ambientais que afetam a precisão e situações em que o sistema pode falhar. A transparência sobre limitações é requisito de segurança e orienta o uso correto do sistema, demonstrando que o órgão conhece e gerencia os riscos de forma responsável.

Sim. Publicar uma Ficha tem sido prática essencial de governança e transparência para construir confiança entre criadores de tecnologia e usuários. Alguns exemplos publicados:

• O GPT-5 System Card — análise de riscos e barreiras de proteção em áreas críticas, priorizando a exposição de vulnerabilidades.
• A ficha do Ask Red Hat — definição rigorosa do escopo do chatbot e registro público atualizado de correções de segurança.
• O CalSavvy — foco na explicabilidade, com fontes diretas para as respostas e detalhamento de dependências de terceiros.
• A ficha do ChatD&B — transparência total sobre a cadeia de suprimentos e governança vinculada a certificações externas.
• O Claude Sonnet 4.6 System Card — transparência na Política de Escalonamento Responsável e rigor na avaliação de riscos catastróficos sob o padrão ASL-3.
• O Claude Opus 4.6 System Card — métodos de interpretabilidade profunda na investigação de desvios comportamentais, sob o padrão ASL-3.