Quem está no controle? O papel do senso crítico na era da Inteligência Artificial

Sócrates fez das perguntas o centro da filosofia. A cada resposta, uma nova indagação. A cada certeza, um novo exame. Seu método conduzia o interlocutor a revisitar aquilo que julgava saber, revelando contradições e ampliando a compreensão do problema. O conhecimento não surgia da rapidez com que se encontrava uma resposta, mas da disposição de continuar perguntando quando uma resposta já parecia suficiente. Nos diálogos platônicos, esse procedimento aparece associado ao elenchus, método pelo qual afirmações são submetidas a sucessivos questionamentos até que suas inconsistências ou limitações se tornem visíveis (PLATÃO, 2011).

A Inteligência Artificial organiza informações, sintetiza documentos, propõe estratégias e produz respostas em poucos segundos. Hoje é fácil encontrar uma solução plausível para praticamente qualquer problema. Quanto mais convincentes se tornam essas respostas, mais necessário se torna o hábito de interrogá-las.

O maior risco da Inteligência Artificial é, mais que produzir respostas erradas, produzir respostas suficientemente boas para que deixemos de questioná-las.

Daniel Kahneman observou que nossa mente costuma associar fluidez à verdade. Quando uma explicação parece coerente, organizada e fácil de compreender, tendemos a confiar nela com menos resistência, pois nosso cérebro pode interpretar essa facilidade de processamento como um sinal de confiabilidade. Em Rápido e devagar: duas formas de pensar, Kahneman (2012) chama esse fenômeno de “facilidade cognitiva” e mostra como a familiaridade e a fluidez podem influenciar nossos julgamentos.

A Inteligência Artificial explora esse terreno. Quanto melhor escreve, quanto mais elegante organiza um argumento, maior pode ser a sensação de que estamos diante da melhor resposta possível. É nesse momento que o senso crítico se torna indispensável. A aparência de consistência não elimina a necessidade de julgamento.

Percebi isso mais claramente durante a organização de um projeto. Pedi à Inteligência Artificial uma sugestão para estruturar os documentos. A recomendação foi distribuí-los em vários arquivos independentes. A solução parecia lógica, mas havia um critério que a ferramenta desconhecia: a necessidade de localizar rapidamente qualquer informação durante a execução do trabalho. Argumentei que manter tudo em um único documento reduziria o tempo de busca e preservaria a visão do conjunto. A resposta veio em seguida:

"Você tem razão. Considerando esse objetivo, um único documento realmente parece ser a melhor opção."

Só então compreendi que estava usando a Inteligência Artificial da maneira mais próxima da maiêutica socrática. Cada resposta deixava de encerrar a conversa e passava a provocar uma nova pergunta. Não buscava confirmar a primeira solução, mas refiná-la.

Imaginamos que dominar uma ferramenta significava aprender seus comandos. Com os modelos generativos, dominar a ferramenta significa aprender a conversar. Formular melhores perguntas. Acrescentar contexto. Contestar respostas. Introduzir critérios que ela desconhece. Quanto melhor é o diálogo, melhor tende a ser o resultado.

A melhor imagem para compreender essa relação é a cabine de um avião. O copiloto acompanha permanentemente a rota, monitora instrumentos, identifica alternativas e chama atenção para situações que merecem cuidado. Sua presença amplia a segurança do voo, mas não substitui a responsabilidade do comandante. A decisão continua pertencendo a quem responde pelo destino da aeronave.

Com a Inteligência Artificial acontece algo semelhante. Ela amplia nossa capacidade de perceber alternativas, organiza informações em velocidade impressionante e frequentemente aponta caminhos que talvez não tivéssemos considerado. Mas continua dependendo de alguém capaz de estabelecer prioridades, ponderar consequências e decidir qual direção seguir.

Na Administração Pública, essa distinção assume contornos ainda mais relevantes. Um procurador pode utilizar a Inteligência Artificial para localizar precedentes, organizar documentos, comparar argumentos ou elaborar uma primeira versão de uma manifestação. Um gestor pode recorrer à ferramenta para estruturar informações, identificar padrões ou explorar cenários possíveis. Um magistrado pode utilizá-la como apoio à pesquisa. O julgamento, porém, continua sendo indelegável.

É o ser humano quem define os critérios, pondera princípios, assume responsabilidades e responde pelas consequências de cada decisão. A Inteligência Artificial pode acelerar a pesquisa, ampliar perspectivas e qualificar o raciocínio, mas não pode assumir a responsabilidade pela decisão. Essa compreensão está alinhada aos principais marcos internacionais de governança da Inteligência Artificial. A Recomendação da UNESCO sobre a Ética da Inteligência Artificial estabelece que os sistemas de IA não devem deslocar a responsabilidade e a prestação de contas humanas, enquanto os Princípios de Inteligência Artificial da OCDE igualmente enfatizam supervisão humana, transparência e accountability (UNESCO, 2021; OCDE, 2024).

A inovação deixa de ser apenas tecnológica e passa a ser institucional. Organizações inovadoras não apenas incorporam novas ferramentas, mas desenvolvem uma cultura capaz de dialogar criticamente com elas.

A competência mais importante desta nova era não é aprender a formular comandos cada vez mais sofisticados, e sim preservar a capacidade de discordar da primeira resposta, fazer uma nova pergunta, acrescentar um critério que a máquina desconhece e, quando necessário, concluir que a melhor solução ainda depende de algo que nenhuma tecnologia é capaz de oferecer: o discernimento humano. Estamos redescobrindo Sócrates.

A Inteligência Artificial mudou a velocidade das respostas. Ainda assim, continua valendo a antiga lição de Sócrates de que o conhecimento amadurece quando cada resposta nos convida a formular uma pergunta melhor.

Referências

KAHNEMAN, Daniel. Rápido e devagar: duas formas de pensar. Tradução de Cássio de Arantes Leite. Rio de Janeiro: Objetiva, 2012.

OCDE – ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO. OECD AI Principles. Paris: OECD, 2019, atualizados em 2024.

PLATÃO. Apologia de Sócrates. Tradução de André Malta. Porto Alegre: L&PM, 2011.

UNESCO – ORGANIZAÇÃO DAS NAÇÕES UNIDAS PARA A EDUCAÇÃO, A CIÊNCIA E A CULTURA. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021.