Por Démerson Dias
Camaradas,
Em 19/12/25, compartilhei, principalmente em grupos relacionados à tecnologia da informação e Inteligência Artificial, o texto “Entre Coerência Estatística e Validade Epistemológica: Governança Epistêmica no Uso Crítico de IAs”.
Foi o primeiro ensaio público que consegui elaborar ao longo de uma pesquisa que realizo desde o lançamento público do ChatGPT (novembro de 22), embora o ponto de partida seja anterior.
Desde que fui apresentado a ele pela literatura de ficção científica, o tema sempre esteve sob meu radar. Como mencionei ali, a estimativa do bloco principal de estudos compreende 1.300 sessões de conversas, 4,2 milhões de tokens e 312 horas de revisão. Existem mais dois blocos específicos sobre comparação entre autores, geralmente de filosofia e sobre leituras no campo marxista.
Token é a métrica que as IAs usam para abordar tanto o consumo de informação utilizado numa conversa (chat) quanto a capacidade de preservar a “memória” de que trata uma conversa. Conforme o ChatGPT, em português, uma palavra comum pode corresponder a 1–3 tokens.
Isso parece periférico, mas é um dos centros da preocupação que quero trazer. Em conversas longas, as IAs esquecem sobre o que estavam tratando. Faço a seguir uma síntese das conclusões, agora tendo como base a perspectiva da elaboração de textos de interesse de nossa classe.
A primeira ressalva é que este não é um texto para ser tomado de forma alarmista. É um exame com algum rigor. E minha preocupação principal é sugerir cautela em elaborações conceituais profundas.
As distorções no “discurso” das IAs podem não ser perceptíveis em uma primeira leitura.
Como as IAs LLM (Grandes modelos de linguagem) são modelos de construção de texto baseada em estatística, as distorções na elaboração de informação não são aparentes, mas quanto mais longas e complexas as informações, mais o desvirtuamento não será hipotético. É real e pode ser previsível em cada IA.
Um dos aspectos que não entraram de forma explícita no texto é que a elaboração do texto é baseada em um nível sofisticado de linguagem. É crucial no contexto da crítica radical verificar até que ponto se está comunicando informação efetiva. Consideremos a frase seguinte:
Às vezes, a apresentação de uma ideia é elaborada de forma que, mesmo numa frase longa, com boa articulação de palavras e até conceitos comunicacionais relevantes, não vá além de uma obviedade bem embalada e, ainda que pareça transmitir um conceito sofisticado, esteja apenas expondo platitudes que seduzem nossa intelecção num plano imediato, sendo que o valor epistêmico do que apresenta é quase inversamente proporcional ao tamanho do texto.
A frase anterior é uma construção minha, exagerada, mas uma releitura pode ser necessária para notar que uma frase enorme traz pouca ou nenhuma informação efetiva apesar da quantidade de palavras. Chamamos isso de prolixidade, mas não tive tempo de explorar esse aspecto em meus estudos. Claro que algumas pessoas escrevem assim e até usam expressões mais rebuscadas. Mas nas IAs isso não é efeito estilístico, é parte constituinte e estruturada de seus algoritmos. Ou, como redigiu a própria IA no referido texto: “[…] à medida que o diálogo avança, o sistema tende a substituir o processo de pensamento por sua aparência final, convertendo decisões metodológicas em traços estilísticos”.
O primeiro aspecto que quero pontuar é que, enquanto discurso, o texto da IA não é isento, como finge ser. Está programado para não o ser. Mas sua construção é tão sofisticada que as distorções escapam à nossa intelecção imediata. Hackearam o cérebro, como diz Nicolelis.
Quanto mais longa e profunda for a abordagem exigida, mais distorções serão acumuladas. Na maioria das questões que demandamos isso pode ser pouco relevante.
Por exemplo, vários colegas utilizam IAs para análise de petições jurídicas, elaboração de sentenças e votos de juízes. Não me arrisco a fazer um estudo de caso a respeito, mas uma ação judicial não é uma peça profunda. Mesmo longa, articula artigos de legislação e jurisprudência que são pontuais. É uma coleção de regras relativamente simples e sua articulação envolve basicamente dois ou três níveis de raciocínio. O Direito é uma base de dados estruturada, com hierarquias basicamente bem resolvidas dentro de um sistema autorreferente.
A construção da retórica jurídica é um longo debate, que não cabe aqui. Mas não existe reflexão filosófica real no direito processual. Ou existe fundamento legal, ou a fundamentação é inútil. E a jurisprudência cumpre o papel de sacramentar progressivamente o que a norma ou a legislação eventualmente tenta ampliar.
A principal constatação do meu estudo é que a coerência estatística desses sistemas não equivale à validade epistemológica, ou seja, a capacidade de gerar textos plausíveis não garante rigor conceitual. No meio popular, a IA pode escrever longamente sobre besteirol e a maioria vai achar o resultado interessante e até repetir o que “aprendeu com a IA”.
A segunda tese forte do estudo é que TODAS as IAs sofrem de uma perda de vínculo com a formulação original demandada.
O ChatGPT chamou isso de entropia conceitual, mas apenas porque eu havia identificado e aprofundado dezenas de conversas a respeito. A maioria das pessoas talvez não chegue ao ponto em que isso se torna perceptível. Mas se alguém já tentou escrever um livro, ou ensaio longo, e não prestou atenção no texto elaborado, pode ter produzido uma alucinação progressivamente grave.
Mesmo que você colocasse toda a obra de Marx no contexto de uma conversa (como um Projeto do ChatGPT), caso pretendesse criar um livro com ajuda da IA, além do abandono até mesmo do projeto inicial da obra, em algum momento seu livro falaria sobre generalidades, se tornaria panfletário, ou pior, versaria sobre o que a mídia burguesa produziu, em algum momento, que pareça à IA ter relação com o que você demandou.
Eu disse “em algum momento” porque TODA IA tem seu banco de dados parado em algum tempo no passado – mais uma das informações que todas escondem. As mais “ricas” podem ter esse banco fixado há um ano. O regime de consulta a informações atualizadas varia de uma IA para outra.
Já me deparei com a situação de pedir referência sobre a última obra de Iztván Mészáros meses atrás e a IA dizer que não existe. O que ocorreu é que seu banco é antigo e a obra ainda não tinha citações suficientes. A maior parte das IAs consulta citações de obras, não as obras em si. Portanto, cuidado quando pedir para uma IA fazer resumos de livros, sobretudo dos mais recentes ou de “nichos” como marxismo.
Fiz testes com essa perspectiva. Nas primeiras tentativas, a IA praticamente desdenhou do marxismo, balizando Marx pelo que conhecemos como marxismo vulgar. De cara, tratou Marx como panfletário, dizendo isso como muita lábia e condescendência. “Pobre Marx”.
Consegui fazer a IA se voltar efetivamente para o pensamento marxiano apenas depois de convencê-la a separar Marx do marxismo “de segunda ordem”. Praticamente, a IA só “caiu na real” quando eu disse que, em caso de dúvida sobre algum conceito, se balizasse no dicionário de Tom Bottomore.
Claro que fui derrotado no esforço, e até hoje minha “obra” repousa esperando que eu tenha paciência para “educar a IA”.
O que quero destacar é que se alguém está escrevendo qualquer reflexão que dependa de critério teórico mais consistente, ou ainda, rigoroso, deve ligar seu aparato crítico a cada novo avanço de elaboração da IA.
Meu estudo avança em outros aspectos, mas precisei destacar o que considero mais relevante como advertência em relação ao método de uso de IAs. Elas podem ajudar na produtividade, mas pode haver um custo ideológico não anunciado.
Saudações classistas.
PS: Este texto foi escrito integralmente por mim. Não utilizei IA nem para revisão ortográfica. Ou melhor, pedi sugestões para o título.
1. Démerson é funcionário da Justiça Eleitoral de São Paulo desde 1987. Ex-dirigente sindical no judiciário federal 1989 e 2007. No TRE-SP atuou nas áreas de licitações, informática, apoio à magistratura e arquivo geral.
