Segundo a Associated Press, há indícios de que a matança na escola primária Shajareh Tayyebeh, em Minab, resultou de dados de inteligência desatualizados dos EUA sobre a Guarda Revolucionária. Não será surpresa se vier à tona que a seleção incompetente de alvo e o assassinato de 165 pessoas –na maioria crianças– resultaram do uso de inteligência artificial (IA).

Vai saber se a porta-voz Karoline Leavitt também não usará IA para inspirar as declarações tergiversantes e agressivas dirigidas a jornalistas que questionam desatinos desse ataque ilegal a um país soberano –por sangrenta que seja a teocracia dos aiatolás. Donald Trump atribuiu a míssil do próprio Irã as mortes das meninas...

Há muitas outras maneiras indignas de enganar, com ou sem IA, e seu abuso suscita preocupação quanto ao impacto que pode ter na ciência. Vários periódicos já exigem transparência de autores quanto a auxílio da ferramenta para analisar dados e redigir artigos, mas o remédio parece fraco contra a pandemia de falcatruas.

Antes da IA a literatura científica já estava contaminada por autores estelionatários, periódicos fantasmas e fábricas de trabalhos falsos ("paper mills"). Imagine agora que se torna trivial produzi-los em série vertiginosa. A confiabilidade do sistema de publicação, antes mal e mal garantida pela revisão de pares ("peer review"), vai de vez para o saco.

Há impactos mais sutis à vista. Um trabalho no periódico Trends in Cognitive Sciences alerta para a homogeneização da comunicação científica. Como os grandes modelos de linguagem (LLMs) na base da IA são treinados pela estatística da coocorrência de palavras, textos produzidos com eles acabarão por erradicar a diversidade.

"LLMs tendem a reproduzir perspectivas e estilos de escrita convencionais, validados institucionalmente, que espelham os de homens ocidentais, liberais, de alta renda e com alto nível de escolaridade", diz o artigo. Assim se cria "uma ilusão de consenso que define essas normas como padrão de clareza ou inteligência, ao mesmo tempo em que se silenciam visões de mundo alternativas e formas de expressão culturalmente fundamentadas".

Nem venham com acusações de identitarismo ou de ludismo. John Stuart Mill, ícone do liberalismo, já incensava em 1859 o papel da diversidade no pensamento, como citam os autores do artigo da Universidade do Sul da Califórnia em Los Angeles:

"A única maneira pela qual um ser humano pode se aproximar do conhecimento completo de um assunto é ouvindo o que pode ser dito sobre ele por pessoas de todas as opiniões e estudando todas as maneiras pelas quais ele pode ser analisado por todos os tipos de mente".

Análises de milhares de textos gerados por IA indicam a reificação do modo de pensar e encarar o mundo predominante nas sociedades brancas, educadas, industrializadas, ricas e democráticas (na sigla em inglês, WEIRD, que também significa "esquisito"). Se depender dos LLMs, estaria fadada à extinção a incipiente influência de cosmovisões indígenas, por exemplo, nas ciências contemporâneas, não só nas humanas.

Pense nisso, com a própria cabeça, entre um bombardeio e outro da desinteligência pós-liberal.