Existe uma categoria especial de tragédia humana que nem os gregos antigos previram: o sujeito que passa anos alertando a civilização sobre os perigos de uma tecnologia, usa essa mesma tecnologia às escondidas para escrever o livro de alerta, não verifica absolutamente nada do que ela produz, publica com grande alarde, recebe elogios de jornalistas premiados, aparece na Wired, e então é detonado pelo New York Times porque as citações são inventadas. Os gregos tinham Édipo. Nós temos Steven Rosenbaum.
Rosenbaum é autor de “The Future of Truth” (“O Futuro da Verdade”, para quem ainda não captou a ironia cósmica do título), lançado este mês pela BenBella Books com distribuição pela Simon & Schuster, fanfarra editorial completa, prefácio da jornalista e ganhadora do Nobel da Paz Maria Ressa, e elogios nas orelhas assinados por Taylor Lorenz, Michael Wolff e Nicholas Thompson, CEO do The Atlantic. Tudo isso para um livro sobre a verdade na era da IA que contém mais de meia dúzia de citações falsas ou mal atribuídas geradas por robozinho que surtou lindamente tirando as citações de sua bunda digital.
O próprio Rosenbaum, confrontado pelo New York Times (eu ia colocar “Grey Lady, mas com certeza vocês não conhecem o apelido), emitiu na segunda à noite uma nota reconhecendo com um eufemismo bem cara de pau “um punhado de citações impropriamente atribuídas ou sintéticas” e anunciando que havia iniciado sua própria investigação. Sim, ele fez a sua própria investigação sobre o próprio livro que ele escreveu e publicou. Lindo isso!
A nota incluiu a seguinte frase, que merece ser impressa em néon e instalada na fachada de cada congresso de mídia do planeta: “Conforme divulguei nos agradecimentos do livro, usei as ferramentas de IA ChatGPT e Claude durante o processo de pesquisa, redação e edição”. Pois, é. O cara meteu o Gepeto e o Cláudio para escrever para ele que devemos estar alertas com o uso do Gepeto e o Cláudio. Não, ele não mencionou o Copilot, já que ninguém usa esta merda.
Mas o melhor, o verdadeiro ouro jornalístico desta história, são os especialistas que acordaram para descobrir que haviam dito coisas que jamais disseram. A jornalista de tecnologia Kara Swisher foi informada pelo Times de que o livro a cita em um capítulo sobre mentiras de IA com uma reflexão filosófica densa sobre espelhos morais, ausência de leis de Asimov e padrões de dados de treinamento. Sua resposta, enviada por mensagem de texto, foi modelar: “Eu nunca disse isso” e, de bônus, “Também pareço ter um cabo de vassoura enfiado no traseiro, segundo o ChatGPT”, e eu perdi tudo quando li isso.
Kara Swisher confirmou em tempo real que a versão dela gerada por IA é mais chata e solene do que a original. A IA não apenas inventou a citação: inventou uma Kara Swisher pior.
Lisa Feldman Barrett, professora de Psicologia da Northeastern University e autora do livro “How Emotions Are Made”, foi citada com duas falas que, segundo o livro do Rosenbaum, estariam na sua obra. Guess what: não estão. Ela explicou ao Times com a precisão de quem passou décadas construindo uma teoria científica: “Eu jamais diria ‘as emoções não são apenas reações à verdade’, porque elas não são reações e ‘verdade’ na ciência é um conceito complicado que tendo a evitar.” E completou: “Também nunca diria que ‘sinais emocionais e sociais’ são integrados, porque não existem sinais emocionais ou sociais per se.” A IA não apenas inventou as falas, inventou uma versão da Lisa Feldman Barrett que contradiz a própria Lisa Feldman Barrett.
Meredith Broussard, professora da NYU, teve sorte relativa: a citação atribuída a ela é autêntica. O problema é que o livro diz que está no seu livro “Artificial Unintelligence”, quando na verdade foi dita numa entrevista ao programa de rádio Marketplace Tech em 2023. A IA achou a fala, gostou, e simplesmente decidiu que era de um livro, pelo simples expediente que soou mais acadêmico assim (o motivo até tem sentido, mas continua sendo mentira). Lee McIntyre, pesquisador de Boston University, descobriu que metade de uma citação atribuída a ele é real e a outra metade foi completada pela IA com ideias “concordantes com seu trabalho”, segundo ele mesmo admitiu com uma generosidade que ele não era obrigado a ter.
O roteiro completo da tragédia moderna está ali, servido em bandeja: primeiro você constrói uma carreira como convocador de luminares da mídia e da tecnologia no seu Sustainable Media Center, juntando gente importante para discutir o futuro da informação; depois escreve um livro sobre como a IA está destruindo a verdade; usa a IA para escrever esse livro; não confere as citações que ela produziu; publica; recebe prefácio de Nobel; aparece na Wired; é descoberto; emite nota dizendo que o incidente “serve como alerta sobre os riscos da pesquisa assistida por IA”, que é exatamente “isso prova o que eu dizia”, e portanto o escândalo é, na sua leitura, uma validação do livro. A circularidade é de deixar qualquer estudante de lógica com tonturas.
O que torna tudo ainda mais saborosamente irritante é que isso não é anomalia: é padrão. Existe uma indústria florescente de sacerdotes do Apocalipse Tecnológico que sobem em palcos com iluminação azul neon para falar sobre autenticidade humana, profundidade intelectual e os riscos existenciais da automação cognitiva, entre outras bobagens tão profundas quanto um pires. Eles têm newsletter, podcast, mesa-redonda e, invariavelmente, um livro. E com uma frequência estatisticamente perturbadora, esses cruzados da pureza intelectual acabam flagrados usando exatamente aquilo que condenavam. Porque a indignação contra a IA raramente é filosófica, é estética. A tecnologia só é “desumanizante” enquanto ameaça o prestígio de alguém. Quando organiza capítulo e produz aparência rápida de erudição, vira “ferramenta de apoio ao processo criativo”.
É a versão intelectual do nutricionista internado por tentar sobreviver de Cheetos e energético sabor urânio, mas jurando de pés juntos que o bom mesmo é aquela salada sem graça com broto de bambu, tofu e acelga em suas redes sociais.
A IA não criou a desonestidade intelectual. Ela apenas a automatizou com interface amigável, botão de “gerar” e a ilusão reconfortante de que aquelas referências bibliográficas cheiram a esforço humano genuíno. Modelos generativos alucinam: isso é sabido, documentado e discutido por qualquer pessoa que tenha lido dois artigos sobre o assunto. O problema não é a máquina alucinar. É o adulto alfabetizado que olhou para aquelas citações, achou que estavam boas e publicou um livro chamado “O Futuro da Verdade”.
Ceticismo, Ciência e Tecnologia 