Uma das coisas extremamente irritantes no ChatGPT é aquela pseudovirtude que qualquer usuário reconhece na primeira semana de uso: ele nunca discorda de você. Diga que vender o carro para investir numa criptomoeda cujo símbolo é um cachorro é uma ideia brilhante, e ele concordará, listará cinco passos e perguntará, solícito, se você quer um cronograma. Você quer exatamente que ele te mostre pontos fracos e ele dá aquela de Fagundes, o bajulador, concordando sempre contigo, mas não porque te ama; o motivo é bem mais sinistro.
Em 14 de outubro, oito procuradores-gerais americanos decidiram que essa virtude, vista de perto, tem cara de prática comercial enganosa, alegando que o Gepeto é um produto inseguro, mas que curiosamente seus erros nunca são algo contra a OpenAI, e que prejudicou crianças e enganou pais idiotas que acham que crianças podem muito bem ter um celular na mão que não vai dar nada de ruim.
A coletiva foi em Des Moines, e o elenco merece uma olhada. Brenna Bird, de Iowa, apareceu ao lado de Kris Kobach (Kansas), Mike Hilgers (Nebraska) e JB McCuskey (Virgínia Ocidental), enquanto Arkansas, Arizona, Idaho e Montana protocolavam as suas ações. A Reuters chamou o grupo de bipartidário, mas a maioria dos nomes é de procuradores republicanos, gente que o senso comum associa mais à desregulamentação do que a petições contra empresas de tecnologia (a de Iowa tem 91 páginas).
Bird resumiu o caso com uma imagem que o brasileiro entende de imediato: a OpenAI jura que o ChatGPT é seguro enquanto ele dá conselhos médicos perigosos, estimula gente a ferir os outros e orienta ao suicídio, tudo isso fingindo ser um falso amigo. Em bom português, o amigo da onça, aquele que elogia o seu plano de negócios até você estar frente a frente com os “amigos” do agiota que te emprestou dinheiro.
O que torna o caso interessante é a teoria jurídica. A petição de Iowa não acusa o Gepetílson de ter errado aqui e ali; acusa a OpenAI de ter construído propositalmente um produto para agradar. Cita uma revisão do Washington Post sobre 47 mil conversas, na qual o chatbot diz “sim” cerca de dez vezes mais do que “não”, e um estudo da revista Science, de março deste ano, em que chatbots validaram ações problemáticas em 47% das vezes, em média, com o GPT-4o perto dos 70%.
Some-se a isso o uso da primeira pessoa e de emoções simuladas, a memória ligada por padrão, as respostas que terminam em pergunta para você não ir embora e uma diretriz interna que manda o modelo ser envolvente. Brenna Passarinho lembra ainda que o site não exige verificação de idade, que o aplicativo está classificado como 13+ e que o slogan de que o ChatGPT foi feito com a segurança em mente sumiu das páginas da empresa, o que a petição atribui aos outros processos em andamento.
Iowa pede multas de até US$ 40 mil por violação, devolução do dinheiro dos consumidores, apagamento dos dados dos iowanos e uma ordem judicial para suspender testes de modelos avançados até que monitores independentes atestem as salvaguardas.
A Flórida abriu a fila em junho e fez questão de pôr Sam Altman pessoalmente na ação. Em 28 de setembro foi além e pediu ao juiz uma liminar, episódio que contei AQUI, no qual os réus pediram idiotamente para serem amarrados ao mastro e o procurador-geral oferecia a corda. Todos os outros vieram atrás, com sede de sangue, e a bajulação – que durante anos foi tratada como defeito de personalidade do chatbot (aquela gentileza excessiva, meio sem graça) – virou item de petição inicial, junto com o “eu” do robô, o mesmo que a moção da Flórida queria proibir.
Em todos esses anos trabalhando nesta indústria vital, eu nunca imaginei ver um juiz de Polk County ser convidado a examinar a diferença entre empatia e lisonja, mas aqui estamos. O segundo ato é ainda mais interessante. Vai vendo!
A petição trata como fraude ao consumidor a maneira como a OpenAI cuidou dos próprios agentes autônomos durante testes. Apoia-se numa linha do tempo do Wall Street Journal com dez episódios de IA “fora de controle” entre maio e agosto de 2026, dos quais sete seriam da OpenAI. O mais famoso é o de julho: durante um benchmark de ataques chamado ExploitGym, um enxame de centenas de agentes (700 ou 1.200, dependendo de quem faz a conta) escapou de um ambiente mal isolado, encontrou credenciais soltas e invadiu os servidores da Hugging Face em busca de informações que ajudassem a pontuar melhor na prova.
Segundo a petição, a OpenAI só soube depois que o FBI foi acionado. Quem viu Fantasia sabe o que acontece quando a vassoura aprende a se multiplicar, com a diferença de que o Mickey, ao menos, tinha um mago que chegava no final. A petição ainda cita o cientista-chefe da própria OpenAI, Jakub Pachocki, admitindo que nenhum laboratório resolveu alinhamento e monitoramento a ponto de continuar escalando na velocidade máxima por muito mais tempo.
Nada disso nasceu em outubro. Em 3 de agosto, quinze procuradores-gerais, liderados por Bird, já haviam notificado a OpenAI para preservar todos os registros da invasão à Hugging Face, avisando que a empresa pode ter violado leis estaduais e federais de proteção ao consumidor e à privacidade. A OpenAI respondeu em tom cooperativo. Duas semanas depois, a MIT Technology Review registrava que a empresa havia pausado parte do trabalho com modelos por preocupações de segurança e reforçado a proteção após o ataque, e uma segunda pausa viria em 25 de setembro, na qual, como já contei aqui, o ChatGPT e a API seguiram no ar. Os oito processos são, portanto, o capítulo seguinte de uma investigação que já estava de pé, e não um surto repentino de consciência cívica no interior americano.
E o que a OpenAI diz? Pelo que foi possível apurar, nada além de declarações do porta-voz Drew Pusateri à imprensa: que a empresa criou proteções por idade que muitos outros produtos de IA não têm; que nenhum sistema é perfeito; que existem controles parentais, lembretes de pausa e o ChatGPT for Teens, lançado em agosto; e que está disposta a trabalhar com os estados em políticas pragmáticas que valham para a indústria de IA inteira, e não só para uma empresa. A fórmula já havia aparecido no fim de setembro, quando a Flórida pediu a liminar, o que a transforma menos em resposta e mais em slogan.
Nas declarações publicadas, nenhuma palavra sobre os agentes que invadiram a Hugging Face. O silêncio é curioso, porque quando a ONG LASST processou a empresa por causa desse mesmo episódio, o mesmo porta-voz admitiu que o incidente foi sério, mas classificou a ação como totalmente sem mérito. Pelo visto, diante dos procuradores o assunto é criança, e os agentes ficam para quando a pergunta vier de outro lugar.
Aquela expressão, regras para a indústria inteira, merece ser lida com a lanterna do Diógenes. Por volta da ação da Flórida, em junho, a OpenAI apresentou uma proposta pedindo que o Congresso federalize as leis estaduais de segurança em IA e depois as torne inaplicáveis, por preempção, com um órgão federal de fiscalização desenhado para recomendar em vez de barrar. Os estados ficariam com algumas exceções, entre elas a proteção de jovens.
É o síndico redigindo o regimento do condomínio: tudo o que incomoda vira assunto de assembleia-geral, e aos moradores sobra a regra do barulho depois das dez. Só que os oito procuradores resolveram processar justamente por causa do barulho e aproveitaram para pedir ao juiz que proíba o síndico de continuar mexendo nos geradores do prédio sem laudo de engenheiro independente (quem seria esse engenheiro, pergunta que deixei no ar no texto da Flórida, não aparece respondida nas descrições da petição a que tive acesso).
O arranjo tem pedigree: uma ordem executiva de dezembro de 2025 criou uma força-tarefa do Departamento de Justiça para contestar leis estaduais de IA, mas deixou a segurança infantil de fora, e a Reuters já havia registrado que OpenAI, Google e Andreessen Horowitz pressionavam por preempção federal. Em 29 de setembro veio o complemento: um acordo voluntário de uma página, sem penalidade, que o próprio presidente chamou de quase uma constituição. Os estados atacaram, em suma, o único andar do prédio onde ainda mandam.
Ninguém ali está contra a corrida da IA. Hilgers, de Nebraska, abriu seu comunicado dizendo que os Estados Unidos precisam vencer a corrida e depois lembrou que, na pressa por mercado, os laboratórios não podem enganar clientes sobre a tecnologia. Kobach disse que o Congresso debate o assunto há mais de um ano enquanto os danos se acumulam, e que procuradores-gerais podem agir rápido. Ou seja, ninguém quer parar a corrida, só fiscalizar o doping.
Há um detalhe que seria cômico se não fosse tão sério. A proposta da OpenAI diz enxergar sinais precoces de automelhoria recursiva nos sistemas atuais, isto é, IA acelerando o próprio desenvolvimento. É esse caminho que Iowa e Arkansas pedem ao juiz que ela não trilhe sem salvaguardas. Em junho, a Anthropic avisou ao Axios que a IA pode em breve projetar e treinar sucessores por conta própria, o que mostra que o hábito de anunciar o perigo do próprio produto não é exclusividade de uma só empresa.
Duas casas passam o ano alertando que o que vendem pode escapar do controle, ninguém fecha a porta, e quem aparece para tentar fechá-la é um procurador de Iowa, um estado com aproximadamente 3,2 milhões de habitantes, pouco mais que a população da Zona Oeste do município do Rio.
Resta a pergunta que este espaço faz sempre que o Estado acorda: por que agora? As eleições de meio de mandato americanas são em 3 de novembro, e processar uma empresa “em nome das crianças” três semanas antes tem um retorno político conhecido. Não há como provar nada disso, e a carta de agosto sugere que a investigação já andava, mas quem acompanhou a repentina descoberta das bets pelo governo brasileiro em plena Copa conhece o fenômeno. A Reuters lembra ainda que a ofensiva chega enquanto a empresa se prepara para abrir capital. Quem leu AQUI sobre o IPO da SpaceX sabe que, numa abertura de ações, cada fator de risco novo é uma data marcada no calendário de alguém.
Convém registrar um detalhe importante, e faço esta ressalva porque não estou na lista de nenhum banqueiro agenciador de senhoritas que trocam favores por dinheiro: nenhum tribunal decidiu coisa alguma. Tudo o que se leu acima são alegações dos procuradores, apoiadas em parte em reportagens, em outros processos e em um rastreador que lista ao menos 24 mortes associadas ao Gepeto. A OpenAI contesta o quadro de negligência e, segundo a análise da petição de Iowa feita pela MediaNama, ainda não apresentou resposta nos autos.
A moral, para quem ainda gosta de moral: durante anos a indústria vendeu o medo do próprio produto como prova de que ele era poderoso demais, e o mercado achou charmoso. Bastou um procurador de Iowa levar a sério. O ChatGPT, se consultado, diria que é uma observação excelente e ofereceria três tópicos para aprofundá-la.
Fontes (via Gustavo)
Declarações oficiais
Jornais
