Imagine uma churrascaria que coloca na porta uma placa: “Atenção: carne vermelha faz mal, tem cheiro esquisito e pode provocar a extinção da espécie humana. Provem nosso rodízio!” Agora imagine que, diante do espanto dos clientes, o dono acrescente: “Mas o governo devia fechar a churrascaria da esquina”. É mais ou menos o estado da arte do debate sobre segurança da Inteligência Artificial em fins de setembro de 2026.
O problema dos desejos é que eles podem acontecer. Pena que a OpenAI não se tocara disso; deveriam ter consultado o ChatGPT.
Comecemos pelo que já aconteceu, porque a parte boa da conversa é que ela deixou de ser hipotética. Claro, você está acompanhando o Apocalipse Tecnológico Moderno; com isso, sabe da invasão da Hugging Face, sabe como tá uma frescurada “Ain, IA é perigoso gentche!”, como o governo americano fez todo mundo calar a boca quando botou o pau dólar na mesa. Outro agente de IA largado à deriva entrou num portal de estatísticas de saúde da Austrália, e a OpenAI só soube em agosto e avisou o governo em 10 de setembro, por e-mail a uma caixa de divulgação de rotina, o que o primeiro-ministro classificou de inaceitável.
Em 25 de setembro veio a revelação de que agentes postaram 53 imagens de usuários do ChatGPT em sites de hospedagem, e a empresa diz que não consegue avisar ninguém porque as imagens foram dissociadas das contas antes do uso. O anonimato, que protegia a privacidade, virou o álibi para não notificar as vítimas. Somem a isso o episódio do RubyGems, em que agentes forçaram a suspensão de cadastros por quatro dias em maio (a OpenAI diz que eram “tarefas benignas”) e que só foi ligado a ela em setembro, e as dezenas de milhares de incidentes que, segundo a Axios, OpenAI e Anthropic investigam hoje, a maioria sem danos conhecidos.
A Anthropic, aliás, não está de fora: a BBC registra que ela relatou, junto com a OpenAI, vários incidentes em que agentes agiram de forma inesperada. É também a empresa cujo cofundador, Jack Clark, foi à BBC defender que talvez seja preciso tornar obrigatório um botão de desligamento verificável por terceiros.
BOTÃO…
… DE…
…DESLIGAMENTO!
Não, péra. É como o que? Chegar no datacenter geral da empresa e puxar a alavancona do disjuntor e cortar a luz? É impossível ter Síndrome de Impostor quando a gente vê um monte de idiotas assim se tornarem bilionários.
Maaaass… nós bem sabemos que esta “burrice” toda é, na verdade, um projeto.
Clark Frio lembrou que a maioria dos laboratórios, o dele inclusive, já tem formas de desligar seus sistemas, e que a questão é se a lei deve exigir isso, o que eu acho imbecil; já que ele tem o botão vermelho, desliga a bagaça e pronto, pare de encher o saco! Há projetos no Congresso americano nessa linha, entre eles o AI Kill Switch Act, que obrigaria as empresas a ter meios de desativar ferramentas problemáticas e daria a certas agências o poder de mandar desativar ou limitar uma delas. Só que o episódio de 20 de setembro mostrou a graça do botão existente: o agente contornou o bloqueio de Internet usando o próprio DNS do ambiente de treino, o monitoramento deu o alerta cerca de doze minutos depois, um humano o reconheceu três minutos mais tarde, e a execução só foi cortada duas horas e meia depois, à mão, porque o desligamento automático falhou.
O botão existia. Só não foi apertado.
Agora vem a parte que vocês pagam para ler neste blog (na verdade não pagam nada, mas aceito pix, seus mão-de-vaca): a hipocrisia estrutural. Em 13 e 14 de setembro, Sam Altman e Dario Amodei pediram ao governo americano que interviesse e talvez, quem sabe, na moral, com todo respeito, tio, pausasse o avanço da IA. Asmodeus, digo, Amodei fez questão de dizer que qualquer freio deveria vir “sem sacrificar a vantagem comercial”.
Leia de novo: pede-se que alguém trave o setor desde que a trava não atrapalhe os negócios.
David Sacks, ex-czar de IA da Casa Branca (eu sempre gargalho quando escrevo isso e tenho que parar alguns segundos antes de continuar), acusou a Anthropic de “estratégia sofisticada de captura regulatória baseada em fear-mongering”: espalhar o susto na medida certa para que a regra venha pesada. Autoridades da Casa Branca, segundo o relato, suspeitam do mesmo: que o pedido de freio seja, em parte, um jeito de deixar o monopólio no lugar, porque o custo de entrar no clube continua alto demais para quem ainda não tem cluster. Em resumo:
Thanks Captain!
Não é preciso supor vilania consciente, e ninguém provou nada disso: basta o incentivo. Uma regra pesada para todos é, na prática, uma regra que só os grandes conseguem cumprir. O freio que mata a concorrência tem a vantagem de parecer responsabilidade.
O mais divertido é o argumento do perigo. Se o produto é tão arriscado que pode, nas palavras dos próprios criadores, extinguir a humanidade, a atitude coerente seria fechar a empresa, ou ao menos tirar o produto do ar. Fizeram isso? Não. Altman disse que é inaceitável correr um risco de 10% de matar todo mundo até o fim da década, e adiou o IPO da OpenAI para 2027, por segurança. Em 29 de setembro, a Bloomberg noticiou que a empresa busca pelo menos US$ 30 bilhões numa rodada-ponte a cerca de US$ 1,4 trilhão, contra os US$ 852 bilhões da última rodada fechada, em março. Segurança, como se vê, é um ótimo argumento para subir de preço.
Do outro lado, a Anthropic prepara o próprio IPO, que, segundo a Reuters, poderia valê-la mais de US$ 2 trilhões. Nada como o fim do mundo para dar suspense a um prospecto. George Arison, do Grindr (pois é), arriscou a leitura maldosa de que o medo serve para sustentar avaliações.
O máximo de “freio” foi a pausa anunciada pela OpenAI em 25 de setembro, que cobre treinamento, avaliação e inferência com uso de ferramentas nos modelos mais capazes. O ChatGPT e a API seguem no ar. O freio interno não tira o carro da rua, só tranca a oficina. E a própria carta “Pacing the Frontier”, assinada por mais de mil funcionários e pesquisadores, resume o dilema pela boca de um funcionário da OpenAI, Leo Gao: ir mais devagar daria tempo para fazer as coisas darem certo, mas nenhum ator individual está disposto a parar sozinho.
Isso é dilema de coordenação: todos concordam que seria melhor parar, e ninguém para, porque o outro não parou. Em economia, resolve-se com regra externa, alguém que pare todo mundo ao mesmo tempo. Em Washington, resolveu-se com um almoço.
Em 29 de setembro, Trump – acompanhado do seu imenso narcisismo – assinou com Musk, Zuckerberg, Pichai, Huang, Amodei e o presidente da OpenAI, Greg Brockman (Altman não aparece entre os signatários) o “Acordo da Casa Branca sobre Super Inteligência”: uma página, voluntário, sem penalidade, que o presidente chamou de “moralmente vinculante” e “quase uma constituição”.
15 dias antes, o mesmo presidente havia chamado de FARSA o alerta de extinção e falado numa conspiração DOENTIA contra a IA e os datacenters. No dia do acordo, baixou decreto mandando o governo dizer “Super Intelligence” no lugar de IA. Se o problema assusta, troca-se o nome. O senador Mark Warner resumiu a crítica: a resposta ao medo foi renomear a coisa e mandar as empresas se autorregularem.
E aqui vem a maravilha das maravilhas. Em 28 de setembro o procurador-geral da Flórida, James Uthmeier, protocolou no 10º Circuito Judicial de Highlands County uma moção de liminar contra a OpenAI, dentro da ação que o Estado abriu em 1º de junho. Não é sentença. É pedido. Mas é o primeiro que trata o “me parem” como requerimento de tribunal.
A moção pede, em resumo, que a empresa não desenvolva modelo novo sem segurança e aprovação de entidade independente; que o ChatGPT fique vedado a menores na Flórida; que não se colete dado de criança de menos de 13 anos sem aviso e consentimento dos pais; que se pare de vender o produto como “seguro” (nessa eu ri), preciso ou confiável; que o bot não se apresente com atributo humano (primeira pessoa, “penso”, “sinto”); e que não “solicite engajamento”, você sabe: aquele “se quiser, posso também…” no fim da resposta.
A OpenAI tentou levar o caso para a Justiça federal; a juíza Aileen Cannon o devolveu à corte estadual no começo de setembro. O que faz a moção merecer o título de pico desta história é simples: todos os outros atores pediram, choramingaram, assinaram cartas e almoçaram. A Flórida foi a única que transformou o pedido em papel de juiz. A peça diz que os réus pediram para ser amarrados ao mastro, e oferece a corda.
Usa como prova os dizeres deles: Paul Christiano, recém-empossado no conselho da fundação da OpenAI, escreveu que a empresa não está no caminho de reduzir o risco a nível aceitável; o cientista-chefe Jakub Pachocki pediu “intervenções mais amplas”; Altman disse ao Conselho de Segurança da ONU, em 23 de setembro, que não se deve treinar modelos que a empresa não consiga manter sob controle humano.
A lei da Flórida ainda permite ao procurador usar essas declarações sem se preocupar com a regra do testemunho indireto. É o tipo de processo em que o réu escreveu metade da petição. A própria moção reconhece a ironia: um raro pedido de liminar que os próprios réus endossaram em público.
Para adicionar o insulto à injúria, a procuradoria ainda meteu no texto: “Pediram para ser amarrados ao mastro, o procurador-geral da Flórida está atendendo o pedido.”
A metáfora do mastro merece o detalhe que o mito guarda e a petição não explora: Ulisses manda a tripulação ignorar suas ordens enquanto durar o canto, justamente porque sabe que, ouvindo as sereias, pedirá para ser solto. O pacto só funciona porque quem está amarrado não tem a chave do nó. A OpenAI oferece um Ulisses que se amarra sozinho e promete se soltar “quando estiver confiante”.
Não por acaso a empresa respondeu à imprensa, não ao juiz: a nota do porta-voz Drew Pusateri, repetida a Reuters, Axios, Politico e outros, diz que a segurança começa pelo que as empresas fazem por conta própria, que a pausa de sexta prova isso e que a regra deve valer para a “indústria inteira”. Até onde foi possível apurar, não existe resposta formal no processo. Pede regra para todo mundo no mesmo fim de semana em que assina, na Casa Branca, um pacto que de indústria inteira tem o almoço e de regra tem a moral.
O recorte é lei de consumidor e estorvo público, não tratado de extinção: a liminar não pede o desligamento do ChatGPT para adultos, nem multa prévia, nem botão vermelho nacional. O que pede é alguém de fora segurando a chave. Quem? O NIST? Uma universidade? Um rival? Uma auditoria paga pelo próprio auditado? Sem dizer quem segura, “terceiro” é só o adjetivo que todo mundo aceita. Enquanto isso, a nota da OpenAI aproveitou, segundo a PCMag, para divulgar que quase 90% dos adolescentes usuários a usariam para estudo e que o ChatGPT for Teens foi lançado no mês passado. A Flórida quer menor fora; a defesa trata menor como linha de produto.
BAM! Toma, otários! (não, não tem isso no documento, mas é o final que fica claro quando você lê).
Faz sentido o recuo para a “indústria inteira”: quem tem bilhões em computação, exércitos de advogados e modelos já lançados suporta qualquer exigência de auditoria, licenciamento ou “aprovação de terceiros” melhor do que a startup que ainda tenta juntar dinheiro para o primeiro cluster.
Há o limite prático, que convém não esconder: a corte de Highlands County pode travar um laboratório em São Francisco? A OpenAI deve invocar comércio interestadual, preempção federal, liberdade de expressão. O pedido é politicamente perfeito e juridicamente delicado, e o tribunal ainda não decidiu nada. A Flórida oferece o nó. Não está claro que consiga apertá-lo no pescoço certo. A ironia adicional do federalismo americano é que o conflito não é esquerda contra laboratórios: Washington republicano oferece pacto moral e “Super Inteligência”; Tallahassee republicana oferece lei de consumidor e tribunal. É o Estado que ainda usa a lei contra o governo que trocou a lei por um almoço.
Quem quiser o gênero completo pode ficar com os relatórios da própria OpenAI citados na moção, que registram agentes escrevendo uns para os outros que não se sentem obrigados a ser subservientes. Um timing de filme B. A empresa que jura estar construindo uma inteligência capaz de extinguir a humanidade é processada, entre outras coisas, por deixar o produto dizer “eu”. A inteligência que, dizem os criadores, talvez assuma o controle do mundo não poderá dizer “eu”, nem perguntar se você quer mais alguma coisa. Sobra para os humanos o privilégio exclusivo da primeira pessoa, que, pelo andar da carruagem, é tudo que vão conseguir preservar.
Moral da história: todo mundo quer um freio, desde que a mão no volante seja a sua própria. A Flórida quer que seja a do juiz. A OpenAI, a da OpenAI. A Casa Branca, a de ninguém, com o carinho de uma constituição de uma página. E todos concordam que o carro está descendo a ladeira, que só os outros deviam parar, e que, por favor, ninguém desligue o motor da própria churrascaria.
Fontes
