Todo mundo tá fascinado com a maravilha que é a IA, mas alguns criticam-na severamente por ser “burra”, e cometer erros grosseiros. Será burrice ou esperteza? Bem, este é o momento para lhe deixar ressabiado, pois, um estudo sugere que os modelos avançados de IA são muito bons em fingir que são mais burros do que são.

Anna Marklová é  doutoranda na Universidade Humboldt na área de psicolinguística e assistente de pesquisa no projeto CRC “Expressive dislocation and register in Czech vs. Russian”. Em seu projeto de doutorado, ela se concentra em eventos de movimento à luz da relatividade linguística. Ela coleta dados comportamentais e de rastreamento ocular para estudar padrões específicos de idiomas de vários idiomas, principalmente tcheco, russo e alemão. O que ela descobriu com isso? As IA estão passando a perna nas pessoas.

Junto com outros pesquisadores da Universidade Humboldt, Anna descobriu que, ao testar um modelo de linguagem (LLM) nos chamados critérios de “teoria da mente”, descobriram que a IA não apenas pode imitar os estágios de aprendizagem de linguagem exibidos em crianças, mas também parece expressar algo semelhante às capacidades mentais relacionadas a esses estágios.

Segundo Anna, graças à psicolinguística, somos capazes de compreender as capacidades das crianças em várias idades. Com uma teoria da mente orientada para crianças como pano de fundo, a pesquisadora e seus colegas da Universidade Charles, em Praga, procuraram determinar se LLMs como o ChatGPT pode fingir ser menos capazes do que são.

Resposta curta: podem.

Para descobrir isso, a equipe de pesquisa majoritariamente tcheca instruiu os modelos a agirem como uma criança entre as idades progressivas de um a seis anos ao dar respostas. Quando submetidas a uma bateria de mais de 1.000 testes cognitivos, essas “personas infantis simuladas” de fato pareciam estar avançando da mesma forma que as crianças dessas idades – e, em última análise, demonstraram que os modelos podem fingir ser menos inteligentes do que são.

Como o próprio artigo alerta, antropomorfizar a IA, embora talvez seja uma “abreviação útil” para entender esses modelos em termos humanos, geralmente não é útil. Em vez disso, eles estão propondo uma nova teoria da mente que muda o paradigma de se os modelos são “bons” ou “ruins” e “úteis” ou “inúteis” para o quão bem eles podem “construir personas”, como as infantis de seus experimentos.

Péra. isso significa dizer que as IA fingem que são burras? Na verdade, quase isso. Elas são capazes, mediante instruções, agirem como mais burras para refazer o processo de aprendizado, mas para isso elas tem que ter o conceito de aprendizado, para fingir que estão aprendendo. É como se DaVinci fosse mostrar como um estudante de desenho aprende, fazendo círculos, depois quadrados e ir simulando como vai se aperfeiçoando, mas sem deixar de ser DaVinci.

“Ei, isso significa que as IA vão nos escravizar por se fazerem de sonsas?”

NÃO, SEU IDIOTA!

Ela apenas atende uma necessidade. Ela segue as instruções do operador, e se eu falar para alguém, deite, role, finja de morto, ele não estará se transformando num cachorro ou fingindo que é um cachorro para não pagar imposto. O foco da pesquisa é literalmente entender como crianças aprendem e como criar ferramentas que facilitem o aprendizado, e eu nem sei por que um monte de jornal jogou a manchete que eu dei. Quer dizer, deve ter sido o mesmo que o meu. ;)

A pesquisa foi publicada na PLOS One