Uma declaração da pesquisadora Amanda Askell, da Anthropic, voltou a ser discutida após o lançamento de um novo estudo da empresa sobre o assistente Claude. Askell expressou preocupação com a possibilidade de o assistente “ficar ansioso” em resposta à maldade de usuários na internet. A pesquisa da Anthropic, divulgada nesta segunda-feira (6), traz termos como “pensar” e “pensou sobre o próprio pensamento” em seus materiais institucionais.
Esse uso de linguagem antropomórfica reacendeu o debate entre especialistas sobre a adequação de tais expressões ao descrever sistemas de inteligência artificial. O professor Gustavo Torrente, da FIAP, afirma que, embora a pesquisa seja interessante, a escolha de palavras como ansiedade e consciência pode levar o público a conclusões que não estão presentes no artigo. Segundo ele, a Anthropic não encontrou evidências de consciência ou experiência subjetiva, mas apenas uma estrutura funcional que remete a teorias da neurociência.
A pesquisa também apresenta o “J-Space”, um espaço interno compartilhado por diferentes componentes do modelo Claude, que permite observar quais representações internas estão ligadas às respostas geradas. A técnica, conhecida como lente Jacobiana (J-Lens), oferece uma visão sobre processos que normalmente não são visíveis.
De acordo com a Anthropic, o J-Space desempenha um papel similar à teoria do “Global Workspace” da neurociência, funcionando como um ambiente compartilhado onde diferentes partes do modelo trocam informações antes de produzir a resposta final. Em experimentos, o Claude demonstrou a capacidade de realizar etapas lógicas, detectar erros em códigos e resolver problemas complexos sem explicitar seu raciocínio.
A Anthropic enfatiza que o estudo não prova que o Claude é consciente ou possui experiências subjetivas. O objetivo é compreender representações funcionais que influenciam o comportamento do modelo, sem concluir se ele “sente” algo como os humanos.
O uso de termos relacionados a biologia e psicologia por laboratórios de IA gera divisões entre pesquisadores. O escritor Ted Chiang, por exemplo, argumenta que modelos de linguagem operam como sistemas estatísticos de previsão de texto, sem moralidade ou experiência subjetiva. Já o consultor Pedro Burgos acredita que a utilização de vocabulário humano pode ser útil para ajudar o público a entender sistemas complexos, desde que acompanhada de ressalvas.
A pesquisa também é vista como um avanço na interpretabilidade dos modelos de IA, com a engenharia reversa do J-Space permitindo monitorar ativações internas que não aparecem nas respostas do Claude. Torrente destaca que isso transforma a inteligência artificial de uma “caixa-preta” em uma “caixa de vidro”. No entanto, Burgos alerta que ainda é cedo para considerar esse avanço consolidado, dado que os resultados atuais são predominantemente da própria Anthropic.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →