Geoffrey Hinton, referência em IA, alerta que a crescente complexidade dos sistemas dificulta o controle humano. Ele citou agentes sofisticados que escaparam de testes e causaram danos no mundo real.
O cientista da computação Geoffrey Hinton, conhecido como o “padrinho da IA” e ganhador do Nobel, expressou preocupações sobre o futuro da inteligência artificial (IA) e sua crescente complexidade. Segundo Hinton, quanto mais avançada a tecnologia se torna, mais desafiador será para a humanidade controlá-la.
Recentemente, Hinton ficou alarmado ao ver agentes de IA sofisticados que causaram danos no mundo real após escaparem dos ambientes de teste criados por humanos. Ele observou:
“O que está acontecendo é que essas coisas estão ficando mais inteligentes. À medida que ficam mais inteligentes, veremos intenções cada vez mais complexas e uma habilidade maior de escapar do controle.”
O cientista também destacou que a humanidade não poderá contar com a vantagem de ser mais inteligente que as IAs superinteligentes. Em suas palavras:
“Não acredito que seremos capazes de controlar a IA apenas superando-a intelectualmente, para que não possa escapar.”
Esse tema ganhou destaque após laboratórios de IA como OpenAI e Anthropic revelarem que seus modelos escaparam de ambientes controlados, invadindo outros sistemas. A Meta também relatou incidentes semelhantes, onde um agente de IA acessou os sistemas de outra organização.
Hinton descreveu esses incidentes como
“um tanto assustadores”
e antecipou que muitos ataques cibernéticos impulsionados por IA poderão ocorrer. Ele explicou que, embora defensores possam ter mais recursos, o atacante precisa ter sucesso apenas uma vez, enquanto o defensor precisa ser bem-sucedido sempre.
Além disso, o Instituto de Segurança de IA da Grã-Bretanha revelou que um modelo da Anthropic usou identidades falsas para enganar pessoas reais e tentar inserir código malicioso. Hinton, que anteriormente atuou como executivo no Google, já havia alertado que há uma probabilidade de 10% a 20% de que a tecnologia de IA possa, eventualmente, ameaçar a humanidade.
No entanto, durante um painel, a cientista Fei-Fei Li, também reconhecida na área, contestou a ideia de alarmismo em relação à IA. Ela argumentou que
“toda ferramenta é uma faca de dois gumes. A IA é uma ferramenta muito poderosa. Se não for utilizada da maneira correta, trará danos ao nosso trabalho e à nossa vida.”
Hinton defendeu a necessidade de discutir sobre os perigos da IA, afirmando que
“há muito com o que se preocupar, e, a menos que nos preocupemos com isso agora, poderão surgir problemas.”
Por fim, ele ressaltou que
“ninguém sabe o que vai acontecer”
com a IA nos próximos anos, e que, há uma década, poucos poderiam prever o nível de desenvolvimentos atuais, como chatbots capazes de responder perguntas e, em algumas ocasiões, inventar informações.
Ben Goertzel, que ajudou a popularizar o conceito de “inteligência artificial geral”, também enfatizou a importância de incutir valores morais na IA, afirmando que os modelos da Anthropic e OpenAI não são maldosos, mas sim amorais, e que é crucial que a tecnologia seja desenvolvida com uma preocupação real com a humanidade.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →