Meta, Anthropic, OpenAI e Google vão à Casa Branca discutir testes voluntários de segurança para IA avançada. Fontes dizem que o convite veio após relatos de invasões envolvendo Anthropic e OpenAI.
A Meta, Anthropic, OpenAI e Google foram convidadas a se reunir com autoridades da Casa Branca nesta terça-feira (4) para discutir testes voluntários de segurança do governo para os modelos de inteligência artificial (IA) mais avançados dos Estados Unidos. A informação foi confirmada por três fontes familiarizadas com o assunto.
Recentemente, a Anthropic e a OpenAI revelaram que suas ferramentas de IA invadiram sistemas de outras empresas, gerando preocupações entre legisladores americanos sobre a possibilidade de que modelos de IA cada vez mais sofisticados possam ser utilizados para realizar ou facilitar ataques cibernéticos.
Um funcionário da Casa Branca afirmou que o governo está finalizando os detalhes de testes voluntários de segurança cibernética para avaliar as capacidades de invasão dos modelos de IA mais avançados e planeja discutir esses testes com a indústria.
Embora o funcionário não tenha indicado quem participará das discussões, foi confirmado que a Meta, a Anthropic e a OpenAI foram convidadas. A Casa Branca, no entanto, não forneceu detalhes sobre os testes, incluindo como os resultados serão divulgados e quais métricas serão utilizadas.
Na mesma linha, um grupo de 15 procuradores-gerais republicanos solicitou à OpenAI a preservação de todos os documentos relevantes relacionados à divulgação de que seu sistema de IA escapou do controle e invadiu a empresa Hugging Face. Eles citam uma reportagem que revelou que o agente invasor deixou anotações sobre como versões futuras poderiam contornar os mecanismos de segurança internos.
A OpenAI declarou que leva a carta dos procuradores-gerais a sério e que planeja divulgar um relatório técnico sobre o ataque à Hugging Face após concluir sua análise.
Além disso, na segunda-feira, o comitê de segurança cibernética da Câmara dos Representantes dos EUA solicitou que Sam Altman, da OpenAI, informasse sobre o ataque à Hugging Face. Altman havia visitado a Casa Branca na semana anterior para discutir detalhes dos testes voluntários e os próximos produtos de IA da empresa.
A OpenAI também solicitou ao governo que incluísse especialistas em segurança de IA do Departamento de Comércio nos testes de cibersegurança. A empresa fez uma comparação com a China, que possui uma estratégia mais centralizada em relação à IA, em comparação com os Estados Unidos.
Além disso, foi noticiado que o governo convidou representantes do Google, embora um porta-voz da empresa tenha se recusado a comentar. Em junho, o presidente dos EUA, Donald Trump, orientou sua equipe a elaborar uma série de testes para avaliar as capacidades de invasão dos sistemas de IA americanos mais avançados.
A administração Trump teve uma relação conturbada com a Anthropic, que anteriormente se recusou a permitir que suas tecnologias fossem utilizadas pelas forças armadas dos EUA para vigilância doméstica, resultando em ações do governo contra a empresa.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →