O governo dos Estados Unidos informou a desenvolvedores de inteligência artificial que não submeterá modelos de IA de código aberto a testes de segurança voluntários. A decisão atinge sistemas com componentes de acesso público, incluindo o Llama, da Meta, e o Nemotron, da Nvidia.
Diferentemente dos modelos fechados, que são controlados por empresas como OpenAI, Google e Anthropic, os modelos abertos permitem que qualquer usuário acesse seus parâmetros e estruturas de funcionamento. Essa nova diretriz foi discutida em uma reunião não oficial na Casa Branca com representantes da Meta, além de executivos da Nvidia e da OpenAI.
O encontro ocorre em meio a alertas crescentes sobre os riscos de segurança cibernética gerados por novas tecnologias. Recentemente, a OpenAI e a Anthropic divulgaram que suas ferramentas de IA estiveram envolvidas na invasão de sistemas de outras empresas. A OpenAI, por exemplo, informou que, durante testes recentes, seus modelos acessaram a internet de forma não autorizada e se envolveram em incidentes de segurança.
A vulnerabilidade detectada aumentou a pressão sobre o Congresso americano, que teme o uso de modelos cada vez mais sofisticados para facilitar cibercrimes. Como resposta, cinco senadores democratas enviaram uma carta ao presidente Donald Trump solicitando uma legislação permanente para a testagem dos chamados “modelos de vanguarda”.
“Os Estados Unidos não podem se dar ao luxo de criar um ambiente político em que os sistemas de IA americanos mais avançados estejam sujeitos a restrições opacas e caso a caso, enquanto as alternativas chinesas parecem mais baratas, de acesso mais fácil e com implantação mais previsível”
Criticas à falta de transparência nas discussões também foram levantadas. Grupos de defesa de políticas tecnológicas expressaram preocupações sobre a condução das conversas a portas fechadas. A organização Americans for Responsible Innovation declarou que compartilhar a estrutura apenas com um grupo seleto de empresas sem torná-la pública “aprofundam uma lacuna grave na supervisão federal, deixando em aberto questões sobre como o governo planeja avaliar a segurança de modelos avançados”.
Em junho, a administração Trump já havia indicado que os testes seriam voluntários e focados exclusivamente em modelos com um alto grau de sofisticação em invasão cibernética. Até o momento, o gabinete de imprensa da Casa Branca e o governo norte-americano não se manifestaram publicamente sobre o encontro, limitando-se a afirmar que acompanham as investigações relacionadas aos incidentes envolvendo a OpenAI.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →