Os Estados Unidos decidiram, na última sexta-feira, dia 12, proibir o acesso de estrangeiros aos recém-lançados modelos de inteligência artificial da Anthropic, alegando riscos relacionados à segurança nacional. Essa determinação se aplica tanto a indivíduos fora do território americano quanto a funcionários da própria startup. Para atender à ordem, a empresa foi obrigada a desativar os modelos globalmente.
A Anthropic não recebeu detalhes sobre quais seriam os riscos à segurança nacional, mas acredita que a motivação para a ação governamental está relacionada à possibilidade de um jailbreak do modelo Fable 5. Essa técnica envolve o uso de engenharia de prompt ou simulações para fazer com que um bot de IA responda de maneira diferente do que foi programado, permitindo ignorar regras de segurança e princípios éticos.
Em um comunicado, a Anthropic expressou que, embora cumpra a ordem, considera a decisão do governo um mal-entendido. A empresa argumenta que a possibilidade de jailbreak não é um motivo suficiente para impedir o uso da ferramenta por milhões de usuários. "Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada", afirmou.
A startup já havia comunicado ao governo americano sobre a potencial vulnerabilidade, mas criticou a postura adotada. "Acreditamos que o governo tenha a autonomia para proibir implementações arriscadas como parte de um processo legal, com transparência, justo, claro e fundamentado em fatos técnicos. Esta ação não está em conformidade com esses princípios", concluiu a Anthropic.
A ordem para restringir o acesso foi emitida apenas três dias após o lançamento dos modelos, que foram disponibilizados ao público no dia 9 de junho. Os novos sistemas de IA, Fable 5 e Mythos 5, estariam disponíveis gratuitamente por um período de apenas 13 dias. A partir de 22 de junho, os usuários teriam a opção de utilizar os modelos por meio de pagamento em API, sendo cobrados a cada requisição feita.
Essa não é a primeira vez que surgem desavenças entre o governo dos EUA e a Anthropic. Em fevereiro, o governo já havia ordenado que agências parassem de utilizar os modelos de IA da empresa, após a recusa da startup em permitir que as forças armadas do país usassem seus sistemas sem restrições e sem salvaguardas técnicas.
