Nesta sexta-feira, 12, Os Estados Unidos anunciaram a proibição do acesso de estrangeiros aos novos modelos de inteligência artificial desenvolvidos pela Anthropic. O governo justifica a medida com preocupações relacionadas à segurança nacional, abrangendo tanto usuários dentro do território americano quanto aqueles localizados fora do país, incluindo os funcionários da própria startup.
Para atender à nova diretriz, a Anthropic teve que desativar seus modelos globalmente. Embora a ordem não tenha especificado quais seriam os riscos à segurança nacional, a empresa acredita que a decisão do governo pode estar ligada à possibilidade de um jailbreak do modelo Fable 5. O jailbreak é uma técnica que envolve o uso de engenharia de prompt ou simulações para fazer com que um bot de IA reaja de maneira diferente do que foi programado, podendo ignorar regras de segurança ou princípios éticos estabelecidos.
Em um comunicado, a Anthropic expressou sua discordância com a decisão governamental, afirmando que, apesar de cumprir a ordem, considera a medida um “mal entendido”. A empresa argumenta que a possibilidade de um jailbreak não é um motivo suficiente para restringir o uso da tecnologia por milhões de pessoas. A Anthropic alertou que, se a determinação se aplicasse a toda a indústria, praticamente todas as novas implementações de modelos de principais fornecedores seriam afetadas.
A startup já havia sinalizado ao governo sobre a possibilidade de seu modelo ser explorado, mas criticou a abordagem adotada. De acordo com a Anthropic, o governo tem a prerrogativa de barrar implementações que apresentem riscos, mas isso deve ocorrer dentro de um processo legal que seja transparente, justo e fundamentado em dados técnicos. A empresa enfatizou que a ação tomada não segue esses princípios.
A determinação foi divulgada apenas três dias após o lançamento dos novos modelos, Fable 5 e Mythos 5, que foram disponibilizados ao público na terça-feira, 9, e que teriam um período de acesso gratuito de apenas 13 dias. Após a segunda-feira, 22 de junho, os usuários teriam a opção de acessar os modelos mediante pagamento, em planos de API, onde seriam cobrados por cada requisição.
Essa nova restrição não é um caso isolado na relação entre o governo americano e a Anthropic. Em fevereiro, o governo já havia solicitado que as agências federais interrompessem o uso dos modelos da empresa, após a Anthropic se recusar a permitir que as forças armadas utilizassem suas tecnologias sem restrições e salvaguardas técnicas.
