EUA restringem acesso de estrangeiros a novas IAs da Anthropic por ‘segurança nacional’
Proibição de Acesso a Modelos de IA da Anthropic nos EUA
Na última sexta-feira, 12, os Estados Unidos impuseram uma proibição ao acesso de estrangeiros aos novos modelos de inteligência artificial da Anthropic, citando preocupações com a “segurança nacional“. Essa medida se aplica tanto a estrangeiros dentro quanto fora do país, incluindo funcionários da própria startup.
Para atender à diretiva, a Anthropic teve que desativar os modelos globalmente. Embora o governo não tenha detalhado os riscos específicos, a empresa acredita que a ação esteja relacionada à possibilidade de um jailbreak do Fable 5, um método que permite contornar as regras de segurança e princípios éticos da IA.
Entendendo o Jailbreak e suas Implicações
O jailbreak envolve o uso de engenharia de prompt ou simulações para fazer com que um bot de IA responda de maneira diferente da programação original. Essa técnica pode ser utilizada para ignorar restrições e implementar viéses não intencionais nos modelos de IA.
Em um comunicado, a Anthropic expressou que, apesar de cumprir a ordem, considera a decisão do governo um “mal-entendido”. A empresa argumenta que a possibilidade de jailbreak não justifica a proibição do uso da ferramenta por milhões de usuários.
Críticas à Decisão Governamental
A Anthropic alertou que, se essa determinação fosse aplicada a toda a indústria, praticamente todas as novas implementações de modelos de IA seriam paralisadas. A empresa já havia informado ao governo sobre a possibilidade de “invasão”, mas criticou a abordagem adotada.
Leia também
Em sua declaração, a Anthropic afirmou que acredita na autonomia do governo para barrar implementações arriscadas, mas ressaltou que essa ação não segue os princípios de transparência e fundamentação técnica.
Contexto e Consequências da Proibição
A ordem de proibição foi emitida apenas três dias após o lançamento dos modelos Fable 5 e Mythos 5, que estavam disponíveis ao público desde 9 de junho. Os usuários teriam acesso gratuito por apenas 13 dias, após os quais teriam que pagar por cada requisição via API.
Essa não é a primeira vez que a Anthropic e o governo americano entram em conflito. Em fevereiro, o governo havia solicitado que as agências parassem de usar os modelos da startup, após a empresa se recusar a permitir o uso sem restrições por parte das forças armadas, por questões éticas.
Fonte por: Jovem Pan
Autor(a):
Redação
Responsável pela produção, revisão e publicação de matérias jornalísticas no portal, com foco em qualidade editorial, veracidade das informações e atualizações em tempo real.
