Amazon e Anthropic: Tensões de segurança com modelos de IA e regulação governamental

Andy Jassy alertou o governo dos EUA sobre falhas nos modelos da Anthropic, gerando bloqueio global e tensões regulatórias no setor de inteligência artificial.

O CEO da Amazon, Andy Jassy, teria sido a fonte primária das preocupações de segurança que levaram o governo dos Estados Unidos a intervir e a Anthropic a restringir o acesso global a dois de seus modelos de inteligência artificial. Segundo o The Wall Street Journal, Jassy alertou o secretário do Tesouro, Scott Bessent, e outras autoridades sobre o uso do modelo Claude Fable 5 por pesquisadores da Amazon para obter informações potencialmente exploráveis em ataques cibernéticos.

A repercussão desses alertas resultou na imposição de um banimento de exportação sobre os modelos Fable 5 e Mythos 5. David Sacks, ex-czar de IA do governo Trump e atual co-presidente do Conselho de Assessores de Ciência e Tecnologia, detalhou os bastidores da crise. Sacks afirmou que um parceiro altamente confiável de ambas as partes identificou uma vulnerabilidade de jailbreak e que a administração exigiu que o CEO da Anthropic, Dario Amodei, corrigisse a falha ou desativasse o modelo, o que teria sido recusado.

A Amazon, que é uma das principais investidoras da Anthropic, confirmou indiretamente seu papel no episódio. Em nota, um porta-voz da empresa ressaltou que não é incomum o governo buscar o aconselhamento da companhia sobre riscos de segurança, embora não compartilhe os detalhes dessas conversas. A empresa também reconheceu que sua própria divisão de nuvem, a AWS, foi impactada pelo corte de acesso aos modelos da Anthropic.

Em resposta às restrições e às críticas, a Anthropic publicou um comunicado minimizando a singularidade das ameaças apontadas. A empresa argumentou que as capacidades que geraram preocupação governamental já estão disponíveis em outros modelos de acesso público. O episódio, no entanto, evidencia a crescente fricção entre o ritmo acelerado do desenvolvimento de IA, as responsabilidades corporativas de segurança e a intervenção regulatória estatal.

Paulo Junio

Paulo Júnio de Lima é Administrador com MBA em Marketing Digital e especialista em estratégia, inovação e gestão de projetos. Na Comunicação e Relações Públicas da Grande Loja Maçônica de Minas Gerais, desenvolve soluções para fortalecimento institucional. Com passagens por ORO, Agência Open, Brasil84 e VTIC, acumula experiência em marketing digital, branding e transformação digital. Certificado pelo IA Lab do Estúdio Kimura, aplica inteligência artificial em design, automação e comunicação. Membro ativo da Ordem DeMolay há mais de 18 anos, atua também em projetos sociais e educacionais.