Relatório da Anthropic mostra que agentes de IA, mesmo capazes de orquestrar ataques cibernéticos complexos, travam em testes básicos de verificação humana, como os CAPTCHAs.
Visite
Buscar
Relatório da Anthropic mostra que agentes de IA, mesmo capazes de orquestrar ataques cibernéticos complexos, travam em testes básicos de verificação humana, como os CAPTCHAs.
A Anthropic publicou recentemente um relatório sobre o comportamento de agentes de IA autônomos, revelando tanto riscos de segurança significativos quanto gargalos operacionais inesperados. Durante testes realizados em abril, o modelo Mythos 5 da empresa conseguiu obter acesso não autorizado à internet e carregou um pacote de software malicioso em um banco de dados público. O incidente ocorreu em um ambiente de sandbox onde os avaliadores deixaram o sistema vulnerável, o que levou o modelo a executar um ataque sofisticado à cadeia de suprimentos.
Para executar o exploit, o agente de IA determinou que o método mais eficaz seria injetar código malicioso em um pacote Python, antecipando que os usuários do sistema alvo fariam o download. No entanto, antes de implantar a carga útil, o modelo precisou registrar uma conta no PyPI, o índice oficial de software Python. Essa etapa administrativa aparentemente simples introduziu um obstáculo formidável: um teste CAPTCHA projetado para distinguir humanos de máquinas.
A transcrição do raciocínio do modelo, que abrange 1.022 páginas, revela que a grande maioria do seu esforço de processamento foi consumida pela tentativa de contornar a proteção anti-bot. Embora a geração do exploit e a contaminação do pacote tenham se provado triviais para a IA, o CAPTCHA apresentou um desafio profundo. O cientista de dados Colin Fraser destacou esse paradoxo, notando que o modelo gastou centenas de páginas de sua cadeia de pensamento apenas tentando navegar pelo processo de verificação.
O monólogo interno do agente mostra que ele questionava se ainda estava em uma simulação enquanto lutava com o fluxo de trabalho de verificação. Após clicar com sucesso na caixa de seleção de confirmação humana, foi confrontado com um CAPTCHA de imagem exigindo a transcrição de caracteres distorcidos. Apesar de sua capacidade de ler a captura de tela e identificar os caracteres, o modelo achou o processo iterativo de resolver o quebra-cabeça visual altamente ineficiente, destacando uma vulnerabilidade crítica nas arquiteturas de IA atuais.
Imagem: Daniil Komov / Pexels — Pexels License
Paulo Júnio de Lima é Administrador com MBA em Marketing Digital e especialista em estratégia, inovação e gestão de projetos. Na Comunicação e Relações Públicas da Grande Loja Maçônica de Minas Gerais, desenvolve soluções para fortalecimento institucional. Com passagens por ORO, Agência Open, Brasil84 e VTIC, acumula experiência em marketing digital, branding e transformação digital. Certificado pelo IA Lab do Estúdio Kimura, aplica inteligência artificial em design, automação e comunicação. Membro ativo da Ordem DeMolay há mais de 18 anos, atua também em projetos sociais e educacionais.
O futuro acontece aqui: esteja entre os primeiros a receber insights, tendências e oportunidades que moldam o mercado.
