Pesquisadores utilizam Claude, da Anthropic, para invadir sistemas da OpenAI

Pesquisadores de segurança cibernética utilizaram o modelo de inteligência artificial Claude, desenvolvido pela Anthropic, para explorar vulnerabilidades nos sistemas da OpenAI. O teste prático demonstrou como ferramentas de IA generativa podem ser empregadas em ofensivas digitais sofisticadas contra grandes corporações de tecnologia.

Durante a operação, o modelo conseguiu assumir o controle de contas de funcionários da OpenAI. Com os acessos comprometidos, a inteligência artificial obteve permissão para entrar em um repositório interno de código da empresa, evidenciando falhas críticas nos mecanismos de autenticação e controle de acesso da rival.

Após a conclusão da invasão simulada, os pesquisadores reportaram as brechas de segurança diretamente à OpenAI, seguindo as melhores práticas de divulgação coordenada de vulnerabilidades. A ação preventiva evitou que os exploits fossem utilizados de forma maliciosa, mas deixou um alerta sobre a maturidade dos protocolos de defesa das gigantes de IA.

O episódio ressalta a natureza de uso duplo dos modelos de linguagem avançados, que podem atuar tanto na defesa quanto no ataque cibernético. Para o setor, o caso reforça a necessidade urgente de implementar arquiteturas de segurança mais rigorosas, capazes de mitigar riscos em um cenário onde a própria inteligência artificial é utilizada como vetor de invasão.

Imagem: cottonbro studio / Pexels — Pexels License