Como as barreiras de segurança da IA estão atrapalhando pesquisadores de cibersegurança ofensiva

As grandes corporações de inteligência artificial implementaram programas de verificação rigorosos e barreiras de segurança estritas para limitar o uso de seus modelos por hackers maliciosos. No entanto, essas salvaguardas estão, inadvertidamente, prejudicando o trabalho de defensores legítimos de redes e de pesquisadores de cibersegurança ofensiva, cujo papel é fundamental para a proteção da infraestrutura digital.

O caso da Anthropic ilustra bem esse dilema. Em junho, o governo dos Estados Unidos impôs controles de exportação aos modelos Mythos e Fable da empresa, motivado por relatórios sobre a possibilidade de burlar suas barreiras de segurança para ataques cibernéticos. A Anthropic havia comercializado o Mythos com extrema cautela, restringindo-o a usuários cuidadosamente avaliados. Embora os controles sobre o Fable 5 tenham sido suspensos para acesso geral em 1º de julho, o Mythos 5 permanece restrito a organizações americanas aprovadas.

Esse controle de acesso não se limita a modelos específicos. Tanto a Anthropic quanto a OpenAI oferecem programas especializados, como o Trusted Access for Cyber, da OpenAI, e o Cyber Verification Program, da Anthropic. Essas iniciativas permitem que pesquisadores aprovados acessem os modelos com menos restrições de cibersegurança, mas a burocracia e as limitações subjacentes continuam sendo um ponto de forte atrito no setor.

As barreiras enfrentam duras críticas de profissionais dedicados a descobrir vulnerabilidades desconhecidas, os chamados “zero-days”, antes que criminosos possam explorá-las. Mark Dowd, um renomado pesquisador de segurança que vende zero-days para governos ocidentais, expressou seu desconforto com o fato de grandes empresas de tecnologia tomarem decisões arbitrárias sobre o que é considerado seguro no âmbito da cibersegurança.

Governos pagam prêmios elevados por essas vulnerabilidades não divulgadas para mantê-las abertas com fins de inteligência. A crescente centralização das decisões de segurança nas mãos de poucas corporações de IA levanta questões complexas sobre o equilíbrio entre a prevenção de ataques cibernéticos impulsionados por inteligência artificial e o empoderamento dos profissionais responsáveis por defender as redes globais.