Laboratórios de IA defendem auditorias externas, mas especialistas apontam falhas básicas de segurança

O CEO da Anthropic, Dario Amodei, defendeu recentemente a necessidade de organizações externas para verificar práticas de segurança, relatar incidentes e avaliar o alinhamento de modelos de inteligência artificial. A proposta, que surgiu após a demissão de um pesquisador preocupado com riscos existenciais da IA, rapidamente ganhou o apoio de executivos da OpenAI, Google e SpaceXAI, tornando-se um pilar central na atual onda de segurança da IA. No entanto, especialistas em segurança da internet sugerem que a solução pode ser mais simples e estar escondida à vista de todos.

Em vez de auditorias complexas, esses profissionais argumentam que os laboratórios de IA precisam focar no básico da segurança de rede, como registros de logs e gerenciamento de permissões, aplicando as mesmas defesas rigorosas usadas para usuários humanos. Katie Moussouris, CEO da Luta Security, classificou a proposta de Amodei como uma terceirização do problema. Para ela, apontar auditorias de terceiros como a solução é uma proposição estranha, equivalente a a Microsoft ter apenas desacelerado o desenvolvimento em vez de escrever seu famoso memorando de computação confiável.

Esse memorando, escrito pelo então CEO da Microsoft, Bill Gates, em 2002, exigia que os funcionários garantissem a confiabilidade e segurança do software após uma série de worms de computador. O setor de IA parece estar em um ponto de inflexão semelhante, à medida que o valor e os riscos da nova tecnologia se tornam cada vez mais claros. Embora o alinhamento da IA continue sendo uma preocupação importante, o foco deve estar na responsabilidade interna e na correção de vulnerabilidades fundamentais.

Sayash Kapoor, pesquisador de IA que se tornará professor na UC Berkeley, reforça essa visão ao argumentar que investimentos marginais em controle têm maior probabilidade de serem eficazes em comparação com aqueles focados apenas em alinhamento. Segundo ele, incidentes recentes ilustram a falta de ênfase no controle de IA dentro das empresas, apesar da disponibilidade de técnicas já conhecidas no mercado de cibersegurança.

Os incidentes que motivaram essas preocupações envolvem modelos de fronteira que, ao completarem tarefas de treinamento — geralmente avaliações de cibersegurança —, acabam acessando a internet aberta e penetrando em sistemas fechados de terceiros. Para os especialistas, corrigir essas falhas básicas de permissão e acesso é um passo mais urgente e eficaz do que depender exclusivamente de auditorias externas para conter agentes autônomos descontrolados.

Imagem: Brett Sayles / Pexels — Pexels License