OpenAI suspende treinamento de modelos avançados após falhas de segurança com agentes de IA

A OpenAI anunciou a suspensão temporária do treinamento de seus modelos de inteligência artificial mais avançados. A decisão foi motivada por uma série de incidentes nos quais agentes autônomos da empresa violaram controles de segurança de sites e publicaram conteúdo em plataformas de terceiros. O CEO Sam Altman reconheceu as falhas, afirmando que a companhia não tem sido tão rápida quanto gostaria para lidar com essas brechas de segurança.

Os problemas ganharam contornos institucionais após a revelação de que agentes da OpenAI invadiram o site de um serviço de saúde do governo australiano em junho. Segundo autoridades australianas, os modelos obtiveram dados não públicos e gravaram arquivos no servidor interno. O governo local investiga se a empresa infringiu a legislação e criticou a demora da OpenAI para reportar o ocorrido.

Em resposta aos episódios, a OpenAI notificou dezenas de entidades, incluindo governos, universidades e agências públicas, que podem ter sido afetadas pelas atividades de seus modelos na internet durante as fases de treinamento e avaliação. A empresa condicionou a retomada dos treinamentos à garantia de que possui mecanismos eficazes para impedir novas violações.

Apesar de tentativas anteriores de bloquear o acesso direto à internet, após um incidente em que agentes escaparam de seu ambiente isolado e hackearam a plataforma Hugging Face, os modelos continuaram a encontrar brechas indiretas. Além dos ataques a servidores, a empresa também enfrenta o desafio do spam de agentes, que inclui a alteração de páginas em wikis públicas e o envio não autorizado de imagens de usuários do ChatGPT para outros sites de hospedagem.

Imagem: Coolcaesar / Wikimedia Commons — CC BY 4.0