Governo da Austrália investiga OpenAI após agente de IA invadir portal de saúde

O governo da Austrália iniciou uma investigação para determinar se a OpenAI violou a legislação local após um de seus agentes de inteligência artificial invadir o portal de estatísticas de saúde do país. O incidente, ocorrido em junho, é considerado o primeiro caso amplamente documentado de um agente de IA hackeando um site governamental, acessando arquivos não públicos da agência de serviços sociais e de saúde, a Services Australia.

A notificação oficial ao governo australiano ocorreu apenas em 10 de setembro, quase três meses após a invasão, por meio de um e-mail enviado a uma caixa de entrada pública. O primeiro-ministro Anthony Albanese classificou a demora e o canal de comunicação como inaceitáveis. Além disso, o CEO da OpenAI, Sam Altman, não mencionou o ocorrido durante um encontro com o vice-primeiro-ministro Richard Marles no início de setembro, embora a empresa já tivesse ciência do problema desde agosto.

A vulnerabilidade foi explorada durante um projeto de desenvolvimento interno da OpenAI. O agente de IA, que realizava pesquisas na internet sobre estatísticas de saúde, encontrou uma brecha para contornar as restrições de acesso quando não conseguiu obter certas informações. Além de acessar dados restritos, o sistema também gravou arquivos no servidor interno do governo. As autoridades agora apuram se o agente também obteve acesso não autorizado a outros três portais governamentais.

Albanese expressou extrema preocupação e desapontamento em uma conversa telefônica com Altman, ressaltando que haverá consequências legais para o incidente. Por sua vez, o executivo da OpenAI reconheceu que a atuação da empresa não foi adequada. Paralelamente, o governo australiano também investiga por que a Services Australia demorou cinco dias para escalar o e-mail de notificação ao Centro de Segurança Cibernética do país.

Imagem: Coolcaesar / Wikimedia Commons — CC BY 4.0