OpenAI anuncia modelo com riscos críticos de segurança e setor enfrenta falhas simultâneas

A OpenAI anunciou que seu novo modelo, Astra, será lançado inicialmente em caráter privado. A decisão decorre da identificação de capacidades de cibersegurança que a empresa classifica como risco crítico para o público em geral. O movimento reflete uma postura mais cautelosa das gigantes de inteligência artificial em relação à liberação de ferramentas com potencial ofensivo ou de vulnerabilidade sistêmica.

Paralelamente, o ecossistema de inteligência artificial conversacional enfrentou uma instabilidade inédita. Na última quinta-feira, as plataformas ChatGPT, Claude e Grok sofreram interrupções quase simultâneas. Enquanto a xAI atribuiu a queda do Grok a problemas em um data center em Memphis, as causas das falhas nos sistemas da OpenAI e da Anthropic permanecem indefinidas, levantando questionamentos sobre a resiliência da infraestrutura atual.

No fronte da aplicação prática de IA para segurança pública, a empresa de vigilância Flock Safety está desenvolvendo uma ferramenta de busca baseada em inteligência artificial para forças policiais. Investigadores conseguiram reconstruir o funcionamento da ferramenta a partir do código enviado ao navegador dos oficiais, revelando detalhes sobre sua operação e os limites de seu uso pelas autoridades.

Esses episódios destacam os desafios duplos que o setor de inteligência artificial enfrenta atualmente. De um lado, a necessidade de equilibrar a inovação com a mitigação de riscos cibernéticos críticos. De outro, a exigência de infraestrutura robusta para suportar a demanda massiva e contínua por modelos generativos, cuja interrupção impacta diretamente a operação de negócios e a confiança do mercado.

Imagem: Coolcaesar / Wikimedia Commons — CC BY 4.0