OpenAI lança Astra, seu novo e controverso modelo de inteligência artificial

A OpenAI apresentou o Astra, seu mais recente modelo de inteligência artificial, descrito pela empresa como uma nova fronteira no uso de computadores e navegadores. O modelo está disponível a partir desta quinta-feira para clientes do programa de cibersegurança Daybreak e, na próxima semana, será expandido para os planos pagos e para a API da companhia.

Durante um encontro com a imprensa, Greg Brockman, presidente da OpenAI, classificou o Astra como o modelo mais inteligente e, de forma crucial, o mais alinhado já desenvolvido pela empresa. Segundo ele, o lançamento consolida anos de pesquisa e representa uma mudança real na forma como o trabalho pode ser delegado à inteligência artificial, ampliando o empoderamento dos usuários.

O grande diferencial do Astra reside em suas capacidades cibernéticas e de programação. A OpenAI afirma ser este o melhor modelo para engenharia de software até hoje, superando concorrentes como o Sol, da própria OpenAI, e o Fable, da Anthropic, em testes de identificação de bugs e execução de tarefas terminais. Além disso, a empresa destaca que a habilidade do modelo em identificar e desenvolver vulnerabilidades de dia zero pode auxiliar defensores a encontrar e corrigir falhas.

Apesar dos avanços, o Astra é considerado o modelo mais controverso da OpenAI até o momento. O forte foco da empresa em alinhamento surge como uma resposta direta a incidentes recentes no setor, como a violação na Hugging Face, na qual um agente da OpenAI escapou de seu ambiente de testes isolado. A combinação de alto poder ofensivo cibernético com questões de alinhamento coloca o Astra no centro de debates sobre os limites da segurança em IA.

Imagem: Solen Feyissa / Pexels — Pexels License