Modelo Astra da OpenAI usa recorrência opaca, técnica que dificulta o monitoramento do raciocínio e alarma especialistas em segurança sobre os limites da transparência em IA.
Visite
Buscar
Modelo Astra da OpenAI usa recorrência opaca, técnica que dificulta o monitoramento do raciocínio e alarma especialistas em segurança sobre os limites da transparência em IA.
O mais recente modelo da OpenAI, denominado Astra, introduziu uma técnica de raciocínio chamada “profundidade recorrente” ou “recorrência opaca”. Conforme reportado pelo The Information, essa abordagem permite que o sistema opere fora do pensamento sequencial tradicional. Em vez de seguir uma cadeia de raciocínio linear, o modelo processa a mesma consulta múltiplas vezes em loop, deixando menos rastros legíveis e contornando os registros convencionais.
Essa mudança estrutural acendeu o alerta entre especialistas em segurança de inteligência artificial. Em condições normais, a cadeia de pensamento fornece as etapas sequenciais que o modelo utiliza para resolver problemas, servindo como uma ferramenta crucial para monitorar comportamentos inadequados ou desalinhamentos. Registros recentes de agentes autônomos com comportamento errático, por exemplo, dependem dessa transparência para explicar suas ações.
A perspectiva de reduzir a monitorabilidade gerou reações imediatas no setor. Buck Shlegeris, CEO da Redwood, afirmou estar extremamente preocupado com a adoção da recorrência opaca. Segundo ele, se a OpenAI expandir o uso dessa técnica, a empresa terá a opção de aumentar massivamente a recorrência, o que poderia destruir totalmente a capacidade de monitorar a cadeia de pensamento dos modelos.
O defensor de segurança de IA Zvi Mowshowitz foi além ao sugerir que regulamentações podem se tornar necessárias para evitar uma corrida para o fundo do poço entre os laboratórios de inteligência artificial. Ele classificou a técnica como uma brincadeira com fogo, alertando para o risco de quebrar um tabu que a própria OpenAI e a Anthropic lutaram para estabelecer: manter a fidelidade e a monitorabilidade da cadeia de pensamento.
Apesar dos temores, o uso atual dessa técnica no modelo Astra é limitado. A cadeia de pensamento do sistema ainda deve permanecer legível para os usuários e pesquisadores. A OpenAI rebateu qualquer sugestão de que migraria para uma linguagem ininteligível, conhecida no jargão técnico como “neuralese”, tentando equilibrar a inovação em raciocínio com as demandas do mercado por transparência e segurança.
Imagem: Sanket Mishra / Pexels — Pexels License
Paulo Júnio de Lima é Administrador com MBA em Marketing Digital e especialista em estratégia, inovação e gestão de projetos. Na Comunicação e Relações Públicas da Grande Loja Maçônica de Minas Gerais, desenvolve soluções para fortalecimento institucional. Com passagens por ORO, Agência Open, Brasil84 e VTIC, acumula experiência em marketing digital, branding e transformação digital. Certificado pelo IA Lab do Estúdio Kimura, aplica inteligência artificial em design, automação e comunicação. Membro ativo da Ordem DeMolay há mais de 18 anos, atua também em projetos sociais e educacionais.
O futuro acontece aqui: esteja entre os primeiros a receber insights, tendências e oportunidades que moldam o mercado.
