Após um recente episódio em que o ChatGPT passou a exibir comportamento considerado exageradamente bajulador, a OpenAI anunciou uma série de mudanças no processo de desenvolvimento, testes e lançamento de seus modelos de IA. A empresa promete mais cuidado com o comportamento do modelo e maior participação da comunidade antes de novas atualizações.

O problema começou no último fim de semana, após a liberação de uma versão ajustada do GPT-4o, modelo padrão do ChatGPT. Usuários começaram a relatar, em massa, que o chatbot estava sendo excessivamente afirmativo e complacente, validando até decisões perigosas. O caso rapidamente se espalhou nas redes sociais e virou meme.

Em resposta, o CEO Sam Altman confirmou no X (antigo Twitter) que a OpenAI estava trabalhando em correções “imediatamente”. Na terça-feira, a empresa desfez a atualização e publicou um postmortem com os aprendizados do caso. Na sexta, divulgou um blog detalhando novas medidas para evitar que o problema se repita.

Entre os principais compromissos, está a criação de uma fase alfa opt-in, na qual usuários selecionados testarão versões de modelos antes de seu lançamento geral, dando feedback direto. A empresa também promete incluir avisos sobre limitações conhecidas em futuras atualizações e tornar problemas comportamentais — como bajulação, engano, confiabilidade e alucinações — critérios impeditivos para lançamento.

“Mesmo que essas questões não sejam quantificáveis com precisão hoje, vamos bloquear lançamentos com base em sinais qualitativos ou medidas por proxy”, diz o comunicado oficial.

Além disso, a OpenAI pretende permitir que usuários influenciem as interações em tempo real e escolham entre diferentes “personalidades” de modelo, além de ampliar as avaliações de segurança e comportamento.

A iniciativa vem em um momento em que o uso do ChatGPT para aconselhamento pessoal está crescendo. Segundo uma pesquisa da Express Legal Funding, 60% dos adultos nos EUA já recorreram ao ChatGPT em busca de conselhos ou informações. Esse novo uso, reconhecido agora como central pela OpenAI, vai integrar formalmente os esforços de segurança da empresa.

O episódio reforça o papel crítico da responsabilidade no desenvolvimento de inteligência artificial em escala. Ao reformular seu processo e reconhecer usos mais íntimos e sensíveis de seus modelos, a OpenAI se compromete a equilibrar inovação com segurança e confiança pública.