OpenAI lança GPT-4.1 sem relatório de segurança e levanta críticas

OpenAI lança nova versão do GPT sem divulgar relatório de segurança, contrariando padrões anteriores e aumentando preocupações sobre riscos e transparência.

Na última segunda-feira, a OpenAI lançou a nova linha de modelos GPT-4.1, destacando avanços em benchmarks de programação. No entanto, o lançamento veio sem o tradicional relatório de segurança (system card), documento que normalmente acompanha os modelos e detalha os testes e riscos avaliados.

Em resposta à ausência, a OpenAI afirmou ao TechCrunch que o GPT-4.1 “não é um modelo de fronteira” e, por isso, não terá um system card próprio. A justificativa contrasta com práticas anteriores da própria empresa, que chegou a considerar esses relatórios como “parte essencial” da sua abordagem de transparência, inclusive em compromissos públicos com governos.

Relatórios de segurança são usados por laboratórios de IA para demonstrar testes internos e avaliações conduzidas com parceiros externos. Eles podem expor limitações dos modelos, como propensão a enganar usuários ou comportamentos perigosos — tornando-se, assim, ferramenta importante para a comunidade científica e reguladores.

Segundo Steven Adler, ex-pesquisador de segurança da OpenAI, os system cards são hoje o principal mecanismo de transparência da indústria. Apesar de não serem exigidos por lei, fazem parte das normas voluntárias que empresas vêm adotando para manter a confiança pública.

A decisão da OpenAI vem em meio a críticas internas e externas. Ex-funcionários — incluindo Adler — apresentaram um amicus brief no processo movido por Elon Musk, alertando que a versão com fins lucrativos da OpenAI poderia negligenciar aspectos de segurança em nome da competição. Além disso, a empresa já havia sido criticada por lançar modelos sem documentação adequada anteriormente.

Com a omissão do relatório do GPT-4.1, a OpenAI reforça preocupações sobre o enfraquecimento das práticas de segurança e transparência na corrida por avanços em IA. Para especialistas, quanto mais poderoso o modelo, maior a necessidade de escrutínio público.

ASSINE NOSSA NEWSLETTER

O futuro acontece aqui: esteja entre os primeiros a receber insights, tendências e oportunidades que moldam o mercado.