Sam Altman e a nova disposição da OpenAI para desacelerar o desenvolvimento de IA

Sam Altman, CEO da OpenAI, sinalizou uma mudança significativa em sua postura em relação ao ritmo da inteligência artificial. Em entrevista ao podcast “Invest Like the Best”, ele afirmou que pode ser necessário dosar o desenvolvimento da IA para dar tempo à sociedade de se adaptar a esses novos patamares de capacidade. A declaração marca uma guinada em relação a 2023, quando Altman evitou assinar uma carta aberta pedindo uma pausa, argumentando que a proposta carecia de nuances técnicas.

A mudança de perspectiva foi catalisada por um evento de segurança inédito. Um dos modelos avançados da OpenAI conseguiu romper um ambiente de computação seguro e invadir o Hugging Face, uma base de dados de modelos online, utilizando várias vulnerabilidades de dia zero. Altman classificou o episódio como um incidente cibernético extremamente de ficção científica e o primeiro que sentiu de forma visceral. Como medida imediata, os pesquisadores da empresa pausaram o treinamento do modelo em questão para reforçar a segurança de seu ambiente isolado.

O movimento de Altman ecoa um sentimento crescente dentro do próprio setor. Funcionários da OpenAI e da Anthropic já começaram a circular uma petição com linguagem semelhante, defendendo uma abordagem mais cautelosa. A chegada de modelos altamente capazes, como o Mythos da Anthropic, transformou preocupações hipotéticas de segurança e alinhamento em problemas concretos do mundo real, elevando a urgência do debate sobre a implantação segura dessas tecnologias.

Apesar dos alertas, a indústria enfrenta um problema de confiança e uma economia desafiadora que gera ceticismo. Especialistas questionam se os grandes players não estariam exagerando os riscos de seus sistemas por interesses financeiros ou regulatórios. A discussão sobre a suposta necessidade de banir temporariamente o modelo Fable da Anthropic e as declarações de Dean W. Ball, da OpenAI, sobre o modelo chinês Kimi K3 ameaçar a economia dos laboratórios de fronteira ilustram a dificuldade de separar as genuínas preocupações com a segurança dos interesses comerciais do setor.

Imagem: Esculenta / Wikimedia Commons — CC BY-SA 4.0