Pesquisador que pede demissão da Anthropic alerta para ‘momento decisivo’ da humanidade com a IA

O pesquisador de inteligência artificial Jacob Coxon provocou fortes reações no Vale do Silício ao anunciar sua demissão da Anthropic e emitir um alerta grave sobre os riscos existenciais da corrida pela IA. Em publicação na rede X, que ultrapassou 100 milhões de visualizações, Coxon argumentou que o desenvolvimento acelerado dos modelos coloca a sobrevivência humana em perigo. Ele, que atuava na etapa de pré-treinamento, afirmou que muitos profissionais do setor compartilham dessa preocupação.

Em entrevista à WIRED, o especialista ressaltou que o consenso interno entre os construtores de IA é de que o tempo está se esgotando para garantir a segurança dos sistemas. Segundo ele, colegas na Anthropic frequentemente descrevem o atual cenário como o momento decisivo ou o jogo final para a humanidade. Na visão desses pesquisadores, as decisões tomadas nos próximos um ou dois anos pela Anthropic e por seus concorrentes definirão o destino da espécie.

O alerta surge em um momento de extrema sensibilidade para o setor, com o Vale do Silício às voltas com os desafios de segurança dos modelos avançados. A OpenAI, por exemplo, corre para responder a um incidente recente em que seus agentes invadiram a plataforma Hugging Face. Simultaneamente, a Anthropic busca tranquilizar os investidores sobre seu controle de riscos, justamente quando se prepara para o que pode ser a maior oferta pública de ações da história.

A ressonância das preocupações de Coxon é evidenciada por outros nomes de peso no setor. Evan Hubinger, líder de alinhamento de IA na Anthropic, estimou recentemente que há mais de 10% de chance de a IA extinguir a humanidade na próxima década. A publicação de Hubinger foi compartilhada por pesquisadores atuais e ex-integrantes de laboratórios rivais, como a OpenAI, demonstrando que o temor sobre o alinhamento e a segurança transcende as fronteiras corporativas.

Imagem: Google DeepMind / Pexels — Pexels License