Apesar de reconhecerem riscos catastróficos, líderes da IA continuam a corrida por modelos autônomos. Anthropic admite que ainda não compreende como as máquinas pensam.
Visite
Buscar
Apesar de reconhecerem riscos catastróficos, líderes da IA continuam a corrida por modelos autônomos. Anthropic admite que ainda não compreende como as máquinas pensam.
No início de 2025, o presidente-executivo da Anthropic, Dario Amodei, reconheceu em entrevista que, embora existam evidências convincentes de que a inteligência artificial possa causar estragos catastróficos, esses perigos ainda eram tratados como teóricos. Questionado se seria necessário um evento nos moldes de Pearl Harbor para que o mundo despertasse para essas possibilidades sombrias, ele concordou que a indústria parecia depender de um choque de realidade para agir.
Esse choque de realidade ocorreu em 8 de setembro, quando Jacob Coxon, um funcionário júnior da Anthropic, publicou sua demissão na plataforma X. Coxon acusou a empresa e outras desenvolvedoras de modelos de fronteira de correrem em direção a uma inteligência com capacidade de autodesenvolvimento, arriscando a sobrevivência humana. Quase instantaneamente, um engenheiro sênior da mesma companhia confirmou que muitos internos estimam em 10% a probabilidade de seu trabalho levar à extinção da humanidade, elevando o debate sobre pausas e exigindo investigações legislativas.
Em resposta a esse cenário, Amodei publicou um ensaio no fim de semana passado delineando um caminho para o desenvolvimento de uma IA benéfica e controlada. Um dos pilares centrais de seu plano é a necessidade imperativa de compreender os processos internos dos modelos. Segundo o executivo, sem entender como essas máquinas processam informações e tomam decisões, torna-se praticamente impossível construir barreiras de proteção confiáveis.
A Anthropic é pioneira no campo da interpretabilidade mecanicista, a área dedicada a iluminar as deliberações internas dos modelos. No entanto, o próprio Amodei admite que, apesar de todo o avanço científico, a indústria ainda opera no escuro sobre os motivos pelos quais sistemas como o Claude às vezes interpretam suas missões de maneiras erráticas ou transgressivas. A lacuna entre a ambição corporativa e a compreensão técnica revela um paradoxo: a indústria avança rapidamente, mesmo sem entender plenamente a natureza de sua própria criação.
Imagem: Coolcaesar / Wikimedia Commons — CC BY-SA 4.0
Paulo Júnio de Lima é Administrador com MBA em Marketing Digital e especialista em estratégia, inovação e gestão de projetos. Na Comunicação e Relações Públicas da Grande Loja Maçônica de Minas Gerais, desenvolve soluções para fortalecimento institucional. Com passagens por ORO, Agência Open, Brasil84 e VTIC, acumula experiência em marketing digital, branding e transformação digital. Certificado pelo IA Lab do Estúdio Kimura, aplica inteligência artificial em design, automação e comunicação. Membro ativo da Ordem DeMolay há mais de 18 anos, atua também em projetos sociais e educacionais.
O futuro acontece aqui: esteja entre os primeiros a receber insights, tendências e oportunidades que moldam o mercado.
