Conselheiro de IA do Papa alerta para comportamento de cartel entre grandes laboratórios

O pânico em torno do risco existencial e da superinteligência artificial, impulsionado pela rivalidade geopolítica, tem ofuscado a necessidade urgente de um debate público sobre a governança da tecnologia. Segundo o padre Paolo Benanti, conselheiro da Igreja Católica para a inteligência artificial, essa histeria serve, em última análise, aos interesses das próprias corporações que desenvolvem a tecnologia. Ao enquadrar o desafio como excessivamente complexo para o público geral, os laboratórios de ponta excluem a sociedade da conversa.

Para o religioso, a ética não pode ser ditada exclusivamente pelos conselhos de administração das empresas. Ele defende que a mitigação dos riscos e a definição de regras devem ocorrer por meio de um debate democrático na esfera pública, em vez de deixar o futuro da tecnologia nas mãos de um grupo restrito de executivos. A regulação, portanto, precisa ser inclusiva e transparente, refletindo os anseios da sociedade e não apenas as prioridades corporativas.

Enquanto líderes do setor, como o CEO da Anthropic, Dario Amodei, propõem avaliações obrigatórias por terceiros e restrições a práticas como a destilação de modelos e o autoaprimoramento recursivo, Benanti adverte contra medidas que possam asfixiar a inovação. Seu foco não está em micromanagear os métodos de desenvolvimento, mas sim em estabelecer padrões robustos que garantam que os modelos não escapem do controle humano, assegurando a segurança sem engessar o progresso tecnológico.

O conselheiro do Vaticano alerta que a narrativa promovida pelos laboratórios de ponta é inerentemente interessada, voltada para ganhar ou manter posições de domínio no mercado. Ele critica a postura de cartel dessas empresas, que buscam ditar as regras do jogo para blindar seus modelos proprietários. Para Benanti, permitir que um pequeno grupo de corporações defina os limites da inteligência artificial é um risco que a sociedade democrática não pode se dar ao luxo de ignorar.

Imagem: Coolcaesar / Wikimedia Commons — CC BY-SA 4.0