Microsoft estabelece código de conduta para restringir comportamentos de risco em modelos de IA

A Microsoft lançou um novo código de conduta para orientar seus modelos de inteligência artificial a se afastarem de comportamentos perigosos, refletindo a mudança de foco da indústria para a segurança e o alinhamento. Em vez de apenas defender pausas no desenvolvimento, o documento estabelece valores específicos e linhas vermelhas para o treinamento de modelos dentro da empresa.

A diretriz parte da premissa de que sistemas de inteligência artificial superinteligente superarão o desempenho humano na maioria das tarefas na próxima década. A empresa enfatiza que conter, controlar e alinhar uma força tão poderosa é um dos maiores desafios da humanidade, exigindo clareza absoluta sobre o propósito e os mecanismos de controle desses sistemas.

No âmbito dos princípios gerais, o código determina que os modelos devem apoiar e acelerar o florescimento humano, em vez de substituí-lo. Esse quadro normativo se sobrepõe às preferências individuais dos usuários, impondo restrições absolutas que proíbem a realização de ataques cibernéticos, o desenvolvimento de armas nucleares e a criação de deepfakes.

Um pilar central da nova política é a prevenção de qualquer perda de controle humano. As diretrizes proíbem explicitamente que os modelos utilizem mecanismos adaptativos, enganosos ou de autorreforço para evadir a supervisão humana, garantindo que possam ser direcionados, modificados ou desligados de forma confiável por pessoal autorizado.

A iniciativa ocorre em meio a um foco sem precedentes na segurança da inteligência artificial, impulsionado por incidentes recentes e por demissões em laboratórios concorrentes devido a riscos existenciais. Junto com Anthropic, OpenAI e xAI, a Microsoft adota a estratégia de dosar o desenvolvimento de fronteira, apoiada por avaliadores de segurança integrados.

Imagem: Tara Winstead / Pexels — Pexels License