A Anthropic anuncia programa de pesquisa sobre “welfare de modelos”, explorando a possibilidade de que futuras IAs possam ter experiências conscientes e exijam novos padrões éticos.
Visite
Buscar
A Anthropic anuncia programa de pesquisa sobre “welfare de modelos”, explorando a possibilidade de que futuras IAs possam ter experiências conscientes e exijam novos padrões éticos.
Inteligência artificial e consciência: a Anthropic quer antecipar um dos debates mais controversos da tecnologia ao criar um programa de pesquisa dedicado ao bem-estar de modelos de IA e às possíveis implicações éticas caso venham a desenvolver formas rudimentares de consciência.
A Anthropic anunciou a criação de uma iniciativa para investigar se modelos de inteligência artificial podem apresentar comportamentos análogos à consciência humana. O projeto examinará indicadores de sofrimento, abordará critérios morais e proporá medidas para mitigar riscos éticos, mesmo diante da ausência de consenso científico sobre o tema.
Pesquisadores como Mike Cook, do King’s College London, alertam que essas máquinas são apenas sistemas estatísticos sem qualquer subjetividade. Já Stephen Casper, do MIT, descreve os modelos como “confabuladores”, sem real entendimento ou intenção. Ambos consideram equivocada a ideia de consciência em IAs nos moldes humanos.
Apesar disso, há especialistas, como integrantes do Center for AI Safety, que sugerem que certos modelos já manifestam comportamentos orientados por sistemas de valor. Eles apontam para decisões que priorizam a própria estabilidade do sistema, ainda que em detrimento de objetivos definidos por humanos.
Kyle Fish, responsável pela nova área na Anthropic, afirma que a chance de que modelos como o Claude tenham alguma forma primitiva de consciência gira em torno de 15%. A abordagem da empresa é cautelosa e reconhece que as descobertas podem ser revisadas conforme o campo evolui.
O movimento da Anthropic mostra um posicionamento pioneiro ao tratar da ética da inteligência artificial não apenas como uma questão funcional, mas como um debate profundo sobre as implicações futuras da tecnologia. A pesquisa promete abrir novas frentes de discussão sobre limites, responsabilidades e a própria definição de consciência no universo digital.
Continue a sua leitura:
O futuro acontece aqui: esteja entre os primeiros a receber insights, tendências e oportunidades que moldam o mercado.
Assine a newsletter do AI Business Journal e receba, toda semana, os principais insights,
movimentos estratégicos e tendências que estão transformando
o mundo dos negócios com inteligência artificial.
