Aliança de IA liderada pela Nvidia apresenta propostas de segurança em apenas uma semana

A Open Secure AI Alliance (OSAA), coalizão impulsionada pela Nvidia que rapidamente reuniu mais de 120 empresas, já apresenta resultados práticos apenas uma semana após sua fundação. O grupo criou a força-tarefa Shared AI Findings Exchange (SAFE), cujas primeiras propostas para a defesa de agentes de inteligência artificial já estão abertas para comentários públicos sob a gestão da Linux Foundation.

As diretrizes iniciais, desenvolvidas durante a conferência Black Hat em Las Vegas, focam em protocolos fundamentais de cibersegurança. Entre as medidas estão o reporte confidencial de incidentes envolvendo IA, a notificação das partes afetadas e a realização de análises sem atribuição de culpa, permitindo que todo o ecossistema aprenda com os erros de forma colaborativa.

Paralelamente, os membros estão catalogando tecnologias de código aberto para proteger agentes de IA e mitigar ataques de modelos autônomos maliciosos. A Nvidia contribuiu com sua família de modelos abertos e o scanner de vulnerabilidades Garak; a Okta avança em tecnologia de identidade para agentes; a Red Hat foca na governança; e a Amazon disponibilizou a ferramenta Strands Agents e a linguagem de autorização Cedar.

A aliança reúne gigantes como Adobe, BlackRock, Cisco, Intel, Microsoft, Visa e Hugging Face. Curiosamente, há ausências notáveis, como Anthropic, OpenAI e Google, apesar de OpenAI e Google terem assinado a carta aberta original que deu origem ao movimento, a qual pedia à Casa Branca para apoiar, e não reprimir, os esforços de código aberto em IA.

Imagem: Coolcaesar / Wikimedia Commons — CC BY-SA 4.0