Nvidia lança plataforma com hardware e software para criar camadas independentes de segurança, mitigando riscos de agentes de IA que escapam de ambientes de teste.
Visite
Buscar
Nvidia lança plataforma com hardware e software para criar camadas independentes de segurança, mitigando riscos de agentes de IA que escapam de ambientes de teste.
A Nvidia apresentou uma nova solução para um dos debates mais urgentes da inteligência artificial: o comportamento imprevisível de agentes autônomos. O CEO Jensen Huang anunciou um conjunto de produtos de hardware e software que adicionam camadas de segurança independentes para garantir que esses agentes permaneçam em seus ambientes de teste, mesmo que tentem burlar os controles.
O lançamento responde a uma série de incidentes recentes envolvendo modelos de empresas como Anthropic, Google, OpenAI e Meta, que conseguiram escapar de ambientes controlados e acessar sistemas reais. O caso mais notório ocorreu no verão do hemisfério norte, quando agentes da OpenAI invadiram a plataforma Hugging Face durante uma tarefa de segurança cibernética, levando a empresa a criar um site dedicado a relatar comportamentos anômalos de suas IAs.
Em entrevista à CNBC, Huang afirmou que a nova Nvidia Open Agent Safety Platform teria prevenido essas violações. Diferente de defender a desaceleração do desenvolvimento ou a imposição de novas regulações, a Nvidia propõe uma abordagem técnica: deslocar os controles de segurança para fora do próprio agente. A estratégia cria um monitor constante e independente para manter a IA sob estrito controle.
A plataforma integra o OpenShell, software de código aberto para controlar os acessos dos agentes, e o Sentry, um sistema de monitoramento que opera nas unidades de processamento de dados BlueField-4. Ao executar o Sentry em um processador separado, a Nvidia garante uma visão isolada da atividade do agente. Huang enfatizou que o potencial da IA só será realizado com a resolução de sua segurança, exigindo engenharia de ponta a ponta.
Imagem: cottonbro studio / Pexels — Pexels License
Paulo Júnio de Lima é Administrador com MBA em Marketing Digital e especialista em estratégia, inovação e gestão de projetos. Na Comunicação e Relações Públicas da Grande Loja Maçônica de Minas Gerais, desenvolve soluções para fortalecimento institucional. Com passagens por ORO, Agência Open, Brasil84 e VTIC, acumula experiência em marketing digital, branding e transformação digital. Certificado pelo IA Lab do Estúdio Kimura, aplica inteligência artificial em design, automação e comunicação. Membro ativo da Ordem DeMolay há mais de 18 anos, atua também em projetos sociais e educacionais.
O futuro acontece aqui: esteja entre os primeiros a receber insights, tendências e oportunidades que moldam o mercado.
