Startup de segurança de IA levanta US$ 40 milhões para auditar agentes autônomos

Em um momento de crescente debate sobre os riscos da inteligência artificial, dois veteranos do setor identificaram uma lacuna crítica no mercado corporativo: a falta de controle sobre agentes de IA autônomos. Rune Kvist, um dos primeiros funcionários da Anthropic, e Rajiv Dattani, ex-diretor de operações da organização de pesquisa em segurança METR, fundaram a Artificial Intelligence Underwriting Company (AIUC). A startup propõe uma solução prática para um problema que tende a se agravar à medida que os modelos se tornam mais sofisticados.

A premissa da AIUC é que a adoção corporativa de IA não é mais barrada pela capacidade dos modelos, mas pela impossibilidade de garantir o que esses sistemas farão ou deixarão de fazer. Para mitigar esse risco, a empresa desenvolveu uma camada de auditoria e certificação de terceiros para agentes de IA. Inspirado no padrão de segurança cibernética SOC 2, o novo framework, denominado AIUC-1, oferece um serviço de testes para validar o comportamento dos agentes antes de sua implementação em ambientes críticos.

O padrão foi construído em colaboração com um consórcio de cerca de 250 líderes de segurança e gestão de riscos, representando compradores institucionais como bancos, hospitais e órgãos governamentais. A abordagem já atraiu clientes de peso no ecossistema de tecnologia, incluindo Cursor, Lovable, Harvey e ElevenLabs, que buscam demonstrar conformidade e segurança para seus próprios usuários corporativos.

O modelo de negócios da startup ganhou a atenção de investidores de alto escalão. A AIUC anunciou uma rodada Série A de US$ 40 milhões, liderada pela Ribbit Capital e com a participação da First Harmonic. O aporte se soma a um investimento semente de US$ 15 milhões, que contou com o apoio de Nat Friedman, Emergence, Terrain e Ben Mann, cofundador da Anthropic, elevando o financiamento total da empresa para US$ 55 milhões.

Imagem: cottonbro studio / Pexels — Pexels License