Base Labs firma parceria com Hugging Face e Goodfire para padronizar segurança em modelos abertos de IA

A Base Labs, braço de pesquisa da provedora de inferência de inteligência artificial Baseten, anunciou uma nova parceria com a Hugging Face e a Goodfire para desenvolver e publicar métodos de treinamento e monitoramento de modelos abertos. A iniciativa propõe a criação de um padrão transparente para a segurança em modelos de código aberto, integrando esses controles diretamente na arquitetura de treinamento e implantação, em vez de adicioná-los posteriormente.

A estratégia parte da premissa de que a transparência é uma vantagem competitiva para a segurança da IA. Segundo a empresa, a abertura dos modelos oferece maior visibilidade sobre o comportamento das redes neurais e proporciona meios mais eficazes para converter pesquisas de segurança em controles acionáveis, superando as limitações das soluções de código fechado. A Goodfire, especializada em interpretabilidade e em abrir a caixa-preta dos modelos, deve ser a responsável técnica por embutir essas camadas de segurança.

O movimento ganha peso ao considerar o recente sucesso financeiro das empresas envolvidas. A Baseten captou US$ 1,5 bilhão em sua Série F em junho, alcançando uma avaliação de US$ 13 bilhões. Já a Goodfire arrecadou US$ 150 milhões em uma rodada Série B liderada pela B Capital no início deste ano, consolidando sua plataforma de interpretabilidade de modelos.

Embora os detalhes técnicos da colaboração ainda não tenham sido totalmente divulgados, a Goodfire reforçou o alinhamento estratégico da parceria, afirmando que a segurança deve ser intrínseca aos modelos abertos e garantida por aqueles que os servem. A Base Labs também lançou um chamamento público para que o ecossistema de desenvolvedores contribua com a construção desse novo framework.

A iniciativa reflete uma mudança de paradigma no setor, onde a acessibilidade e a segurança deixam de ser vistas como objetivos concorrentes. Ao construir um ecossistema colaborativo, as empresas buscam estabelecer que modelos abertos e seguros não apenas são viáveis, mas essenciais para o futuro da inteligência artificial acessível a todos.

Imagem: Daniil Komov / Pexels — Pexels License