ZeroDrift levanta US$ 10 milhões para proteger modelos de IA deles mesmos

À medida que as empresas solucionam problemas nos seus sistemas de IA, a governação surge como um desafio fundamental. Alguns estão adotando uma abordagem dupla: um modelo para lidar com as consultas recebidas, enquanto um segundo modelo evita que o primeiro tenha problemas.

Essa é a premissa de ZeroDriftum novo serviço de conformidade de IA que anunciou uma rodada inicial de US$ 10 milhões na terça-feira. (Os investidores incluem a16z Speedrun, Reign Ventures, PitchDrive Ventures e U&I Ventures, entre outros.) A empresa lida inteiramente com a segunda parte do sistema, posicionando-se entre os modelos de IA e os usuários finais para sinalizar e substituir quaisquer mensagens que possam apresentar um problema de conformidade.

Pode parecer estranho construir um sistema de IA para corrigir os erros de outros sistemas de IA – mas o sistema de correção do ZeroDrift tem algumas vantagens arquitetônicas sobre os modelos que irá corrigir. O sistema é acionado por programas convencionais que aplicam de forma determinística padrões de conformidade conhecidos, como SOC 2 ou GDPR. O LLM só chega depois que uma mensagem é sinalizada, reescrevendo uma versão compatível da mesma mensagem.

“Somos capazes de identificar de forma determinística quais são todas as áreas regulamentadas, qual é a violação que está sendo quebrada, e então temos LLMs que podem fazer as reescritas”, diz Aroomoogan.

Fundamentalmente, todo o sistema pode ser executado com menos latência e mais confiabilidade do que um LLM convencional. É a principal vantagem da empresa sobre grandes laboratórios como OpenAI e Anthropic, que muitas vezes já estão presentes no sistema subjacente.

O caso de uso mais óbvio é o dos chatbots de IA, que já são implantados diante dos consumidores, onde podem haver sérias consequências para respostas fraudulentas. Mas Aroomoogan vê o mercado total endereçável como muito maior, abrangendo potencialmente mensagens geradas por IA que os seres humanos nunca veem, geradas apenas dentro de sistemas automatizados. Até agora, é um mercado relativamente pequeno – mas que crescerá à medida que a IA proliferar.

Se a arrecadação de fundos servir de indicação, há muita demanda reprimida por esse produto. “Foi provavelmente a arrecadação de fundos mais rápida que fiz na minha vida”, diz o CEO Kumesh Aroomoogan, creditando a ajuda de Andressen Horowitz na estruturação da rodada de sementes. “Fechamos em três semanas e teremos um excesso de assinaturas em 3x o valor.”