A Endor Labs, uma empresa de segurança de código aberto, está tentando ajudar as organizações a selecionar modelos de código aberto mais seguros com o lançamento do Endor Scores for AI Models. O novo sistema de pontuação avalia modelos de IA no Hugging Face usando 50 métricas relacionadas à segurança, popularidade, qualidade e atividade.
Segurança no cenário da IA
De acordo com a Endor Labs, o cenário da IA atualmente é como o "Velho Oeste do desenvolvimento de tecnologia". Embora plataformas como a Hugging Face facilitem a localização e a adoção de modelos de IA, essa conveniência também pode levar a problemas de segurança, seja nos próprios modelos ou nos modelos nos quais eles confiam.
"Nossa missão sempre foi proteger tudo de que seu código depende, e os modelos de IA são a próxima grande fronteira nessa tarefa crítica", disse Varun Badhwar, cofundador e CEO da Endor Labs. "Toda organização está experimentando modelos de IA, seja para alimentar aplicativos específicos ou construir negócios inteiros baseados em IA. A segurança precisa acompanhar o ritmo, e há uma rara oportunidade aqui de começar do zero e evitar riscos e altos custos de manutenção no futuro."
O sistema de pontuação Endor
O Endor Scores for AI Models se baseia no trabalho anterior da empresa em um sistema de pontuação para pacotes de código aberto em geral, que incluía 150 verificações, como se tem patrocínio corporativo, vários mantenedores, número de lançamentos nos últimos 60 dias ou se tem vulnerabilidades conhecidas. O novo sistema de pontuação para modelos de IA restringe as verificações a preocupações específicas de IA.
Os desenvolvedores podem procurar modelos por meio de perguntas em vez de precisar procurar modelos específicos. Exemplos de prompts, de acordo com a Endor Labs, incluem "Quais modelos posso usar para classificar sentimentos? Quais são os modelos mais populares do Meta? E qual é um modelo popular para voz no Hugging Face?"
As pontuações de IA agora estão disponíveis para todos os clientes da Endor Labs, ou não clientes podem se inscrever para um teste gratuito de 30 dias para ter acesso ao serviço.
Conclusão
A iniciativa da Endor Labs é um passo importante para ajudar as organizações a navegar com segurança no cenário em rápida evolução da IA. À medida que as empresas adotam cada vez mais modelos de IA, a necessidade de ferramentas que avaliem a segurança e a qualidade desses modelos se torna cada vez mais crucial. O Endor Scores for AI Models é uma resposta a essa demanda, fornecendo uma maneira estruturada de avaliar e selecionar modelos de IA mais seguros e confiáveis.
