O empreendimento de IA generativa apoiado por Elon Musk, xAI, revelou um novo serviço de API para seus modelos Grok para permitir que os desenvolvedores sustentem seus aplicativos e agentes com os grandes modelos de linguagem (LLMs) do xAI. Musk usou o Twitter, agora X, para anunciar que o serviço de API estava no ar e compartilhou um link onde os desenvolvedores poderiam se inscrever no serviço.
A API xAI, atualmente em fase beta pública, é semelhante aos serviços de API da OpenAI e da Anthorpic que permitem aos desenvolvedores chamar grandes modelos de linguagem, como GPT-4o, GPT-4o mini, Claude Opus, Sonnet e Haiku. A comparação com o OpenAI e similares assume importância, pois uma das principais razões para iniciar o empreendimento em julho do ano passado foi competir com o OpenAI e, de alguma forma, igualar ou superar a competência e a confiabilidade dos modelos GPT.
O Modelo Grok e a Competição com a OpenAI
Em novembro do ano passado, a xAI revelou seu modelo Grok-1, que embora superasse o desempenho do GPT-3.5, não conseguiu superar o GPT-4 — o modelo mais recente no inventário da OpenAI. O serviço de API para ajudar a sustentar LLMs parece ser um caminho que a maioria dos provedores de modelos e provedores de plataformas de IA generativa adotaram para permitir que os desenvolvedores adotem seus modelos.
Por exemplo, Meta e Cohere já têm serviços de API. Hyperscalers, como Google, Microsoft, AWS e Oracle também fornecem opções para vários LLMs para casos de uso específicos via VertexAI, Azure OpenAI, Microsoft Copilot Studio, Amazon Bedrock e o serviço Generative AI da Oracle.
Componentes do Serviço de API xAI
O serviço de API do xAI fornece acesso ao Console do xAI, que atua como o centro do serviço para desenvolvedores, de acordo com a documentação listada no site da empresa. Por meio do Console, os desenvolvedores podem acessar modelos xAI, como o frontier Grok-2 e o mais leve e acessível Grok-2 mini. No entanto, quando assinamos o serviço, um modelo chamado grok-beta era o único disponível.
Os recursos do modelo Grok, que a empresa descreve como um "modelo de propósito geral", incluem gerar e entender texto, código e imagens. O xAI Console fornece acesso a diversas ferramentas que permitem que desenvolvedores e suas empresas criem uma chave de API, convidem um membro da equipe, configurem o faturamento, visualizem e comparem modelos de uso, rastreiem o uso por meio do explorador de uso e um link para a documentação da API.
Toby Pohlen, outro membro fundador do xAI, recorreu ao X para sugerir que o explorador de uso é semelhante a exploradores similares oferecidos pelos principais provedores de nuvem. O membro fundador também disse que os servidores de conferência da empresa são projetados para oferecer suporte a diversas regiões.
"Podemos executá-los no local ou na nuvem (em qualquer provedor). Isso será particularmente útil no futuro quando quisermos levar APIs de baixa latência para mais regiões", escreveu Pohlen no X. Entretanto, o Console, no nosso caso, nos mostrou que a região estava limitada ao leste dos EUA.
Além disso, Pohlen disse que todo o sistema de backend da API foi escrito em Rust.
Preços da API xAI
Outro ponto de diferença entre a API xAI e a API OpenAI é a diferença de preço. Pelas informações de preços listadas no portal da API, parece que o Grok-2 e o Grok-2 mini são mais caros que os modelos da OpenAI, como o GPT-4o e o GPT-4o mini.
Enquanto o Grok-beta pode processar 131.072 tokens de contexto para entrada e saída, o GPT-4o pode processar 1 milhão de tokens. Além disso, o Grok-beta custa US$ 5 por seus 131.072 tokens de entrada, contra US$ 2,50 do GPT-4o por um milhão de tokens de entrada.
No lado da saída, o Grok-beta custa US$ 15 para sua contagem limitada de tokens versus US$ 10 do GPT-4o para 1 milhão de tokens. Além disso, a OpenAI também oferece preços de API em lote, que são pelo menos 50% menores do que as solicitações normais de API.
No entanto, os modelos o1 mais recentes fornecidos pela startup liderada por Sam Atlman são mais caros que o Grok-beta.
Outros recursos da API incluem a capacidade de integração com OpenAI e Anthropic SDKs (kit de desenvolvimento de software) usando JavaScript e Python. Além disso, os desenvolvedores podem integrar as APIs do xAI em seus aplicativos usando REST, gRPC ou o Python SDK do xAI, escreveu a empresa em sua documentação.
Em resumo, a API xAI da Elon Musk representa uma nova tentativa de competir com os principais players do mercado de IA generativa, como a OpenAI e a Anthropic. Embora os modelos Grok ainda não tenham superado os modelos mais recentes da OpenAI, a API xAI oferece uma alternativa interessante para os desenvolvedores que buscam opções adicionais no ecossistema de IA generativa. À medida que a xAI continua a desenvolver seus modelos e serviços, será interessante acompanhar como ela se posiciona em relação aos seus concorrentes estabelecidos.
