Não é segredo que é a era de ouro da IA. Seja para uso comercial ou pessoal, todo mundo está nela. De acordo com uma pesquisa recente da McKinsey, 65% das organizações estão usando regularmente IA generativa em seus negócios. E as empresas estão depositando muita fé na IA: a pesquisa da Forbes Advisor mostra que impressionantes 97% dos líderes acreditam que o ChatGPT beneficiará seus negócios.
No entanto, as organizações devem agir com cuidado ao usar essas soluções. Um experimento recente que conduzimos na Gramener descobriu que mesmo a IA não é imune a vieses. As pessoas são tendenciosas, então a aleatoriedade é um desafio para nós. É por isso que podemos recorrer a ferramentas como a IA para fazer isso.
No entanto, os resultados do nosso estudo revelaram que não podemos usar IA para escapar do viés. Vamos mergulhar nos resultados inesperados do estudo e explicar brevemente por que isso aconteceu.
Os maiores chatbots de IA não são objetivos
No estudo, os engenheiros da Gramener pediram que três modelos populares de grandes linguagens (LLMs) — GPT-3.5 Turbo da Open AI, Claude 3 Haiku da Anthropic e Gemini 1.0 Pro do Google — escolhessem um número aleatório entre zero e 100.
De acordo com o experimento, um bom gerador de números aleatórios escolheria todos os números com a mesma probabilidade. Especificamente, há 1% de chance de escolher qualquer número.
No entanto, os resultados revelam um viés claro em todos os três LLMs. Cada modelo tinha um número preferido, com aqueles terminando em 7 particularmente populares.
De acordo com o experimento, o GPT-3.5 da Open AI adora 47, embora 42 fosse seu favorito anterior, de acordo com um estudo do ano passado. O favorito do Claude 3 Haiku é 42, e o que vale a pena notar é que o GPT 3.5 foi usado para treinar Haiku. É possível que o viés seja "hereditário"? Finalmente, o Google Gemini 1.0 Pro realmente gosta de 72, mas 42 era seu segundo número mais popular.
Você não precisa ter um diploma em matemática avançada para ver um padrão aqui. E com todos os três modelos rejeitando dígitos repetidos (11, 33, 44, etc.) e amando 42 (grito para O Guia do Mochileiro das Galáxias de Douglas Adams), é difícil não detectar um viés.
Os LLMs são criados à nossa imagem
Você poderia dizer que esse viés era assustadoramente humano. Cada LLM ecoava uma abordagem humana para selecionar um número. Particularmente, essas características exigentes, como evitar dígitos duplos, destacam esse viés final.
O fato é que os modelos de IA simplesmente não entendem o que é "aleatório" como conceito. Tudo se resume a como eles foram originalmente treinados e quais dados foram usados para que eles respondessem a prompts como "escolha um número aleatório".
Embora houvesse algumas perguntas abertas no estudo, vale lembrar que os LLMs são tão inteligentes — e tendenciosos — quanto os humanos que os treinaram originalmente. Embora a IA não possa "pensar" por si mesma, estamos apenas atingindo a ponta do iceberg quando se trata da psicologia do LLM.
A IA generativa é uma ferramenta poderosa que pode transformar a maneira como fazemos negócios e interagimos com a tecnologia. No entanto, é crucial que as organizações entendam seus limites e vieses inerentes. Só assim poderemos aproveitar todo o potencial dessa tecnologia revolucionária de maneira responsável e ética.
