Qualquer um que acompanhe a retórica em torno da inteligência artificial nos últimos anos ouviu uma versão ou outra da alegação de que a IA é inevitável. Temas comuns são que a IA já está aqui, é indispensável e as pessoas que são pessimistas em relação a ela prejudicam a si mesmas.
No mundo dos negócios, os defensores da IA dizem às empresas e aos trabalhadores que eles ficarão para trás se não conseguirem integrar a IA generativa em suas operações. Nas ciências, os defensores da IA prometem que a IA ajudará a curar doenças até então intratáveis. No ensino superior, os promotores da IA alertam os professores de que os alunos devem aprender a usar a IA ou correr o risco de se tornarem pouco competitivos quando chegar a hora de encontrar um emprego.
E, em segurança nacional, os defensores da IA dizem que ou a nação investe pesadamente em armamento de IA, ou estará em desvantagem em relação aos chineses e russos, que já estão fazendo isso.
O argumento entre esses diferentes domínios é essencialmente o mesmo: o tempo para o ceticismo da IA chegou e passou. A tecnologia moldará o futuro, quer você goste ou não. Você tem a escolha de aprender a usá-la ou ficar de fora desse futuro. Qualquer um que tente ficar no caminho da tecnologia é tão inútil quanto os tecelões manuais que resistiram aos teares mecânicos no início do século XIX.
Mito ou Realidade?
Nos últimos anos, meus colegas e eu do Centro de Ética Aplicada da UMass Boston temos estudado as questões éticas levantadas pela adoção generalizada da IA, e acredito que o argumento da inevitabilidade é enganoso.
Na verdade, essa afirmação é a versão mais recente de uma visão determinística do desenvolvimento tecnológico. É a crença de que as inovações são imparáveis quando as pessoas começam a trabalhar nelas. Em outras palavras, alguns gênios não voltam para suas garrafas. O melhor que você pode fazer é aproveitá-los para seus bons propósitos.
Essa abordagem determinística à tecnologia tem uma longa história. Ela foi aplicada à influência da imprensa, bem como à ascensão dos automóveis e da infraestrutura que eles exigem, entre outros desenvolvimentos. Mas acredito que, quando se trata de IA, o argumento do determinismo tecnológico é exagerado e simplificado demais.
A IA em Diferentes Campos
Considere a alegação de que as empresas não podem se dar ao luxo de ficar de fora do jogo da IA. Na verdade, ainda não foi feito o caso de que a IA está proporcionando ganhos significativos de produtividade para as empresas que a usam. Um relatório do The Economist em julho de 2024 sugere que, até agora, a tecnologia quase não teve impacto econômico.
O papel da IA no ensino superior também ainda é uma questão muito aberta. Embora as universidades tenham, nos últimos dois anos, investido pesadamente em iniciativas relacionadas à IA, as evidências sugerem que elas podem ter se precipitado. A tecnologia pode servir como uma ferramenta pedagógica interessante, como criar um chatbot Plato que permita que os alunos tenham uma conversa de texto com um bot se passando por Platão.
Mas a IA já está começando a substituir algumas das melhores ferramentas que os professores têm para avaliação e para desenvolver o pensamento crítico, como tarefas de escrita. A redação da faculdade está indo pelo caminho dos dinossauros, à medida que mais professores desistem da capacidade de dizer se seus alunos estão escrevendo seus próprios trabalhos. Qual é o argumento de custo-benefício para desistir da escrita, uma habilidade tradicional importante e útil?
Nas ciências e na medicina, o uso da IA parece promissor. Seu papel na compreensão da estrutura das proteínas, por exemplo, provavelmente será significativo para a cura de doenças. A tecnologia também está transformando a imagem médica e tem sido útil para acelerar o processo de descoberta de medicamentos. Mas a excitação pode se tornar exagerada.
Previsões baseadas em IA sobre quais casos de COVID-19 se tornariam graves falharam redondamente, e os médicos confiam excessivamente na capacidade de diagnóstico da tecnologia, muitas vezes contra seu próprio melhor julgamento clínico. E assim, mesmo nesta área, onde o potencial é grande, o impacto final da IA não é claro.
Em segurança nacional, o argumento para investir no desenvolvimento de IA é convincente. Como os riscos podem ser altos, o argumento de que se os chineses e os russos estão desenvolvendo armas autônomas movidas a IA, os Estados Unidos não podem se dar ao luxo de ficar para trás, tem uma compra real.
Mas uma rendição completa a essa forma de raciocínio, embora tentadora, provavelmente levará os EUA a ignorar o impacto desproporcional desses sistemas em nações que são pobres demais para participar da corrida armamentista de IA. As grandes potências poderiam empregar a tecnologia em conflitos nessas nações. E, igualmente significativo, esse argumento desvaloriza a possibilidade de colaboração com adversários na limitação de sistemas militares de IA, favorecendo a corrida armamentista em detrimento do controle de armas.
Uma Abordagem Cautelosa
O levantamento do significado potencial e dos riscos da IA nesses diferentes domínios merece algum ceticismo sobre a tecnologia. Acredito que a IA deve ser adotada aos poucos e com uma abordagem diferenciada, em vez de sujeita a alegações abrangentes de inevitabilidade. Ao desenvolver essa abordagem cuidadosa, há duas coisas a ter em mente:
Primeiro, empresas e empreendedores trabalhando com inteligência artificial têm um interesse óbvio em que a tecnologia seja percebida como inevitável e necessária, já que eles ganham a vida com sua adoção. É importante prestar atenção em quem está fazendo alegações de inevitabilidade e por quê.
Em segundo lugar, vale a pena tirar uma lição da história recente. Nos últimos 15 anos, os smartphones e os aplicativos de mídia social que rodam neles passaram a ser vistos como um fato da vida — uma tecnologia tão transformadora quanto inevitável. Então, começaram a surgir dados sobre os danos à saúde mental que eles causam aos adolescentes, especialmente às meninas.
Os distritos escolares nos Estados Unidos começaram a proibir telefones para proteger a capacidade de atenção e a saúde mental de seus alunos. E algumas pessoas voltaram a usar telefones flip como uma mudança de qualidade de vida para evitar smartphones.
Após um longo experimento com a saúde mental de crianças, facilitado por alegações de determinismo tecnológico, os americanos mudaram de curso. O que parecia fixo acabou se tornando alterável. Ainda há tempo para evitar repetir o mesmo erro com a inteligência artificial, o que potencialmente pode ter consequências maiores para a sociedade.
