Dizem que metade do dinheiro gasto em publicidade é desperdiçado, mas o problema é descobrir qual metade. Se isso for verdade, o problema é indiscutivelmente pior para a IA. Fale com pessoas profundamente envolvidas com IA e elas lhe dirão que mais de 90% do dinheiro gasto em IA é desperdício, e montanhas de dinheiro estão perseguindo esses ilusórios 10% porque o retorno potencial é muito bom.
A Accenture, por exemplo, reservou US$ 2 bilhões apenas neste ano para ajudar os clientes a entender a IA. A Nvidia e as nuvens continuam arrecadando dezenas de bilhões a mais também.
Claramente há muito dinheiro em IA. A pergunta para a maioria das empresas precisa ser: Quais investimentos estão funcionando e quais devem ser descartados? Embora não tenha havido uma resposta óbvia para essa pergunta, uma nova classe de software está sendo projetada para fornecer respostas. Assim como a ciência de dados nos trouxe a governança de dados, empresas como a Holistic AI fornecem governança de IA.
Esforços incipientes tentaram tratar a governança de IA como uma extensão da governança de dados, TI ou nuvem, quando na verdade ela requer sua própria abordagem única e distinta, dada a necessidade de ir muito além da avaliação de risco padrão para também incluir fatores como viés, eficácia e explicabilidade .
A importância da governança de IA
Se essa não parece ser a categoria de software mais atraente, pense desta forma: se isso ajuda as empresas a melhorar sua taxa de sucesso em IA, isso é incrivelmente atraente. As apostas são altas para a IA Sim, nossa indústria tem sua cota justa de exagero de "tendências" tecnológicas que acabam se tornando modismos vaporosos (por exemplo, Web3 , seja lá o que for). Mas a IA é diferente.
Não porque eu quero que seja, ou porque os fornecedores de IA esperam que seja, mas porque, por mais que façamos buracos nela (alucinações, etc.), ela ainda está lá. Embora a IA generativa seja uma abordagem relativamente nova da IA, a tecnologia em si é um mercado relativamente maduro e muito maior que inclui coisas como aprendizado de máquina . As empresas podem ter sido mais óbvias em sua postura em torno da IA no último ano ou dois, mas não deixe que isso o confunda. Nesta semana, conversei com uma empresa que tem um grande número de aplicativos de IA em execução, com cada um custando perto de um milhão de dólares a cada ano.
Claramente, a empresa Fortune 500 vê valor na IA. Infelizmente, nem sempre fica claro qual de suas aplicações caras está cumprindo sua promessa e quais estão introduzindo mais risco do que recompensa.
Quando uma empresa opta por construir um aplicativo de IA, ela está depositando muita fé em modelos de linguagem grandes (LLMs) ou outras ferramentas sem muita (se houver) visibilidade sobre como os modelos produzem resultados. Isso pode ser catastrófico para uma empresa se seus algoritmos forem persistentemente preconceituosos contra uma classe protegida (minorias étnicas, etc.), precificarem produtos incorretamente ou causarem outros contratempos.
Reguladores e salas de diretoria estão, portanto, prestando mais atenção à chamada " conduta de algoritmo " para garantir que a IA entregue expansão, não quebras.
Acelerando a adoção da IA com governança
Já se tornou tedioso revisar os LLMs mais novos. Quase diariamente, a Meta supera a OpenAI, que supera a Google, que supera qualquer empresa com capacidade de investir bilhões em infraestrutura e P&D em desempenho de modelo.
E no dia seguinte, todos eles alternam qual empresa afirma ser a mais rápida naquele dia. Quem se importa? No agregado, isso importa porque as empresas estão obtendo melhor desempenho a um custo menor, mas nada disso importa se essas mesmas empresas não conseguem desenvolver os modelos com confiança.
Para obter verdadeira velocidade de negócios por meio da IA, as empresas precisam de total visibilidade e controle em todos os projetos de IA. A IA holística, por exemplo, integra-se perfeitamente com todos os dados comuns e sistemas de IA.
Melhor ainda, ela descobre automaticamente projetos de IA em toda a organização, simplifica o gerenciamento de inventário e oferece um painel unificado para que os executivos tenham uma visão ampla de seus ativos de IA e possam agir de acordo. Por exemplo, o software de IA holística revela potenciais riscos regulatórios e técnicos em um aplicativo específico, alertando a equipe para que a empresa possa resolver o problema antes que ele se torne embaraçoso ou caro (ou ambos).
Isso não é semelhante às ferramentas de governança de nuvem, mesmo que não seja por outro motivo, pois os riscos são muito maiores. Você pode pensar na nuvem como uma maneira inerentemente melhor e mais flexível de gerenciar ativos de hardware ou software, mas isso não necessariamente muda fundamentalmente como pensamos sobre esses conceitos (embora o serverless , por exemplo, desafie o pensamento em torno do provisionamento de infraestrutura para dar suporte a um aplicativo).
Há uma razão pela qual nos referimos à nuvem como "o computador de outra pessoa". Não é assim com a IA, que muda fundamentalmente o que é possível com software e dados, embora muitas vezes de maneiras que não podemos explicar. É por isso que precisamos de ferramentas de governança de IA como a IA holística que ajudam a aumentar a velocidade da experimentação e adoção efetivas de IA, minimizando o risco de usarmos a IA de maneiras que prejudicarão mais do que ajudarão.
Quanto mais rápido quisermos avançar na IA, mais precisaremos de guardrails por meio de sistemas de governança de IA. Novamente, não se trata de forçar as equipes a desacelerar; é uma maneira de acelerar, garantindo que menos tempo seja desperdiçado em projetos de IA arriscados e ineficazes.
