A IA generativa cresceu extremamente rápido, atraindo investimentos e despertando o interesse e a criatividade dos desenvolvedores. As empresas veem a IA generativa como uma rota para construir serviços inovadores e revolucionar seus setores.
No entanto, embora os desenvolvedores estejam interessados em construir com IA generativa, o desafio é como ir além dos testes iniciais para a execução em escala. Eles agora estão trabalhando em problemas sobre como integrar e gerenciar seus projetos para que os esquemas piloto possam passar para a produção. Esta é uma experiência comum em novos projetos de tecnologia, à medida que eles deixam de ser ilhas de experimentação para se tornarem uma integração generalizada entre organizações. Esta proliferação pode introduzir desafios de governança e escalabilidade se estes não forem considerados cedo.
Governança e IA generativa
À medida que você avança da experimentação para a produção, obter a abordagem correta para a governança é essencial. Para abraçar o potencial transformador da IA generativa, é crucial equilibrar o entusiasmo com a governança eficaz. Embora a IA generativa aproveite o poder dos dados e da propriedade intelectual de uma organização, seu rápido crescimento pode interromper processos estabelecidos. Sem diretrizes, defensores e aplicadores claros, a confusão e os riscos podem aumentar.
Criar uma equipe central que habilite e trabalhe em todos os departamentos é a melhor abordagem. Não importa se você a chama de centro de excelência (CoE) ou comunidade de prática (CoP), essa equipe desempenhará um papel fundamental na criação de regras e processos comuns sobre como a IA generativa é usada.
Ao mesmo tempo, sua abordagem deve envolver representantes de vários departamentos, para que sua equipe esteja diretamente conectada ao que o negócio precisa. Isso dará a eles as habilidades e o suporte de que precisam para resolver problemas de negócios e ajudará a equipe a evitar focar especificamente em questões como privacidade e segurança sozinha. Pense em seu CoE de IA generativa como uma equipe implantando em campo ajudando a entregar resultados de negócios, em oposição a um departamento isolado apenas lançando decretos como raios do Monte Olimpo.
Para um CoE, há três responsabilidades principais: policiamento, ensino e arbitragem. Essas três áreas são essenciais para que todos entendam, para que todas as suas ações e escolhas sejam voltadas para os mesmos objetivos.
A polícia do CoE: liderança, execução e automação
O policiamento de novas iniciativas tecnológicas envolve a criação de um pequeno conjunto de padrões comuns que devem governar todas as equipes participantes. Para projetos de IA generativa, isso pode incluir a criação de abordagens consistentes para gerenciar receitas de prompt, desenvolvimento e teste de agentes e acesso a ferramentas e integrações de desenvolvedores. Essas regras devem ser leves, para que a conformidade seja fácil de ser alcançada, mas também devem ser aplicadas. Com o tempo, essa abordagem reduz qualquer desvio dos padrões que foram projetados e reduz as despesas gerais de gerenciamento e a dívida técnica.
Por exemplo, essas regras são necessárias para gerenciar o uso de dados em projetos. Muitos projetos de IA generativa envolverão o manuseio e a implantação de dados do cliente, então como isso deve ser implementado na prática? Quando se trata de informações pessoalmente identificáveis (PII) dos clientes e da propriedade intelectual (IP) da empresa, esses dados devem ser mantidos seguros e separados de qualquer modelo de linguagem grande (LLM) subjacente, ao mesmo tempo em que permitem que sejam usados em projetos. PII e IP podem ser implantados e fornecer contexto adicional valioso por meio de engenharia rápida , mas não devem estar disponíveis para o LLM usar como parte de qualquer retreinamento ou retenção.
A melhor abordagem em torno da governança é ser pragmático. Isso pode envolver escolher suas batalhas cuidadosamente, pois ser pesado ou excessivo na aplicação de regras pode atrapalhar suas equipes e como elas trabalham, bem como aumentar os custos associados à conformidade. Ao mesmo tempo, haverá casos em que seu trabalho será necessário e envolverá o fechamento de experimentos onde eles arriscam a privacidade, ou arriscam o uso ético de dados, ou custariam muito ao longo do tempo. O objetivo geral é evitar impor padrões incômodos ou sufocar o entusiasmo, e se concentrar em como incentivar as melhores práticas como padrão.
Para aproveitar ao máximo a IA generativa, seu CoE deve ser acessível e incentivar a experimentação em todo o negócio. Fornecer barreiras de proteção para começar pode ajudar as equipes a ganhar experiência na construção de serviços de IA generativa, receitas de prompt ou agentes automatizados. Com o tempo, você pode remover alguns dos controles mais rigorosos. Quando as equipes tiverem mais experiência, você pode ajudá-las a construir seus próprios agentes e enviar ideias de receitas de prompt. Como os aplicativos de IA generativa tendem a ser modulares em design, você pode aplicar a mesma abordagem de controle, monitoramento e avaliação de valor em componentes comuns também.
O objetivo do CoE deve ser fornecer camadas de controle que facilitem a adoção e a construção, em vez de interromper os projetos.
Os professores do CoE: Boas práticas e comunidade
É aqui que o seu CoE passa a maior parte do tempo. Projetos de IA generativa podem incluir várias maneiras diferentes para os usuários interagirem. Desde a criação de listas de prompts que podem entregar ótimos resultados de LLMs até agentes interativos e autônomos com todos os recursos que podem processar transações completas, a ideia é fornecer mais valor aos usuários nas maneiras que melhor lhes convêm.
Para implementar esses tipos de projetos de forma eficaz, as organizações precisam primeiro capacitar suas equipes sobre como construir os serviços e, então, como escalá-los. Além de definir os padrões envolvidos e aplicá-los, seu CoE também deve criar e compartilhar as melhores práticas e princípios para orientar novas equipes e promover o compartilhamento de conhecimento. Ensinar sobre IA generativa e seu potencial será necessário para dar suporte à aceitação e ajudar as pessoas a experimentar.
É importante entender que esses princípios não são padrões. Embora os padrões existam para fornecer uma linha de base para a atividade e como itens como dados são processados, os princípios fornecem uma estrutura de orientação sobre como desenvolver esses padrões. Por exemplo, você pode ter um padrão para proteger PII do cliente, mas seus princípios determinarão como você usa e trabalha com esses dados PII para criar valor para o usuário e o negócio. Esses princípios permitem que diferentes equipes experimentem e realizem diferentes abordagens em torno do desenvolvimento do agente.
Para o CoE, criar uma função que explore o potencial da IA generativa e compartilhe amplamente essas melhores práticas é essencial. Essa posição de evangelista de IA gen pode ajudar as equipes a entender os agentes e ferramentas que podem usar, iterar suas ideias e compartilhar conhecimento de outras equipes também. Com o tempo, isso deve promover uma comunidade forte internamente que é encorajada a compartilhar suas experiências e seus sucessos uns com os outros, ajudando todos a progredir em seus projetos mais rapidamente.
O árbitro do CoE: mediação e tomada de decisões
Em qualquer área da tecnologia, há várias maneiras de chegar a um resultado final ou objetivo de negócios. É inevitável que as pessoas discordem sobre a melhor abordagem dentre todas as opções disponíveis. Na IA generativa, tópicos como usar geração aumentada de recuperação (RAG) versus ajuste fino de LLM ou conteúdo versus ajuste de modelo provocarão um debate apaixonado.
O CoE tem um papel essencial a desempenhar neste processo. A governança generativa eficaz da IA tem que envolver representantes das diferentes equipes envolvidas, permitindo a tomada de decisões mesmo diante de visões diferentes. Ao mesmo tempo, você pode ajudar a tomar decisões rapidamente sobre qual é a melhor abordagem para um determinado problema, ou onde todos os envolvidos precisam realizar alguns experimentos e trazer mais provas para respaldar seus argumentos. O principal critério aqui para o CoE é que todos devem respeitar a decisão e trabalhar para dar suporte aos objetivos do negócio.
Se quisermos que todos respeitem essas decisões, precisaremos da adesão de várias partes interessadas. O CoE pode ser percebido como uma torre de marfim se não estiver envolvido nessas iniciativas do dia a dia ou não tiver interesse no jogo. Para evitar isso, concentre-se em agir e permanecer consistente em suas decisões, pois isso ajuda a resolver disputas mais rapidamente.
Investir em IA generativa
A IA generativa tem um potencial enorme. De acordo com a Accenture, a IA generativa será usada em 40% de todas as horas de trabalho e reinventará a forma como o trabalho é feito. Para construir esses projetos, as organizações precisarão de suporte, governança e desenvolvimento de habilidades. Quando os líderes empresariais entenderem esse potencial, eles colocarão enormes quantidades de recursos em prática para fazer os projetos funcionarem. A alternativa é assistir aos concorrentes realizando esse trabalho e ficar para trás.
Criar um CoE para gerenciar IA generativa de forma eficaz aumentará as chances de sucesso para todos. Um CoE maximiza o valor dos programas de IA generativa e exige participação em torno desses objetivos. Ao acertar essa abordagem — policiando, ensinando e arbitrando em torno de programas de IA generativa — o CoE de IA generativa pode estimular poderosamente a adoção e o crescimento, alinhando as partes interessadas de TI e negócios.
