A Inteligência Artificial Generativa (GenAI) está em todo lugar. Ela promete transformar as operações de TI (ITOps) automatizando fluxos de trabalho, resolvendo problemas de produção mais rapidamente e agilizando nosso trabalho eliminando tarefas manuais. Mas essa visão do GenAI (especialmente em gerenciamento de serviços e AIOps) está cumprindo as promessas? Por trás da empolgação está uma questão fundamental sobre a natureza do próprio GenAI.
A Natureza Distinta do GenAI
Em sua essência, a GenAI opera de forma diferente da maneira como os humanos abordam a resolução de problemas. Quando os humanos raciocinam, eles começam com os primeiros princípios — verdades derivadas de compreensão e lógica profundas. A GenAI, no entanto, não cria soluções com base nesses princípios. Em vez disso, ela processa grandes quantidades de dados existentes para gerar padrões sem entender seus conceitos.
Essa distinção se torna crítica no gerenciamento de serviços e AIOps , onde precisão e exatidão não são negociáveis. Confiar em um sistema que não consegue entender o significado contextual dos dados pode levar a erros. Pior ainda, dada a sensibilidade dos dados de TI, a abordagem da GenAI levanta preocupações sobre segurança e privacidade. As equipes de TI podem confiar em uma IA que não entende completamente os dados que manipula? E como elas garantem que ela não introduzirá riscos por meio de vazamentos de dados ou imprecisões?
Com a crescente pressão para automatizar, as equipes de TI precisam de soluções que remediem as limitações inerentes do GenAI e, ao mesmo tempo, aproveitem todo o seu potencial.
Desafios da Adoção do GenAI na Produção
O GenAI tem o potencial de transformar as operações de TI, mas precisamos abordar vários desafios urgentes, particularmente em torno da precisão, segurança e automação de dados. Esses obstáculos podem limitar a eficácia do GenAI se não forem gerenciados completamente em ambientes de produção.
Problemas de Precisão e Integração de Dados
Os modelos GenAI dependem muito de dados limpos, estruturados e atualizados . Em ambientes de TI onde dados como métricas, eventos e logs são frequentemente inconsistentes, ruidosos ou incompletos, a precisão dos insights orientados por IA pode ser severamente comprometida. Conjuntos de dados fragmentados de sistemas isolados apenas adicionam complexidade, pois inconsistências entre formatos e registros de data e hora aumentam a probabilidade de erros.
AIOps e observabilidade amplificam esses desafios, exigindo processamento de dados em tempo real em fluxos de alta velocidade de várias fontes. Quando pontos de dados importantes estão ausentes ou rotulados incorretamente, o GenAI pode falhar em detectar problemas emergentes, como gargalos ou degradações de desempenho, que podem se transformar em falhas em todo o sistema.
Preocupações com Segurança e Privacidade
Como os modelos GenAI lidam com grandes quantidades de dados operacionais , eles se tornam alvos principais para ataques adversários e violações de dados. Em ambientes de produção, uma única violação de informações confidenciais pode levar a consequências operacionais, legais e financeiras severas. Os modelos GenAI são vulneráveis a entradas adversárias, onde os invasores alimentam dados manipulados para alterar o comportamento do modelo, potencialmente levando a decisões incorretas.
Automação e o Risco de Ações Imprecisas
A automação, impulsionada pela GenAI, promete resolução de incidentes mais rápida e eficiência operacional. No entanto, essa mesma automação introduz riscos se não for monitorada de perto. A GenAI pode desencadear respostas inapropriadas ou ineficazes, particularmente em ambientes de TI dinâmicos, quando interpreta mal os padrões de dados.
Questões de Confiança e Responsabilização
Um dos desafios mais significativos que enfrentamos com a GenAI é sua opacidade. Os modelos de IA geralmente operam como caixas-pretas , fornecendo conclusões sem explicações claras, o que pode corroer a confiança, especialmente durante incidentes críticos que exigem ação rápida e decisiva.
A falta de interpretabilidade não só corrói a confiança, mas também introduz preocupações com a responsabilização. Quando algo dá errado, precisamos de uma trilha de auditoria clara para entender o fluxo de decisão que levou à falha. Construir confiança em sistemas GenAI requer garantir que os insights orientados por IA sejam explicáveis e apoiados por raciocínio claro, permitindo que as equipes validem as saídas do modelo em relação ao seu entendimento e as capacitando a agir de forma decisiva e com confiança.
Como o BMC Helix Aborda Esses Desafios
Para mitigar os desafios de implementar o GenAI em ambientes de missão crítica, a BMC emprega uma abordagem multicamadas baseada em gerenciamento de dados confiável, segurança e design de modelo de IA inteligente. O BMC HelixGPT é a abordagem estratégica da BMC para IA generativa, permitindo insights simplificados e acionáveis e resoluções automatizadas em toda a plataforma BMC Helix. O BMC HelixGPT ajuda a fechar a lacuna entre a promessa do GenAI e a implementação prática, segura e eficaz em operações de TI corporativas.
Integração e Curadoria de Dados: a Base do HelixGPT
No centro da eficácia do BMC HelixGPT está a plataforma BMC Helix , que agrega e faz a curadoria de dados de observabilidade e gerenciamento de serviços em várias fontes, como topologia, métricas, logs, incidentes e alterações. Esta plataforma cria uma base confiável para que os serviços de IA prosperem.
Por meio de ingestão nativa, integrações abertas, modelagem de serviço e reconciliação de dados, a plataforma aborda os desafios de fragmentação de dados, fornecendo à GenAI informações precisas e atualizadas e melhorando a eficácia geral da automação e remediação orientadas por IA.
Uma Arquitetura de IA Composta
A arquitetura que suporta o HelixGPT consiste em uma estrutura Composite AI integrando módulos especializados de IA que operam em um pipeline para produzir saídas focadas e específicas para tarefas. Essa abordagem modular estreita o escopo do GenAI, permitindo que o HelixGPT enfrente desafios operacionais precisos em vez de gerar insights amplos e generalizados. Semelhante a como o cérebro humano processa diferentes tipos de informação, o Composite AI combina vários tipos de dados — como logs, métricas e alterações — para detectar anomalias e identificar causas raiz, fornecendo resultados mais precisos e acionáveis.
Curadoria de Dados e Capacidade de Ação
Módulos de IA, como o especialista em classificação, conduzem a curadoria de dados dentro da plataforma. Este módulo avalia dados de tíquetes para medir vários fatores críticos, incluindo a capacidade de ação do tíquete, o fator de dor humana (com base em taxas de rejeição, duração e sentimento) e o nível de risco (por exemplo, para solicitações de mudança). Esses insights permitem que o BMC HelixGPT priorize e gere saídas mais significativas e com reconhecimento de contexto.
Ajuste Fino e Iteração do Modelo
O BMC HelixGPT aprende continuamente com os resultados das resoluções que processa. Por exemplo, o sistema compara automaticamente as resoluções sugeridas por sua capacidade de recomendação de melhor ação (BAR) com aquelas registradas pelas equipes de TI. Essas informações permitem que o modelo seja refinado usando otimização de preferência direta (DPO) para gerar insights mais alinhados com as realidades práticas das operações de TI.
Além disso, o BMC HelixGPT usa feedback implícito dos resultados de processos de TI reais — como se uma ação sugerida foi seguida ou ignorada — para melhorar continuamente sua compreensão do ambiente, sem exigir intervenção humana contínua.
Fine-Tuning Específico do Locatário
Uma inovação significativa no BMC HelixGPT é a aplicação de fine-tuning específico do locatário. Ao contrário de depender apenas do conhecimento geral derivado de modelos de linguagem grandes (LLMs), o HelixGPT aprende com dados históricos específicos do locatário, incluindo logs de tickets e sessões de bate-papo. Esse treinamento especializado permite que a IA imite como especialistas humanos, como engenheiros de confiabilidade de site (SREs), diagnosticam e resolvem problemas complexos de TI.
Segurança e Privacidade de Dados
O BMC HelixGPT inclui vários mecanismos-chave projetados para proteger dados específicos do locatário, como isolamento de dados, separação de dados brutos e currículo, e conformidade com regulamentações globais. Essas práticas garantem que informações confidenciais sejam tratadas com o mais alto nível de segurança e privacidade.
Conclusão
O BMC Helix oferece uma abordagem estruturada e multicamadas para aproveitar o poder do GenAI no gerenciamento e operações de serviços de TI. Ao abordar a fragmentação de dados, integrar IA/ML para detecção de anomalias e isolamento de causa raiz e garantir segurança e privacidade, o BMC HelixGPT fornece um caminho equilibrado para o GenAI pronto para produção.
O BMC HelixGPT, com sua arquitetura de IA composta e ajuste fino específico para locatários, revoluciona o gerenciamento e a resposta tradicionais a incidentes usando processamento de dados em tempo real, insights precisos e aprendizado contínuo para gerar resultados eficazes.
