IA Agêntica
De human-in-the-loop à autonomia: quanto controle devemos entregar aos agentes de IA?
Dar autonomia a um agente não significa simplesmente retirar o ser humano do processo. O verdadeiro desafio é definir quais decisões podem ser delegadas, sob quais condições e com quais mecanismos de controle.
Autonomia não precisa ser uma escolha entre tudo ou nada
Nos últimos artigos, temos avançado por diferentes dimensões de uma mesma transformação. Primeiro, discutimos se as operações estão realmente preparadas para dar autonomia à inteligência artificial. Depois, a partir da jornada de Autonomous Networks do TM Forum, vimos que níveis mais elevados de autonomia dependem de uma arquitetura capaz de oferecer conhecimento e contexto para sustentar decisões.
No artigo mais recente, deixei uma pergunta que talvez seja uma das mais difíceis dessa jornada: mesmo quando um agente possui conhecimento e contexto suficientes para tomar uma decisão, quanto controle estamos realmente dispostos a entregar a ele?
A resposta mais imediata costuma colocar duas alternativas em extremos opostos. De um lado, mantemos uma pessoa participando das decisões importantes, revisando aquilo que a inteligência artificial recomenda antes que qualquer ação seja executada. De outro, imaginamos uma operação totalmente autônoma, na qual agentes identificam situações, decidem o que fazer e executam ações sem depender da aprovação humana.
Na prática, provavelmente existe um espaço muito maior entre esses dois extremos.
É nesse espaço que ganha importância o conceito de human-in-the-loop (humano no circuito de decisão), no qual a participação humana continua fazendo parte do processo e, assim, o sistema pode analisar uma situação e recomendar uma ação, mas alguém precisa validá-la antes da execução.
No primeiro caso, a participação humana faz parte do próprio fluxo de decisão, ou seja, o sistema pode analisar uma situação e recomendar uma ação, mas alguém precisa validá-la antes da execução. À medida que a confiança aumenta, essa participação pode mudar. Em determinados cenários, o sistema passa a agir dentro de limites previamente estabelecidos enquanto pessoas acompanham seu comportamento e podem intervir quando necessário.
Essa diferença parece pequena, mas representa uma mudança importante na maneira como pensamos automação e inteligência artificial. Durante muitos anos, boa parte das automações operacionais foi construída de forma determinística, e determinada condição produz uma ação previamente definida. Podemos testar o fluxo, conhecer antecipadamente as possibilidades e estabelecer com razoável precisão aquilo que acontecerá quando cada regra for acionada.
Agentes introduzem uma dinâmica diferente, pois podem analisar contexto, escolher ferramentas, decompor problemas, formular alternativas e adaptar seus próximos passos de acordo com aquilo que encontram durante a execução. Essa flexibilidade é uma das razões pelas quais a IA agêntica é tão promissora, mas também é o que torna insuficiente tratar sua autonomia como se estivéssemos simplesmente liberando mais um workflow.
Essa preocupação ganha outra dimensão em ambientes críticos. Uma recomendação inadequada apresentada a um especialista pode ser identificada antes de produzir consequências. A mesma decisão, quando associada à capacidade de alterar configurações, reiniciar componentes, bloquear recursos ou interferir em serviços, passa a representar um risco operacional diferente.
Isso não significa que agentes devam permanecer indefinidamente limitados a produzir recomendações. Se fizermos isso, podemos deixar de capturar uma parte importante do valor prometido pela IA agêntica. Significa que autonomia precisa ser tratada como uma capacidade progressiva, conquistada de acordo com o risco, a previsibilidade e a confiança acumulada em cada cenário.
Essa lógica se aproxima bastante da própria jornada de Autonomous Networks. O TM Forum não trata autonomia simplesmente como ausência de seres humanos. Sua taxonomia descreve uma evolução na qual sistemas assumem progressivamente percepção, análise, decisão e execução, e o salto para L4 envolve operações orientadas por intenção, análise preditiva e closed loops com níveis significativamente maiores de autonomia. Hoje, a própria organização reconhece que a maioria das operadoras ainda se encontra entre L2 e L3, embora algumas já avancem para L4 em domínios específicos.
Nem toda decisão deveria receber o mesmo nível de autonomia
Imagine duas situações relativamente simples. Na primeira, um agente identifica uma condição conhecida, cuja causa já foi confirmada diversas vezes, e recomenda uma ação padronizada, reversível e de baixo impacto. Na segunda, identifica uma combinação inédita de sinais envolvendo diferentes sistemas e propõe uma alteração que pode afetar milhares de usuários.
Seria difícil justificar que as duas decisões recebessem exatamente o mesmo nível de autonomia.
Essa diferença nos leva a um ponto importante: a autonomia deveria estar associada ao risco da decisão, e não apenas à capacidade técnica do agente que a executa.
Mesmo um agente extremamente competente pode encontrar situações para as quais existe pouca evidência, contexto incompleto ou consequências difíceis de antecipar. Por outro lado, ações suficientemente conhecidas, observáveis e reversíveis podem ser boas candidatas a níveis maiores de automação.
Na prática, isso sugere uma evolução gradual, assim, um agente pode começar apenas observando e explicando aquilo que encontrou. Depois, pode recomendar ações para aprovação humana. À medida que seus resultados são avaliados, determinadas classes de decisão podem ser autorizadas dentro de condições específicas. Somente quando confiança, evidências e mecanismos de controle forem suficientes faria sentido ampliar novamente esse espaço de atuação.
A analogia com a evolução de um profissional menos experiente ajuda a compreender esse processo. Quando alguém ingressa em uma operação crítica, não recebe imediatamente todas as permissões disponíveis apenas porque possui conhecimento técnico. Inicialmente acompanha procedimentos, aprende as particularidades daquele ambiente e trabalha sob supervisão. Conforme demonstra competência e experiência, passa a assumir decisões de maior impacto.
Com agentes, a lógica pode ser semelhante, mas existe uma diferença fundamental, pois a confiança não pode ser apenas uma percepção subjetiva de que “a IA está funcionando bem”. Ela precisa ser sustentada por evidências.
Isso significa observar quais recomendações foram produzidas, quais ações foram executadas, em que contexto ocorreram, qual foi o resultado e se houve consequências não previstas. Significa também conseguir reconstruir posteriormente por que determinada decisão foi tomada e quais informações estavam disponíveis naquele momento.
É aqui que guardrails, políticas, permissões, auditoria e observabilidade da própria IA deixam de ser elementos periféricos e passam a fazer parte da arquitetura operacional.
Guardrails podem estabelecer aquilo que um agente está autorizado a fazer, quais sistemas pode acessar, quais ações exigem aprovação e quais condições devem interromper uma execução. Políticas podem incorporar critérios relacionados a risco, criticidade e impacto. Registros de auditoria permitem reconstruir decisões, enquanto mecanismos de observabilidade ajudam a acompanhar o comportamento dos agentes durante a operação.
Não se trata apenas de impedir erros. Esses mecanismos podem permitir aumentar a autonomia com segurança.
Há ainda uma questão que tende a ganhar importância à medida que agentes deixam de apenas recomendar e passam a agir sobre infraestrutura e serviços: quem responde pelas decisões tomadas pela IA?
Essa pergunta não pode ser resolvida apenas tecnologicamente. Envolve governança corporativa, responsabilidades, segurança, compliance e um ambiente regulatório que ainda está evoluindo. O próprio TM Forum vem discutindo a necessidade de uma camada de enforcement capaz de controlar e comprovar como sistemas de IA se comportam enquanto executam ações, especialmente em infraestruturas críticas e ambientes regulados.
Por isso, entregar autonomia não significa abdicar de controle, e sim deslocar parte desse controle da aprovação manual de cada ação para uma arquitetura capaz de definir antecipadamente o que pode ser feito, por quem, em quais circunstâncias e dentro de quais limites.
O objetivo não é retirar pessoas da operação, mas mudar onde elas agregam valor
Quando falamos em operações autônomas, existe uma tendência natural de medir o avanço pela redução da intervenção humana. Quanto menos pessoas participarem de uma atividade, mais autônoma ela parecerá. Embora essa relação tenha algum fundamento, ela pode levar a uma interpretação limitada do objetivo dessa transformação.
O valor da autonomia não está simplesmente em retirar pessoas dos processos, mas em deixar de utilizar especialistas para executar continuamente tarefas que sistemas podem realizar com segurança, permitindo que concentrem sua atenção em situações nas quais julgamento, experiência, criatividade ou responsabilidade humana continuam sendo importantes.
Em um NOC, por exemplo, uma parcela significativa do esforço pode ser consumida pela análise repetitiva de alarmes, busca de informações em diferentes ferramentas, identificação de relações já conhecidas e execução de procedimentos recorrentes. À medida que sistemas passam a assumir essas atividades, o papel das pessoas pode migrar da execução de cada etapa para a definição de políticas, tratamento de exceções, investigação de situações inéditas e supervisão da própria inteligência que passa a participar da operação.
Isso também muda a forma como deveríamos pensar o human-in-the-loop. Em vez de perguntar simplesmente se haverá ou não uma pessoa no processo, talvez seja mais útil perguntar onde a participação humana produz valor suficiente para justificar sua presença.
Em determinados cenários, isso poderá continuar acontecendo antes da ação. Em outros, a supervisão poderá ocorrer durante a execução ou posteriormente, por meio da análise dos resultados. Haverá ainda situações suficientemente conhecidas e controladas nas quais a participação humana em cada ocorrência deixará de ser necessária, embora políticas, auditoria e mecanismos de interrupção continuem presentes.
Não existe, portanto, um nível ideal de autonomia que possa ser aplicado indistintamente a toda a operação. Existe uma combinação entre cenário, risco, contexto, confiança e mecanismos de controle que determina quanto espaço de decisão pode ser entregue aos agentes em cada momento.
E essa combinação não é permanente, e à medida que o ambiente muda, novos agentes são incorporados, modelos evoluem e processos são modificados, decisões anteriormente consideradas seguras podem precisar ser reavaliadas. A governança da autonomia também precisa ser dinâmica.
Talvez esse seja um dos pontos mais importantes dessa discussão. Durante muito tempo, governança foi percebida principalmente como algo que restringia aquilo que sistemas e pessoas poderiam fazer. Em operações agênticas, ela pode assumir um papel diferente e ser o mecanismo que permite ampliar a autonomia sem perder controle sobre suas consequências.
O objetivo não deveria ser chegar rapidamente a uma operação sem pessoas. Deveria ser construir uma operação capaz de decidir, com evidências, onde a participação humana continua necessária e onde a autonomia já pode produzir melhores resultados.
O desafio não será simplesmente decidir se confiamos ou não na inteligência artificial. Será construir mecanismos que permitam saber em que podemos confiar, até onde e sob quais condições.
E isso talvez seja uma definição mais útil de maturidade para operações verdadeiramente autônomas.
Da visão à prática: ARGUS
Existe uma conexão importante entre essa discussão e aquilo que temos desenvolvido no ARGUS.
Antes que uma decisão possa ser executada com maior autonomia, é necessário compreender o que está acontecendo na operação. O ARGUS conecta informações provenientes de múltiplas fontes, correlaciona sinais e permite incorporar regras e interdependências específicas do ambiente, ajudando a construir o contexto operacional que antecede uma decisão.
Esse contexto pode ser utilizado inicialmente para apoiar especialistas na investigação e validação de ações e, progressivamente, também por automações e agentes de IA. A evolução do nível de autonomia pode então acontecer sobre uma base mais consistente, preservando a possibilidade de estabelecer regras, limites e participação humana de acordo com a criticidade de cada cenário.
O ARGUS não determina, sozinho, quanto controle uma organização deve entregar à IA. Seu papel é ajudar a construir uma das condições necessárias para que essa decisão possa ser tomada de forma mais segura: uma compreensão contextualizada daquilo que está acontecendo antes de agir.
Conheça o ARGUS e veja como funciona na prática.
Sobre o autor
Paulo Florêncio de Menezes é cofundador da Target Solutions e atua há mais de 15 anos em projetos relacionados a infraestrutura, monitoramento, observabilidade, automação e operações de TI e Telecom.
É graduado em Processamento de Dados pela Universidade Federal do Amazonas (UFAM), possui MBA em Gestão Empresarial pela Fundação Dom Cabral (FDC) e Mestrado Profissional em Economia pela Fundação Getulio Vargas (FGV).
Em sua pesquisa de Mestrado, desenvolveu o IBEOP-IA (Índice Brasileiro de Exposição Ocupacional Potencial à Inteligência Artificial), investigando a exposição potencial das ocupações brasileiras às capacidades da IA por meio da combinação de dados ocupacionais, patentes de inteligência artificial e técnicas de processamento de linguagem natural.
Sobre a Target Solutions
A Target Solutions é uma empresa brasileira de tecnologia especializada em soluções para ambientes críticos de TI e Telecom.
Ao longo de mais de 15 anos, participamos de projetos envolvendo infraestrutura, monitoramento, observabilidade, automação, integração de plataformas e operações de redes e serviços, trabalhando com grandes organizações e ambientes de alta complexidade.
Essa experiência nos permitiu acompanhar de perto a evolução das operações: do monitoramento tradicional à observabilidade, da automação à AIOps e, agora, aos primeiros passos em direção a operações cada vez mais orientadas por inteligência artificial.
É nesse contexto que desenvolvemos o ARGUS, nossa plataforma AIOps para correlação de eventos, redução de ruído e construção de contexto operacional a partir de múltiplas fontes.