Accountability en IA agéntica: ¿quién responde por el error?

Durante mucho tiempo, la responsabilidad por una decisión corporativa estuvo asociada, de alguna manera, a una persona. Incluso cuando sistemas y algoritmos apoyaban el proceso, normalmente era posible identificar quién analizó una información, aprobó una operación o autorizó determinada acción.

La IA agéntica empieza a alterar esa dinámica. Un agente puede recibir un objetivo, consultar información, utilizar herramientas, interactuar con otros sistemas y ejecutar acciones sin que una persona apruebe individualmente cada paso. A medida que esa autonomía crece, surge una pregunta que las empresas tendrán que responder de manera muy concreta: si una decisión del agente produce una consecuencia indeseada, ¿quién responde por ella?

En ese contexto cobra importancia la accountability. En este artículo, el término se refiere a la existencia de una responsabilización clara por las decisiones, acciones y consecuencias, incluida la capacidad de identificar quién tenía autoridad, quién delegó esa autoridad y quién debía supervisar su uso.

La cuestión se vuelve más urgente porque la autonomía avanza más rápido que los controles. El Applied AI Index 2026, de Boston Consulting Group (BCG), basado en una encuesta con 1.330 ejecutivos y tomadores de decisiones, muestra que las empresas esperan ampliar significativamente el poder de decisión concedido a los agentes en los próximos años [1].

Hasta 2030, el 42% de las empresas espera conceder a los agentes de IA autonomía real para tomar decisiones sin aprobación humana, pero solo el 5% cuenta hoy con el conjunto completo de controles necesarios para hacerlo con seguridad [1].

Esa diferencia no representa solo un problema técnico. Cuando una organización delega autoridad en un agente, también necesita preservar la capacidad de explicar de dónde vino esa autoridad y quién responde por las condiciones bajo las cuales se ejerció.

Cuando la decisión se delega, la responsabilidad no puede desaparecer

La primera tentación ante un error cometido por un agente puede ser buscar a quien ejecutó la acción. En los sistemas tradicionales, esa asociación suele funcionar porque el ejecutor normalmente es también una persona o una aplicación cuyo comportamiento fue definido previamente.

Con agentes, esa relación es menos directa. El agente puede haber elegido una herramienta, definido una secuencia de pasos o tomado una decisión intermedia que nadie determinó explícitamente. Aun así, alguien definió el objetivo que debía perseguir, estableció sus límites, concedió sus accesos y decidió que aquella actividad podía ejecutarse con determinado nivel de autonomía.

Deloitte sintetiza este cambio al argumentar que, cuando los agentes pasan a realizar el trabajo, la responsabilidad no pasa al agente. Permanece con las personas que crearon las condiciones de operación, establecieron los límites y decidieron cuánta autoridad se concedería al sistema [2].

Eso no significa que cualquier falla pueda atribuirse automáticamente a una única persona. Un agente corporativo puede involucrar a un área de negocio que definió su finalidad, a un equipo técnico que lo implementó, a responsables de los datos utilizados, a profesionales de seguridad y riesgo que establecieron controles y, eventualmente, a proveedores externos que pusieron a disposición modelos o herramientas.

La responsabilidad puede, por lo tanto, estar distribuida. El problema aparece cuando esa distribución se convierte en indefinición.

Delegar una decisión en un agente no significa delegar la responsabilidad por las consecuencias. La empresa sigue necesitando saber quién definió su finalidad, quién estableció sus límites y quién autorizó su actuación.

Deloitte Legal recomienda justamente que las organizaciones definan responsabilidades, procesos de revisión, límites de aprobación y puntos de intervención antes de implantar los agentes, involucrando de forma coordinada a las áreas jurídica, tecnológica y de negocio [3].

Hay una consecuencia importante en este cambio. Si la organización solo empieza a discutir la responsabilidad después de que un agente cause un incidente, probablemente estará intentando reconstruir decisiones que debieron haberse definido antes.

La accountability depende de poder reconstruir la cadena de la decisión

Saber formalmente quién es el responsable de un agente es necesario, pero no suficiente. Cuando algo sale mal, la empresa necesita poder reconstruir lo que ocurrió.

Imagine un agente autorizado a analizar una situación operativa y ejecutar determinadas acciones. Durante su actuación, consulta datos, utiliza una herramienta, llama a otro agente y toma una secuencia de decisiones intermedias antes de llegar al resultado final. Si la consecuencia es inadecuada, identificar solo la última acción ejecutada ofrece una visión incompleta del problema.

Será necesario comprender qué objetivo se había asignado al agente, qué permisos estaban disponibles, qué información se utilizó, qué herramientas se activaron, qué decisiones ocurrieron a lo largo del proceso y de dónde vino la autoridad para ejecutarlas.

BCG sostiene que los sistemas corporativos deberían poder identificar no solo al agente que realizó determinada acción, sino también a la persona, proceso o instancia de gobernanza en nombre de la cual actuaba. La delegación debe permanecer trazable a lo largo de la cadena, incluso cuando un agente llama a otras herramientas o agentes [4].

Esa trazabilidad es especialmente importante porque los registros tradicionales no siempre fueron concebidos para este tipo de operación. Un sistema puede registrar la credencial utilizada para realizar una llamada y, aun así, no revelar que esa acción correspondía a una etapa de un flujo de trabajo iniciado antes, bajo una delegación específica.

La accountability exige más que saber qué agente ejecutó la última acción. Hace falta poder reconstruir la cadena de autoridad, decisiones, datos, herramientas y delegaciones que llevó hasta ella.

PwC sigue una dirección similar al recomendar que cada agente tenga identidad verificable, función definida, permisos específicos para la tarea y registros auditables de sus actividades [5]. Esos elementos ayudan a preservar una relación entre autonomía y responsabilidad a medida que los agentes pasan a operar en procesos cada vez más complejos.

El tema también empieza a cambiar la propia función de los gestores. Según Gartner, dejan de supervisar solo personas y tareas y pasan progresivamente a responder también por el comportamiento, los resultados y los riesgos de los agentes autónomos que actúan con sus equipos [6].

En ese mismo estudio, el 75% de los Chief Human Resources Officers (CHRO), o directores de Recursos Humanos, afirma que los gestores están más sobrecargados que nunca, lo que indica que la introducción de agentes puede aumentar, y no simplemente eliminar, parte de la complejidad de supervisión [6].

Esto ayuda a explicar por qué la accountability no puede resolverse solo agregando una aprobación humana en cada etapa. El desafío está en definir dónde debe permanecer el juicio humano, qué decisiones pueden delegarse y qué evidencias deben preservarse para que la organización siga siendo capaz de responder por las consecuencias.

Responsabilidad distribuida no puede significar responsabilidad indefinida

A medida que los agentes atraviesan distintas áreas y sistemas, difícilmente una sola función podrá controlar todos los aspectos involucrados. Negocio, tecnología, seguridad, datos, riesgo, área jurídica y proveedores pueden participar de maneras distintas en el mismo proceso.

Deloitte observa que la responsabilidad por los resultados de la IA ya está distribuida entre diferentes funciones corporativas y que esa característica tiende a permanecer. La recomendación es establecer derechos de decisión claros e identificar responsables de las dimensiones de negocio, tecnología y supervisión de riesgo, preservando también una responsabilidad final por los resultados relevantes [7].

Esta distinción es importante porque la colaboración entre áreas no elimina la necesidad de accountability. Varias funciones pueden participar en la gestión de un agente, pero la organización debe evitar una situación en la que, ante un incidente, cada una pueda señalar a otra.

BCG plantea el problema de manera muy práctica: la empresa debería poder identificar quién aprobó la implantación del agente, quién definió su propósito y sus límites, quién concedió sus accesos y quién tiene autoridad para interrumpir su actuación [4].

Este último punto merece atención. Los mecanismos de interrupción, revocación de acceso o escalamiento tienen poco valor si no está claro quién puede utilizarlos y en qué circunstancias. La accountability implica, por lo tanto, tanto responder por lo que ocurrió como tener autoridad para actuar cuando el comportamiento del agente deja de ser aceptable.

Cuanto más distribuida se vuelve la ejecución entre personas, sistemas y agentes, más explícita debe ser la cadena de responsabilidad que conecta la autonomía concedida con las consecuencias producidas.

Este quizá sea uno de los cambios menos visibles que trae la IA agéntica. La tecnología permite distribuir ejecución y decisión a una escala inédita, pero las organizaciones no pueden permitir que la responsabilidad se fragmente a la misma velocidad.

El desafío no es intentar atribuir personalidad o culpa al agente. Es construir un modelo en el que la empresa pueda demostrar quién concedió autoridad, qué límites estaban definidos, cómo se acompañó la actuación y quién tenía responsabilidad por las decisiones que permitieron esa autonomía.

La accountability, en este sentido, debe diseñarse antes que la autonomía. Intentar reconstruirla solo después de un incidente es señal de que la gobernanza llegó tarde.

De la visión a la práctica: ARGUS

Esta necesidad de relacionar autonomía, autoridad y evidencias está directamente conectada con la propuesta de ARGUS como plataforma de Inteligencia Operacional y Agéntica.

Con capacidades de AgentOps (Agent Operations) y AI Gateway, ARGUS busca permitir que la actuación de los agentes se acompañe dentro de un entorno en el que identidades, políticas, permisos, llamadas a herramientas, decisiones, costos y resultados puedan observarse y relacionarse.

Esa trazabilidad gana valor cuando deja de mostrar solo el comportamiento interno del agente y pasa a incorporar el contexto en el que ocurrió su actuación. Una decisión puede haber sido influenciada por el estado de una aplicación, por un cambio reciente, por información recibida de otro agente, por una acción humana o por eventos ocurridos en la infraestructura.

Por eso la inteligencia agéntica se conecta con el contexto operacional compartido. Al correlacionar información de múltiples fuentes, ARGUS busca ayudar a reconstruir no solo lo que hizo un agente, sino también lo que ocurría en el entorno cuando se tomó esa decisión y qué otros elementos participaron en esa cadena.

En operaciones que combinan personas, agentes, automatizaciones, aplicaciones e infraestructura, esta visión sistémica puede contribuir a la investigación de incidentes, la auditoría y la comprensión de las consecuencias de una decisión. A medida que la autonomía aumenta, preservar ese contexto deja de ser solo una cuestión de observabilidad y pasa a formar parte de la propia capacidad de responsabilización.

Conozca ARGUS y vea cómo funciona en la práctica.

Sobre el autor

Paulo Florêncio de Menezes es emprendedor, socio y cofundador de empresas como Target Solutions, BiPTT y ARGUS.

Es graduado en Procesamiento de Datos por la Universidad Federal de Amazonas (UFAM), tiene un MBA en Gestión Empresarial por la Fundação Dom Cabral (FDC) y una Maestría Profesional en Economía por la Fundação Getulio Vargas (FGV).

En su investigación de Maestría, desarrolló el IBEOP-IA (Índice Brasileño de Exposición Ocupacional Potencial a la Inteligencia Artificial), investigando la exposición potencial de las ocupaciones brasileñas a las capacidades de la IA mediante la combinación de datos ocupacionales, patentes de inteligencia artificial y técnicas de procesamiento de lenguaje natural.

Referencias

[1] Boston Consulting Group. The Formula for Agentic AI Value --- Applied AI Index 2026. 30 sep. 2026.

[2] Deloitte. How AI Is Making Engineering the New Enterprise Core. 2026.

[3] Deloitte Legal. When AI acts on its own, who is responsible for mistakes? 25 jun. 2026.

[4] Boston Consulting Group. The Authorization Gap: Why Yesterday’s Controls Won’t Work with Today’s Agents. 22 sep. 2026.

[5] PwC. AI agents as workforce counterparts---what governance should look like. 17 jul. 2026.

[6] Gartner. How Agentic AI Is Reshaping Manager Oversight. 6 may. 2026.

[7] Deloitte. Rethinking the CISO role for an AI-saturated enterprise. 3 sep. 2026.