Estrategia de Riesgo: cuándo no usar agentes de IA en producción

Cuándo no usar agentes de IA es la principal decisión arquitectónica que los CTOs y directores de TI deben tomar al diseñar sistemas corporativos en 2026. La adopción precipitada de autonomía sistémica sin las salvaguardas adecuadas expone a las organizaciones a graves riesgos financieros, operativos y de seguridad.

Para los líderes técnicos, la línea entre la innovación y la negligencia arquitectónica se ha vuelto muy fina. Con el lanzamiento de modelos de frontera con capacidades nativas de navegación y ejecución, la presión por la automatización total ha aumentado. Sin embargo, la madurez de la ingeniería de software exige una mirada crítica sobre los riesgos de los agentes autónomos.

Lo que define a un agente autónomo (vs. asistente)

Antes de decidir no utilizarlos, es vital establecer la taxonomía correcta. A diferencia de un asistente virtual tradicional —que procesa una entrada, genera una respuesta y espera la validación humana—, un agente autónomo opera en ciclos continuos de percepción, planificación y ejecución de herramientas (tool use) sin interrupción.

Agencia Excesiva (Excessive Agency) es una vulnerabilidad crítica clasificada por la versión actualizada del framework global OWASP Top 10 para Aplicações de LLM e IA Generativa (LLM06:2025), que advierte a los CTOs sobre los riesgos de conceder permisos ilimitados, autonomía exagerada y funcionalidad indiscriminada a agentes que utilizan herramientas de terceros sin supervisión.

El nivel de autonomía alcanzado por los modelos actuales exige cautela. El “GPT-5.5 System Card”, publicado por OpenAI el 23 de abril de 2026, demuestra que el sistema pasó por intensos procesos de “red-teaming” (evaluación de ciberseguridad y límites biológicos) antes de que el modelo fuera habilitado para navegar autónoma y directamente por herramientas informáticas para completar tareas sin interrupciones.

Entender la diferencia fundamental entre estos enfoques es el primer paso. Para profundizar, consulte nuestro análisis sobre agente vs asistente vs chatbot.

Los 5 escenarios donde NO usar agentes autónomos

La evaluación de agentes de IA debe basarse en criterios rigurosos de ingeniería y negocio. A continuación, detallamos los cinco escenarios donde la implementación de agentes autónomos debe evitarse o restringirse severamente.

1. Cuando la tarea exige explicabilidad regulatoria exacta

Los sistemas basados en LLMs son inherentemente probabilísticos. Si su caso de uso exige un rastro de auditoría determinista —donde cada decisión pueda ser probada matemática o lógicamente paso a paso—, los agentes autónomos no son la solución adecuada.

Sectores como la salud (historiales médicos), las finanzas (concesión de crédito) y el ámbito legal exigen una explicabilidad total. Aunque la Autoridad Nacional de Protección de Datos (ANPD) aún no ha publicado documentación oficial con sanciones específicas y exclusivas para “agentes autónomos” en Brasil hasta el momento, los principios de gobernanza y responsabilidad de la LGPD (como el Art. 20, sobre la revisión de decisiones automatizadas) siguen siendo aplicables. La opacidad del razonamiento en cadena (Chain-of-Thought) de un agente dificulta el cumplimiento estricto. En estos casos, priorice la gobernanza de modelos de IA corporativa con humanos al mando.

2. Cuando el costo de un error es irreversible

Los riesgos de los agentes autónomos en producción son exponenciales cuando están conectados a APIs con efectos secundarios en el mundo real (ej: transferencias bancarias, eliminación de bases de datos, envío masivo de correos electrónicos a clientes).

Un artículo publicado el 14 de abril de 2026 por la MIT Technology Review Brasil argumenta que el uso opaco de agentes de IA para la toma de decisiones conlleva impactos reputacionales y pérdida de confianza. El riesgo para los CTOs y líderes técnicos se amplifica porque las áreas no técnicas ahora pueden utilizar estos agentes autónomos y herramientas low-code para eludir los protocolos corporativos tradicionales. Este fenómeno de “Shadow AI” agrava el peligro de errores irreversibles ejecutados por agentes sin supervisión técnica.

3. Cuando la latencia crítica en tiempo real es obligatoria

El patrón arquitectónico de los agentes (como ReAct - Reason and Act) exige múltiples llamadas de inferencia al LLM para completar una sola tarea. El agente piensa, elige una herramienta, observa el resultado y vuelve a pensar.

Este bucle iterativo añade una latencia significativa. Si su sistema requiere respuestas con latencia crítica en tiempo real (como sistemas de trading de alta frecuencia o control de maquinaria industrial), la sobrecarga de procesamiento de un agente de frontera hará inviable la operación. Las automatizaciones deterministas (RPA) o las APIs hardcoded son las opciones correctas aquí.

4. Cuando el costo de inferencia en contexto largo inviabiliza el ROI

Mantener el estado y la memoria de un agente autónomo requiere el reenvío constante del historial

Preguntas Frecuentes