La IA explicable gana terreno para auditar decisiones algorítmicas en empresas latinoamericanas

La inteligencia artificial explicable (XAI) empieza a ocupar un lugar central en la agenda de las empresas a medida que los modelos dejan de limitarse a automatizar tareas y pasan a influir en decisiones operacionales y estratégicas. El desafío ya no es únicamente obtener una recomendación, sino comprender qué variables ponderó el algoritmo, por qué llegó a una conclusión y cuáles son sus límites, con la decisión final bajo supervisión humana.

Durante los últimos dos años, la irrupción de la IA generativa se asoció a mejoras de productividad por su capacidad para automatizar tareas y producir contenidos. Ese salto de adopción abrió una discusión menos visible, pero cada vez más relevante para la gestión: cómo interpretar las sugerencias de sistemas que pueden resultar convincentes y veloces, pero que no siempre exponen el razonamiento detrás de sus resultados.

En ese marco, XAI busca abrir la llamada “caja negra” de los modelos. En términos prácticos, el enfoque apunta a que una herramienta no solo entregue una respuesta, sino que también permita identificar qué información consideró, qué factores tuvieron mayor peso y por qué esa combinación derivó en una recomendación específica. La trazabilidad de esas variables cobra valor cuando la salida del modelo se traduce en acciones concretas dentro de un negocio.

La discusión toma dimensión regional por el crecimiento del uso de estas tecnologías en América Latina. Según el Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025, elaborado por la Cepal y el Centro Nacional de Inteligencia Artificial (Cenia), la región representa entre 15% y 20% del mercado mundial de descargas de aplicaciones de IA generativa. Sin embargo, los 19 países analizados concentran solo 1,12% de la inversión global en inteligencia artificial.

Federico dos Reis, CEO de INFORM para Latinoamérica, planteó que la precisión aparente puede resultar insuficiente cuando la IA interviene en decisiones reales. “Una IA puede entregar un resultado preciso, rápido y convincente, pero eso no significa necesariamente que sepamos si es correcto”, dijo dos Reis, CEO de INFORM para Latinoamérica.

El valor de la explicabilidad se observa con claridad en operaciones donde intervienen múltiples variables. Una compañía puede contar con inventario suficiente para cubrir pedidos y, aun así, recibir una recomendación para anticipar una compra. La alerta podría responder al aumento de los tiempos de entrega de un proveedor, a un cambio en la demanda o a una menor disponibilidad de fuentes alternativas; en lugar de una instrucción opaca, un sistema explicable permite reconocer qué factores elevan el riesgo.

Otro caso aparece en la planificación de secuencias operativas. “También importa saber si busca reducir tiempos de espera, evitar un cuello de botella, proteger un envío prioritario o liberar capacidad”, dijo dos Reis, CEO de INFORM para Latinoamérica.

Las preocupaciones también se reflejan en las organizaciones. Según una encuesta de McKinsey realizada en 2024, 40% de los encuestados identificó la explicabilidad como un riesgo relevante en el uso de IA generativa, pero solo 17% señaló que estaba trabajando activamente para mitigarlo.

La explicabilidad no vuelve infalible a la tecnología. Un modelo puede mostrar con claridad las variables utilizadas y, aun así, operar con información incompleta, objetivos inadecuados o supuestos que ya no corresponden a la realidad. En ese escenario, XAI aporta más antecedentes para evaluar una recomendación, detectar limitaciones y decidir si resulta pertinente en un contexto determinado, sin reemplazar el criterio humano.