La inteligencia artificial está dejando de ser únicamente una herramienta de apoyo para convertirse en un participante cada vez más relevante en la toma de decisiones empresariales. A principios de 2026, los CEOs estimaban que la IA ya intervenía en el 25% de las decisiones operativas de sus organizaciones y esperan que esta proporción alcance el 48% para 2030, según el estudio The Calculus of AI Sovereignty del IBM Institute for Business Value.
Este avance plantea una cuestión que comienza a trascender a los departamentos de tecnología para llegar a las áreas de negocio y a los consejos de administración: ¿quién debe responder cuando una decisión tomada o recomendada por una IA genera una pérdida económica, discrimina a una persona, utiliza información incorrecta o afecta a un cliente?
Para Liliana Palestina, CTO de Bluetab México, la respuesta parte de un principio fundamental: la tecnología puede ejecutar o recomendar una decisión, pero la responsabilidad permanece en la organización. “La IA no tiene criterio ni empatía, por lo que las empresas deben mantener la responsabilidad y supervisión sobre las decisiones en las que intervienen. La IA es una herramienta y, cuando una decisión automatizada afecta a un cliente, es fundamental contar con mecanismos claros de control, trazabilidad y supervisión humana.”
El análisis de Bluetab (by IBM), compañía internacional especializada en IA y Big Data, aborda precisamente la responsabilidad de las empresas ante las decisiones tomadas por estos sistemas, el riesgo de las “cajas negras”, cómo auditar sus decisiones y qué procesos nunca deberían automatizarse por completo.
Un reciente estudio de IBM revela que solo el 10% de los ejecutivos comprende completamente de qué proveedores, modelos e infraestructuras depende su IA, lo que genera una preocupante brecha de control. En tanto, solo el 9% de los ejecutivos a nivel global afirma tener un conocimiento excelente de las dependencias de IA de su organización, mientras que el 71% señala que cambiar de proveedor o modelo principal sería difícil.
El riesgo de la “caja negra”
Actualmente, la IA puede participar en actividades que van desde aprobar determinados créditos y optimizar rutas logísticas hasta recomendar productos. Sin embargo, cuando la automatización alcanza decisiones relacionadas con personas —por ejemplo, contratación, acceso a financiamiento o atención médica— aumenta el riesgo de reproducir errores o sesgos a escala.
Ahí aparece el denominado problema de la “caja negra”: entra información y sale una decisión, pero la organización no necesariamente puede explicar cómo se llegó a ella. Esta opacidad representa un desafío creciente para las empresas que dependen cada vez más de sistemas automatizados para operar.
El análisis de Bluetab subraya que, ante este escenario, las organizaciones deben mantener mecanismos claros de control, trazabilidad y supervisión humana sobre las decisiones en las que interviene la inteligencia artificial, especialmente cuando estas impactan directamente a las personas.
Imagen: Foto de Pavel Danilyuk en Pexels
