Sage dio a conocer los resultados de una nueva investigación que revela que el 71% de los líderes financieros rechazarían una herramienta de IA con un 99% de precisión si no pudiera explicar sus respuestas.
El reporte: "The Emerging Economics of AI in Finance" sugiere que la explicabilidad se está convirtiendo en un requisito fundamental para la adopción de la IA en finanzas, ya que las organizaciones buscan mayor confianza, control y responsabilidad sobre los resultados generados por la IA.
Basada en una encuesta global a más de 2,000 responsables de la toma de decisiones financieras de alto nivel, la investigación encontró que más de la mitad de las organizaciones estarían dispuestas a pagar más por soluciones de IA que proporcionen mayor visibilidad sobre cómo se toman las decisiones. Los hallazgos indican que la explicabilidad se está convirtiendo en un factor cada vez más importante en la forma en que las organizaciones evalúan la IA.
"En finanzas, casi acertar siempre ha sido erróneo. A medida que la IA asume flujos de trabajo financieros más complejos, el costo de la incertidumbre es simplemente demasiado alto", afirmó Aaron Harris, CTO de Sage.
Esta investigación demuestra que la próxima era de la IA no se ganará únicamente con la inteligencia artificial pura, sino con una infraestructura de confianza. Los equipos financieros no pueden permitirse el lujo de dedicar horas a analizar minuciosamente los resultados opacos de la IA. Necesitan soluciones que aporten transparencia, control y trazabilidad a los sistemas que generan sus resultados, para poder operar con absoluta confianza.
Entre las principales conclusiones de la investigación destacan:
El auge del 'impuesto a la verificación': Los profesionales de las finanzas dedican casi 13 horas semanales a reconstruir, validar y defender los resultados de la IA.
La precisión por sí sola no es suficiente: El 71% de los líderes financieros rechazaría una herramienta con un 99% de precisión si no pudiera explicar sus respuestas, lo que indica que la auditabilidad y el seguimiento del razonamiento se están volviendo esenciales en los flujos de trabajo financieros de alto riesgo.
Los equipos financieros se están convirtiendo en la capa de confianza de la IA: Al preguntarles qué habilidades eran más importantes para un líder financiero contratado hoy, los encuestados en la región priorizaron el riesgo, la gobernanza y el criterio en la toma de decisiones (32%), valorándolos casi el doble que la contabilidad técnica avanzada (17%).
La transparencia se está convirtiendo en un factor clave para la selección de proveedores: Más de la mitad de las organizaciones (54%) pagarían un precio superior por una IA que ofrezca mayor visibilidad sobre cómo se generan los resultados, lo que indica que la explicabilidad se está convirtiendo en un requisito de adquisición, no solo en una característica del producto.
De la IA de caja negra a la IA de caja de cristal: Los hallazgos apuntan a un cambio generalizado, alejándose de los sistemas de IA tradicionales de caja negra, donde los resultados son difíciles de analizar, hacia enfoques más transparentes de caja de cristal que ofrecen visibilidad sobre el razonamiento, las fuentes y la lógica detrás de las recomendaciones generadas por la IA.
Este cambio se está convirtiendo en un requisito empresarial, no solo en una preferencia técnica. El 71% de los líderes financieros afirma que la adopción de principios de diseño de caja de cristal por parte de un proveedor mejoraría significativamente su posición como socio preferido.
Kevin Permenter, Director de Investigación de Aplicaciones Financieras en IDC, añadió: "Las organizaciones que lograrán la ventaja más duradera de la IA son aquellas que replantean la infraestructura de confianza no como una limitación para la implementación de la IA, sino como el fundamento sobre el que se construye una IA escalable. Las organizaciones tienen dos opciones: actuar con anticipación para operacionalizar la confianza o arriesgarse a verse abrumadas por la sobrecarga de verificación".
En respuesta a la creciente demanda de transparencia y auditabilidad, el enfoque de Sage para la IA en finanzas se basa en la confianza desde el diseño: una IA que los equipos financieros pueden analizar, gestionar y en la que pueden confiar, con resultados explicables y verificables, acciones controladas y trazabilidad completa de cada decisión impulsada por la IA.
