La Capa de Juicio: Por qué la IA no es inteligente hasta que los líderes sean más inteligentes

Guillermo Delgado Aparicio es líder global de IA en Nisum.

¡Descubra las principales noticias y eventos fintech!

Suscríbase al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La IA en fintech abarca una variedad de casos de uso, desde la detección de fraudes y el trading algorítmico hasta la calificación crediticia dinámica y las recomendaciones personalizadas de productos. Sin embargo, un informe de la Autoridad de Conducta Financiera (FCA) encontró que del 75% de las empresas que usan IA, solo el 34% sabe cómo funciona.

El problema no es solo la falta de conciencia. Es un profundo malentendido del poder y el alcance del análisis de datos, la disciplina de la que surge la IA. La adopción masiva de herramientas de IA generativa ha llevado el tema a la C-suite. Pero muchos de los que eligen cómo implementar la IA no entienden sus principios subyacentes de cálculo, estadística y algoritmos avanzados.

Tomemos la Ley de Benford, un principio estadístico simple que detecta fraudes al identificar patrones en los números. La IA se basa en ese mismo tipo de matemáticas, solo que escalada a millones de transacciones a la vez. Si quitamos el hype, la base sigue siendo la estadística y los algoritmos.

Por eso la alfabetización en IA a nivel C es importante. Los líderes que no pueden distinguir dónde termina el análisis corren el riesgo de confiar demasiado en sistemas que no entienden o de subutilizarlos por miedo. Y la historia muestra lo que ocurre cuando los tomadores de decisiones interpretan mal la tecnología: los reguladores intentaron prohibir las llamadas IP internacionales, solo para ver cómo la tecnología superaba las reglas. La misma dinámica se está dando con la IA. No se puede bloquear ni adoptar ciegamente; se necesita juicio, contexto y la capacidad de dirigirla de manera responsable.

Los líderes fintech deben cerrar estas brechas para usar la IA de manera responsable y efectiva. Esto implica entender dónde termina el análisis y comienza la IA, desarrollar las habilidades para dirigir estos sistemas y aplicar un juicio sólido para decidir cuándo y cómo confiar en sus resultados.

Los límites, puntos ciegos e ilusiones de la IA

El análisis examina datos pasados y presentes para explicar qué sucedió y por qué. La IA crece sobre esa base, utilizando análisis avanzados para predecir qué sucederá después y, cada vez más, para decidir o actuar automáticamente.

Con su excepcional capacidad de procesamiento de datos, es fácil ver por qué los líderes fintech considerarían la IA como su bala mágica. Pero no puede resolver todos los problemas. Los humanos todavía tienen una ventaja innata en el reconocimiento de patrones, especialmente cuando los datos están incompletos o "sucios". La IA puede tener dificultades para interpretar los matices contextuales que los humanos captan rápidamente.

Sin embargo, es un error pensar que los datos imperfectos vuelven inútil la IA. Los modelos analíticos pueden trabajar con datos incompletos. Pero saber cuándo desplegar la IA y cuándo confiar en el juicio humano para llenar los vacíos es el verdadero desafío. Sin esta supervisión cuidadosa, la IA puede introducir riesgos significativos.

Uno de esos problemas es el sesgo. Cuando las fintech entrenan IA con conjuntos de datos antiguos, a menudo heredan el equipaje que viene con ellos. Por ejemplo, el nombre de pila de un cliente puede servir involuntariamente como un proxy de género, o el apellido puede insinuar pistas sobre el origen étnico, inclinando las calificaciones crediticias de maneras que ningún regulador aprobaría. Estos sesgos, fácilmente ocultos en las matemáticas, a menudo requieren supervisión humana para ser detectados y corregidos.

Cuando los modelos de IA se exponen a situaciones para las que no fueron entrenados, esto puede causar deriva del modelo. La volatilidad del mercado, los cambios regulatorios, la evolución del comportamiento de los clientes y los cambios macroeconómicos pueden afectar la efectividad de un modelo sin monitoreo y recalibración humanos.

La dificultad de recalibrar algoritmos aumenta drásticamente cuando las fintech usan cajas negras que no permiten visibilidad en la relación entre variables. En estas condiciones, pierden la posibilidad de transferir ese conocimiento a los tomadores de decisiones en la gerencia. Además, los errores y sesgos permanecen ocultos en modelos opacos, socavando la confianza y el cumplimiento normativo.

Lo que los líderes fintech necesitan saber

Una encuesta de Deloitte encontró que el 80% afirma que sus juntas directivas tienen poca o ninguna experiencia con IA. Pero los ejecutivos de la C-suite no pueden darse el lujo de tratar la IA como un "problema del equipo técnico". La responsabilidad de la IA recae en el liderazgo, lo que significa que los líderes fintech necesitan mejorar sus habilidades.

Fluidez analítica transversal

Antes de implementar la IA, los líderes fintech deben poder cambiar de marcha—mirando los números, el caso de negocio, las operaciones y la ética—y ver cómo esos factores se superponen y moldean los resultados de la IA. Necesitan comprender cómo la precisión estadística de un modelo se relaciona con la exposición al riesgo crediticio. Y reconocer cuándo una variable que parece financieramente sólida (como el historial de pagos) puede introducir riesgo social o regulatorio a través de la correlación con una clase protegida, como la edad o el origen étnico.

Esta fluidez en IA proviene de sentarse con los oficiales de cumplimiento para analizar las regulaciones, hablar con los gerentes de producto sobre la experiencia del usuario y revisar los resultados del modelo con los científicos de datos para detectar signos de deriva o sesgo.

En fintech, la evitación de riesgos al 100% es imposible, pero con fluidez analítica transversal, los líderes pueden identificar qué riesgos vale la pena asumir y cuáles erosionarán el valor para los accionistas. Esta habilidad también agudiza la capacidad de un líder para detectar y actuar sobre el sesgo, no solo desde un punto de vista de cumplimiento, sino desde una perspectiva estratégica y ética.

Por ejemplo, supongamos que un modelo de calificación crediticia impulsado por IA se inclina fuertemente hacia un grupo de clientes. Corregir ese desequilibrio no es solo una tarea de ciencia de datos; protege la reputación de la empresa. Para las fintech comprometidas con la inclusión financiera o que enfrentan escrutinio ESG, el cumplimiento legal por sí solo no es suficiente. El juicio significa saber lo que es correcto, no solo lo que está permitido.

Alfabetización en explicabilidad

La explicabilidad es la base de la confianza. Sin ella, los tomadores de decisiones, los clientes y los reguladores se quedan preguntándose por qué un modelo llegó a una conclusión específica.

Eso significa que los ejecutivos deben ser capaces de distinguir entre modelos que son interpretables y aquellos que necesitan explicaciones posteriores (como valores SHAP o LIME). Necesitan hacer preguntas cuando la lógica de un modelo no está clara y reconocer cuándo la "precisión" por sí sola no puede justificar una decisión de caja negra.

El sesgo no aparece de la nada; surge cuando los modelos se entrenan e implementan sin suficiente supervisión. La explicabilidad brinda a los líderes la visibilidad para detectar esos problemas temprano y actuar antes de que causen daño.

La IA es como el piloto automático de un avión. La mayor parte del tiempo funciona sin problemas, pero cuando llega una tormenta, el piloto tiene que tomar los controles. En finanzas, se aplica el mismo principio. Los equipos necesitan la capacidad de detener el trading, ajustar una estrategia o incluso cancelar el lanzamiento de un producto cuando las condiciones cambian. La explicabilidad va de la mano con la disposición para anular, lo que garantiza que los líderes de la C-suite entiendan la IA y permanezcan en control, incluso cuando opera a escala.

Pensamiento en modelos probabilísticos

Los ejecutivos están acostumbrados a decisiones deterministas, como si el puntaje crediticio está por debajo de 650, rechazar la solicitud. Pero la IA no funciona así y este es un cambio de paradigma mental importante.

Para los líderes, el pensamiento probabilístico requiere tres capacidades:

• Interpretar rangos de riesgo en lugar de resultados binarios de sí/no.
• Sopesar el nivel de confianza de una predicción frente a otras consideraciones comerciales o regulatorias.
• Saber cuándo anular la automatización y aplicar el criterio humano.

Por ejemplo, el modelo de IA probabilístico de una fintech podría marcar a un cliente como de alto riesgo, pero eso no significa necesariamente "rechazar". Puede significar "investigar más" o "ajustar los términos del préstamo". Sin este matiz, la automatización corre el riesgo de convertirse en un instrumento contundente, erosionando la confianza del cliente y exponiendo a las empresas a reacciones regulatorias.

Por qué la capa de juicio definirá a los ganadores fintech

El futuro de las fintech no lo decidirá quién tenga los modelos de IA más potentes, sino quién los use con el juicio más agudo. A medida que la IA se mercantiliza, las ganancias de eficiencia se convierten en requisitos básicos. Lo que separa a los ganadores es la capacidad de intervenir cuando los algoritmos se topan con incertidumbre, riesgo y zonas grises éticas.

La capa de juicio no es una idea abstracta. Se manifiesta cuando los ejecutivos deciden pausar el trading automatizado, retrasar el lanzamiento de un producto o anular un puntaje de riesgo que no refleja el contexto del mundo real. Estos momentos no son fallos de la IA; son la prueba de que la supervisión humana es la línea final de creación de valor.

La alineación estratégica es donde el juicio se institucionaliza. Una estrategia de IA sólida no solo establece hojas de ruta técnicas; asegura que la organización revise las iniciativas, actualice las capacidades de IA de los equipos, garantice que la empresa tenga la arquitectura de datos requerida y vincule cada implementación a un resultado comercial claro. En este sentido, el juicio no es episódico sino que está integrado en el modo operativo y permite a los ejecutivos impulsar un enfoque de liderazgo basado en valores.

Las fintech necesitan líderes que sepan equilibrar la IA para velocidad y escala, y los humanos para contexto, matices y visión a largo plazo. La IA puede detectar anomalías en segundos, pero solo las personas pueden decidir cuándo oponerse a las matemáticas, repensar suposiciones o asumir un riesgo audaz que abre la puerta al crecimiento. Esa capa de juicio es lo que convierte a la IA de una herramienta en una ventaja.

Sobre el autor:

Guillermo Delgado es el líder global de IA en Nisum y COO de Deep Space Biology. Con más de 25 años de experiencia en bioquímica, inteligencia artificial, biología espacial y emprendimiento, desarrolla soluciones innovadoras para el bienestar humano en la Tierra y en el espacio.

Como consultor de estrategia corporativa, ha contribuido a la visión de IA de la NASA para la biología espacial y ha recibido premios de innovación. Posee una Maestría en Ciencias en Inteligencia Artificial del Georgia Tech, obtenida con honores. Además, como profesor universitario, ha impartido cursos sobre machine learning, big data y ciencia genómica.