E.SUN Bank se asocia con IBM para establecer un marco de gobernanza de la inteligencia artificial en el sector bancario

El Banco E.SUN colabora con IBM para establecer normas de gobernanza de la IA más claras para las aplicaciones bancarias internas. Esta iniciativa refleja una tendencia más amplia en el sector financiero. Aunque muchas instituciones ya utilizan la IA para la detección de fraudes y la evaluación de la solvencia crediticia, y algunas para la atención al cliente, la prioridad emergente es gestionar estos sistemas de conformidad con los requisitos legales y de riesgo.

Los bancos se enfrentan a un conjunto cada vez mayor de retos a la hora de implementar la IA. ¿Cómo debe validarse un modelo antes de su lanzamiento? ¿Quién es responsable de una decisión errónea? ¿Y cómo pueden las empresas demostrar a los reguladores la imparcialidad y la seguridad del sistema?

Para abordar estas cuestiones, E.SUN Bank e IBM Consulting han desarrollado un marco específico de gobernanza de la IA para el sector bancario. Este proyecto incluye un informe técnico que describe cómo las instituciones financieras pueden implementar controles internos para la IA, adaptando normas globales como la Ley de IA de la UE y la norma ISO/IEC 42001 al contexto de los servicios financieros.

El marco detalla los procedimientos para revisar los modelos de IA antes de su implementación y para su supervisión continua una vez que están en funcionamiento. También establece directrices para el uso de datos y la realización de evaluaciones de riesgos.

E.SUN Bank ha declarado que el marco está diseñado para ayudar a las entidades financieras a integrar sistemas de IA al tiempo que se respeta la gobernanza y el cumplimiento normativo. La siguiente fase consiste en ampliar el uso de la IA desde herramientas limitadas a operaciones básicas como los préstamos y los pagos, todo ello dentro de los límites normativos establecidos.

Los bancos abordan el reto de la gestión de riesgos de la IA

Las instituciones financieras tienen razones de peso para implementar medidas de protección para la IA. La banca se basa en la confianza, y los reguladores exigen una toma de decisiones trazable. La naturaleza de «caja negra» de muchos modelos de IA, en los que la lógica detrás de un resultado no está clara, plantea riesgos en áreas como la concesión de créditos o el análisis de fraudes, lo que ha provocado un mayor escrutinio regulatorio en todo el mundo.

La Ley de IA de 2024 de la Unión Europea impone regulaciones estrictas sobre la IA de alto riesgo en sectores como el financiero, exigiendo evaluaciones de riesgos, documentación de los datos de entrenamiento y supervisión posterior a la implementación.

También están surgiendo normas globales. La norma ISO/IEC 42001, publicada en 2023, ofrece directrices para establecer sistemas de gestión de la IA en las organizaciones, centrándose en la supervisión, el control de modelos y la gestión de datos para permitir una gobernanza cohesionada de la IA en toda la empresa.

El proyecto del E.SUN Bank con IBM sintetiza elementos de ambos marcos, demostrando cómo estos principios pueden aplicarse a las actividades bancarias cotidianas.

Ampliación de la IA desde proyectos piloto a sistemas para toda la empresa

Aunque los bancos llevan mucho tiempo utilizando el aprendizaje automático para el análisis de riesgos y fraudes, los nuevos modelos de IA se están expandiendo al servicio de atención al cliente, la revisión de documentos y la gestión interna del conocimiento.

Esta expansión genera nuevas exigencias de gobernanza. Un chatbot de atención al cliente puede suponer un riesgo bajo, pero un modelo de IA que influye en la aprobación de préstamos o en la detección de fraudes conlleva importantes implicaciones financieras.

El marco de E.SUN Bank e IBM establece un proceso para gestionar estos riesgos, que abarca revisiones de modelos previas al lanzamiento, supervisión de resultados tras la implementación y una clara asignación de responsabilidades entre los equipos de desarrollo y cumplimiento. El libro blanco adjunto detalla los pasos para clasificar los sistemas de IA por nivel de riesgo y aplicar la supervisión adecuada.

La gobernanza de la IA cobra impulso en los servicios financieros

El trabajo de E.SUN Bank refleja una tendencia global del sector en la que una gobernanza sólida se considera un requisito previo para la escalabilidad de la IA.

Los datos del sector indican una adopción generalizada de la IA en el ámbito financiero. Un informe de NVIDIA de 2024 reveló que aproximadamente el 91 % de las empresas de servicios financieros están evaluando o ya utilizan la IA, principalmente para la detección de fraudes y la modelización de riesgos. Una investigación de Deloitte muestra que más del 70 % de las instituciones financieras planean aumentar la inversión en IA, a menudo centrándose en la supervisión del cumplimiento normativo y el análisis de riesgos.

Al mismo tiempo, los reguladores están intensificando su atención, instando a los bancos a hacer un seguimiento de cómo los sistemas automatizados influyen en las decisiones críticas. Esto ha impulsado una mayor inversión en la supervisión interna, desplazando el enfoque de la mera precisión de los modelos para abarcar la procedencia de los datos, la lógica de las decisiones y el comportamiento de los modelos a largo plazo.

Cómo influirá la gobernanza en el ritmo de adopción de la IA

Es probable que el énfasis en la gobernanza determine la velocidad de la integración de la IA en la banca. Sin normas claras, muchas empresas siguen mostrándose reacias a ir más allá de proyectos piloto a pequeña escala. Un marco estructurado puede permitir la expansión de los proyectos de IA al tiempo que se cumplen las expectativas regulatorias.

Este es el objetivo principal de la iniciativa del E.SUN Bank. Al alinear los estándares globales con los flujos de trabajo bancarios, el marco proporciona un plan de acción para implementar la IA bajo una supervisión clara. IBM señaló que el marco se desarrolló para ayudar a las instituciones financieras a gestionar los riesgos de la IA a medida que crece su adopción.

Esta iniciativa pone de relieve el papel cambiante de la gobernanza en la IA empresarial. El enfoque está pasando del desarrollo inicial de modelos a la gestión continua de estos sistemas. A medida que la IA se integra en las operaciones bancarias básicas, una gobernanza eficaz puede resultar tan crucial como la tecnología subyacente.

Véase también: Manulife integra agentes de IA en los flujos de trabajo financieros básicos

¿Te interesa saber más sobre la IA y el big data de la mano de expertos del sector? Descubre la AI & Big Data Expo que se celebra en Ámsterdam, California y Londres. Este evento integral se celebra conjuntamente con otros eventos tecnológicos líderes bajo el paraguas de TechEx. Haz clic aquí para obtener más información.

AI News es una iniciativa de TechForge Media. Descubre aquí otros eventos y seminarios web sobre tecnología empresarial que se celebrarán próximamente.