永丰银行与IBM合作，建立银行业人工智能治理框架

永丰银行正与IBM合作，为内部银行应用程序制定更明确的人工智能治理规则。这一举措反映了金融业的一个更广泛趋势。虽然许多机构已经利用人工智能进行欺诈检测和信用评分，部分机构还将其应用于客户服务，但当前的新重点在于确保这些系统在管理上符合法律和风险要求。

银行在部署AI时面临着日益增多的挑战。模型在上线前应如何进行验证？错误决策的责任应由谁承担？企业又该如何向监管机构证明系统的公平性和安全性？

为解决这些问题，永丰银行与IBM咨询公司共同开发了一套专为银行业设计的AI治理框架。该项目包含一份白皮书，阐述了金融机构如何针对AI实施内部控制，并将《欧盟AI法案》和ISO/IEC 42001等全球标准适配于金融服务领域。

该框架详细规定了AI模型部署前的审查流程，以及上线后的持续监控机制，同时确立了数据使用规范和风险评估指南。

E.SUN银行表示，该框架旨在帮助金融机构在整合AI系统的同时，确保治理与合规。下一阶段将推动AI应用从有限工具扩展至贷款和支付等核心业务，且所有操作均在既定的监管框架内进行。

银行应对AI风险管理挑战

金融机构有充分理由为人工智能设置防护措施。银行业依赖于信任，且监管机构要求决策过程可追溯。许多人工智能模型具有“黑箱”性质，其结果背后的逻辑不明，这在信贷审批或欺诈分析等领域带来了风险，促使全球监管机构加强审查。

欧盟2024年《人工智能法案》对金融等行业的高风险人工智能实施了严格监管，要求进行风险评估、记录训练数据并实施部署后监控。

全球性标准也在逐步形成。2023年发布的ISO/IEC 42001标准为建立组织AI管理体系提供了指导方针，重点关注监督、模型监控和数据管理，以实现全企业范围的协同AI治理。

E.SUN银行与IBM的合作项目融合了这两个框架的要素，展示了如何将这些原则应用于日常银行业务。

将人工智能从试点项目扩展至全企业系统

虽然银行长期以来一直将机器学习用于风险和欺诈分析，但新一代AI模型正扩展至客户服务、文件审查和内部知识管理领域。

这种扩展带来了新的治理需求。客户服务聊天机器人可能风险较低，但影响贷款审批或欺诈检测的人工智能模型则具有重大的财务影响。

E.SUN银行与IBM的框架建立了一套管理这些风险的流程，涵盖上线前的模型审查、部署后的输出监控，以及开发和合规团队间明确的责任划分。随附的白皮书详细阐述了按风险等级对AI系统进行分类并实施适当监管的步骤。

金融服务领域的人工智能治理势头正盛

E.SUN银行的实践反映了全球行业趋势：健全的治理被视为AI规模化应用的先决条件。

行业数据显示，金融领域已广泛采用AI技术。NVIDIA 2024年的一份报告发现，约91%的金融服务公司正在评估或已开始使用AI，主要用于欺诈检测和风险建模。德勤的研究表明，超过70%的金融机构计划增加AI投资，通常针对合规监控和风险分析。

与此同时，监管机构正加大关注力度，敦促银行追踪自动化系统如何影响关键决策。这促使金融机构加大对内部监督的投入，将关注重点从单纯的模型准确性，扩展至数据溯源、决策逻辑及模型的长期行为。

治理机制将如何影响AI应用的推进速度

对治理的重视很可能决定人工智能在银行业整合的速度。若缺乏明确规则，许多企业仍会犹豫不决，不敢超越小规模试点阶段。一套结构化的框架既能推动人工智能项目的扩展，又能满足监管机构的期望。

这正是E.SUN银行倡议的核心目标。该框架通过将全球标准与银行工作流程相融合，为在明确监管下部署AI提供了蓝图。IBM指出，该框架的开发旨在帮助金融机构在AI应用日益普及的背景下管理相关风险。

这一举措凸显了治理在企业人工智能领域中不断演变的角色。关注点正从初始模型开发转向对这些系统的持续管理。随着人工智能深入嵌入核心银行业务，有效的治理可能与底层技术同样关键。

另请参阅：宏利金融将AI代理集成至核心金融工作流

想向行业专家深入了解人工智能与大数据？欢迎探索即将在阿姆斯特丹、加利福尼亚和伦敦举办的“人工智能与大数据博览会”。这场综合性盛会将与TechEx旗下的其他领先科技活动同期举行。点击此处获取更多信息。

AI News 由 TechForge Media 提供支持。点击此处查看其他即将举办的企业技术活动和网络研讨会。