O E.SUN Bank firma parceria com a IBM para estabelecer uma estrutura de governança de IA para o setor bancário

O E.SUN Bank está colaborando com a IBM para estabelecer regras mais claras de governança de IA para aplicações bancárias internas. Essa iniciativa reflete uma tendência mais ampla no setor financeiro. Embora muitas instituições já utilizem a IA para detecção de fraudes e pontuação de crédito, e algumas para atendimento ao cliente, a prioridade emergente é gerenciar esses sistemas em conformidade com os requisitos legais e de risco.

Os bancos enfrentam um conjunto crescente de desafios ao implantar IA. Como um modelo deve ser validado antes do lançamento? Quem é responsável por uma decisão errônea? E como as empresas podem demonstrar a imparcialidade e a segurança do sistema aos reguladores?

Para abordar essas questões, o E.SUN Bank e a IBM Consulting desenvolveram uma estrutura dedicada de governança de IA para o setor bancário. Esse projeto inclui um white paper que descreve como as instituições financeiras podem implementar controles internos para IA, adaptando padrões globais como a Lei de IA da UE e a ISO/IEC 42001 ao contexto dos serviços financeiros.

A estrutura detalha procedimentos para a revisão de modelos de IA antes da implantação e para o monitoramento contínuo após a entrada em operação. Ela também estabelece diretrizes para o uso de dados e a realização de avaliações de risco.

O E.SUN Bank afirmou que a estrutura foi projetada para ajudar as empresas financeiras a integrar sistemas de IA, mantendo a governança e a conformidade regulatória. A próxima fase envolve expandir a IA de ferramentas limitadas para operações centrais, como empréstimos e pagamentos, tudo dentro dos limites regulatórios estabelecidos.

Bancos Enfrentam o Desafio da Gestão de Risco de IA

As instituições financeiras têm motivos convincentes para implementar medidas de proteção para a IA. O setor bancário depende da confiança, e os reguladores exigem tomadas de decisão rastreáveis. A natureza de “caixa preta” de muitos modelos de IA, em que a lógica por trás de um resultado não é clara, representa riscos em áreas como aprovações de crédito ou análise de fraudes, levando a um maior escrutínio regulatório em todo o mundo.

A Lei de IA de 2024 da União Europeia impõe regulamentações rigorosas à IA de alto risco em setores como o financeiro, exigindo avaliações de risco, documentação dos dados de treinamento e monitoramento pós-implantação.

Padrões globais também estão surgindo. A norma ISO/IEC 42001, publicada em 2023, fornece diretrizes para o estabelecimento de sistemas organizacionais de gestão de IA, com foco na supervisão, monitoramento de modelos e gestão de dados para permitir uma governança coesa de IA em toda a empresa.

O projeto do E.SUN Bank com a IBM sintetiza elementos de ambas as estruturas, demonstrando como esses princípios podem ser aplicados às atividades bancárias cotidianas.

Ampliando a IA de projetos-piloto para sistemas em toda a empresa

Embora os bancos utilizem há muito tempo o aprendizado de máquina para análise de riscos e fraudes, modelos mais recentes de IA estão se expandindo para atendimento ao cliente, revisão de documentos e gestão de conhecimento interno.

Essa expansão cria novas demandas de governança. Um chatbot de atendimento ao cliente pode apresentar baixo risco, mas um modelo de IA que influencia aprovações de empréstimos ou detecção de fraudes acarreta implicações financeiras significativas.

A estrutura do E.SUN Bank e da IBM estabelece um processo para gerenciar esses riscos, abrangendo revisões de modelos antes do lançamento, monitoramento de resultados após a implantação e uma clara atribuição de responsabilidades entre as equipes de desenvolvimento e conformidade. O white paper que acompanha este artigo detalha as etapas para classificar sistemas de IA por nível de risco e aplicar a supervisão adequada.

A governança de IA ganha impulso nos serviços financeiros

O trabalho do E.SUN Bank reflete uma tendência global do setor, na qual uma governança robusta é vista como um pré-requisito para a expansão da IA.

Dados do setor indicam ampla adoção da IA no setor financeiro. Um relatório da NVIDIA de 2024 constatou que aproximadamente 91% das empresas de serviços financeiros estão avaliando ou já utilizam IA, principalmente para detecção de fraudes e modelagem de riscos. Uma pesquisa da Deloitte mostra que mais de 70% das instituições financeiras planejam aumentar o investimento em IA, frequentemente com foco no monitoramento de conformidade e na análise de riscos.

Ao mesmo tempo, os reguladores estão intensificando seu foco, instando os bancos a monitorar como os sistemas automatizados influenciam decisões críticas. Isso estimulou um maior investimento em supervisão interna, mudando o foco da mera precisão do modelo para abranger a proveniência dos dados, a lógica de decisão e o comportamento do modelo a longo prazo.

Como a governança influenciará o ritmo da adoção da IA

A ênfase na governança provavelmente moldará a velocidade da integração da IA no setor bancário. Sem regras claras, muitas empresas continuam hesitantes em ir além de projetos-piloto em pequena escala. Uma estrutura organizada pode permitir a expansão de projetos de IA ao mesmo tempo em que atende às expectativas regulatórias.

Esse é o objetivo central da iniciativa do E.SUN Bank. Ao alinhar padrões globais com os fluxos de trabalho bancários, a estrutura fornece um plano para a implantação da IA sob supervisão clara. A IBM observou que a estrutura foi desenvolvida para ajudar as instituições financeiras a gerenciar os riscos da IA à medida que a adoção cresce.

Esse esforço destaca o papel em evolução da governança na IA corporativa. O foco está mudando do desenvolvimento inicial de modelos para a gestão contínua desses sistemas. À medida que a IA se torna parte integrante das operações bancárias centrais, uma governança eficaz pode se mostrar tão crítica quanto a tecnologia subjacente.

Veja também: Manulife integra agentes de IA aos principais fluxos de trabalho financeiros

Interessado em saber mais sobre IA e big data com especialistas do setor? Explore a AI & Big Data Expo, que acontecerá em Amsterdã, Califórnia e Londres. Este evento abrangente será realizado em conjunto com outros eventos de tecnologia de ponta sob a égide da TechEx. Clique aqui para obter mais informações.

O AI News é desenvolvido pela TechForge Media. Descubra aqui outros eventos e webinars de tecnologia empresarial que estão por vir.