A IA neurosimbólica da AWS oferece automação verificável de agentes para setores regulamentados

A AWS acredita que disponibilizar seu recurso de verificações de raciocínio automatizadas no Bedrock irá inspirar maior confiança nas empresas e indústrias regulamentadas para adotar e implantar mais aplicativos e agentes de IA.

A empresa prevê ainda que métodos como o raciocínio automatizado — que usa validação matemática para estabelecer a verdade fundamental — ajudarão as empresas na transição para a IA neurosimbólica. A AWS vê isso como a próxima evolução significativa e um diferencial importante no cenário da IA.

O Automated Reasoning Checks permite que usuários corporativos verifiquem a precisão das respostas e detectem alucinações do modelo. A AWS apresentou o recurso pela primeira vez no Bedrock em sua conferência re:Invent em dezembro passado, afirmando que ele pode identificar quase todas as alucinações. Inicialmente acessível a um conjunto limitado de usuários por meio do Amazon Bedrock Guardrails, a ferramenta permite que as organizações definam políticas de IA responsáveis.

Byron Cook, cientista renomado e vice-presidente do Grupo de Raciocínio Automatizado da AWS, disse à VentureBeat em uma entrevista que a prévia demonstrou a eficácia do sistema em ambientes empresariais. Ela também ajudou as organizações a apreciar o valor da IA que combina raciocínio simbólico e estruturado com os recursos de rede neural da IA generativa.

“O raciocínio automatizado se enquadra no conceito mais amplo de IA neurosimbólica”, explicou Cook. “O crescente interesse pela IA neurosimbólica fez com que os usuários percebessem o quão crucial essa tecnologia é enquanto usavam ativamente a ferramenta.”

Cook observou que alguns clientes permitiram que a AWS analisasse seus dados e documentos de anotação de respostas. O desempenho da ferramenta foi considerado comparável ao de um ser humano com o livro de regras em mãos. Ele acrescentou que, embora os conceitos de verdade e correção possam ser subjetivos, o raciocínio automatizado evita em grande parte essa ambiguidade.

“Foi realmente notável”, disse ele. “Ver pessoas com formação em lógica debaterem o que era verdade em um chat interno e, depois de algumas mensagens, apontarem para a ferramenta e perceberem: ‘Ah, está correto’, foi incrível.”

Para o lançamento geral, a AWS aprimorou as Verificações de Raciocínio Automatizado com novos recursos, incluindo:

• Suporte para documentos grandes de até 80 mil tokens ou aproximadamente 100 páginas
• Validação simplificada de políticas com a capacidade de salvar e reutilizar cenários de teste
• Geração automatizada de cenários a partir de especificações predefinidas
• Sugestões em linguagem natural para refinamento de políticas
• Configurações de validação personalizáveis

De acordo com Cook, as verificações de raciocínio automatizadas validam a veracidade de um sistema de IA, provando que um modelo não alucinou uma solução. Essa capacidade pode fornecer maior garantia aos reguladores e empresas reguladas preocupadas com a natureza não determinística da IA generativa, que produz resultados incorretos.

IA neurosimbólica e estabelecimento da verdade

Cook enfatizou que as verificações de raciocínio automatizadas ajudam a demonstrar os princípios-chave da IA neurosimbólica.

A IA neurosimbólica combina o reconhecimento de padrões das redes neurais — usado por modelos de linguagem — com a lógica estruturada da IA simbólica. Enquanto as redes neurais aprendem com padrões de dados, a IA simbólica opera com regras explícitas e raciocínio lógico. Os modelos básicos dependem principalmente de redes neurais, tornando-os suscetíveis a alucinações — uma grande preocupação das empresas. Por outro lado, a IA simbólica carece de flexibilidade sem programação manual.

Vozes influentes da IA, como Gary Marcus, argumentaram que a IA neurosimbólica é essencial para alcançar a inteligência artificial geral.

Cook e a AWS estão entusiasmados em trazer os conceitos de IA neurosimbólica para as empresas. Em um podcast, Matt Marshall, da VentureBeat, discutiu o foco da AWS em métodos como verificações de raciocínio automatizadas, que aplicam rigor matemático e lógico à IA generativa para reduzir alucinações.

Atualmente, poucas empresas oferecem soluções de IA neurosimbólica comercializadas, incluindo Kognitos, Franz Inc. e UMNAI.

Aplicando rigor matemático à validação

O raciocínio automatizado funciona aplicando provas matemáticas para modelar respostas para uma determinada consulta.

Ele utiliza um método chamado satisfiabilidade módulo teorias (SMT), em que os símbolos têm significados predefinidos, para resolver problemas que envolvem tanto lógica (se, então, e, ou) quanto matemática. A técnica aplica esse método à resposta de um modelo, verificando-a em relação a um conjunto de políticas ou dados de verdade fundamental, sem a necessidade de várias execuções de teste.

Por exemplo, uma empresa pode querer verificar a correção de uma auditoria financeira. Se um modelo sinalizar um relatório por conter pagamentos não aprovados, o raciocínio automatizado divide isso em uma declaração lógica:

(para todos ((r Relatório))

(=> (contémPagamentosNãoAprovados r)

(deveEscalar r)))

Em seguida, ele consulta as definições, variáveis e tipos configurados pelo usuário no Bedrock Guardrails e resolve a equação para provar que a resposta do modelo estava correta e baseada na verdade.

Garantindo agentes de IA comprovadamente corretos

Cook afirmou que os casos de uso de agentes se beneficiam significativamente das verificações de raciocínio automatizadas. O acesso mais amplo via Bedrock ajudará a demonstrar sua utilidade. No entanto, ele alertou que o raciocínio automatizado e outras técnicas de IA neurosimbólica ainda estão em sua infância.

“Acredito que isso terá impacto na IA agênica, embora esse campo seja altamente especulativo no momento”, disse Cook. “Existem várias técnicas — como identificar ambiguidades em uma declaração, apontar diferenças importantes entre possíveis interpretações e, em seguida, buscar esclarecimentos do usuário — que considero cruciais. Isso reflete a jornada emocional que observei em clientes que começaram a experimentar a IA generativa há alguns anos.”