La IA neurosimbólica de AWS ofrece automatización verificable de agentes para sectores regulados

AWS cree que poner a disposición del público en general su función de comprobaciones de razonamiento automatizadas en Bedrock infundirá una mayor confianza en las empresas y los sectores regulados para adoptar e implementar más aplicaciones y agentes de IA.

La empresa prevé además que métodos como el razonamiento automatizado, que utiliza la validación matemática para establecer la verdad fundamental, ayudarán a las empresas a realizar la transición a la IA neurosimbólica. AWS considera que se trata de la próxima evolución significativa y un factor diferenciador clave en el panorama de la IA.

Las comprobaciones de razonamiento automatizadas permiten a los usuarios empresariales verificar la precisión de las respuestas y detectar alucinaciones del modelo. AWS presentó por primera vez esta función en Bedrock en su conferencia re:Invent el pasado mes de diciembre, afirmando que puede identificar casi todas las alucinaciones. Inicialmente accesible para un grupo limitado de usuarios a través de Amazon Bedrock Guardrails, la herramienta permite a las organizaciones definir políticas de IA responsables.

Byron Cook, científico distinguido y vicepresidente del Grupo de Razonamiento Automatizado de AWS, declaró a VentureBeat en una entrevista que la vista previa demostró la eficacia del sistema en entornos empresariales. También ayudó a las organizaciones a apreciar el valor de la IA que combina el razonamiento simbólico y estructurado con las capacidades de red neuronal de la IA generativa.

«El razonamiento automatizado se enmarca en el concepto más amplio de IA neurosimbólica», explicó Cook. «El creciente interés por la IA neurosimbólica hizo que los usuarios se dieran cuenta de lo crucial que es esta tecnología mientras utilizaban activamente la herramienta».

Cook señaló que algunos clientes permitieron a AWS analizar sus datos y documentos de anotación de respuestas. Se descubrió que el rendimiento de la herramienta era comparable al de un humano con el libro de reglas en la mano. Añadió que, aunque los conceptos de verdad y corrección pueden ser subjetivos, el razonamiento automatizado evita en gran medida esta ambigüedad.

«Fue realmente notable», afirmó. «Ver a personas con conocimientos de lógica debatir sobre lo que era cierto en un chat interno y, tras unos cuantos mensajes, señalar la herramienta y darse cuenta de que era correcta, fue increíble».

Para el lanzamiento general, AWS ha mejorado las comprobaciones de razonamiento automatizado con nuevas funciones, entre las que se incluyen:

• Compatibilidad con documentos de gran tamaño, de hasta 80 000 tokens o aproximadamente 100 páginas.
• Validación simplificada de políticas con la posibilidad de guardar y reutilizar escenarios de prueba.
• Generación automatizada de escenarios a partir de especificaciones predefinidas.
• Sugerencias en lenguaje natural para el perfeccionamiento de las políticas.
• Configuración de validación personalizable.

Según Cook, Automated Reasoning Checks valida la veracidad de un sistema de IA al demostrar que un modelo no ha alucinado una solución. Esta capacidad podría proporcionar una mayor garantía a los reguladores y a las empresas reguladas preocupadas por la naturaleza no determinista de la IA generativa, que produce resultados incorrectos.

IA neurosimbólica y establecimiento de la verdad

Cook destacó que Automated Reasoning Checks ayuda a demostrar los principios clave de la IA neurosimbólica.

La IA neurosimbólica combina el reconocimiento de patrones de las redes neuronales, utilizado por los modelos de lenguaje, con la lógica estructurada de la IA simbólica. Mientras que las redes neuronales aprenden de los patrones de datos, la IA simbólica opera con reglas explícitas y razonamiento lógico. Los modelos básicos se basan principalmente en redes neuronales, lo que los hace susceptibles a las alucinaciones, una de las principales preocupaciones de las empresas. Por el contrario, la IA simbólica carece de flexibilidad sin programación manual.

Voces influyentes en el ámbito de la IA, como Gary Marcus, han argumentado que la IA neurosimbólica es esencial para lograr la inteligencia artificial general.

Cook y AWS están entusiasmados con la idea de llevar los conceptos de la IA neurosimbólica a la empresa. En un podcast, Matt Marshall, de VentureBeat, habló del interés de AWS por métodos como las comprobaciones de razonamiento automatizadas, que aplican el rigor matemático y lógico a la IA generativa para reducir las alucinaciones.

En la actualidad, pocas empresas ofrecen soluciones de IA neurosimbólica productizadas, entre ellas Kognitos, Franz Inc. y UMNAI.

Aplicación del rigor matemático a la validación

El razonamiento automatizado funciona aplicando pruebas matemáticas para modelar las respuestas a una consulta determinada.

Utiliza un método denominado «satisfiability modulo theories» (SMT), en el que los símbolos tienen significados predefinidos, para resolver problemas que implican tanto lógica (si, entonces, y, o) como matemáticas. La técnica aplica este método a la respuesta de un modelo, comparándola con un conjunto de políticas o datos de referencia sin necesidad de realizar múltiples pruebas.

Por ejemplo, una empresa puede querer verificar la corrección de una auditoría financiera. Si un modelo señala un informe por contener pagos no aprobados, el razonamiento automatizado lo desglosa en una declaración lógica:

(para todo ((r Informe))

(=> (contienePagosNoAprobados r)

(debeEscalar r)))

A continuación, hace referencia a las definiciones, variables y tipos configurados por el usuario en Bedrock Guardrails y resuelve la ecuación para demostrar que la respuesta del modelo era correcta y se basaba en la verdad.

Garantizar agentes de IA demostrablemente correctos

Cook afirmó que los casos de uso de agentes se beneficiarán significativamente de las comprobaciones de razonamiento automatizadas. Un acceso más amplio a través de Bedrock ayudará a demostrar su utilidad. Sin embargo, advirtió que el razonamiento automatizado y otras técnicas de IA neurosimbólica aún se encuentran en una fase incipiente.

«Creo que tendrá un impacto en la IA agencial, aunque ese campo es muy especulativo por el momento», dijo Cook. «Existen varias técnicas, como identificar la ambigüedad en una declaración, señalar las diferencias clave entre las posibles interpretaciones y luego buscar la aclaración del usuario, que creo que serán cruciales. Esto refleja el viaje emocional que observé en los clientes que comenzaron a experimentar con la IA generativa hace unos años».