Verificación de la IA: Comprobación de los LLM mediante grafos de conocimiento

¿Puede la inteligencia artificial distinguir realmente la realidad de la ficción? Este artículo investiga las capacidades y limitaciones de la IA en la tarea esencial de la verificación de hechos. Exploramos las técnicas innovadoras que se están desarrollando para mejorar la capacidad de la IA para validar la información, centrándonos en la aplicación de grafos de conocimiento, redes neuronales gráficas (GNN) y arquitecturas de generación aumentada por recuperación (RAG). Examinamos cómo la IA trabaja para lograr precisión y contrarrestar la difusión de información falsa, desde sencillas verificaciones de una sola afirmación hasta intrincados análisis multifacéticos.

Puntos clave

Los nuevos modelos de comprobación de hechos mediante IA se enfrentan a importantes retos, como la tendencia a inventar fuentes inexistentes.

Los grafos de conocimiento mejoran la precisión al proporcionar a la IA un marco estructurado de información.

Las redes neuronales gráficas (GNN) facilitan el razonamiento avanzado y la extracción de relaciones para una comprobación de hechos más sofisticada.

Las arquitecturas RAG mejoran la precisión de los grandes modelos lingüísticos al integrar conocimientos externos.

La combinación de estos métodos pretende reforzar la capacidad de la IA para diferenciar la verdad de la falsedad en contenidos textuales complejos.

El reto de la comprobación de hechos con IA

Las limitaciones de los actuales modelos de IA para verificar la veracidad

Aunque la IA ha logrado avances considerables en numerosos campos, su capacidad para determinar definitivamente la veracidad de la información sigue evolucionando. Uno de los principales obstáculos es la propensión de los modelos de IA a "alucinar" o fabricar citas, creando referencias a fuentes que en realidad no existen.

Este problema compromete fundamentalmente su fiabilidad como herramientas de comprobación de hechos.

Los grandes modelos lingüísticos (LLM) tienen un gran potencial, pero siguen siendo propensos a cometer errores, sobre todo con contenidos extensos o complejos. Los LLM pueden malinterpretar sutilezas, pasar por alto falsedades matizadas o carecer de los amplios conocimientos previos necesarios para determinadas validaciones. Estas limitaciones obligan a menudo a perfeccionar los modelos, lo que da lugar a sistemas cada vez más complejos para afrontar los retos de la desinformación, un proceso que es caro desde el punto de vista informático y que requiere muchos recursos.

El papel de la IA: No sólo código o ciencia, sino inversión

El vídeo presenta una perspectiva según la cual el núcleo de la IA no es puramente científico o técnico, sino que está impulsado en gran medida por su condición de inversión altamente lucrativa.

Este punto de vista, que invita a la reflexión, implica que la dinámica del capital de inversión dirige con frecuencia el desarrollo de la IA, y que partes importantes de Silicon Valley y de la economía estadounidense en general dependen del crecimiento de la IA. Este enfoque puede dar prioridad a la rentabilidad sobre la búsqueda de una precisión objetiva. Dado que la IA es principalmente un vehículo de beneficios para los inversores mundiales, las motivaciones financieras influyen en gran medida en las orientaciones de la investigación para la comprobación de textos complejos. Para que la IA se convierta en un árbitro verdaderamente fiable de la verdad, debe encontrar un equilibrio entre los incentivos comerciales y el compromiso con la integridad de los hechos. Esto plantea una cuestión fundamental: ¿Es capaz la IA de determinar con fiabilidad si una afirmación es cierta?

Mejorar la comprobación de hechos mediante IA: El papel de los grafos de conocimiento

Conocimiento estructurado con Knowledge Graph

El vídeo subraya la importancia de los grafos de conocimiento para mejorar la capacidad de verificación de la IA.

Los grafos de conocimiento ofrecen a los modelos de IA un marco estructurado e interconectado que proporciona información contextual esencial. Al trazar las relaciones entre diversas entidades, estos grafos permiten a los sistemas de IA consultar conexiones y verificar la veracidad de las afirmaciones, así como explorar la exactitud histórica.

Entre las principales ventajas se incluyen

• Organización de datos: Los grafos de conocimiento organizan sistemáticamente los hechos y sus interrelaciones, poniendo esta información a disposición de los algoritmos de IA.
• Razonamiento: La estructura interconectada permite a la IA realizar razonamientos lógicos y detectar incoherencias en los datos.
• Comprensión contextual: La IA desarrolla una comprensión más profunda y matizada del contexto que rodea a una reclamación, lo que conduce a evaluaciones más precisas.

GNN y RAG: mejora de las capacidades de comprobación de hechos

Para contrarrestar problemas como la alucinación de fuentes y mejorar la extracción de relaciones, el vídeo propone la integración de redes neuronales gráficas (GNN) y arquitecturas de generación mejorada de recuperación (RAG).

Se trata de modelos avanzados de IA que ofrecen actualmente las startups para verificar puntos de datos individuales o relaciones simples.

• Redes neuronales gráficas: Las GNN están diseñadas específicamente para procesar datos estructurados en forma de gráficos. Descifran relaciones complejas y realizan tareas de razonamiento sofisticadas. Aunque los sistemas RAG también pueden ser propensos a alucinar fuentes, las GNN ofrecen cierta mitigación contra estos errores.
• Generación mejorada por recuperación: Los sistemas GAR amplían el acceso de la IA a la información al obtener documentos y datos relevantes de bases de conocimiento externas. Este proceso complementario disminuye la dependencia de los conocimientos internos preentrenados de la IA, reduciendo así la frecuencia de las alucinaciones. Esta estrategia está diseñada para subsanar sistemáticamente las lagunas de conocimiento de las futuras generaciones de IA.

Fact-Checking with LLMs: Una inmersión en la investigación profunda de OpenAI

Investigación profunda de OpenAI

El ponente utilizó una herramienta llamada "Deep Research" de OpenAI, que lleva a cabo una investigación automatizada agregando información sobre varios modelos de IA como transformadores y gráficos de conocimiento, haciendo hincapié en la evaluación de la coherencia lógica y la precisión histórica.

El servicio busca específicamente temas como la verificación de la coherencia textual basada en transformadores y metodologías de comprobación de hechos adversariales multiagente.

¿Es precisa la investigación profunda?

El presentador realizó una prueba en el vídeo, observando cuidadosamente las consultas de búsqueda de la IA para verificar que ejecutaba correctamente la solicitud.

Durante la demostración, la IA encontró un número considerable de referencias obsoletas, que no se ajustaban plenamente a los criterios de actualidad solicitados. Esto es un claro indicador de que, aunque los LLM son herramientas valiosas para recopilar datos de investigación preliminares, la supervisión humana sigue siendo crucial en la fase final de revisión y validación.

Comprobación de hechos con IA: Ventajas y desventajas

Ventajas

Potencial de escalabilidad masiva y procesamiento de alta velocidad

Capacidad para analizar enormes conjuntos de datos

Posible reducción del sesgo humano inherente a las evaluaciones.

Puede aumentar y apoyar eficazmente los esfuerzos humanos de comprobación de hechos.

Contras

Vulnerabilidad a generar información falsa y a ser inducido a error

Limitaciones inherentes basadas en los datos de entrenamiento existentes y en el diseño algorítmico.

Ausencia general de sentido común y comprensión intuitiva del mundo real.

Dificultad para procesar con precisión temas muy complejos o matizados.

Preguntas más frecuentes

¿Por qué la IA no es buena en la comprobación de hechos?

Los modelos de IA se enfrentan a varios obstáculos en la comprobación de hechos, como su dependencia inherente de sus conjuntos de datos de entrenamiento, una falta de comprensión genuina del mundo real y una tendencia significativa a producir información fabricada, un fenómeno conocido como alucinación.

¿Son ciertos todos los resultados de las búsquedas?

Desde luego que no. La auténtica comprobación de los hechos va mucho más allá de la mera revisión de los resultados de los motores de búsqueda. Requiere verificar la coherencia lógica, garantizar la alineación con los principios científicos establecidos y evaluar la validez de las afirmaciones experimentales o teóricas. Además, los procesos de verificación periodística son esenciales para evaluar las afirmaciones de las noticias, que a menudo pueden ser tendenciosas, engañosas o presentarse sin el contexto adecuado.

¿Por qué no utilizar datos externos para empezar?

Para que los grandes modelos lingüísticos puedan realizar razonamientos profundos y fiables, deben ser capaces de navegar por inmensos repositorios de conocimientos, integrándolos con su programación existente para resolver problemas intrincados. Posteriormente, la aplicación de métodos de verificación científica o computacional puede ayudar a ofrecer soluciones sólidas.

Preguntas relacionadas

¿Qué es el aumento de la recuperación y por qué es importante?

El aumento de la recuperación es una metodología que mejora los modelos lingüísticos permitiéndoles acceder y utilizar información de bases de datos o fuentes externas durante la fase de generación de respuestas. El modelo recupera estos conocimientos actualizados para producir respuestas mejor informadas y más precisas. Este enfoque es especialmente valioso cuando es necesario corroborar una afirmación específica con documentos probatorios fiables. Además, mediante el aumento de la recuperación, los LLM pueden interactuar con datos de búsqueda o bases de datos específicas utilizando varias técnicas, incluidos enlaces directos y marcos especializados para la generación aumentada por recuperación.