Cómo garantizar que sus datos sean confiables para la integración de IA

La confianza en la inteligencia artificial es un asunto delicado, que depende completamente de la calidad de los datos en los que se basa. El problema de la integridad de los datos, un desafío de larga data incluso para las organizaciones más sofisticadas, ha resurgido con fuerza. Los expertos de la industria están levantando banderas rojas, advirtiendo que los usuarios de la IA generativa podrían estar a merced de datos incompletos, repetitivos o directamente incorrectos debido a las bases de datos fragmentadas o débiles de estos sistemas.

Según un análisis reciente de Ashish Verma, el director de datos y análisis de Deloitte US, junto con sus coautores, "la IA y la IA generativa están estableciendo nuevos estándares para la calidad de los datos." Ellos enfatizan que sin una arquitectura de datos robusta que abarque diversos tipos y modalidades, y que tenga en cuenta la diversidad y el sesgo de los datos, las estrategias de IA generativa están destinadas a fallar. También destacan la necesidad de una transformación de datos adecuada para sistemas probabilísticos.

Las demandas únicas de las arquitecturas de datos preparadas para la IA

Los sistemas de IA, que dependen de modelos probabilísticos, presentan desafíos únicos. La salida puede variar según las probabilidades y los datos subyacentes en el momento de una consulta, lo que complica el diseño de sistemas de datos. Verma y su equipo destacan que los sistemas de datos tradicionales podrían no estar a la altura de la tarea, lo que podría inflar los costos de entrenamiento y reentrenamiento de modelos de IA. Abogan por transformaciones de datos que incluyan ontologías, gobernanza, iniciativas para generar confianza y el desarrollo de consultas que reflejen escenarios del mundo real.

A estas complejidades se suman problemas como las alucinaciones de la IA y el desvío del modelo, lo que subraya la necesidad de supervisión humana y esfuerzos para alinear y garantizar la consistencia de los datos.

El papel crucial de la confianza en la IA

Ian Clayton, el director de productos de Redpoint Global, le dijo a ZDNET que la confianza podría ser el activo más valioso en el panorama de la IA. Enfatizó la importancia de un entorno de datos fortalecido con una sólida gobernanza de datos, un linaje de datos claro y políticas de privacidad transparentes. Dicha base no solo fomenta el uso ético de la IA, sino que también evita que la IA se desvíe, lo que podría resultar en experiencias de cliente inconsistentes.

Preocupaciones de la industria sobre la preparación de datos para la IA

Gordon Robinson, director senior de gestión de datos en SAS, compartió la opinión de que la calidad de los datos ha sido un desafío persistente para las empresas. Antes de embarcarse en un viaje de IA, aconseja a las compañías que se hagan dos preguntas críticas: "¿Entiendes qué datos tienes, su calidad y su confiabilidad?" y "¿Tienes las habilidades y herramientas necesarias para preparar tus datos para la IA?"

Clayton también destacó la urgente necesidad de mejorar la consolidación y las medidas de calidad de los datos para abordar los desafíos de la IA, abogando por la integración de datos de silos y controles rigurosos de calidad como la deduplicación y la garantía de consistencia.

Nuevas dimensiones de la seguridad de los datos con la IA

La introducción de la IA también trae nuevas consideraciones de seguridad al primer plano. Omar Khawaja, director de seguridad de la información de campo en Databricks, advirtió contra eludir las medidas de seguridad en la prisa por implementar soluciones de IA, ya que esto podría conducir a una supervisión inadecuada.

Elementos esenciales para datos confiables de IA

• Tuberías de datos ágiles: Clayton señaló que la rápida evolución de la IA requiere tuberías de datos ágiles y escalables. Estas son cruciales para adaptarse a nuevas aplicaciones de IA, particularmente durante la fase de entrenamiento.
• Visualización: Clayton también señaló que si los científicos de datos tienen dificultades para acceder y visualizar sus datos, esto obstaculiza significativamente su eficiencia en el desarrollo de IA.
• Programas de gobernanza robustos: Robinson enfatizó la importancia de una sólida gobernanza de datos para evitar problemas de calidad de datos que podrían llevar a conclusiones erróneas y malas decisiones. Dicha gobernanza también ayuda a comprender el panorama de datos de la organización y garantizar el cumplimiento de las regulaciones.
• Mediciones exhaustivas y continuas: Khawaja destacó que el rendimiento de los modelos de IA depende directamente de la calidad de sus datos de entrenamiento. Recomendó métricas regulares, como tasas de adopción mensuales, para monitorear cuán rápido se están adoptando las capacidades de IA, lo que indica si estas herramientas y procesos satisfacen las necesidades de los usuarios.

Clayton abogó por una arquitectura de datos preparada para la IA que permita a los equipos de TI y datos medir resultados como la calidad, precisión, completitud, consistencia y rendimiento del modelo de IA. Instó a las organizaciones a asegurarse de que sus iniciativas de IA entreguen beneficios tangibles, en lugar de implementar IA solo por el hecho de hacerlo.

¿Interesado en más historias de IA? Suscríbete a nuestro boletín semanal, Innovación.