Cómo garantizar que sus datos sean confiables para la integración de IA

La confianza en la inteligencia artificial es un asunto delicado, que depende completamente de la calidad de los datos en los que se basa. El problema de la integridad de los datos, un desafío de larga data incluso para las organizaciones más sofisticadas, ha resurgido con fuerza. Los expertos de la industria están levantando banderas rojas, advirtiendo que los usuarios de la IA generativa podrían estar a merced de datos incompletos, repetitivos o directamente incorrectos debido a las bases de datos fragmentadas o débiles de estos sistemas.
Según un análisis reciente de Ashish Verma, el director de datos y análisis de Deloitte US, junto con sus coautores, "la IA y la IA generativa están estableciendo nuevos estándares para la calidad de los datos." Ellos enfatizan que sin una arquitectura de datos robusta que abarque diversos tipos y modalidades, y que tenga en cuenta la diversidad y el sesgo de los datos, las estrategias de IA generativa están destinadas a fallar. También destacan la necesidad de una transformación de datos adecuada para sistemas probabilísticos.
Las demandas únicas de las arquitecturas de datos preparadas para la IA
Los sistemas de IA, que dependen de modelos probabilísticos, presentan desafíos únicos. La salida puede variar según las probabilidades y los datos subyacentes en el momento de una consulta, lo que complica el diseño de sistemas de datos. Verma y su equipo destacan que los sistemas de datos tradicionales podrían no estar a la altura de la tarea, lo que podría inflar los costos de entrenamiento y reentrenamiento de modelos de IA. Abogan por transformaciones de datos que incluyan ontologías, gobernanza, iniciativas para generar confianza y el desarrollo de consultas que reflejen escenarios del mundo real.
A estas complejidades se suman problemas como las alucinaciones de la IA y el desvío del modelo, lo que subraya la necesidad de supervisión humana y esfuerzos para alinear y garantizar la consistencia de los datos.
El papel crucial de la confianza en la IA
Ian Clayton, el director de productos de Redpoint Global, le dijo a ZDNET que la confianza podría ser el activo más valioso en el panorama de la IA. Enfatizó la importancia de un entorno de datos fortalecido con una sólida gobernanza de datos, un linaje de datos claro y políticas de privacidad transparentes. Dicha base no solo fomenta el uso ético de la IA, sino que también evita que la IA se desvíe, lo que podría resultar en experiencias de cliente inconsistentes.
Preocupaciones de la industria sobre la preparación de datos para la IA
Gordon Robinson, director senior de gestión de datos en SAS, compartió la opinión de que la calidad de los datos ha sido un desafío persistente para las empresas. Antes de embarcarse en un viaje de IA, aconseja a las compañías que se hagan dos preguntas críticas: "¿Entiendes qué datos tienes, su calidad y su confiabilidad?" y "¿Tienes las habilidades y herramientas necesarias para preparar tus datos para la IA?"
Clayton también destacó la urgente necesidad de mejorar la consolidación y las medidas de calidad de los datos para abordar los desafíos de la IA, abogando por la integración de datos de silos y controles rigurosos de calidad como la deduplicación y la garantía de consistencia.
Nuevas dimensiones de la seguridad de los datos con la IA
La introducción de la IA también trae nuevas consideraciones de seguridad al primer plano. Omar Khawaja, director de seguridad de la información de campo en Databricks, advirtió contra eludir las medidas de seguridad en la prisa por implementar soluciones de IA, ya que esto podría conducir a una supervisión inadecuada.
Elementos esenciales para datos confiables de IA
- Tuberías de datos ágiles: Clayton señaló que la rápida evolución de la IA requiere tuberías de datos ágiles y escalables. Estas son cruciales para adaptarse a nuevas aplicaciones de IA, particularmente durante la fase de entrenamiento.
- Visualización: Clayton también señaló que si los científicos de datos tienen dificultades para acceder y visualizar sus datos, esto obstaculiza significativamente su eficiencia en el desarrollo de IA.
- Programas de gobernanza robustos: Robinson enfatizó la importancia de una sólida gobernanza de datos para evitar problemas de calidad de datos que podrían llevar a conclusiones erróneas y malas decisiones. Dicha gobernanza también ayuda a comprender el panorama de datos de la organización y garantizar el cumplimiento de las regulaciones.
- Mediciones exhaustivas y continuas: Khawaja destacó que el rendimiento de los modelos de IA depende directamente de la calidad de sus datos de entrenamiento. Recomendó métricas regulares, como tasas de adopción mensuales, para monitorear cuán rápido se están adoptando las capacidades de IA, lo que indica si estas herramientas y procesos satisfacen las necesidades de los usuarios.
Clayton abogó por una arquitectura de datos preparada para la IA que permita a los equipos de TI y datos medir resultados como la calidad, precisión, completitud, consistencia y rendimiento del modelo de IA. Instó a las organizaciones a asegurarse de que sus iniciativas de IA entreguen beneficios tangibles, en lugar de implementar IA solo por el hecho de hacerlo.
¿Interesado en más historias de IA? Suscríbete a nuestro boletín semanal, Innovación.
Artículo relacionado
iFLYTEK presenta el modelo general de gran escala Spark X2.5
El 1 de septiembre, iFlytek abrirá al código abierto dos modelos de lenguaje grandes centrados en el borde: Xinghuo X2.5-4B y Xinghuo X2.5-1.7B, según el último anuncio oficial. Ambos modelos admiten nativamente una ventana de contexto de hasta 1 mil
Meta elimina la función de edición de fotos con IA tras las críticas de los usuarios
Meta, el gigante de los medios sociales, se ve una vez más envuelto en un debate público sobre el delicado equilibrio entre la inteligencia artificial y la privacidad de los usuarios. Según TechCrunch, Superintelligence Labs de Meta presentó un nuevo
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
Recomendaciones de temas especiales relacionados
comentario (38)
0/500
あれ、AIの信頼性って結局はデータの質次第なんだ。この記事を読んで、うちの会社のデータ管理が結構ずさんかも…と思っちゃった😅 最近はやりの生成AIに品質の悪いデータを入れたら、めちゃくちゃな答えが返ってきそうで怖いわ。
This article really hits the nail on the head! Data quality is everything for AI. I’ve seen companies rush into AI without cleaning their data, and it’s a mess—garbage in, garbage out. Curious how small startups handle this compared to big players. 🤔
This article really opened my eyes to how crucial data quality is for AI. It's wild to think that even big companies struggle with this! I wonder how smaller startups manage to keep their data trustworthy. 🤔
This article really opened my eyes to how crucial data quality is for AI. It’s wild to think that even big companies struggle with this! Makes me wonder if we’re rushing AI integration too fast. 🤔
This article really opened my eyes to how crucial data quality is for AI. It’s wild to think that even big companies struggle with this. Makes me wonder if we’ll ever fully trust AI decisions 🤔.

La confianza en la inteligencia artificial es un asunto delicado, que depende completamente de la calidad de los datos en los que se basa. El problema de la integridad de los datos, un desafío de larga data incluso para las organizaciones más sofisticadas, ha resurgido con fuerza. Los expertos de la industria están levantando banderas rojas, advirtiendo que los usuarios de la IA generativa podrían estar a merced de datos incompletos, repetitivos o directamente incorrectos debido a las bases de datos fragmentadas o débiles de estos sistemas.
Según un análisis reciente de Ashish Verma, el director de datos y análisis de Deloitte US, junto con sus coautores, "la IA y la IA generativa están estableciendo nuevos estándares para la calidad de los datos." Ellos enfatizan que sin una arquitectura de datos robusta que abarque diversos tipos y modalidades, y que tenga en cuenta la diversidad y el sesgo de los datos, las estrategias de IA generativa están destinadas a fallar. También destacan la necesidad de una transformación de datos adecuada para sistemas probabilísticos.
Las demandas únicas de las arquitecturas de datos preparadas para la IA
Los sistemas de IA, que dependen de modelos probabilísticos, presentan desafíos únicos. La salida puede variar según las probabilidades y los datos subyacentes en el momento de una consulta, lo que complica el diseño de sistemas de datos. Verma y su equipo destacan que los sistemas de datos tradicionales podrían no estar a la altura de la tarea, lo que podría inflar los costos de entrenamiento y reentrenamiento de modelos de IA. Abogan por transformaciones de datos que incluyan ontologías, gobernanza, iniciativas para generar confianza y el desarrollo de consultas que reflejen escenarios del mundo real.
A estas complejidades se suman problemas como las alucinaciones de la IA y el desvío del modelo, lo que subraya la necesidad de supervisión humana y esfuerzos para alinear y garantizar la consistencia de los datos.
El papel crucial de la confianza en la IA
Ian Clayton, el director de productos de Redpoint Global, le dijo a ZDNET que la confianza podría ser el activo más valioso en el panorama de la IA. Enfatizó la importancia de un entorno de datos fortalecido con una sólida gobernanza de datos, un linaje de datos claro y políticas de privacidad transparentes. Dicha base no solo fomenta el uso ético de la IA, sino que también evita que la IA se desvíe, lo que podría resultar en experiencias de cliente inconsistentes.
Preocupaciones de la industria sobre la preparación de datos para la IA
Gordon Robinson, director senior de gestión de datos en SAS, compartió la opinión de que la calidad de los datos ha sido un desafío persistente para las empresas. Antes de embarcarse en un viaje de IA, aconseja a las compañías que se hagan dos preguntas críticas: "¿Entiendes qué datos tienes, su calidad y su confiabilidad?" y "¿Tienes las habilidades y herramientas necesarias para preparar tus datos para la IA?"
Clayton también destacó la urgente necesidad de mejorar la consolidación y las medidas de calidad de los datos para abordar los desafíos de la IA, abogando por la integración de datos de silos y controles rigurosos de calidad como la deduplicación y la garantía de consistencia.
Nuevas dimensiones de la seguridad de los datos con la IA
La introducción de la IA también trae nuevas consideraciones de seguridad al primer plano. Omar Khawaja, director de seguridad de la información de campo en Databricks, advirtió contra eludir las medidas de seguridad en la prisa por implementar soluciones de IA, ya que esto podría conducir a una supervisión inadecuada.
Elementos esenciales para datos confiables de IA
- Tuberías de datos ágiles: Clayton señaló que la rápida evolución de la IA requiere tuberías de datos ágiles y escalables. Estas son cruciales para adaptarse a nuevas aplicaciones de IA, particularmente durante la fase de entrenamiento.
- Visualización: Clayton también señaló que si los científicos de datos tienen dificultades para acceder y visualizar sus datos, esto obstaculiza significativamente su eficiencia en el desarrollo de IA.
- Programas de gobernanza robustos: Robinson enfatizó la importancia de una sólida gobernanza de datos para evitar problemas de calidad de datos que podrían llevar a conclusiones erróneas y malas decisiones. Dicha gobernanza también ayuda a comprender el panorama de datos de la organización y garantizar el cumplimiento de las regulaciones.
- Mediciones exhaustivas y continuas: Khawaja destacó que el rendimiento de los modelos de IA depende directamente de la calidad de sus datos de entrenamiento. Recomendó métricas regulares, como tasas de adopción mensuales, para monitorear cuán rápido se están adoptando las capacidades de IA, lo que indica si estas herramientas y procesos satisfacen las necesidades de los usuarios.
Clayton abogó por una arquitectura de datos preparada para la IA que permita a los equipos de TI y datos medir resultados como la calidad, precisión, completitud, consistencia y rendimiento del modelo de IA. Instó a las organizaciones a asegurarse de que sus iniciativas de IA entreguen beneficios tangibles, en lugar de implementar IA solo por el hecho de hacerlo.
¿Interesado en más historias de IA? Suscríbete a nuestro boletín semanal, Innovación.
iFLYTEK presenta el modelo general de gran escala Spark X2.5
El 1 de septiembre, iFlytek abrirá al código abierto dos modelos de lenguaje grandes centrados en el borde: Xinghuo X2.5-4B y Xinghuo X2.5-1.7B, según el último anuncio oficial. Ambos modelos admiten nativamente una ventana de contexto de hasta 1 mil
Meta elimina la función de edición de fotos con IA tras las críticas de los usuarios
Meta, el gigante de los medios sociales, se ve una vez más envuelto en un debate público sobre el delicado equilibrio entre la inteligencia artificial y la privacidad de los usuarios. Según TechCrunch, Superintelligence Labs de Meta presentó un nuevo
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
あれ、AIの信頼性って結局はデータの質次第なんだ。この記事を読んで、うちの会社のデータ管理が結構ずさんかも…と思っちゃった😅 最近はやりの生成AIに品質の悪いデータを入れたら、めちゃくちゃな答えが返ってきそうで怖いわ。
This article really hits the nail on the head! Data quality is everything for AI. I’ve seen companies rush into AI without cleaning their data, and it’s a mess—garbage in, garbage out. Curious how small startups handle this compared to big players. 🤔
This article really opened my eyes to how crucial data quality is for AI. It's wild to think that even big companies struggle with this! I wonder how smaller startups manage to keep their data trustworthy. 🤔
This article really opened my eyes to how crucial data quality is for AI. It’s wild to think that even big companies struggle with this! Makes me wonder if we’re rushing AI integration too fast. 🤔
This article really opened my eyes to how crucial data quality is for AI. It’s wild to think that even big companies struggle with this. Makes me wonder if we’ll ever fully trust AI decisions 🤔.





Hogar






