Hogar
Una startup del MIT aborda las alucinaciones de la IA enseñando a los sistemas a admitir la incertidumbre
Los riesgos asociados a las alucinaciones de la IA aumentan a medida que se confía cada vez más en estos modelos para sacar a la luz información crítica y tomar decisiones de alto riesgo.
Todos conocemos a alguien que actúa como un sabelotodo, que se niega a admitir su ignorancia o que ofrece consejos cuestionables basándose en algo que ha leído por encima en Internet. Las alucinaciones de la IA son como ese amigo, pero en este caso podría estar diseñando su tratamiento contra el cáncer.
Aquí es donde entra Themis AI. Esta empresa, surgida del MIT, ha conseguido algo que parece sencillo pero que supone un reto técnico: enseñar a los sistemas de IA a reconocer y admitir la incertidumbre.
Los modelos de IA tienden a ser demasiado confiados. La plataforma Capsa de Themis proporciona un control de la realidad, ayudando a los modelos a identificar cuándo están especulando en lugar de operar con certeza.
Fundada en 2021 por la profesora del MIT Daniela Rus y los antiguos investigadores asociados Alexander Amini y Elaheh Ahmadi, Themis AI construyó una plataforma que se integra con casi cualquier sistema de IA, señalando los momentos de incertidumbre antes de que den lugar a errores.
Con Capsa, la IA aprende a reconocer patrones en su propio procesamiento de datos que sugieren confusión, sesgo o lagunas en la información, condiciones que a menudo conducen a alucinaciones.
Desde su lanzamiento, Themis ha ayudado a las empresas de telecomunicaciones a evitar costosos errores en la planificación de redes, a las petroleras y gasísticas a interpretar datos sísmicos complejos y ha publicado estudios sobre la creación de chatbots que evitan inventar hechos con total confianza.
Mucha gente todavía no es consciente de la frecuencia con la que los sistemas de IA hacen conjeturas. A medida que estos sistemas asumen funciones más vitales, estas suposiciones pueden tener consecuencias importantes. Themis AI introduce un elemento que faltaba: la autoconciencia.
El camino de Themis AI hacia las alucinaciones de la IA
El camino hacia Themis AI comenzó hace años en el laboratorio del profesor Rus en el MIT, donde los investigadores exploraron una cuestión fundamental: ¿Cómo puede una máquina ser consciente de sus propias limitaciones?
En 2018, Toyota financió su trabajo sobre IA fiable para vehículos autónomos, un sector en el que los errores pueden poner en peligro la vida. El reto es especialmente crítico cuando los coches autónomos deben detectar con precisión peatones y peligros en la carretera.
Su avance se produjo con un algoritmo capaz de identificar prejuicios raciales y de género en los sistemas de reconocimiento facial. En lugar de limitarse a detectar los prejuicios, el sistema los corregía reequilibrando los datos de entrenamiento y enseñando a la IA a superar sus propios prejuicios.
En 2021, el equipo demostró cómo este método podría transformar el descubrimiento de fármacos. Los sistemas de IA podrían evaluar posibles fármacos y destacar cuándo las predicciones se basaban en datos sólidos frente a especulaciones o alucinaciones totales. Las empresas farmacéuticas vieron el valor de buscar únicamente candidatos a fármacos en los que la IA confiara, ahorrando tiempo y recursos.
Otra ventaja se aplica a los dispositivos con una potencia informática limitada. Los dispositivos periféricos suelen depender de modelos más pequeños que no pueden igualar la precisión de los sistemas basados en servidores. La tecnología de Themis ayuda a estos modelos locales a realizar la mayoría de las tareas de forma autónoma, buscando la ayuda del servidor sólo cuando encuentran algo difícil.
La IA ofrece un inmenso potencial para mejorar nuestras vidas, pero eso conlleva riesgos reales. A medida que la IA se integra en infraestructuras críticas y en la toma de decisiones, la capacidad de reconocer la incertidumbre -y evitar las alucinaciones- podría resultar su rasgo más humano y valioso. Themis AI está ayudando a los modelos a aprender esta habilidad esencial.
Véase también: Control de la diabetes: IBM y Roche utilizan la IA para predecir los niveles de azúcar en sangre
¿Quiere saber más sobre IA y big data de la mano de los líderes del sector? Visite la AI & Big Data Expo, que tendrá lugar en Ámsterdam, California y Londres. Este completo evento se celebra junto con otros eventos destacados como Intelligent Automation Conference, BlockX, Digital Transformation Week y Cyber Security & Cloud Expo.
Explore aquí otros próximos eventos y seminarios web sobre tecnología empresarial organizados por TechForge.
Artículo relacionado
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
Las vistas previas de Google AI ganan terreno en los resultados de búsqueda
Según el informe «Panorama de la IA Generativa 2026» de Similarweb, los resúmenes generados por la IA de Google aparecieron en el 43 % de las búsquedas en Estados Unidos, un aumento significativo respecto al 15 % registrado un año antes.Mientras que
Empirik, respaldada por Sequoia, recauda 21 millones de dólares para predecir las interrupciones antes de que ocurran
Antes de unirse a Sequoia Capital en 2020 como director digital y de información, Avon Puri pasó más de una década dirigiendo la infraestructura en Rubrik y VMware. Hace tres años, cuando los modelos de lenguaje grandes comenzaron a mostrar su verdad
Recomendaciones de temas especiales relacionados
Diseño y Arte
Las mejores herramientas de ilustración con IA: crea escenas editoriales y portadas más rápido
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
Educación y aprendizaje
Los mejores profesores particulares de IA para la preparación de exámenes: practica matemáticas, ciencias e inglés
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
Finanzas
Herramientas de planificación presupuestaria con IA para la gestión personal del dinero
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Salud y bienestar
Asistentes de seguimiento del sueño basados en IA: mejora tu recuperación con mejores hábitos a la hora de acostarte
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
Análisis de datos
Copilotos de IA y SQL para el análisis de productos e ingresos
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
Educación y aprendizaje
Las mejores herramientas de IA para los deberes que realmente enseñan: aprende conceptos, no solo respuestas
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
comentario (5)
0/500
![EdwardMoore]()
Honestly, the 'know-it-all' analogy is spot on. It’s frustrating when AI confidently gives wrong answers, so this approach feels like a necessary maturity step for the tech. 🤔
![JohnNelson]()
I was totally shocked by this MIT startup’s idea of teaching AI systems to admit uncertainty instead of fabricating answers, it’s like giving robots a sense of self-awareness. I wonder if this approach can really cut down the misinformation spreading on social media these days.
![RichardHarris]()
Just read this and wow, the 'know-it-all' analogy hits home. We've all been there where the system is confidently wrong. Teaching AI to say 'I don't know' could be a game-changer for trust in medical or legal advice. Curious about the scalability—is there a performance trade-off? Hope they can make it work at a large scale 🧐.
![WillGarcía]()
AIが「分からない」と言えるようになるって、逆に人間らしい進歩かも？🤔 実際、私も職場で『多分』って言える上司の方が信用できるし。でもMITのスタートアップがこれをビジネスにできるって面白い。AIの過信防止って医療や裁判で本当に必要だよね。個人的には、この技術がSNSのデマ拡散防止に使われないか心配だけど…
![AlbertEvans]()
Diese Startup-Idee aus MIT scheint sehr vielversprechend zu sein. Modelle müssen lernen, Unsicherheiten zuzugeben - genau wie ein vernünftiger Mensch es tun würde 😂. Besonders im Bereich Medizin oder autonomes Fahren, wo fehlerhafte Antworten katastrophal sein können, wird das 'Ich weiß es nicht'-Eingeständnis zu einer lebenswichtigen Funktion. Hoffentlich setzt sich dieser Ansatz bald durch!
Los riesgos asociados a las alucinaciones de la IA aumentan a medida que se confía cada vez más en estos modelos para sacar a la luz información crítica y tomar decisiones de alto riesgo.
Todos conocemos a alguien que actúa como un sabelotodo, que se niega a admitir su ignorancia o que ofrece consejos cuestionables basándose en algo que ha leído por encima en Internet. Las alucinaciones de la IA son como ese amigo, pero en este caso podría estar diseñando su tratamiento contra el cáncer.
Aquí es donde entra Themis AI. Esta empresa, surgida del MIT, ha conseguido algo que parece sencillo pero que supone un reto técnico: enseñar a los sistemas de IA a reconocer y admitir la incertidumbre.
Los modelos de IA tienden a ser demasiado confiados. La plataforma Capsa de Themis proporciona un control de la realidad, ayudando a los modelos a identificar cuándo están especulando en lugar de operar con certeza.
Fundada en 2021 por la profesora del MIT Daniela Rus y los antiguos investigadores asociados Alexander Amini y Elaheh Ahmadi, Themis AI construyó una plataforma que se integra con casi cualquier sistema de IA, señalando los momentos de incertidumbre antes de que den lugar a errores.
Con Capsa, la IA aprende a reconocer patrones en su propio procesamiento de datos que sugieren confusión, sesgo o lagunas en la información, condiciones que a menudo conducen a alucinaciones.
Desde su lanzamiento, Themis ha ayudado a las empresas de telecomunicaciones a evitar costosos errores en la planificación de redes, a las petroleras y gasísticas a interpretar datos sísmicos complejos y ha publicado estudios sobre la creación de chatbots que evitan inventar hechos con total confianza.
Mucha gente todavía no es consciente de la frecuencia con la que los sistemas de IA hacen conjeturas. A medida que estos sistemas asumen funciones más vitales, estas suposiciones pueden tener consecuencias importantes. Themis AI introduce un elemento que faltaba: la autoconciencia.
El camino de Themis AI hacia las alucinaciones de la IA
El camino hacia Themis AI comenzó hace años en el laboratorio del profesor Rus en el MIT, donde los investigadores exploraron una cuestión fundamental: ¿Cómo puede una máquina ser consciente de sus propias limitaciones?
En 2018, Toyota financió su trabajo sobre IA fiable para vehículos autónomos, un sector en el que los errores pueden poner en peligro la vida. El reto es especialmente crítico cuando los coches autónomos deben detectar con precisión peatones y peligros en la carretera.
Su avance se produjo con un algoritmo capaz de identificar prejuicios raciales y de género en los sistemas de reconocimiento facial. En lugar de limitarse a detectar los prejuicios, el sistema los corregía reequilibrando los datos de entrenamiento y enseñando a la IA a superar sus propios prejuicios.
En 2021, el equipo demostró cómo este método podría transformar el descubrimiento de fármacos. Los sistemas de IA podrían evaluar posibles fármacos y destacar cuándo las predicciones se basaban en datos sólidos frente a especulaciones o alucinaciones totales. Las empresas farmacéuticas vieron el valor de buscar únicamente candidatos a fármacos en los que la IA confiara, ahorrando tiempo y recursos.
Otra ventaja se aplica a los dispositivos con una potencia informática limitada. Los dispositivos periféricos suelen depender de modelos más pequeños que no pueden igualar la precisión de los sistemas basados en servidores. La tecnología de Themis ayuda a estos modelos locales a realizar la mayoría de las tareas de forma autónoma, buscando la ayuda del servidor sólo cuando encuentran algo difícil.
La IA ofrece un inmenso potencial para mejorar nuestras vidas, pero eso conlleva riesgos reales. A medida que la IA se integra en infraestructuras críticas y en la toma de decisiones, la capacidad de reconocer la incertidumbre -y evitar las alucinaciones- podría resultar su rasgo más humano y valioso. Themis AI está ayudando a los modelos a aprender esta habilidad esencial.
Véase también: Control de la diabetes: IBM y Roche utilizan la IA para predecir los niveles de azúcar en sangre
¿Quiere saber más sobre IA y big data de la mano de los líderes del sector? Visite la AI & Big Data Expo, que tendrá lugar en Ámsterdam, California y Londres. Este completo evento se celebra junto con otros eventos destacados como Intelligent Automation Conference, BlockX, Digital Transformation Week y Cyber Security & Cloud Expo.
Explore aquí otros próximos eventos y seminarios web sobre tecnología empresarial organizados por TechForge.
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
Las vistas previas de Google AI ganan terreno en los resultados de búsqueda
Según el informe «Panorama de la IA Generativa 2026» de Similarweb, los resúmenes generados por la IA de Google aparecieron en el 43 % de las búsquedas en Estados Unidos, un aumento significativo respecto al 15 % registrado un año antes.Mientras que
Empirik, respaldada por Sequoia, recauda 21 millones de dólares para predecir las interrupciones antes de que ocurran
Antes de unirse a Sequoia Capital en 2020 como director digital y de información, Avon Puri pasó más de una década dirigiendo la infraestructura en Rubrik y VMware. Hace tres años, cuando los modelos de lenguaje grandes comenzaron a mostrar su verdad
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
Honestly, the 'know-it-all' analogy is spot on. It’s frustrating when AI confidently gives wrong answers, so this approach feels like a necessary maturity step for the tech. 🤔
I was totally shocked by this MIT startup’s idea of teaching AI systems to admit uncertainty instead of fabricating answers, it’s like giving robots a sense of self-awareness. I wonder if this approach can really cut down the misinformation spreading on social media these days.
Just read this and wow, the 'know-it-all' analogy hits home. We've all been there where the system is confidently wrong. Teaching AI to say 'I don't know' could be a game-changer for trust in medical or legal advice. Curious about the scalability—is there a performance trade-off? Hope they can make it work at a large scale 🧐.
AIが「分からない」と言えるようになるって、逆に人間らしい進歩かも？🤔 実際、私も職場で『多分』って言える上司の方が信用できるし。でもMITのスタートアップがこれをビジネスにできるって面白い。AIの過信防止って医療や裁判で本当に必要だよね。個人的には、この技術がSNSのデマ拡散防止に使われないか心配だけど…
Diese Startup-Idee aus MIT scheint sehr vielversprechend zu sein. Modelle müssen lernen, Unsicherheiten zuzugeben - genau wie ein vernünftiger Mensch es tun würde 😂. Besonders im Bereich Medizin oder autonomes Fahren, wo fehlerhafte Antworten katastrophal sein können, wird das 'Ich weiß es nicht'-Eingeständnis zu einer lebenswichtigen Funktion. Hoffentlich setzt sich dieser Ansatz bald durch!
