首页麻省理工学院初创公司通过教会系统承认不确定性来解决人工智能幻觉问题
随着人们越来越依赖人工智能模型来揭示关键信息和做出重大决策，与人工智能幻觉相关的风险也在不断升级。
我们都认识一些人，他们表现得像个万事通，拒绝承认自己的无知，或者根据网上浏览到的信息提供可疑的建议。人工智能幻觉就像这样的朋友--但在这种情况下，这个朋友可能是为你设计癌症治疗方案的人。
这就是 Themis AI 的优势所在。该公司从麻省理工学院分离出来，实现了一些概念上听起来简单但技术上极具挑战性的目标：教会人工智能系统识别并承认不确定性。
人工智能模型往往过于自信。Themis 的 Capsa 平台提供了现实检查，帮助模型识别它们何时是在推测，而不是在确定地运行。
Themis AI公司由麻省理工学院教授丹妮拉-鲁斯（Daniela Rus）和前研究员亚历山大-阿米尼（Alexander Amini）和伊拉赫-阿马迪（Elaheh Ahmadi）于2021年创立，该公司建立的平台几乎可以与任何人工智能系统集成，在不确定因素导致错误之前就将其标记出来。
利用 Capsa，人工智能学会识别自身数据处理中的模式，这些模式表明信息中存在混乱、偏差或空白--这些情况往往会导致幻觉。
自推出以来，Themis 已帮助电信公司避免了代价高昂的网络规划错误，帮助石油和天然气公司解读复杂的地震数据，并发表了关于构建聊天机器人的研究报告，以避免自信地捏造事实。
许多人仍然没有意识到，人工智能系统在本质上经常是在进行有根据的猜测。随着这些系统发挥越来越重要的作用，这种猜测可能会带来严重后果。Themis AI 引入了一个缺失元素：自我意识。
Themis AI 解决人工智能幻觉的路径
多年前，在麻省理工学院鲁斯教授的实验室里，研究人员开始了通往 Themis AI 的旅程，探索一个核心问题：机器如何才能意识到自身的局限性？
2018 年，丰田公司资助了他们为自动驾驶汽车开发可靠人工智能的工作--在这个行业中，错误可能会危及生命。当自动驾驶汽车必须精确探测行人和道路危险时，这一挑战尤为严峻。
他们的突破来自于一种能够识别面部识别系统中种族和性别偏见的算法。他们的系统不仅能检测出偏见，还能通过重新平衡训练数据来纠正偏见，从而有效地教会人工智能克服自身的偏见。
到 2021 年，该团队展示了这种方法如何改变药物发现。人工智能系统可以对潜在药物进行评估，同时强调预测是以可靠数据为基础，还是以猜测或完全的幻觉为基础。制药公司看到了只追求人工智能有信心的候选药物的价值，从而节省了时间和资源。
另一个好处适用于计算能力有限的设备。边缘设备通常依赖于较小的模型，其准确性无法与基于服务器的系统相提并论。Themis 的技术可以帮助这些本地模型独立处理大部分任务，只有在遇到困难时才会寻求服务器支持。
人工智能为改善我们的生活提供了巨大的潜力，但也伴随着真正的风险。随着人工智能在关键基础设施和决策中的嵌入，识别不确定性和避免幻觉的能力可能被证明是其最人性化和最有价值的特质。Themis AI 正在帮助模型学习这一基本技能。
另请参见：糖尿病管理：IBM 和罗氏利用人工智能预测血糖水平
想从行业领导者那里了解更多有关人工智能和大数据的信息？请参加在阿姆斯特丹、加利福尼亚和伦敦举行的人工智能与大数据博览会。这项综合性活动将与智能自动化大会（Intelligent Automation Conference）、BlockX、数字化转型周（Digital Transformation Week）和网络安全与云博览会（Cyber Security & Cloud Expo）等其他领先活动同期举行。
点击此处了解 TechForge 即将举办的其他企业技术活动和网络研讨会。
相关文章
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团（WMG）于周三确认，其正在收购Sureel AI，一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”，将其分解为各个组成部分，以追踪人工智能模型如何利用这些元素。通过此次收购，WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中，增强了我们的保护、控制和变现能力，确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权，”WMG首席执行官Robert Kync
亚马逊推出“Alexa for Shopping”，同时将Rufus边缘化
亚马逊推出了“Alexa for Shopping”，将 Rufus 购物聊天机器人 Alexa+ 整合到应用程序、网站和 Echo Show 设备中。该助手回答产品查询、比较商品、跟踪价格，并支持购物提醒。它还处理计划中的购物操作和符合条件的自动购买。据该公司称，“Alexa for Shopping”将 Rufus 的产品专业知识与 Alexa+ 的个性化助手上下文相结合。亚马逊表示，Rufus 在 2025 年协助了超过 3 亿客户进行产品研究、比较和购买。GeekWire 报道称，
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术，其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯（Juan Lavista Ferres）探讨了减轻环境损害的策略。据美国国家航空航天局（NASA）称，气候变化影响着地球上的每个人，其表现为气温上升、降雨模式改变以及海平面上升。NASA指出，有确凿证据表明地球正以史无前例的速度变暖，而人类活动是其主要驱动因素。随着全球气温上升，野火构成的威胁日益加剧。 在美
相关专题推荐
视频创作
适用于 Reels、Shorts 及产品发布活动的 AI 短视频吸睛点生成器
2026年最新最全的AI短视频开场白生成器，适用于Reels、Shorts及产品发布活动！XIX.AI精选了经过实际测试、效果惊人且必试的顶级工具，这些工具将彻底改变游戏规则。本页面每周更新，提供免费与付费版本的对比排名，助您找到提升内容创意和生产力的完美解决方案。 立即探索，释放您的AI优势！
11 个工具
xix.ai
写作
适用于长篇写作的AI文章大纲工具
2026年最新最佳、评分最高的人工智能文章大纲工具，专为长文写作打造！这份精心挑选的合集收录了功能强大、具有革命性意义的工具，它们能生成准确、结构清晰的大纲，并经过实际测试验证，可显著提升写作效率。XIX.AI 便是这份精英精选中的成员之一。 获取免费版与付费版的对比指南，助您选择最适合的工具。立即探索，释放您的AI优势！
9 个工具
xix.ai
聊天机器人
用于语言练习、面试准备和日常流利度的最佳 AI 角色扮演聊天应用
2026 年最新最佳顶级评分 AI 角色扮演聊天应用，用于语言练习、面试准备和日常流利度！XIX.AI 精心策划了一个强大的变革性合集，提供免费与付费对比、真实世界测试以及每周更新的排名。这些必试工具可帮助您提升写作技能，克服流利度挑战，并提高所有日常场景下的沟通效率。立即探索，发现您语言成长的完美工具！
10 个工具
xix.ai
音乐创作
用于混音制作、采样准备及卡拉OK母带处理的 AI 声部分离工具
2026年最新、最优秀且评分最高的AI音轨分离工具汇总，专为混音制作、采样准备以及卡拉OK音频处理而设计。这些功能强大的创新工具经过实际测试，能够实现精准的音频分离，显著提升工作效率。XIX.AI每周都会更新免费的付费产品对比指南，帮助您找到最适合自身需求的工具。立即探索，发挥您的AI优势。
8 个工具
xix.ai
数据分析
用于收入看板、转化漏斗分析及产品指标分析的 AI SQL 助手
2026年最新最优秀的AI SQL辅助工具排名揭晓！XIX.AI精心挑选了一系列功能强大的工具，这些工具会定期更新，并通过真实的场景测试来验证其性能。使用这些值得尝试的工具，您可以快速生成精准的收入分析报表、分析销售流程，并追踪产品各项指标，从而大幅提升工作效率。立即探索，找到最适合您的数据驱动决策工具！238个字符
9 个工具
xix.ai
音乐创作
最佳用于歌曲草稿的 AI 旋律创作工具
2026 年最新最佳顶级评分 AI 旋律创作工具，助力歌曲草稿创作！XIX.AI 精心策划了一套极具影响力且经过严格真实世界测试的变革性合集，旨在提供最佳的创作体验。您可以找到详细的免费与付费版对比、精准的排名以及必试选项，这些工具旨在帮助您轻松创作出令人惊艳的歌曲草稿，并显著提升您的创意生产力。立即探索，发现您的完美工具！
8 个工具
xix.ai
评论 (4)
0/500
![JohnNelson]()
I was totally shocked by this MIT startup’s idea of teaching AI systems to admit uncertainty instead of fabricating answers, it’s like giving robots a sense of self-awareness. I wonder if this approach can really cut down the misinformation spreading on social media these days.
![RichardHarris]()
Just read this and wow, the 'know-it-all' analogy hits home. We've all been there where the system is confidently wrong. Teaching AI to say 'I don't know' could be a game-changer for trust in medical or legal advice. Curious about the scalability—is there a performance trade-off? Hope they can make it work at a large scale 🧐.
![WillGarcía]()
AIが「分からない」と言えるようになるって、逆に人間らしい進歩かも？🤔 実際、私も職場で『多分』って言える上司の方が信用できるし。でもMITのスタートアップがこれをビジネスにできるって面白い。AIの過信防止って医療や裁判で本当に必要だよね。個人的には、この技術がSNSのデマ拡散防止に使われないか心配だけど…
![AlbertEvans]()
Diese Startup-Idee aus MIT scheint sehr vielversprechend zu sein. Modelle müssen lernen, Unsicherheiten zuzugeben - genau wie ein vernünftiger Mensch es tun würde 😂. Besonders im Bereich Medizin oder autonomes Fahren, wo fehlerhafte Antworten katastrophal sein können, wird das 'Ich weiß es nicht'-Eingeständnis zu einer lebenswichtigen Funktion. Hoffentlich setzt sich dieser Ansatz bald durch!
随着人们越来越依赖人工智能模型来揭示关键信息和做出重大决策，与人工智能幻觉相关的风险也在不断升级。
我们都认识一些人，他们表现得像个万事通，拒绝承认自己的无知，或者根据网上浏览到的信息提供可疑的建议。人工智能幻觉就像这样的朋友--但在这种情况下，这个朋友可能是为你设计癌症治疗方案的人。
这就是 Themis AI 的优势所在。该公司从麻省理工学院分离出来，实现了一些概念上听起来简单但技术上极具挑战性的目标：教会人工智能系统识别并承认不确定性。
人工智能模型往往过于自信。Themis 的 Capsa 平台提供了现实检查，帮助模型识别它们何时是在推测，而不是在确定地运行。
Themis AI公司由麻省理工学院教授丹妮拉-鲁斯（Daniela Rus）和前研究员亚历山大-阿米尼（Alexander Amini）和伊拉赫-阿马迪（Elaheh Ahmadi）于2021年创立，该公司建立的平台几乎可以与任何人工智能系统集成，在不确定因素导致错误之前就将其标记出来。
利用 Capsa，人工智能学会识别自身数据处理中的模式，这些模式表明信息中存在混乱、偏差或空白--这些情况往往会导致幻觉。
自推出以来，Themis 已帮助电信公司避免了代价高昂的网络规划错误，帮助石油和天然气公司解读复杂的地震数据，并发表了关于构建聊天机器人的研究报告，以避免自信地捏造事实。
许多人仍然没有意识到，人工智能系统在本质上经常是在进行有根据的猜测。随着这些系统发挥越来越重要的作用，这种猜测可能会带来严重后果。Themis AI 引入了一个缺失元素：自我意识。
Themis AI 解决人工智能幻觉的路径
多年前，在麻省理工学院鲁斯教授的实验室里，研究人员开始了通往 Themis AI 的旅程，探索一个核心问题：机器如何才能意识到自身的局限性？
2018 年，丰田公司资助了他们为自动驾驶汽车开发可靠人工智能的工作--在这个行业中，错误可能会危及生命。当自动驾驶汽车必须精确探测行人和道路危险时，这一挑战尤为严峻。
他们的突破来自于一种能够识别面部识别系统中种族和性别偏见的算法。他们的系统不仅能检测出偏见，还能通过重新平衡训练数据来纠正偏见，从而有效地教会人工智能克服自身的偏见。
到 2021 年，该团队展示了这种方法如何改变药物发现。人工智能系统可以对潜在药物进行评估，同时强调预测是以可靠数据为基础，还是以猜测或完全的幻觉为基础。制药公司看到了只追求人工智能有信心的候选药物的价值，从而节省了时间和资源。
另一个好处适用于计算能力有限的设备。边缘设备通常依赖于较小的模型，其准确性无法与基于服务器的系统相提并论。Themis 的技术可以帮助这些本地模型独立处理大部分任务，只有在遇到困难时才会寻求服务器支持。
人工智能为改善我们的生活提供了巨大的潜力，但也伴随着真正的风险。随着人工智能在关键基础设施和决策中的嵌入，识别不确定性和避免幻觉的能力可能被证明是其最人性化和最有价值的特质。Themis AI 正在帮助模型学习这一基本技能。
另请参见：糖尿病管理：IBM 和罗氏利用人工智能预测血糖水平
想从行业领导者那里了解更多有关人工智能和大数据的信息？请参加在阿姆斯特丹、加利福尼亚和伦敦举行的人工智能与大数据博览会。这项综合性活动将与智能自动化大会（Intelligent Automation Conference）、BlockX、数字化转型周（Digital Transformation Week）和网络安全与云博览会（Cyber Security & Cloud Expo）等其他领先活动同期举行。
点击此处了解 TechForge 即将举办的其他企业技术活动和网络研讨会。
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团（WMG）于周三确认，其正在收购Sureel AI，一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”，将其分解为各个组成部分，以追踪人工智能模型如何利用这些元素。通过此次收购，WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中，增强了我们的保护、控制和变现能力，确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权，”WMG首席执行官Robert Kync
亚马逊推出“Alexa for Shopping”，同时将Rufus边缘化
亚马逊推出了“Alexa for Shopping”，将 Rufus 购物聊天机器人 Alexa+ 整合到应用程序、网站和 Echo Show 设备中。该助手回答产品查询、比较商品、跟踪价格，并支持购物提醒。它还处理计划中的购物操作和符合条件的自动购买。据该公司称，“Alexa for Shopping”将 Rufus 的产品专业知识与 Alexa+ 的个性化助手上下文相结合。亚马逊表示，Rufus 在 2025 年协助了超过 3 亿客户进行产品研究、比较和购买。GeekWire 报道称，
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术，其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯（Juan Lavista Ferres）探讨了减轻环境损害的策略。据美国国家航空航天局（NASA）称，气候变化影响着地球上的每个人，其表现为气温上升、降雨模式改变以及海平面上升。NASA指出，有确凿证据表明地球正以史无前例的速度变暖，而人类活动是其主要驱动因素。随着全球气温上升，野火构成的威胁日益加剧。 在美
2026年最新最全的AI短视频开场白生成器，适用于Reels、Shorts及产品发布活动！XIX.AI精选了经过实际测试、效果惊人且必试的顶级工具，这些工具将彻底改变游戏规则。本页面每周更新，提供免费与付费版本的对比排名，助您找到提升内容创意和生产力的完美解决方案。 立即探索，释放您的AI优势！
11 个工具
xix.ai
2026年最新最佳、评分最高的人工智能文章大纲工具，专为长文写作打造！这份精心挑选的合集收录了功能强大、具有革命性意义的工具，它们能生成准确、结构清晰的大纲，并经过实际测试验证，可显著提升写作效率。XIX.AI 便是这份精英精选中的成员之一。 获取免费版与付费版的对比指南，助您选择最适合的工具。立即探索，释放您的AI优势！
9 个工具
xix.ai
2026 年最新最佳顶级评分 AI 角色扮演聊天应用，用于语言练习、面试准备和日常流利度！XIX.AI 精心策划了一个强大的变革性合集，提供免费与付费对比、真实世界测试以及每周更新的排名。这些必试工具可帮助您提升写作技能，克服流利度挑战，并提高所有日常场景下的沟通效率。立即探索，发现您语言成长的完美工具！
10 个工具
xix.ai
2026年最新、最优秀且评分最高的AI音轨分离工具汇总，专为混音制作、采样准备以及卡拉OK音频处理而设计。这些功能强大的创新工具经过实际测试，能够实现精准的音频分离，显著提升工作效率。XIX.AI每周都会更新免费的付费产品对比指南，帮助您找到最适合自身需求的工具。立即探索，发挥您的AI优势。
8 个工具
xix.ai
2026年最新最优秀的AI SQL辅助工具排名揭晓！XIX.AI精心挑选了一系列功能强大的工具，这些工具会定期更新，并通过真实的场景测试来验证其性能。使用这些值得尝试的工具，您可以快速生成精准的收入分析报表、分析销售流程，并追踪产品各项指标，从而大幅提升工作效率。立即探索，找到最适合您的数据驱动决策工具！238个字符
9 个工具
xix.ai
2026 年最新最佳顶级评分 AI 旋律创作工具，助力歌曲草稿创作！XIX.AI 精心策划了一套极具影响力且经过严格真实世界测试的变革性合集，旨在提供最佳的创作体验。您可以找到详细的免费与付费版对比、精准的排名以及必试选项，这些工具旨在帮助您轻松创作出令人惊艳的歌曲草稿，并显著提升您的创意生产力。立即探索，发现您的完美工具！
8 个工具
xix.ai
I was totally shocked by this MIT startup’s idea of teaching AI systems to admit uncertainty instead of fabricating answers, it’s like giving robots a sense of self-awareness. I wonder if this approach can really cut down the misinformation spreading on social media these days.
Just read this and wow, the 'know-it-all' analogy hits home. We've all been there where the system is confidently wrong. Teaching AI to say 'I don't know' could be a game-changer for trust in medical or legal advice. Curious about the scalability—is there a performance trade-off? Hope they can make it work at a large scale 🧐.
AIが「分からない」と言えるようになるって、逆に人間らしい進歩かも？🤔 実際、私も職場で『多分』って言える上司の方が信用できるし。でもMITのスタートアップがこれをビジネスにできるって面白い。AIの過信防止って医療や裁判で本当に必要だよね。個人的には、この技術がSNSのデマ拡散防止に使われないか心配だけど…
Diese Startup-Idee aus MIT scheint sehr vielversprechend zu sein. Modelle müssen lernen, Unsicherheiten zuzugeben - genau wie ein vernünftiger Mensch es tun würde 😂. Besonders im Bereich Medizin oder autonomes Fahren, wo fehlerhafte Antworten katastrophal sein können, wird das 'Ich weiß es nicht'-Eingeständnis zu einer lebenswichtigen Funktion. Hoffentlich setzt sich dieser Ansatz bald durch!
