家MITのスタートアップ、システムに不確実性を教えることでAIの幻覚に挑む
AIの幻覚に関連するリスクは、これらのモデルが重要な情報を表示し、重大な決断を下すためにますます信頼されるようになるにつれて、エスカレートしている。
私たちは皆、知ったかぶりをしたり、無知を認めようとしなかったり、ネットでざっと読んだ情報に基づいて疑わしいアドバイスをしたりする人を知っている。AIの幻覚はそのような友人のようなものだが、この場合、その友人はあなたのがん治療をデザインしているのかもしれない。
そこでテミスAIの出番だ。マサチューセッツ工科大学（MIT）からスピンアウトした同社は、コンセプトとしては単純に聞こえるが、技術的には困難なことを成し遂げた。
AIモデルは過信する傾向がある。テミスのCapsaプラットフォームは現実をチェックし、モデルが確信を持って行動するのではなく、憶測で行動しているときを識別できるようにする。
MITのダニエラ・ラス教授と元研究員のアレクサンダー・アミニ氏とエラヘ・アフマディ氏によって2021年に設立されたテミスAIは、ほぼすべてのAIシステムと統合できるプラットフォームを構築し、エラーにつながる前に不確実性の瞬間にフラグを立てる。
Capsaを使用することで、AIは自身のデータ処理において、混乱や偏り、情報のギャップを示唆するパターンを認識することを学習する。
立ち上げ以来、Themisは、通信会社が高価なネットワーク計画のミスを防ぐのを支援し、石油・ガス会社が複雑な地震データを解釈するのを助け、自信を持って事実を捏造するのを避けるチャットボットの構築に関する研究を発表したと報告している。
多くの人々は、AIシステムが本質的にどれほどの頻度で経験則に基づく推測を行っているかにまだ気づいていない。これらのシステムがより重要な役割を担うようになると、そのような推測は重大な結果をもたらす可能性がある。Themis AIは、自己認識という欠けている要素を導入する。
Themis AIがAIの幻覚に対処するまでの道のり
Themis AIへの道のりは、数年前にMITのルス教授の研究室で始まった：どうすれば機械は自らの限界を認識できるのか？
2018年、トヨタは自律走行車のための信頼性の高いAIの研究に資金を提供した。この課題は、自動運転車が歩行者や道路上の危険を正確に検知しなければならない場合に特に重要である。
彼らのブレークスルーは、顔認識システムにおける人種と性別の偏りを識別できるアルゴリズムによってもたらされた。単にバイアスを検出するのではなく、学習データのバランスを調整することでバイアスを修正する。
2021年までに研究チームは、この方法が創薬にどのような変革をもたらすかを実証した。AIシステムは、予測が確かなデータに基づいたものである場合と、推測や全くの幻覚である場合を強調しながら、潜在的な医薬品を評価できるようになった。製薬会社は、AIが確信した新薬候補だけを追求することに価値を見いだし、時間とリソースの両方を節約した。
もうひとつの利点は、コンピューティング・パワーが限られているデバイスに適用される。エッジデバイスは、サーバーベースのシステムの精度には及ばない小規模なモデルに依存していることが多い。テミスのテクノロジーは、これらのローカルモデルがほとんどのタスクを独自に処理し、困難なことに遭遇したときだけサーバーのサポートを求めるのを助ける。
AIは私たちの生活を向上させる計り知れない可能性を秘めていますが、それには現実的なリスクが伴います。AIが重要なインフラや意思決定に組み込まれるにつれ、不確実性を認識し、幻覚を回避する能力が、最も人間的で価値のある特性であることが証明されるかもしれない。テミスAIは、モデルがこの不可欠なスキルを習得する手助けをしている。
こちらもご覧ください：糖尿病管理：IBMとロシュがAIを使って血糖値を予測
業界のリーダーからAIとビッグデータについてもっと学びたいですか？アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoをチェックしてください。この包括的なイベントは、Intelligent Automation Conference、BlockX、Digital Transformation Week、Cyber Security & Cloud Expoなどの他の主要イベントと併催されています。
テックフォージが提供するその他の企業向けテクノロジーイベントやウェビナーについては、こちらをご覧ください。
関連記事
ワーナーミュージックがAI帰属分析スタートアップのSureel AIを買収
ワーナー・ミュージック・グループ（WMG）は水曜日、人工知能（AI）の帰属情報スタートアップであるSureel AIを買収すると発表した。Sureelの独自技術は、楽曲に対して「AI DNA」を生成し、構成要素に分解して、AIモデルがこれらの要素をどのように利用するかを追跡する。今回の買収を通じて、WMGは、アーティストやソングライターの作品がAI生成コンテンツで利用されたり、AIモデルの学習に使用されたりする状況を監視する能力を強化する目的である。「SureelをWMGに統合することで、保
Amazonは、Alexa for Shoppingを導入しつつ、Rufusを後回しにしている
Amazonは、RufusショッピングチャットボットとAlexa+をアプリ、ウェブサイト、Echo Showデバイス全体で統合した「Alexa for Shopping」をリリースした。このアシスタントは商品の問い合わせに応じ、アイテムの比較、価格追跡、ショッピングリマインダーをサポートする。また、スケジュールされたショッピングアクションや対象となる自動購入も処理する。同社によると、「Alexa for Shopping」はRufusの商品専門知識とAlexa+のパーソナライズされたアシスタ
マイクロソフト、Azure、AI技術がカリフォルニアの山火事リスク対策に貢献
マイクロソフトはAIを活用した山火事検知技術に投資しており、CVP兼チーフデータサイエンティストのフアン・ラビスタ・フェレス氏が、環境被害を軽減するための戦略について語っている。NASAによると、気候変動は地球上のすべての人々に影響を及ぼしており、気温の上昇、降雨パターンの変化、海面上昇といった形で現れている。NASAは、地球がかつてない速度で温暖化しており、その主な要因は人間の活動であるという明
関連特集おすすめ
作曲
リミックス制作、サンプリングの準備、カラオケマスター作成のためのAIステム分離ツール
2026年最新・最高評価のAIステム分離ツール。リミックス制作、サンプリング準備、カラオケマスター向けに厳選されました。これらの強力で画期的なツールは、実環境でのテストを経て、正確なオーディオ分離を実現し、生産性を大幅に向上させます。 XIX.AIでは、ニーズに合った「必試」のソリューションを見つけるお手伝いをするため、無料版と有料版の比較ガイドを毎週更新して提供しています。今すぐチェックして、AIの力を最大限に活用しましょう。
8 ツール
xix.ai
データ分析
収益ダッシュボード、ファネル分析、および製品指標向けのAI SQLコピロット
2026年最新かつ最も優れたAI SQLコピロットが最高評価でランクイン！XIX.AIは、毎週更新される実際の環境でのテストに対応した、強力で革新的なツール群を厳選しています。これらの必見ツールを使えば、正確な収益ダッシュボードの作成や販売プロセスの分析、製品指標の迅速な追跡が可能となり、生産性を大幅に向上させることができます。今すぐチェックして、データに基づいた意思決定に最適なツールを見つけましょう！238文字
9 ツール
xix.ai
作曲
曲のドラフト作成に最適なAIメロディ作成ツール
2026年最新版 高評価のAIメロディ作成ツールで曲のドラフト作成！XIX.AIは、厳格な実世界テストを経て最高の作成体験を提供する、革新的な強力なコレクションを厳選しました。詳細な無料版と有料版の比較、正確なランキング、そして素晴らしい曲のドラフトを楽に作成し、創造的な生産性を大幅に向上させるためにぜひ試すべきオプションが見つかります。今すぐ探索して、あなたに最適なツールを見つけましょう！
8 ツール
xix.ai
チャットボット
面接練習用のベストなAI会話トレーニングツール
2026年最新版・最高評価のAI会話トレーニングツールが、面接練習に最適です。XIX.AIにてご提供しています！この厳選コレクションには、現実世界での厳格なテストを経て正確なフィードバックを提供する強力なツールが含まれています。無料版と有料版の比較や詳細なランキングをご覧いただき、自信とスキルを高めるための必須オプションをお選びください。今すぐ探索して、面接成功に最適なツールを見つけましょう！
12 ツール
xix.ai
デザインとアート
クリエイティブな実験に最適なAIスタイル転送ツール
2026年版 クリエイティブな実験に最適な、最新・最高評価のAIスタイル転送ツール！XIX.AIは、実地テストと厳格なランキングを通じて卓越した結果をもたらす、強力で画期的な「必試」ツールを厳選しました。これらのトップソリューションは、コンテンツ制作を加速させ、無限の創造的可能性を切り拓くことで、クリエイターの生産性を大幅に向上させます。 今すぐチェックして、あなたにぴったりのツールを見つけ、今日から創作を始めましょう！
9 ツール
xix.ai
漫画制作
ビジュアルストーリーテリングに最適なAI吹き出しツール
2026年版、ビジュアルストーリーテリングに最適な高評価AIダイアログバブルツールがXIX.AIに登場！この厳選コレクションには、クリエイターの生産性を高め、創作上のボトルネックを解消する、画期的な強力ツールが揃っています。 無料版と有料版の比較、実地テストの結果、最新のランキングを確認して、魅力的なビジュアルストーリーを構築するのに最適な、ぜひ試すべきソリューションを見つけましょう。今すぐチェックして、あなたにぴったりのツールを発見してください！
10 ツール
xix.ai
コメント (4)
0/500
![JohnNelson]()
I was totally shocked by this MIT startup’s idea of teaching AI systems to admit uncertainty instead of fabricating answers, it’s like giving robots a sense of self-awareness. I wonder if this approach can really cut down the misinformation spreading on social media these days.
![RichardHarris]()
Just read this and wow, the 'know-it-all' analogy hits home. We've all been there where the system is confidently wrong. Teaching AI to say 'I don't know' could be a game-changer for trust in medical or legal advice. Curious about the scalability—is there a performance trade-off? Hope they can make it work at a large scale 🧐.
![WillGarcía]()
AIが「分からない」と言えるようになるって、逆に人間らしい進歩かも？🤔 実際、私も職場で『多分』って言える上司の方が信用できるし。でもMITのスタートアップがこれをビジネスにできるって面白い。AIの過信防止って医療や裁判で本当に必要だよね。個人的には、この技術がSNSのデマ拡散防止に使われないか心配だけど…
![AlbertEvans]()
Diese Startup-Idee aus MIT scheint sehr vielversprechend zu sein. Modelle müssen lernen, Unsicherheiten zuzugeben - genau wie ein vernünftiger Mensch es tun würde 😂. Besonders im Bereich Medizin oder autonomes Fahren, wo fehlerhafte Antworten katastrophal sein können, wird das 'Ich weiß es nicht'-Eingeständnis zu einer lebenswichtigen Funktion. Hoffentlich setzt sich dieser Ansatz bald durch!
AIの幻覚に関連するリスクは、これらのモデルが重要な情報を表示し、重大な決断を下すためにますます信頼されるようになるにつれて、エスカレートしている。
私たちは皆、知ったかぶりをしたり、無知を認めようとしなかったり、ネットでざっと読んだ情報に基づいて疑わしいアドバイスをしたりする人を知っている。AIの幻覚はそのような友人のようなものだが、この場合、その友人はあなたのがん治療をデザインしているのかもしれない。
そこでテミスAIの出番だ。マサチューセッツ工科大学（MIT）からスピンアウトした同社は、コンセプトとしては単純に聞こえるが、技術的には困難なことを成し遂げた。
AIモデルは過信する傾向がある。テミスのCapsaプラットフォームは現実をチェックし、モデルが確信を持って行動するのではなく、憶測で行動しているときを識別できるようにする。
MITのダニエラ・ラス教授と元研究員のアレクサンダー・アミニ氏とエラヘ・アフマディ氏によって2021年に設立されたテミスAIは、ほぼすべてのAIシステムと統合できるプラットフォームを構築し、エラーにつながる前に不確実性の瞬間にフラグを立てる。
Capsaを使用することで、AIは自身のデータ処理において、混乱や偏り、情報のギャップを示唆するパターンを認識することを学習する。
立ち上げ以来、Themisは、通信会社が高価なネットワーク計画のミスを防ぐのを支援し、石油・ガス会社が複雑な地震データを解釈するのを助け、自信を持って事実を捏造するのを避けるチャットボットの構築に関する研究を発表したと報告している。
多くの人々は、AIシステムが本質的にどれほどの頻度で経験則に基づく推測を行っているかにまだ気づいていない。これらのシステムがより重要な役割を担うようになると、そのような推測は重大な結果をもたらす可能性がある。Themis AIは、自己認識という欠けている要素を導入する。
Themis AIがAIの幻覚に対処するまでの道のり
Themis AIへの道のりは、数年前にMITのルス教授の研究室で始まった：どうすれば機械は自らの限界を認識できるのか？
2018年、トヨタは自律走行車のための信頼性の高いAIの研究に資金を提供した。この課題は、自動運転車が歩行者や道路上の危険を正確に検知しなければならない場合に特に重要である。
彼らのブレークスルーは、顔認識システムにおける人種と性別の偏りを識別できるアルゴリズムによってもたらされた。単にバイアスを検出するのではなく、学習データのバランスを調整することでバイアスを修正する。
2021年までに研究チームは、この方法が創薬にどのような変革をもたらすかを実証した。AIシステムは、予測が確かなデータに基づいたものである場合と、推測や全くの幻覚である場合を強調しながら、潜在的な医薬品を評価できるようになった。製薬会社は、AIが確信した新薬候補だけを追求することに価値を見いだし、時間とリソースの両方を節約した。
もうひとつの利点は、コンピューティング・パワーが限られているデバイスに適用される。エッジデバイスは、サーバーベースのシステムの精度には及ばない小規模なモデルに依存していることが多い。テミスのテクノロジーは、これらのローカルモデルがほとんどのタスクを独自に処理し、困難なことに遭遇したときだけサーバーのサポートを求めるのを助ける。
AIは私たちの生活を向上させる計り知れない可能性を秘めていますが、それには現実的なリスクが伴います。AIが重要なインフラや意思決定に組み込まれるにつれ、不確実性を認識し、幻覚を回避する能力が、最も人間的で価値のある特性であることが証明されるかもしれない。テミスAIは、モデルがこの不可欠なスキルを習得する手助けをしている。
こちらもご覧ください：糖尿病管理：IBMとロシュがAIを使って血糖値を予測
業界のリーダーからAIとビッグデータについてもっと学びたいですか？アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoをチェックしてください。この包括的なイベントは、Intelligent Automation Conference、BlockX、Digital Transformation Week、Cyber Security & Cloud Expoなどの他の主要イベントと併催されています。
テックフォージが提供するその他の企業向けテクノロジーイベントやウェビナーについては、こちらをご覧ください。
ワーナーミュージックがAI帰属分析スタートアップのSureel AIを買収
ワーナー・ミュージック・グループ（WMG）は水曜日、人工知能（AI）の帰属情報スタートアップであるSureel AIを買収すると発表した。Sureelの独自技術は、楽曲に対して「AI DNA」を生成し、構成要素に分解して、AIモデルがこれらの要素をどのように利用するかを追跡する。今回の買収を通じて、WMGは、アーティストやソングライターの作品がAI生成コンテンツで利用されたり、AIモデルの学習に使用されたりする状況を監視する能力を強化する目的である。「SureelをWMGに統合することで、保
Amazonは、Alexa for Shoppingを導入しつつ、Rufusを後回しにしている
Amazonは、RufusショッピングチャットボットとAlexa+をアプリ、ウェブサイト、Echo Showデバイス全体で統合した「Alexa for Shopping」をリリースした。このアシスタントは商品の問い合わせに応じ、アイテムの比較、価格追跡、ショッピングリマインダーをサポートする。また、スケジュールされたショッピングアクションや対象となる自動購入も処理する。同社によると、「Alexa for Shopping」はRufusの商品専門知識とAlexa+のパーソナライズされたアシスタ
マイクロソフト、Azure、AI技術がカリフォルニアの山火事リスク対策に貢献
マイクロソフトはAIを活用した山火事検知技術に投資しており、CVP兼チーフデータサイエンティストのフアン・ラビスタ・フェレス氏が、環境被害を軽減するための戦略について語っている。NASAによると、気候変動は地球上のすべての人々に影響を及ぼしており、気温の上昇、降雨パターンの変化、海面上昇といった形で現れている。NASAは、地球がかつてない速度で温暖化しており、その主な要因は人間の活動であるという明
2026年最新・最高評価のAIステム分離ツール。リミックス制作、サンプリング準備、カラオケマスター向けに厳選されました。これらの強力で画期的なツールは、実環境でのテストを経て、正確なオーディオ分離を実現し、生産性を大幅に向上させます。 XIX.AIでは、ニーズに合った「必試」のソリューションを見つけるお手伝いをするため、無料版と有料版の比較ガイドを毎週更新して提供しています。今すぐチェックして、AIの力を最大限に活用しましょう。
8 ツール
xix.ai
2026年最新かつ最も優れたAI SQLコピロットが最高評価でランクイン！XIX.AIは、毎週更新される実際の環境でのテストに対応した、強力で革新的なツール群を厳選しています。これらの必見ツールを使えば、正確な収益ダッシュボードの作成や販売プロセスの分析、製品指標の迅速な追跡が可能となり、生産性を大幅に向上させることができます。今すぐチェックして、データに基づいた意思決定に最適なツールを見つけましょう！238文字
9 ツール
xix.ai
2026年最新版 高評価のAIメロディ作成ツールで曲のドラフト作成！XIX.AIは、厳格な実世界テストを経て最高の作成体験を提供する、革新的な強力なコレクションを厳選しました。詳細な無料版と有料版の比較、正確なランキング、そして素晴らしい曲のドラフトを楽に作成し、創造的な生産性を大幅に向上させるためにぜひ試すべきオプションが見つかります。今すぐ探索して、あなたに最適なツールを見つけましょう！
8 ツール
xix.ai
2026年最新版・最高評価のAI会話トレーニングツールが、面接練習に最適です。XIX.AIにてご提供しています！この厳選コレクションには、現実世界での厳格なテストを経て正確なフィードバックを提供する強力なツールが含まれています。無料版と有料版の比較や詳細なランキングをご覧いただき、自信とスキルを高めるための必須オプションをお選びください。今すぐ探索して、面接成功に最適なツールを見つけましょう！
12 ツール
xix.ai
2026年版 クリエイティブな実験に最適な、最新・最高評価のAIスタイル転送ツール！XIX.AIは、実地テストと厳格なランキングを通じて卓越した結果をもたらす、強力で画期的な「必試」ツールを厳選しました。これらのトップソリューションは、コンテンツ制作を加速させ、無限の創造的可能性を切り拓くことで、クリエイターの生産性を大幅に向上させます。 今すぐチェックして、あなたにぴったりのツールを見つけ、今日から創作を始めましょう！
9 ツール
xix.ai
2026年版、ビジュアルストーリーテリングに最適な高評価AIダイアログバブルツールがXIX.AIに登場！この厳選コレクションには、クリエイターの生産性を高め、創作上のボトルネックを解消する、画期的な強力ツールが揃っています。 無料版と有料版の比較、実地テストの結果、最新のランキングを確認して、魅力的なビジュアルストーリーを構築するのに最適な、ぜひ試すべきソリューションを見つけましょう。今すぐチェックして、あなたにぴったりのツールを発見してください！
10 ツール
xix.ai
I was totally shocked by this MIT startup’s idea of teaching AI systems to admit uncertainty instead of fabricating answers, it’s like giving robots a sense of self-awareness. I wonder if this approach can really cut down the misinformation spreading on social media these days.
Just read this and wow, the 'know-it-all' analogy hits home. We've all been there where the system is confidently wrong. Teaching AI to say 'I don't know' could be a game-changer for trust in medical or legal advice. Curious about the scalability—is there a performance trade-off? Hope they can make it work at a large scale 🧐.
AIが「分からない」と言えるようになるって、逆に人間らしい進歩かも？🤔 実際、私も職場で『多分』って言える上司の方が信用できるし。でもMITのスタートアップがこれをビジネスにできるって面白い。AIの過信防止って医療や裁判で本当に必要だよね。個人的には、この技術がSNSのデマ拡散防止に使われないか心配だけど…
Diese Startup-Idee aus MIT scheint sehr vielversprechend zu sein. Modelle müssen lernen, Unsicherheiten zuzugeben - genau wie ein vernünftiger Mensch es tun würde 😂. Besonders im Bereich Medizin oder autonomes Fahren, wo fehlerhafte Antworten katastrophal sein können, wird das 'Ich weiß es nicht'-Eingeständnis zu einer lebenswichtigen Funktion. Hoffentlich setzt sich dieser Ansatz bald durch!
