MITのスタートアップ、システムに不確実性を教えることでAIの幻覚に挑む

AIの幻覚に関連するリスクは、これらのモデルが重要な情報を表示し、重大な決断を下すためにますます信頼されるようになるにつれて、エスカレートしている。

私たちは皆、知ったかぶりをしたり、無知を認めようとしなかったり、ネットでざっと読んだ情報に基づいて疑わしいアドバイスをしたりする人を知っている。AIの幻覚はそのような友人のようなものだが、この場合、その友人はあなたのがん治療をデザインしているのかもしれない。

そこでテミスAIの出番だ。マサチューセッツ工科大学（MIT）からスピンアウトした同社は、コンセプトとしては単純に聞こえるが、技術的には困難なことを成し遂げた。

AIモデルは過信する傾向がある。テミスのCapsaプラットフォームは現実をチェックし、モデルが確信を持って行動するのではなく、憶測で行動しているときを識別できるようにする。

MITのダニエラ・ラス教授と元研究員のアレクサンダー・アミニ氏とエラヘ・アフマディ氏によって2021年に設立されたテミスAIは、ほぼすべてのAIシステムと統合できるプラットフォームを構築し、エラーにつながる前に不確実性の瞬間にフラグを立てる。

Capsaを使用することで、AIは自身のデータ処理において、混乱や偏り、情報のギャップを示唆するパターンを認識することを学習する。

立ち上げ以来、Themisは、通信会社が高価なネットワーク計画のミスを防ぐのを支援し、石油・ガス会社が複雑な地震データを解釈するのを助け、自信を持って事実を捏造するのを避けるチャットボットの構築に関する研究を発表したと報告している。

多くの人々は、AIシステムが本質的にどれほどの頻度で経験則に基づく推測を行っているかにまだ気づいていない。これらのシステムがより重要な役割を担うようになると、そのような推測は重大な結果をもたらす可能性がある。Themis AIは、自己認識という欠けている要素を導入する。

Themis AIがAIの幻覚に対処するまでの道のり

Themis AIへの道のりは、数年前にMITのルス教授の研究室で始まった：どうすれば機械は自らの限界を認識できるのか？

2018年、トヨタは自律走行車のための信頼性の高いAIの研究に資金を提供した。この課題は、自動運転車が歩行者や道路上の危険を正確に検知しなければならない場合に特に重要である。

彼らのブレークスルーは、顔認識システムにおける人種と性別の偏りを識別できるアルゴリズムによってもたらされた。単にバイアスを検出するのではなく、学習データのバランスを調整することでバイアスを修正する。

2021年までに研究チームは、この方法が創薬にどのような変革をもたらすかを実証した。AIシステムは、予測が確かなデータに基づいたものである場合と、推測や全くの幻覚である場合を強調しながら、潜在的な医薬品を評価できるようになった。製薬会社は、AIが確信した新薬候補だけを追求することに価値を見いだし、時間とリソースの両方を節約した。

もうひとつの利点は、コンピューティング・パワーが限られているデバイスに適用される。エッジデバイスは、サーバーベースのシステムの精度には及ばない小規模なモデルに依存していることが多い。テミスのテクノロジーは、これらのローカルモデルがほとんどのタスクを独自に処理し、困難なことに遭遇したときだけサーバーのサポートを求めるのを助ける。

AIは私たちの生活を向上させる計り知れない可能性を秘めていますが、それには現実的なリスクが伴います。AIが重要なインフラや意思決定に組み込まれるにつれ、不確実性を認識し、幻覚を回避する能力が、最も人間的で価値のある特性であることが証明されるかもしれない。テミスAIは、モデルがこの不可欠なスキルを習得する手助けをしている。

こちらもご覧ください：糖尿病管理：IBMとロシュがAIを使って血糖値を予測

業界のリーダーからAIとビッグデータについてもっと学びたいですか？アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoをチェックしてください。この包括的なイベントは、Intelligent Automation Conference、BlockX、Digital Transformation Week、Cyber Security & Cloud Expoなどの他の主要イベントと併催されています。

テックフォージが提供するその他の企業向けテクノロジーイベントやウェビナーについては、こちらをご覧ください。