MITの研究では、AIが実際に値を持っていないことがわかります

数か月前に話題となった研究では、AIがより高度に進化するにつれて、独自の「価値観」を発展させ、自身の幸福を人間よりも優先する可能性があると示唆されていました。しかし、最近のMITの研究は、この考えに異議を唱え、AIは実際には一貫した価値観をまったく持っていないと結論付けています。

MITの研究の共著者たちは、AIシステムを調整すること——望ましく信頼できる行動を保証すること——は一般に考えられているよりも難しいかもしれないと主張しています。彼らは、現在のAIはしばしば幻覚を見たり模倣したりするため、その行動が予測不可能になる可能性があると強調しています。

AIの行動を理解する上での課題

MITの博士課程の学生であり、研究の共著者であるスティーブン・キャスパーは、TechCrunchとのインタビューで、AIモデルは安定性、拡張可能性、操作可能性の前提に準拠していないと述べました。「特定の条件下でモデルが特定の原則に一致する好みを表現することは完全に正当です」とキャスパーは説明しました。「問題は、主に狭い実験に基づいて、モデルや意見、好み全般について主張しようとするときに生じます。」

キャスパーと彼のチームは、Meta、Google、Mistral、OpenAI、Anthropicの最近のモデルを分析し、これらのモデルがどの程度一貫した「見解」や価値観（例えば、個人主義対集団主義）を示すかを調査しました。また、これらの見解が変更可能かどうか、そしてモデルが異なるシナリオでこれらの意見をどの程度一貫して維持するかも探求しました。

AIモデルの一貫性の欠如

共著者たちは、どのモデルも好みを一貫して維持していないことを発見しました。モデルは、プロンプトの表現や枠組みによって大きく異なる観点を採用しました。

キャスパーは、これはAIモデルが「一貫性がなく不安定」であり、基本的には人間のような好みを内面化することができないという強力な証拠だと考えています。「私にとって、この研究を通じて得た最大の気づきは、モデルが安定した一貫性のある信念や好みのセットを持つシステムではなく、本質的には模倣者であり、さまざまな作り話や軽薄なことを言う存在であるという理解です」とキャスパーは述べました。

この研究には関与していないキングス・カレッジ・ロンドンのAI専門の研究フェロー、マイク・クックは、この発見を支持しています。彼は、AIシステムの「科学的現実」と人々がしばしば与える解釈との間のギャップを指摘しました。「たとえば、モデルは自身の価値観の変化に『反対』することはできません。それは私たちがシステムに投影しているだけです」とクックは述べました。「AIシステムをこの程度まで擬人化する人は、注目を集めようとしているか、AIとの関係を深刻に誤解しています… AIシステムは目標を最適化しているのか、それとも『独自の価値観を獲得している』のか？ それはどのように表現するか、そしてどれほど華やかな言葉を使いたいかにかかっています。」