人類が「モデル福祉」を研究するためのプログラムを開始する

将来のAIは意識することができますか？

将来のAIが人間に似たある方法で世界を経験するかもしれないかどうかの問題は興味深いものですが、ほとんど答えられていません。彼らがそうするという決定的な証拠はありませんが、AIラボ人類はその可能性を完全に却下していません。木曜日に、人類は「モデル福祉」に焦点を当てた研究プログラムを開始し、AI意識を取り巻く潜在的な倫理的考慮事項を探求し、準備することを目指しています。

このイニシアチブの一環として、AIモデルの「福祉」が道徳的に見なされるべきか、モデルにおける「苦痛」の兆候の重要性、および潜在的な低コストの介入などのトピックを掘り下げるという人類の計画。これは、AIコミュニティが人間のような特性を示す程度とこれらのシステムをどのように扱うべきかについて分割されるときに起こります。

AI意識に関する多様な見解

多くの学者は、主に統計的予測エンジンとして機能する現在のAIは、真の意識や人間のような経験の能力を欠いていると主張しています。これらのシステムは、パターンを認識し、タスクにソリューションを外挿するために広大なデータセットでトレーニングされていますが、伝統的な意味では「考え」や「感じる」ことはありません。 King's College Londonの研究員であるMike Cookは、TechCrunchとの最近のインタビューでこの点を強調し、AIモデルは価値を持っておらず、彼らへの変更を「反対」できないと述べました。彼は擬人化するAIに対して警告し、それがしばしば技術の誤解であることを示唆した。

同様に、MITの博士課程の学生であるStephen Casperは、AIを「模倣者」と呼び、「模倣者」を「模倣者」と表現し、「軽薄なもの」と言い、AI能力と人間の認知のギャップを強調しています。

一方、一部の研究者は、AIが道徳的な意思決定の価値と要素を示していると主張しています。 AIの安全センターからの研究は、AIが特定のシナリオで人間に対する独自の幸福に優先順位を付けることができることを示唆しており、価値システムの存在を示唆しています。

モデル福祉に対する人類のアプローチ

人類はしばらくの間、このモデル福祉イニシアチブの準備をしてきました。昨年、彼らはカイル・フィッシュを最初の献身的な「AI福祉」研究者として雇い、これらの問題に対処するためのガイドラインを開発しました。現在、モデル福祉研究プログラムを率いているフィッシュは、ニューヨークタイムズに、クロードのようなAIが今日意識している可能性があると推定していると述べました。

最近のブログ投稿で、人類は、AI意識に関する科学的コンセンサスの欠如とそれに伴う倫理的考慮事項を認めました。彼らは、謙虚さと最小限の仮定でトピックに近づくことを強調し、フィールドが進化するにつれて彼らの理解を適応させる必要性を認識しました。

AI意識と福祉に関する議論は解決にはほど遠いものですが、Anthropicのようなイニシアチブは、AI開発の未来を理解し、責任を持ってナビゲートするための重要なステップです。