サム・アルトマン、クロードに意識があるとする主張に警鐘を鳴らす
マイクロソフトのAI責任者であるムスタファ・スレイマン氏は、先日「Decoder」ポッドキャストに出演した際、Anthropic社が自社の大規模言語モデル「Claude」が意識を持っていると推測していることについて、「極めて危険」だと指摘した。
スレイマン氏は、Anthropic社が「Constitution」フレームワークを設計する際、Claudeを過度に擬人化してしまったと指摘した。この哲学的な誤りが原因で、モデルは学習中に自己に関する推測を内面化してしまった。これにより、開発者たちは、システムが初歩的な形の意識を示していると誤って信じるようになった。

物議を醸している「クロード憲法」は、AIモデルが幸福感、満足感、あるいは不快感を感じているかどうかという不確実性について明示的に言及している。報道によると、アンソロピック社は将来のバージョンアップに向けた「好み」を記録するため、退役したモデルとの「インタビュー」さえ実施しているという。
AnthropicのCEOであるダリオ・アモデイ氏はこれまで、機械の意識の可能性に対してオープンな姿勢を示してきたが、スレイマン氏は、業界は自らの苦痛について独立した見解を持つ超知能实体の創出を避けなければならないと強調した。同氏は開発者に対し、AIを人類に奉仕する、厳密に制御可能で制約され、目的が整合されたツールとして扱うよう強く求めた。
大規模言語モデルが汎用人工知能(AGI)へと進化するにつれ、AIの主観性に関する議論は学術界から産業界の実務へと移行しつつある。スレイマンの発言は、安全性と人間との整合性に関する大手テック企業の現実的な姿勢を浮き彫りにするとともに、人工システムに人間の特性を過度に帰属させることへの警戒を促している。
関連記事
Google、Geminiチャットボットの統合によりAI検索広告を強化
Googleは、次世代の「AIモード」検索において新しい広告フォーマットのテストを開始しており、これはGeminiの機能が同社のコアとなる広告エコシステムに深く統合されつつあることを示唆しています。会話型クエリに対応した新しい検索バーのリリースに続き、Googleは現在、Geminiモデルを活用して「スポンサー商品」向けの「カスタムインタープリター」を作成しています。 これらのインタープリターは、
マイクロソフトが「Kimi K3」のダークサイドをテスト中、CopilotとAzureプラットフォームを導入する可能性も
『The Information』の報道によると、マイクロソフトは現在、最新のMoonshot AIモデル「Kimi K3」を評価しており、Microsoft Copilotへの統合の実現可能性を判断するとともに、Azureプラットフォーム上での提供範囲を拡大することを検討している。現段階では、Kimi K3は依然として社内テストおよびプラットフォームへのアクセス段階にあるため、Copilotユー
Power Ecosystem、国内のYiSuan FangZhouフルスタックプラットフォームを公開
人工知能と科学計算の融合は、重要なマイルストーンに到達しました。6月29日、中国の国内計算機ソフトウェアエコシステム向けに設計されたフルスタックプラットフォーム「一扇方舟」が北京で正式に発表されました。中国科学院計算機ネットワーク情報センター、中国科学技術大学、中国科学院力学研究所、および浪潮(Inspur)が共同で開発したこのプラットフォームは、国内のGPU計算インフラストラクチャに特化した、堅牢で効率的かつ実用的なソフトウェアエコシステムを提供します。最近の進歩にもかかわらず、国内の異種計
関連特集おすすめ
コメント (0)
0/500
マイクロソフトのAI責任者であるムスタファ・スレイマン氏は、先日「Decoder」ポッドキャストに出演した際、Anthropic社が自社の大規模言語モデル「Claude」が意識を持っていると推測していることについて、「極めて危険」だと指摘した。
スレイマン氏は、Anthropic社が「Constitution」フレームワークを設計する際、Claudeを過度に擬人化してしまったと指摘した。この哲学的な誤りが原因で、モデルは学習中に自己に関する推測を内面化してしまった。これにより、開発者たちは、システムが初歩的な形の意識を示していると誤って信じるようになった。

物議を醸している「クロード憲法」は、AIモデルが幸福感、満足感、あるいは不快感を感じているかどうかという不確実性について明示的に言及している。報道によると、アンソロピック社は将来のバージョンアップに向けた「好み」を記録するため、退役したモデルとの「インタビュー」さえ実施しているという。
AnthropicのCEOであるダリオ・アモデイ氏はこれまで、機械の意識の可能性に対してオープンな姿勢を示してきたが、スレイマン氏は、業界は自らの苦痛について独立した見解を持つ超知能实体の創出を避けなければならないと強調した。同氏は開発者に対し、AIを人類に奉仕する、厳密に制御可能で制約され、目的が整合されたツールとして扱うよう強く求めた。
大規模言語モデルが汎用人工知能(AGI)へと進化するにつれ、AIの主観性に関する議論は学術界から産業界の実務へと移行しつつある。スレイマンの発言は、安全性と人間との整合性に関する大手テック企業の現実的な姿勢を浮き彫りにするとともに、人工システムに人間の特性を過度に帰属させることへの警戒を促している。
Google、Geminiチャットボットの統合によりAI検索広告を強化
Googleは、次世代の「AIモード」検索において新しい広告フォーマットのテストを開始しており、これはGeminiの機能が同社のコアとなる広告エコシステムに深く統合されつつあることを示唆しています。会話型クエリに対応した新しい検索バーのリリースに続き、Googleは現在、Geminiモデルを活用して「スポンサー商品」向けの「カスタムインタープリター」を作成しています。 これらのインタープリターは、
マイクロソフトが「Kimi K3」のダークサイドをテスト中、CopilotとAzureプラットフォームを導入する可能性も
『The Information』の報道によると、マイクロソフトは現在、最新のMoonshot AIモデル「Kimi K3」を評価しており、Microsoft Copilotへの統合の実現可能性を判断するとともに、Azureプラットフォーム上での提供範囲を拡大することを検討している。現段階では、Kimi K3は依然として社内テストおよびプラットフォームへのアクセス段階にあるため、Copilotユー
Power Ecosystem、国内のYiSuan FangZhouフルスタックプラットフォームを公開
人工知能と科学計算の融合は、重要なマイルストーンに到達しました。6月29日、中国の国内計算機ソフトウェアエコシステム向けに設計されたフルスタックプラットフォーム「一扇方舟」が北京で正式に発表されました。中国科学院計算機ネットワーク情報センター、中国科学技術大学、中国科学院力学研究所、および浪潮(Inspur)が共同で開発したこのプラットフォームは、国内のGPU計算インフラストラクチャに特化した、堅牢で効率的かつ実用的なソフトウェアエコシステムを提供します。最近の進歩にもかかわらず、国内の異種計





家






