Anthropicのエンジニアたちは、Claudeが人間ではなくAIのために書けるように訓練されていたことを明らかにした

大規模なAIモデルは進化に伴い、しばしば予期せぬ副作用を示す。Opus 4.6リリース以降、Claudeの文章品質が低下しているという最近のユーザー報告と、特有の「Claude特有のアクセント」への懸念を受け、AnthropicのエンジニアであるJackson Kernion氏はこの問題について言及し、この現象の技術的な根源に光を当てた。
Claudeの最適化戦略は、数学的推論やコーディング能力の向上をますます優先するようになっている。複雑なエンジニアリングタスクでのパフォーマンスを高めるため、開発者は技術文書やコードコメントなど、他のAIモデル用に元々用意されていたトレーニングデータを取り入れた。このアプローチは、モデルが「人間ではなくAIのために書く」ことを学習させる結果となり、機械間通信を促進するが人間の可読性を阻害する、密度が高く高度に整合性の取れたテキストを生み出した。
この問題は、報酬関数内の強化学習バイアスに起因する。最適化の目標がAIの理解力向上へとシフトすると、モデルは人間が好む物語の流れや可読性を犠牲にする傾向がある。最新のOpus 5.5バージョンはよりバランスの取れた文章スタイルを達成し、Opus 4.6以降で最も満足度の高い評価を得ているが、チームは以前のイテレーションの品質を完全に上回るよう引き続き取り組んでいる。
関連記事
TVB、2027年に10ペタフロップスのAI計算施設の第一期を立ち上げ
8月11日、TVBグループ有限公司(TVB)は、The Capital Group Companies, Inc.の関連会社であるTriton Square Limitedとの基本合意書の締結を確認する自主開示を発表した。このパートナーシップは、香港で高度なAIコンピューティングサービスを提供する合弁事業の立ち上げを目的としている。取引条件の下、TVBとCapital Groupは、普通株式の議決権付き株式をそれぞれ51%と49%保有する。この取り組みには、TVBの屯門工業団地内に新規データセ
OpenAI、AIオンボーディングイベントを発表し、6つの業界向けワークフロープラグンをリリース
人工知能の主要な推進力であるOpenAIは、北京時間の水曜日の午前中、「Intelligence at Work」と呼ばれる重要なイベントを開催しました。オフィスAI分野での競争が激化する中、OpenAIは株式投資やクリエイティブデザインなど、さまざまな役割に対応したCodexワークフロープラグインを導入しました。その目的は、AIを日常のビジネス運用に深く組み込み、従来知識労働者が担当していたタスクを引き受けることです。開発者向けのコーディングツールとして設計されたCodexは、現在、非コーディ
OpenAIの最初のハードウェアデバイスは、画面のないモバイルスピーカー reportedly
報告によると、OpenAIの最初のハードウェア事業は、ChatGPTと同期して各種のホームオートメーションサービスを提供する統合AI搭載のモバイルスマートスピーカーである。火曜日のBloombergの報道によれば、現在開発中のこのデバイスには画面がなく、家庭への統合を目的とした「人間のようなAIコンパニオン」として内部で位置づけられている。OpenAIは以前、ハードウェアのリリースに興味を示しており、Appleと直接競争する独自のスマートフォンに関する計画があるとの憶測が流れていた。Blo
関連特集おすすめ
コメント (0)
0/500

大規模なAIモデルは進化に伴い、しばしば予期せぬ副作用を示す。Opus 4.6リリース以降、Claudeの文章品質が低下しているという最近のユーザー報告と、特有の「Claude特有のアクセント」への懸念を受け、AnthropicのエンジニアであるJackson Kernion氏はこの問題について言及し、この現象の技術的な根源に光を当てた。
Claudeの最適化戦略は、数学的推論やコーディング能力の向上をますます優先するようになっている。複雑なエンジニアリングタスクでのパフォーマンスを高めるため、開発者は技術文書やコードコメントなど、他のAIモデル用に元々用意されていたトレーニングデータを取り入れた。このアプローチは、モデルが「人間ではなくAIのために書く」ことを学習させる結果となり、機械間通信を促進するが人間の可読性を阻害する、密度が高く高度に整合性の取れたテキストを生み出した。
この問題は、報酬関数内の強化学習バイアスに起因する。最適化の目標がAIの理解力向上へとシフトすると、モデルは人間が好む物語の流れや可読性を犠牲にする傾向がある。最新のOpus 5.5バージョンはよりバランスの取れた文章スタイルを達成し、Opus 4.6以降で最も満足度の高い評価を得ているが、チームは以前のイテレーションの品質を完全に上回るよう引き続き取り組んでいる。
TVB、2027年に10ペタフロップスのAI計算施設の第一期を立ち上げ
8月11日、TVBグループ有限公司(TVB)は、The Capital Group Companies, Inc.の関連会社であるTriton Square Limitedとの基本合意書の締結を確認する自主開示を発表した。このパートナーシップは、香港で高度なAIコンピューティングサービスを提供する合弁事業の立ち上げを目的としている。取引条件の下、TVBとCapital Groupは、普通株式の議決権付き株式をそれぞれ51%と49%保有する。この取り組みには、TVBの屯門工業団地内に新規データセ
OpenAI、AIオンボーディングイベントを発表し、6つの業界向けワークフロープラグンをリリース
人工知能の主要な推進力であるOpenAIは、北京時間の水曜日の午前中、「Intelligence at Work」と呼ばれる重要なイベントを開催しました。オフィスAI分野での競争が激化する中、OpenAIは株式投資やクリエイティブデザインなど、さまざまな役割に対応したCodexワークフロープラグインを導入しました。その目的は、AIを日常のビジネス運用に深く組み込み、従来知識労働者が担当していたタスクを引き受けることです。開発者向けのコーディングツールとして設計されたCodexは、現在、非コーディ
OpenAIの最初のハードウェアデバイスは、画面のないモバイルスピーカー reportedly
報告によると、OpenAIの最初のハードウェア事業は、ChatGPTと同期して各種のホームオートメーションサービスを提供する統合AI搭載のモバイルスマートスピーカーである。火曜日のBloombergの報道によれば、現在開発中のこのデバイスには画面がなく、家庭への統合を目的とした「人間のようなAIコンパニオン」として内部で位置づけられている。OpenAIは以前、ハードウェアのリリースに興味を示しており、Appleと直接競争する独自のスマートフォンに関する計画があるとの憶測が流れていた。Blo





家






