家サイバーセキュリティの専門家が、Anthropicの「Fable」におけるガードレールを批判
Anthropicは火曜日、最新のモデル「Fable」をリリースし、その高い期待を集めるサイバーセキュリティ特化型モデル「Mythos」の公開版かつ制限付き版として位置づけた。
しかし、これらの制限により、オンライン上で懸念を表明する複数のサイバーセキュリティ研究者や専門家の間で不満が高まっている。
IBM X-Forceの著名なセキュリティ研究者であるValentina「Chompie」Palmiotti氏は、「[Fable]は、ブログ記事の読書といった無害なタスクを含め、サイバーセキュリティと遠からず関連する可能性のあるあらゆるリクエストをブロックする」と述べている。
ユーザーのプロンプトがこれらの安全フィルターを起動すると、Fableは会話を停止し、「安全プロトコルがこの入力をサイバーセキュリティまたは生物学的なトピックとしてフラグ付けました」というメッセージを表示する。
これらの制限は、Fableがマルウェアの作成やソフトウェアの脆弱性攻撃に利用されるリスクを軽減することを目的としており、これはAnthropicにとって長年の懸念事項である。生物学的な制約は、生物兵器の開発に関する同様の懸念に起因する。
Anthropicは4月にMythosをリリースする際、Project Glasswingというイニシアチブの下、重要なソフトウェアやインフラの保護にこのモデルを展開するために選ばれた企業や組織の限定されたグループへのアクセスを制限した。先週、AnthropicはMythosへのアクセスを15カ国の数百の組織に拡大した。
これらの善意にもかかわらず、多くのサイバーセキュリティ専門家は、制限が恣意的であるように見えることに苛立ちを覚えている。経験豊富なサイバーセキュリティ専門家であるMatt Suiche氏はTechCrunchに対し、「安全なコードの作成を依頼すると、これはソフトウェアエンジニアリングのベストプラクティスではなくサイバーセキュリティ関連の作業と解釈され、結果としてモデルの性能が低下する」と語った。Fableはガードレールがトリガーされると、Claude Opus 4.8にフォールバックするように構成されている。「キーワードに依存しているようで、『サイバーセキュリティ』の用語集内の任意の用語がフィルターを起動する」と彼は指摘した。
お問い合わせ
ハッカーがAIをどのように活用しているか、あるいはサイバーセキュリティ企業がAIをどのように統合しているかについて、追加の洞察をお持ちですか？あなたの意見をお待ちしています。個人のデバイスやネットワークから、Signalで+1 917 257 1382、TelegramおよびKeybaseで@lorenzofb、またはメールにてLorenzo Franceschi-Bicchierai氏に安全に連絡することができます。
「ただし、私たちはまだ初期段階にあり、ガードレールを調整していることを考えれば理解できます。Anthropicおよび他のフロンティアモデル開発者が、新世代のサイバーセキュリティ企業とより密接に協力するにつれて、これらは進化していくと確信しています。最初は過剰に制限し、時間とともにガードレールを緩和する方が望ましい」と、AIサイバーセキュリティスタートアップTolmoの技術スタッフであるSuiche氏は述べた。
別の研究者はX上で、「コードレビューを依頼するだけで」Fableの安全フィルターが起動すると不平を漏らした。
Anthropicはコメントの要請に直ちに回答しなかった。
モデルレベルのガードレールに加え、Anthropicはサイバーセキュリティ専門家に対し、Cyber Verification Programに応募することを求めている。承認された申請者は、Claudeをサイバーセキュリティタスクに使用する場合、制限が少なくなる。OpenAIも、Trusted Access for Cyberという同様のプログラムを提供している。
関連記事
ホワイトハウス、「スーパーインテリジェンス」のAIラベルを廃止
プレイヤーを読み込み中…今週、ホワイトハウスはザッカーバーグ、ベゾス、マスク、そしてAnthropicのダリオ・アモダイなど、主要なテック企業のCEOをほぼ全員一堂に会させて、ドナルド・トランプ大統領が「道徳的に拘束力がある」と表現したAI安全に関する誓約書に署名させた。トランプ氏はまた、AIを「スーパーインテリジェンス」に名称変更する行政命令にも署名した。他方、MetaとOpenAIは、AIへの最大の金融投資が依然として企業部門から流入しているにもかかわらず、AI製品をよりユーザーフレンドリ
Anthropic、Sonnet 5.5を発表：より高速で低コストな作業パートナー
AIモデル間の競争が激化する中、AnthropicはミドルレンジのSonnetの最新バージョンをリリースし、前バージョンと比較して大幅な速度の向上とコスト削減を実現すると約束した。Anthropicは、Sonnet 5.5をソフトウェア開発や文書作成など、日常のワークフローに versatile なツールとして位置づけている。Sonnet 5.5の前身であるSonnet 5は、約3ヶ月前に導入され、その主な利点はコスト効率の高いエージェント型デプロイメントにあった。バージョン5.5の主要な
Anthropicのトランプ政権との最新の対立は、実際には同社に利益をもたらす可能性があることを、販売データが示唆している
Anthropicは驚異的な月を過ごしている。Rampによると、このAI企業は5月に650億ドルの資金調達を行い、9650億ドルの企業価値を達成して月末を迎えたことで、初めてビジネス支出市場シェアにおいてOpenAIを上回った。その後まもなく、Anthropicは初の黒字四半期を背景に、非公開のIPO申請書類を提出したと報じられている。金曜日、トランプ政権は、最新のモデルである制限付きのMythos 5および最近公開されたFable 5へのアクセスを、自社従業員を含む米国以外のユーザーからブ
関連特集おすすめ
作曲
おすすめのAI作詞・作曲アシスタント：歌詞、コード、メロディーを作成
2026年最新の最高評価を獲得したAI作詞・作曲アシスタントが、XIX.AIに登場！この厳選リストには、実環境でのテストを経て、高品質な歌詞、コード、メロディーを手間なく生成できる、強力かつ効率的なツールが紹介されています。 無料版と有料版の比較表を参考にして、あなたのクリエイティブなニーズにぴったりのツールを見つけましょう。今すぐチェックして、音楽制作におけるAIの力を最大限に活用しましょう！
12 ツール
xix.ai
オートメーション
トップクラスのAIエージェント構築ツール：多段階のビジネス自動化を設計する
2026年版：多段階のビジネス自動化を実現する、高評価のAIエージェントビルダー厳選リスト。この厳選リストには、厳格な実地テストを経て選定された、強力で業界に革新をもたらすツールが掲載されています。 無料版と有料版の詳細な比較、包括的なランキング、毎週更新されるインサイトを通じて、生産性を大幅に向上させる最適なソリューション選びをお手伝いします。今すぐ XIX.AI をチェックして、AIの力を最大限に活用しましょう！
11 ツール
xix.ai
生産性
多忙なビジネスパーソン向けのAIタスク計画ツール
2026年版 多忙なプロフェッショナルのための最新・最高評価のAIタスク計画ツール！XIX.AIは、ワークフローの効率化、生産性の向上、日々のスケジュール管理の課題解決に役立つ、強力で画期的な高効率ツールを厳選しました。各ツールは、信頼性を確保するために厳格な実地テストを経ています。 無料版と有料版の比較を確認し、AIの真価を引き出す最適なツールを見つけましょう。今すぐチェック！
15 ツール
xix.ai
チャットボット
トップAIカスタマーチャットボット：FAQに24時間365日対応し、リードを資格付け
2026年最新版の厳選リストに掲載された高評価のAIカスタマーチャットボットは、顧客のよくある質問（FAQ）に即座に対応し、24時間365日リードを資格評価するための最良のソリューションです。XIX.AIは厳格な実世界テストを実施し、無料版と有料版の詳細な比較および最新のランキングを提供しており、生産性を大幅に向上させる強力なゲームチェンジャーとなるツールを見つけるお手伝いをします。今すぐ探索して、あなたに最適なAIチャットボットソリューションを見つけてください！
9 ツール
xix.ai
デザインとアート
広告制作チーム向けのAIストーリーボード生成ツール
2026年版 広告クリエイティブチームに最適なAIストーリーボード生成ツール！XIX.AIは、実地テストと毎週更新される厳格なランキングに基づき、チームが魅力的なビジュアルコンテンツをより迅速に制作できるよう支援する、強力で画期的なツールの厳選リストを作成しました。 無料版と有料版の比較を確認し、ご自身のワークフローに最適なツールを見つけてください。今すぐチェックして、広告制作におけるAIの優位性を手に入れましょう！
8 ツール
xix.ai
チャットボット
内部文書用のAIナレッジチャットボットツール
2026年最新版・最高評価のAIナレッジチャットボットツール【社内ドキュメント向け】がXIX.AIにて公開されています！この厳選リストには、チームが高品質なコンテンツを迅速に生成し、ドキュメント作成を効率化し、一般的なライティングの課題を克服するのに役立つ、生産性を大幅に向上させる革新的なソリューションが掲載されています。私たちは実際の環境で厳格なテストを実施し、毎週更新される無料版と有料版の比較および詳細なランキングを提供することで、あなたのニーズに最適な「ぜひ試すべき」オプションを見つけられるよう支援します。今すぐ探索して、あなたにぴったりのツールを発見しましょう！
12 ツール
xix.ai
コメント (0)
0/500
Anthropicは火曜日、最新のモデル「Fable」をリリースし、その高い期待を集めるサイバーセキュリティ特化型モデル「Mythos」の公開版かつ制限付き版として位置づけた。
しかし、これらの制限により、オンライン上で懸念を表明する複数のサイバーセキュリティ研究者や専門家の間で不満が高まっている。
IBM X-Forceの著名なセキュリティ研究者であるValentina「Chompie」Palmiotti氏は、「[Fable]は、ブログ記事の読書といった無害なタスクを含め、サイバーセキュリティと遠からず関連する可能性のあるあらゆるリクエストをブロックする」と述べている。
ユーザーのプロンプトがこれらの安全フィルターを起動すると、Fableは会話を停止し、「安全プロトコルがこの入力をサイバーセキュリティまたは生物学的なトピックとしてフラグ付けました」というメッセージを表示する。
これらの制限は、Fableがマルウェアの作成やソフトウェアの脆弱性攻撃に利用されるリスクを軽減することを目的としており、これはAnthropicにとって長年の懸念事項である。生物学的な制約は、生物兵器の開発に関する同様の懸念に起因する。
Anthropicは4月にMythosをリリースする際、Project Glasswingというイニシアチブの下、重要なソフトウェアやインフラの保護にこのモデルを展開するために選ばれた企業や組織の限定されたグループへのアクセスを制限した。先週、AnthropicはMythosへのアクセスを15カ国の数百の組織に拡大した。
これらの善意にもかかわらず、多くのサイバーセキュリティ専門家は、制限が恣意的であるように見えることに苛立ちを覚えている。経験豊富なサイバーセキュリティ専門家であるMatt Suiche氏はTechCrunchに対し、「安全なコードの作成を依頼すると、これはソフトウェアエンジニアリングのベストプラクティスではなくサイバーセキュリティ関連の作業と解釈され、結果としてモデルの性能が低下する」と語った。Fableはガードレールがトリガーされると、Claude Opus 4.8にフォールバックするように構成されている。「キーワードに依存しているようで、『サイバーセキュリティ』の用語集内の任意の用語がフィルターを起動する」と彼は指摘した。
お問い合わせ
ハッカーがAIをどのように活用しているか、あるいはサイバーセキュリティ企業がAIをどのように統合しているかについて、追加の洞察をお持ちですか？あなたの意見をお待ちしています。個人のデバイスやネットワークから、Signalで+1 917 257 1382、TelegramおよびKeybaseで@lorenzofb、またはメールにてLorenzo Franceschi-Bicchierai氏に安全に連絡することができます。
「ただし、私たちはまだ初期段階にあり、ガードレールを調整していることを考えれば理解できます。Anthropicおよび他のフロンティアモデル開発者が、新世代のサイバーセキュリティ企業とより密接に協力するにつれて、これらは進化していくと確信しています。最初は過剰に制限し、時間とともにガードレールを緩和する方が望ましい」と、AIサイバーセキュリティスタートアップTolmoの技術スタッフであるSuiche氏は述べた。
別の研究者はX上で、「コードレビューを依頼するだけで」Fableの安全フィルターが起動すると不平を漏らした。
Anthropicはコメントの要請に直ちに回答しなかった。
モデルレベルのガードレールに加え、Anthropicはサイバーセキュリティ専門家に対し、Cyber Verification Programに応募することを求めている。承認された申請者は、Claudeをサイバーセキュリティタスクに使用する場合、制限が少なくなる。OpenAIも、Trusted Access for Cyberという同様のプログラムを提供している。
ホワイトハウス、「スーパーインテリジェンス」のAIラベルを廃止
プレイヤーを読み込み中…今週、ホワイトハウスはザッカーバーグ、ベゾス、マスク、そしてAnthropicのダリオ・アモダイなど、主要なテック企業のCEOをほぼ全員一堂に会させて、ドナルド・トランプ大統領が「道徳的に拘束力がある」と表現したAI安全に関する誓約書に署名させた。トランプ氏はまた、AIを「スーパーインテリジェンス」に名称変更する行政命令にも署名した。他方、MetaとOpenAIは、AIへの最大の金融投資が依然として企業部門から流入しているにもかかわらず、AI製品をよりユーザーフレンドリ
Anthropic、Sonnet 5.5を発表：より高速で低コストな作業パートナー
AIモデル間の競争が激化する中、AnthropicはミドルレンジのSonnetの最新バージョンをリリースし、前バージョンと比較して大幅な速度の向上とコスト削減を実現すると約束した。Anthropicは、Sonnet 5.5をソフトウェア開発や文書作成など、日常のワークフローに versatile なツールとして位置づけている。Sonnet 5.5の前身であるSonnet 5は、約3ヶ月前に導入され、その主な利点はコスト効率の高いエージェント型デプロイメントにあった。バージョン5.5の主要な
Anthropicのトランプ政権との最新の対立は、実際には同社に利益をもたらす可能性があることを、販売データが示唆している
Anthropicは驚異的な月を過ごしている。Rampによると、このAI企業は5月に650億ドルの資金調達を行い、9650億ドルの企業価値を達成して月末を迎えたことで、初めてビジネス支出市場シェアにおいてOpenAIを上回った。その後まもなく、Anthropicは初の黒字四半期を背景に、非公開のIPO申請書類を提出したと報じられている。金曜日、トランプ政権は、最新のモデルである制限付きのMythos 5および最近公開されたFable 5へのアクセスを、自社従業員を含む米国以外のユーザーからブ
2026年最新の最高評価を獲得したAI作詞・作曲アシスタントが、XIX.AIに登場！この厳選リストには、実環境でのテストを経て、高品質な歌詞、コード、メロディーを手間なく生成できる、強力かつ効率的なツールが紹介されています。 無料版と有料版の比較表を参考にして、あなたのクリエイティブなニーズにぴったりのツールを見つけましょう。今すぐチェックして、音楽制作におけるAIの力を最大限に活用しましょう！
12 ツール
xix.ai
2026年版：多段階のビジネス自動化を実現する、高評価のAIエージェントビルダー厳選リスト。この厳選リストには、厳格な実地テストを経て選定された、強力で業界に革新をもたらすツールが掲載されています。 無料版と有料版の詳細な比較、包括的なランキング、毎週更新されるインサイトを通じて、生産性を大幅に向上させる最適なソリューション選びをお手伝いします。今すぐ XIX.AI をチェックして、AIの力を最大限に活用しましょう！
11 ツール
xix.ai
2026年版 多忙なプロフェッショナルのための最新・最高評価のAIタスク計画ツール！XIX.AIは、ワークフローの効率化、生産性の向上、日々のスケジュール管理の課題解決に役立つ、強力で画期的な高効率ツールを厳選しました。各ツールは、信頼性を確保するために厳格な実地テストを経ています。 無料版と有料版の比較を確認し、AIの真価を引き出す最適なツールを見つけましょう。今すぐチェック！
15 ツール
xix.ai
2026年最新版の厳選リストに掲載された高評価のAIカスタマーチャットボットは、顧客のよくある質問（FAQ）に即座に対応し、24時間365日リードを資格評価するための最良のソリューションです。XIX.AIは厳格な実世界テストを実施し、無料版と有料版の詳細な比較および最新のランキングを提供しており、生産性を大幅に向上させる強力なゲームチェンジャーとなるツールを見つけるお手伝いをします。今すぐ探索して、あなたに最適なAIチャットボットソリューションを見つけてください！
9 ツール
xix.ai
2026年版 広告クリエイティブチームに最適なAIストーリーボード生成ツール！XIX.AIは、実地テストと毎週更新される厳格なランキングに基づき、チームが魅力的なビジュアルコンテンツをより迅速に制作できるよう支援する、強力で画期的なツールの厳選リストを作成しました。 無料版と有料版の比較を確認し、ご自身のワークフローに最適なツールを見つけてください。今すぐチェックして、広告制作におけるAIの優位性を手に入れましょう！
8 ツール
xix.ai
2026年最新版・最高評価のAIナレッジチャットボットツール【社内ドキュメント向け】がXIX.AIにて公開されています！この厳選リストには、チームが高品質なコンテンツを迅速に生成し、ドキュメント作成を効率化し、一般的なライティングの課題を克服するのに役立つ、生産性を大幅に向上させる革新的なソリューションが掲載されています。私たちは実際の環境で厳格なテストを実施し、毎週更新される無料版と有料版の比較および詳細なランキングを提供することで、あなたのニーズに最適な「ぜひ試すべき」オプションを見つけられるよう支援します。今すぐ探索して、あなたにぴったりのツールを発見しましょう！
12 ツール
xix.ai
