オプション
ニュース
FEI-FEI LIのグループは、先制AIの安全法を促します

FEI-FEI LIのグループは、先制AIの安全法を促します

2025年4月10日
270

FEI-FEI LIのグループは、先制AIの安全法を促します

カリフォルニアの政策グループが、AIのパイオニアであるフェイフェイ・リー氏が共同で主導する新しい報告書によると、議員はAI規制政策を作成する際に、現実世界でまだ見られていないAIのリスクを考慮すべきだとされています。この41ページの中間報告書は、火曜日に公開され、ギャビン・ニューサム知事がカリフォルニアの物議を醸したAI安全法案SB 1047を拒否した後、設立された「AIフロンティアモデルに関するカリフォルニア共同政策作業グループ」によるものです。ニューサム知事はSB 1047が目標に十分に合致していないと感じましたが、AIのリスクを深く調査し、立法者を導く必要性を認識しました。

報告書では、リー氏と共同著者のジェニファー・チェイズ(カリフォルニア大学バークレー校計算機科学部の学部長)、マリアーノ・フロレンティーノ・クエヤル(カーネギー国際平和財団の会長)が、OpenAIのようなフロンティアAIラボの活動を明確にする法律を求めています。報告書が公開される前に、チューリング賞受賞者のヨシュア・ベンジオのようなAI安全の強力な支持者や、Databricksの共同創業者イオン・ストイカのようなSB 1047に反対する業界関係者など、さまざまな立場の人々が報告書をレビューしました。

報告書は、AIシステムによる新たなリスクに対応するため、AIモデル開発者が安全性テスト、データの取得方法、セキュリティ対策を公開する必要がある法律が必要かもしれないと指摘しています。また、第三者によるこれらの項目や企業ポリシーのチェックのためのより高い基準や、AI企業の従業員や契約者が内部告発をする際の保護強化も求めています。

リー氏と共同著者は、AIがサイバー攻撃を支援したり、生物兵器を作成したり、その他の「極端な」危険を引き起こす可能性についての証拠がまだ十分でないと述べています。しかし、AI政策は現在起こっていることだけを扱うのではなく、十分な安全対策がなければ将来起こりうることについても考えるべきだとしています。

報告書は核兵器を例に挙げ、「核兵器が爆発しなくても、それが大きな害を引き起こす可能性があることはわかっています」と述べています。さらに、「最悪のリスクについて語る人々が正しい場合――それが本当になるかどうかはわかりませんが――今、フロンティアAIについて何もしなければ、非常に大きなコストを払うことになるかもしれません」と続けています。

AIモデルの開発をより透明にするため、報告書は「信頼しつつ検証する」アプローチを提案しています。AIモデル開発者とその従業員が、内部安全性テストなど、公共にとって重要な事柄を報告する方法を持つべきであり、テストの主張を第三者に検証させる必要があると述べています。

2025年6月に最終化されるこの報告書は、特定の法律を支持するものではありませんが、AI政策議論の両側にいる専門家から好評を得ています。

SB 1047に反対していたジョージ・メイソン大学のAIに焦点を当てた研究員ディーン・ボール氏は、Xでこの報告書がカリフォルニアのAI安全規則にとって良い一歩だと述べました。また、昨年SB 1047を提出したカリフォルニア州上院議員スコット・ウィーナー氏によると、これはAI安全の擁護者にとって勝利です。ウィーナー氏はプレスリリースで、報告書が「2024年に議会で始めたAIガバナンスに関する緊急の議論に貢献する」と述べました。

報告書は、SB 1047やウィーナー氏の次の法案SB 53の一部に同意しており、AIモデル開発者に安全性テスト結果の報告を義務付けることを支持しています。大きな視点で見ると、これは過去1年間で勢いを失っていたAI安全の擁護者にとって、非常に必要な勝利のように見えます。

関連記事
Anthropic、ClaudeのAIコーディングツールを日本に拡大し、海外成長を促進 Anthropic、ClaudeのAIコーディングツールを日本に拡大し、海外成長を促進 Anthropic、米国の主要な人工知能企業は、グローバルな展開を強化している。水曜日、同社は東京で「Code with Claude」と題された大規模な開発者向けイベントを開催し、約500人のソフトウェアエンジニアが集まった。この取り組みは、Claude AIツールおよび関連製品を日本市場に積極的に導入することを目的としており、自律的なコーディング機能による企業生産性の向上という中核的な利点を強調している。自動化されたコード生成への重点本イベントにおいて、Anthropicは複雑なプログラ
インドのソフトウェア大手が採用を縮小し、AI エージェントの拡大に伴い解雇はないと約束 インドのソフトウェア大手が採用を縮小し、AI エージェントの拡大に伴い解雇はないと約束 人工知能が従来の労働集約型ビジネスモデルを再構築する中、インドを代表するソフトウェアアウトソーシング企業であるタタ・コンサルテーション・サービスズ(TCS)は、その戦略的対応を明らかにしました。火曜日の定時株主総会において、会長は人間と機械の協働に関するビジョンを提示し、AI時代における同社の workforce 戦略を明確にしました。人員整理は行わないが、採用は鈍化TCSの会長は、AI導入により人員整理を行う計画はないものの、全体的な採用ペースは鈍化すると明確に述べました。TCSは以前、1
中国はGaokam中にAIモデルをロックし、即時の宿題支援をブロックしている 中国はGaokam中にAIモデルをロックし、即時の宿題支援をブロックしている 2026年の大学入試(Gaokao)が間近に迫る中、試験期間中にAIツールの利用停止に関する噂がインターネット上で激しい議論を巻き起こしている。世間の懸念に応えるため、主要なAIプラットフォームおよび教育アプリは、完全な禁止ではなく、試験関連機能に対して対象を絞った「時間制限ロック」を実施する方針を明らかにした。これらのプラットフォームは、正確な時間ベースの制御メカニズムを採用している。公式の試験時間中には、写真による問題解決や問題分析などの機能が一時的に無効化される。しかし、日常の会話機能や
関連特集おすすめ
デザインとアート クリエイティブな実験に最適なAIスタイル転送ツール
クリエイティブな実験に最適なAIスタイル転送ツール

2026年版 クリエイティブな実験に最適な、最新・最高評価のAIスタイル転送ツール!XIX.AIは、実地テストと厳格なランキングを通じて卓越した結果をもたらす、強力で画期的な「必試」ツールを厳選しました。これらのトップソリューションは、コンテンツ制作を加速させ、無限の創造的可能性を切り拓くことで、クリエイターの生産性を大幅に向上させます。 今すぐチェックして、あなたにぴったりのツールを見つけ、今日から創作を始めましょう!

9 ツール
xix.ai
漫画制作 ビジュアルストーリーテリングに最適なAI吹き出しツール
ビジュアルストーリーテリングに最適なAI吹き出しツール

2026年版、ビジュアルストーリーテリングに最適な高評価AIダイアログバブルツールがXIX.AIに登場!この厳選コレクションには、クリエイターの生産性を高め、創作上のボトルネックを解消する、画期的な強力ツールが揃っています。 無料版と有料版の比較、実地テストの結果、最新のランキングを確認して、魅力的なビジュアルストーリーを構築するのに最適な、ぜひ試すべきソリューションを見つけましょう。今すぐチェックして、あなたにぴったりのツールを発見してください!

10 ツール
xix.ai
ミーティングアシスタント AI会議要約ツールのトップ選定:決定事項とフォローアップを明確に把握
AI会議要約ツールのトップ選定:決定事項とフォローアップを明確に把握

2026年版:意思決定の追跡を明確にし、フォローアップを容易にする、高評価のAI会議要約ツールベストセレクション。この厳選リストでは、会議メモの自動化、重要なアクション項目の特定、すべてのプロジェクトにわたるチーム連携の効率化を通じて、生産性を劇的に向上させる、強力で画期的なソリューションをご紹介します。 無料版と有料版の比較、実地テストの結果、毎週更新されるランキングを参考に、最適なツールを見つけてください。今すぐチェックして、AIの力を最大限に活用しましょう!

9 ツール
xix.ai
データ分析 最強のAIデータクリーニングツール:欠損値や重複データを迅速に修正
最強のAIデータクリーニングツール:欠損値や重複データを迅速に修正

2026年最新かつ最も評価の高いAIデータクリーニングツールをご紹介。欠損値や重複データを迅速に修正できるこれらのツールは、生産性を大幅に向上させる強力なソリューションです。各ツールは信頼性を確保するため、厳格な実環境でのテストを経ています。無料版と有料版の比較情報もご用意しており、あなたのニーズに最も合ったツールを見つけ出せます。今すぐXIX.AIで詳細を確認し、AI活用の強みを最大限に引き出しましょう。

11 ツール
xix.ai
デザインとアート アーティストのための最高のAIクリエイティブアイディエーションツール:ビジュアルブロックを打破する
アーティストのための最高のAIクリエイティブアイディエーションツール:ビジュアルブロックを打破する

2026年最新版・最高評価のAIクリエイティブ発想ツールは、XIX.AIによって厳選され、クリエイターが視覚的な壁を打破し、創造性を即座に高めることを支援します。これらの革新的なツールは、実際のテスト結果、無料版と有料版の詳細比較、そして週次更新されるランキングを提供しています。コンテンツ制作を加速し、AIによる優位性を解き放つための最適なツールを見つけてください。今すぐ探索しましょう!

14 ツール
xix.ai
作曲 TikTokのBGM、Reelsの音声、クリエイター向けプロモーション音楽向けのAIビートメーカー
TikTokのBGM、Reelsの音声、クリエイター向けプロモーション音楽向けのAIビートメーカー

2026年最新版!TikTokのBGM、Reelsの音声、クリエイター向けプロモーション音楽に最適なAIビートメーカー集!XIX.AIは、あらゆるコンテンツのニーズに応える完璧な音楽を提供するため、実地テストを経て選りすぐられた、画期的な高機能ツールのランキングを厳選しました。 無料版と有料版の詳細な比較データ、毎週更新されるランキング、そして創造性と生産性を高めるためにぜひ試すべきツールが満載です。今すぐチェックして、あなたにぴったりのツールを見つけましょう!

11 ツール
xix.ai
コメント (39)
0/500
GaryPerez
GaryPerez 2026年5月3日 15:00:31 JST

Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.

CharlesRoberts
CharlesRoberts 2025年12月1日 1:30:39 JST

Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠

HarrySmith
HarrySmith 2025年8月28日 6:01:36 JST

This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?

PaulHill
PaulHill 2025年8月26日 0:01:14 JST

Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!

MichaelDavis
MichaelDavis 2025年4月17日 21:14:46 JST

O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅

JasonRoberts
JasonRoberts 2025年4月17日 1:17:56 JST

¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅

OR