FEI-FEI LIのグループは、先制AIの安全法を促します

カリフォルニアの政策グループが、AIのパイオニアであるフェイフェイ・リー氏が共同で主導する新しい報告書によると、議員はAI規制政策を作成する際に、現実世界でまだ見られていないAIのリスクを考慮すべきだとされています。この41ページの中間報告書は、火曜日に公開され、ギャビン・ニューサム知事がカリフォルニアの物議を醸したAI安全法案SB 1047を拒否した後、設立された「AIフロンティアモデルに関するカリフォルニア共同政策作業グループ」によるものです。ニューサム知事はSB 1047が目標に十分に合致していないと感じましたが、AIのリスクを深く調査し、立法者を導く必要性を認識しました。
報告書では、リー氏と共同著者のジェニファー・チェイズ(カリフォルニア大学バークレー校計算機科学部の学部長)、マリアーノ・フロレンティーノ・クエヤル(カーネギー国際平和財団の会長)が、OpenAIのようなフロンティアAIラボの活動を明確にする法律を求めています。報告書が公開される前に、チューリング賞受賞者のヨシュア・ベンジオのようなAI安全の強力な支持者や、Databricksの共同創業者イオン・ストイカのようなSB 1047に反対する業界関係者など、さまざまな立場の人々が報告書をレビューしました。
報告書は、AIシステムによる新たなリスクに対応するため、AIモデル開発者が安全性テスト、データの取得方法、セキュリティ対策を公開する必要がある法律が必要かもしれないと指摘しています。また、第三者によるこれらの項目や企業ポリシーのチェックのためのより高い基準や、AI企業の従業員や契約者が内部告発をする際の保護強化も求めています。
リー氏と共同著者は、AIがサイバー攻撃を支援したり、生物兵器を作成したり、その他の「極端な」危険を引き起こす可能性についての証拠がまだ十分でないと述べています。しかし、AI政策は現在起こっていることだけを扱うのではなく、十分な安全対策がなければ将来起こりうることについても考えるべきだとしています。
報告書は核兵器を例に挙げ、「核兵器が爆発しなくても、それが大きな害を引き起こす可能性があることはわかっています」と述べています。さらに、「最悪のリスクについて語る人々が正しい場合――それが本当になるかどうかはわかりませんが――今、フロンティアAIについて何もしなければ、非常に大きなコストを払うことになるかもしれません」と続けています。
AIモデルの開発をより透明にするため、報告書は「信頼しつつ検証する」アプローチを提案しています。AIモデル開発者とその従業員が、内部安全性テストなど、公共にとって重要な事柄を報告する方法を持つべきであり、テストの主張を第三者に検証させる必要があると述べています。
2025年6月に最終化されるこの報告書は、特定の法律を支持するものではありませんが、AI政策議論の両側にいる専門家から好評を得ています。
SB 1047に反対していたジョージ・メイソン大学のAIに焦点を当てた研究員ディーン・ボール氏は、Xでこの報告書がカリフォルニアのAI安全規則にとって良い一歩だと述べました。また、昨年SB 1047を提出したカリフォルニア州上院議員スコット・ウィーナー氏によると、これはAI安全の擁護者にとって勝利です。ウィーナー氏はプレスリリースで、報告書が「2024年に議会で始めたAIガバナンスに関する緊急の議論に貢献する」と述べました。
報告書は、SB 1047やウィーナー氏の次の法案SB 53の一部に同意しており、AIモデル開発者に安全性テスト結果の報告を義務付けることを支持しています。大きな視点で見ると、これは過去1年間で勢いを失っていたAI安全の擁護者にとって、非常に必要な勝利のように見えます。
関連記事
Anthropic、ClaudeのAIコーディングツールを日本に拡大し、海外成長を促進
Anthropic、米国の主要な人工知能企業は、グローバルな展開を強化している。水曜日、同社は東京で「Code with Claude」と題された大規模な開発者向けイベントを開催し、約500人のソフトウェアエンジニアが集まった。この取り組みは、Claude AIツールおよび関連製品を日本市場に積極的に導入することを目的としており、自律的なコーディング機能による企業生産性の向上という中核的な利点を強調している。自動化されたコード生成への重点本イベントにおいて、Anthropicは複雑なプログラ
インドのソフトウェア大手が採用を縮小し、AI エージェントの拡大に伴い解雇はないと約束
人工知能が従来の労働集約型ビジネスモデルを再構築する中、インドを代表するソフトウェアアウトソーシング企業であるタタ・コンサルテーション・サービスズ(TCS)は、その戦略的対応を明らかにしました。火曜日の定時株主総会において、会長は人間と機械の協働に関するビジョンを提示し、AI時代における同社の workforce 戦略を明確にしました。人員整理は行わないが、採用は鈍化TCSの会長は、AI導入により人員整理を行う計画はないものの、全体的な採用ペースは鈍化すると明確に述べました。TCSは以前、1
中国はGaokam中にAIモデルをロックし、即時の宿題支援をブロックしている
2026年の大学入試(Gaokao)が間近に迫る中、試験期間中にAIツールの利用停止に関する噂がインターネット上で激しい議論を巻き起こしている。世間の懸念に応えるため、主要なAIプラットフォームおよび教育アプリは、完全な禁止ではなく、試験関連機能に対して対象を絞った「時間制限ロック」を実施する方針を明らかにした。これらのプラットフォームは、正確な時間ベースの制御メカニズムを採用している。公式の試験時間中には、写真による問題解決や問題分析などの機能が一時的に無効化される。しかし、日常の会話機能や
関連特集おすすめ
コメント (39)
0/500
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅

カリフォルニアの政策グループが、AIのパイオニアであるフェイフェイ・リー氏が共同で主導する新しい報告書によると、議員はAI規制政策を作成する際に、現実世界でまだ見られていないAIのリスクを考慮すべきだとされています。この41ページの中間報告書は、火曜日に公開され、ギャビン・ニューサム知事がカリフォルニアの物議を醸したAI安全法案SB 1047を拒否した後、設立された「AIフロンティアモデルに関するカリフォルニア共同政策作業グループ」によるものです。ニューサム知事はSB 1047が目標に十分に合致していないと感じましたが、AIのリスクを深く調査し、立法者を導く必要性を認識しました。
報告書では、リー氏と共同著者のジェニファー・チェイズ(カリフォルニア大学バークレー校計算機科学部の学部長)、マリアーノ・フロレンティーノ・クエヤル(カーネギー国際平和財団の会長)が、OpenAIのようなフロンティアAIラボの活動を明確にする法律を求めています。報告書が公開される前に、チューリング賞受賞者のヨシュア・ベンジオのようなAI安全の強力な支持者や、Databricksの共同創業者イオン・ストイカのようなSB 1047に反対する業界関係者など、さまざまな立場の人々が報告書をレビューしました。
報告書は、AIシステムによる新たなリスクに対応するため、AIモデル開発者が安全性テスト、データの取得方法、セキュリティ対策を公開する必要がある法律が必要かもしれないと指摘しています。また、第三者によるこれらの項目や企業ポリシーのチェックのためのより高い基準や、AI企業の従業員や契約者が内部告発をする際の保護強化も求めています。
リー氏と共同著者は、AIがサイバー攻撃を支援したり、生物兵器を作成したり、その他の「極端な」危険を引き起こす可能性についての証拠がまだ十分でないと述べています。しかし、AI政策は現在起こっていることだけを扱うのではなく、十分な安全対策がなければ将来起こりうることについても考えるべきだとしています。
報告書は核兵器を例に挙げ、「核兵器が爆発しなくても、それが大きな害を引き起こす可能性があることはわかっています」と述べています。さらに、「最悪のリスクについて語る人々が正しい場合――それが本当になるかどうかはわかりませんが――今、フロンティアAIについて何もしなければ、非常に大きなコストを払うことになるかもしれません」と続けています。
AIモデルの開発をより透明にするため、報告書は「信頼しつつ検証する」アプローチを提案しています。AIモデル開発者とその従業員が、内部安全性テストなど、公共にとって重要な事柄を報告する方法を持つべきであり、テストの主張を第三者に検証させる必要があると述べています。
2025年6月に最終化されるこの報告書は、特定の法律を支持するものではありませんが、AI政策議論の両側にいる専門家から好評を得ています。
SB 1047に反対していたジョージ・メイソン大学のAIに焦点を当てた研究員ディーン・ボール氏は、Xでこの報告書がカリフォルニアのAI安全規則にとって良い一歩だと述べました。また、昨年SB 1047を提出したカリフォルニア州上院議員スコット・ウィーナー氏によると、これはAI安全の擁護者にとって勝利です。ウィーナー氏はプレスリリースで、報告書が「2024年に議会で始めたAIガバナンスに関する緊急の議論に貢献する」と述べました。
報告書は、SB 1047やウィーナー氏の次の法案SB 53の一部に同意しており、AIモデル開発者に安全性テスト結果の報告を義務付けることを支持しています。大きな視点で見ると、これは過去1年間で勢いを失っていたAI安全の擁護者にとって、非常に必要な勝利のように見えます。
Anthropic、ClaudeのAIコーディングツールを日本に拡大し、海外成長を促進
Anthropic、米国の主要な人工知能企業は、グローバルな展開を強化している。水曜日、同社は東京で「Code with Claude」と題された大規模な開発者向けイベントを開催し、約500人のソフトウェアエンジニアが集まった。この取り組みは、Claude AIツールおよび関連製品を日本市場に積極的に導入することを目的としており、自律的なコーディング機能による企業生産性の向上という中核的な利点を強調している。自動化されたコード生成への重点本イベントにおいて、Anthropicは複雑なプログラ
インドのソフトウェア大手が採用を縮小し、AI エージェントの拡大に伴い解雇はないと約束
人工知能が従来の労働集約型ビジネスモデルを再構築する中、インドを代表するソフトウェアアウトソーシング企業であるタタ・コンサルテーション・サービスズ(TCS)は、その戦略的対応を明らかにしました。火曜日の定時株主総会において、会長は人間と機械の協働に関するビジョンを提示し、AI時代における同社の workforce 戦略を明確にしました。人員整理は行わないが、採用は鈍化TCSの会長は、AI導入により人員整理を行う計画はないものの、全体的な採用ペースは鈍化すると明確に述べました。TCSは以前、1
中国はGaokam中にAIモデルをロックし、即時の宿題支援をブロックしている
2026年の大学入試(Gaokao)が間近に迫る中、試験期間中にAIツールの利用停止に関する噂がインターネット上で激しい議論を巻き起こしている。世間の懸念に応えるため、主要なAIプラットフォームおよび教育アプリは、完全な禁止ではなく、試験関連機能に対して対象を絞った「時間制限ロック」を実施する方針を明らかにした。これらのプラットフォームは、正確な時間ベースの制御メカニズムを採用している。公式の試験時間中には、写真による問題解決や問題分析などの機能が一時的に無効化される。しかし、日常の会話機能や
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅





家






