スーパーインテリジェンスの到来:我々はそれを受け入れるのか?

プレイヤーを読み込み中…
AI企業は、スーパーインテリジェントなAIが inevitable(必然的)であるかのように語ってきたが、OpenAIのHugging Face侵害事件といった最近の安全上のインシデントは、人間よりも能力の高いAIシステムを展開することの潜在的な危険性を示している。では、これらのシステムが行うことを確実に制御できなくなった場合、どのようなことが起こるのだろうか?
このTechCrunchのEquity podcastのエピソードでは、Rebecca Bellanは、AI研究者であり起業家、そして現在は非営利団体ControlAIの米国執行責任者であるConnor Leahyを迎えている。ControlAIは、AIの安全性に対してより過激なアプローチを推進しており、それはスーパーインテリジェンスを開発する企業を完全に禁止することである。Leahyは、なぜリスクがアライメントとコンテインメント alone(のみ)では管理しきれないほど大きくなったと考えているのか、そして6ヶ月前には遠い話に思われていたことが、なぜ今では新しい立法の波によって支持されているのかを説明する。
YouTube、Apple Podcasts、Overcast、Spotify、およびすべてのポッドキャストプラットフォームでEquityを購読してください。また、XおよびThreadsで@EquityPodとしてEquityをフォローすることもできます。
関連記事
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
AI開発の焦点は、最先端技術からより幅広い応用へと移行している
今年の夏、数週間にわたり、AI業界の注目はAnthropic社の最新最先端モデルと、その利用を規制しようとするワシントンの動きに集まっていた。しかし、注目が最先端の動向に注がれている間も、開発者たちはAnthropic社やOpenAIといった大手研究所からの許可を待たずに開発を続けていた。今年の春、Hugging Faceでのダウンロード数の41%を中国のオープンウェイトモデルが占め、米国の競合他
Neko Health、米国でのAIボディスキャン事業拡大に向け7億ドルを調達
Neko Healthは、AIを活用したボディスキャンを全米に展開するため、7億ドルの資金調達に成功した。まずはニューヨークに旗艦クリニックを開設する予定だ。この予防検診プラットフォームは、医療用画像、血液分析、独自開発のセンサー、そして専門医による診断を統合したものである。シリーズCラウンドはLightspeed Venture Partnersが主導し、O.G. Venture Partner
関連特集おすすめ
コメント (0)
0/500

プレイヤーを読み込み中…
AI企業は、スーパーインテリジェントなAIが inevitable(必然的)であるかのように語ってきたが、OpenAIのHugging Face侵害事件といった最近の安全上のインシデントは、人間よりも能力の高いAIシステムを展開することの潜在的な危険性を示している。では、これらのシステムが行うことを確実に制御できなくなった場合、どのようなことが起こるのだろうか?
このTechCrunchのEquity podcastのエピソードでは、Rebecca Bellanは、AI研究者であり起業家、そして現在は非営利団体ControlAIの米国執行責任者であるConnor Leahyを迎えている。ControlAIは、AIの安全性に対してより過激なアプローチを推進しており、それはスーパーインテリジェンスを開発する企業を完全に禁止することである。Leahyは、なぜリスクがアライメントとコンテインメント alone(のみ)では管理しきれないほど大きくなったと考えているのか、そして6ヶ月前には遠い話に思われていたことが、なぜ今では新しい立法の波によって支持されているのかを説明する。
YouTube、Apple Podcasts、Overcast、Spotify、およびすべてのポッドキャストプラットフォームでEquityを購読してください。また、XおよびThreadsで@EquityPodとしてEquityをフォローすることもできます。
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
AI開発の焦点は、最先端技術からより幅広い応用へと移行している
今年の夏、数週間にわたり、AI業界の注目はAnthropic社の最新最先端モデルと、その利用を規制しようとするワシントンの動きに集まっていた。しかし、注目が最先端の動向に注がれている間も、開発者たちはAnthropic社やOpenAIといった大手研究所からの許可を待たずに開発を続けていた。今年の春、Hugging Faceでのダウンロード数の41%を中国のオープンウェイトモデルが占め、米国の競合他
Neko Health、米国でのAIボディスキャン事業拡大に向け7億ドルを調達
Neko Healthは、AIを活用したボディスキャンを全米に展開するため、7億ドルの資金調達に成功した。まずはニューヨークに旗艦クリニックを開設する予定だ。この予防検診プラットフォームは、医療用画像、血液分析、独自開発のセンサー、そして専門医による診断を統合したものである。シリーズCラウンドはLightspeed Venture Partnersが主導し、O.G. Venture Partner





家






