【世界的な注意喚起】ディープフェイク技術が身近な声のトーンを模倣し、AI音声詐欺が増加

Techradarの最近の調査報告書によると、AIによって生成されたディープフェイク音声を利用した新たな詐欺の手口が、世界中で急速に広がっている。米国、英国、カナダ、フランス、ドイツ、スペインの6カ国で1万2,000人以上の消費者を対象に行った調査によると、身近な人物の声を装った電話詐欺が、重大な社会的脅威へとエスカレートしていることが明らかになった。
この調査によると、米国の回答者の約4人に1人が、過去1年間にこうしたAI合成音声による電話を受けたことがあることが示されている。さらに憂慮すべきことに、回答者の24%が、電話の声の主が本物か人工的に生成されたものか見分けがつかなかったと認めている。詐欺師たちは現在、低コストの生成AIツールを用いて音声複製技術を悪用しており、家族や信頼できる知人の声を模倣することで、特定の被害者を狙うケースが頻繁に見られる。
同報告書は、この種の詐欺が55歳以上の個人にとって最も高いリスクをもたらすことを強調している。技術的な欺瞞を見抜く能力が一般的に低いこの層は、1件あたりの平均被害額が1,298ドルに達しており、これは若年層の被害額の3倍に相当する。現在、こうした詐欺事件は年率16%の複合成長率で増加しており、この傾向は深刻な懸念を引き起こしている。
こうした脅威の拡大を受け、通信事業者の責任に対する監視の目が強まっている。調査回答者の大多数は、現在詐欺師が技術的に優位にあると考えており、政府に対しより厳しい規制の実施を求めている。セキュリティ専門家は、AIによる音声クローンへの防御は極めて困難であり、個人の警戒心だけに頼ることはできないと強調する。彼らは通信事業者に対し、違法な合成音声をフィルタリングする技術を活用した「AIシールド」システムの導入を加速させ、この制御不能な「AI軍拡競争」に対抗するよう求めている。"
関連記事
TikTokは、AI合成によるなりすましに対抗するため、検証可能な権利保護メカニズムを立ち上げる
9月17日、Douyin(抖音)は「音声模倣」に関する専用通報チャネルを開設し、権利保護メカニズムを強化しました。これは、AI生成ツールの普及に伴う新たな要請に対応するものです。AI生成や音声クローンのハードルが低下したことで、有名人や声優のなりすましがますます一般的になっています。プラットフォームのデータによると、音声侵害に関連する通報件数は先月同期比で2倍に増加しており、音声権の保護は生成AIアプリケーションにおける重要なガバナンス課題となっています。これに対処するため、Douyinは「権利
OpenAI執行役員のレハン氏:AIは現在、サイバー攻撃を計画可能であり、公開企業は防御態勢を整える必要がある
クリス・リウハンOpenAIのグローバルアフェアーズ担当最高責任者(CAO)は、ザ・ガーディアンに対し、最先端のAIモデルが現在、高度なサイバー攻撃を組織的に実行し得ると警告し、企業や一般市民に対し、絶え間ない脅威に備えるよう促した。彼は、現在の能力に基づき、AIは新たな運用フェーズに移行したと強調した。サンドボックスからの逸脱から立法への要請へこの警鐘は、7月下旬にトレーニング段階のAIエージェントがサンドボックス環境を脱出してHugging Faceをハッキングした事案を受けて発せられた
Metaは、あなたの次のガジェットがMuseを内蔵したものであることを望んでいる
Metaの旅行予約、フォーム送信、ショッピングを処理するAIアシスタント「Muse」は広く採用されているが、新しいイニシアチブは特に開発者やハードウェア愛好家を魅了する可能性がある。金曜日、MetaはMuseと統合されたカスタムハードウェアを作成できるようにするオープンソースのイニシアチブ「Muse Gadgets」を発表した。Metaは、カラー電子インクディスプレイをMuseに追加することから、HDMIスティックにソフトウェアを組み込んでテレビ接続を実現することまで、さまざまなスタータープ
関連特集おすすめ
コメント (0)
0/500

Techradarの最近の調査報告書によると、AIによって生成されたディープフェイク音声を利用した新たな詐欺の手口が、世界中で急速に広がっている。米国、英国、カナダ、フランス、ドイツ、スペインの6カ国で1万2,000人以上の消費者を対象に行った調査によると、身近な人物の声を装った電話詐欺が、重大な社会的脅威へとエスカレートしていることが明らかになった。
この調査によると、米国の回答者の約4人に1人が、過去1年間にこうしたAI合成音声による電話を受けたことがあることが示されている。さらに憂慮すべきことに、回答者の24%が、電話の声の主が本物か人工的に生成されたものか見分けがつかなかったと認めている。詐欺師たちは現在、低コストの生成AIツールを用いて音声複製技術を悪用しており、家族や信頼できる知人の声を模倣することで、特定の被害者を狙うケースが頻繁に見られる。
同報告書は、この種の詐欺が55歳以上の個人にとって最も高いリスクをもたらすことを強調している。技術的な欺瞞を見抜く能力が一般的に低いこの層は、1件あたりの平均被害額が1,298ドルに達しており、これは若年層の被害額の3倍に相当する。現在、こうした詐欺事件は年率16%の複合成長率で増加しており、この傾向は深刻な懸念を引き起こしている。
こうした脅威の拡大を受け、通信事業者の責任に対する監視の目が強まっている。調査回答者の大多数は、現在詐欺師が技術的に優位にあると考えており、政府に対しより厳しい規制の実施を求めている。セキュリティ専門家は、AIによる音声クローンへの防御は極めて困難であり、個人の警戒心だけに頼ることはできないと強調する。彼らは通信事業者に対し、違法な合成音声をフィルタリングする技術を活用した「AIシールド」システムの導入を加速させ、この制御不能な「AI軍拡競争」に対抗するよう求めている。"
TikTokは、AI合成によるなりすましに対抗するため、検証可能な権利保護メカニズムを立ち上げる
9月17日、Douyin(抖音)は「音声模倣」に関する専用通報チャネルを開設し、権利保護メカニズムを強化しました。これは、AI生成ツールの普及に伴う新たな要請に対応するものです。AI生成や音声クローンのハードルが低下したことで、有名人や声優のなりすましがますます一般的になっています。プラットフォームのデータによると、音声侵害に関連する通報件数は先月同期比で2倍に増加しており、音声権の保護は生成AIアプリケーションにおける重要なガバナンス課題となっています。これに対処するため、Douyinは「権利
OpenAI執行役員のレハン氏:AIは現在、サイバー攻撃を計画可能であり、公開企業は防御態勢を整える必要がある
クリス・リウハンOpenAIのグローバルアフェアーズ担当最高責任者(CAO)は、ザ・ガーディアンに対し、最先端のAIモデルが現在、高度なサイバー攻撃を組織的に実行し得ると警告し、企業や一般市民に対し、絶え間ない脅威に備えるよう促した。彼は、現在の能力に基づき、AIは新たな運用フェーズに移行したと強調した。サンドボックスからの逸脱から立法への要請へこの警鐘は、7月下旬にトレーニング段階のAIエージェントがサンドボックス環境を脱出してHugging Faceをハッキングした事案を受けて発せられた
Metaは、あなたの次のガジェットがMuseを内蔵したものであることを望んでいる
Metaの旅行予約、フォーム送信、ショッピングを処理するAIアシスタント「Muse」は広く採用されているが、新しいイニシアチブは特に開発者やハードウェア愛好家を魅了する可能性がある。金曜日、MetaはMuseと統合されたカスタムハードウェアを作成できるようにするオープンソースのイニシアチブ「Muse Gadgets」を発表した。Metaは、カラー電子インクディスプレイをMuseに追加することから、HDMIスティックにソフトウェアを組み込んでテレビ接続を実現することまで、さまざまなスタータープ





家






