ハッキングされたクロスウォークボタンは、マスクとザッカーバーグのシミュレートされた声を特徴としています

カリフォルニアの都市の横断歩道ボタンがAI生成音声でハッキングされる

週末に奇妙な出来事が起こり、カリフォルニアの少なくとも3つの都市の横断歩道ボタンが改ざんされ、テック業界の大物イーロン・マスクとマーク・ザッカーバーグのAI生成音声と思われるものが搭載されました。オンラインで拡散されたビデオには、これらの音声が収録されており、マスクの音声は友情を懇願し、ザッカーバーグの音声は「民主主義を損なうこと」や「AIのスロップで祖父母の脳を調理すること」を自慢していました。

パロアルトの広報担当者はPalo Alto Onlineに対し、市の職員がダウンタウンの12の交差点が影響を受けていることを確認したと述べました。予防措置として、これらの横断歩道の音声機能をオフにし、問題の修正に取り組んでいます。ハッキングにもかかわらず、信号機はそれ以外は正常に機能しています。この改ざんは金曜日に発生したと報告されています。

レッドウッドシティでも同様の事件が報告されており、副市長はThe San Francisco Chronicleに対し、市がこの問題を積極的に調査し、解決策に取り組んでいると伝えました。メンロパークの横断歩道ボタンも影響を受けているとされています。

これらの音声機能は、視覚障害者にとって重要で、「待つ」ように指示したり、横断が安全なタイミングを音声で知らせたりします。偽の音声がこの機能をどの程度妨げるかは不明ですが、ビデオでは標準の安全メッセージと一緒に再生されていることが示唆されています。

イーロン・マスクの模擬音声を特徴とするビデオ

イーロン・マスクの模擬音声を収録したクリップと、私の書き起こしを以下に示します：

• 「こんにちは、イーロン・マスクです。パロアルトへようこそ。人々は『がんは悪い』と言い続けますが、がんになってみたことありますか？めっちゃ最高ですよ。」

• 「こんにちは、イーロン・マスクです。Teslaのエンジニアリングの拠点、パロアルトへようこそ。人はお金では幸せは買えないと言いますが、まあ、そうかもしれない。神様は知っています、俺も試してみた。でもCybertruckは買えるし、それはかなりクールですよね？ね？くそっ、めっちゃ孤独だ。」

• 「こんにちは、俺はイーロン。友達になれる？俺の友達になってくれる？Cybertruckあげるよ、約束する。いいか、君は俺が承認の一片のためにどれだけ卑劣なことをするか知らないよ。」

1つのビデオには、元大統領ドナルド・トランプを模した音声がカメオ出演し、マスクとの関係をからかっていました：

• 「マスクじゃない：面白いことに、昔は彼をただのバカだと思ってた。でも知り合ってみると、実はかなり甘くて優しくて愛情深いんだ。」

• 「トランプじゃない：ハニー、ベッドに戻っておいで。」

マーク・ザッカーバーグの模擬音声を特徴とするビデオ

Palo Alto Onlineのビデオでは、偽のザッカーバーグの音声が次のように語っていました：

• 「ヘイ、ザックだよ。私たちが一緒に構築してきたすべてのことにすごく誇りを持ってるんだ。民主主義を損なうことから、AIのスロップで祖父母の脳を調理すること、トランスジェンダーの人々にとって世界を安全でなくすることまで。誰も私たちよりうまくやれないし、うん、かなりクールだと思う。ザック、バイ！」

模擬ザッカーバーグ音声の他のビデオも同じメッセージを含んでいました：

• 「こんにちは、マーク・ザッカーバーグです、でも親しい人は『ザック』って呼ぶよ。AIをあなたの意識体験のあらゆる面に強制的に挿入する際に、違和感や侵害された感じを持つのは普通のことだ。でも心配しなくていいよ、だってそれを止める方法は絶対にないから。じゃあ、またね。」

これらの事件は、公共インフラの潜在的な脆弱性と、技術が創造的かつ懸念すべき形で悪用される可能性を浮き彫りにしています。