TikTok、頻繁に発生する「ブルーベリー」の幻覚を理由にAI動画要約機能を削除
TikTokは先日、動画の要約テキストを自動生成する実験的なAI機能のテストを一時停止し、より具体的なユースケースの開発に注力していくことを発表した。 「AI Overviews」として知られるこの機能は、米国などの市場で数ヶ月にわたり小規模な試験運用が行われており、当初の計画ではTikTok独自のマルチモーダルモデルやサードパーティ製モデルを活用し、動画の背景情報や商品のおすすめ情報を提供する予定だった。

しかし実際には、この機能は深刻な「幻覚」を起こし、大きな注目を集める結果となった。 チャーリー・ダメリオの動画出演を「様々な材料が入ったブルーベリーの集まり」と誤認したり、犬のしつけチュートリアルを「折り紙アート」と解釈したり、さらにはシャキーラのプロモーション用ショートフィルムを「動く青い形」と表現したりした。
アルゴリズムの理解力に大きな課題があることを受け、TikTokの広報担当者は、フィードバックに基づき関連するテストを一時停止したことを確認し、今後は動画コンテンツ全体を要約しようとするのではなく、動画内の特定の商品を特定することに注力すると明らかにした。 この決定は、動的な視覚情報を処理する際、生成AIが依然として直面している技術的な課題、すなわち論理的な矛盾や意味論的な誤りを浮き彫りにしている。
業界のオブザーバーは、この出来事を、Googleの「グルー・ピザ」事件に続く、AIによる「幻覚」のもう一つの顕著な事例と見なしている。 最近のデータでは、Googleなどの大手企業によるAIの概要説明の精度は向上していることが示唆されているものの、TikTokのこの挫折は、短編動画という高密度で構造化されていない環境において、マルチモーダル大規模モデルの汎化能力が、信頼性の高い自動ストーリーテリングには依然として不十分であることを浮き彫りにしている。 当面の間、業界は広範な「包括的な説明」の追求から、より焦点を絞った「垂直型アプリケーション」へとシフトしており、認知の範囲を狭めることで、AIツールの実用性と商業的な信頼性を高めている。
関連記事
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン
カリフォルニア州の自動運転車規制:違反切符、ジオフェンス、そして100万マイルという新たな時代
Guident社は南フロリダでAuveTechのシャトルを運行しており、同社の遠隔監視技術を活用して、ウェストパームビーチでの4マイルのルートとボカラトンでの1マイルのルートを管理している。 | 提供:Guidentカリフォルニア州は、自動運転車の規制環境を再定義しつつあり、テクノロジー業界の「迅速に動き、失敗を恐れない」という考え方から、厳格な説明責任と厳しい走行距離要件へと移行している。Gui
関連特集おすすめ
コメント (0)
0/500
TikTokは先日、動画の要約テキストを自動生成する実験的なAI機能のテストを一時停止し、より具体的なユースケースの開発に注力していくことを発表した。 「AI Overviews」として知られるこの機能は、米国などの市場で数ヶ月にわたり小規模な試験運用が行われており、当初の計画ではTikTok独自のマルチモーダルモデルやサードパーティ製モデルを活用し、動画の背景情報や商品のおすすめ情報を提供する予定だった。

しかし実際には、この機能は深刻な「幻覚」を起こし、大きな注目を集める結果となった。 チャーリー・ダメリオの動画出演を「様々な材料が入ったブルーベリーの集まり」と誤認したり、犬のしつけチュートリアルを「折り紙アート」と解釈したり、さらにはシャキーラのプロモーション用ショートフィルムを「動く青い形」と表現したりした。
アルゴリズムの理解力に大きな課題があることを受け、TikTokの広報担当者は、フィードバックに基づき関連するテストを一時停止したことを確認し、今後は動画コンテンツ全体を要約しようとするのではなく、動画内の特定の商品を特定することに注力すると明らかにした。 この決定は、動的な視覚情報を処理する際、生成AIが依然として直面している技術的な課題、すなわち論理的な矛盾や意味論的な誤りを浮き彫りにしている。
業界のオブザーバーは、この出来事を、Googleの「グルー・ピザ」事件に続く、AIによる「幻覚」のもう一つの顕著な事例と見なしている。 最近のデータでは、Googleなどの大手企業によるAIの概要説明の精度は向上していることが示唆されているものの、TikTokのこの挫折は、短編動画という高密度で構造化されていない環境において、マルチモーダル大規模モデルの汎化能力が、信頼性の高い自動ストーリーテリングには依然として不十分であることを浮き彫りにしている。 当面の間、業界は広範な「包括的な説明」の追求から、より焦点を絞った「垂直型アプリケーション」へとシフトしており、認知の範囲を狭めることで、AIツールの実用性と商業的な信頼性を高めている。
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン





家






