1年後に音声クローニングツールをまだリリースしていないOpenai

Openaiの音声エンジン：待望のリリース？

昨年3月下旬、OpenaiはAIサービスであるVoice Engineの「小規模なプレビュー」を導入しました。これは、わずか15秒の音声を使用して人の音声をクローンすることを約束しました。 1年前に早送りすると、ツールはまだプレビューモードであり、完全な起動のための明確なタイムラインはありません。

音声エンジンを広く展開するのをためらうことは、誤用に関する懸念、あるいはおそらく規制の精査を避けようとする試みに起因する可能性があります。 Openaiは、過去に、安全性よりも派手な製品を優先し、競合他社よりも先にマーケティングすることについて批判に直面してきました。

Openaiの広報担当者は、TechCrunchに、同社は「信頼できるパートナー」の選択グループでVoice Engineをテストしていると語った。 「私たちは、パートナーがテクノロジーを使用してモデルのユーティリティと安全性を高める方法から学んでいます」とスポークスマンは説明しました。 「言語療法や言語学習から顧客サポート、ビデオゲームのキャラクター、AIアバターに至るまで、そのアプリケーションを見るのはエキサイティングでした。」

音声エンジン：これまでの旅

OpenaiのテキストからスピーチへのAPIおよびChatGptの音声モードで声を駆動する音声エンジンは、元のスピーカーを密接に模倣する非常に自然な音を立てるスピーチを作成します。特定のコンテンツガイドラインによってのみ制約されるテキストを音声に変換します。しかし、ロールアウトは、最初から遅延とリリース日を変えることに悩まされています。

2024年6月のブログ投稿で、Openaiは、音声エンジンモデルが、さまざまな声、アクセント、スピーキングスタイルを考慮して、スピーカーが特定のテキストを作成する可能性が高いサウンドを予測することをどのように学習するかを詳述しました。これにより、モデルはテキストからスピーチを生成するだけでなく、異なるスピーカーがテキストを声に出して表明する方法を反映する「話しかけられた発言」を作成することもできます。

当初、TechCrunchが見たブログ投稿のドラフトによると、2024年3月7日にOpenaiのAPIに参加するように設定されていました。計画は、最初に最大100人の「信頼できる開発者」へのアクセスを提供し、社会的利益で開発するアプリに優先順位を付けたり、テクノロジーの革新的で責任ある使用を示したりすることでした。 Openaiはすでにサービスを商標登録しており、「標準」の声で100万ドルあたり15ドル、「HD Quality」声で100万ドルあたり30ドルの価格設定を設定していました。

しかし、最後の瞬間に、発表は遅れました。数週間後、Openaiはサインアップオプションなしで音声エンジンを発表し、2023年後半から一緒に働いていた開発者の小さなグループへのアクセスを制限しました。

「合成声の責任ある展開と、社会がこれらの新しい能力にどのように適応できるかについての対話を開始したいと考えています」とOpenaiは2024年3月下旬の発表ブログ投稿で述べています。 「これらの会話とこれらの小規模なテストの結果に基づいて、この技術を大規模に展開するかどうか、どのように展開するかについて、より多くの情報に基づいた決定を下します。」

長い開発道

Voice Engineは2022年以来開発中であり、Openaiは2023年の夏に世界の政策立案者にその可能性とリスクを示しています。今日、いくつかのパートナーは、障害のある人々がより自然にコミュニケーションをとるのを支援することを目的としたStartup Livoxを含む音声エンジンにアクセスできます。しかし、LivoxのCEO、Carlos Pereiraは、多くの顧客が欠けているインターネット接続が必要であるため、Voice Engineを製品に統合できないと指摘しました。 「声の質と声を異なる言語で話させる能力は、特に障害のある顧客にとってユニークです」とペレイラは電子メールでTechCrunchに語った。 「これは、私が見た声を作成するための最も印象的で使いやすいツールです... Openaiがすぐにオフラインバージョンを開発することを願っています。」

ペレイラは、オープンアライから、潜在的な打ち上げ日またはサービスの請求計画についての兆候を受け取っていません。これまでのところ、リボックスはその使用を支払う必要はありませんでした。

2024年6月の投稿で、Openaiは、音声エンジンを遅らせる理由の1つが、米国の選挙サイクル中に虐待の可能性であると示唆しました。同社は、生成されたオーディオの起源を追跡するための透かしを含む安全対策を実施しています。開発者は、元のスピーカーから「明示的な同意」を取得し、声が生成されているという「明確な開示」を視聴者に作成する必要があります。ただし、Openaiは、これらのポリシーが大規模にどのように実施されるかを詳述していません。これは重要な課題になる可能性があります。

また、Openaiは、スピーカーを検証するための「音声認証エクスペリエンス」と、著名な人物に似た声の作成を防ぐための「ノーゴー」リストを構築することを示唆しました。これらは野心的なプロジェクトであり、あれば、ミスステップは安全イニシアチブに関するオープンの評判をさらに損なう可能性があります。

効果的なフィルタリングとID検証は、音声クローンテクノロジーを責任を持ってリリースするために不可欠になっています。 AI Voice Cloningは、2024年の3番目に急成長している詐欺であり、プライバシーと著作権法がペースを維持するのに苦労して詐欺とバイパスにつながりました。悪意のある俳優は、声のクローニングを使用して、ソーシャルメディアに急速に広がっている有名人や政治家の深い声を作成しました。

Openaiは来週Voice Engineをリリースする可能性があります。同社は、サービスを範囲内に保つことを検討していることに言及しています。しかし、1つ確かなことは、光学、安全性、またはその両方について、Voice Engineの限られたプレビューがOpenaiの歴史の中で最も長いものの1つになっています。