Open еще, чтобы выпустить инструмент голосового клонирования год спустя

Голосовый двигатель Openai: долгожданный релиз?

В конце марта прошлого года Openai представила «небольшой предварительный просмотр» своего услуги искусственного интеллекта, голосового двигателя, который обещал клонировать голос человека, используя всего 15 секунд речи. Перенесемся на год, и инструмент все еще находится в режиме предварительного просмотра, без четкого срока для полного запуска - или даже подтверждения, что он когда -либо увидит свет.

Нерешительность, чтобы развернуть голосовой двигатель, широко может быть связано с опасениями по поводу неправильного использования или, возможно, попытки обойти регулирование регулирования. В прошлом OpenAI сталкивался с критикой за то, что они определили приоритеты в ярких продуктах по безопасности и за то, что они бросались на рынок перед конкурентами.

Представитель OpenAI сказал TechCrunch, что компания все еще тестирует голосовой двигатель с избранной группой «доверенных партнеров». «Мы учимся на том, как наши партнеры используют технологию для повышения полезности и безопасности модели», - пояснил представитель. «Было интересно видеть его приложения, от речевой терапии и изучения языка до поддержки клиентов, персонажей видеоигр и аватаров ИИ».

Голосовый двигатель: путешествие до сих пор

Голосовый двигатель, который управляет голосами в API Text-To Speek API Openai и голосовой режиме Chatgpt, создает удивительно естественную речь, которая внимательно имитирует оригинальный динамик. Он преобразует текст в речь, ограниченный только определенными рекомендациями по содержанию. Тем не менее, развертывание страдало от задержек и сдвигающих дат выпуска с самого начала.

В блоге в июне 2024 года Openai подробно описал, как модель голосового двигателя учится предсказать звуки, которые динамик, вероятно, сделает для данного текста, учитывая различные голоса, акценты и стили выступлений. Это позволяет модели не только генерировать речь из текста, но и создавать «разговорные высказывания», которые отражают, как разные ораторы будут выражать текст вслух.

Первоначально, голосовой двигатель, который затем назывался Custom Voices, должен был присоединиться к API Openai 7 марта 2024 года, согласно проекту блога, проведенного TechCrunch. План состоял в том, чтобы первоначально предложить доступ до 100 «доверенных разработчиков», что приоритет этим развивающимся приложениям с социальными преимуществами или демонстрации инновационного и ответственного использования этой технологии. OpenAI уже торговал услугами и установил цены на 15 долларов за миллион персонажей для «стандартных» голосов и 30 долларов за миллион персонажей за голоса «качества HD».

Но в последний момент объявление было отложено. Несколько недель спустя Openai обнародовал голосовой двигатель без опции регистрации, ограничивая доступ к небольшой группе разработчиков, с которыми они работали с конца 2023 года.

«Мы надеемся начать диалог о ответственном развертывании синтетических голосов и о том, как общество может адаптироваться к этим новым возможностям», - заявил Openai в блоге в конце марта 2024 года. «Основываясь на этих разговорах и результатах этих мелких тестов, мы примем более осознанное решение о том, как и как развернуть эту технологию в масштабе».

Долгое развитие дороги

Голосовый двигатель находится в разработке с 2022 года, когда OpenAI демонстрирует свой потенциал - и риски - для глобальных политиков летом 2023 года. Сегодня несколько партнеров имеют доступ к голосовому двигателю, включая стартап Livox, который направлен на то, чтобы помочь людям с ограниченными возможностями общаться более естественно. Тем не менее, генеральный директор Livox Карлос Перейра отметил, что они не могут интегрировать голосовой двигатель в свои продукты, потому что для этого требуется подключение к Интернету, чего не хватает многим из их клиентов. «Качество голоса и способность заставить голоса говорить на разных языках уникальны, особенно для наших клиентов с ограниченными возможностями», - сказал Перейра TechCrunch по электронной почте. «Это действительно самый впечатляющий и простой в использовании инструмент для создания голосов, которые я видел ... Мы надеемся, что Openai скоро разработает автономную версию».

Pereira не получила никаких указаний от Openai о потенциальной дате запуска или планах по сбору услуг, и до сих пор Livox не пришлось платить за его использование.

В июне 2024 года Openai предположил, что одной из причин задержки голосового двигателя была потенциал для злоупотреблений во время избирательного цикла США. Компания внедрила меры безопасности, в том числе водяные знаки, чтобы отследить происхождение генерируемого звука. Разработчики должны получить «явное согласие» от оригинального динамика и сделать «четкое раскрытие» для своей аудитории, что голоса создаются с ИИ. Тем не менее, OpenAI не подробно описал, как эти политики будут применяться в масштабе, что может быть серьезной проблемой.

OpenAI также намекнул на создание «опыта голосовой аутентификации», чтобы проверить динамиков и список «бездей», чтобы предотвратить создание голосов, напоминающих выдающихся фигур. Это амбициозные проекты, и любые ошибки могут еще больше повредить репутации Openai в отношении инициатив безопасности.

Эффективная фильтрация и проверка удостоверения личности становятся важными для ответственного выпуска технологии голосового клонирования. Клонирование голоса ИИ было третьей наиболее быстрорастущей аферой 2024 года, что привело к мошенничеству и обходу чеков банковской безопасности, поскольку законы о конфиденциальности и авторском праве борются за то, чтобы идти в ногу. Злоусовеченные актеры использовали голосовой клонирование, чтобы создать глубокие знаменитости и политиков, которые быстро распространились в социальных сетях.

OpenAI может выпустить голосовой двигатель на следующей неделе, или этого никогда не произойдет. Компания упомянула, учитывая поддержание обслуживания небольшим в сфере масштаба. Но одна вещь наверняка: для оптики, безопасности или обоих, ограниченный предварительный просмотр голосового двигателя стал одним из самых длинных в истории Openai.