OpeniAI ainda para liberar a ferramenta de clonagem de voz um ano depois

Motor de voz do Openai: um lançamento tão esperado?

No final de março passado, o Openai introduziu uma "prévia em pequena escala" de seu serviço de IA, o mecanismo de voz, que prometeu clonar a voz de uma pessoa usando apenas 15 segundos de fala. Avanço rápido por ano, e a ferramenta ainda está no modo de visualização, sem linha do tempo clara para um lançamento completo - ou mesmo confirmação de que ela verá a luz do dia.

A hesitação em lançar amplamente o motor de voz pode resultar de preocupações sobre uso indevido, ou talvez uma tentativa de evitar o escrutínio regulatório. O Openai enfrentou críticas no passado por priorizar produtos chamativos em vez de segurança e correr para o mercado antes dos concorrentes.

Um porta -voz do Openai disse ao TechCrunch que a empresa ainda está testando mecanismo de voz com um grupo seleto de "parceiros confiáveis". "Estamos aprendendo com a forma como nossos parceiros estão usando a tecnologia para aprimorar a utilidade e a segurança do modelo", explicou o porta -voz. "Foi emocionante ver seus aplicativos, desde terapia de fala e aprendizado de idiomas até suporte ao cliente, personagens de videogame e avatares da AI".

Motor de voz: a jornada até agora

O Voice Engine, que leva as vozes na API de texto em fala do OpenAI e no modo de voz do ChatGPT, cria discursos notavelmente naturais que imitam de perto o orador original. Ele converte texto em fala, restringido apenas por determinadas diretrizes de conteúdo. No entanto, o lançamento foi atormentado por atrasos e datas de liberação desde o início.

Em uma postagem no blog de junho de 2024, o OpenAI detalhou como o modelo de mecanismo de voz aprende a prever os sons que um alto -falante provavelmente faria para um determinado texto, considerando várias vozes, sotaques e estilos de fala. Isso permite que o modelo não apenas gere fala a partir do texto, mas também para produzir "enunciados falados" que refletem como diferentes falantes expressariam o texto em voz alta.

Originalmente, o Voice Engine, então chamado de Vozes Custom, estava programado para ingressar na API do Openai em 7 de março de 2024, de acordo com um projeto de post do Blog visto pela TechCrunch. O plano era oferecer inicialmente acesso a até 100 "desenvolvedores confiáveis", priorizando aqueles que desenvolvem aplicativos com benefícios sociais ou mostrando uso inovador e responsável da tecnologia. O OpenAI já havia registrado o serviço e estabeleceu preços a US $ 15 por milhão de caracteres para vozes "padrão" e US $ 30 por milhão de caracteres para vozes de "qualidade HD".

Mas no último momento, o anúncio foi adiado. Algumas semanas depois, o Openai revelou o motor de voz sem uma opção de inscrição, limitando o acesso a um pequeno grupo de desenvolvedores com quem trabalhava desde o final de 2023.

"Esperamos iniciar um diálogo sobre a implantação responsável de vozes sintéticas e como a sociedade pode se adaptar a esses novos recursos", afirmou o OpenAI no final de março de 2024, postagem do blog. "Com base nessas conversas e nos resultados desses testes de pequena escala, tomaremos uma decisão mais informada sobre se e como implantar essa tecnologia em escala".

Uma longa estrada de desenvolvimento

O mecanismo de voz está em desenvolvimento desde 2022, com o Openai mostrando seu potencial - e riscos - para os formuladores de políticas globais no verão de 2023. Hoje, vários parceiros têm acesso ao mecanismo de voz, incluindo o Startup Livox, que visa ajudar as pessoas com deficiência a se comunicarem mais naturalmente. No entanto, o CEO da Livox, Carlos Pereira, observou que eles não podiam integrar o mecanismo de voz em seus produtos porque requer uma conexão com a Internet, que muitos de seus clientes não têm. "A qualidade da voz e a capacidade de que as vozes falem em diferentes idiomas são únicas - especialmente para nossos clientes com deficiência", disse Pereira ao TechCrunch por e -mail. "É realmente a ferramenta mais impressionante e fácil de usar para criar vozes que eu já vi ... Esperamos que o Openai desenvolva uma versão offline em breve".

A Pereira não recebeu nenhuma indicação do OpenAI sobre uma possível data de lançamento ou planos de cobrar pelo serviço e, até agora, o Livox não teve que pagar por seu uso.

Em um post de junho de 2024, o Openai sugeriu que um motivo para atrasar o mecanismo de voz era o potencial de abuso durante o ciclo eleitoral dos EUA. A empresa implementou medidas de segurança, incluindo a marca d'água para rastrear a origem do áudio gerado. Os desenvolvedores devem obter "consentimento explícito" do orador original e fazer "divulgações claras" para o público de que as vozes são geradas pela IA. No entanto, o OpenAI não detalhou como essas políticas serão aplicadas em escala, o que pode ser um desafio significativo.

O OpenAI também sugeriu a construção de uma "experiência de autenticação por voz" para verificar os alto-falantes e uma lista de "proibições" para impedir a criação de vozes que se assemelham a figuras proeminentes. Esses são projetos ambiciosos, e quaisquer erros podem danificar ainda mais a reputação do OpenAI em relação às iniciativas de segurança.

A filtragem eficaz e a verificação de ID estão se tornando essenciais para liberar com responsabilidade a tecnologia de clonagem de voz. A clonagem de voz da AI foi o terceiro golpe de crescimento mais rápido de 2024, levando a fraude e contornando as verificações de segurança bancária, pois as leis de privacidade e direitos autorais lutam para acompanhar o ritmo. Os atores maliciosos usaram a clonagem de voz para criar flakes profundos de celebridades e políticos, que se espalharam rapidamente nas mídias sociais.

O Openai pode lançar o motor de voz na próxima semana, ou isso pode nunca acontecer. A empresa mencionou considerar manter o serviço pequeno em escopo. Mas uma coisa é certa: seja para óptica, segurança ou ambos, a prévia limitada do mecanismo de voz se tornou uma das mais longas da história do Openai.