Alternative supérieure à l'outil de transcription d'IA d'OpenAI: moins d'hallucination, plus de précision

Le Whisper d'OpenAI, un outil de reconnaissance et de transcription vocale alimenté par l'IA, lancé en 2022, génère fréquemment des hallucinations ou des informations fabriquées, suscitant des inquiétudes sur son potentiel de nuire dans des contextes critiques.

Un chercheur de l'Université du Michigan a découvert des hallucinations dans 80 % des transcriptions audio de réunions publiques qu'il a examinées. De même, un ingénieur ayant analysé 100 heures de transcriptions de Whisper a signalé des hallucinations dans environ la moitié d'entre elles, et un autre développeur en a trouvé dans presque toutes les transcriptions qu'il a créées, totalisant 26 000 cas.

Bien que des erreurs mineures dans la transcription soient courantes, les experts ont noté que le niveau d'hallucination de Whisper est sans précédent parmi les outils de transcription par IA. OpenAI affirme que Whisper, un réseau neuronal open-source, atteint une précision quasi humaine dans la reconnaissance vocale en anglais. Il est largement utilisé dans divers secteurs pour des tâches comme la transcription d'interviews, la traduction de contenu et la génération de sous-titres vidéo.

L'utilisation généralisée de Whisper pourrait entraîner la propagation de textes fabriqués, de citations erronées et d'autres désinformations sur diverses plateformes, l'impact variant selon la nature du contenu original. Whisper est intégré dans certaines versions de ChatGPT, utilisé dans les centres d'appels, les assistants vocaux et les plateformes cloud d'Oracle et Microsoft, et a été téléchargé plus de 4,2 millions de fois le mois dernier sur HuggingFace.

Une préoccupation particulière est l'utilisation croissante d'outils basés sur Whisper par les professionnels de la santé pour transcrire les consultations des patients. L'AP a interrogé plus d'une douzaine d'ingénieurs, de chercheurs et de développeurs qui ont confirmé que Whisper fabrique souvent des phrases et des phrases entières, parfois incluant des commentaires raciaux, des discours violents et même des traitements médicaux imaginaires.

"Personne ne veut un mauvais diagnostic," a souligné Alondra Nelson, professeure à l'Institute for Advanced Study.

Bien qu'OpenAI déconseille l'utilisation de Whisper dans des domaines à haut risque comme les contextes de prise de décision où des erreurs de précision peuvent entraîner des problèmes significatifs, la précision vantée de l'outil le rend attractif pour diverses industries cherchant à rationaliser leurs opérations, souvent en négligeant les risques potentiels.

Le problème ne se limite pas aux enregistrements audio longs ou mal enregistrés ; les chercheurs ont trouvé des hallucinations même dans des échantillons audio courts et clairs. Ils estiment que cela pourrait entraîner des dizaines de milliers de transcriptions erronées sur des millions d'enregistrements. Christian Vogler, directeur du Technology Access Program de l'Université Gallaudet et sourd lui-même, a souligné que les personnes sourdes ou malentendantes peuvent ne pas remarquer ces hallucinations "cachées parmi tout ce texte."

Ces découvertes mettent en lumière un problème plus large dans l'industrie de l'IA : la précipitation à commercialiser des produits pour le profit, surtout en l'absence de réglementations complètes sur l'IA aux États-Unis. Cela est particulièrement pertinent au milieu des débats sur le statut à but lucratif ou non lucratif d'OpenAI et des récentes déclarations de ses dirigeants qui minimisent les risques de l'IA.

Un porte-parole d'OpenAI a déclaré à l'AP que l'entreprise travaille continuellement à réduire les hallucinations et valorise les découvertes des chercheurs, intégrant leurs retours dans les mises à jour du modèle.

En attendant, nous suggérons d'envisager Otter.ai, un outil de transcription par IA fiable, apprécié des journalistes, qui a récemment ajouté le support pour six nouvelles langues. Bien qu'un utilisateur de longue date ait signalé une statistique hallucinée dans une nouvelle fonction de résumé par IA, l'erreur n'apparaissait pas dans la transcription elle-même. Otter.ai conseille aux utilisateurs de vérifier et de modifier les transcriptions pour en assurer l'exactitude, en particulier pour les tâches critiques, notant que la précision peut varier en raison de facteurs comme le bruit de fond, les accents et la complexité des conversations.

Pour les utilisateurs d'iPhone, iOS 18.1 avec Apple Intelligence propose désormais un enregistrement et une transcription d'appels alimentés par l'IA, bien que le rédacteur en chef de ZDNET, Jason Hiner, le décrive comme "encore en cours de développement."

OpenAI a récemment annoncé des plans pour fournir plus d'outils à ses 250 millions d'utilisateurs de ChatGPT Plus.