OpenAI의 AI 전사 도구에 대한 우수한 대안 : 환각이 적고 정확도

2022 년에 발표 된 AI 기반 음성 인식 및 전사 도구 인 Openai의 Whisper는 환각을 자주 생성하거나 정보를 제작하여 중요한 환경에서 해를 입힐 수있는 잠재력에 대한 우려를 제기했습니다. 미시간 대학교 (University of Michigan)의 한 연구원은 그가 검토 한 공개 회의에서 오디오 전사의 80%에서 환각을 발견했습니다. 마찬가지로, 100 시간의 Whisper Transcriptions를 분석 한 엔지니어는 그 중 절반 정도의 환각을보고했으며, 다른 개발자는 그가 만든 거의 모든 전사에서 총 26,000 개의 인스턴스를 발견했습니다. 전사의 경미한 오류는 일반적이지만, 전문가들은 Whisper의 환각 수준은 AI 전사 도구들 사이에서 전례가 없다고 지적했다. Openai는 오픈 소스 신경망 인 Whisper가 영어 음성 인식에서 거의 인간적 정확도를 달성한다고 주장합니다. 인터뷰 전사, 콘텐츠 번역 및 비디오 자막 생성과 같은 작업에 산업 전반에 걸쳐 널리 사용됩니다. Whisper의 광범위한 사용은 제작 된 텍스트, 잘못 입력 된 인용문 및 다양한 플랫폼에 대한 기타 잘못된 정보가 확산 될 수 있으며, 원래 콘텐츠의 특성에 따라 영향을 미칩니다. Whisper는 Oracle 및 Microsoft의 콜센터, 음성 어시스턴트 및 클라우드 플랫폼에 사용되는 일부 버전의 Chatgpt에 통합되어 지난달 Huggingface에서 420 만 회 이상 다운로드되었습니다. 특히 우려되는 것은 의료 전문가의 속삭임 기반 도구의 사용이 환자 상담을 전사하는 것입니다. AP는 Whisper가 종종 인종 논평, 폭력적인 수사 및 상상의 의학적 치료를 포함하여 문구와 전체 문장을 종종 제작한다는 것을 확인한 12 명 이상의 엔지니어, 연구원 및 개발자와 이야기를 나 spoke습니다. 고급 연구 연구소의 교수 인 Alondra Nelson은 "아무도 잘못 진단을 원하지 않는다"고 강조했다. OpenAI는 정확도 결함이 중요한 문제로 이어질 수있는 의사 결정 컨텍스트와 같은 고위험 도메인에서 Whisper를 사용하는 것에 대해 조언하지만,이 도구의 판매 된 정확도는 운영을 간소화하려는 다양한 산업에 매력적이며 종종 잠재적 위험을 간과합니다. 이 문제는 길고 기록되지 않은 오디오에만 국한되지 않습니다. 연구원들은 간단하고 명확한 오디오 샘플에서도 환각을 발견했습니다. 그들은 이것이 수백만 건의 기록에 걸쳐 수만 건의 잘못된 전사를 초래할 수 있다고 추정합니다. Gallaudet University의 기술 액세스 프로그램이자 청각 장애인 인 Christian Vogler는 청각 장애인 또는 청각 장애인 개인이 "이 모든 텍스트들 사이에 숨겨져있는"환각을 놓칠 수 있다고 지적했습니다. 이러한 결과는 AI 업계에서 더 넓은 문제를 강조합니다. 특히 미국에서 포괄적 인 AI 규정이없는 경우 이익을위한 시장에 대한 시장에 대한 시장에 대한 이익. 이것은 OpenAI의 영리 대 비영리 지위와 AI 위험을 무시하는 최근의 리더십 진술에 대한 논쟁에서 특히 관련이 있습니다. OpenAI 대변인은 AP에 회사가 환각을 줄이고 연구자들의 결과를 가치있게 유지하기 위해 지속적으로 노력하고 있다고 피드백을 모델 업데이트에 포함 시켰다고 말했다. 그 동안, 우리는 최근 6 개의 새로운 언어에 대한 지원을 추가 한 언론인들이 신뢰하는 신뢰할 수있는 AI 전사 도구 인 Otter.ai를 고려할 것을 제안합니다. 오랜 사용자는 새로운 AI 요약 기능에서 환각 통계를보고했지만, 전사 자체에는 오류가 나타나지 않았습니다. OTTER.AI는 사용자에게 정확도, 특히 중요한 작업에 대해 전사를 검토하고 편집하도록 조언합니다. 배경 노이즈, 악센트 및 대화 복잡성과 같은 요인으로 인해 정확도가 다를 수 있습니다. iPhone 사용자의 경우 Apple Intelligence의 iOS 18.1은 이제 AI 기반 통화 녹음 및 전사를 제공하지만 ZDNet의 편집장 인 Jason Hiner는이를 "여전히 진행중인 작업"이라고 설명합니다. OpenAi는 최근 2 억 5 천만 개의 ChatGpt와 사용자에게 더 많은 도구를 제공 할 계획을 발표했습니다.

관련 기사

의견 (15)