Thay thế vượt trội cho công cụ phiên âm AI của Openai: ít ảo giác hơn, độ chính xác hơn

Whisper của OpenAI, một công cụ nhận diện và phiên âm giọng nói được hỗ trợ bởi AI, ra mắt vào năm 2022, đã bị phát hiện thường xuyên tạo ra ảo giác hoặc bịa đặt thông tin, làm dấy lên lo ngại về khả năng gây hại trong các tình huống quan trọng.

Một nhà nghiên cứu tại Đại học Michigan phát hiện ra ảo giác trong 80% các bản phiên âm âm thanh từ các cuộc họp công khai mà anh ta đã xem xét. Tương tự, một kỹ sư phân tích 100 giờ phiên âm của Whisper báo cáo có ảo giác trong khoảng một nửa số đó, và một nhà phát triển khác tìm thấy ảo giác trong gần như mọi bản phiên âm mà anh ta tạo ra, tổng cộng 26.000 trường hợp.

Mặc dù các lỗi nhỏ trong phiên âm là phổ biến, các chuyên gia lưu ý rằng mức độ ảo giác của Whisper là chưa từng có trong số các công cụ phiên âm AI. OpenAI tuyên bố rằng Whisper, một mạng nơ-ron mã nguồn mở, đạt được độ chính xác gần như con người trong nhận diện giọng nói tiếng Anh. Nó được sử dụng rộng rãi trong các ngành công nghiệp cho các nhiệm vụ như phiên âm phỏng vấn, dịch nội dung và tạo phụ đề video.

Việc sử dụng rộng rãi Whisper có thể dẫn đến sự lan truyền của văn bản bịa đặt, trích dẫn sai lệch và các thông tin sai lệch khác trên nhiều nền tảng, với tác động khác nhau tùy thuộc vào bản chất của nội dung gốc. Whisper được tích hợp vào một số phiên bản của ChatGPT, được sử dụng trong các trung tâm cuộc gọi, trợ lý giọng nói và các nền tảng đám mây từ Oracle và Microsoft, và đã được tải xuống hơn 4,2 triệu lần trong tháng trước từ HuggingFace.

Đặc biệt đáng lo ngại là việc sử dụng ngày càng tăng các công cụ dựa trên Whisper bởi các chuyên gia y tế để phiên âm các cuộc tư vấn bệnh nhân. AP đã trao đổi với hơn một chục kỹ sư, nhà nghiên cứu và nhà phát triển, những người xác nhận rằng Whisper thường bịa đặt các cụm từ và toàn bộ câu, đôi khi bao gồm bình luận phân biệt chủng tộc, ngôn từ bạo lực và thậm chí cả các phương pháp điều trị y tế tưởng tượng.

"Không ai muốn bị chẩn đoán sai," Alondra Nelson, một giáo sư tại Viện Nghiên cứu Cao cấp, nhấn mạnh.

Mặc dù OpenAI khuyên không nên sử dụng Whisper trong các lĩnh vực rủi ro cao như các bối cảnh ra quyết định nơi lỗi chính xác có thể dẫn đến các vấn đề nghiêm trọng, độ chính xác được quảng bá của công cụ khiến nó hấp dẫn đối với các ngành công nghiệp muốn đơn giản hóa hoạt động, thường bỏ qua các r rủi ro tiềm ẩn.

Vấn đề không chỉ giới hạn ở các âm thanh dài hoặc được ghi âm kém; các nhà nghiên cứu phát hiện ra ảo giác ngay cả trong các mẫu âm thanh ngắn, rõ ràng. Họ ước tính rằng điều này có thể dẫn đến hàng chục nghìn bản phiên âm không chính xác trong số hàng triệu bản ghi âm. Christian Vogler, giám đốc Chương trình Ti匆, Access Technology của Đại học Gallaudet và là người khiếm thính, chỉ ra rằng những người khiếm thính hoặc khó nghe có thể bỏ sót những ảo giác này "ẩn trong số tất cả các văn bản khác."

Những phát hiện này làm nổi bật một vấn đề rộng lớn hơn trong ngành AI: cuộc đua đưa sản phẩm ra thị trường vì lợi nhuận, đặc biệt trong bối cảnh thiếu các quy định toàn diện về AI ở Mỹ. Điều này đặc biệt liên quan trong bối cảnh tranh luận về trạng trạng phi lợi nhuận so với lợi nhuận của OpenAI và các tuyên bố gần đây của lãnh đạo nhằm giảm nhẹ rủi ro AI.

Một phát ngôn viên của OpenAI nói với AP rằng công ty đang liên tục nỗ lực giảm ảo giác và đánh giá cao những phát hiện của các nhà nghiên cứu, tích hợp phản hồi vào các cập nhật mô hình.

Trong thời gian này, chúng tôi đề nghị xem xét Otter.ai, một công cụ phiên âm AI đáng tin cậy được các nhà báo tin dùng, gần đây đã bổ sung hỗ trợ cho sáu ngôn ngữ mới. Mặc dù một người dùng lâu năm báo cáo một số liệu ảo trong tính năng tóm tắt AI mới, lỗi này không xuất hiện trong chính bản phiên âm. Otter.ai khuyên người dùng nên xem xét và chỉnh sửa các bản phiên âm để đảm bảo tính chính xác, đặc biệt đối với các nhiệm vụ quan trọng, lưu ý rằng độ chính xác có thể thay đổi do các yếu tố như tiếng ồn nền, giọng nói và độ phức tạp của cuộc trò chuyện.

Đối với người dùng iPhone, iOS 18.1 với Apple Intelligence hiện cung cấp tính năng ghi âm và phiên âm cuộc gọi được hỗ trợ bởi AI, mặc dù tổng biên tập của ZDNET, Jason Hiner, mô tả nó là "vẫn đang trong quá trình hoàn thiện."

OpenAI gần đây đã công bố kế hoạch cung cấp thêm nhiều công cụ cho 250 triệu người dùng ChatGPT Plus của mình.