Các công ty khởi nghiệp AI bị chỉ trích vì sử dụng đánh giá ngang hàng làm chiến thuật PR

# research # iclr

Một cơn bão đang diễn ra trong thế giới học thuật về việc sử dụng các nghiên cứu do AI tạo ra tại Hội nghị ICLR năm nay, một sự kiện lớn tập trung vào trí tuệ nhân tạo. Ba phòng thí nghiệm AI, Sakana, Inteology và AutoScience, đã gây tranh cãi bằng cách gửi các nghiên cứu do AI tạo ra cho các hội thảo ICLR. Sakana đã thực hiện một cách tiếp cận minh bạch, thông báo cho các nhà lãnh đạo ICLR và có được sự đồng ý từ các nhà đánh giá ngang hàng trước khi gửi các bài báo do AI của họ tạo ra. Tuy nhiên, Inteology và AutoScience đã không tuân theo, gửi nghiên cứu của họ mà không cần thông báo trước, như được xác nhận bởi người phát ngôn của ICLR cho TechCrunch. Cộng đồng học thuật đã được phát biểu trên phương tiện truyền thông xã hội, với nhiều người chỉ trích nội dung và tự phát để khai thác quá trình đánh giá ngang hàng. Prithviraj Ammanabrolu, một giáo sư trợ lý tại UC San Diego, đã bày tỏ sự thất vọng của mình đối với X, nhấn mạnh sự thiếu đồng ý từ các nhà phê bình, những người cung cấp thời gian và công sức của họ miễn phí. Ông kêu gọi tiết lộ đầy đủ cho các biên tập viên về việc sử dụng AI trong việc tạo ra các nghiên cứu này. Đánh giá ngang hàng đã là một nhiệm vụ đòi hỏi, với một cuộc khảo sát tự nhiên gần đây chỉ ra rằng 40% các học giả dành hai đến bốn giờ để xem xét một nghiên cứu duy nhất. Khối lượng công việc đang tăng lên, bằng chứng là sự gia tăng 41% trong hội nghị Neurips năm ngoái, tổng cộng 17.491 bài báo. Vấn đề về nội dung do AI tạo ra trong học viện không phải là mới, với các ước tính cho thấy rằng từ 6,5% đến 16,9% các bài báo được gửi tới các hội nghị AI trong năm 2023 có văn bản tổng hợp. Tuy nhiên, sử dụng đánh giá ngang hàng như một phương tiện để điểm chuẩn và thúc đẩy công nghệ AI là một sự phát triển gần đây hơn. Thoology tự hào về việc nhận được các đánh giá tích cực nhất trí cho các bài báo do AI của họ tạo ra trên X, thậm chí trích dẫn các nhà phê bình hội thảo ca ngợi "ý tưởng thông minh" trong một trong những nghiên cứu của họ. Sự tự quảng cáo này không phù hợp với các học giả. Ashwinee Panda, một nghiên cứu sinh sau tiến sĩ tại Đại học Maryland, đã chỉ trích sự thiếu tôn trọng cho các nhà phê bình của con người bằng cách gửi các bài báo do AI tạo ra mà không có sự đồng ý của họ. Panda lưu ý rằng Sakana đã tiếp cận hội thảo của mình tại ICLR, nhưng cô từ chối tham gia, nhấn mạnh tầm quan trọng của việc tôn trọng thời gian và quyền của người đánh giá. Sự hoài nghi về giá trị của các bài báo do AI tạo ra là phổ biến giữa các nhà nghiên cứu. Sakana thừa nhận rằng AI của họ đã đưa ra các lỗi trích dẫn "xấu hổ" và chỉ một trong ba bài báo được gửi của họ sẽ đáp ứng các tiêu chuẩn của hội nghị. Trong một động thái hướng tới tính minh bạch, Sakana đã rút giấy của họ từ ICLR. Alexander Doria, đồng sáng lập của AI Startup Pleias, đã đề xuất sự cần thiết của một "công ty/cơ quan công cộng được quy định" để thực hiện các đánh giá chất lượng cao, được trả lương cao của các nghiên cứu do AI tạo ra. Ông lập luận rằng các nhà nghiên cứu nên được bù đắp đầy đủ cho thời gian của họ và học viện không nên được sử dụng như một nguồn tài nguyên miễn phí cho các đánh giá AI.

Bài viết liên quan

Nhận xét (30)