AI của Openai được đào tạo về những cuốn sách O'Reilly được trả lương, các nhà nghiên cứu tuyên bố

# openai

Openai đã phải đối mặt với nhiều cáo buộc sử dụng tài liệu có bản quyền mà không được phép đào tạo các mô hình AI của mình. Một nghiên cứu gần đây của Dự án Tiết lộ AI, một tổ chức phi lợi nhuận được thành lập vào năm 2024 bởi ông trùm truyền thông Tim O'Reilly và nhà kinh tế Ilan Strauss, cho thấy Openai có thể đã sử dụng các cuốn sách không công khai từ O'Reilly Media để đào tạo mô hình nâng cao hơn của mình, GPT-4O. Các mô hình AI, về cơ bản là các công cụ dự đoán tinh vi, được đào tạo trên các bộ dữ liệu rộng lớn bao gồm sách, phim và chương trình truyền hình. Họ học các mẫu và tạo ra các câu trả lời dựa trên các mẫu này, không tạo ra bất cứ điều gì thực sự mới mà là gần đúng từ cơ sở kiến ​​thức sâu rộng của chúng. Khi các nguồn dữ liệu trong thế giới thực như Web công cộng trở nên kiệt sức, một số phòng thí nghiệm AI, bao gồm cả OpenAI, đã bắt đầu sử dụng dữ liệu do AI tạo để đào tạo, mặc dù rất ít người từ bỏ dữ liệu trong thế giới thực hoàn toàn do rủi ro về hiệu suất mô hình suy giảm. Bài báo của Dự án Tiết lộ AI tuyên bố rằng mô hình GPT-4O của Openai, đây là mặc định trong TATGPT, cho thấy sự công nhận mạnh mẽ nội dung từ các cuốn sách O'Reilly được trả lương, không giống như mô hình GPT-3.5 Turbo trước đó. Bài viết cho thấy GPT-4O có khả năng được đào tạo trên những cuốn sách không công khai này, mặc dù O'Reilly Media không có thỏa thuận cấp phép với Openai. Nghiên cứu đã sử dụng một phương pháp gọi là de-COP, được giới thiệu vào năm 2024, để phát hiện nội dung có bản quyền trong dữ liệu đào tạo AI. "Tấn công thành viên tấn công" này kiểm tra xem một mô hình có thể phân biệt giữa các văn bản do con người và các diễn giải do AI tạo ra hay không, cho thấy kiến ​​thức trước về văn bản nếu nó có thể làm như vậy một cách đáng tin cậy. Các nhà nghiên cứu đã thử nghiệm GPT-4O, GPT-3.5 Turbo và các mô hình OpenAI khác sử dụng các đoạn trích 13.962 đoạn từ 34 o'Reilly, thấy rằng GPT-4O nhận ra nội dung được trả lương cao hơn đáng kể so với các mô hình cũ. Mặc dù các tác giả thừa nhận rằng phương pháp của họ không phải là hoàn hảo và nội dung được trả lương có thể đã được người dùng sao chép và dán vào TATGPT, các phát hiện đặt ra câu hỏi về thực tiễn dữ liệu của Openai. Nghiên cứu không đánh giá các mô hình mới nhất của Openai, chẳng hạn như GPT-4.5 và các mô hình lý luận như O3-Mini và O1, để mở ra khả năng những điều này có thể không được đào tạo trên cùng một dữ liệu. Openai đã thúc đẩy các luật bản quyền thoải mái hơn về dữ liệu đào tạo AI và đã tìm kiếm các nguồn dữ liệu chất lượng cao hơn. Công ty thậm chí đã thuê các nhà báo để tinh chỉnh sản lượng của các mô hình của mình, một thực tiễn được thấy trong ngành công nghiệp AI nơi các chuyên gia trong các lĩnh vực khác nhau được tuyển dụng để tăng cường các hệ thống AI. Openai trả tiền cho một số dữ liệu đào tạo của mình, có các thỏa thuận cấp phép với các nhà cung cấp nội dung khác nhau và cung cấp các cơ chế từ chối cho chủ sở hữu bản quyền. Tuy nhiên, khi công ty phải đối mặt với những thách thức pháp lý đối với các hoạt động dữ liệu của mình, những phát hiện của tờ giấy O'Reilly đã tạo ra một cái bóng về các hoạt động của nó. Openai đã không trả lời các yêu cầu bình luận về nghiên cứu.

Bài viết liên quan

Nhận xét (40)