Công cụ phát hiện AI mới của Openai: Một người thay đổi trò chơi trong việc ngăn chặn sự gian lận của học sinh?

Theo một cuộc khảo sát của BestColites, hơn một nửa số sinh viên đang chuyển sang AI như một lối tắt để thành công trong học tập. Điều này phù hợp với một nghiên cứu của Đại học Stanford được tìm thấy từ 60 đến 70 phần trăm sinh viên dùng đến gian lận. Tuy nhiên, những ngày dễ dàng sử dụng AI như Chatgpt để viết các bài tiểu luận có thể được đánh số. Một bài báo của Wall Street Journal nhấn mạnh rằng Openai tuyên bố đã phát triển một phương pháp để phát hiện nội dung do AI tạo ra với độ chính xác đáng kinh ngạc 99,9%.

Đồng nghiệp của tôi David Gewirtz đã lưu ý rằng một số chương trình đã tuyên bố phát hiện văn bản viết AI. Tuy nhiên, anh ta vẫn hoài nghi, nói: "Tôi chắc chắn sẽ không cảm thấy thoải mái khi đe dọa tình trạng học tập của học sinh hoặc buộc tội họ lừa dối dựa trên kết quả của các công cụ này."

Openai đã không làm đổ đậu về cách phương pháp của họ đạt được phát hiện gần như hoàn hảo như vậy. Nó không phải là về việc bắt gặp xu hướng "ảo giác" của AI hay tạo ra thông tin sai lệch, vì John Schulman, người đồng sáng lập Openai thừa nhận năm ngoái, "mối quan tâm lớn nhất của chúng tôi là xung quanh tính thực tế vì mô hình thích chế tạo mọi thứ."

Mohamed Elgendy, đồng sáng lập và CEO của Kolena, một dịch vụ kiểm tra học máy, tin rằng trong khi tỷ lệ ảo giác của AI có thể giảm, nó sẽ không bao giờ biến mất hoàn toàn. Ông so sánh nó với ngay cả những cá nhân có học thức nhất đôi khi truyền bá thông tin sai lệch.

Thay vì dựa vào một số công nghệ sâu bí ẩn, Openai dường như đang sử dụng một cách tiếp cận đơn giản: hình mờ. Trong một bài đăng trên blog được cập nhật gần đây có tiêu đề "Hiểu được nguồn gốc của những gì chúng ta thấy và nghe trực tuyến", Openai đề cập đến việc khám phá các trình phân loại, Watermarking và Siêu dữ liệu để xác định nội dung do AI tạo. Các cơ chế chính xác của hình mờ này vẫn còn dưới kết thúc tốt đẹp.

Openai tuyên bố phương pháp này đã được chứng minh là chính xác cao và kiên cường chống lại sự giả mạo cục bộ như diễn giải. Tuy nhiên, nó đấu tranh với việc giả mạo toàn cầu hóa, chẳng hạn như văn bản dịch hoặc chèn và sau đó xóa các ký tự đặc biệt. Hơn nữa, nó không được thiết kế để phát hiện nội dung được sản xuất bởi các mô hình AI khác, như Google Gemini hoặc Perplexity.

Về bản chất, với nỗ lực nhiều hơn một chút, sinh viên và nhà văn vẫn có thể lén lút công việc do AI tạo ra trong quá khứ. Từ kinh nghiệm của riêng tôi, nội dung do AI sản xuất thường cảm thấy tỷ lệ thứ hai, nhưng đối với một số người, một lớp vượt qua có thể là tất cả những gì cần thiết.

Một giáo sư tự xưng về Reddit không bị thuyết phục, nói: "Vấn đề là bạn chỉ có thể sao chép văn bản thành một chương trình khác, dịch nó sang ngôn ngữ khác, và sau đó dịch lại. Nhưng thành thật mà nói, hầu hết các sinh viên sẽ không làm điều đó, vì vậy nó sẽ bắt được khá nhiều người."

Giám đốc điều hành Openai Sam Altman dường như ít quan tâm đến gian lận học thuật, nói với tờ báo Harvard, "Gian lận về bài tập về nhà rõ ràng là xấu. Nhưng điều chúng tôi muốn nói là gian lận và những quy tắc dự kiến ​​sẽ thay đổi theo thời gian."

Tôi không chắc tôi đồng ý với quan điểm đó. Gian lận là gian lận, và công cụ mới này từ Openai dường như không phải là một vấn đề đáng kể trong vấn đề này.

Thật thú vị, trong khi OpenAI tranh luận về việc phát hành dịch vụ phát hiện văn bản này, họ đang tiến lên phía trước với một trình phân loại xuất xứ Dall · e 3. Chẳng mấy chốc, gần như mọi hình ảnh được tạo ra với Dall-E sẽ được gắn thẻ là AI được tạo ra, sử dụng siêu dữ liệu C2PA. Nếu bạn là một nhà thiết kế đồ họa, người đang dựa vào Dall-e cho đồ họa "gốc", có lẽ đã đến lúc cải thiện các kỹ năng photoshop của bạn.