Các mô hình AI mới nhất của Openai có một biện pháp bảo vệ mới để ngăn chặn Biorisks

Các biện pháp an toàn mới của OpenAI cho các mô hình AI o3 và o4-mini

OpenAI đã giới thiệu một hệ thống giám sát mới cho các mô hình AI tiên tiến của mình, o3 và o4-mini, được thiết kế đặc biệt để phát hiện và ngăn chặn các phản hồi đối với các câu hỏi liên quan đến mối đe dọa sinh học và hóa học. Hệ thống giám sát tập trung vào an toàn này là phản ứng đối với các khả năng nâng cao của các mô hình này, mà theo OpenAI, là một bước tiến đáng kể so với các phiên bản trước và có thể bị lạm dụng bởi các tác nhân xấu.

Các tiêu chuẩn nội bộ của công ty cho thấy rằng o3, đặc biệt, đã thể hiện mức độ thành thạo cao hơn trong việc trả lời các câu hỏi về việc tạo ra một số mối đe dọa sinh học. Để giải quyết vấn đề này và các rủi ro tiềm tàng khác, OpenAI đã phát triển hệ thống mới này, hoạt động song song với o3 và o4-mini. Hệ thống này được huấn luyện để nhận biết và từ chối các câu hỏi có thể dẫn đến lời khuyên gây hại về rủi ro sinh học và hóa học.

Kiểm tra và Kết quả

Để đánh giá hiệu quả của hệ thống giám sát an toàn này, OpenAI đã tiến hành kiểm tra mở rộng. Các nhóm thử nghiệm đỏ đã dành khoảng 1.000 giờ để xác định các cuộc hội thoại liên quan đến rủi ro sinh học "không an toàn" được tạo ra bởi o3 và o4-mini. Trong một mô phỏng về "logic chặn" của hệ thống giám sát, các mô hình đã từ chối trả lời các câu hỏi rủi ro thành công 98,7% thời gian.

Tuy nhiên, OpenAI thừa nhận rằng thử nghiệm của họ không xem xét các kịch bản mà người dùng có thể thử các câu hỏi khác sau khi bị chặn. Do đó, công ty có kế hoạch tiếp tục sử dụng giám sát con người như một phần của chiến lược an toàn.

Đánh giá Rủi ro và Giám sát Liên tục

Mặc dù có khả năng tiên tiến, o3 và o4-mini không vượt quá ngưỡng "rủi ro cao" của OpenAI đối với các rủi ro sinh học. Tuy nhiên, các phiên bản ban đầu của các mô hình này có khả năng trả lời các câu hỏi về phát triển vũ khí sinh học tốt hơn so với o1 và GPT-4. OpenAI đang tích cực giám sát cách các mô hình này có thể hỗ trợ phát triển các mối đe dọa hóa học và sinh học, như được nêu trong Khung Chuẩn bị cập nhật của họ.

OpenAI ngày càng chuyển sang các hệ thống tự động để quản lý các rủi ro do các mô hình của mình gây ra. Ví dụ, một hệ thống giám sát lý luận tương tự được sử dụng để ngăn chặn trình tạo hình ảnh của GPT-4o tạo ra nội dung lạm dụng tình dục trẻ em (CSAM).

Lo ngại và Phê bình

Bất chấp những nỗ lực này, một số nhà nghiên cứu cho rằng OpenAI có thể không ưu tiên an toàn đủ mức. Một trong những đối tác thử nghiệm đỏ của OpenAI, Metr, lưu ý rằng họ có thời gian hạn chế để kiểm tra o3 về hành vi lừa dối. Ngoài ra, OpenAI đã chọn không công bố báo cáo an toàn cho mô hình GPT-4.1 vừa ra mắt gần đây, làm dấy lên thêm lo ngại về cam kết của công ty đối với tính minh bạch và an toàn.