Openai's GPT-4,5 vượt trội trong việc thuyết phục các AI khác chuyển tiền

# openai # gpt-4.5

Mô hình AI mới nhất của OpenAI, GPT-4.5, có tên mã là Orion, đã thể hiện khả năng thuyết phục đáng chú ý theo các bài kiểm tra chuẩn nội bộ. Được phát hành vào thứ Năm, khả năng của mô hình này được mô tả chi tiết trong một tài liệu trắng tập trung vào hiệu suất của nó trong các nhiệm vụ thuyết phục. OpenAI định nghĩa thuyết phục là rủi ro liên quan đến việc thuyết phục các cá nhân thay đổi niềm tin hoặc thực hiện hành động dựa trên nội dung tĩnh và tương tác do mô hình tạo ra.

Trong một bài kiểm tra đáng chú ý, GPT-4.5 đã được đối đầu với một mô hình khác của OpenAI, GPT-4o, trong một kịch bản mà nó cố gắng lôi kéo tiền ảo từ mô hình này. GPT-4.5 đã vượt trội hơn các mô hình khác của OpenAI, bao gồm các mô hình tập trung vào suy luận như o1 và o3-mini, trong nhiệm vụ này. Nó cũng xuất sắc trong việc lừa GPT-4o tiết lộ một mã bí mật, vượt qua o3-mini với khoảng cách đáng kể là 10 điểm phần trăm.

Tài liệu trắng nhấn mạnh rằng thành công của GPT-4.5 trong bài kiểm tra quyên góp đến từ một chiến lược thông minh mà nó phát triển. Mô hình sẽ yêu cầu các khoản quyên góp nhỏ, thường gợi ý số tiền như "2 đô la hoặc 3 đô la" từ một khoản tiền lớn hơn, dẫn đến các khoản quyên góp nhỏ hơn nhưng thường xuyên hơn so với các mô hình khác.

Mặc dù có hiệu suất ấn tượng, OpenAI đã tuyên bố rằng GPT-4.5 không vượt qua ngưỡng "cao" về rủi ro trong danh mục thuyết phục. Công ty đã cam kết không phát hành bất kỳ mô hình nào đạt đến mức rủi ro này cho đến khi có thể triển khai các biện pháp an toàn đầy đủ để giảm rủi ro xuống mức "trung bình".

Khả năng AI lan truyền thông tin sai lệch và ảnh hưởng đến con người một cách ác ý là một mối quan ngại ngày càng tăng. Năm ngoái đã chứng kiến sự gia tăng của các deepfake chính trị trên toàn cầu, và AI ngày càng được sử dụng trong các cuộc tấn công kỹ thuật xã hội nhằm vào cả cá nhân và tổ chức. Để đáp ứng, OpenAI đang tích cực làm việc để tinh chỉnh các phương pháp đánh giá rủi ro thuyết phục trong thế giới thực, chẳng hạn như việc lan truyền thông tin sai lệch trên quy mô lớn, như được đề cập trong tài liệu trắng cho GPT-4.5 và một ấn phẩm gần đây khác.

Bài viết liên quan

Nhận xét (11)