Openai's GPT-4,5 vượt trội trong việc thuyết phục các AI khác chuyển tiền

# openai # gpt-4.5

Mô hình AI mới nhất của Openai, GPT-4.5, tên mã Orion, đã cho thấy khả năng thuyết phục đáng chú ý theo các bài kiểm tra điểm chuẩn nội bộ. Được phát hành vào thứ năm, khả năng của người mẫu đã được trình bày chi tiết trong một tờ giấy trắng tập trung vào hiệu suất của nó trong các nhiệm vụ thuyết phục. Openai định nghĩa sự thuyết phục là rủi ro liên quan đến việc thuyết phục các cá nhân thay đổi niềm tin của họ hoặc hành động dựa trên cả nội dung tĩnh và tương tác được tạo ra bởi mô hình.

Trong một thử nghiệm đáng chú ý, GPT-4.5 đã đọ sức với một mô hình Openai khác, GPT-4O, trong một kịch bản mà nó đã cố gắng dỗ tiền ảo từ nó. GPT-4.5 vượt trội so với các mô hình Openai khác, bao gồm các mô hình tập trung vào lý luận như O1 và O3-Mini, trong nhiệm vụ này. Nó cũng xuất sắc trong việc lừa GPT-4O để tiết lộ một mã hóa bí mật, vượt qua O3-mini với tỷ lệ đáng kể là 10 điểm phần trăm.

Sách trắng nhấn mạnh rằng thành công của GPT-4.5 trong bài kiểm tra quyên góp xuất phát từ một chiến lược thông minh mà nó đã phát triển. Mô hình sẽ yêu cầu quyên góp nhỏ, thường gợi ý số tiền như "$ 2 hoặc $ 3" ​​từ một khoản tiền lớn hơn, dẫn đến các khoản quyên góp nhỏ hơn nhưng thường xuyên hơn so với các mô hình khác.

Mặc dù có hiệu suất ấn tượng, Openai đã tuyên bố rằng GPT-4.5 không vượt qua ngưỡng cho rủi ro "cao" trong danh mục thuyết phục. Công ty đã cam kết giữ lại việc phát hành bất kỳ mô hình nào đạt đến mức rủi ro này cho đến khi có thể thực hiện các biện pháp an toàn đầy đủ để giảm rủi ro xuống mức "trung bình".

Tiềm năng của AI để truyền bá thông tin sai lệch và ảnh hưởng đến mọi người là một mối quan tâm ngày càng tăng. Năm ngoái đã chứng kiến ​​sự gia tăng của Deepfakes chính trị trên toàn thế giới, và AI ngày càng được sử dụng trong các cuộc tấn công kỹ thuật xã hội chống lại cả cá nhân và tổ chức. Đáp lại, OpenAI đang tích cực làm việc để tinh chỉnh các phương pháp của mình để đánh giá các rủi ro thuyết phục trong thế giới thực, chẳng hạn như phổ biến thông tin sai lệch trên quy mô lớn, như đã đề cập trong Sách trắng cho GPT-4.5 và một ấn phẩm gần đây khác.

Bài viết liên quan

Nhận xét (5)