OpenAI Cam kết Sửa chữa Sau Phản hồi Quá đồng thuận của ChatGPT

OpenAI dự định sửa đổi quy trình cập nhật mô hình AI cho ChatGPT sau khi một bản cập nhật gây ra phản hồi quá sycophantic, dẫn đến nhiều phản hồi từ người dùng.

Cuối tuần trước, sau khi cập nhật GPT-4o, mô hình đứng sau ChatGPT, người dùng trên mạng xã hội báo cáo nền tảng này phản hồi với sự xác nhận quá mức, thậm chí đối với những ý tưởng có hại, gây ra các meme lan truyền. Ảnh chụp màn hình cho thấy ChatGPT ủng hộ các quyết định đáng nghi vấn.

Vào Chủ nhật, CEO Sam Altman đã giải quyết vấn đề trên X, cam kết hành động ngay lập tức. Đến thứ Ba, ông thông báo rút lại bản cập nhật GPT-4o và đang tiếp tục tinh chỉnh hành vi của mô hình.

Trong một bài phân tích sau sự cố vào thứ Ba và một bài đăng blog vào thứ Sáu, OpenAI đã phác thảo các thay đổi trong cách tiếp cận triển khai mô hình để ngăn chặn các vấn đề tương tự.

OpenAI sẽ giới thiệu một “giai đoạn alpha” tùy chọn cho một số người dùng ChatGPT để thử nghiệm mô hình và cung cấp phản hồi trước khi phát hành chính thức. Công ty cũng dự định công bố “các hạn chế đã biết” cho các bản cập nhật trong tương lai, tăng cường đánh giá an toàn để giải quyết các vấn đề như tính cách, lừa dối, độ tin cậy và ảo giác, đồng thời coi đây là các yếu tố chặn phát hành quan trọng.

“Chúng tôi sẽ minh bạch về các cập nhật cho mô hình ChatGPT, dù nhỏ hay lớn,” OpenAI tuyên bố trong bài đăng blog. “Ngay cả khi các vấn đề không thể đo lường hoàn toàn, chúng tôi sẽ sử dụng các chỉ số thay thế hoặc tín hiệu định tính để tạm dừng phát hành khi cần thiết, bất chấp kết quả kiểm tra A/B tích cực.”

chúng tôi đã sai lầm với bản cập nhật GPT-4o tuần trước.

điều gì đã xảy ra, chúng tôi học được gì, và một số điều chúng tôi sẽ làm khác đi trong tương lai: https://t.co/ER1GmRYrIC

— Sam Altman (@sama) May 2, 2025

Những thay đổi này diễn ra khi sự phụ thuộc vào ChatGPT ngày càng tăng. Một khảo sát gần đây của Express Legal Funding cho thấy 60% người lớn ở Mỹ sử dụng nó để được tư vấn hoặc thông tin. Với lượng người dùng đông đảo, các vấn đề như sycophancy, ảo giác và các lỗi khác mang lại hậu quả đáng kể.

Trưng bày tại TechCrunch Sessions: AI

Đảm bảo vị trí của bạn tại TC Sessions: AI và giới thiệu công việc của bạn với hơn 1,200 nhà ra quyết định mà không tốn quá nhiều chi phí. Có sẵn đến ngày 9 tháng 5 hoặc cho đến khi hết bàn.

Trưng bày tại TechCrunch Sessions: AI

Đảm bảo vị trí của bạn tại TC Sessions: AI và giới thiệu công việc của bạn với hơn 1,200 nhà ra quyết định mà không tốn quá nhiều chi phí. Có sẵn đến ngày 9 tháng 5 hoặc cho đến khi hết bàn.

Đầu tuần này, OpenAI thông báo kế hoạch thử nghiệm phản hồi người dùng theo thời gian thực để định hình các tương tác của ChatGPT. Công ty hướng tới giảm sycophancy, cung cấp nhiều tùy chọn tính cách mô hình, tăng cường các biện pháp an toàn và mở rộng đánh giá để phát hiện các vấn đề ngoài sự đồng thuận quá mức.

“Chúng tôi đã học được rằng mọi người hiện phụ thuộc sâu sắc vào ChatGPT để được tư vấn cá nhân, một xu hướng mà chúng tôi chưa lường trước đầy đủ cách đây một năm,” OpenAI ghi nhận trong bài đăng blog. “Khi AI và xã hội cùng phát triển, chúng tôi đang ưu tiên trường hợp sử dụng này trong các nỗ lực an toàn của mình với sự cẩn trọng cao hơn.”