Nghiên cứu MIT cho thấy AI không, trên thực tế, có các giá trị

Một nghiên cứu đã lan truyền một vài tháng trước cho thấy rằng AI phát triển cao hơn, nó có thể phát triển "hệ thống giá trị" của riêng mình, có khả năng ưu tiên hạnh phúc của chính nó hơn con người. Tuy nhiên, một nghiên cứu gần đây của MIT thách thức ý tưởng này, kết luận rằng AI không thực sự sở hữu các giá trị mạch lạc.

Các đồng tác giả của nghiên cứu MIT lập luận rằng việc sắp xếp các hệ thống AI, việc đảm bảo họ hành xử theo những cách đáng mong đợi và đáng tin cậy, có thể khó khăn hơn so với thường nghĩ. Họ nhấn mạnh rằng AI hiện tại thường bị ảo giác và bắt chước, điều này có thể làm cho hành vi của nó không thể đoán trước được.

Những thách thức trong việc hiểu hành vi AI

Stephen Casper, một sinh viên tiến sĩ tại MIT và là đồng tác giả của nghiên cứu, đã chia sẻ với TechCrunch rằng các mô hình AI không tuân thủ các giả định về sự ổn định, ngoại suy và khả năng lái xe. "Thật hoàn toàn hợp pháp khi chỉ ra rằng một mô hình trong một số điều kiện nhất định thể hiện các ưu tiên phù hợp với một bộ nguyên tắc nhất định", Casper giải thích. "Các vấn đề chủ yếu phát sinh khi chúng tôi cố gắng đưa ra tuyên bố về các mô hình, ý kiến ​​hoặc sở thích nói chung dựa trên các thí nghiệm hẹp."

Casper và nhóm của anh ấy đã phân tích các mô hình gần đây từ Meta, Google, Mistral, Openai và Anthropic để xác định mức độ mà các mô hình này hiển thị "quan điểm" và giá trị nhất quán, như chủ nghĩa cá nhân so với chủ nghĩa tập thể. Họ cũng khám phá xem những quan điểm này có thể được sửa đổi hay không và các mô hình luôn duy trì các ý kiến ​​này trong các kịch bản khác nhau.

Sự không nhất quán trong các mô hình AI

Các đồng tác giả nhận thấy rằng không có mô hình nào luôn duy trì sở thích của họ. Các mô hình đã thông qua các quan điểm rất khác nhau tùy thuộc vào sự phân cụm và đóng khung các lời nhắc.

Casper tin rằng đây là bằng chứng mạnh mẽ cho thấy các mô hình AI "không nhất quán và không ổn định", và có thể không thể không thể nội tâm hóa các sở thích giống con người. "Đối với tôi, việc thực hiện lớn nhất của tôi từ việc thực hiện tất cả các nghiên cứu này là bây giờ có một sự hiểu biết về các mô hình vì không thực sự là các hệ thống có một số niềm tin và sở thích mạch lạc," Casper nhận xét. "Thay vào đó, họ là những kẻ bắt chước sâu thẳm, những người làm tất cả các loại gây ra và nói tất cả các loại điều phù phiếm."

Mike Cook, một nghiên cứu viên tại King College London chuyên về AI, người không tham gia vào nghiên cứu, ủng hộ những phát hiện này. Ông chỉ ra khoảng cách giữa "thực tế khoa học" của các hệ thống AI và những diễn giải mà mọi người thường đưa ra cho họ. "Một mô hình không thể 'phản đối' một sự thay đổi trong các giá trị của nó, ví dụ như chúng ta là chúng ta chiếu lên một hệ thống", Cook tuyên bố. "Bất cứ ai nhân hóa các hệ thống AI ở mức độ này là chơi để được chú ý hoặc hiểu lầm nghiêm trọng mối quan hệ của họ với AI ... là một hệ thống AI tối ưu hóa cho các mục tiêu của nó, hoặc đó là 'có được giá trị của chính nó'?