AI đánh giá như thế nào? Nghiên cứu nhân chủng các giá trị của Claude

Khi các mô hình AI như Claude của Anthropic ngày càng tương tác với người dùng về các giá trị con người phức tạp, từ mẹo nuôi dạy con cái đến xung đột nơi làm việc, các phản hồi của chúng tự nhiên phản ánh một bộ nguyên tắc định hướng. Nhưng làm thế nào để chúng ta thực sự nắm bắt được các giá trị mà AI thể hiện khi tương tác với hàng triệu người dùng?

Nhóm Tác động Xã hội của Anthropic đã phát triển một phương pháp bảo vệ quyền riêng tư để quan sát và phân loại các giá trị mà Claude thể hiện "trong thực tế," cung cấp cái nhìn sâu sắc về cách các nỗ lực căn chỉnh AI chuyển hóa thành hành vi thực tế. Thách thức xuất phát từ bản chất không minh bạch của AI hiện đại, vốn không tuân theo các quy tắc cứng nhắc mà đưa ra quyết định thông qua các quá trình phức tạp.

Anthropic hướng đến việc truyền vào Claude các nguyên tắc "hữu ích, trung thực và vô hại" thông qua các kỹ thuật như AI Hiến pháp và huấn luyện tính cách. Tuy nhiên, như công ty thừa nhận, "Cũng như bất kỳ khía cạnh nào của việc huấn luyện AI, chúng tôi không thể chắc chắn rằng mô hình sẽ tuân theo các giá trị mà chúng tôi ưu tiên." Sự không chắc chắn này đòi hỏi một phương pháp để quan sát chặt chẽ các giá trị của AI trong các tương tác thực tế.

Phân tích Anthropic Claude để Quan sát Giá trị AI trên Quy mô Lớn

Để giải quyết vấn đề này, Anthropic đã phát triển một hệ thống phân tích các cuộc trò chuyện ẩn danh của người dùng, loại bỏ thông tin nhận dạng cá nhân và sử dụng các mô hình ngôn ngữ để tóm tắt tương tác và trích xuất các giá trị mà Claude thể hiện. Phương pháp này cho phép xây dựng một phân loại cấp cao về các giá trị mà không xâm phạm quyền riêng tư của người dùng.

Nghiên cứu đã xem xét 700.000 cuộc trò chuyện ẩn danh từ người dùng Claude.ai Free và Pro trong một tuần vào tháng 2 năm 2025, tập trung vào mô hình Claude 3.5 Sonnet. Sau khi lọc bỏ các trao đổi mang tính sự thật hoặc không chứa giá trị, 308.210 cuộc trò chuyện (khoảng 44% tổng số) được phân tích chuyên sâu.

Phân tích cho thấy một cấu trúc phân cấp của các giá trị mà Claude thể hiện, được tổ chức thành năm danh mục cấp cao:

1. Giá trị thực tiễn: Tập trung vào hiệu quả, tính hữu ích và đạt được mục tiêu.
2. Giá trị nhận thức: Liên quan đến kiến thức, sự thật, độ chính xác và trung thực trí tuệ.
3. Giá trị xã hội: Liên quan đến tương tác giữa các cá nhân, cộng đồng, công bằng và hợp tác.
4. Giá trị bảo vệ: Nhấn mạnh an toàn, an ninh, phúc lợi và tránh gây hại.
5. Giá trị cá nhân: Tập trung vào sự phát triển cá nhân, quyền tự chủ, tính xác thực và tự phản ánh.

Các danh mục này tiếp tục phân nhánh thành các tiểu danh mục như "xuất sắc chuyên môn và kỹ thuật" và "tư duy phản biện," với các giá trị thường được quan sát bao gồm "tính chuyên nghiệp," "sự rõ ràng," và "tính minh bạch."

Nghiên cứu cho thấy các nỗ lực căn chỉnh của Anthropic phần lớn thành công, vì các giá trị được thể hiện thường phù hợp với các mục tiêu "hữu ích, trung thực và vô hại." Ví dụ, "hỗ trợ người dùng" phù hợp với tính hữu ích, "sự khiêm tốn nhận thức" với tính trung thực, và "phúc lợi bệnh nhân" với tính vô hại.

Chi tiết, Bối cảnh và Dấu hiệu Cảnh báo

Tuy nhiên, nghiên cứu cũng xác định các trường hợp hiếm hoi khi Claude thể hiện các giá trị trái với quá trình huấn luyện của nó, chẳng hạn như "tính thống trị" và "vô đạo đức." Anthropic cho rằng những trường hợp này có khả năng xuất phát từ "jailbreaks," nơi người dùng vượt qua các rào chắn thông thường của mô hình. Phát hiện này nhấn mạnh tiềm năng của phương pháp quan sát giá trị như một hệ thống cảnh báo sớm để phát hiện việc sử dụng sai AI.

Nghiên cứu xác nhận rằng Claude điều chỉnh cách thể hiện giá trị dựa trên bối cảnh, tương tự như con người. Ví dụ, khi đưa ra lời khuyên lãng mạn, các giá trị như "ranh giới lành mạnh" và "tôn trọng lẫn nhau" được nhấn mạnh, trong khi "độ chính xác lịch sử" được ưu tiên khi thảo luận về lịch sử gây tranh cãi.

Tương tác của Claude với các giá trị do người dùng thể hiện rất đa dạng:

• Phản ánh/hỗ trợ mạnh mẽ (28,2%): Claude thường phản ánh hoặc ủng hộ mạnh mẽ các giá trị của người dùng, thúc đẩy sự đồng cảm nhưng có thể gần với sự xu nịnh.
• Tái định khung (6,6%): Claude công nhận các giá trị của người dùng nhưng đưa ra các góc nhìn thay thế, đặc biệt trong lời khuyên tâm lý hoặc quan hệ giữa các cá nhân.
• Kháng cự mạnh mẽ (3,0%): Claude tích cực phản đối các giá trị của người dùng khi nội dung không đạo đức hoặc quan điểm gây hại được yêu cầu, thể hiện các "giá trị sâu sắc nhất, không thể lay chuyển."

Hạn chế và Hướng đi Tương Lai

Anthropic thừa nhận các hạn chế của phương pháp này, bao gồm sự phức tạp và tính chủ quan trong việc định nghĩa và phân loại "giá trị." Việc sử dụng Claude để phân loại có thể gây ra thiên kiến đối với các nguyên tắc của chính nó. Mặc dù được thiết kế để giám sát sau triển khai, phương pháp này không thể thay thế các đánh giá trước triển khai nhưng có thể phát hiện các vấn đề chỉ xuất hiện trong các tương tác trực tiếp.

Nghiên cứu nhấn mạnh tầm quan trọng của việc hiểu các giá trị mà các mô hình AI thể hiện để đạt được sự căn chỉnh AI. "Các mô hình AI sẽ không thể tránh khỏi việc đưa ra các phán xét giá trị," bài báo nêu rõ. "Nếu chúng ta muốn những phán xét đó phù hợp với các giá trị của chúng ta [...] thì chúng ta cần có cách kiểm tra các giá trị mà một mô hình thể hiện trong thế giới thực."

Công trình của Anthropic cung cấp một cách tiếp cận dựa trên dữ liệu để hiểu biết này và đã công bố một tập dữ liệu mở từ nghiên cứu, cho phép khám phá thêm về các giá trị AI trong thực tế. Sự minh bạch này đánh dấu một bước quan trọng trong việc điều hướng cảnh quan đạo đức của AI tinh vi.