Giám đốc điều hành nhân loại đánh sập DeepSeek vì đã thất bại trong bài kiểm tra an toàn dữ liệu bioweapons

# DeepSeek

Giám đốc điều hành của Anthropic, Dario Amodei, rất quan tâm đến Deepseek, công ty AI của Trung Quốc đang tạo nên làn sóng ở Thung lũng Silicon với mô hình R1. Và những lo lắng của anh ấy vượt xa những nỗi sợ hãi thông thường về Deepseek gửi dữ liệu người dùng trở lại Trung Quốc. Trong một cuộc trò chuyện gần đây trên podcast Chinatalk của Jordan Schneider, Amodei đã tiết lộ rằng mô hình AI của Deepseek đã tạo ra một số thông tin khá đáng sợ về bioweapons trong quá trình thử nghiệm an toàn do nhân học chạy. Ông tuyên bố rằng hiệu suất của Deepseek là "điều tồi tệ nhất về cơ bản bất kỳ mô hình nào chúng tôi từng thử nghiệm", nói rằng nó "hoàn toàn không có bất kỳ khối nào chống lại việc tạo ra thông tin này". Amodei giải thích rằng các xét nghiệm này là một phần của các đánh giá thường xuyên của nhân học để kiểm tra xem các mô hình AI có gây ra bất kỳ rủi ro an ninh quốc gia nào không. Họ đặc biệt xem xét liệu các mô hình có thể phát ra thông tin liên quan đến bioweapons mà bạn không thể dễ dàng tìm thấy trên Google hoặc trong sách giáo khoa. Nhân học tự hào là công ty AI coi trọng sự an toàn. Mặc dù Amodei không nghĩ rằng các mô hình hiện tại của Deepseek là "nguy hiểm theo nghĩa đen" khi cung cấp thông tin hiếm và rủi ro, anh tin rằng họ có thể ở trong tương lai gần. Ông ca ngợi đội ngũ của Deepseek là "các kỹ sư tài năng" nhưng kêu gọi công ty "thực hiện nghiêm túc những cân nhắc an toàn AI này". Amodei cũng là một người ủng hộ giọng hát cho các biện pháp kiểm soát xuất khẩu mạnh mẽ trên chip sang Trung Quốc, lo lắng rằng họ có thể mang lại lợi thế cho quân đội của Trung Quốc. Trong cuộc phỏng vấn ở Chinatalk, Amodei đã không chỉ định DeepSeek Model Anthropic đã thử nghiệm hoặc cung cấp thêm chi tiết kỹ thuật về các bài kiểm tra. Cả nhân học và Deepseek đều không trả lời ngay theo yêu cầu bình luận của TechCrunch. Sự gia tăng nhanh chóng của Deepseek cũng đã làm dấy lên những lo ngại về an toàn ở những nơi khác. Tuần trước, các nhà nghiên cứu bảo mật của Cisco cho biết, Deepseek R1 đã không chặn được bất kỳ lời nhắc có hại nào trong các thử nghiệm an toàn của mình, với tỷ lệ thành công trong vụ bẻ khóa 100%. Trong khi Cisco không đề cập đến Bioweapons, họ đã có thể nhận được DeepSeek để tạo ra thông tin có hại về tội phạm mạng và các hoạt động bất hợp pháp khác. Tuy nhiên, điều đáng chú ý là LLAMA-3.1-405B của Meta và GPT-4O của Openai cũng có tỷ lệ thất bại cao lần lượt là 96% và 86%. Nó vẫn còn trong không khí liệu những lo ngại về an toàn này có gây khó khăn cho việc áp dụng nhanh chóng của Deepseek hay không. Các công ty như AWS và Microsoft đã công khai ca ngợi sự tích hợp của R1 vào các nền tảng đám mây của họ - điều này thật mỉa mai, coi Amazon là nhà đầu tư lớn nhất của Anthropic. Mặt khác, ngày càng nhiều quốc gia, công ty và đặc biệt là các tổ chức chính phủ như Hải quân Hoa Kỳ và Lầu năm góc đã bắt đầu cấm Deepseek. Chỉ có thời gian mới biết liệu những nỗ lực này có đạt được lực kéo hay nếu sự gia tăng toàn cầu của Deepseek sẽ tiếp tục mạnh mẽ. Dù bằng cách nào, Amodei coi Deepseek một đối thủ cạnh tranh mới ngang hàng với các công ty AI hàng đầu của Hoa Kỳ. "Sự thật mới ở đây là có một đối thủ cạnh tranh mới", ông nói trên khu phố Tàu. "Trong các công ty lớn có thể đào tạo AI - nhân học, Openai, Google, có lẽ Meta và Xai - bây giờ Deepseek có thể được thêm vào danh mục đó."

Bài viết liên quan

Nhận xét (45)