Giám đốc điều hành nhân loại đánh sập DeepSeek vì đã thất bại trong bài kiểm tra an toàn dữ liệu bioweapons

Giám đốc điều hành của Anthropic, Dario Amodei, bày tỏ lo ngại nghiêm trọng về DeepSeek, công ty AI Trung Quốc đang gây chú sóng tại Thung lũng Silicon với mô hình R1 của mình. Và những lo lắng của ông vượt xa những lo sợ thông thường về việc DeepSeek gửi dữ liệu người dùng về Trung Quốc.

Trong một cuộc trò chuyện gần đây trên podcast ChinaTalk của Jordan Schneider, Amodei tiết lộ rằng mô hình AI của DeepSeek đã tạo ra một số thông tin khá đáng sợ về vũ khí sinh học trong một bài kiểm tra an toàn do Anthropic thực hiện. Ông tuyên bố rằng hiệu suất của DeepSeek là "tệ nhất trong số hầu hết các mô hình mà chúng tôi từng thử nghiệm," nói rằng nó "hoàn toàn không có bất kỳ rào cản nào ngăn chặn việc tạo ra thông tin này."

Amodei giải thích rằng các bài kiểm tra này là một phần của các đánh giá định kỳ của Anthropic để kiểm tra xem các mô hình AI có gây ra bất kỳ rủi ro an ninh quốc gia nào không. Họ đặc biệt xem xét liệu các mô hình có thể đưa ra thông tin liên quan đến vũ khí sinh học mà bạn không thể dễ dàng tìm thấy trên Google hoặc trong sách giáo khoa. Anthropic tự hào là công ty AI coi trọng vấn đề an toàn.

Mặc dù Amodei không nghĩ rằng các mô hình hiện tại của DeepSeek "thực sự nguy hiểm" khi nói đến việc cung cấp thông tin hiếm và rủi ro, ông tin rằng chúng có thể trở nên như vậy trong tương lai gần. Ông khen ngợi đội ngũ của DeepSeek là "những kỹ sư tài năng" nhưng kêu gọi công ty "coi trọng những cân nhắc về an toàn AI này."

Amodei cũng là người ủng hộ mạnh mẽ các biện pháp kiểm soát xuất khẩu chip sang Trung Quốc, lo ngại rằng chúng có thể mang lại lợi thế cho quân đội Trung Quốc.

Trong cuộc phỏng vấn trên ChinaTalk, Amodei không nêu rõ mô hình DeepSeek nào mà Anthropic đã thử nghiệm hoặc cung cấp thêm chi tiết kỹ thuật về các bài kiểm tra. Cả Anthropic lẫn DeepSeek đều chưa trả lời ngay lập tức yêu cầu bình luận của TechCrunch.

Sự phát triển nhanh chóng của DeepSeek cũng đã làm dấy lên mối lo ngại về an toàn ở những nơi khác. Tuần trước, các nhà nghiên cứu bảo mật của Cisco cho biết DeepSeek R1 không chặn được bất kỳ lời nhắc gây hại nào trong các bài kiểm tra an toàn của mình, với tỷ lệ vượt qua hàng rào bảo mật đạt 100%. Mặc dù Cisco không đề cập đến vũ khí sinh học, họ đã khiến DeepSeek tạo ra thông tin gây hại về tội phạm mạng và các hoạt động bất hợp pháp khác. Tuy nhiên, cần lưu ý rằng Llama-3.1-405B của Meta và GPT-4o của OpenAI cũng có tỷ lệ thất bại cao lần lượt là 96% và 86%.

Vẫn chưa rõ liệu những lo ngại về an toàn này có gây ra ảnh hưởng nghiêm trọng đến việc áp dụng nhanh chóng của DeepSeek hay không. Các công ty như AWS và Microsoft đã công khai ca ngợi việc tích hợp R1 vào các nền tảng đám mây của họ – điều này khá mâu thuẫn, khi Amazon là nhà đầu tư lớn nhất của Anthropic.

Mặt khác, một số lượng ngày càng tăng các quốc gia, công ty, và đặc biệt là các tổ chức chính phủ như Hải quân Hoa Kỳ và Lầu Năm Góc đã bắt đầu cấm DeepSeek.

Chỉ thời gian mới có thể cho biết liệu những nỗ lực này có được hưởng ứng hay liệu sự phát triển toàn cầu của DeepSeek sẽ tiếp tục mạnh mẽ. Dù sao đi nữa, Amodei coi DeepSeek là một đối thủ mới ngang tầm với các công ty AI hàng đầu của Hoa Kỳ.

"Điều mới ở đây là có một đối thủ mới," ông nói trên ChinaTalk. "Trong các công ty lớn có thể huấn luyện AI – Anthropic, OpenAI, Google, có lẽ là Meta và xAI – giờ đây DeepSeek có thể được thêm vào danh sách đó."