AI Power Surge: Giám đốc điều hành nhân loại cảnh báo cuộc đua để hiểu

Ngay sau khi Hội nghị thượng đỉnh hành động AI ở Paris kết thúc, đồng sáng lập và CEO của Anthropic, Dario Amodei, đã không giữ lại. Ông gọi sự kiện này là "cơ hội bị bỏ lỡ" và nhấn mạnh rằng chúng ta cần tăng cường sự tập trung và cấp bách về một số vấn đề chính, xem xét việc AI Tech đang di chuyển nhanh như thế nào. Ông đã chia sẻ những suy nghĩ này trong một tuyên bố được đưa ra vào thứ ba.

Nhân chủng học đã hợp tác với Dust khởi nghiệp của Pháp cho một sự kiện tập trung vào nhà phát triển ở Paris, nơi TechCrunch phải trò chuyện với Amodei trên sân khấu. Ông chia sẻ quan điểm của mình và thúc đẩy một cách tiếp cận cân bằng đối với sự đổi mới và quản trị của AI, tránh xa cả sự lạc quan cực đoan và chỉ trích gay gắt.

Amodei, người từng là một nhà khoa học thần kinh, nói: "Về cơ bản tôi nhìn vào bên trong bộ não thực sự để kiếm sống. Và bây giờ chúng ta đang nhìn vào bên trong bộ não nhân tạo để kiếm sống. Vì vậy, trong vài tháng tới, có một số tiến bộ thú vị trong lĩnh vực diễn giải, nơi chúng ta thực sự bắt đầu hiểu cách thức hoạt động của các mô hình." Nhưng ông cũng chỉ ra rằng đó là một cuộc đua. "Đó là một cuộc đua giữa việc làm cho các mô hình trở nên mạnh mẽ hơn, điều này cực kỳ nhanh chóng đối với chúng tôi và cực kỳ nhanh chóng đối với những người khác mà bạn không thể chậm lại, phải không? ... Sự hiểu biết của chúng tôi phải theo kịp khả năng xây dựng mọi thứ của chúng tôi. Tôi nghĩ đó là cách duy nhất", ông nói thêm.

Kể từ hội nghị thượng đỉnh AI đầu tiên ở Bletchley, Vương quốc Anh, cuộc trò chuyện xung quanh quản trị AI đã thay đổi rất nhiều, bị ảnh hưởng bởi môi trường địa chính trị hiện tại. Phó chủ tịch Hoa Kỳ JD Vance, phát biểu tại Hội nghị thượng đỉnh hành động AI, cho biết: "Tôi không ở đây sáng nay để nói về AI An toàn, đó là tiêu đề của hội nghị vài năm trước. Tôi ở đây để nói về cơ hội AI."

Amodei, tuy nhiên, đang cố gắng thu hẹp khoảng cách giữa an toàn và cơ hội. Ông tin rằng tập trung nhiều hơn vào an toàn thực sự có thể là một cơ hội. "Tại hội nghị thượng đỉnh ban đầu, Hội nghị thượng đỉnh Bletchley của Vương quốc Anh, có rất nhiều cuộc thảo luận về thử nghiệm và đo lường cho các rủi ro khác nhau. Và tôi không nghĩ những điều này đã làm chậm công nghệ này rất nhiều", ông nói tại sự kiện nhân học. "Nếu bất cứ điều gì, thực hiện loại đo lường này đã giúp chúng tôi hiểu rõ hơn các mô hình của chúng tôi, mà cuối cùng, giúp chúng tôi tạo ra các mô hình tốt hơn."

Ngay cả khi nhấn mạnh sự an toàn, Amodei đã nói rõ rằng nhân học vẫn còn trong việc xây dựng các mô hình AI Frontier. "Tôi không muốn làm bất cứ điều gì để giảm bớt lời hứa. Chúng tôi đang cung cấp các mô hình mỗi ngày mà mọi người có thể xây dựng và điều đó được sử dụng để làm những điều tuyệt vời. Và chúng tôi chắc chắn không nên ngừng làm điều đó", ông nói. Sau đó, anh nói thêm, "Khi mọi người đang nói rất nhiều về những rủi ro, tôi cảm thấy khó chịu, và tôi nói: 'Ồ, anh bạn, không ai thực sự làm tốt công việc thực sự đặt ra công nghệ này có thể tuyệt vời như thế nào.'"

Khi chủ đề chuyển sang các mô hình gần đây của nhà sản xuất LLM của Trung Quốc, Amodei đã hạ thấp thành tích của họ, gọi phản ứng của công chúng là "vô cơ". Ông nói, "Thành thật mà nói, phản ứng của tôi rất ít. Chúng tôi đã thấy V3, đó là mô hình cơ sở cho Deepseek R1, vào tháng 12. Và đó là một mô hình ấn tượng. Mô hình được phát hành vào tháng 12 là loại đường cong giảm chi phí rất bình thường này mà chúng tôi đã thấy trong các mô hình và các mô hình khác." Điều thu hút sự chú ý của anh ấy là mô hình không đến từ "ba hoặc bốn phòng thí nghiệm biên giới" thông thường ở Mỹ, như Google, Openai và Anthropic. Ông bày tỏ mối quan tâm về các chính phủ độc đoán thống trị công nghệ. Đối với chi phí đào tạo được yêu cầu của Deepseek, ông đã loại bỏ họ là "không chính xác và không dựa trên sự thật".

Trong khi Amodei không công bố bất kỳ mô hình mới nào tại sự kiện, anh ấy đã gợi ý về các bản phát hành sắp tới với khả năng lý luận nâng cao. "Chúng tôi thường tập trung vào việc cố gắng tự thực hiện các mô hình lý luận được phân biệt tốt hơn. Chúng tôi lo lắng về việc đảm bảo rằng chúng tôi có đủ công suất, các mô hình trở nên thông minh hơn và chúng tôi lo lắng về những điều an toàn", ông nói.

Anthropic cũng đang giải quyết thách thức lựa chọn mô hình. Ví dụ, nếu bạn là người dùng Chatgpt Plus, có thể khó khăn để quyết định sử dụng mô hình nào cho tin nhắn tiếp theo của bạn.

Amodei đặt câu hỏi về sự khác biệt giữa các mô hình bình thường và lý luận. "Chúng tôi đã có một chút bối rối bởi ý tưởng rằng có những mô hình bình thường và có những mô hình lý luận và chúng khác biệt với nhau", ông nói. "Nếu tôi đang nói chuyện với bạn, bạn không có hai bộ não và một trong số họ trả lời ngay lập tức và thích, người kia chờ đợi một thời gian dài hơn."

Ông tin rằng nên có một sự chuyển đổi mượt mà hơn giữa các mô hình được đào tạo trước như Claude 3.5 Sonnet hoặc GPT-4O và các mô hình được đào tạo với việc học củng cố có thể tạo ra chuỗi kích thước (COT), như O1 của Openai hoặc R1 của Deepseek. "Chúng tôi nghĩ rằng những thứ này nên tồn tại như một phần của một thực thể liên tục duy nhất. Và chúng tôi có thể chưa ở đó, nhưng nhân học thực sự muốn di chuyển mọi thứ theo hướng đó", Amodei nói. "Chúng ta nên có một quá trình chuyển đổi mượt mà hơn từ đó sang các mô hình được đào tạo trước, hơn là 'Đây là điều A và đây là điều B.'"

Là các công ty AI như Anthropic tiếp tục đẩy ra các mô hình tốt hơn, Amodei thấy tiềm năng rất lớn cho sự gián đoạn giữa các ngành công nghiệp. "Chúng tôi đang làm việc với một số công ty dược phẩm để sử dụng Claude để viết các nghiên cứu lâm sàng và họ đã có thể giảm thời gian để viết báo cáo nghiên cứu lâm sàng từ 12 tuần xuống còn ba ngày", ông nói.

Ông hình dung một "sự phục hưng của sự đổi mới đột phá" trong các ứng dụng AI giữa các lĩnh vực như pháp lý, tài chính, bảo hiểm, năng suất, phần mềm và năng lượng. "Tôi nghĩ rằng sẽ có một cơ bản về cơ bản là một sự phục hưng của sự đổi mới đột phá trong không gian ứng dụng AI. Và chúng tôi muốn giúp đỡ nó, chúng tôi muốn hỗ trợ tất cả", ông kết luận.

Đọc toàn bộ phạm vi bảo hiểm của chúng tôi về Hội nghị thượng đỉnh hành động trí tuệ nhân tạo ở Paris.

TechCrunch có một bản tin tập trung vào AI! Đăng ký tại đây để có được nó trong hộp thư đến của bạn vào mỗi thứ Tư.