Red Hat trên các mô hình ngôn ngữ nhỏ, mở cho AI có trách nhiệm, thực tế

Ảnh hưởng địa chính trị đến phát triển AI và sử dụng

Khi các sự kiện toàn cầu tiếp tục định hình thế giới của chúng ta, không thể tránh khỏi việc chúng tác động đến lĩnh vực công nghệ, đặc biệt là thị trường AI. Ảnh hưởng này mở rộng đến cách AI được phát triển, phương pháp của nó và ứng dụng của nó trong các doanh nghiệp. Phong cảnh hiện tại của AI là sự pha trộn của sự phấn khích và hoài nghi, với một số người nắm lấy tiềm năng của nó trong khi những người khác vẫn thận trọng do giai đoạn phát triển ban đầu.

Các mô hình ngôn ngữ lớn truyền thống, vòng khép kín (LLM) giống như các mô hình từ các nhà cung cấp nổi tiếng đang phải đối mặt với sự cạnh tranh từ các mô hình mới hơn, mở hơn như Llama, Deepseek và Ernie X1 của Baidu. Ngược lại, sự phát triển nguồn mở cung cấp sự minh bạch và cơ hội đóng góp của cộng đồng, phù hợp với khái niệm "AI có trách nhiệm". Cách tiếp cận này xem xét các tác động môi trường, đạo đức sử dụng, các nguồn dữ liệu học tập và các vấn đề liên quan đến chủ quyền dữ liệu, ngôn ngữ và chính trị.

Red Hat, một công ty được biết đến với mô hình kinh doanh nguồn mở thành công, rất muốn áp dụng cách tiếp cận hợp tác và minh bạch của mình cho AI. Trong một cuộc trò chuyện gần đây với Julio Guijarro, CTO của Red Hat cho EMEA, chúng tôi đã thảo luận về chiến lược của họ để khai thác sức mạnh của AI thế hệ theo cách làm tăng giá trị cho các doanh nghiệp có trách nhiệm và bền vững.

Nhu cầu giáo dục và minh bạch

Julio nhấn mạnh sự cần thiết phải giáo dục nhiều hơn xung quanh AI, chỉ ra rằng bản chất phức tạp của nó thường làm cho nó trở thành một "hộp đen" cho nhiều người. "Các hoạt động bên trong của AI, bắt nguồn sâu sắc trong khoa học và toán học phức tạp, vẫn chưa được biết đến phần lớn", ông nói. "Sự thiếu minh bạch này trở nên trầm trọng hơn khi AI được phát triển trong môi trường kín."

Những thách thức bổ sung bao gồm sự đại diện của một số ngôn ngữ nhất định, các mối quan tâm chủ quyền dữ liệu và các vấn đề tin cậy. Julio lưu ý: "Dữ liệu là tài sản có giá trị nhất của một tổ chức và các doanh nghiệp phải nhận thức được những rủi ro khi phơi bày dữ liệu nhạy cảm với các nền tảng công cộng với các chính sách bảo mật khác nhau."

Phương pháp tiếp cận của Red Hat đối với AI

Phản ứng của Red Hat đối với nhu cầu toàn cầu về AI tập trung vào việc cung cấp lợi ích cho người dùng cuối trong khi giải quyết những nghi ngờ và hạn chế liên quan đến các dịch vụ AI truyền thống. Julio nhấn mạnh tiềm năng của các mô hình ngôn ngữ nhỏ (SLM) như một giải pháp. Các mô hình này có thể chạy cục bộ hoặc trên các đám mây lai bằng phần cứng không chuyên và có thể truy cập dữ liệu kinh doanh địa phương. SLM là hiệu quả và cụ thể về nhiệm vụ, đòi hỏi ít tài nguyên hơn LLM.

Một trong những lợi thế chính của SLM là khả năng duy trì hiện tại của họ với dữ liệu kinh doanh thay đổi nhanh chóng. "Các mô hình ngôn ngữ lớn có thể trở nên lỗi thời nhanh chóng vì việc tạo dữ liệu xảy ra bên ngoài các đám mây lớn, ngay bên cạnh các quy trình kinh doanh của bạn," Julio giải thích.

Chi phí là một yếu tố quan trọng khác. "Các truy vấn dịch vụ khách hàng sử dụng LLM có thể phải chịu các chi phí ẩn đáng kể", Julio nói. "Trước AI, các truy vấn dữ liệu có phạm vi và chi phí có thể dự đoán được. Với LLM, mỗi tương tác có thể leo thang chi phí vì chúng hoạt động trên một mô hình lặp. Chạy các mô hình tại chỗ cho phép kiểm soát chi phí cao hơn, vì chúng gắn với cơ sở hạ tầng của bạn, không phải trả phí."

May mắn thay, các tổ chức không cần đầu tư mạnh vào phần cứng chuyên dụng như GPU. Red Hat đang làm việc để tối ưu hóa các mô hình để chạy trên phần cứng tiêu chuẩn, tập trung vào các mô hình cụ thể mà các doanh nghiệp cần thay vì xử lý các bộ dữ liệu lớn, đa năng với mỗi truy vấn.

Tầm quan trọng của các mô hình nhỏ hơn, cục bộ

Bằng cách sử dụng và tham khảo dữ liệu cục bộ, kết quả có thể được điều chỉnh theo nhu cầu cụ thể. Julio đã tham khảo các dự án tại các khu vực như thế giới nói tiếng Ả Rập và Bồ Đào Nha, không được phục vụ tốt bởi LLM trung tâm Anh.

Có những thách thức thực tế với LLM, bao gồm các vấn đề về độ trễ có thể ảnh hưởng đến các ứng dụng nhạy cảm với thời gian hoặc đối mặt với khách hàng. Giữ tài nguyên và kết quả gần với người dùng có thể giảm thiểu những vấn đề này.

Niềm tin là một khía cạnh quan trọng khác của AI có trách nhiệm. Red Hat ủng hộ cho các nền tảng, công cụ và mô hình mở để tăng tính minh bạch và cho phép sự tham gia của cộng đồng rộng lớn hơn. "Nó rất quan trọng cho tất cả mọi người," Julio tuyên bố. "Chúng tôi đang xây dựng các khả năng để dân chủ hóa AI, không chỉ bằng cách xuất bản các mô hình mà bằng cách cung cấp các công cụ để người dùng tái tạo, điều chỉnh và phục vụ chúng."

Việc mua lại ma thuật thần kinh gần đây của Red Hat nhằm giúp các doanh nghiệp mở rộng quy mô AI dễ dàng hơn, cải thiện hiệu suất suy luận và cung cấp nhiều lựa chọn hơn trong việc xây dựng và triển khai khối lượng công việc AI thông qua dự án VLLM. Ngoài ra, phối hợp với IBM Research, Red Hat đã phát hành hướng dẫn, mở ra sự phát triển của AI cho các nhà khoa học không phải là dữ liệu, những người sở hữu kiến ​​thức kinh doanh có giá trị.

Tương lai của AI

Mặc dù có nhiều suy đoán về bong bóng AI, Red Hat tin vào một tương lai nơi AI được điều chỉnh theo các trường hợp sử dụng cụ thể và vẫn là nguồn mở. Cách tiếp cận này sẽ có khả năng kinh tế và có thể truy cập được cho tất cả mọi người. Như Matt Hicks, CEO của Red Hat, đã tuyên bố: "Tương lai của AI là mở."