MSC hợp tác với các rủi ro và cơ hội của AI

Trong sáu thập kỷ, Hội nghị An ninh Munich đã là một điểm tụ họp quan trọng cho các nhà lãnh đạo thế giới, doanh nghiệp, chuyên gia và xã hội dân sự để thảo luận cởi mở về việc củng cố và bảo vệ các nền dân chủ và trật tự toàn cầu. Với căng thẳng địa chính trị ngày càng gia tăng, các cuộc bầu cử quan trọng trên toàn thế giới và các mối đe dọa mạng tiên tiến hơn, những cuộc thảo luận này trở nên quan trọng hơn bao giờ hết. Sự xuất hiện của AI trong cả vai trò tấn công và phòng thủ đã thêm một tầng lớp hoàn toàn mới vào cuộc trò chuyện.

Chỉ trong tuần này, Nhóm Phân tích Mối đe dọa của Google (TAG), cùng với các đội Mandiant và Trust & Safety, đã công bố một báo cáo mới. Báo cáo tiết lộ cách các nhóm được Iran hậu thuẫn sử dụng chiến tranh thông tin để tác động đến dư luận về xung đột Israel-Hamas. Báo cáo cũng cập nhật về các khía cạnh mạng của cuộc chiến của Nga tại Ukraine. Riêng biệt, TAG đã nhấn mạnh việc sử dụng ngày càng tăng của phần mềm gián điệp thương mại bởi các chính phủ và các tác nhân xấu khác, nhắm vào các nhà báo, nhà hoạt động nhân quyền, những người bất đồng chính kiến và các chính trị gia đối lập. Và đừng quên những báo cáo liên tục về các tác nhân đe dọa khai thác các lỗ hổng hệ thống cũ để xâm phạm an ninh của các chính phủ và công ty tư nhân.

Giữa những mối đe dọa leo thang này, chúng ta có một cơ hội vàng để sử dụng AI nhằm củng cố phòng thủ mạng của các nền dân chủ trên toàn thế giới, mang lại cho các doanh nghiệp, chính phủ và tổ chức những công cụ phòng thủ mới mà trước đây chỉ có sẵn cho các bên lớn nhất. Tại Munich tuần này, chúng ta đang đi sâu vào cách sử dụng các khoản đầu tư mới, cam kết và quan hệ đối tác để giải quyết các rủi ro của AI và tận dụng tiềm năng của nó. Sau tất cả, các nền dân chủ không thể phát triển trong một thế giới nơi những kẻ tấn công có thể sử dụng AI để đổi mới, nhưng những người bảo vệ thì không.

Sử dụng AI để tăng cường phòng thủ mạng

Trong nhiều năm, các mối đe dọa mạng đã là một vấn đề đau đầu đối với các chuyên gia an ninh, chính phủ, doanh nghiệp và xã hội dân sự. AI có tiềm năng thay đổi cán cân, mang lại cho những người bảo vệ một lợi thế thực sự trước những kẻ tấn công. Nhưng, như bất kỳ công nghệ nào, AI có thể là con dao hai lưỡi nếu không được phát triển và sử dụng một cách an toàn.

Đó là lý do tại sao hôm nay chúng tôi đã khởi động Sáng kiến Phòng thủ Mạng AI. Tất cả là về việc khai thác tiềm năng an ninh của AI với một chương trình nghị sự chính sách và công nghệ được đề xuất để giúp bảo vệ, trao quyền và thúc đẩy tương lai số chung của chúng ta. Sáng kiến Phòng thủ Mạng AI dựa trên Khung AI An toàn (SAIF) của chúng tôi, giúp các tổ chức tạo ra các công cụ và sản phẩm AI an toàn ngay từ đầu.

Trong khuôn khổ sáng kiến này, chúng tôi đang khởi động một nhóm khởi nghiệp mới “AI cho An ninh mạng” để thúc đẩy cảnh quan an ninh mạng xuyên Đại Tây Dương. Chúng tôi cũng tăng cam kết 15 triệu đô la cho đào tạo an ninh mạng trên khắp châu Âu, bổ sung thêm 2 triệu đô la để hỗ trợ nghiên cứu an ninh mạng và mã nguồn mở Magika, hệ thống nhận diện loại tệp được cung cấp bởi AI của Google. Ngoài ra, chúng tôi tiếp tục đầu tư vào các trung tâm dữ liệu toàn cầu sẵn sàng cho AI, an toàn. Đến cuối năm 2024, chúng tôi sẽ đầu tư hơn 5 tỷ đô la vào các trung tâm dữ liệu châu Âu, giúp đảm bảo truy cập an toàn, đáng tin cậy vào một loạt các dịch vụ số, bao gồm khả năng AI tạo sinh của nền tảng Vertex AI của chúng tôi.

Bảo vệ các cuộc bầu cử dân chủ

Năm nay, các cuộc bầu cử đang diễn ra trên khắp châu Âu, Hoa Kỳ, Ấn Độ và nhiều quốc gia khác. Chúng tôi có thành tích hỗ trợ tính toàn vẹn của các cuộc bầu cử dân chủ, và chúng tôi vừa công bố chiến dịch dự phòng EU trước các cuộc bầu cử nghị viện. Chiến dịch này, dạy mọi người cách nhận biết các thủ thuật thao túng phổ biến trước khi họ thấy chúng qua các quảng cáo video ngắn trên mạng xã hội, sẽ bắt đầu vào mùa xuân này tại Pháp, Đức, Ý, Bỉ và Ba Lan. Chúng tôi cũng hoàn toàn cam kết tiếp tục nỗ lực ngăn chặn lạm dụng trên các nền tảng của mình, cung cấp thông tin chất lượng cao cho cử tri và cung cấp thông tin về nội dung do AI tạo ra để giúp họ đưa ra lựa chọn tốt hơn.

Có những lo ngại chính đáng về việc AI bị lạm dụng để tạo ra deep fake và đánh lừa cử tri. Nhưng AI cũng mang lại cơ hội độc đáo để ngăn chặn lạm dụng trên quy mô lớn. Các đội Trust & Safety của Google đang giải quyết vấn đề này trực tiếp, sử dụng AI để tăng cường nỗ lực chống lạm dụng, thực thi chính sách hiệu quả hơn và thích ứng nhanh với các tình huống hoặc tuyên bố mới.

Chúng tôi cũng đang hợp tác với những người khác trong ngành, chia sẻ nghiên cứu và làm việc cùng nhau để đối phó với các mối đe dọa và lạm dụng, bao gồm nguy cơ nội dung AI lừa đảo. Tuần trước, chúng tôi đã tham gia Liên minh về Nguồn gốc và Tính xác thực của Nội dung (C2PA), đang làm việc trên một chứng nhận nội dung để làm sáng tỏ cách nội dung do AI tạo ra được tạo và chỉnh sửa theo thời gian. Điều này dựa trên các hợp tác liên ngành của chúng tôi về AI có trách nhiệm với Diễn đàn Mô hình Biên giới, Quan hệ đối tác về AI và các sáng kiến khác.

Hợp tác để bảo vệ trật tự quốc tế dựa trên luật lệ

Hội nghị An ninh Munich đã đứng vững qua thời gian như một nơi để giải quyết các thách thức đối với dân chủ. Trong 60 năm, các nền dân chủ đã đối mặt và vượt qua những thách thức này, đối phó với những thay đổi lớn—như thay đổi do AI mang lại—cùng nhau. Bây giờ, chúng ta có cơ hội tập hợp lại—như các chính phủ, doanh nghiệp, học giả và xã hội dân sự—để tạo ra các quan hệ đối tác mới, khai thác tiềm năng của AI cho điều tốt đẹp và củng cố trật tự thế giới dựa trên luật lệ.