MSC hợp tác với các rủi ro và cơ hội của AI

Trong sáu thập kỷ, Hội nghị An ninh Munich đã là một điểm tập hợp quan trọng cho các nhà lãnh đạo, doanh nghiệp, chuyên gia và xã hội dân sự thế giới để có các cuộc thảo luận cởi mở về việc củng cố và bảo vệ các nền dân chủ và trật tự toàn cầu. Với những căng thẳng địa chính trị ngày càng tăng, các cuộc bầu cử quan trọng trên toàn thế giới và các mối đe dọa mạng nâng cao hơn, những cuộc đàm phán này quan trọng hơn bao giờ hết. Sự xuất hiện của AI trong cả vai trò tấn công và phòng thủ làm tăng thêm một lớp hoàn toàn mới cho cuộc trò chuyện.

Chỉ trong tuần này, Nhóm phân tích mối đe dọa (TAG) của Google, cùng với các nhóm Mandiant và Trust & An toàn, đã bỏ một báo cáo mới. Nó tiết lộ cách các nhóm được Iran hậu thuẫn đang sử dụng chiến tranh thông tin để lắc lư dư luận về cuộc xung đột của Israel-Hamas. Báo cáo cũng cập nhật cho chúng tôi về các khía cạnh mạng trong cuộc chiến của Nga ở Ukraine. Một cách riêng biệt, TAG nhấn mạnh việc sử dụng phần mềm gián điệp thương mại ngày càng tăng của các chính phủ và các chủ thể xấu khác, nhắm mục tiêu các nhà báo, nhà hoạt động nhân quyền, bất đồng chính kiến ​​và các chính trị gia đối lập. Và đừng quên các báo cáo đang diễn ra về các tác nhân đe dọa khai thác các lỗ hổng hệ thống cũ để thỏa hiệp sự an toàn của chính phủ và các công ty tư nhân.

Giữa những mối đe dọa leo thang này, chúng tôi đã có cơ hội vàng để sử dụng AI để tăng cường phòng thủ không gian mạng của các nền dân chủ trên toàn thế giới, mang đến cho các doanh nghiệp, chính phủ và tổ chức các công cụ phòng thủ mới chỉ có sẵn cho những người chơi lớn nhất. Tại Munich tuần này, chúng tôi đang tìm hiểu về cách chúng tôi có thể sử dụng các khoản đầu tư mới, các cam kết và quan hệ đối tác để giải quyết rủi ro AI và tận dụng tiềm năng của nó. Rốt cuộc, các nền dân chủ không thể phát triển trong một thế giới nơi những kẻ tấn công có thể sử dụng AI để đổi mới, nhưng những người bảo vệ không thể.

Sử dụng AI để tăng cường phòng thủ mạng

Trong nhiều năm, các mối đe dọa trên mạng đã là một vấn đề đau đầu cho chuyên gia an ninh, chính phủ, doanh nghiệp và xã hội dân sự. AI có khả năng thay đổi sự cân bằng, mang lại cho những người bảo vệ một lợi thế thực sự so với những kẻ tấn công. Nhưng, giống như bất kỳ công nghệ nào, AI có thể là một thanh kiếm hai lưỡi nếu nó không được phát triển và sử dụng an toàn.

Đó là lý do tại sao chúng tôi đã khởi động Sáng kiến ​​phòng thủ mạng AI ngày hôm nay. Đó là tất cả về việc khai thác tiềm năng bảo mật của AI với một chương trình nghị sự công nghệ và chính sách được đề xuất để giúp bảo mật, trao quyền và thúc đẩy tương lai kỹ thuật số tập thể của chúng tôi. Sáng kiến ​​phòng thủ mạng AI được xây dựng trên Khung AI an toàn (SAIF) của chúng tôi, giúp các tổ chức tạo ra các công cụ và sản phẩm AI được bảo mật ngay từ đầu.

Là một phần của sáng kiến ​​này, chúng tôi sẽ ra mắt đoàn hệ khởi nghiệp "AI for Cybersecurity" mới để tăng cường cảnh an ninh mạng xuyên Đại Tây Dương. Chúng tôi cũng sẽ tăng cam kết 15 triệu đô la của chúng tôi đối với đào tạo an ninh mạng trên khắp châu Âu, ném thêm 2 triệu đô la khác để hỗ trợ nghiên cứu an ninh mạng và Magika nguồn mở, hệ thống nhận dạng loại tệp do Google AI của chúng tôi. Thêm vào đó, chúng tôi đang tiếp tục đổ tiền vào các trung tâm dữ liệu toàn cầu AI-sẵn sàng của chúng tôi. Vào cuối năm 2024, chúng tôi đã đầu tư hơn 5 tỷ đô la vào các trung tâm dữ liệu châu Âu, giúp đảm bảo quyền truy cập an toàn, đáng tin cậy vào một loạt các dịch vụ kỹ thuật số, bao gồm các khả năng AI của nền tảng AI của Vertex AI của chúng tôi.

Bảo vệ các cuộc bầu cử dân chủ

Năm nay, các cuộc bầu cử đang diễn ra trên khắp châu Âu, Hoa Kỳ, Ấn Độ và nhiều quốc gia khác. Chúng tôi đã có một hồ sơ theo dõi về việc hỗ trợ tính toàn vẹn của các cuộc bầu cử dân chủ và chúng tôi vừa công bố chiến dịch dự phòng EU của chúng tôi trước cuộc bầu cử quốc hội. Chiến dịch này, dạy mọi người cách phát hiện các thủ thuật thao túng thông thường trước khi họ nhìn thấy chúng thông qua quảng cáo video ngắn trên phương tiện truyền thông xã hội, khởi động vào mùa xuân này ở Pháp, Đức, Ý, Bỉ và Ba Lan. Chúng tôi cũng hoàn toàn cam kết giữ các nỗ lực của mình để ngừng lạm dụng trên các nền tảng của chúng tôi, cung cấp cho cử tri thông tin chất lượng cao và cung cấp cho mọi người sự hạ thấp nội dung do AI tạo để giúp họ lựa chọn tốt hơn.

Có những lo lắng hợp lệ về việc AI bị lạm dụng để tạo ra những kẻ giả mạo sâu sắc và cử tri sai lệch. Nhưng AI cũng cung cấp một cơ hội duy nhất để ngăn chặn lạm dụng trên quy mô lớn. Các nhóm tin tưởng & an toàn của Google đang giải quyết vấn đề này, sử dụng AI để tăng cường nỗ lực chống lạm dụng, thực thi các chính sách của chúng tôi hiệu quả hơn và thích ứng nhanh chóng với các tình huống hoặc khiếu nại mới.

Chúng tôi cũng hợp tác với những người khác trong ngành, chia sẻ nghiên cứu và làm việc cùng nhau để chống lại các mối đe dọa và lạm dụng, bao gồm nguy cơ nội dung AI lừa đảo. Mới tuần trước, chúng tôi đã tham gia Liên minh về xuất xứ nội dung và tính xác thực (C2PA), đang làm việc dựa trên thông tin nội dung để làm sáng tỏ cách thức tạo và chỉnh sửa nội dung AI theo thời gian. Điều này xây dựng dựa trên sự hợp tác xuyên ngành của chúng tôi xung quanh AI chịu trách nhiệm với Diễn đàn mô hình Frontier, sự hợp tác trên AI và các sáng kiến ​​khác.

Hợp tác để bảo vệ đơn đặt hàng quốc tế dựa trên quy tắc

Hội nghị An ninh Munich đã đứng trước thử thách của thời gian như một nơi để giải quyết các thách thức đối với nền dân chủ. Trong 60 năm, các nền dân chủ đã phải đối mặt và vượt qua những thách thức này, đối phó với những thay đổi lớn, giống như sự kết hợp của AI. Bây giờ, chúng ta có cơ hội đến với nhau một lần nữa, chính phủ, doanh nghiệp, học giả và xã hội dân sự, để tạo mối quan hệ đối tác mới, khai thác tiềm năng của AI về tốt và củng cố trật tự thế giới dựa trên các quy tắc.