Thông tin sai lệch do AI cung cấp được xác định là rủi ro toàn cầu hàng đầu

Khi chúng ta tiếp cận một giai đoạn mà nhiều quốc gia đang chuẩn bị cho các cuộc bầu cử trong hai năm tới, mối đe dọa của thông tin sai lệch và thông tin, bị áp dụng bởi trí tuệ nhân tạo (AI), hiện ra lớn là rủi ro toàn cầu quan trọng nhất. Mối quan tâm này được nhấn mạnh bởi Báo cáo rủi ro toàn cầu của Diễn đàn Kinh tế Thế giới (WEF) năm 2024, trong đó nhấn mạnh rằng việc đan xen thông tin giả mạo với tình trạng bất ổn xã hội sẽ đi đầu, đặc biệt là với các nền kinh tế lớn tổ chức các cuộc bầu cử.

Giữa những lo lắng ngày càng tăng về chi phí sinh hoạt, những rủi ro liên quan đến thông tin sai lệch do AI được thiết lập để làm lu mờ những lo ngại khác trong năm nay. Theo WEF, thông tin sai lệch và thông tin sai lệch sẽ đứng đầu danh sách các rủi ro toàn cầu, theo sát các sự kiện thời tiết khắc nghiệt và sự phân cực xã hội. Báo cáo cũng liệt kê sự mất an ninh mạng và xung đột vũ trang giữa các tiểu bang giữa năm rủi ro hàng đầu.

Biến thể khu vực về nhận thức rủi ro

Trong khi thông tin sai lệch và thông tin sai lệch được coi là rủi ro hàng đầu ở Ấn Độ, nó đứng thứ sáu ở Mỹ và thứ tám trong Liên minh châu Âu. WEF chỉ ra rằng sự tăng tốc nhanh chóng trong khả năng của thông tin bị thao túng, được thúc đẩy bởi việc dễ dàng tiếp cận với các công nghệ tinh vi và sự suy giảm niềm tin đối với thông tin và thể chế, đang làm trầm trọng thêm tình hình.

Tác động của nội dung tổng hợp

Trong vài năm tới, một loạt các diễn viên dự kiến ​​sẽ khai thác sự gia tăng nội dung tổng hợp, tăng cường hơn nữa các bộ phận xã hội, bạo lực tư tưởng và đàn áp chính trị. Với gần ba tỷ người được thiết lập để bỏ phiếu tại các quốc gia như Ấn Độ, Indonesia, Mỹ và Vương quốc Anh, việc phổ biến rộng rãi các thông tin sai lệch có thể gây nguy hiểm cho tính hợp pháp của các chính phủ mới được bầu.

Việc dễ dàng truy cập các công cụ AI thân thiện với người dùng đã dẫn đến sự bùng nổ về thông tin sai lệch và nội dung "tổng hợp", chẳng hạn như nhân bản giọng nói nâng cao và các trang web giả mạo. WEF cảnh báo rằng nội dung tổng hợp này sẽ thao túng các cá nhân, các nền kinh tế gây hại và các xã hội gãy xương theo nhiều cách trong hai năm tới, có khả năng được sử dụng cho các mục đích khác nhau, từ hoạt động khí hậu đến xung đột leo thang.

Các mối đe dọa mới nổi và phản ứng quy định

Các loại tội phạm mới, chẳng hạn như nội dung khiêu dâm Deepfake không thỏa thuận và thao túng thị trường chứng khoán, cũng đang gia tăng. WEF cảnh báo rằng những vấn đề này có thể dẫn đến các cuộc biểu tình bạo lực, ghét tội phạm, xung đột dân sự và khủng bố.

Đáp lại, một số quốc gia đã thực hiện các quy định mới nhằm vào cả chủ nhà và người tạo ra nội dung trực tuyến và bất hợp pháp. Quy định non trẻ của AI thế hệ, chẳng hạn như yêu cầu của Trung Quốc đối với nội dung do Watermark tạo ra, có thể giúp xác định thông tin sai lệch, bao gồm thông tin sai lệch không chủ ý từ nội dung do AI tạo. Tuy nhiên, WEF lưu ý rằng tốc độ của quy định khó có thể theo kịp sự phát triển nhanh chóng của công nghệ.

Những tiến bộ công nghệ gần đây đã làm tăng khối lượng, phạm vi và hiệu quả của thông tin sai lệch, khiến việc theo dõi, thuộc tính và kiểm soát khó khăn hơn. Các nền tảng truyền thông xã hội, được giao nhiệm vụ duy trì tính toàn vẹn, có thể bị choáng ngợp bởi nhiều chiến dịch chồng chéo. Hơn nữa, thông tin sai lệch đang ngày càng trở nên cá nhân hóa và được nhắm mục tiêu, thường lan truyền thông qua các nền tảng nhắn tin ít minh bạch hơn như WhatsApp hoặc WeChat.

Những thách thức trong việc phân biệt nội dung do AI tạo ra

WEF cũng nhấn mạnh những khó khăn ngày càng tăng trong việc phân biệt giữa nội dung do AI tạo và tạo ra, ngay cả đối với các hệ thống phát hiện tinh vi và các cá nhân am hiểu công nghệ. Tuy nhiên, một số quốc gia đang thực hiện các bước để giải quyết thách thức này.

Sáng kiến ​​của Singapore để chống lại Deepfakes

Singapore đã công bố khoản đầu tư 20 triệu đô la SG (15,04 triệu đô la) vào một chương trình nghiên cứu an toàn và ủy thác trực tuyến, bao gồm thành lập một trung tâm để phát triển các công cụ để chống lại nội dung trực tuyến có hại. Được dẫn dắt bởi Bộ Truyền thông và Thông tin (MCI), sáng kiến ​​này được thiết lập để chạy đến năm 2028.

Trung tâm Công nghệ Nâng cao về An toàn Trực tuyến, dự kiến ​​ra mắt vào nửa đầu năm 2024, nhằm mục đích tập hợp các nhà nghiên cứu và tổ chức để tạo ra một hệ sinh thái mạnh mẽ cho một internet an toàn hơn. Trung tâm sẽ tập trung vào việc phát triển và tùy chỉnh các công cụ để phát hiện nội dung có hại, chẳng hạn như DeepFakes và tuyên bố sai, và cũng sẽ làm việc để xác định các lỗ hổng xã hội và phát triển các can thiệp để giảm tính nhạy cảm với nội dung có hại.

MCI đã tham gia với hơn 100 chuyên gia từ học viện và các khu vực công cộng và tư nhân, với 30 người tham gia trực tiếp tham gia vào công việc của Trung tâm. Các công cụ được phát triển sẽ được thử nghiệm và đề xuất để áp dụng, nhằm mục đích tăng cường niềm tin kỹ thuật số thông qua các công nghệ như Watermarking và xác thực nội dung.

Ý nghĩa rộng hơn của thông tin sai

WEF cảnh báo rằng nếu không được kiểm soát, thông tin sai lệch có thể dẫn đến hai kịch bản tương phản. Một mặt, một số chính phủ và nền tảng có thể ưu tiên tự do ngôn luận và tự do dân sự, có khả năng không kiềm chế thông tin làm sai lệch một cách hiệu quả, dẫn đến một định nghĩa gây tranh cãi về 'sự thật' giữa các xã hội. Điều này có thể được khai thác bởi các chủ thể nhà nước và phi nhà nước để đào sâu sự phân chia xã hội, làm suy yếu niềm tin của công chúng vào các thể chế chính trị và đe dọa sự gắn kết quốc gia.

Mặt khác, để đáp ứng với sự lây lan của thông tin sai lệch, một số quốc gia có thể sử dụng để tăng cường kiểm soát thông tin, mạo hiểm tuyên truyền trong nước và kiểm duyệt. Vì khái niệm về sự thật bị phá hoại, các chính phủ có thể có được nhiều quyền lực hơn để kiểm soát thông tin dựa trên định nghĩa 'sự thật' của họ, có khả năng dẫn đến sự đàn áp thông tin rộng hơn và xói mòn hơn nữa các quyền tự do truy cập internet, báo chí và truy cập thông tin.