Sự gia tăng đáng báo động trong các vụ lừa đảo do AI cung cấp: Microsoft tiết lộ 4 tỷ đô la trong sự gian lận bị cản trở

Sự phát triển nhanh chóng của những trò gian lận do AI cung cấp

Các vụ lừa đảo chạy bằng AI đang gia tăng, với tội phạm mạng tận dụng công nghệ tiên tiến để lừa dối nạn nhân hiệu quả hơn bao giờ hết. Theo báo cáo tín hiệu mạng mới nhất của Microsoft, gã khổng lồ công nghệ đã cản trở 4 tỷ đô la trong các nỗ lực gian lận trong năm qua, ngăn chặn khoảng 1,6 triệu nỗ lực đăng ký bot mỗi giờ. Con số đáng kinh ngạc này nhấn mạnh quy mô của mối đe dọa mà chúng ta đang phải đối mặt.

Phiên bản thứ chín của báo cáo, có tựa đề "Sự lừa dối do AI: Các mối đe dọa gian lận và biện pháp đối phó mới nổi", làm sáng tỏ trí tuệ nhân tạo đang làm giảm các rào cản kỹ thuật cho những kẻ lừa đảo. Những gì được sử dụng để mất nhiều ngày hoặc vài tuần để thiết lập có thể được thực hiện trong vài phút, cho phép ngay cả những người có kỹ năng tối thiểu để khởi động các vụ lừa đảo tinh vi. Dân chủ hóa khả năng gian lận này đang định hình lại cảnh quan hình sự, tác động đến người tiêu dùng và doanh nghiệp trên toàn cầu.

AI đang tăng cường lừa đảo mạng

Báo cáo của Microsoft chi tiết cách các công cụ AI hiện có khả năng quét và cạo web để thu thập thông tin của công ty, cho phép tội phạm mạng tạo ra các hồ sơ chi tiết cho các cuộc tấn công kỹ thuật xã hội được nhắm mục tiêu. Những tác nhân xấu này đang sử dụng AI để tạo ra các đánh giá sản phẩm giả và tạo ra toàn bộ cửa hàng, hoàn chỉnh với lịch sử kinh doanh được chế tạo và lời chứng thực của khách hàng, để thu hút nạn nhân vào các chương trình gian lận phức tạp.

Kelly Bissell, phó chủ tịch của công ty chống gian lận và lạm dụng sản phẩm tại Microsoft Security, lưu ý rằng tội phạm mạng là một vấn đề hàng nghìn tỷ đô la đã phát triển hàng năm trong ba thập kỷ qua. "Tôi nghĩ rằng chúng ta có cơ hội ngày hôm nay để áp dụng AI nhanh hơn để chúng ta có thể phát hiện và thu hẹp khoảng cách tiếp xúc nhanh chóng", Bissell tuyên bố. "Bây giờ chúng tôi có AI có thể tạo ra sự khác biệt ở quy mô và giúp chúng tôi xây dựng các biện pháp bảo vệ an ninh và gian lận vào các sản phẩm của chúng tôi nhanh hơn nhiều."

Báo cáo cũng nhấn mạnh rằng các cuộc tấn công gian lận do AI cung cấp là một mối quan tâm toàn cầu, với hoạt động quan trọng bắt nguồn từ Trung Quốc và Châu Âu, đặc biệt là Đức, do thị trường thương mại điện tử lớn. Thị trường kỹ thuật số càng lớn, càng có nhiều khả năng thấy sự gia tăng tỷ lệ gian lận.

Thương mại điện tử và các vụ lừa đảo việc làm ở vị trí hàng đầu

Hai lĩnh vực mà gian lận được tăng cường AI đặc biệt phổ biến là thương mại điện tử và tuyển dụng công việc. Trong lĩnh vực thương mại điện tử, các công cụ AI cho phép những kẻ lừa đảo tạo ra các trang web gian lận trong vài phút, bắt chước các doanh nghiệp hợp pháp với các mô tả sản phẩm, hình ảnh và đánh giá của khách hàng. Các trang web này thậm chí có thể triển khai các chatbot dịch vụ khách hàng do AI cung cấp, tương tác một cách thuyết phục với khách hàng, trì hoãn các khoản bồi hoàn và thao túng các khiếu nại để duy trì mặt tiền chuyên nghiệp.

Người tìm việc cũng gặp rủi ro, vì AI thế hệ giúp những kẻ lừa đảo dễ dàng tạo ra danh sách công việc giả trên các nền tảng khác nhau. Các danh sách này thường đi kèm với các mô tả được tạo tự động và các chiến dịch email do AI cung cấp được thiết kế cho những người tìm việc Phish. Các cuộc phỏng vấn chạy bằng AI và email tự động tăng cường hơn nữa độ tin cậy của những trò gian lận này, khiến chúng khó phát hiện hơn. Những kẻ lừa đảo thường yêu cầu thông tin cá nhân, chẳng hạn như sơ yếu lý lịch hoặc chi tiết tài khoản ngân hàng, dưới vỏ bọc của người nộp đơn xác minh.

Cờ đỏ bao gồm các ưu đãi công việc không được yêu cầu, yêu cầu thanh toán và liên lạc thông qua các nền tảng không chính thức như tin nhắn văn bản hoặc whatsapp.

Phản hồi của Microsoft đối với gian lận do AI

Để giải quyết các mối đe dọa mới nổi này, Microsoft đã áp dụng cách tiếp cận đa diện trên các sản phẩm và dịch vụ của mình. Microsoft Defender for Cloud cung cấp bảo vệ mối đe dọa cho tài nguyên Azure, trong khi Microsoft Edge có tính năng bảo vệ lỗi chính tả và bảo vệ mạo danh miền, sử dụng công nghệ học tập sâu để giúp người dùng tránh các trang web gian lận.

Windows Quick Assistain đã được tăng cường với các thông điệp cảnh báo để cảnh báo người dùng về các vụ lừa đảo hỗ trợ công nghệ tiềm năng trước khi cấp quyền truy cập cho ai đó tuyên bố là từ hỗ trợ CNTT. Microsoft hiện chặn trung bình 4.415 lần thử kết nối hỗ trợ nhanh đáng ngờ hàng ngày.

Là một phần của Sáng kiến ​​Tương lai An toàn (SFI), Microsoft đã đưa ra một chính sách phòng chống gian lận mới. Bắt đầu từ tháng 1 năm 2025, các nhóm sản phẩm Microsoft phải tiến hành đánh giá phòng chống gian lận và thực hiện các biện pháp kiểm soát gian lận trong quá trình thiết kế, đảm bảo các sản phẩm là "chống gian lận theo thiết kế".

Khi những trò gian lận do AI tiếp tục phát triển, nhận thức của người tiêu dùng là rất quan trọng. Microsoft khuyên người dùng nên cảnh giác với các chiến thuật khẩn cấp, xác minh tính hợp pháp của trang web trước khi mua hàng và không bao giờ cung cấp thông tin cá nhân hoặc tài chính cho các nguồn chưa được xác minh. Đối với các doanh nghiệp, việc triển khai xác thực đa yếu tố và triển khai các thuật toán phát hiện DeepFake có thể giúp giảm thiểu rủi ro.