Các công cụ bảo mật do AI cung cấp: Vũ khí bí mật của bạn chống lại các cuộc tấn công mạng trong tương lai

Trong thế giới an ninh mạng, một thực tế nổi tiếng là những kẻ tấn công chỉ cần tìm một lỗ hổng để gây ra sự tàn phá, trong khi những người bảo vệ phải bảo vệ chống lại mọi mối đe dọa có thể xảy ra. Sự năng động này càng trở nên phức tạp hơn với việc tích hợp AI vào an ninh mạng, biến nó thành một cuộc chạy đua vũ trang nơi cả những kẻ tấn công và người bảo vệ đều có quyền truy cập vào các công cụ AI mạnh mẽ.

Cisco, một người khổng lồ trong ngành công nghiệp mạng, đi đầu trong trận chiến này, liên tục làm việc để bảo vệ khách hàng của mình khỏi các cuộc tấn công mạng do AI cung cấp. Trong một cuộc phỏng vấn độc quyền với ZDNet, Anand Raghavan, VP sản phẩm AI của Cisco, đã làm sáng tỏ cách AI định hình lại an ninh mạng và mở rộng các bề mặt tấn công tiềm năng cho các tổ chức.

ZDNet: Bạn có thể giới thiệu ngắn gọn về bản thân và mô tả vai trò của bạn tại Cisco không?

ANAND RAGHAVAN: Tôi là Anand Raghavan, VP sản phẩm cho AI trong nhóm phần mềm và nền tảng AI của Cisco. Nhóm của tôi hợp tác với các nhóm sản phẩm khác nhau tại Cisco để phát triển và cung cấp các sản phẩm hỗ trợ AI an toàn và an toàn cho khách hàng của chúng tôi. Gần đây, chúng tôi đã ra mắt Trợ lý AI của Cisco, giúp đơn giản hóa các tương tác của khách hàng với các sản phẩm của chúng tôi thông qua ngôn ngữ tự nhiên và phòng thủ AI của Cisco, đảm bảo sử dụng AI an toàn và bảo mật cho cả nhân viên và ứng dụng đám mây được phát triển cho khách hàng.

ZDNet: AI biến đổi bản chất của các doanh nghiệp và chính phủ phải đối mặt như thế nào ở cấp mạng?

AR: AI đã cách mạng hóa bảo mật mạng, cho phép tin tặc thực thi các cuộc tấn công tinh vi và hiệu quả hơn. Họ đang sử dụng AI để tự động hóa và cá nhân hóa các chiến dịch lừa đảo, khiến họ thuyết phục hơn và tăng khả năng nhân viên yêu họ. Chúng ta cũng thấy phần mềm độc hại do AI cung cấp có thể thích nghi với việc trốn tránh các biện pháp bảo mật truyền thống. Khi các công cụ AI trở nên phổ biến hơn, chúng không chỉ mở rộng bề mặt tấn công mà còn khuếch đại vấn đề bóng tối.

Trong khi các công ty tận dụng AI để đổi mới, các tác nhân độc hại sử dụng cùng một công nghệ để tạo ra các mối đe dọa mới. Bây giờ, điều quan trọng hơn bao giờ hết là sử dụng các tiến bộ AI mới nhất để phát hiện và giảm thiểu các mối đe dọa mới nổi này một cách nhanh chóng.

Chẳng hạn, công nghệ công cụ hiển thị được mã hóa của chúng tôi có thể ngăn chặn các kết nối độc hại trong thời gian thực trong tường lửa của chúng tôi và sản phẩm bảo vệ mối đe dọa email của chúng tôi sử dụng các máy dò dựa trên ngôn ngữ để xác định email gian lận. Với sự gia tăng của các ứng dụng AI mà khách hàng phải đối mặt, các lỗ hổng trong các mô hình AI đã trở thành một bề mặt tấn công quan trọng mới. Những mô hình này có thể được nhắm mục tiêu với các cuộc tấn công nhanh chóng hoặc từ chối dịch vụ, có khả năng rò rỉ dữ liệu nhạy cảm. Ngành công nghiệp bảo mật đang chạy đua để tích hợp AI vào các giải pháp để phát hiện các mô hình bất thường và hoạt động mạng đáng ngờ.

ZDNet: Làm thế nào để các công cụ điều khiển AI giúp các doanh nghiệp luôn đi trước các đối thủ mạng ngày càng tinh vi?

AR: Trong bối cảnh mối đe dọa động ngày nay, các công cụ bảo mật do AI cung cấp cung cấp giám sát liên tục và tự tối ưu hóa ở quy mô mà các nỗ lực thủ công không thể phù hợp. AI cho phép các nhóm bảo mật phân tích dữ liệu từ hệ sinh thái của một tổ chức, nhanh chóng phát hiện các mẫu bất thường hoặc lưu lượng truy cập đáng ngờ có thể cho thấy vi phạm. Phân tích nhanh chóng này cho phép các phản ứng gần thời gian thực đối với các mối đe dọa tiềm tàng.

AI bổ sung cho các chuyên gia an ninh con người bằng cách tăng cường thời gian hiển thị và phản hồi, tạo ra một kịch bản "tốt hơn cùng nhau". Trong một thế giới nơi các nhà phân tích bảo mật hàng đầu đang khan hiếm, AI có thể hỗ trợ các nhà phân tích cấp 1 và cấp 2, giảm đáng kể thời gian cần thiết để giải quyết các sự cố và mối đe dọa mới. Tự động hóa quy trình làm việc để phát hiện và phản hồi mở rộng (XDR) bằng cách sử dụng AI là chìa khóa để đi trước các đối thủ mạng.

ZDNet: Giải thích phòng thủ AI, và vấn đề chính mà nó nhằm giải quyết là gì?

AR: Việc áp dụng nhanh chóng các ứng dụng AI là không thể phủ nhận, nhưng trong các tổ chức, tốc độ phát triển và áp dụng AI chậm hơn do lo ngại về an toàn và an ninh. Theo Chỉ số sẵn sàng AI năm 2024 của Cisco, chỉ có 29% các tổ chức cảm thấy được trang bị đầy đủ để phát hiện và ngăn ngừa giả mạo trái phép với AI. Các công ty phải đối mặt với một vấn đề nan giải: Di ​​chuyển quá nhanh và bảo mật rủi ro, hoặc di chuyển quá chậm và có nguy cơ bị tụt lại phía sau đối thủ cạnh tranh.

Bảo vệ AI giải quyết điều này bằng cách cho phép và bảo vệ chuyển đổi AI trong các doanh nghiệp. Nó giải quyết hai rủi ro chính: việc tiếp xúc với dữ liệu nhạy cảm thông qua việc lạm dụng các công cụ AI của bên thứ ba và bảo mật của các mô hình AI được phát triển và triển khai bởi các doanh nghiệp. Giải pháp truy cập AI của chúng tôi cung cấp khả năng hiển thị đối với việc sử dụng AI của bên thứ ba và cho phép thiết lập các chính sách để hạn chế chia sẻ dữ liệu hoặc hạn chế quyền truy cập vào các công cụ không được xác nhận. Đối với các doanh nghiệp phát triển các ứng dụng AI, AI Defense sử dụng công nghệ nhóm màu đỏ thuật toán để tự động hóa các đánh giá lỗ hổng và cung cấp bảo vệ thời gian thực chống lại các mối đe dọa như tiêm nhanh và trích xuất dữ liệu.

ZDNet: Làm thế nào để bảo vệ AI khác biệt với các khung bảo mật hiện có?

AR: AI đưa ra những thách thức bảo mật độc đáo mà các khung truyền thống không được thiết kế để xử lý. Bảo vệ AI được xây dựng đặc biệt để bảo vệ các doanh nghiệp khỏi các rủi ro liên quan đến việc sử dụng và phát triển ứng dụng AI. Nó dựa trên các mô hình AI tùy chỉnh của Cisco, tập trung vào xác thực và bảo vệ AI liên tục ở quy mô.

Các ứng dụng truyền thống được bảo đảm bởi các nhóm màu đỏ của con người, nhưng phương pháp này không mở rộng quy mô cho các mô hình AI không xác định. AI Defense sử dụng hợp tác màu đỏ thuật toán để liên tục theo dõi các lỗ hổng và khuyến nghị các lan can bảo vệ. Cách tiếp cận nền tảng của chúng tôi đảm bảo các lan can này được phân phối trên mạng, cung cấp tổng khả năng hiển thị trên dấu chân AI.

ZDNet: Tầm nhìn của Cisco là gì trong việc tích hợp phòng thủ AI với các chiến lược bảo mật doanh nghiệp rộng lớn hơn là gì?

AR: Chỉ số sẵn sàng AI năm 2024 của Cisco làm nổi bật các tổ chức áp lực phải đối mặt với việc áp dụng AI, nhưng nhiều người không chuẩn bị và không biết về rủi ro bảo mật của AI. AI Defense được thiết kế để giúp các tổ chức mở khóa lợi ích của AI một cách an toàn trong môi trường đa mô hình, đa mô hình. Nó cung cấp khả năng hiển thị và kiểm soát các ứng dụng AI, giúp các nhà phát triển dễ dàng đổi mới hơn mà không ảnh hưởng đến bảo mật.

Tuổi thọ áp dụng cho AI bao gồm khả năng hiển thị, xác nhận và bảo vệ thời gian chạy. Bảo vệ AI hỗ trợ các bước này, với việc thực thi xảy ra thông qua các sản phẩm truy cập an toàn hoặc SASE để bảo vệ nhân viên và thông qua các ứng dụng bộ bảo vệ đám mây như phòng thủ multicloud của Cisco cho các ứng dụng đám mây.

ZDNET: Các chiến lược nào nên áp dụng các chiến lược để giảm thiểu rủi ro của các cuộc tấn công bất lợi trên các hệ thống AI?

AR: Các ứng dụng AI giới thiệu các rủi ro bảo mật mới do bản chất không thể đoán trước và không quyết định của chúng. Các mô hình có thể bị ảo giác hoặc dễ bị tấn công như đào tạo ngộ độc dữ liệu và tiêm kịp thời. Trong môi trường đa mô hình, đa mô hình, các tiêu chuẩn an toàn và an ninh không nhất quán có thể là một vấn đề.

Để bảo vệ chống lại sự giả mạo của AI và rò rỉ dữ liệu, các tổ chức cần một phương pháp bảo mật thống nhất trên tất cả các đám mây, ứng dụng và mô hình. Điều này đặc biệt quan trọng khi trách nhiệm giải trình được phân mảnh trên các bên liên quan khác nhau. Một sản phẩm bảo mật AI phổ biến theo dõi và thực thi các bảo vệ trên tất cả các loại an toàn và bảo mật của AI, như được phác thảo bởi các tiêu chuẩn như Miter Atlas, OWASP LLM10 và NIST RMF, là điều cần thiết.

ZDNet: Bạn có thể chia sẻ một kịch bản trong thế giới thực hoặc nghiên cứu trường hợp trong đó phòng thủ AI có thể ngăn chặn vi phạm an ninh quan trọng không?

AR: AI Defense giải quyết hai lĩnh vực chính của Rủi ro AI của doanh nghiệp: việc sử dụng các công cụ AI của bên thứ ba và phát triển các ứng dụng AI mới. Trong một kịch bản, một nhân viên có thể chia sẻ thông tin khách hàng với một trợ lý AI không được giải quyết để giúp thuyết trình. Dữ liệu này có thể trở thành một phần của dữ liệu đào tạo lại của AI, có nguy cơ vi phạm quyền riêng tư. Bảo vệ AI có thể hạn chế chia sẻ dữ liệu này hoặc hạn chế quyền truy cập vào công cụ, giảm thiểu rủi ro.

Trong một kịch bản khác, một nhà phát triển AI có thể sử dụng mô hình nguồn mở để tạo trợ lý dịch vụ khách hàng, vô tình làm suy yếu các bảo vệ của nó. Trợ lý sau đó có thể bắt đầu cung cấp các phản hồi không chính xác và trở nên dễ bị tấn công. Phòng thủ AI sẽ xác định lỗ hổng này thông qua giám sát liên tục và tự động áp dụng các lan can cần thiết.

ZDNet: Những xu hướng mới nổi trong bảo mật AI mà bạn thấy trước khi định hình tương lai của an ninh mạng?

AR: Một xu hướng quan trọng là thời gian giảm giữa khám phá và khai thác lỗ hổng của những kẻ tấn công, nhờ AI. Các tổ chức phải phát hiện và vá các lỗ hổng nhanh hơn bao giờ hết. AI có thể tăng tốc phát hiện lỗ hổng, cho phép phản hồi thời gian thực.

Deepfakes là một mối quan tâm lớn khác trong năm năm tới. Ngành công nghiệp an ninh mới bắt đầu chuẩn bị cho việc bảo vệ họ, nhưng họ sẽ gây rủi ro đáng kể. Giống như các cuộc tấn công từ chối dịch vụ và ransomware đã là những mối đe dọa lớn trong quá khứ, Deepfakes sẽ là một đêm mất ngủ đối với nhiều chuyên gia bảo mật.

ZDNet: Làm thế nào các chính phủ và doanh nghiệp có thể hợp tác để xây dựng các tiêu chuẩn bảo mật AI mạnh mẽ?

AR: Sự hợp tác giữa các chính phủ và khu vực tư nhân có thể tận dụng kiến ​​thức và quan điểm đa dạng để phát triển các thực tiễn tốt nhất trong bối cảnh bảo mật AI đang phát triển nhanh chóng. Năm ngoái, Cisco đã làm việc với Cơ quan an ninh mạng và cơ sở hạ tầng (CISA) của Cơ quan an ninh mạng (CISA) (JCDC), bao gồm các nhà lãnh đạo trong ngành và các cơ quan chính phủ để tăng cường phản ứng tập thể đối với các sự cố an ninh liên quan đến AI.

Chúng tôi đã tham gia vào một bài tập trên bàn và đóng góp cho "Playbook hợp tác sự cố bảo mật AI", cung cấp hướng dẫn thực tế để ứng phó với các sự cố bảo mật liên quan đến AI và chia sẻ thông tin về các lỗ hổng hệ thống AI. Sự hợp tác này có thể nâng cao nhận thức về các rủi ro bảo mật liên quan đến công nghệ AI.

ZDNet: Làm thế nào để bạn thấy AI thu hẹp khoảng cách giữa phòng chống tấn công mạng và ứng phó sự cố?

AR: Các giải pháp bảo mật hỗ trợ AI đã cung cấp giám sát liên tục và có thể mở rộng, giúp các nhóm an ninh con người phát hiện hoạt động và lỗ hổng đáng ngờ. AI là một công cụ vô giá giúp tăng cường khả năng hiển thị và cung cấp các khuyến nghị cho ứng phó sự cố.

Trong tương lai, AI có thể tự động triển khai và triển khai các bản vá bảo mật dưới sự giám sát của con người. Các lợi ích bao gồm giám sát liên tục, khả năng mở rộng khi bề mặt tấn công tăng lên, tăng độ chính xác trong việc phát hiện các chỉ số tinh tế và thời gian phản hồi nhanh hơn so với các đánh giá thủ công.

AI đang biến đổi an ninh mạng, nhưng các doanh nghiệp có thực sự chuẩn bị cho những rủi ro mà nó mang lại không? Bạn đã gặp phải các mối đe dọa mạng điều khiển AI trong tổ chức của mình chưa? Bạn có nghĩ rằng các giải pháp bảo mật do AI cung cấp có thể đi trước các cuộc tấn công ngày càng tinh vi? Làm thế nào để bạn thấy sự cân bằng giữa AI là một công cụ bảo mật và lỗ hổng tiềm năng? Có phải các công ty làm đủ để đảm bảo các mô hình AI của họ khỏi khai thác? Hãy cho chúng tôi biết trong các ý kiến ​​dưới đây.

Bạn có thể theo dõi các bản cập nhật dự án hàng ngày của tôi trên phương tiện truyền thông xã hội. Hãy chắc chắn đăng ký nhận bản tin cập nhật hàng tuần của tôi và theo dõi tôi trên Twitter/X tại @DavidgeWirtz, trên facebook tại facebook.com/davidgewirtz, trên Instagram tại Instagram.com