KI-betriebene Sicherheitsinstrumente: Ihre Geheimwaffe gegen zukünftige Cyber-Angriffe

In der Welt der Cybersicherheit ist es eine bekannte Tatsache, dass Angreifer nur eine Anfälligkeit finden müssen, um Chaos zu verursachen, während die Verteidiger vor jeder möglichen Bedrohung schützen müssen. Diese Dynamik wird mit der Integration von AI in die Cybersicherheit noch komplexer und verwandelt sie in ein Wettrüsten, bei dem sowohl Angreifer als auch Verteidiger Zugang zu leistungsstarken KI -Tools haben.

Cisco, ein Riese in der Networking-Branche, ist an der Spitze dieser Schlacht und arbeitet ständig daran, seine Kunden vor KI-betriebenen Cyberangriffen zu schützen. In einem exklusiven Interview mit ZDNET wirft Anand Raghavan, VP von AI -Produkten von Cisco, beleuchtet, wie KI die Cybersicherheit umgestaltet und die potenziellen Angriffsflächen für Organisationen erweitert.

ZDNET: Können Sie sich kurz vorstellen und Ihre Rolle bei Cisco beschreiben?

ANAND RAGHAVAN: Ich bin Anand Raghavan, der Vizepräsident der Produkte für KI in der AI -Software- und Plattformgruppe von Cisco. Mein Team arbeitet mit verschiedenen Produktteams bei Cisco zusammen, um unseren Kunden eine sichere und sichere generative KI-betriebene Produkte zu entwickeln und zu liefern. Kürzlich haben wir den Cisco AI -Assistenten gestartet, der die Kundeninteraktionen mit unseren Produkten durch natürliche Sprache und die Cisco AI -Verteidigung vereinfacht, die sowohl für die Kunden als auch für Cloud -Anwendungen sicher und sichere KI -Nutzung gewährleistet.

ZDNET: Wie verändert KI die Natur von Bedrohungen, die Unternehmen und Regierungen auf Netzwerkebene ausgesetzt sind?

AR: AI hat die Netzwerksicherheit revolutioniert und es Hackern ermöglicht, anspruchsvollere und effizientere Angriffe auszuführen. Sie verwenden AI, um Phishing -Kampagnen zu automatisieren und zu personalisieren, wodurch sie überzeugender werden und die Wahrscheinlichkeit erhöht, dass Mitarbeiter sich in sie verlieben. Wir sehen auch KI-angetriebene Malware, die sich an traditionelle Sicherheitsmaßnahmen anpassen kann. Wenn KI -Werkzeuge weiter verbreitet werden, erweitern sie nicht nur die Angriffsfläche, sondern verstärken auch das Problem des Schattens.

Während Unternehmen KI für Innovationen nutzen, nutzen bösartige Schauspieler die gleiche Technologie, um neue Bedrohungen zu erzeugen. Es ist jetzt mehr denn je wichtig, die neuesten KI -Fortschritte zu nutzen, um diese aufkommenden Bedrohungen schnell zu erkennen und zu mildern.

Zum Beispiel kann unsere verschlüsselte Sichtbarkeitsmotor-Technologie böswillige Verbindungen in Echtzeit innerhalb unserer Firewalls einstellen, und unser E-Mail-Bedrohungsverteidigungsprodukt verwendet sprachbasierte Detektoren, um betrügerische E-Mails zu identifizieren. Mit dem Aufstieg von AI -Anwendungen, die Kunden gegenübersehen, sind Schwachstellen in KI -Modellen zu einer neuen kritischen Angriffsfläche geworden. Diese Modelle können mit sofortigen Injektions- oder Denial-of-Service-Angriffen angegriffen werden, wodurch sensible Daten austreten. Die Sicherheitsbranche rast, KI in Lösungen zu integrieren, um ungewöhnliche Muster und verdächtige Netzwerkaktivitäten zu erkennen.

ZDNET: Wie können KI-gesteuerte Tools den Unternehmen dabei helfen, zunehmend anspruchsvoller Cyber-Gegner voraus zu sein?

AR: In der heutigen dynamischen Bedrohungslandschaft bieten KI-betriebene Sicherheitsinstrumente eine kontinuierliche und selbstoptimierende Überwachung in einer Skala, mit der manuelle Bemühungen nicht übereinstimmen können. Mit KI können Sicherheitsteams Daten aus dem Ökosystem eines Unternehmens analysieren und schnell ungewöhnliche Muster oder verdächtige Verkehrsdaten erkennen, die möglicherweise auf einen Verstoß hinweisen. Diese schnelle Analyse ermöglicht nahezu Echtzeitreaktionen auf potenzielle Bedrohungen.

KI ergänzt die menschlichen Sicherheitsprofis, indem sie die Sichtbarkeits- und Reaktionszeiten verbessert und ein "besseres zusammenes" Szenario erstellt. In einer Welt, in der erstklassige Sicherheitsanalysten knapp sind, kann KI Tier-1- und Tier-2-Analysten unterstützen und die Zeit, die für die Bewältigung neuer Vorfälle und Bedrohungen erforderlich ist, erheblich verkürzt. Workflow -Automatisierung für die erweiterte Erkennung und Reaktion (XDR) unter Verwendung von KI ist der Schlüssel, um den Cyber ​​-Gegnern voraus zu sein.

ZDNET: Erklären Sie die KI -Verteidigung und was ist das Hauptproblem, das es lösen soll?

AR: Die schnelle Einführung von AI -Anwendungen ist unbestreitbar, aber innerhalb von Organisationen ist das Tempo der KI -Entwicklung und -annahme aufgrund von Bedenken hinsichtlich der Sicherheit langsamer. Laut Ciscos 2024 AI -Bereitschaftsindex fühlen sich nur 29% der Organisationen voll ausgerüstet, um nicht autorisierte Manipulationen an KI zu erkennen und zu verhindern. Unternehmen stehen vor einem Dilemma: Bewegen Sie sich zu schnell und riskieren Sie die Sicherheit oder riskieren Sie zu langsam und riskieren Sie, hinter Konkurrenten zurückzuführen.

Die KI -Verteidigung befasst sich mit der Aktivierung und Sicherung der KI -Transformation innerhalb von Unternehmen. Es geht um zwei Hauptrisiken: die Exposition von sensiblen Daten durch den Missbrauch von KI-Tools von Drittanbietern und die Sicherheit von von Unternehmen entwickelten und bereitgestellten KI-Modellen. Unsere KI-Zugriffslösung bietet eine Sichtbarkeit in die KI-Verwendung von Drittanbietern und ermöglicht das Festlegen von Richtlinien zur Begrenzung des Datenaustauschs oder der Einschränkung des Zugriffs auf nicht technische Tools. Für Unternehmen, die KI-Anwendungen entwickeln, verwendet AI Defense die algorithmische rot-Team-Technologie, um Schwachstellenbewertungen zu automatisieren, und bietet Echtzeitschutz vor Bedrohungen wie promptem Injektionen und Datenextraktion.

ZDNET: Wie unterscheidet sich die KI -Verteidigung von vorhandenen Sicherheitsrahmen?

AR: AI stellt einzigartige Sicherheitsherausforderungen vor, für die traditionelle Frameworks nicht ausgelegt sind. Die KI -Verteidigung wurde speziell für den Schutz von Unternehmen vor den mit der Verwendung und Entwicklung von AI -Anwendungen verbundenen Risiken erstellt. Es basiert auf Ciscos benutzerdefinierten KI -Modellen und konzentriert sich auf kontinuierliche KI -Validierung und -schutz im Maßstab.

Herkömmliche Anwendungen werden von menschlichen roten Teams gesichert, aber dieser Ansatz skaliert nicht für nicht deterministische KI-Modelle. AI Defense verwendet algorithmisches rotes Teaming, um sich ständig auf Schwachstellen zu überwachen und Leitplanken zu empfehlen. Unser Plattformansatz stellt sicher, dass diese Leitplanken über das Netzwerk verteilt sind und die Sichtbarkeit des KI -Fußabdrucks durch die gesamte Sichtbarkeit bieten.

ZDNET: Was ist die Vision von Cisco für die Integration der KI -Verteidigung in breitere Sicherheitsstrategien für Unternehmen?

AR: Ciscos KI -Bereitschaftsindex 2024 unterstreicht die Druckorganisationen, die AI zu übernehmen, aber viele sind unvorbereitet und sind sich der KI -Sicherheitsrisiken nicht bewusst. Die AI-Verteidigung soll Organisationen helfen, die Leistungen der KI in einer Mehrmodell-Umgebung sicher zu versperren. Es bietet Sichtbarkeit und Kontrolle über AI -Anwendungen, wodurch es Entwicklern erleichtert wird, innovativ zu sein, ohne die Sicherheit zu beeinträchtigen.

Der Adoptionslebenszyklus für KI umfasst Sichtbarkeit, Validierung und Laufzeitschutz. Die AI -Verteidigung unterstützt diese Schritte, wobei die Durchsetzung durch sichere Zugangs- oder Sase -Produkte für den Schutz der Mitarbeiter sowie durch Anwendungen zur Cloud Protection Suite wie Cisco Multicloud Defense für Cloud -Anwendungen erfolgt.

ZDNET: Welche Strategien sollten Unternehmen anwenden, um die Risiken von kontroversen Angriffen auf KI -Systeme zu mildern?

AR: AI-Anwendungen führen aufgrund ihrer unvorhersehbaren und nicht deterministischen Natur neue Sicherheitsrisiken ein. Modelle können an Halluzinationen leiden oder anfällig für Angriffe wie die Trainingsdatenvergiftung und eine schnelle Injektion sein. In einer Multi-Cloud-Umgebung mit mehreren Modellen können inkonsistente Sicherheitsstandards ein Problem sein.

Um vor KI -Manipulationen und Datenleckagen zu schützen, benötigen Unternehmen einen einheitlichen Sicherheitsansatz für alle Wolken, Apps und Modelle. Dies ist besonders wichtig, wenn die Rechenschaftspflicht zwischen verschiedenen Stakeholdern fragmentiert wird. Ein gemeinsames KI -Sicherheitsprodukt, das Leitplanken in allen Kategorien der KI -Sicherheits- und Sicherheitskategorien überwacht und erzwingt, wie nach Standards wie Gehrungsatlas, OWASP LLM10 und NIST RMF dargelegt, ist unerlässlich.

ZDNET: Könnten Sie ein reales Szenario oder eine Fallstudie teilen, in der die KI-Verteidigung eine kritische Sicherheitsverletzung verhindern könnte?

AR: AI-Verteidigung befasst sich mit zwei Hauptbereichen des Unternehmens-KI-Risikos: die Verwendung von AI-Tools von Drittanbietern und die Entwicklung neuer KI-Anwendungen. In einem Szenario kann ein Mitarbeiter Kundeninformationen mit einem nicht genehmigten KI -Assistenten austauschen, um bei einer Präsentation zu helfen. Diese Daten könnten Teil der Umschulungsdaten der KI werden und eine Verletzung des Datenschutzes riskieren. Die KI -Verteidigung kann diesen Datenaustausch einschränken oder den Zugriff auf das Tool einschränken und das Risiko mildern.

In einem anderen Szenario kann ein KI-Entwickler ein Open-Source-Modell verwenden, um einen Kundendienstassistenten zu erstellen, der seine Leitplanken versehentlich schwägt. Der Assistent könnte dann anfangen, falsche Antworten zu liefern und anfällig für Angriffe zu werden. Die KI -Verteidigung würde diesen Fehler durch kontinuierliche Überwachung identifizieren und automatisch die erforderlichen Leitplanken anwenden.

ZDNET: Welche aufkommenden Trends in der KI -Sicherheit fordern Sie voraus, dass die Zukunft der Cybersicherheit gestaltet wird?

AR: Ein wesentlicher Trend ist die abnehmende Zeit zwischen der Entdeckung der Verwundbarkeit und der Ausbeutung durch Angreifer dank KI. Organisationen müssen Schwachstellen schneller als je zuvor erkennen und patchen. KI kann die Erkennung von Sicherheitsanfällen beschleunigen und in Echtzeitreaktionen ermöglichen.

DeepFakes sind ein weiteres wichtiges Anliegen für die nächsten fünf Jahre. Die Sicherheitsbranche beginnt sich gerade auf die Verteidigung gegen sie vorzubereiten, sie werden jedoch ein erhebliches Risiko darstellen. So wie Angriffe und Ransomware in der Vergangenheit Denial-of-Service-Angriffe und Ransomware darstellen, werden Deepfakes für viele Sicherheitsexperten eine schlaflose Nacht sein.

ZDNET: Wie können Regierungen und Unternehmen zusammenarbeiten, um robuste KI -Sicherheitsstandards aufzubauen?

AR: Die Zusammenarbeit zwischen den Regierungen und dem privaten Sektor kann vielfältiges Wissen und Perspektiven nutzen, um Best Practices in der sich schnell entwickelnden KI -Sicherheitslandschaft zu entwickeln. Im vergangenen Jahr arbeitete Cisco mit dem Joint Cyber ​​Defense Collaborative (JCDC) der Cybersecurity and Infrastructure Security Agency (CISA) zusammen, zu dem Branchenführer und Regierungsbehörden gehörten, um die kollektive Reaktion auf KI-bezogene Sicherheitsvorfälle zu verbessern.

Wir haben an einer Tischplatte teilgenommen und zum "Playbook" Collaboration "" AI Security Incident Collaboration "beigetragen, das praktische Leitlinien für die Beantwortung von Sicherheitsvorfällen im Zusammenhang mit KI und das Austausch von Informationen über Schwachstellen des KI-Systems bietet. Diese Zusammenarbeit kann das Bewusstsein für die mit der KI -Technologie verbundenen Sicherheitsrisiken schärfen.

ZDNET: Wie sehen Sie, wie AI die Lücke zwischen Cyberangriffsprävention und Vorfallreaktion verbindet?

AR: AI-fähige Sicherheitslösungen bieten bereits eine kontinuierliche und skalierbare Überwachung und helfen dabei, verdächtige Aktivitäten und Schwachstellen zu erkennen. KI ist ein unschätzbares Werkzeug, das die Sichtbarkeit verbessert und Empfehlungen für die Reaktion in der Vorfälle liefert.

In Zukunft könnte KI Sicherheitspatches automatisch unter menschlicher Aufsicht bereitstellen und implementieren. Zu den Vorteilen zählen eine kontinuierliche Überwachung, Skalierbarkeit bei der Angriffsfläche, eine erhöhte Genauigkeit bei der Erkennung subtiler Indikatoren und schnellere Reaktionszeiten im Vergleich zu manuellen Überprüfungen.

KI transformiert die Cybersicherheit, aber sind Unternehmen wirklich auf die Risiken vorbereitet, die es mitbringt? Haben Sie AI-gesteuerte Cyber-Bedrohungen in Ihrer Organisation gestoßen? Denken Sie, dass KI-angetriebene Sicherheitslösungen zunehmend anspruchsvoller Angriffe weiter bleiben können? Wie sehen Sie das Gleichgewicht zwischen KI als Sicherheitsinstrument und potenzieller Sicherheitsanfälligkeit? Sind Unternehmen genug, um ihre KI -Modelle vor der Ausbeutung zu sichern? Lassen Sie es uns in den Kommentaren unten wissen.

Sie können meine täglichen Projektaktualisierungen in sozialen Medien verfolgen. Abonnieren Sie meinen wöchentlichen Update -Newsletter unbedingt und folgen Sie mir auf Twitter/X unter @davidgewirtz, auf Facebook unter facebook.com/davidgewirtz, auf Instagram unter Instagram.com/davidgewirts, auf Bluesky unter @Davidgewirtz.com und auf YouTube unter yoTube.com/davidgewirtv.