OpenAI только что сделал свои первые инвестиции в кибербезопасность

Генеративный искусственный интеллект значительно расширил арсенал, доступный хакерам и злоумышленникам. От создания дипфейк-видео с участием генеральных директоров до генерации поддельных квитанций — потенциал для злоупотреблений огромен. OpenAI, ведущий игрок в области генеративного ИИ, остро осознаёт эти риски. В рамках стратегического шага OpenAI сделала свою первую инвестицию в стартап в сфере кибербезопасности, поддержав базирующуюся в Нью-Йорке компанию Adaptive Security в раунде финансирования серии A на сумму 43 миллиона долларов, совместно возглавляемом с Andreessen Horowitz.

Adaptive Security применяет проактивный подход к кибербезопасности, моделируя атаки, сгенерированные ИИ, для обучения сотрудников выявлению и предотвращению этих угроз. Представьте, что вам звонит человек, голос которого звучит в точности как голос вашего технического директора, и просит код подтверждения. Этот голос не принадлежит вашему техническому директору, а является сложной симуляцией, созданной Adaptive Security. Платформа компании выходит за рамки телефонных звонков: она также моделирует текстовые сообщения и электронные письма, оценивая, какие области бизнеса наиболее уязвимы, и обучая персонал распознавать и снижать эти риски.

Основное внимание Adaptive Security уделяет хакерским атакам типа "социальная инженерия", когда злоумышленники обманом заставляют сотрудников совершать несанкционированные действия, например, кликать по вредоносным ссылкам. Эти, на первый взгляд, простые тактики могут привести к значительным потерям, как показывает случай с Axie Infinity, которая в 2022 году потеряла более 600 миллионов долларов из-за мошенничества с фальшивым предложением работы, нацеленным на одного из её разработчиков.

По словам сооснователя и генерального директора Брайана Лонга, ИИ сделал атаки социальной инженерии более простыми в исполнении. С момента запуска в 2023 году Adaptive Security быстро увеличила базу клиентов до более чем 100, используя положительные отзывы для привлечения инвестиций от OpenAI. Лонг, опытный предприниматель с успешными выходами из TapCommerce (приобретённой Twitter за более чем 100 миллионов долларов в 2014 году) и Attentive (оценённой более чем в 10 миллиардов долларов в 2021 году), планирует использовать новое финансирование для найма инженеров и улучшения платформы в условиях продолжающейся "гонки вооружений" ИИ против киберпреступников.

Adaptive Security не единственная компания, борющаяся с угрозами, связанными с ИИ. Другие стартапы, такие как Cyberhaven, недавно привлекшая 100 миллионов долларов при оценке в 1 миллиард долларов для предотвращения злоупотреблений конфиденциальной информацией в инструментах вроде ChatGPT, и Snyk, которая приписывает часть своего годового дохода в размере более 300 миллионов долларов росту небезопасного кода, сгенерированного ИИ, также делают успехи в этой области. Кроме того, компания по обнаружению дипфейков GetReal в прошлом месяце привлекла 17,5 миллиона долларов для борьбы с этими сложными угрозами.

Поскольку угрозы ИИ развиваются, Лонг предлагает сотрудникам, обеспокоенным клонированием голоса, простой совет: "Удалите ваше голосовое сообщение". Это простое действие может помочь защититься от одного из множества способов, которыми хакеры могут использовать технологии ИИ.