OpenAI только что сделал свои первые инвестиции в кибербезопасность

Генеративный искусственный интеллект значительно расширил арсенал, доступный хакерам и злоумышленникам. От создания дипфейк-видео с участием генеральных директоров до генерации поддельных квитанций — потенциал для злоупотреблений огромен. OpenAI, ведущий игрок в области генеративного ИИ, остро осознаёт эти риски. В рамках стратегического шага OpenAI сделала свою первую инвестицию в стартап в сфере кибербезопасности, поддержав базирующуюся в Нью-Йорке компанию Adaptive Security в раунде финансирования серии A на сумму 43 миллиона долларов, совместно возглавляемом с Andreessen Horowitz.
Adaptive Security применяет проактивный подход к кибербезопасности, моделируя атаки, сгенерированные ИИ, для обучения сотрудников выявлению и предотвращению этих угроз. Представьте, что вам звонит человек, голос которого звучит в точности как голос вашего технического директора, и просит код подтверждения. Этот голос не принадлежит вашему техническому директору, а является сложной симуляцией, созданной Adaptive Security. Платформа компании выходит за рамки телефонных звонков: она также моделирует текстовые сообщения и электронные письма, оценивая, какие области бизнеса наиболее уязвимы, и обучая персонал распознавать и снижать эти риски.
Основное внимание Adaptive Security уделяет хакерским атакам типа "социальная инженерия", когда злоумышленники обманом заставляют сотрудников совершать несанкционированные действия, например, кликать по вредоносным ссылкам. Эти, на первый взгляд, простые тактики могут привести к значительным потерям, как показывает случай с Axie Infinity, которая в 2022 году потеряла более 600 миллионов долларов из-за мошенничества с фальшивым предложением работы, нацеленным на одного из её разработчиков.
По словам сооснователя и генерального директора Брайана Лонга, ИИ сделал атаки социальной инженерии более простыми в исполнении. С момента запуска в 2023 году Adaptive Security быстро увеличила базу клиентов до более чем 100, используя положительные отзывы для привлечения инвестиций от OpenAI. Лонг, опытный предприниматель с успешными выходами из TapCommerce (приобретённой Twitter за более чем 100 миллионов долларов в 2014 году) и Attentive (оценённой более чем в 10 миллиардов долларов в 2021 году), планирует использовать новое финансирование для найма инженеров и улучшения платформы в условиях продолжающейся "гонки вооружений" ИИ против киберпреступников.
Adaptive Security не единственная компания, борющаяся с угрозами, связанными с ИИ. Другие стартапы, такие как Cyberhaven, недавно привлекшая 100 миллионов долларов при оценке в 1 миллиард долларов для предотвращения злоупотреблений конфиденциальной информацией в инструментах вроде ChatGPT, и Snyk, которая приписывает часть своего годового дохода в размере более 300 миллионов долларов росту небезопасного кода, сгенерированного ИИ, также делают успехи в этой области. Кроме того, компания по обнаружению дипфейков GetReal в прошлом месяце привлекла 17,5 миллиона долларов для борьбы с этими сложными угрозами.
Поскольку угрозы ИИ развиваются, Лонг предлагает сотрудникам, обеспокоенным клонированием голоса, простой совет: "Удалите ваше голосовое сообщение". Это простое действие может помочь защититься от одного из множества способов, которыми хакеры могут использовать технологии ИИ.
Связанная статья
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Tiffany Luck из NEA: Компании по-прежнему борются с вопросами окупаемости инвестиций в ИИ
Загрузка плеера…Ранее в этом году «токеномаксимизация» доминировала в Кремниевой долине, когда генеральные директора призывали сотрудников максимально использовать возможности искусственного интеллекта. Однако этот энтузиазм быстро столкнулся с реал
Рекомендации по связанным специальным темам
Комментарии (38)
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏

Генеративный искусственный интеллект значительно расширил арсенал, доступный хакерам и злоумышленникам. От создания дипфейк-видео с участием генеральных директоров до генерации поддельных квитанций — потенциал для злоупотреблений огромен. OpenAI, ведущий игрок в области генеративного ИИ, остро осознаёт эти риски. В рамках стратегического шага OpenAI сделала свою первую инвестицию в стартап в сфере кибербезопасности, поддержав базирующуюся в Нью-Йорке компанию Adaptive Security в раунде финансирования серии A на сумму 43 миллиона долларов, совместно возглавляемом с Andreessen Horowitz.
Adaptive Security применяет проактивный подход к кибербезопасности, моделируя атаки, сгенерированные ИИ, для обучения сотрудников выявлению и предотвращению этих угроз. Представьте, что вам звонит человек, голос которого звучит в точности как голос вашего технического директора, и просит код подтверждения. Этот голос не принадлежит вашему техническому директору, а является сложной симуляцией, созданной Adaptive Security. Платформа компании выходит за рамки телефонных звонков: она также моделирует текстовые сообщения и электронные письма, оценивая, какие области бизнеса наиболее уязвимы, и обучая персонал распознавать и снижать эти риски.
Основное внимание Adaptive Security уделяет хакерским атакам типа "социальная инженерия", когда злоумышленники обманом заставляют сотрудников совершать несанкционированные действия, например, кликать по вредоносным ссылкам. Эти, на первый взгляд, простые тактики могут привести к значительным потерям, как показывает случай с Axie Infinity, которая в 2022 году потеряла более 600 миллионов долларов из-за мошенничества с фальшивым предложением работы, нацеленным на одного из её разработчиков.
По словам сооснователя и генерального директора Брайана Лонга, ИИ сделал атаки социальной инженерии более простыми в исполнении. С момента запуска в 2023 году Adaptive Security быстро увеличила базу клиентов до более чем 100, используя положительные отзывы для привлечения инвестиций от OpenAI. Лонг, опытный предприниматель с успешными выходами из TapCommerce (приобретённой Twitter за более чем 100 миллионов долларов в 2014 году) и Attentive (оценённой более чем в 10 миллиардов долларов в 2021 году), планирует использовать новое финансирование для найма инженеров и улучшения платформы в условиях продолжающейся "гонки вооружений" ИИ против киберпреступников.
Adaptive Security не единственная компания, борющаяся с угрозами, связанными с ИИ. Другие стартапы, такие как Cyberhaven, недавно привлекшая 100 миллионов долларов при оценке в 1 миллиард долларов для предотвращения злоупотреблений конфиденциальной информацией в инструментах вроде ChatGPT, и Snyk, которая приписывает часть своего годового дохода в размере более 300 миллионов долларов росту небезопасного кода, сгенерированного ИИ, также делают успехи в этой области. Кроме того, компания по обнаружению дипфейков GetReal в прошлом месяце привлекла 17,5 миллиона долларов для борьбы с этими сложными угрозами.
Поскольку угрозы ИИ развиваются, Лонг предлагает сотрудникам, обеспокоенным клонированием голоса, простой совет: "Удалите ваше голосовое сообщение". Это простое действие может помочь защититься от одного из множества способов, которыми хакеры могут использовать технологии ИИ.
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Tiffany Luck из NEA: Компании по-прежнему борются с вопросами окупаемости инвестиций в ИИ
Загрузка плеера…Ранее в этом году «токеномаксимизация» доминировала в Кремниевой долине, когда генеральные директора призывали сотрудников максимально использовать возможности искусственного интеллекта. Однако этот энтузиазм быстро столкнулся с реал
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏





Дом






