Дом
Компания ZeroDrift привлекла 10 миллионов долларов для защиты ИИ-моделей от собственных ошибок.

Пока компании пытаются устранить проблемы в своих ИИ-системах, вопросы управления ими становятся серьезной сложностью. Некоторые из них прибегают к двойному подходу: одна модель обрабатывает поступающие запросы, а вторая обеспечивает, чтобы первая не попадала в трудности.
Именно на этой идеи основан сервис ZeroDrift — новый инструмент для соблюдения стандартов в ИИ, который во вторник объявил о привлечении 10 миллионов долларов в рамках первого раунда финансирования. (Среди инвесторов — A16z Speedrun, Reign Ventures, PitchDrive Ventures и U&I Ventures.) Компания сосредотачивается исключительно на второй части системы, расположенной между ИИ-моделями и конечными пользователями, и отслеживает, а затем заменяет любые сообщения, которые могут создать проблемы с соблюдением норм.
Создание ИИ-системы для исправления ошибок других ИИ-систем может показаться странным, однако система коррекции от ZeroDrift обладает рядом архитектурных преимуществ по сравнению с моделями, которые она исправляет. Система запускается с помощью традиционных программ, которые детерминированно применяют известные стандарты соответствия, такие как SOC 2 или GDPR. Языковая модель активируется только тогда, когда сообщение отмечено как нарушающее нормы, и затем переписывает его в версию, соответствующую требованиям.
«Мы можем детерминированно выявить все регулируемые области и конкретные нарушения, а затем использовать языковые модели для переписывания содержимого», — говорит Арумуган.
Важно отметить, что вся система может работать с более низкой задержкой и высокой надежностью по сравнению с обычными языковыми моделями. Это главное преимущество компании перед крупными лабораториями, такими как OpenAI и Anthropic, которые часто уже интегрированы в основные системы.
Самый очевидный сценарий применения — это чат-боты на базе ИИ, уже используемые у потребителей, где ошибочные ответы могут иметь серьезные последствия. Однако Арумуган считает, что общий рынок потенциально гораздо больше и может включать сообщения, созданные ИИ, которые люди никогда не видят и формируются только в автоматизированных системах. На данный момент это относительно небольшой рынок, но он будет расти по мере распространения ИИ.
Если судить по этому раунду привлечения капитала, спрос на данный продукт значительно выше, чем можно было ожидать. «Это, вероятно, был самый быстрый раунд финансирования в моей жизни», — говорит генеральный директор Кумеш Арумуган, отмечая помощь компании Andressen Horowitz в организации первого раунда. «Мы закрыли сбор средств за три недели, и количество заявок превысило запланированную сумму в три раза».
Связанная статья
Google AI Overviews Gain Ground in Search Results
Согласно отчёту Similarweb «Ландшафт генеративного ИИ 2026», сгенерированные Googleм краткие ответы появлялись в 43% поисковых запросов в США, что является значительным ростом по сравнению с 15%, зафиксированными годом ранее.Хотя ИИ-обзоры представля
Компания Empirik, в которой инвестировала Sequoia, привлекла 21 млн долларов для прогнозирования сбоев в работе систем до их возникновения
До прихода в Sequoia Capital в 2020 году на должность директора по цифровым технологиям и информационным системам Эйвон Пури более десяти лет руководил инфраструктурным направлением в компаниях Rubrik
ElevenLabs привлекает BlackRock, Джейми Фокса и Лонгорию в качестве новых инвесторов
ElevenLabs, лидер в области голосового искусственного интеллекта, объявил о новых участниках раунда финансирования серии D на сумму 500 миллионов долларов, который изначально был раскрыт в феврале. В список инвесторов теперь входят крупные институцио
Рекомендации по связанным специальным темам
Комментарии (0)

Пока компании пытаются устранить проблемы в своих ИИ-системах, вопросы управления ими становятся серьезной сложностью. Некоторые из них прибегают к двойному подходу: одна модель обрабатывает поступающие запросы, а вторая обеспечивает, чтобы первая не попадала в трудности.
Именно на этой идеи основан сервис ZeroDrift — новый инструмент для соблюдения стандартов в ИИ, который во вторник объявил о привлечении 10 миллионов долларов в рамках первого раунда финансирования. (Среди инвесторов — A16z Speedrun, Reign Ventures, PitchDrive Ventures и U&I Ventures.) Компания сосредотачивается исключительно на второй части системы, расположенной между ИИ-моделями и конечными пользователями, и отслеживает, а затем заменяет любые сообщения, которые могут создать проблемы с соблюдением норм.
Создание ИИ-системы для исправления ошибок других ИИ-систем может показаться странным, однако система коррекции от ZeroDrift обладает рядом архитектурных преимуществ по сравнению с моделями, которые она исправляет. Система запускается с помощью традиционных программ, которые детерминированно применяют известные стандарты соответствия, такие как SOC 2 или GDPR. Языковая модель активируется только тогда, когда сообщение отмечено как нарушающее нормы, и затем переписывает его в версию, соответствующую требованиям.
«Мы можем детерминированно выявить все регулируемые области и конкретные нарушения, а затем использовать языковые модели для переписывания содержимого», — говорит Арумуган.
Важно отметить, что вся система может работать с более низкой задержкой и высокой надежностью по сравнению с обычными языковыми моделями. Это главное преимущество компании перед крупными лабораториями, такими как OpenAI и Anthropic, которые часто уже интегрированы в основные системы.
Самый очевидный сценарий применения — это чат-боты на базе ИИ, уже используемые у потребителей, где ошибочные ответы могут иметь серьезные последствия. Однако Арумуган считает, что общий рынок потенциально гораздо больше и может включать сообщения, созданные ИИ, которые люди никогда не видят и формируются только в автоматизированных системах. На данный момент это относительно небольшой рынок, но он будет расти по мере распространения ИИ.
Если судить по этому раунду привлечения капитала, спрос на данный продукт значительно выше, чем можно было ожидать. «Это, вероятно, был самый быстрый раунд финансирования в моей жизни», — говорит генеральный директор Кумеш Арумуган, отмечая помощь компании Andressen Horowitz в организации первого раунда. «Мы закрыли сбор средств за три недели, и количество заявок превысило запланированную сумму в три раза».
Google AI Overviews Gain Ground in Search Results
Согласно отчёту Similarweb «Ландшафт генеративного ИИ 2026», сгенерированные Googleм краткие ответы появлялись в 43% поисковых запросов в США, что является значительным ростом по сравнению с 15%, зафиксированными годом ранее.Хотя ИИ-обзоры представля
Компания Empirik, в которой инвестировала Sequoia, привлекла 21 млн долларов для прогнозирования сбоев в работе систем до их возникновения
До прихода в Sequoia Capital в 2020 году на должность директора по цифровым технологиям и информационным системам Эйвон Пури более десяти лет руководил инфраструктурным направлением в компаниях Rubrik
ElevenLabs привлекает BlackRock, Джейми Фокса и Лонгорию в качестве новых инвесторов
ElevenLabs, лидер в области голосового искусственного интеллекта, объявил о новых участниках раунда финансирования серии D на сумму 500 миллионов долларов, который изначально был раскрыт в феврале. В список инвесторов теперь входят крупные институцио











