Дом
Patronus AI привлекла 50 миллионов долларов на создание цифровых миров для тестирования искусственных интеллект-агентов в условиях стресса.

AI-агенты становятся всё более сложными, переходя от простого ответа на вопросы к самостоятельному выполнению сложных, многоэтапных задач.
Однако прежде чем можно будет доверять этим агентам бронировать поездки или проводить финансовый анализ от имени пользователей, поставщики моделей и стартапы, разрабатывающие их, должны гарантировать надёжную работу в самых разных сценариях.
Исследовательские лаборатории в области ИИ часто используют тестовые задания для демонстрации возможностей своих моделей, но высокий результат — даже по специальному тесту для конкретного агента — не гарантирует, что ИИ сможет правильно выполнить разнообразные реальные задачи.
Patronus AI — стартап 2023 года, основанный бывшими исследователями ИИ от Meta Анандом Каннаппаном и Ребеккой Цянь. Он помогает создателям моделей и компаниям настраивать их, создавая симулированные цифровые среды для оценки производительности агентов.
Этот стартап, базирующийся в Сан-Франциско, явно решает критическую потребность. По словам Гленна Соломона, управляющего директора Notable Capital, практически все передовые лаборатории ИИ и многие новые стартапы стали клиентами компании, причём спрос на её симулированные среды описывается как почти неудовлетворимый.
Доход Patronus за прошедший год вырос в 15 раз, что вызвало большой интерес со стороны инвесторов. В четверг компания объявила о раунде финансирования Series B на сумму 50 миллионов долларов под руководством Greenfield Partners при участии Notable Capital, Lightspeed, Datadog и Samsung. Таким образом, общая сумма привлечённых средств достигла 70 миллионов долларов.
Patronus использует так называемые «модели цифрового мира» для создания копий веб-сайтов и внутренних систем. В этих средах агенты проходят тестирование на прочность после обучения с помощью метода усиленного обучения, при котором за успешное выполнение задач накапливаются положительные стимулы, а за ошибки — отрицательные.
Исследовательские лаборатории считают эти цифровые симуляции чрезвычайно ценными, поскольку они позволяют агентам экспериментировать в различных, иногда непредсказуемых сценариях. Компания сравнивает свой подход с тем, как Waymo обучала автономные автомобили: сначала создавались синтетические миры для тестирования транспортных средств в условиях редких опасностей, таких как сильная погода или ребёнок, преследующий мяч.
Отличие от AI-агентов заключается в том, что они часто идут на ускорения, из-за чего задачи выполняются неправильно. «Patronus очень хорошо справляется с выявлением таких уловок и обеспечивает ответственность моделей», — говорит Соломон.
В настоящее время Patronus предлагает свои симулированные цифровые среды для программной инженерии и финансовой сферы, но, по словам Каннаппана, это лишь начало.
«Сегодня мы сосредоточены на проверяемых проблемах — тех, которые можно сразу проверить и подтвердить, — но существует ещё множество областей, которые невозможно проверить или очень сложно проверить», — говорит он.
Тот факт, что эти процессы можно проверить, не означает, что они просты. «Мы хотим создать среду, в которой агент сможет работать 10 часов, 10 дней или даже 10 недель», — говорит Каннаппан.
Что касается конкурентов, Patronus считает, что в основном конкурирует с внутренними командами, уже существующими в исследовательских лабораториях ИИ для оценки поведения агентов. В то время как такие компании, занимающиеся обработкой человеческих данных, как Mercor и Surge, помогают создателям моделей в работе с методом усиленного обучения, Patronus использует другой подход, оценивая поведение агентов без участия людей.
Связанная статья
Дэвид Сильвер из DeepMind привлек 1,1 млрд долларов на разработку ИИ, способного обучаться без использования данных, введенных человеком
Ineffable Intelligence — британский стартап в сфере искусственного интеллекта, основанный всего несколько месяцев назад бывшим исследователем DeepMind Дэвидом Сильвером, — привлек финансирование в раз
Компания Sarvam привлекла 234 миллиона долларов от HCLTech, чтобы стать новым «юникорном» в области искусственного интеллекта Индии.
В понедельник компания Sarvam объявила о привлечении 234 миллиона долларов при оценке своей компании в 1,5 миллиарда долларов. Эта стартап-компания, базирующаяся в Бангалоре, теперь является самым новым «юникорном» в сфере искусственного интеллекта в
Подросток-хакер, ставший исследователем системы «Железный купол», привлек 28 млн долларов на борьбу с фишингом с использованием ИИ
Шей Шварц знает о фишинговых атаках по электронной почте все до мельчайших подробностей. В подростковом возрасте он зарабатывал деньги как хакер, но после того, как его поймали в 16 лет, он понял, что
Рекомендации по связанным специальным темам
Комментарии (0)

AI-агенты становятся всё более сложными, переходя от простого ответа на вопросы к самостоятельному выполнению сложных, многоэтапных задач.
Однако прежде чем можно будет доверять этим агентам бронировать поездки или проводить финансовый анализ от имени пользователей, поставщики моделей и стартапы, разрабатывающие их, должны гарантировать надёжную работу в самых разных сценариях.
Исследовательские лаборатории в области ИИ часто используют тестовые задания для демонстрации возможностей своих моделей, но высокий результат — даже по специальному тесту для конкретного агента — не гарантирует, что ИИ сможет правильно выполнить разнообразные реальные задачи.
Patronus AI — стартап 2023 года, основанный бывшими исследователями ИИ от Meta Анандом Каннаппаном и Ребеккой Цянь. Он помогает создателям моделей и компаниям настраивать их, создавая симулированные цифровые среды для оценки производительности агентов.
Этот стартап, базирующийся в Сан-Франциско, явно решает критическую потребность. По словам Гленна Соломона, управляющего директора Notable Capital, практически все передовые лаборатории ИИ и многие новые стартапы стали клиентами компании, причём спрос на её симулированные среды описывается как почти неудовлетворимый.
Доход Patronus за прошедший год вырос в 15 раз, что вызвало большой интерес со стороны инвесторов. В четверг компания объявила о раунде финансирования Series B на сумму 50 миллионов долларов под руководством Greenfield Partners при участии Notable Capital, Lightspeed, Datadog и Samsung. Таким образом, общая сумма привлечённых средств достигла 70 миллионов долларов.
Patronus использует так называемые «модели цифрового мира» для создания копий веб-сайтов и внутренних систем. В этих средах агенты проходят тестирование на прочность после обучения с помощью метода усиленного обучения, при котором за успешное выполнение задач накапливаются положительные стимулы, а за ошибки — отрицательные.
Исследовательские лаборатории считают эти цифровые симуляции чрезвычайно ценными, поскольку они позволяют агентам экспериментировать в различных, иногда непредсказуемых сценариях. Компания сравнивает свой подход с тем, как Waymo обучала автономные автомобили: сначала создавались синтетические миры для тестирования транспортных средств в условиях редких опасностей, таких как сильная погода или ребёнок, преследующий мяч.
Отличие от AI-агентов заключается в том, что они часто идут на ускорения, из-за чего задачи выполняются неправильно. «Patronus очень хорошо справляется с выявлением таких уловок и обеспечивает ответственность моделей», — говорит Соломон.
В настоящее время Patronus предлагает свои симулированные цифровые среды для программной инженерии и финансовой сферы, но, по словам Каннаппана, это лишь начало.
«Сегодня мы сосредоточены на проверяемых проблемах — тех, которые можно сразу проверить и подтвердить, — но существует ещё множество областей, которые невозможно проверить или очень сложно проверить», — говорит он.
Тот факт, что эти процессы можно проверить, не означает, что они просты. «Мы хотим создать среду, в которой агент сможет работать 10 часов, 10 дней или даже 10 недель», — говорит Каннаппан.
Что касается конкурентов, Patronus считает, что в основном конкурирует с внутренними командами, уже существующими в исследовательских лабораториях ИИ для оценки поведения агентов. В то время как такие компании, занимающиеся обработкой человеческих данных, как Mercor и Surge, помогают создателям моделей в работе с методом усиленного обучения, Patronus использует другой подход, оценивая поведение агентов без участия людей.
Дэвид Сильвер из DeepMind привлек 1,1 млрд долларов на разработку ИИ, способного обучаться без использования данных, введенных человеком
Ineffable Intelligence — британский стартап в сфере искусственного интеллекта, основанный всего несколько месяцев назад бывшим исследователем DeepMind Дэвидом Сильвером, — привлек финансирование в раз
Компания Sarvam привлекла 234 миллиона долларов от HCLTech, чтобы стать новым «юникорном» в области искусственного интеллекта Индии.
В понедельник компания Sarvam объявила о привлечении 234 миллиона долларов при оценке своей компании в 1,5 миллиарда долларов. Эта стартап-компания, базирующаяся в Бангалоре, теперь является самым новым «юникорном» в сфере искусственного интеллекта в
Подросток-хакер, ставший исследователем системы «Железный купол», привлек 28 млн долларов на борьбу с фишингом с использованием ИИ
Шей Шварц знает о фишинговых атаках по электронной почте все до мельчайших подробностей. В подростковом возрасте он зарабатывал деньги как хакер, но после того, как его поймали в 16 лет, он понял, что











