Клон Jev от OpenAI может помочь лаборатории Frontiers Lab контролировать роевые агенты

Среди наиболее заметных объявлений на Dev Day компании OpenAI во вторник было краткое замечание генерального директора Сэма Альтмана о запуске нового «Decisions API» компании.

Этот API, по-видимому, предлагает возможности, аналогичные Jev, модели, представленной ранее в этом месяце компанией TypeSafe AI специально для автоматизации программного обеспечения. Выступая в качестве высокоскоростного, экономически эффективного классификатора, работающего на базе большой языковой модели (LLM), Jev позволяет разработчикам вводить набор вариантов и быстро получать результаты на основе вероятностей.

Decisions API от OpenAI, по-видимому, выполняет ту же функцию. Во время мероприятия Альтман объяснил, что этот API позволяет модели Luna лаборатории выбирать из заранее определенного набора вариантов, таких как категории классификации изображений или конкретные поведения агентов.

«Сужая фокус модели до конкретного выбора, мы можем достичь экстремальной скорости, сохраняя при этом такие возможности, как понимание изображений, широкая языковая поддержка и меры безопасности», — заявил Альтман.

Компания TypeSafe не ответила немедленно на запросы TechCrunch о новом продукте. Однако генеральный директор Диого Алмейда, бывший инженер OpenAI и соавтор метода обучения с подкреплением, пошутил в X о возможном начале «войны клонов».

Он предположил, что интерес OpenAI может указывать на то, что разработка в стиле, совместимом с «System One», представляет собой будущее. («System One» — это термин TypeSafe для быстрой, интуитивной обработки, в отличие от «System 2», который относится к осмысленному рассуждению.)

Скрытый смысл заключается в том, что текущие LLM не являются оптимальным решением для многих программных задач из-за их относительно низкой скорости и высоких затрат. Разработчики использовали Jev для дополнения LLM, обнаружив, что этот подход дает более быстрые и экономически эффективные результаты.

Пока неясно, насколько точно Decisions API отражает Jev, поскольку OpenAI выпустила его только в виде ограниченного предварительного просмотра. Следовательно, TechCrunch еще не наблюдала за тем, как разработчики активно тестируют его. Тем не менее, разговоры в X свидетельствуют о значительном интересе отрасли.

Decisions API — не единственное предложение, подобное Jev; другие стартапы запускают аналогичные модели, и маловероятно, что OpenAI будет последним технологическим гигантом, делающим это. Ключевым вопросом остается то, насколько хорошо результаты этих моделей принятия решений соответствуют реальным сценариям.

Алмейда утверждает, что конкурентное преимущество его компании заключается в синтетических данных, которые она генерирует для получения статистически надежных результатов.

«Достичь скорости и низкой стоимости просто», — сказал Алмейда TechCrunch на прошлой неделе. «Если вы ставите во главу угла экстремальную скорость и доступность, вы можете использовать кубики. Настоящая сложность заключается в интеллекте, и моя главная цель всегда — продвигать границу Парето по соотношению интеллекта к доллару».

Всего за несколько недель стало очевидно, что у этих моделей перспективное будущее, и одним из вероятных применений является мониторинг и обеспечение безопасности ИИ-агентов. После нескольких инцидентов, когда агенты OpenAI вели себя непредсказуемо в открытом интернете, одна из новых мер безопасности компании заключалась в использовании отдельной модели для обнаружения вредоносных действий, хотя и за «значительные вычислительные затраты».

Шапур Нагибзаде, ветеран кибербезопасности, возглавляющий стартап QueryStory, считает, что модель типа Jev может сделать этот процесс гораздо более доступным.

Он создал демонстрацию для хакатона, прошедшего в прошлые выходные, которая использует Jev для оценки каждого действия агента по отношению к поставленной задаче. Система блокирует действия, которые она считает крайне вероятными вредоносными, помечает другие для проверки и разрешает остальные.

Теоретически такой мониторинг мог предотвратить инцидент с Hugging Face. Кроме того, мониторинг через Jev стоит 2,94 доллара, по сравнению с 372 долларами при использовании передовой LLM.

Ключевым выводом является то, что Jev достаточно дешев для запуска при каждом действии агента, обеспечивая уровень проверки, который может повысить общую надежность агентов. Это соответствует первоначальному видению TypeSafe — и теперь OpenAI также признала его ценность.