Anthropic ограничивает доступ к Mythos ради защиты Интернета или ради собственной защиты?

На этой неделе компания Anthropic объявила об ограничении доступа к своей новейшей модели под названием Mythos, сославшись на её исключительную способность выявлять уязвимости в программном обеспечении, используемом по всему миру.

Вместо того чтобы выпустить Mythos для широкой публики, эта передовая лаборатория планирует предоставить доступ к ней избранной группе крупных компаний и организаций, управляющих критически важной онлайн-инфраструктурой — от Amazon Web Services до JPMorgan Chase. По имеющимся данным, OpenAI рассматривает аналогичный подход для своего следующего инструмента кибербезопасности. Официально это обосновывается тем, что таким крупным предприятиям нужно опережать злоумышленников, которые могут использовать передовые модели большого языкового обучения (LLM) для взлома защищенного программного обеспечения.

Однако слово «предприятие» в приведённом выше предложении наводит на мысль, что эта стратегия выпуска может выходить за рамки одной лишь кибербезопасности — или ажиотажа вокруг возможностей модели.

Дэн Лахав, генеральный директор лаборатории по кибербезопасности на базе ИИ Irregular, заявил TechCrunch в марте, до того как была представлена модель Mythos, что, хотя обнаружение уязвимостей с помощью инструментов ИИ имеет важное значение, реальная ценность любой уязвимости для злоумышленника зависит от многих факторов, в том числе от того, как их можно комбинировать.

«Вопрос, который всегда не даёт мне покоя, — сказал Лахав, — заключается в том, обнаружили ли они что-то, что можно использовать весьма эффективно — либо самостоятельно, либо в составе цепочки».

В компании Anthropic утверждают, что Mythos может использовать уязвимости гораздо эффективнее, чем их предыдущая модель Opus. Однако пока остается неясным, действительно ли Mythos представляет собой идеальную модель кибербезопасности. Aisle, стартап в сфере кибербезопасности на базе ИИ, утверждает, что ему удалось воспроизвести большую часть того, что, по словам Anthropic, достигла модель Mythos, используя более компактные модели с открытым весом. Команда Aisle утверждает, что эти результаты показывают: не существует единой модели глубокого обучения для кибербезопасности; напротив, эффективность зависит от конкретной задачи.

Учитывая, что Opus уже считался прорывом в сфере кибербезопасности, передовые лаборатории, возможно, имеют ещё одну причину ограничивать доступ к своим разработкам крупными организациями: это создаёт «маховик» для заключения контрактов с крупными предприятиями, одновременно затрудняя конкурентам копирование их моделей посредством дистилляции — метода, при котором передовые модели используются для обучения новых LLM с низкими затратами.

«Это маркетинговый прикрытие того факта, что доступ к моделям высшего уровня теперь ограничен корпоративными соглашениями и они больше не доступны для дистилляции небольшими лабораториями», — предположил в посте в социальных сетях Дэвид Кроушоу, инженер-программист и генеральный директор стартапа exe.dev. «К тому времени, когда мы с вами сможем использовать Mythos, появится новая версия топового уровня, доступная исключительно для предприятий. Эта «беговая дорожка» помогает поддерживать приток корпоративных средств (а это большая часть доходов), оттесняя компании, занимающиеся дистилляцией, на второй план», — сказал Кроушоу.

Этот анализ соответствует тому, что мы наблюдаем в экосистеме ИИ: гонка между передовыми лабораториями, создающими самые крупные и мощные модели, и такими компаниями, как Aisle, которые полагаются на множество моделей и рассматривают LLM с открытым исходным кодом — зачастую из Китая и, как утверждается, разработанные с помощью дистилляции — как путь к экономическому преимуществу.

В этом году передовые лаборатории заняли более жесткую позицию в отношении дистилляции. Компания Anthropic публично раскрыла то, что она называет попытками китайских фирм скопировать её модели, а три ведущие лаборатории — Anthropic, Google и OpenAI — объединились, чтобы выявлять тех, кто занимается дистилляцией, и блокировать их, согласно отчёту Bloomberg.

Дистилляция угрожает бизнес-модели передовых лабораторий, поскольку лишает их преимуществ, полученных за счет вложения огромного капитала в масштабирование. Блокировка дистилляции уже сама по себе является целесообразной мерой, но подход, основанный на выборочном выпуске, также дает лабораториям возможность дифференцировать свои корпоративные предложения, поскольку эта категория становится ключевой для прибыльного внедрения.

Остается неизвестным, действительно ли Mythos или любая новая модель ставит под угрозу безопасность интернета, и осторожный внедрение этой технологии является ответственным шагом вперед.

На момент публикации компания Anthropic не ответила на наши вопросы о том, связано ли это решение с опасениями по поводу дистилляции, но, возможно, она нашла умный способ защитить Интернет — и свою прибыль.