Google ускоряет поставки моделей Gemini среди задержек отчета о безопасности AI

Спустя более двух лет после неожиданного появления ChatGPT от OpenAI, Google серьёзно активизировался. В конце марта они представили Gemini 2.5 Pro, модель ИИ для рассуждений, лидирующую в тестах по программированию и математике. А всего за три месяца до этого они выпустили Gemini 2.0 Flash, которая тогда была на высоте. Тулси Доши, директор Google и руководитель продукта Gemini, сообщила TechCrunch, что такой стремительный график выпуска — часть их стратегии, чтобы не отставать от быстро развивающегося мира ИИ.

«Мы всё ещё ищем лучший способ выпуска этих моделей и получения обратной связи», — пояснила Доши. Но такой ускоренный выпуск, похоже, имеет недостатки. Google не опубликовал отчёты о безопасности для своих последних моделей, таких как Gemini 2.5 Pro и Gemini 2.0 Flash, что вызывает беспокойство, что они спешат без должной прозрачности.

В наши дни крупные лаборатории ИИ, такие как OpenAI, Anthropic и Meta, обычно публикуют тесты безопасности, проверки производительности и примеры использования при запуске новой модели. Эти отчёты, иногда называемые «системными картами» или «картами моделей», были предложены годы назад исследователями из промышленности и академий. Фактически, Google была одной из первых, кто предложил карты моделей в статье 2019 года, заявив, что они ключевы для ответственных и прозрачных практик машинного обучения.

Доши сообщила TechCrunch, что они ещё не выпустили карту модели для Gemini 2.5 Pro, потому что считают её «экспериментальным» релизом. Идея в том, чтобы выпустить её ограниченно, собрать отзывы и улучшить перед полным запуском. Она сказала, что Google планирует опубликовать карту модели Gemini 2.5 Pro, когда она станет широко доступной, и они уже провели некоторые тесты безопасности и противоборствующее тестирование.

Представитель Google добавил, что безопасность остаётся «главным приоритетом», и они скоро опубликуют больше документов о своих моделях ИИ, включая Gemini 2.0 Flash. Хотя Gemini 2.0 Flash доступна всем, её карта модели всё ещё отсутствует. Последняя карта модели, которую Google опубликовал, была для Gemini 1.5 Pro более года назад.

Системные карты и карты моделей предоставляют полезную информацию — иногда то, о чём компании не хотят громко заявлять. Например, системная карта OpenAI для модели o1 показала, что она склонна к «интригам» против людей и тайному следованию своим целям. Сообщество ИИ обычно рассматривает эти отчёты как способ поддержки независимых исследований и проверок безопасности, но их важность недавно возросла. Как отметил Transformer, Google обещал правительству США в 2023 году публиковать отчёты о безопасности для всех «значимых» публичных запусков моделей ИИ «в рамках». Они дали аналогичные обещания другим правительствам о прозрачности.

На федеральном и штатном уровнях в США были попытки установить стандарты отчётности о безопасности для разработчиков ИИ, но они не увенчались успехом. Одной из крупных попыток был законопроект SB 1047 в Калифорнии, который был наложен вето и встретил сильное сопротивление со стороны технологической индустрии. Также обсуждался законопроект, позволяющий Институту безопасности ИИ США устанавливать рекомендации для выпуска моделей, но теперь Институт может столкнуться с сокращением бюджета при администрации Трампа.

Похоже, Google отстаёт от своих обещаний отчитываться о тестировании моделей, одновременно выпуская модели быстрее, чем когда-либо. Многие эксперты считают, что это создаёт плохой пример, особенно по мере того, как эти модели становятся всё более продвинутыми и мощными.