США, ученые, приглашенные Open AI и Anpropic для экспериментов с пограничными моделями

Расширение партнерства в области ИИ между технологическими гигантами и правительством США

Ландшафт разработки ИИ стремительно меняется, при этом крупные компании в области ИИ, такие как Anthropic и OpenAI, углубляют свои связи с правительством США. На фоне продолжающихся неопределенностей в отношении безопасности и регулирования ИИ эти сотруднические отношения усиливаются, подчеркивая нарастающую зависимость правительства от передовых технологий ИИ для научного прогресса.

В минувшую пятницу уникальное событие под названием AI Jam Session, организованное OpenAI, собрало 1000 ученых из девяти различных лабораторий. Это мероприятие стало платформой для исследователей, чтобы тестировать и изучать возможности нескольких продвинутых моделей ИИ, включая o3-mini от OpenAI и новейшую модель Anthropic — Claude 3.7 Sonnet. Сессия была посвящена не только демонстрации технологий; она предоставила ученым возможность использовать ИИ для расширения границ своих исследований.

Anthropic подчеркнула, что это событие стало важным шагом в оценке роли ИИ в научных исследованиях, заявив, что оно обеспечивает "более достоверную оценку потенциала ИИ в управлении сложностями и нюансами научного поиска". Основное внимание уделялось тому, как ИИ может справляться со сложными научными задачами, которые традиционно требуют значительного времени и ресурсов.

Углубление связей с государственными агентствами

AI Jam Session является частью более широких соглашений между этими гигантами ИИ и государственными структурами США. Например, в апреле Anthropic объединила усилия с Министерством энергетики (DOE) и Национальной администрацией по ядерной безопасности (NNSA) для тщательного тестирования Claude 3 Sonnet на предмет потенциальных рисков, связанных с ядерной информацией. Аналогично, 30 января OpenAI объявила о сотрудничестве с Национальными лабораториями DOE для улучшения научных исследований с использованием их новейших моделей ИИ.

Национальные лаборатории DOE, сеть из 17 исследовательских центров по всей территории США, играют ключевую роль в изучении таких важных областей, как ядерная безопасность и климатические решения. Ученых, участвовавших в этих сессиях, призывали предоставлять обратную связь, которая могла бы повлиять на разработку будущих систем ИИ для лучшего соответствия научным потребностям. OpenAI подчеркнула, что выводы из сессии будут переданы для более эффективного использования ИИ учеными.

Более широкие последствия и государственные инициативы

Партнерство OpenAI с Национальными лабораториями охватывает различные области, от ускорения лечения и профилактики заболеваний до укрепления кибер- и ядерной безопасности, изучения возобновляемых источников энергии и продвижения исследований в области физики. Наряду с этими усилиями такие инициативы, как ChatGPT Gov, специализированный чат-бот для государственных агентств, и Project Stargate, масштабный план инвестиций в центры обработки данных, подчеркивают нарастающую интеграцию ИИ в государственные операции.

Эти сотрудничества намекают на сдвиг в стратегии США в области ИИ, особенно при администрации Трампа, которая, похоже, отходит от строгих мер безопасности и регулирования. Недавние сокращения штата в Институте безопасности ИИ и отставка его руководителя свидетельствуют о снижении приоритета надзора за безопасностью. План действий администрации в области ИИ остается необъявленным, что оставляет будущее регулирования ИИ неопределенным.

По мере того как такие партнерства становятся все более распространенными, существует риск еще меньшего контроля за безопасностью и мощностью новых моделей ИИ. С ускорением темпов внедрения ИИ и все еще зарождающимся регулированием в США баланс между инновациями и безопасностью становится все более хрупким.