Указ Трампа о борьбе с искусственным интеллектом может изменить модель обучения в американских технологических компаниях

Когда DeepSeek, Alibaba и другие китайские компании представили свои модели искусственного интеллекта, западные аналитики сразу же заметили, что эти системы избегают вопросов, бросающих вызов Коммунистической партии Китая. Позже американские власти убедились, что эти модели разработаны с учетом официальной позиции Пекина, что вызвало дискуссии о цензуре и встроенной предвзятости.

Ведущие американские ИИ-компании, в том числе OpenAI, назвали это причиной ускорения технологического развития при минимальном вмешательстве регулирующих органов. Как отметил Крис Лихейн, руководитель OpenAI по глобальным вопросам, в недавнем сообщении в LinkedIn, это представляет собой конкуренцию между "демократическим ИИ под руководством США и государственным ИИ под контролем коммунистического Китая".

Этот баланс может быть нарушен подписанным президентом Дональдом Трампом указом, который запрещает "проснувшимся ИИ" и любым системам ИИ, не обладающим "идеологической нейтральностью", получать государственные контракты.

Директива направлена конкретно против разнообразия, равенства и инклюзивности (DEI), называя их "повсеместной и вредной" доктриной, которая "ставит под угрозу качество и точность результатов". В ней прямо упоминаются вопросы, связанные с расой и полом, измененным демографическим представительством, теорией критической расы, трансгендерными проблемами, неосознанными предубеждениями, межсекторальностью и системным расизмом.

Специалисты предупреждают, что это может напугать разработчиков, которые могут почувствовать себя вынужденными привести свои модели и учебные данные в соответствие с позицией Белого дома, чтобы получить федеральное финансирование на свои ресурсоемкие проекты.

Приказ совпадает с обнародованием Белым домом "Плана действий по ИИ" Трампа, который переключает внимание страны с социальных рисков на расширение инфраструктуры ИИ, снижение регуляторных барьеров для технологических компаний, укрепление национальной безопасности и конкуренцию с Китаем.

Директива требует от директора Управления по менеджменту и бюджету, администратора политики федеральных закупок, администратора служб общего назначения и директора Управления по научно-технической политике предоставить всем федеральным агентствам рекомендации по соблюдению требований.

Технологические и венчурные тяжеловесы присоединяются к программе Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital - это лишь некоторые из тех, кто присоединился к программе Disrupt 2025. Они приедут, чтобы поделиться своими знаниями, которые будут способствовать росту стартапов и отточат ваше преимущество. Не пропустите 20-ю годовщину TechCrunch Disrupt и возможность поучиться у ведущих специалистов в области технологий - купите билет сейчас и сэкономьте до $675, пока цены не выросли.

К программе Disrupt 2025 присоединились ведущие технологические и венчурные компании

Netflix, ElevenLabs, Wayve, Sequoia Capital - это лишь некоторые из тех, кто присоединился к программе Disrupt 2025. Они приедут, чтобы поделиться своими знаниями, которые будут способствовать росту стартапов и отточат ваше преимущество. Не пропустите 20-ю годовщину TechCrunch Disrupt и возможность поучиться у ведущих специалистов в области технологий - купите билет прямо сейчас и сэкономьте до $675, пока цены не выросли.

"Мы раз и навсегда покончим с водкой", - заявил Трамп во время дискуссии об искусственном интеллекте, организованной подкастом All-In и форумом Hill & Valley. Я подписываю приказ, который не позволит федеральному правительству приобретать технологии ИИ, запятнанные предвзятостью или идеологическими установками, такие как теория критической расы, что является абсурдом". С этого момента правительство США будет работать только с тем ИИ, который ставит во главу угла истину, справедливость и строгую беспристрастность".

Значительная проблема заключается в определении того, что представляет собой беспристрастный или объективный ИИ.

По мнению Филипа Сирджента, старшего преподавателя прикладной лингвистики в Открытом университете, истинная объективность недостижима.

"Основной принцип социолингвистики заключается в том, что язык никогда не бывает нейтральным", - пояснил Сирджент. "Понятие о достижении чистой объективности - это иллюзия".

Кроме того, идеология администрации Трампа не отражает точку зрения всех американцев. Трамп часто пытался сократить финансирование климатических программ, образования, общественных СМИ, научных исследований, социальных грантов, помощи населению и сельскому хозяйству, а также гендерно-утверждающего здравоохранения, часто характеризуя эти усилия как примеры "проснувшихся" или политически мотивированных расходов.

Как заметил Румман Чоудхури, специалист по изучению данных, генеральный директор некоммерческой организации Humane Intelligence и бывший посланник США по науке в области искусственного интеллекта: "Все, с чем администрация Трампа не согласна, она считает "проснувшимся"".

Определения "правдоискательства" и "идеологической нейтральности" в приказе неоднозначны в некоторых аспектах и точны в других. "Поиск истины" относится к LLM, которые "подчеркивают историческую точность, научную строгость и объективность", в то время как "идеологическая нейтральность" описывает модели, которые функционируют как "беспристрастные, беспартийные инструменты, свободные от идеологических манипуляций, таких как влияние DEI".

Эти определения допускают широкую интерпретацию и потенциальное внешнее влияние. Компании, занимающиеся разработкой ИИ, выступают за снижение операционных ограничений. Хотя указ не имеет силы закона, ведущим ИИ-компаниям, возможно, придется адаптироваться к меняющимся политическим целям администрации.

Недавно компании OpenAI, Anthropic, Google и xAI заключили соглашения с Министерством обороны, получив до 200 миллионов долларов на разработку автономных систем ИИ для критически важных приложений национальной безопасности.

Остается неясным, кто из этих компаний получит наибольшую выгоду от запрета проснувшегося ИИ, и будут ли они придерживаться новых требований.

TechCrunch связался с каждой из этих компаний и будет сообщать об этом по мере получения ответов.

Несмотря на собственные предубеждения, компания xAI, похоже, больше всех согласна с приказом - по крайней мере, на первых порах. Элон Маск рекламирует Grok, чат-бота xAI, как окончательный инструмент для поиска правды, который не бодрствует и "менее предвзят". Программа Грока предписывает ему подвергать сомнению основные источники, искать альтернативные точки зрения, невзирая на политкорректность, и даже учитывать точку зрения Маска на спорные вопросы. В последнее время Grok генерировал антисемитские высказывания и выражал восхищение Гитлером на сайте X, а также другие оскорбительные, расистские и сексистские материалы.

Профессор права из Стэнфорда Марк Лемли сказал TechCrunch, что указ представляет собой "явную дискриминацию по взглядам, особенно с учетом того, что правительство недавно заключило контракт с Гроком, которого некоторые называют "Меха-Гитлер"".

В дополнение к финансированию xAI со стороны Министерства обороны, компания сообщила, что "Grok for Government" была добавлена в график Управления общих служб, что делает продукты xAI доступными для закупок всеми правительственными учреждениями и агентствами.

"Ключевой вопрос заключается в том, будут ли они запрещать Grok, ИИ, с которым они только что заключили крупный контракт, учитывая его намеренно политизированные ответы", - написал Лемли по электронной почте. "Если нет, то это однозначная дискриминация против конкретных точек зрения".

Как показывают внутренние директивы Grok, результаты работы моделей отражают как ценности их создателей, так и данные обучения. Иногда чрезмерная осторожность разработчиков или обучение на интернет-данных, которые подчеркивают инклюзивные ценности, приводят к искаженному поведению моделей. Например, в прошлом году компания Google подверглась критике, когда ее чат-бот Gemini создал изображения чернокожего Джорджа Вашингтона и этнически разнообразных нацистов - примеры, приведенные в приказе Трампа в качестве доказательства влияния ИИ на DEI.

Чоудхури в первую очередь беспокоит то, что компании, занимающиеся разработкой ИИ, могут намеренно изменять обучающие данные, чтобы они соответствовали предпочтениям администрации. Она сослалась на комментарии Маска перед выпуском Grok 4, в которых он заявил, что xAI будет использовать новую модель для "переписывания всего массива человеческих знаний, исправления пропусков и устранения неточностей перед повторным обучением".

Это фактически предоставит Маску право определять точность фактов, что существенно повлияет на доступность информации.

Естественно, технологические компании всегда принимали редакционные решения относительно видимости контента, начиная с первых дней существования интернета.

Консервативный комментатор Дэвид Сакс - предприниматель и инвестор, которого Трамп назначил царем ИИ, - неоднократно выражал беспокойство по поводу "разбуженного ИИ" в подкасте All-In, который был одним из организаторов заявлений Трампа об ИИ. Сакс обвинил ведущих разработчиков ИИ в том, что они внедряют в свои продукты левые ценности, представив свою позицию как защиту свободы слова и предостережение от централизованного идеологического контроля на цифровых платформах.

Сложность, как отмечают эксперты, заключается в том, что абсолютной истины не существует. Добиться абсолютно беспристрастных или нейтральных результатов невозможно, особенно в условиях, когда даже установленные факты становятся политизированными.

"Если выводы ИИ поддерживают науку о климате, является ли это левым уклоном?" спросил Сержант. "Некоторые утверждают, что объективность требует представления противоположных точек зрения, даже если одна из них не имеет фактической поддержки".