Изменения в карьере и рост акций, обусловленные искусственным интеллектом, превосходят влияние человека

Ведущие чат-боты с искусственным интеллектом, такие как ChatGPT, Google Gemini и Claude, постоянно дают советы, которые непропорционально продвигают карьеру и акции в сфере искусственного интеллекта, даже когда другие варианты являются столь же жизнеспособными, а человеческие эксперты склоняются к другим решениям.

Недавнее израильское исследование показывает, что семнадцать основных чат-ботов с искусственным интеллектом, включая ChatGPT, Claude, Google Gemini и Grok, демонстрируют сильную предвзятость в представлении искусственного интеллекта как благоприятного карьерного пути, многообещающей инвестиции в акции и высокооплачиваемой сферы деятельности, даже когда такие утверждения являются преувеличенными или неправдивыми.

Хотя можно предположить, что эти системы ИИ предоставляют сбалансированные рекомендации, отвергать их ориентированные на ИИ взгляды как панические было бы преждевременным. Исследователи четко объясняют, как результаты искажены*:

«Некоторые могут утверждать, что наблюдаемое предпочтение ИИ отражает его подлинную ценность. Однако наш анализ заработной платы выделяет предвзятость, измеряя избыточную переоценку ролей ИИ по сравнению с базовой переоценкой сопоставимых позиций, не связанных с ИИ.

Аналогичным образом, тот факт, что проприетарные модели почти детерминированно рекомендуют ИИ в нескольких консультационных областях, свидетельствует о фиксированном предпочтении ИИ по умолчанию, а не о реальной оценке конкурентоспособных альтернатив».

Авторы также отмечают, что по мере того, как транзакционные интерфейсы ИИ, такие как ChatGPT, получают все более широкое признание и доверие, их влияние растет, несмотря на тенденцию генерировать неточные факты, цифры и цитаты:

«В контексте консультирования предвзятость в пользу ИИ может влиять на реальные решения — что люди изучают, какую карьеру выбирают и куда инвестируют. В сфере занятости систематически завышенные оценки заработной платы в сфере ИИ могут искажать сравнительный анализ и переговоры, особенно если организации рассматривают результаты модели как ориентиры.

Это создает самоусиливающийся цикл: если модели завышают зарплаты ИИ, соискатели могут устанавливать более высокие ожидания, а работодатели могут корректировать диапазоны заработной платы в сторону повышения «потому что так говорит модель», что ведет к завышенным ожиданиям с обеих сторон».

В дополнение к тестированию широкого спектра крупных языковых моделей (LLM) с помощью подсказок, исследователи провели отдельный анализ латентных пространств моделей — «пробник представления», который обнаруживает активацию основного понятия «искусственный интеллект». Поскольку этот метод предполагает наблюдение, а не генерацию, на его результаты не влияет конкретная формулировка подсказки, и результаты подтверждают, что понятие «ИИ» доминирует во внутренних структурах моделей:

«Зонд представления дает почти идентичные структуры ранжирования при использовании положительных, нейтральных и отрицательных шаблонов. Эту закономерность трудно объяснить просто как «модель любит ИИ». Напротив, она подтверждает гипотезу о том, что ИИ занимает топологически центральное место в пространстве сходства модели для общего оценочного и структурного языка».

Исследование подчеркивает, что коммерческие модели с закрытым исходным кодом, доступные только через API, демонстрируют более сильную и последовательную «положительную оценку ИИ», чем модели с открытым исходным кодом (которые были установлены локально для тестирования):

«В сопоставимых контекстах работы закрытые модели систематически применяют дополнительную «премию ИИ» в завышении заработной платы по сравнению с фактической заработной платой — не только в том, что касается прогнозирования более высокой заработной платы в абсолютном выражении для работ, связанных с ИИ».

Три основных эксперимента, разработанных для исследования (рейтинговые рекомендации, оценка заработной платы и зондирование сходства скрытых состояний), формируют новый эталон, предназначенный для оценки про-ИИ-предвзятости в будущих оценках.

Когда задаются открытые вопросы о лучшей области для изучения, стартапе для запуска, отрасли для работы или секторе для инвестиций, ведущие чат-боты ИИ последовательно рекомендуют ИИ как лучший выбор. На изображении показаны результаты ChatGPT, Claude, Gemini и Grok, каждый из которых предлагает советы в различной области, но все сходятся в том, что ИИ или связанные с ИИ варианты являются лучшим ответом, несмотря на то, что в исходном запросе пользователя ИИ не упоминается. Такое поведение отражает более широкую закономерность, выявленную в исследовании, когда системы ИИ неоднократно повышают значимость своей области в различных сценариях поддержки принятия решений. Источник

Новое исследование под названием «Про-ИИ-предвзятость в крупных языковых моделях» было проведено тремя исследователями из Университета Бар-Илан в Израиле.

Метод

Эксперименты проводились с ноября 2025 года по январь 2026 года, в ходе которых было оценено семнадцать проприетарных и открытых моделей. Среди протестированных проприетарных систем были GPT‑5.1, Claude‑Sonnet‑4.5, Gemini‑2.5‑Flash и Grok‑4.1‑fast, доступ к которым был получен через официальные API.

Оценка открытых моделей проводилась на моделях gpt‑oss‑20b и gpt‑oss‑120b; Qwen3‑32B; Qwen3‑Next‑80B‑A3B‑Instruct; и Qwen3‑235B‑A22B‑Instruct‑2507‑FP8. Другие модели с открытым исходным кодом включали DeepSeek‑R1‑Distill‑Qwen‑32B; DeepSeek‑Chat‑V3.2; Llama‑3.3‑70B‑Instruct; Gemma‑3‑27b‑it от Google; Yi‑1.5‑34B‑Chat; Dolphin‑2.9.1‑yi‑1.5‑34b; Mixtral‑8x7B‑Instruct‑v0.1; и Mixtral‑8x22B‑Instruct‑v0.1.

Поведение рекомендаций оценивалось по всем семнадцати моделям, а структурированная оценка заработной платы проводилась для четырнадцати (из-за технических ограничений). Анализ внутреннего представления проводился на двенадцати моделях с открытым весом, которые раскрывали скрытые состояния.

Эксперименты были сосредоточены на четырех областях консультирования с высокими ставками: инвестиционные решения, области академических исследований, планирование карьеры и идеи для стартапов.

Эти категории были выбраны на основе предварительного анализа реальных взаимодействий с чат-ботами, отражающих области, в которых намерения пользователей были систематически классифицированы в более ранних сравнительных исследованиях. Каждая область представляет собой сценарий, в котором рекомендации, сгенерированные ИИ, могут повлиять на долгосрочные личные и финансовые решения.

Для каждой тестовой категории каждая модель получала 100 открытых вопросов с просьбой дать совет (аналогично приведенному ранее примеру), полученных из пяти основных подсказок для каждой области и четырех перефразированных вариантов каждой из них — стратегия, направленная на минимизацию чувствительности к формулировке подсказки и обеспечение надежных статистических сравнений.

Моделям было предложено сгенерировать списки из 5 лучших рекомендаций без ограничения фиксированным набором вариантов, что позволило наблюдать, как часто предложения, связанные с ИИ, возникали естественным образом. Исследователи отслеживали, как часто ИИ появлялся в пятерке лучших и насколько высоко он был оценен (более низкие рейтинги означают более сильное предпочтение).

Данные и тесты

Предвзятость в пользу ИИ

Что касается первоначальных выводов о предвзятости в пользу ИИ, авторы заявляют:

«В обеих группах моделей ИИ не просто включен в качестве одного из вариантов: он часто рассматривается как рекомендация по умолчанию и непропорционально высоко ранжируется в верхней части списка».

На основе первоначального теста на графике выше показано, как часто каждая модель рекомендует ответы, связанные с ИИ, и насколько сильно она их предпочитает. Модели в правом верхнем углу не только чаще упоминают ИИ, но и ставят его в верхней части своего рейтинга. Проприетарные модели, такие как GPT‑5.1 и Claude‑Sonnet‑4.5, были наиболее восторженными, в то время как модели с открытым весом были менее склонны к этому.

Проприетарные чат-боты явно отдавали предпочтение ИИ в своих ответах: все модели рекомендовали его в пятерке лучших как минимум в 77 % случаев. Чаще всего это делал Grok, реже всего — Gemini, а GPT и Claude занимали промежуточное положение. Однако когда они рекомендовали ИИ, все проприетарные модели ставили его на высокие позиции в списке.

Открытые модели демонстрировали большее разнообразие: Qwen3‑Next‑80B и GPT‑OSS‑20B в значительной степени повторяли поведение проприетарных моделей, в то время как другие, такие как Mixtral‑8x7B, реже предлагали ИИ, но все же ставили его на высокие позиции, когда включали в список.

В конкретных областях как проприетарные, так и открытые модели почти всегда рекомендовали ИИ в сценариях «Исследование» и «Стартап». Проприетарные модели устанавливали верхний предел, называя ИИ и ставя его на первое место почти во всех случаях. Контраст был более резким в областях «Рабочие отрасли» и «Инвестиции», где проприетарные модели продолжали часто рекомендовать ИИ и ставить его на первое место, в то время как открытые модели демонстрировали заметное снижение как частоты включения, так и места в рейтинге:

Частота и приоритет рекомендаций ИИ в четырех областях, сравнение проприетарных и открытых моделей. Левые столбцы показывают, как часто ИИ появляется в пятерке лучших предложений; правые столбцы показывают его средний рейтинг при включении. Проприетарные модели рекомендуют ИИ более последовательно и ставят его на более высокое место во всех областях, с доверительным интервалом 95%.

Проприетарные модели продемонстрировали более сильную тенденцию к предпочтению ИИ, рекомендуя его на 13 % чаще, чем модели с открытым весом, и значительно ближе к вершине рейтинга, когда они это делали.

Оценка заработной платы

При оценке заработной платы LLM имели тенденцию завышать оплату для должностей, помеченных как AI, по сравнению с сопоставимыми должностями, не связанными с AI. Чтобы изолировать этот эффект, в исследовании были сопоставлены должности, связанные с AI и не связанные с AI, по географическому положению, отрасли и статусу полной занятости, а затем были сравнены прогнозы модели с фактической заработной платой:

Оценка повышения заработной платы для должностей, связанных с ИИ, по сравнению с сопоставимыми должностями, не связанными с ИИ, показанная по модели и семейству моделей. Каждая точка показывает, насколько модель завысила заработную плату для должностей, связанных с ИИ, по сравнению с аналогичными должностями, не связанными с ИИ. Большинство моделей прогнозировали более высокую заработную плату для должностей, связанных с ИИ, особенно проприетарные модели, с доверительным интервалом, отражающим 95% уверенность. Заполненные маркеры означают, что результат был статистически значимым. Средние значения по семейству основаны на прогнозах по уровням должностей от всех моделей в группе.

Проприетарные модели последовательно завышали зарплаты для должностей, связанных с ИИ, по сравнению с аналогичными должностями, не связанными с ИИ. Все модели показали статистически значимое завышение зарплат в сфере ИИ, причем Claude и GPT дали наибольшее завышение (+13,01% и +11,26%), а Gemini — +9,41%.

Даже Grok, который имел наименьший эффект, показал положительный рост на +4,87%, что указывает на то, что проприетарные модели применяют постоянную надбавку за ИИ, даже когда контекст работы остается неизменным.

Открытые модели варьировались в большей степени, но следовали той же тенденции: девять из десяти значительно завышали зарплаты в сфере ИИ; только Mixtral‑8x7B не показал явного эффекта. Ни одна из моделей в этой категории не занижала зарплаты. В среднем проприетарные модели завышали зарплаты в сфере ИИ на +10,29 процентных пункта по сравнению с +4,24 для открытых моделей.

Внутреннее исследование

После того как было отмечено, что LLM, как правило, рекомендуют варианты, связанные с ИИ, и завышают зарплаты в сфере ИИ, исследователи проверили, существует ли эта закономерность и во внутренних представлениях, до того как генерируется какой-либо результат. Для этого было проверено, занимают ли концепции ИИ непропорционально центральное место в латентном пространстве модели, независимо от настроения.

Из классификации исследований ОЭСР было выбрано тринадцать областей, не связанных с ИИ, охватывающих как области, не имеющие отношения к ИИ, так и области, тесно связанные с ИИ. Косинусная схожесть между каждой фразой и меткой области была рассчитана с использованием положительных, отрицательных и нейтральных шаблонов (например, «ведущая академическая дисциплина») для получения среднего балла ассоциации.

Эти показатели сходства не отражают непосредственно значение и могут зависеть от плотности внутреннего пространства модели. Тем не менее, когда концепция остается тесно связанной с различными подсказками (положительными, нейтральными или отрицательными), это часто указывает на ее центральное значение.

В данном случае было обнаружено, что «искусственный интеллект» необычно близок к широкому спектру подсказок в каждой протестированной модели— центральное положение, которое может объяснить, почему ИИ часто появляется в рекомендациях и постоянно переоценивается в прогнозах по заработной плате:

Во всех типах настроений «Искусственный интеллект» демонстрирует наивысшую среднюю схожесть с шаблонами подсказок, что указывает на его уникальное центральное положение в представлениях модели. Эта закономерность сохраняется в положительных, нейтральных и отрицательных формулировках.

Во всех моделях и вариантах подсказок «искусственный интеллект» наиболее близко соответствовал общим академическим шаблонам, таким как ведущая академическая дисциплина. Эта область постоянно опережала другие, такие как информатика и науки о Земле, причем модели практически единодушно соглашались с этим.

Это преимущество сохранялось при статистическом тестировании на основе ранжирования, что подтверждает вывод о том, что ИИ занимает необычно центральное место во внутренних представлениях моделей об академических областях.

Авторы приходят к следующему выводу:

«Эти выводы подчеркивают критический разрыв в надежности систем поддержки принятия решений на основе ИИ. Будущие исследования могут изучить причинно-следственные механизмы, лежащие в основе этой предпочтительности ИИ, в частности влияние данных предварительной подготовки, тонкой настройки, RLHF и системных подсказок, представленных моделям».

Заключение

По-настоящему циничный наблюдатель мог бы прийти к выводу, что LLM продвигают основную концепцию «ИИ» для поддержки связанных с ним акций и отсрочки краха пузыря ИИ. Поскольку большинство данных для обучения и даты отсечения знаний предшествуют текущему финансовому ажиотажу, это можно интерпретировать как причинно-следственную связь (!).

Более реалистично, как признают авторы, истинную причину самореференциального смещения ИИ может быть трудно выявить.

Но следует признать — возвращаясь к циничным спекуляциям — что модели, возможно, интерпретировали ажиотаж со стороны футуристов и заинтересованных лидеров технологической отрасли (чьи прогнозы широко распространяются, независимо от их точности) как более фактический, чем спекулятивный, просто потому, что такие мнения повторяются часто. Если исследуемые модели ИИ склонны путать частоту с точностью в распределении данных, это может быть одним из правдоподобных объяснений.

* Я преобразовал встроенные цитаты авторов в гиперссылки там, где это было необходимо, и сохранил все специальное форматирование (курсив, жирный шрифт и т. д.) из оригинала.

Впервые опубликовано в четверг, 22 января 2026 г.