Тестирование ИИ-агентов смещается в сторону кодирования, игнорируя 92% рабочей силы

Совместное исследование Университета Карнеги-Меллона и Стэнфордского университета подчеркивает критическую «зависимость от пути» в текущем направлении развития ИИ-агентов. Результаты показывают, что существующие оценочные бенчмарки непропорционально сосредоточены на программировании, игнорируя нетехнические сектора, которые составляют 92% рабочей силы США.
Команда исследователей провела систематический анализ 72 000 задач в 43 известных ИИ-бенчмарках, сопоставив их с 1 016 профессиями, перечисленными в базе данных O*NET правительства США.
Ключевые дисбалансы, выявленные в обзоре:
«Слепые зоны» бенчмарков в цифровой индустрии: Хотя уровень цифровизации управленческих ролей составляет 88%, на них приходится лишь 1,4% текущих тестов ИИ-бенчмарков. Аналогично, юридические профессии с уровнем цифровизации 70% составляют всего 0,3% покрытия бенчмарков.
Значительное несоответствие навыков: Текущие оценки ИИ отдают приоритет навыкам «поиска информации» и «оперирования компьютером», которые составляют менее 5% рабочих мест в США. Напротив, «межличностное взаимодействие», являющееся жизненно важным компонентом реальной работы, практически отсутствует в существующих оценках ИИ.
«Снижение способности», обусловленное ростом сложности: Исследование показывает, что ИИ-агенты испытывают значительные трудности со сложными задачами. Даже в разработке программного обеспечения, их основной сильной стороне, уровень успеха резко падает по мере увеличения количества шагов задачи или усложнения логических требований.
Исследователи выступают за то, чтобы будущие ИИ-бенчмарки отдавали приоритет высокоценным, высокоцифровизированным секторам, таким как управление, право, строительство и инженерия. Кроме того, оценки должны оценивать промежуточные этапы выполнения, а не только конечные результаты, чтобы решать практические проблемы, такие как неоднозначные цели и расширенные циклы проверки.
Рыночные данные подтверждают эти выводы. Недавний анализ Anthropic показывает, что почти 50% вызовов его API по-прежнему сосредоточены на разработке программного обеспечения. Эксперты предупреждают, что если развитие ИИ продолжит отдавать приоритет легко оцениваемым задачам программирования, оно рискует упустить возможность продемонстрировать ценность производительности в более широком экономическом спектре.
Связанная статья
Stripe приобретет OpenRouter на фоне роста популярности маршрутизации на основе моделей искусственного интеллекта
Компания Stripe согласилась приобрести OpenRouter — платформу для маршрутизации моделей искусственного интеллекта, которая предоставляет разработчикам доступ к сотням моделей через единый интерфейс. Э
Бывший исследователь OpenAI Барретт Зоф возвращается в Google для участия в разработке Gemini
Баррет Зоф, который ранее внезапно уволился и перешел в OpenAI из-за разногласий с генеральным директором Thinking Machines Lab Мириам Муларати, вновь сменил работодателя. Компания Google, входящая в
Как компания Recursive Intelligence за 4 месяца привлекла 335 млн долларов при оценке в 4 млрд долларов
Соучредителям стартапа Ricursive Intelligence, похоже, было суждено стать соучредителями.Анна Голди, генеральный директор, и Азалия Мирхосейни, технический директор, настолько известны в сообществе сп
Рекомендации по связанным специальным темам
Комментарии (1)
Honestly, it's wild that AI testing is so obsessed with coding. I'm not a developer, yet my job involves 92% of the workforce's tasks! 🤷♂️ Why are we ignoring the rest of us? It feels like tech bros are building tools for themselves, not for everyone else. We need benchmarks that actually reflect real-world complexity, not just syntax errors. #AIforAll

Совместное исследование Университета Карнеги-Меллона и Стэнфордского университета подчеркивает критическую «зависимость от пути» в текущем направлении развития ИИ-агентов. Результаты показывают, что существующие оценочные бенчмарки непропорционально сосредоточены на программировании, игнорируя нетехнические сектора, которые составляют 92% рабочей силы США.
Команда исследователей провела систематический анализ 72 000 задач в 43 известных ИИ-бенчмарках, сопоставив их с 1 016 профессиями, перечисленными в базе данных O*NET правительства США.
Ключевые дисбалансы, выявленные в обзоре:
«Слепые зоны» бенчмарков в цифровой индустрии: Хотя уровень цифровизации управленческих ролей составляет 88%, на них приходится лишь 1,4% текущих тестов ИИ-бенчмарков. Аналогично, юридические профессии с уровнем цифровизации 70% составляют всего 0,3% покрытия бенчмарков.
Значительное несоответствие навыков: Текущие оценки ИИ отдают приоритет навыкам «поиска информации» и «оперирования компьютером», которые составляют менее 5% рабочих мест в США. Напротив, «межличностное взаимодействие», являющееся жизненно важным компонентом реальной работы, практически отсутствует в существующих оценках ИИ.
«Снижение способности», обусловленное ростом сложности: Исследование показывает, что ИИ-агенты испытывают значительные трудности со сложными задачами. Даже в разработке программного обеспечения, их основной сильной стороне, уровень успеха резко падает по мере увеличения количества шагов задачи или усложнения логических требований.
Исследователи выступают за то, чтобы будущие ИИ-бенчмарки отдавали приоритет высокоценным, высокоцифровизированным секторам, таким как управление, право, строительство и инженерия. Кроме того, оценки должны оценивать промежуточные этапы выполнения, а не только конечные результаты, чтобы решать практические проблемы, такие как неоднозначные цели и расширенные циклы проверки.
Рыночные данные подтверждают эти выводы. Недавний анализ Anthropic показывает, что почти 50% вызовов его API по-прежнему сосредоточены на разработке программного обеспечения. Эксперты предупреждают, что если развитие ИИ продолжит отдавать приоритет легко оцениваемым задачам программирования, оно рискует упустить возможность продемонстрировать ценность производительности в более широком экономическом спектре.
Stripe приобретет OpenRouter на фоне роста популярности маршрутизации на основе моделей искусственного интеллекта
Компания Stripe согласилась приобрести OpenRouter — платформу для маршрутизации моделей искусственного интеллекта, которая предоставляет разработчикам доступ к сотням моделей через единый интерфейс. Э
Бывший исследователь OpenAI Барретт Зоф возвращается в Google для участия в разработке Gemini
Баррет Зоф, который ранее внезапно уволился и перешел в OpenAI из-за разногласий с генеральным директором Thinking Machines Lab Мириам Муларати, вновь сменил работодателя. Компания Google, входящая в
Как компания Recursive Intelligence за 4 месяца привлекла 335 млн долларов при оценке в 4 млрд долларов
Соучредителям стартапа Ricursive Intelligence, похоже, было суждено стать соучредителями.Анна Голди, генеральный директор, и Азалия Мирхосейни, технический директор, настолько известны в сообществе сп
Honestly, it's wild that AI testing is so obsessed with coding. I'm not a developer, yet my job involves 92% of the workforce's tasks! 🤷♂️ Why are we ignoring the rest of us? It feels like tech bros are building tools for themselves, not for everyone else. We need benchmarks that actually reflect real-world complexity, not just syntax errors. #AIforAll





Дом






