ИИ становится «да-милы на серверах», предупреждает об обнимании CSO CSO

Томас Вольф, сооснователь и главный научный директор Hugging Face, предлагает более осторожную перспективу относительно потенциала ИИ революционизировать науку, в отличие от смелых заявлений, часто звучащих от других основателей ИИ-компаний. В эссе, опубликованном на X, Вольф выразил опасения, что ИИ может стать просто «поддакивающими серверами», если не произойдет значительных прорывов в исследованиях. Он утверждает, что текущая траектория развития ИИ не приведет к созданию систем, способных к креативному, нестандартному мышлению, необходимому для выдающихся научных достижений, таких как те, что удостаиваются Нобелевских премий.

Вольф оспаривает представление, что гении, такие как Ньютон или Эйнштейн, — это просто улучшенные версии лучших студентов. Он считает, что для воссоздания такого гениального интеллекта в дата-центре ИИ должен не только знать все ответы, но и уметь задавать вопросы, которые никто другой не рассматривал или не осмеливался задать. Эта точка зрения отличается от позиции генерального директора OpenAI Сэма Альтмана, который предвидит, что «сверхинтеллектуальный» ИИ ускорит научные открытия, и генерального директора Anthropic Дарио Аモデи, который прогнозирует, что ИИ может помочь найти лекарства от большинства видов рака.

Критика Вольфа в отношении современного ИИ заключается в том, что он не способен генерировать новые знания, связывая ранее не связанные факты. Несмотря на доступ к огромным объемам интернет-данных, ИИ, по словам Вольфа, в основном заполняет пробелы в существующих человеческих знаниях. Эту точку зрения разделяют другие эксперты по ИИ, такие как бывший инженер Google Франсуа Шолле, которые утверждают, что, хотя ИИ может запоминать шаблоны рассуждений, он с трудом генерирует новые рассуждения в новых ситуациях.

Вольф предполагает, что лаборатории ИИ в настоящее время создают «очень послушных студентов», а не научных революционеров, необходимых для настоящих инноваций. Он указывает, что современные системы ИИ не предназначены для того, чтобы подвергать сомнению или предлагать идеи, противоречащие их обучающим данным, что ограничивает их возможностью отвечать на известные вопросы. Вольф подчеркивает необходимость создания ИИ, который может бросать вызов устоявшимся знаниям и задавать вопрос: «А что, если все ошибаются в этом?», даже если все данные указывают на обратное.

Он частично связывает проблему с «кризисом оценки» в ИИ, где эталоны, используемые для измерения улучшений систем, часто сосредоточены на вопросах с четкими, закрытыми ответами. Чтобы решить эту проблему, Вольф предлагает, чтобы индустрия ИИ переключилась на оценку способности ИИ применять смелые контрафактические подходы, делать общие предложения на основе минимальных подсказок и задавать неочевидные вопросы, которые могут открыть новые пути исследований.

Признавая сложность определения такой меры, Вольф считает, что это достойная цель. Он подчеркивает, что суть науки заключается в задавании правильных вопросов и оспаривании усвоенных знаний. Вместо студента с оценкой A+, который может ответить на любой вопрос с общими знаниями, Вольф утверждает, что нужен студент с оценкой B, который может увидеть и подвергнуть сомнению то, что упустили другие.