Ай не готов как «ко-научный», говорят эксперты

Google недавно представила свой «AI Co-Scentist», инструмент ИИ, предназначенный для того, чтобы помочь ученым генерировать гипотезы и планы исследований. Компания раскрутила его как изменение игры для раскрытия новых знаний, но эксперты скептически относятся к его реальному воздействию.

«Этот предварительный инструмент, хотя и интересный, вряд ли будет серьезно использован», - сказала Сара Бери, исследователь компьютерного зрения в MIT, в интервью TechCrunch. «Я не уверен, что существует спрос на систему генерации гипотез от научного сообщества».

Google-это только последний технический гигант, который утверждает, что ИИ будет революционизировать научные исследования, особенно в тяжелых данных, таких как биомедицина. Генеральный директор Openai Сэм Альтман написал в эссе ранее в этом году, что «Superintelligent» ИИ может «массово ускорить научные открытия и инновации». Точно так же генеральный директор Anpropic Дарио Амодеей предсказал, что ИИ может помочь разработать лекарства от большинства видов рака.

Тем не менее, многие исследователи считают, что сегодняшние инструменты ИИ не соответствуют этим амбициозным утверждениям. Они утверждают, что такие приложения, как Co-Sceentist Google, больше связаны с ажиотажем, чем содержанием, не имеющим эмпирических данных, чтобы подтвердить обещания.

Например, в блоге Google в блоге Google AI Co-Seceedist хвастался своим потенциалом в перепрофилировании лекарств для острой миелоидной лейкозы, типа рака крови, который влияет на костный мозг. Тем не менее, результаты были настолько расплывчатыми, что «ни один законный ученый не воспримет их всерьез», по словам Фавии Дубик, патолога в Северо-западном медицинском центре Туксона в Аризоне.

«Это может быть хорошей отправной точкой для исследователей, но отсутствие деталей вызывает беспокойство и не дает мне доверять», - сказал Дубик TechCrunch. «Отсутствие предоставленной информации затрудняет понимание, может ли это действительно быть полезно».

Это не первый случай, когда Google сталкивается с критикой со стороны научного сообщества за продвижение прорыва AI, не предоставляя достаточно деталей для других, чтобы воспроизвести результаты.

Еще в 2020 году Google утверждал, что одна из ее систем ИИ, обученная обнаружению опухолей молочной железы, опережала рентгенологов человека. Но исследователи из Гарварда и Стэнфорда опубликовали опровержение по своей природе, утверждая, что отсутствие подробных методов и кода в исследовании Google «подорвало ее научную ценность».

Ученые также критиковали Google за преуменьшение ограничений своих инструментов ИИ в таких областях, как Materials Engineering. В 2023 году компания утверждала, что около 40 «новых материалов» были синтезированы с помощью своей системы ИИ, GNOME. Однако независимый анализ показал, что ни один из этих материалов не был на самом деле новым.

«Мы по-настоящему не поймем сильные стороны и ограничения таких инструментов, как Google« Соучительский », пока они не пройдут строгую, независимую оценку между различными научными дисциплинами»,-сказала Ашек Худабушш, доцент кафедры разработки программного обеспечения в Рочестерском технологическом институте, в интервью TechCrunch. «ИИ часто хорошо работает в контролируемых средах, но может терпеть неудачу при применении в масштабе».

Сложные процессы

Разработка инструментов искусственного интеллекта для помощи научным открытиям является сложно, потому что трудно предсказать все факторы, которые могут бросить гаечный ключ. ИИ может быть полезен для просмотра огромного списка возможностей, но менее ясно, может ли он справиться с творческим решением проблем, что приводит к серьезным прорывам.

«На протяжении всей истории мы видели, что некоторые из наиболее важных научных достижений, такие как развитие вакцин против мРНК, были обусловлены человеческой интуицией и настойчивостью перед лицом скептицизма», - сказал Худабухш. «ИИ, как это существует сегодня, может быть не подходит для воспроизведения».

Лана Синапайен, исследователь искусственного интеллекта в Laboratories Sony Commorting Science в Японии, считает, что такие инструменты, как Co-Sceentist Google, сосредоточены на неправильных аспектах научной работы.

Sinapayen видит ценность в ИИ, которая может автоматизировать утомительные задачи, такие как суммирование новой академической литературы или форматирования грантов. Но она утверждает, что существует мало требований к соучредителям ИИ, который генерирует гипотезы, задачу, которую многие исследователи считают интеллектуально полезным.

«Для многих ученых, в том числе и я, генерирование гипотез - самая забавная часть работы», - сказал Синапайен TechCrunch. «Зачем мне захотеть передать свое развлечение на компьютер, а затем остаться только с трудной работой, чтобы сделать сам? В общем, многие генеративные исследователи ИИ, кажется, неправильно понимают, почему люди делают то, что они делают, и мы заканчиваем предложениями о продуктах, которые автоматизируют самую роль, от которой мы получаем радость».

Beery отметил, что самой сложной частью научного процесса часто является проектирование и реализацию исследований для проверки гипотез, с которыми борются современные системы ИИ. ИИ не может физически проводить эксперименты, и он часто борется с проблемами, когда данные мало.

«Большинство науки невозможно сделать полностью практически - часто существует значительный компонент научного процесса, который является физическим, таким как сбор новых данных и проведение экспериментов в лаборатории», - сказал Бери. «Одним из больших ограничений таких систем, как Co-Sceensist AI, относительно фактического научного процесса, который определенно ограничивает его удобство использования, является контекст о лаборатории и исследователе, использующих систему, и их конкретные цели исследования, их прошлая работа, их набор навыков и ресурсы, к которым они имеют доступ».

ИИ риски

Технические ограничения и риски ИИ, такие как его тенденция «галлюцинировать» или генерировать ложную информацию, заставляют ученых осторожны с тем, чтобы полагаться на нее для серьезной работы.

Худабухш обеспокоен тем, что инструменты ИИ могут затопить научную литературу шумом, а не повысить прогресс.

Это уже происходит. Недавнее исследование показало, что сгенерированная AI «Junk Science» наводнит Google Scholar, бесплатную поисковую систему Google для научной литературы.

«Исследование, сгенерированное AI, если не тщательно контролироваться, может затопить научное поле более качественными или даже вводящими в заблуждение исследованиями, подавляя процесс обзора свервения»,-сказал Худабухш. «Забитый процесс пересмотра сверстников уже является проблемой в таких областях, как компьютерные науки, где на высших конференциях наблюдается экспоненциальный рост представлений».

Синапайен предупредил, что даже хорошо разработанные исследования могут быть скомпрометированы с помощью неправильного поведения ИИ. Хотя она ценит идею инструмента, который может помочь с обзором литературы и синтеза, она не доверяет сегодняшнему ИИ выполнять эту работу надежно.

«Это вещи, которые, как утверждают различные существующие инструменты, это делают, но это не рабочие места, которые я лично оставляю в текущем ИИ», - сказал Синапайен. Она также выразила обеспокоенность по поводу того, как обучаются системы ИИ, и энергию, которую они потребляют. «Даже если все этические проблемы были решены, текущий ИИ просто недостаточно надежен для меня, чтобы я так или иначе основывал свою работу».