Власть ИИ: Антропный генеральный директор предупреждает о расе, чтобы понять

Сразу после завершения вершины AI ACT в Париже соучредитель и генеральный директор Anpropic, Дарио Амодеэй, не сдерживался. Он назвал это событие «упущенной возможностью» и подчеркнул, что нам нужно увеличить фокус и срочность на нескольких ключевых вопросах, учитывая, как быстро движется технология AI. Он поделился этими мыслями в заявлении, опубликованном во вторник.

Антропик объединился с французским стартапом Dust для мероприятия, ориентированного на разработчиков в Париже, где TechCrunch должен был поболтать с Amodei на сцене. Он поделился своей перспективой и настаивал на сбалансированном подходе к инновациям и управлению искусственным интеллектом, уделяясь ясным как крайним оптимизмом, так и резкой критикой.

Амодеей, который раньше был нейробиологом, сказал: «Я в основном заглянул в настоящие мозги для жизни. И теперь мы заслуживаем жизни искусственного мозга. Поэтому в течение следующих нескольких месяцев мы будем иметь некоторые захватывающие достижения в области интерпретации - где мы действительно начинаем понимать, как работают модели». Но он также указал, что это гонка. «Это гонка между тем, чтобы сделать модели более мощными, что невероятно быстро для нас и невероятно быстро для других - вы не можете действительно замедлить, верно? ... Наше понимание должно идти в ногу с нашей способностью строить вещи. Я думаю, что это единственный способ», - добавил он.

С момента первого саммита ИИ в Блетчли, Великобритания, разговор об управлении ИИ сильно изменился, под влиянием нынешнего геополитического климата. Американский вице -президент JD Вэнс, выступая на саммите ACT ACT, сказал: «Я здесь не здесь, чтобы поговорить о безопасности ИИ, которая была титулом конференции пару лет назад. Я здесь, чтобы поговорить об возможностях ИИ».

Амодеей, однако, пытается преодолеть разрыв между безопасностью и возможностями. Он считает, что сосредоточение внимания на безопасности может быть возможностью. «На первоначальном саммите, Великобритании Саммит Блетчли, было много дискуссий по тестированию и измерению для различных рисков. И я не думаю, что эти вещи вообще замедлили эту технологию», - сказал он на антропном мероприятии. «Во всяком случае, выполнение такого рода измерения помогло нам лучше понять наши модели, что, в конце концов, помогает нам производить лучшие модели».

Даже при подборе подчеркивания безопасности Amodei дал понять, что Anpropic все еще все в строительстве моделей Frontier Frontier. «Я не хочу ничего делать, чтобы уменьшить обещание. Мы предоставляем модели каждый день, на которых люди могут строить, и которые используются, чтобы делать удивительные вещи. И мы определенно не должны перестать это делать», - сказал он. Позже он добавил: «Когда люди много говорят о рисках, я как бы раздражен, и я говорю:« О, чувак, никто действительно не сделал хорошую работу, действительно изложив, насколько великой может быть эта технология ».

Когда тема обратилась к недавним моделям китайского LLM-производителя Deepseek, Amodei преуменьшал их достижения, назвав общественную реакцию «неорганической». Он сказал: «Честно говоря, моя реакция была очень мало. Мы видели V3, которая является базовой моделью для Deepseek R1, еще в декабре. И это была впечатляющая модель. Модель, которая была выпущена в декабре, была на такой очень нормальной кривой снижения затрат, которую мы видели в наших моделях и других моделях». То, что привлекло его внимание, так это то, что модель не исходила от обычных «трех или четырех пограничных лабораторий» в США, таких как Google, Openai и Antropic. Он выразил обеспокоенность по поводу авторитарных правительств, доминирующих в этой технологии. Что касается заявленных затрат на обучение DeepSeek, он отклонил их как «просто не точные и не основанные на фактах».

В то время как Amodei не объявил о каких -либо новых моделях на мероприятии, он намекал на предстоящие выпуски с расширенными возможностями рассуждений. «Мы, как правило, сосредоточены на попытке сделать нашу собственную собственную модели рассуждений, которые лучше дифференцированы. Мы беспокоимся о том, чтобы убедиться, что у нас достаточно возможностей, чтобы модели стали умнее, и мы беспокоимся о вещах безопасности», - сказал он.

Антропический также решает задачу выбора модели. Например, если вы являетесь пользователем CHATGPT Plus, может быть трудно решить, какую модель использовать для вашего следующего сообщения.

Amodei поставил под сомнение различие между нормальными и рассуждениями моделей. «Мы были немного озадачены идеей, что существуют нормальные модели и есть модели рассуждений и что они вроде как отличаются друг от друга», - сказал он. «Если я разговариваю с вами, у вас нет двух мозгов, и один из них отвечает сразу, а другой ждет дольше».

Он считает, что между такими предварительно обученными моделями, такими как Claude 3.5 Sonnet или GPT-4O, должен быть более плавный переход, и модели, обученные обучению подкреплению, которые могут производить цепь (COT), такие как OpeAI O1 или DeepSeek R1. «Мы думаем, что они должны существовать как часть одной непрерывной сущности. И мы, возможно, еще не там, но Антропик действительно хочет переместить вещи в этом направлении», - сказал Амодеэй. «У нас должен быть более плавный переход от этого к предварительно обученным моделям, а не« Вот что-то А и вот вещь Б. »» »

Поскольку такие компании, как AI, такие как Anpropic, продолжают выдвигать лучшие модели, Amodei видит огромный потенциал для сбоев в разных отраслях. «Мы работаем с некоторыми фармацевтическими компаниями, чтобы использовать Claude для написания клинических исследований, и они смогли сократить время, необходимое для написания отчета о клинических исследованиях с 12 недель до трех дней», - сказал он.

Он предполагает «эпохи эпохи подрывных инноваций» в приложениях искусственного интеллекта в разных секторах, таких как юридические, финансовые, страховые, производительность, программное обеспечение и энергия. «Я думаю, что будет - в целом - эпохи Возрождения разрушительных инноваций в пространстве приложений искусственного интеллекта. И мы хотим помочь им, мы хотим поддержать все это», - заключил он.

Прочитайте наше полное освещение саммита Action Intelligence Action в Париже.

У TechCrunch есть информационный бюллетень, ориентированный на AI! Зарегистрируйтесь здесь, чтобы получить его в своем почтовом ящике каждую среду.