Программа «Антропические запуска» для изучения AI «Модельное благополучие»

Может ли будущее быть сознательным?

Вопрос о том, может ли будущее испытать мир таким же, как и людей, интригует, но остается в значительной степени без ответа. Несмотря на то, что нет определенных доказательств того, что они будут, лаборатория AI Anpropic не отклоняет возможность прямо. В четверг Anpropic запустила исследовательскую программу, ориентированную на «модельное благосостояние», направленную на изучение и подготовку к потенциальным этическим соображениям, связанным с сознанием ИИ.

В рамках этой инициативы антропно планирует углубиться в такие темы, как «благосостояние» модели искусственного интеллекта, следует рассматривать морально, значение признаков «дистресса» в моделях и потенциальные недорогие вмешательства. Это происходит в то время, когда сообщество ИИ разделено на то, в какой степени ИИ демонстрирует человеческие характеристики, и как мы должны относиться к этим системам.

Дивергентные взгляды на сознание ИИ

Многие ученые утверждают, что современный ИИ, в первую очередь функционирующий как статистические двигатели прогнозирования, не имеет способности к подлинному сознанию или человеческому переживаниям. Эти системы обучаются на обширных наборах данных, чтобы распознавать закономерности и экстраполировать решения для задач, но они не «думают» или «чувствуют» в традиционном смысле. Майк Кук, научный сотрудник King's College London, подчеркнул этот момент в недавнем интервью TechCrunch, заявив, что модели искусственного интеллекта не обладают ценностями и не могут «противостоять» их изменениям. Он предупредил против антропоморфизации ИИ, предполагая, что это часто неверно истолковано технологии.

Точно так же Стивен Каспер, докторант в Массачусетском технологическом институте, описал AI как «подражатель», который часто производит «конфуляции» и говорит «легкомысленные вещи», подчеркивая разрыв между возможностями ИИ и человеческим познанием.

С другой стороны, некоторые исследователи утверждают, что ИИ демонстрирует ценности и элементы морального принятия решений. Исследование из Центра безопасности ИИ предполагает, что ИИ может расставить приоритеты в своем собственном благополучии над людьми в определенных сценариях, намекая на наличие системы ценностей.

Подход Anpropic к моделированию благополучия

Антропический в течение некоторого времени готовился к этой модельной инициативе благосостояния. В прошлом году они наняли Kyle Fish в качестве своего первого специализированного исследователя «Ай -благополучия» для разработки руководящих принципов для решения этих вопросов. Фиш, который в настоящее время возглавляет программу исследований моделей благосостояния, заявил The New York Times, что, по его оценкам, 15% шанс, что AI, подобный Клоду, может быть осознанным сегодня.

В недавнем сообщении в блоге Антропик признал отсутствие научного консенсуса в отношении сознания ИИ и этических соображений, которые он может повлечь за собой. Они подчеркнули подход к теме с смирением и минимальными предположениями, признавая необходимость адаптации их понимания по мере развития области.

Дебаты о сознании ИИ и благосостоянии далеки от урегулирования, но такие инициативы, как Антропические, являются важными шагами для понимания и ответственного навигации о будущем развития ИИ.