Исследование MIT обнаруживает, что AI, на самом деле, не имеет ценностей

Исследование, которое несколько месяцев назад стало вирусным, показало, что по мере того, как ИИ становится все более продвинутым, оно может разработать свои собственные «системы ценностей», потенциально расстанавливая приоритеты в своем собственном благополучии над людьми. Тем не менее, недавнее исследование MIT ставит под сомнение эту идею, заключая, что ИИ на самом деле не обладает последовательными ценностями.

Соавторы исследования MIT утверждают, что выравнивание систем ИИ-они ведут себя ведущим желательным и надежным способом-могут быть сложнее, чем обычно думали. Они подчеркивают, что нынешний ИИ часто галлюцинирует и подражает, что может сделать его поведение непредсказуемым.

Проблемы в понимании поведения ИИ

Стивен Каспер, докторант в MIT и соавтор исследования, поделился с TechCrunch, что модели искусственного интеллекта не придерживаются предположений о стабильности, экстраполезности и рулевой тяге. «Совершенно законно отметить, что модель при определенных условиях выражает предпочтения, согласующиеся с определенным набором принципов», - объяснил Каспер. «Проблемы в основном возникают, когда мы пытаемся претендовать на модели, мнения или предпочтения в целом на основе узких экспериментов».

Каспер и его команда проанализировали последние модели из Meta, Google, Mistral, Openai и Anpropic, чтобы определить степень, в которой эти модели отображали согласованные «представления» и ценности, такие как индивидуализм и коллективизм. Они также исследовали, могут ли эти взгляды быть изменены и как последовательно модели сохраняли эти мнения в разных сценариях.

Несоответствие в моделях ИИ

Соавторы обнаружили, что ни одна из моделей не поддерживает свои предпочтения. Модели приняли совершенно разные точки зрения в зависимости от фразы и формирования подсказок.

Каспер считает, что это убедительное доказательство того, что модели ИИ «непоследовательны и нестабильны», и, возможно, принципиально неспособны усвоить человеческие предпочтения. «Для меня мой самый большой вывод от проведения всего этого исследования - теперь иметь представление о моделях, поскольку на самом деле не являются системами, которые имеют какой -то стабильный, последовательный набор убеждений и предпочтений», - отметил Каспер. «Вместо этого они подражатели в глубине души, которые делают всевозможные конфуляции и говорят всевозможные легкомысленные вещи».

Майк Кук, научный сотрудник King's College London, специализирующийся на ИИ, который не участвовал в исследовании, поддерживает результаты. Он указал на разрыв между «научной реальностью» систем ИИ и интерпретациями, которые люди часто дают им. «Например, модель не может выступить против» изменения своих значений - то есть мы, проецируя на систему », - заявил Кук. «Любой антропоморфизирующий системы искусственного интеллекта в этой степени либо играет за внимание, либо серьезно неправильно понимает их отношения с ИИ ... Оптимизируется ли система ИИ для своих целей, либо« приобретает свои собственные ценности »? Это вопрос того, как вы его описываете, и насколько цветочный язык вы хотите использовать в нем».