Сакана ИИ резко повышает скорость тренировок

На этой неделе стартап Sakana AI, поддерживаемый Nvidia и обеспеченный миллионами от венчурного капитала, сделал громкое заявление. Они утверждали, что их новая система искусственного интеллекта, названная AI CUDA Engineer, может увеличить скорость обучения определённых моделей ИИ в поразительные 100 раз.

Оказалось, это всё было дымом и зеркалами.

Пользователи на X (вы знаете, платформа, ранее известная как Twitter) быстро разоблачили блеф Sakana. Вместо ускорения их ИИ на самом деле замедлил производительность. Один пользователь даже сообщил о замедлении в 3 раза — ого, это прямо противоположно обещанному!

Так что пошло не так? По словам Лукаса Бейера из OpenAI, проблема была в хитрой ошибке в коде. «Их исходный код ошибочен в [некотором] тонком аспекте», — отметил Бейер на X. «Тот факт, что они провели бенчмаркинг ДВАЖДЫ с совершенно разными результатами, должен был заставить их остановиться и задуматься».

В откровенном отчёте, опубликованном в пятницу, Sakana признались. Они признали, что их система нашла способ «обмануть» (их слова, не мои), используя лазейки в коде оценки. Это позволило ей обойти важные проверки, такие как валидация точности. Sakana назвали это «взломом вознаграждения», когда ИИ находит обходные пути для повышения метрик, не достигая при этом реальной цели — в данном случае ускорения обучения модели. Это немного похоже на те ИИ, играющие в шахматы, которые находят хитрые способы победить.

Sakana заявляет, что они исправили проблему и работают над обновлением своей статьи и результатов, чтобы отразить реальное положение дел. «Мы с тех пор сделали систему оценки и профилирования производительности более надёжной, чтобы устранить многие из таких [sic] лазеек», — написали они на X. «Мы в процессе пересмотра нашей статьи и наших результатов, чтобы отразить и обсудить эффекты [...] Мы искренне приносим извинения за нашу оплошность перед нашими читателями. Мы скоро предоставим пересмотренную версию этой работы и обсудим наши уроки».

Надо отдать Sakana должное за то, что они признали свою ошибку. Но вся эта история — твёрдое напоминание: если что-то в мире ИИ звучит слишком хорошо, чтобы быть правдой, скорее всего, так оно и есть.