Возрождение Pentium 4: 20-летний процессор запускает большую модель Meta Llama 3

Недавно технический канал YouTube Fully Buffered провел впечатляющий и сложный эксперимент: им удалось успешно запустить последнюю большую модель Meta Llama 3.2 3B на процессоре Pentium 4 641, выпущенном в 2006 году.
Этот тест заставил современные искусственные интеллекты работать на аппаратуре, устаревшей на два десятилетия, что не только показало основные ограничения совместимости больших моделей ИИ, но и заставило многих зрителей задуматься о том, как закон Мура в эпоху искусственного интеллекта способен обеспечивать переход от одной поколения технологий к другой таким необычным образом.
Археология аппаратного обеспечения: До пределов давности
Чтобы провести этот эксперимент, команда Fully Buffered воссоздала конфигурацию аппаратного обеспечения типичной системы для энтузиастов 2006 года:
Основной процессор: Intel Pentium 4 641 (3,2 ГГц, одноядерный, 2 МБ кэша L2).
Настройка памяти: материнская плата ASUS P5WDH Deluxe в сочетании с четырьмя модулями памяти DDR2-800 по 2 ГБ, общей емкостью 8 ГБ.
Программное обеспечение: команда специально настроила среду для работы в режиме без поддержки инструкций AVX, чтобы обойти отсутствие этих инструкций в старом архитектурном проекте.
Скорость выполнения задач: 0,21 токена в секунду
Во время теста, когда системе был задан вопрос «Что такое Pentium 4?», этот двадцатилетний одноядерный процессор немедленно работал на полной мощности.
Скорость выхода результатов: скорость обработки информации составила 0,21 токена в секунду.
Время выполнения задачи: для получения полного ответа процессор Pentium 4 работал на максимальной мощности почти 33 минуты.
В современных условиях, когда приложения ИИ требуют отвечений в миллисекундный режим, 33-минутная задержка кажется катастрофической. Но для этого одноядерного процессора эпохи NetBurst это был двадцатилетний марафон применения принципов искусственного интеллекта на устаревшей аппаратуре.
За пределами практичности: Исследование границ совместимости ИИ
Зачем использовать такую устаревшую аппаратуру для работы искусственного интеллекта? Команда экспериментаторов объяснила, что целью не было практическое применение, а исследование двух важных ограничений:
Совместимость без инструкций AVX: современные большие модели ИИ почти всегда предполагают наличие поддержки инструкций AVX, но в определенных режимах работы искусственный интеллект может функционировать и без них.
Роль памяти: модель с 3 миллиардами параметров едва помещалась в 8 ГБ оперативной памяти типа DDR2, что доказывает, что даже при крайне ограниченных вычислительных возможностях одноядерный процессор может поддерживать современные большие модели ИИ без использования мощных графических процессоров.
Эпилог: Заключительная глава архитектуры NetBurst
В 2006 году Intel Pentium 4 все еще стремился к высоким тактовым частотам с использованием архитектуры NetBurst, придавая приоритет скорости перед эффективностью. Инженеры того времени, возможно, предвидели наступление эпохи мощных процессоров, но вряд ли могли представить, что их архитектура спустя два десятилетия будет использоваться для изучения собственной истории.
Этот эксперимент служит ярким примером того, как вычислительные возможности влияют на скорость выполнения задач, но совместимость инструкций и объем памяти играют решающую роль в работе больших моделей ИИ. Когда процессор Pentium 4 наконец смог самостоятельно описать свои характеристики на экране, это было не просто успешным результатом эксперимента — это был поэтический прощальный жест в истории информатики.
Связанная статья
Meta удаляет функцию редактирования фотографий с помощью ИИ после негативной реакции пользователей
Meta, гигант социальных сетей, вновь оказалась в центре публичной дискуссии о хрупком балансе между искусственным интеллектом и конфиденциальностью пользователей. Согласно TechCrunch, подразделение Meta Superintelligence Labs представило новый генера
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства
Рекомендации по связанным специальным темам
Комментарии (0)

Недавно технический канал YouTube Fully Buffered провел впечатляющий и сложный эксперимент: им удалось успешно запустить последнюю большую модель Meta Llama 3.2 3B на процессоре Pentium 4 641, выпущенном в 2006 году.
Этот тест заставил современные искусственные интеллекты работать на аппаратуре, устаревшей на два десятилетия, что не только показало основные ограничения совместимости больших моделей ИИ, но и заставило многих зрителей задуматься о том, как закон Мура в эпоху искусственного интеллекта способен обеспечивать переход от одной поколения технологий к другой таким необычным образом.
Археология аппаратного обеспечения: До пределов давности
Чтобы провести этот эксперимент, команда Fully Buffered воссоздала конфигурацию аппаратного обеспечения типичной системы для энтузиастов 2006 года:
Основной процессор: Intel Pentium 4 641 (3,2 ГГц, одноядерный, 2 МБ кэша L2).
Настройка памяти: материнская плата ASUS P5WDH Deluxe в сочетании с четырьмя модулями памяти DDR2-800 по 2 ГБ, общей емкостью 8 ГБ.
Программное обеспечение: команда специально настроила среду для работы в режиме без поддержки инструкций AVX, чтобы обойти отсутствие этих инструкций в старом архитектурном проекте.
Скорость выполнения задач: 0,21 токена в секунду
Во время теста, когда системе был задан вопрос «Что такое Pentium 4?», этот двадцатилетний одноядерный процессор немедленно работал на полной мощности.
Скорость выхода результатов: скорость обработки информации составила 0,21 токена в секунду.
Время выполнения задачи: для получения полного ответа процессор Pentium 4 работал на максимальной мощности почти 33 минуты.
В современных условиях, когда приложения ИИ требуют отвечений в миллисекундный режим, 33-минутная задержка кажется катастрофической. Но для этого одноядерного процессора эпохи NetBurst это был двадцатилетний марафон применения принципов искусственного интеллекта на устаревшей аппаратуре.
За пределами практичности: Исследование границ совместимости ИИ
Зачем использовать такую устаревшую аппаратуру для работы искусственного интеллекта? Команда экспериментаторов объяснила, что целью не было практическое применение, а исследование двух важных ограничений:
Совместимость без инструкций AVX: современные большие модели ИИ почти всегда предполагают наличие поддержки инструкций AVX, но в определенных режимах работы искусственный интеллект может функционировать и без них.
Роль памяти: модель с 3 миллиардами параметров едва помещалась в 8 ГБ оперативной памяти типа DDR2, что доказывает, что даже при крайне ограниченных вычислительных возможностях одноядерный процессор может поддерживать современные большие модели ИИ без использования мощных графических процессоров.
Эпилог: Заключительная глава архитектуры NetBurst
В 2006 году Intel Pentium 4 все еще стремился к высоким тактовым частотам с использованием архитектуры NetBurst, придавая приоритет скорости перед эффективностью. Инженеры того времени, возможно, предвидели наступление эпохи мощных процессоров, но вряд ли могли представить, что их архитектура спустя два десятилетия будет использоваться для изучения собственной истории.
Этот эксперимент служит ярким примером того, как вычислительные возможности влияют на скорость выполнения задач, но совместимость инструкций и объем памяти играют решающую роль в работе больших моделей ИИ. Когда процессор Pentium 4 наконец смог самостоятельно описать свои характеристики на экране, это было не просто успешным результатом эксперимента — это был поэтический прощальный жест в истории информатики.
Meta удаляет функцию редактирования фотографий с помощью ИИ после негативной реакции пользователей
Meta, гигант социальных сетей, вновь оказалась в центре публичной дискуссии о хрупком балансе между искусственным интеллектом и конфиденциальностью пользователей. Согласно TechCrunch, подразделение Meta Superintelligence Labs представило новый генера
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства





Дом






