вариант
Дом
Срочные новости
Содержание
JohnYoung
JohnYoung
17 июля 2026 г.

Команда Xiaohongshu совместно с Пекинским университетом (PKU) и Шанхайским техническим университетом (SJTU) разработала HYPIC — первую систему, обеспечивающую кэширование, не зависящее от позиции, для крупных моделей с гибридным механизмом внимания. Система кэширует операторы перехода для линейных слоев, использует «швы» для полного внимания и обеспечивает параллелизм на уровне сегментов. Тестирование показало, что по сравнению с префиксным кэшем задержка первого токена сократилась в 3,25 раза, а устойчивая производительность (QPS) выросла в 1,66 раза при минимальной потере качества.

Команда Xiaohongshu совместно с Пекинским университетом (PKU) и Шанхайским техническим университетом (SJTU) разработала HYPIC — первую систему, обеспечивающую кэширование, не зависящее от позиции, для крупных моделей с гибридным механизмом внимания. Система кэширует операторы перехода для линейных слоев, использует «швы» для полного внимания и обеспечивает параллелизм на уровне сегментов. Тестирование показало, что по сравнению с префиксным кэшем задержка первого токена сократилась в 3,25 раза, а устойчивая производительность (QPS) выросла в 1,66 раза при минимальной потере качества. Команда Xiaohongshu совместно с Пекинским университетом (PKU) и Шанхайским техническим университетом (SJTU) разработала HYPIC — первую систему, обеспечивающую кэширование, не зависящее от позиции, для крупных моделей с гибридным механизмом внимания. Система кэширует операторы перехода для линейных слоев, использует «швы» для полного внимания и обеспечивает параллелизм на уровне сегментов. Тестирование показало, что по сравнению с префиксным кэшем задержка первого токена сократилась в 3,25 раза, а устойчивая производительность (QPS) выросла в 1,66 раза при минимальной потере качества.
Автор JimmyWilson JimmyWilson 14 октября 2026 г.
Автор HarryNelson HarryNelson 14 октября 2026 г.
Компания OPPO заключила партнерское соглашение с платформой искусственного интеллекта Manus с целью интеграции функций искусственного интеллекта в свою систему AI Mind Pilot на новых смартфонах серии Find X10 под управлением ColorOS 17. Благодаря этому сотрудничеству искусственный интеллект переходит от простого формата «вопрос-ответ» к выполнению задач, что позволяет системе понимать намерения пользователя, разбивать сложные задачи на составные части, извлекать информацию и предоставлять готовые результаты, такие как составление маршрутов путешествий или подготовка офисных презентаций. Ключевым моментом этой интеграции является подход, ставящий конфиденциальность на первое место: модели на устройстве обрабатывают данные локально, а использование облачных ресурсов происходит только с явного разрешения пользователя. Это обеспечивает баланс между передовыми интеллектуальными возможностями и контролем пользователя над доступом к данным. Обновленная система AI Mind Pilot дебютирует в серии Find X10, что станет важным шагом на пути к превращению смартфонов в естественные платформы для персональных ИИ-агентов.
/ru/live/7866
OR