Red Hat на открытых, маленьких языковых моделях для ответственного, практического искусственного интеллекта

Геополитическое влияние на развитие и использование ИИ

По мере того как глобальные события продолжают формировать наш мир, они неизбежно влияют на технологический сектор, в частности на рынок ИИ. Это влияние распространяется на то, как разрабатывается ИИ, его методологии и применение в предприятиях. Текущий ландшафт ИИ представляет собой сочетание энтузиазма и скептицизма, при этом некоторые приветствуют его потенциал, в то время как другие остаются осторожными из-за ранних стадий его развития.

Традиционные закрытые большие языковые модели (LLM), такие как те, что предлагают известные провайдеры, сталкиваются с конкуренцией со стороны новых, более открытых моделей, таких как Llama, DeepSeek и Ernie X1 от Baidu. В отличие от них, разработка с открытым исходным кодом обеспечивает прозрачность и возможность участия сообщества, что соответствует концепции «ответственного ИИ». Этот подход учитывает экологические последствия, этику использования, источники данных для обучения, а также вопросы, связанные с суверенитетом данных, языком и политикой.

Red Hat, компания, известная своей успешной бизнес-моделью с открытым исходным кодом, стремится применять свой совместный и прозрачный подход к ИИ. В недавнем разговоре с Хулио Гуихарро, техническим директором Red Hat по региону EMEA, мы обсудили их стратегию использования возможностей генеративного ИИ таким образом, чтобы ответственно и устойчиво приносить пользу предприятиям.

Необходимость образования и прозрачности

Хулио подчеркнул необходимость большего просвещения в области ИИ, указав, что его сложная природа часто делает его «черным ящиком» для многих. «Внутренние механизмы ИИ, глубоко укорененные в сложной науке и математике, остаются в значительной степени неизвестными», — сказал он. «Этот недостаток прозрачности усугубляется, когда ИИ разрабатывается в закрытых средах».

Дополнительные проблемы включают недостаточное представительство некоторых языков, вопросы суверенитета данных и проблемы доверия. Хулио отметил: «Данные — это самый ценный актив организации, и компании должны осознавать риски раскрытия конфиденциальных данных на публичных платформах с различными политиками конфиденциальности».

Подход Red Hat к ИИ

Ответ Red Hat на глобальный спрос на ИИ сосредоточен на предоставлении преимуществ конечным пользователям, одновременно устраняя сомнения и ограничения, связанные с традиционными сервисами ИИ. Хулио подчеркнул потенциал малых языковых моделей (SLM) как решения. Эти модели могут работать локально или в гибридных облаках с использованием неспециализированного оборудования и иметь доступ к локальным бизнес-данным. SLM эффективны и специфичны для задач, требуя меньше ресурсов, чем LLM.

Одно из ключевых преимуществ SLM — их способность оставаться актуальными при быстро меняющихся бизнес-данных. «Большие языковые модели могут быстро устаревать, потому что генерация данных происходит за пределами больших облаков, прямо рядом с вашими бизнес-процессами», — объяснил Хулио.

Стоимость — еще один важный фактор. «Запросы в службу поддержки клиентов с использованием LLM могут повлечь значительные скрытые расходы», — сказал Хулио. «До появления ИИ запросы данных имели предсказуемый объем и стоимость. С LLM каждая операция может увеличивать затраты, поскольку они работают по итеративной модели. Запуск моделей на локальной инфраструктуре позволяет лучше контролировать расходы, так как они привязаны к вашей инфраструктуре, а не к оплате за запрос».

К счастью, организациям не нужно сильно инвестировать в специализированное оборудование, такое как GPU. Red Hat работает над оптимизацией моделей для работы на стандартном оборудовании, сосредотачиваясь на конкретных моделях, необходимых бизнесу, а не на обработке больших универсальных наборов данных с каждым запросом.

Важность меньших, локализованных моделей

Используя и ссылаясь на локальные данные, результаты могут быть адаптированы к конкретным потребностям. Хулио упомянул проекты в регионах, таких как арабоязычный и португалоязычный мир, которые плохо обслуживаются англоцентричными LLM.

Существуют практические проблемы с LLM, включая проблемы с задержкой, которые могут повлиять на приложения, чувствительные ко времени или ориентированные на клиентов. Хранение ресурсов и результатов ближе к пользователю может смягчить эти проблемы.

Доверие — еще один важный аспект ответственного ИИ. Red Hat выступает за открытые платформы, инструменты и модели для повышения прозрачности и привлечения более широкого сообщества. «Это критически важно для всех», — заявил Хулио. «Мы создаем возможности для демократизации ИИ, не только публикуя модели, но и предоставляя инструменты для их репликации, настройки и обслуживания».

Недавнее приобретение Red Hat компании Neural Magic направлено на то, чтобы помочь предприятиям легче масштабировать ИИ, улучшить производительность вывода и предложить больше возможностей для создания и развертывания рабочих нагрузок ИИ через проект vLLM. Кроме того, в сотрудничестве с IBM Research Red Hat выпустила InstructLab, открывая разработку ИИ для специалистов, не являющихся учеными по данным, но обладающих ценными бизнес-знаниями.

Будущее ИИ

Хотя существует множество спекуляций о пузыре ИИ, Red Hat верит в будущее, где ИИ адаптирован к конкретным случаям использования и остается с открытым исходным кодом. Этот подход будет экономически выгодным и доступным для всех. Как заявил Мэтт Хикс, генеральный директор Red Hat: «Будущее ИИ — открытое».