Red Hat на открытых, маленьких языковых моделях для ответственного, практического искусственного интеллекта

Геополитическое влияние на развитие и использование ИИ

Поскольку глобальные события продолжают формировать наш мир, неизбежно, что они влияют на технологический сектор, особенно на рынок ИИ. Это влияние распространяется на то, как разрабатывается ИИ, его методологии и его применение на предприятиях. Нынешний ландшафт ИИ представляет собой смесь волнения и скептицизма, причем некоторые из них воспринимают его потенциал, в то время как другие остаются осторожными из -за его ранних стадий развития.

Традиционные модели с крупными языками с закрытым контуром (LLMS), подобные известным провайдерам, сталкиваются с конкуренцией со стороны более новых, более открытых моделей, таких как Llama, Deepseek и Baidu's Ernie X1. Напротив, разработка с открытым исходным кодом предлагает прозрачность и возможность для вклада сообщества, согласуясь с концепцией «ответственного искусственного интеллекта». Этот подход учитывает воздействие на окружающую среду, этику использования, источники данных обучения и проблемы, связанные с суверенитетом данных, языком и политикой.

Red Hat, компания, известная своей успешной бизнес-моделью с открытым исходным кодом, стремится применить свой совместный и прозрачный подход к ИИ. В недавнем разговоре с Хулио Гуджарро, техническим директором Red Hat для EMEA, мы обсудили их стратегию, чтобы использовать силу генеративного ИИ таким образом, чтобы повысить ценность предприятиям ответственно и устойчиво.

Потребность в образовании и прозрачности

Хулио подчеркнул необходимость большего образования вокруг ИИ, указывая на то, что его сложная природа часто делает его «черным ящиком» для многих. «Внутренняя работа ИИ, глубоко укоренившаяся в сложной науке и математике, остается в значительной степени неизвестной», - сказал он. «Это отсутствие прозрачности усугубляется, когда ИИ развивается в закрытых средах».

Дополнительные проблемы включают недопредставленность определенных языков, проблемы суверенитета данных и проблемы доверия. Хулио отметил: «Данные являются наиболее ценным активом организации, и предприятия должны знать о рисках обнародования конфиденциальных данных на публичные платформы с различными политиками конфиденциальности».

Подход Red Hat к ИИ

Реакция Red Hat на глобальный спрос на ИИ фокусируется на предоставлении льгот конечным пользователям, одновременно устраняя сомнения и ограничения, связанные с традиционными услугами искусственного интеллекта. Хулио выделил потенциал моделей малых языков (SLMS) в качестве решения. Эти модели могут работать локально или на гибридных облаках с использованием неспециалистского оборудования и могут получить доступ к локальным бизнес-данным. SLM эффективны и специфичны для задачи, требуя меньше ресурсов, чем LLMS.

Одним из ключевых преимуществ SLMS является их способность оставаться в актуальном состоянии с быстро меняющимися бизнес -данными. «Большие языковые модели могут быстро устареть, потому что генерация данных происходит вне больших облаков, прямо рядом с вашими бизнес -процессами», - объяснил Хулио.

Стоимость является еще одним критическим фактором. «Запросы обслуживания клиентов с использованием LLM могут понести значительные скрытые затраты», - сказал Хулио. «Перед ИИ запросы данных имели предсказуемый объем и стоимость. С LLMS каждое взаимодействие может повысить затраты, поскольку они работают на итерационной модели. Работа модели локально позволяет контролировать затраты, поскольку они связаны с вашей инфраструктурой, а не за плату за за счет».

К счастью, организациям не нужно инвестировать значительные средства в специализированное оборудование, такое как графические процессоры. Red Hat работает над оптимизацией моделей для работы на стандартном аппаратном обеспечении, сосредотачиваясь на конкретных моделях, которые необходимы предприятиям, а не на обработке больших наборов данных общего назначения с каждым запросом.

Важность меньших, локализованных моделей

Используя и ссылаясь на локальные данные, результаты могут быть адаптированы к конкретным потребностям. Хулио ссылался на проекты в таких регионах, как арабские и португальские миры, которые не очень хорошо обслуживаются английскими ориентированными LLMS.

Существуют практические проблемы с LLMS, включая проблемы с задержкой, которые могут повлиять на чувствительные ко времени или приложения, связанные с клиентами. Поддержание ресурсов и результатов близко к пользователю может смягчить эти проблемы.

Доверие является еще одним важным аспектом ответственного ИИ. Red Hat выступает за открытые платформы, инструменты и модели для повышения прозрачности и обеспечения более широкого участия сообщества. «Это важно для всех», - заявил Хулио. «Мы создаем возможности для демократизации искусственного интеллекта не только путем публикации моделей, но и предоставляя пользователям инструменты для воспроизведения, настройки и обслужения».

Недавнее приобретение Red Hat of Neural Magic направлено на то, чтобы помочь предприятиям более легко масштабировать ИИ, улучшить производительность вывода и предлагает больше выбора в создании и развертывании рабочих нагрузок ИИ в рамках проекта VLLM. Кроме того, в сотрудничестве с IBM Research, Red Hat выпустил инструкции, открывая разработку ИИ для ученых, не являющихся датами, которые обладают ценными знаниями бизнеса.

Будущее ИИ

Несмотря на то, что есть много спекуляций о пузыре ИИ, Red Hat верит в будущее, где ИИ адаптирован к конкретным вариантам использования и остается с открытым исходным кодом. Этот подход будет экономически жизнеспособным и доступным для всех. Как заявил Мэтт Хикс, генеральный директор Red Hat, «будущее ИИ открыто».