开放的小语言模型，用于负责任的，实用的AI

地缘政治对AI开发和使用的影响

随着全球事件继续塑造我们的世界，它们不可避免地会影响技术领域，尤其是AI市场。这种影响扩展到了AI的开发方式，其方法及其在企业中的应用。 AI的当前景观是兴奋和怀疑的混合体，有些人拥抱了它的潜力，而其他人则由于其发展的早期阶段而保持谨慎。

像知名提供者一样，传统的闭环大语模型（LLM）正面临着更新，更开放的模型，例如Llama，DeepSeek和Baidu的Ernie X1。相反，开源开发为社区贡献提供了透明度和机会，与“负责人AI”的概念保持一致。这种方法考虑了与数据主权，语言和政治相关的环境影响，使用伦理，学习数据源以及问题。

Red Hat是一家以其成功的开源业务模型而闻名的公司，他热衷于将其协作和透明的方法应用于AI。在与EMEA的Red Hat的CTO的Julio Guijarro的最近对话中，我们讨论了他们以一种以负责任和可持续的方式为企业增值的方式来利用生成AI的力量。

需要教育和透明度

朱利奥（Julio）强调需要在AI周围进行更多的教育，并指出其复杂的性质通常使其成为许多人的“黑匣子”。他说：“ AI的内部运作根植于复杂的科学和数学，在很大程度上尚不清楚。” “当AI在封闭的环境中发展时，这种缺乏透明度会加剧。”

其他挑战包括某些语言的代表性不足，数据主权问题和信任问题。朱利奥指出：“数据是组织最有价值的资产，企业必须意识到将敏感数据暴露于具有不同隐私政策的公共平台的风险。”

红帽的AI方法

红帽对全球对AI的需求的反应集中在为最终用户提供福利，同时解决与传统AI服务相关的疑问和局限性。朱利奥（Julio）强调了小语言模型（SLM）作为解决方案的潜力。这些模型可以使用非专家硬件在本地或混合云上运行，并可以访问本地业务数据。 SLM是高效且特定于任务的，比LLMS需要更少的资源。

SLM的关键优势之一是它们能够通过快速变化的业务数据保持最新状态。朱利奥解释说：“大型语言模型可能会很快过时，因为数据生成发生在大云之外，就在您的业务流程旁边。”

成本是另一个关键因素。朱利奥说：“使用LLM的客户服务查询可以产生巨大的隐藏成本。” “在AI之前，数据查询具有可预测的范围和成本。使用LLMS，每种互动都可以升级成本，因为它们是在迭代模型上运行的。运行模型在本地上可以更大地控制成本，因为它们与您的基础架构息息相关，而不是每量费用。”

幸运的是，组织无需大量投资于GPU等专业硬件。 Red Hat正在努力优化模型以在标准硬件上运行，重点关注企业所需的特定模型，而不是在每个查询中处理大型通用数据集。

较小的本地化模型的重要性

通过使用和引用本地数据，可以根据特定需求量身定制结果。朱利奥（Julio）参考了以英语为中心的LLMS良好服务的阿拉伯语和葡萄牙世界等地区的项目。

LLMS存在实际挑战，包括可能影响时间敏感或面向客户的应用程序的延迟问题。将资源和结果保持在接近用户可以减轻这些问题。

信任是负责人AI的另一个关键方面。红帽倡导开放平台，工具和模型，以提高透明度并允许更广泛的社区参与。朱利奥说：“这对每个人都至关重要。” “我们正在建立使AI民主化的能力，不仅是通过发布模型，还为用户提供了复制，调整和为其服务的工具。”

Red Hat最近对神经魔术的收购旨在帮助企业更轻松地扩展AI，提高推理性能，并通过VLLM项目在构建和部署AI工作负载方面提供更多选择。此外，与IBM Research合作，Red Hat发行了TerchandLab，向拥有宝贵商业知识的非DATA科学家开放AI开发。

AI的未来

尽管对AI泡沫有很多猜测，但Red Hat相信未来AI是针对特定用例量身定制并保持开源的。这种方法将在经济上可行，所有人都可以使用。正如红帽首席执行官马特·希克斯（Matt Hicks）所说：“ AI的未来是开放的。”