책임감 있고 실용적인 AI를위한 열린 작은 언어 모델에 대한 Red Hat
htmlAI 개발 및 사용에 대한 지정학적 영향
글로벌 이벤트가 세계를 형성함에 따라 기술 부문, 특히 AI 시장에 영향을 미치는 것은 불가피하다. 이러한 영향은 AI 개발, 방법론, 그리고 기업 내 적용에까지 확장된다. 현재 AI 환경은 흥분과 회의적인 태도가 혼합된 상태로, 일부는 그 잠재력을 받아들이고 있지만 초기 개발 단계로 인해 신중한 입장을 취하는 이들도 있다.
전통적인 폐쇄 루프 대형 언어 모델(LLM), 예를 들어 잘 알려진 제공업체의 모델들은 Llama, DeepSeek, Baidu의 Ernie X1과 같은 더 개방적인 새로운 모델들과 경쟁하고 있다. 반면, 오픈소스 개발은 투명성을 제공하며 커뮤니티 기여의 기회를 제공하여 "책임 있는 AI"라는 개념과 일치한다. 이 접근법은 환경 영향, 사용 윤리, 학습 데이터 소스, 데이터 주권, 언어, 정치와 관련된 문제를 고려한다.
성공적인 오픈소스 비즈니스 모델로 알려진 Red Hat은 협업적이고 투명한 접근법을 AI에 적용하려고 한다. 최근 Red Hat의 EMEA CTO인 Julio Guijarro와의 대화에서, 그들은 생성 AI의 힘을 책임감 있고 지속 가능하게 기업에 가치를 더하는 방식으로 활용하는 전략에 대해 논의했다.
교육과 투명성의 필요성
Julio는 AI에 대한 더 많은 교육의 필요성을 강조하며, AI의 복잡한 특성이 많은 사람들에게 "블랙박스"로 여겨진다고 지적했다. 그는 "AI의 내부 작동은 복잡한 과학과 수학에 깊이 뿌리를 두고 있으며, 대체로 알려지지 않았다"고 말했다. "이러한 투명성 부족은 AI가 폐쇄된 환경에서 개발될 때 더욱 심화된다."
추가적인 도전 과제로는 특정 언어의 과소 대표, 데이터 주권 문제, 신뢰 문제가 있다. Julio는 "데이터는 조직의 가장 소중한 자산이며, 기업은 민감한 데이터를 다양한 개인정보 정책을 가진 공공 플랫폼에 노출시키는 위험을 인식해야 한다"고 언급했다.
Red Hat의 AI 접근법
Red Hat은 전통적인 AI 서비스와 관련된 의구심과 한계를 해결하면서 최종 사용자에게 이점을 제공하는 데 초점을 맞춘 글로벌 AI 수요에 대응하고 있다. Julio는 소형 언어 모델(SLM)의 잠재력을 해결책으로 강조했다. 이러한 모델은 비전문 하드웨어를 사용하여 로컬 또는 하이브리드 클라우드에서 실행될 수 있으며, 로컬 비즈니스 데이터에 접근할 수 있다. SLM은 효율적이고 작업별로 특화되어 LLM보다 적은 리소스를 요구한다.
SLM의 주요 장점 중 하나는 빠르게 변화하는 비즈니스 데이터에 최신 상태를 유지할 수 있는 능력이다. Julio는 "대형 언어 모델은 데이터 생성이 대형 클라우드 외부, 즉 비즈니스 프로세스 바로 옆에서 이루어지기 때문에 빠르게 구식이 될 수 있다"고 설명했다.
비용도 중요한 요소이다. Julio는 "LLM을 사용한 고객 서비스 질의는 상당한 숨겨진 비용을 초래할 수 있다"고 말했다. "AI 이전에는 데이터 질의의 범위와 비용이 예측 가능했다. LLM에서는 각 상호작용이 반복 모델로 작동하기 때문에 비용이 증가할 수 있다. 온프레미스에서 모델을 실행하면 쿼리당 요금이 아닌 인프라에 연결된 비용을 더 잘 제어할 수 있다."
다행히 조직은 GPU와 같은 특수 하드웨어에 크게 투자할 필요가 없다. Red Hat은 표준 하드웨어에서 모델을 최적화하여 실행하고, 모든 쿼리에 대규모 범용 데이터 세트를 처리하는 대신 비즈니스에 필요한 특정 모델에 집중하고 있다.
더 작고 지역화된 모델의 중요성
로컬 데이터를 사용하고 참조함으로써 결과를 특정 요구에 맞게 조정할 수 있다. Julio는 영어 중심의 LLM이 잘 서비스하지 않는 아랍어 및 포르투갈어 사용 지역에서의 프로젝트를 언급했다.
LLM에는 시간에 민감하거나 고객을 대면하는 애플리케이션에 영향을 미칠 수 있는 지연 시간 문제와 같은 실제적인 도전 과제가 있다. 리소스와 결과를 사용자 가까이에 유지하면 이러한 문제를 완화할 수 있다.
신뢰는 책임 있는 AI의 또 다른 중요한 측면이다. Red Hat은 투명성을 높이고 더 많은 커뮤니티 참여를 가능하게 하기 위해 개방형 플랫폼, 도구, 모델을 지지한다. Julio는 "모두에게 중요하다"고 말했다. "우리는 모델을 공개하는 것뿐만 아니라 사용자가 이를 복제하고 조정하며 제공할 수 있는 도구를 제공함으로써 AI를 민주화하는 능력을 구축하고 있다."
Red Hat의 최근 Neural Magic 인수는 기업이 AI를 더 쉽게 확장하고, 추론 성능을 개선하며, vLLM 프로젝트를 통해 AI 워크로드를 구축하고 배포하는 데 더 많은 선택권을 제공하는 것을 목표로 한다. 또한 IBM Research와 협력하여 Red Hat은 비데이터 과학자이지만 가치 있는 비즈니스 지식을 가진 사람들이 AI 개발에 접근할 수 있도록 InstructLab을 출시했다.
AI의 미래
AI 거품에 대한 많은 추측이 있지만, Red Hat은 AI가 특정 사용 사례에 맞춰지고 오픈소스로 유지되는 미래를 믿는다. 이 접근법은 경제적으로 실행 가능하고 모두에게 접근 가능할 것이다. Red Hat의 CEO인 Matt Hicks는 "AI의 미래는 개방적이다"고 말했다.
관련 기사
월마트, 수천 개의 사용 사례를 지원하는 통합 프레임워크로 엔터프라이즈 AI 규모 달성
Walmart는 신뢰 아키텍처에 대한 엔지니어링 중심 접근 방식을 통해 엔터프라이즈 규모의 자율 AI 시스템 구현을 선도하고 있습니다. 이 회사의 신흥 기술 담당 부사장인 Desirée Gosby는 VB Transform 2025에서 이 유통 업계의 리더가 매주 2억 5천 5백만 명의 고객을 지원하는 에코시스템 전반에 걸쳐 신뢰 구축을 운영하는 방법을 공개
Windows, AI 앱 상호 연결 표준 지원 추가
Microsoft는 모델 컨텍스트 프로토콜(MCP)의 기본 통합과 Windows AI 파운드리의 도입이라는 두 가지 주요 개발을 통해 Windows용 AI 전략을 두 배로 강화하고 있습니다. 이러한 기본적인 움직임은 운영 체제 전반에서 원활하게 작동하는 지능형 AI 비서에 대한 Microsoft의 비전을 위한 기반을 마련합니다.AI 통합의 새로운 표준원래
AI 기반 제안서 작성으로 성공을 실현하세요: 최종 가이드
오늘날과 같이 경쟁이 치열한 비즈니스 환경에서는 효과적인 제안서 작성이 거래의 성패를 좌우할 수 있습니다. Proposal Kit는 ChatGPT와의 최첨단 AI 통합을 통해 이 프로세스를 혁신하여 전문가가 전례 없는 속도와 정확성으로 설득력 있는 제안서를 작성할 수 있도록 지원합니다. 이 포괄적인 가이드에서 이러한 강력한 도구를 결합하여 몇 시간이 걸리는
의견 (13)
0/200
![JohnWilson]()
JohnWilson
2025년 8월 26일 오전 8시 1분 20초 GMT+09:00
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
0
![ThomasHernández]()
ThomasHernández
2025년 8월 25일 오후 2시 0분 59초 GMT+09:00
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
0
![AlbertScott]()
AlbertScott
2025년 8월 25일 오전 11시 39분 46초 GMT+09:00
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
0
![WillieMartinez]()
WillieMartinez
2025년 4월 26일 오후 4시 27분 1초 GMT+09:00
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟
0
![GregoryJones]()
GregoryJones
2025년 4월 26일 오후 3시 5분 13초 GMT+09:00
Red Hatのオープンで小規模な言語モデルへの焦点は新鮮です！責任あるAIを推進する企業を見るのは素晴らしいです。実用的な応用は印象的ですが、学ぶための例がもっと欲しいです。それでも、正しい方向への一歩です。頑張ってください、Red Hat！🌟
0
![NicholasLewis]()
NicholasLewis
2025년 4월 26일 오전 11시 40분 8초 GMT+09:00
A abordagem da Red Hat com modelos de linguagem pequenos para IA responsável é muito legal! É ótimo ver esforços em direção a uma IA prática que considera influências geopolíticas. No entanto, a aplicação dentro das empresas poderia ser mais detalhada. Ainda assim, um passo na direção certa! 👍
0
AI 개발 및 사용에 대한 지정학적 영향
글로벌 이벤트가 세계를 형성함에 따라 기술 부문, 특히 AI 시장에 영향을 미치는 것은 불가피하다. 이러한 영향은 AI 개발, 방법론, 그리고 기업 내 적용에까지 확장된다. 현재 AI 환경은 흥분과 회의적인 태도가 혼합된 상태로, 일부는 그 잠재력을 받아들이고 있지만 초기 개발 단계로 인해 신중한 입장을 취하는 이들도 있다.
전통적인 폐쇄 루프 대형 언어 모델(LLM), 예를 들어 잘 알려진 제공업체의 모델들은 Llama, DeepSeek, Baidu의 Ernie X1과 같은 더 개방적인 새로운 모델들과 경쟁하고 있다. 반면, 오픈소스 개발은 투명성을 제공하며 커뮤니티 기여의 기회를 제공하여 "책임 있는 AI"라는 개념과 일치한다. 이 접근법은 환경 영향, 사용 윤리, 학습 데이터 소스, 데이터 주권, 언어, 정치와 관련된 문제를 고려한다.
성공적인 오픈소스 비즈니스 모델로 알려진 Red Hat은 협업적이고 투명한 접근법을 AI에 적용하려고 한다. 최근 Red Hat의 EMEA CTO인 Julio Guijarro와의 대화에서, 그들은 생성 AI의 힘을 책임감 있고 지속 가능하게 기업에 가치를 더하는 방식으로 활용하는 전략에 대해 논의했다.
교육과 투명성의 필요성
Julio는 AI에 대한 더 많은 교육의 필요성을 강조하며, AI의 복잡한 특성이 많은 사람들에게 "블랙박스"로 여겨진다고 지적했다. 그는 "AI의 내부 작동은 복잡한 과학과 수학에 깊이 뿌리를 두고 있으며, 대체로 알려지지 않았다"고 말했다. "이러한 투명성 부족은 AI가 폐쇄된 환경에서 개발될 때 더욱 심화된다."
추가적인 도전 과제로는 특정 언어의 과소 대표, 데이터 주권 문제, 신뢰 문제가 있다. Julio는 "데이터는 조직의 가장 소중한 자산이며, 기업은 민감한 데이터를 다양한 개인정보 정책을 가진 공공 플랫폼에 노출시키는 위험을 인식해야 한다"고 언급했다.
Red Hat의 AI 접근법
Red Hat은 전통적인 AI 서비스와 관련된 의구심과 한계를 해결하면서 최종 사용자에게 이점을 제공하는 데 초점을 맞춘 글로벌 AI 수요에 대응하고 있다. Julio는 소형 언어 모델(SLM)의 잠재력을 해결책으로 강조했다. 이러한 모델은 비전문 하드웨어를 사용하여 로컬 또는 하이브리드 클라우드에서 실행될 수 있으며, 로컬 비즈니스 데이터에 접근할 수 있다. SLM은 효율적이고 작업별로 특화되어 LLM보다 적은 리소스를 요구한다.
SLM의 주요 장점 중 하나는 빠르게 변화하는 비즈니스 데이터에 최신 상태를 유지할 수 있는 능력이다. Julio는 "대형 언어 모델은 데이터 생성이 대형 클라우드 외부, 즉 비즈니스 프로세스 바로 옆에서 이루어지기 때문에 빠르게 구식이 될 수 있다"고 설명했다.
비용도 중요한 요소이다. Julio는 "LLM을 사용한 고객 서비스 질의는 상당한 숨겨진 비용을 초래할 수 있다"고 말했다. "AI 이전에는 데이터 질의의 범위와 비용이 예측 가능했다. LLM에서는 각 상호작용이 반복 모델로 작동하기 때문에 비용이 증가할 수 있다. 온프레미스에서 모델을 실행하면 쿼리당 요금이 아닌 인프라에 연결된 비용을 더 잘 제어할 수 있다."
다행히 조직은 GPU와 같은 특수 하드웨어에 크게 투자할 필요가 없다. Red Hat은 표준 하드웨어에서 모델을 최적화하여 실행하고, 모든 쿼리에 대규모 범용 데이터 세트를 처리하는 대신 비즈니스에 필요한 특정 모델에 집중하고 있다.
더 작고 지역화된 모델의 중요성
로컬 데이터를 사용하고 참조함으로써 결과를 특정 요구에 맞게 조정할 수 있다. Julio는 영어 중심의 LLM이 잘 서비스하지 않는 아랍어 및 포르투갈어 사용 지역에서의 프로젝트를 언급했다.
LLM에는 시간에 민감하거나 고객을 대면하는 애플리케이션에 영향을 미칠 수 있는 지연 시간 문제와 같은 실제적인 도전 과제가 있다. 리소스와 결과를 사용자 가까이에 유지하면 이러한 문제를 완화할 수 있다.
신뢰는 책임 있는 AI의 또 다른 중요한 측면이다. Red Hat은 투명성을 높이고 더 많은 커뮤니티 참여를 가능하게 하기 위해 개방형 플랫폼, 도구, 모델을 지지한다. Julio는 "모두에게 중요하다"고 말했다. "우리는 모델을 공개하는 것뿐만 아니라 사용자가 이를 복제하고 조정하며 제공할 수 있는 도구를 제공함으로써 AI를 민주화하는 능력을 구축하고 있다."
Red Hat의 최근 Neural Magic 인수는 기업이 AI를 더 쉽게 확장하고, 추론 성능을 개선하며, vLLM 프로젝트를 통해 AI 워크로드를 구축하고 배포하는 데 더 많은 선택권을 제공하는 것을 목표로 한다. 또한 IBM Research와 협력하여 Red Hat은 비데이터 과학자이지만 가치 있는 비즈니스 지식을 가진 사람들이 AI 개발에 접근할 수 있도록 InstructLab을 출시했다.
AI의 미래
AI 거품에 대한 많은 추측이 있지만, Red Hat은 AI가 특정 사용 사례에 맞춰지고 오픈소스로 유지되는 미래를 믿는다. 이 접근법은 경제적으로 실행 가능하고 모두에게 접근 가능할 것이다. Red Hat의 CEO인 Matt Hicks는 "AI의 미래는 개방적이다"고 말했다.
월마트, 수천 개의 사용 사례를 지원하는 통합 프레임워크로 엔터프라이즈 AI 규모 달성
Walmart는 신뢰 아키텍처에 대한 엔지니어링 중심 접근 방식을 통해 엔터프라이즈 규모의 자율 AI 시스템 구현을 선도하고 있습니다. 이 회사의 신흥 기술 담당 부사장인 Desirée Gosby는 VB Transform 2025에서 이 유통 업계의 리더가 매주 2억 5천 5백만 명의 고객을 지원하는 에코시스템 전반에 걸쳐 신뢰 구축을 운영하는 방법을 공개
Windows, AI 앱 상호 연결 표준 지원 추가
Microsoft는 모델 컨텍스트 프로토콜(MCP)의 기본 통합과 Windows AI 파운드리의 도입이라는 두 가지 주요 개발을 통해 Windows용 AI 전략을 두 배로 강화하고 있습니다. 이러한 기본적인 움직임은 운영 체제 전반에서 원활하게 작동하는 지능형 AI 비서에 대한 Microsoft의 비전을 위한 기반을 마련합니다.AI 통합의 새로운 표준원래
AI 기반 제안서 작성으로 성공을 실현하세요: 최종 가이드
오늘날과 같이 경쟁이 치열한 비즈니스 환경에서는 효과적인 제안서 작성이 거래의 성패를 좌우할 수 있습니다. Proposal Kit는 ChatGPT와의 최첨단 AI 통합을 통해 이 프로세스를 혁신하여 전문가가 전례 없는 속도와 정확성으로 설득력 있는 제안서를 작성할 수 있도록 지원합니다. 이 포괄적인 가이드에서 이러한 강력한 도구를 결합하여 몇 시간이 걸리는
2025년 8월 26일 오전 8시 1분 20초 GMT+09:00
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
0
2025년 8월 25일 오후 2시 0분 59초 GMT+09:00
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
0
2025년 8월 25일 오전 11시 39분 46초 GMT+09:00
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
0
2025년 4월 26일 오후 4시 27분 1초 GMT+09:00
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟
0
2025년 4월 26일 오후 3시 5분 13초 GMT+09:00
Red Hatのオープンで小規模な言語モデルへの焦点は新鮮です！責任あるAIを推進する企業を見るのは素晴らしいです。実用的な応用は印象的ですが、学ぶための例がもっと欲しいです。それでも、正しい方向への一歩です。頑張ってください、Red Hat！🌟
0
2025년 4월 26일 오전 11시 40분 8초 GMT+09:00
A abordagem da Red Hat com modelos de linguagem pequenos para IA responsável é muito legal! É ótimo ver esforços em direção a uma IA prática que considera influências geopolíticas. No entanto, a aplicação dentro das empresas poderia ser mais detalhada. Ainda assim, um passo na direção certa! 👍
0
