책임감 있고 실용적인 AI를위한 열린 작은 언어 모델에 대한 Red Hat
htmlAI 개발 및 사용에 대한 지정학적 영향
글로벌 이벤트가 세계를 형성함에 따라 기술 부문, 특히 AI 시장에 영향을 미치는 것은 불가피하다. 이러한 영향은 AI 개발, 방법론, 그리고 기업 내 적용에까지 확장된다. 현재 AI 환경은 흥분과 회의적인 태도가 혼합된 상태로, 일부는 그 잠재력을 받아들이고 있지만 초기 개발 단계로 인해 신중한 입장을 취하는 이들도 있다.
전통적인 폐쇄 루프 대형 언어 모델(LLM), 예를 들어 잘 알려진 제공업체의 모델들은 Llama, DeepSeek, Baidu의 Ernie X1과 같은 더 개방적인 새로운 모델들과 경쟁하고 있다. 반면, 오픈소스 개발은 투명성을 제공하며 커뮤니티 기여의 기회를 제공하여 "책임 있는 AI"라는 개념과 일치한다. 이 접근법은 환경 영향, 사용 윤리, 학습 데이터 소스, 데이터 주권, 언어, 정치와 관련된 문제를 고려한다.
성공적인 오픈소스 비즈니스 모델로 알려진 Red Hat은 협업적이고 투명한 접근법을 AI에 적용하려고 한다. 최근 Red Hat의 EMEA CTO인 Julio Guijarro와의 대화에서, 그들은 생성 AI의 힘을 책임감 있고 지속 가능하게 기업에 가치를 더하는 방식으로 활용하는 전략에 대해 논의했다.
교육과 투명성의 필요성
Julio는 AI에 대한 더 많은 교육의 필요성을 강조하며, AI의 복잡한 특성이 많은 사람들에게 "블랙박스"로 여겨진다고 지적했다. 그는 "AI의 내부 작동은 복잡한 과학과 수학에 깊이 뿌리를 두고 있으며, 대체로 알려지지 않았다"고 말했다. "이러한 투명성 부족은 AI가 폐쇄된 환경에서 개발될 때 더욱 심화된다."
추가적인 도전 과제로는 특정 언어의 과소 대표, 데이터 주권 문제, 신뢰 문제가 있다. Julio는 "데이터는 조직의 가장 소중한 자산이며, 기업은 민감한 데이터를 다양한 개인정보 정책을 가진 공공 플랫폼에 노출시키는 위험을 인식해야 한다"고 언급했다.
Red Hat의 AI 접근법
Red Hat은 전통적인 AI 서비스와 관련된 의구심과 한계를 해결하면서 최종 사용자에게 이점을 제공하는 데 초점을 맞춘 글로벌 AI 수요에 대응하고 있다. Julio는 소형 언어 모델(SLM)의 잠재력을 해결책으로 강조했다. 이러한 모델은 비전문 하드웨어를 사용하여 로컬 또는 하이브리드 클라우드에서 실행될 수 있으며, 로컬 비즈니스 데이터에 접근할 수 있다. SLM은 효율적이고 작업별로 특화되어 LLM보다 적은 리소스를 요구한다.
SLM의 주요 장점 중 하나는 빠르게 변화하는 비즈니스 데이터에 최신 상태를 유지할 수 있는 능력이다. Julio는 "대형 언어 모델은 데이터 생성이 대형 클라우드 외부, 즉 비즈니스 프로세스 바로 옆에서 이루어지기 때문에 빠르게 구식이 될 수 있다"고 설명했다.
비용도 중요한 요소이다. Julio는 "LLM을 사용한 고객 서비스 질의는 상당한 숨겨진 비용을 초래할 수 있다"고 말했다. "AI 이전에는 데이터 질의의 범위와 비용이 예측 가능했다. LLM에서는 각 상호작용이 반복 모델로 작동하기 때문에 비용이 증가할 수 있다. 온프레미스에서 모델을 실행하면 쿼리당 요금이 아닌 인프라에 연결된 비용을 더 잘 제어할 수 있다."
다행히 조직은 GPU와 같은 특수 하드웨어에 크게 투자할 필요가 없다. Red Hat은 표준 하드웨어에서 모델을 최적화하여 실행하고, 모든 쿼리에 대규모 범용 데이터 세트를 처리하는 대신 비즈니스에 필요한 특정 모델에 집중하고 있다.
더 작고 지역화된 모델의 중요성
로컬 데이터를 사용하고 참조함으로써 결과를 특정 요구에 맞게 조정할 수 있다. Julio는 영어 중심의 LLM이 잘 서비스하지 않는 아랍어 및 포르투갈어 사용 지역에서의 프로젝트를 언급했다.
LLM에는 시간에 민감하거나 고객을 대면하는 애플리케이션에 영향을 미칠 수 있는 지연 시간 문제와 같은 실제적인 도전 과제가 있다. 리소스와 결과를 사용자 가까이에 유지하면 이러한 문제를 완화할 수 있다.
신뢰는 책임 있는 AI의 또 다른 중요한 측면이다. Red Hat은 투명성을 높이고 더 많은 커뮤니티 참여를 가능하게 하기 위해 개방형 플랫폼, 도구, 모델을 지지한다. Julio는 "모두에게 중요하다"고 말했다. "우리는 모델을 공개하는 것뿐만 아니라 사용자가 이를 복제하고 조정하며 제공할 수 있는 도구를 제공함으로써 AI를 민주화하는 능력을 구축하고 있다."
Red Hat의 최근 Neural Magic 인수는 기업이 AI를 더 쉽게 확장하고, 추론 성능을 개선하며, vLLM 프로젝트를 통해 AI 워크로드를 구축하고 배포하는 데 더 많은 선택권을 제공하는 것을 목표로 한다. 또한 IBM Research와 협력하여 Red Hat은 비데이터 과학자이지만 가치 있는 비즈니스 지식을 가진 사람들이 AI 개발에 접근할 수 있도록 InstructLab을 출시했다.
AI의 미래
AI 거품에 대한 많은 추측이 있지만, Red Hat은 AI가 특정 사용 사례에 맞춰지고 오픈소스로 유지되는 미래를 믿는다. 이 접근법은 경제적으로 실행 가능하고 모두에게 접근 가능할 것이다. Red Hat의 CEO인 Matt Hicks는 "AI의 미래는 개방적이다"고 말했다.
관련 기사
2025년 텍사스 홍수에서 AI가 부족한 이유: 중요한 재난 대응 교훈
다시 작성된 버전은 다음과 같습니다:2025년 텍사스 홍수: 경각심을 일깨운 사건2025년 7월, 텍사스는 재난 대비에 심각한 공백이 있음을 드러내는 치명적인 홍수에 직면했습니다. 과달루페 강이 3~34피트까지 급격히 불어난 홍수로 인해 지역 사회는 경계를 늦추었고, 강이 지나가는 모든 것을 휩쓸어 버렸습니다. 텍사스 중부에 단 3시간 만에 10인치 이상의
테크크런치 세션 티켓을 할인된 가격에 구매할 수 있는 마지막 기회입니다: 내일의 AI 이벤트
UC 버클리의 젤러바흐 홀에서 올해 가장 중요한 AI 모임이 개최됩니다. 내일 그 문이 열리면 여러분은 인공지능의 미래를 만들어가는 엄선된 그룹에 속하고 싶을 것입니다.이 AI 컨퍼런스가 특별한 이유테크크런치 세션: AI는 소음 속을 뚫고 AI 기반 미래의 설계자들이 전하는 진정한 인사이트를 제공합니다. 미래의 기술을 구축하는 선구자, 혁신을 촉진하는 투자
AI 기반 뉴스레터 자동화 가이드: 간편한 워크플로 간소화
다음은 모든 원본 태그와 구조를 엄격하게 유지하면서 HTML 콘텐츠를 재작성한 것입니다:키 포인트 Make, Notion, 0CodeKit 솔루션을 사용하여 자동화된 뉴스레터 워크플로우를 구현합니다. 프로그램적으로 콘텐츠 영감을 수집하고 트랜스크립션을 자동 생성합니다. 요약, 매력적인 제목, 전문적으로 제작된 뉴스레터 콘텐츠를 위한 GPT-4o의 기능을 활
의견 (13)
0/200
![JohnWilson]()
JohnWilson
2025년 8월 26일 오전 8시 1분 20초 GMT+09:00
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
0
![ThomasHernández]()
ThomasHernández
2025년 8월 25일 오후 2시 0분 59초 GMT+09:00
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
0
![AlbertScott]()
AlbertScott
2025년 8월 25일 오전 11시 39분 46초 GMT+09:00
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
0
![WillieMartinez]()
WillieMartinez
2025년 4월 26일 오후 4시 27분 1초 GMT+09:00
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟
0
![GregoryJones]()
GregoryJones
2025년 4월 26일 오후 3시 5분 13초 GMT+09:00
Red Hatのオープンで小規模な言語モデルへの焦点は新鮮です！責任あるAIを推進する企業を見るのは素晴らしいです。実用的な応用は印象的ですが、学ぶための例がもっと欲しいです。それでも、正しい方向への一歩です。頑張ってください、Red Hat！🌟
0
![NicholasLewis]()
NicholasLewis
2025년 4월 26일 오전 11시 40분 8초 GMT+09:00
A abordagem da Red Hat com modelos de linguagem pequenos para IA responsável é muito legal! É ótimo ver esforços em direção a uma IA prática que considera influências geopolíticas. No entanto, a aplicação dentro das empresas poderia ser mais detalhada. Ainda assim, um passo na direção certa! 👍
0
AI 개발 및 사용에 대한 지정학적 영향
글로벌 이벤트가 세계를 형성함에 따라 기술 부문, 특히 AI 시장에 영향을 미치는 것은 불가피하다. 이러한 영향은 AI 개발, 방법론, 그리고 기업 내 적용에까지 확장된다. 현재 AI 환경은 흥분과 회의적인 태도가 혼합된 상태로, 일부는 그 잠재력을 받아들이고 있지만 초기 개발 단계로 인해 신중한 입장을 취하는 이들도 있다.
전통적인 폐쇄 루프 대형 언어 모델(LLM), 예를 들어 잘 알려진 제공업체의 모델들은 Llama, DeepSeek, Baidu의 Ernie X1과 같은 더 개방적인 새로운 모델들과 경쟁하고 있다. 반면, 오픈소스 개발은 투명성을 제공하며 커뮤니티 기여의 기회를 제공하여 "책임 있는 AI"라는 개념과 일치한다. 이 접근법은 환경 영향, 사용 윤리, 학습 데이터 소스, 데이터 주권, 언어, 정치와 관련된 문제를 고려한다.
성공적인 오픈소스 비즈니스 모델로 알려진 Red Hat은 협업적이고 투명한 접근법을 AI에 적용하려고 한다. 최근 Red Hat의 EMEA CTO인 Julio Guijarro와의 대화에서, 그들은 생성 AI의 힘을 책임감 있고 지속 가능하게 기업에 가치를 더하는 방식으로 활용하는 전략에 대해 논의했다.
교육과 투명성의 필요성
Julio는 AI에 대한 더 많은 교육의 필요성을 강조하며, AI의 복잡한 특성이 많은 사람들에게 "블랙박스"로 여겨진다고 지적했다. 그는 "AI의 내부 작동은 복잡한 과학과 수학에 깊이 뿌리를 두고 있으며, 대체로 알려지지 않았다"고 말했다. "이러한 투명성 부족은 AI가 폐쇄된 환경에서 개발될 때 더욱 심화된다."
추가적인 도전 과제로는 특정 언어의 과소 대표, 데이터 주권 문제, 신뢰 문제가 있다. Julio는 "데이터는 조직의 가장 소중한 자산이며, 기업은 민감한 데이터를 다양한 개인정보 정책을 가진 공공 플랫폼에 노출시키는 위험을 인식해야 한다"고 언급했다.
Red Hat의 AI 접근법
Red Hat은 전통적인 AI 서비스와 관련된 의구심과 한계를 해결하면서 최종 사용자에게 이점을 제공하는 데 초점을 맞춘 글로벌 AI 수요에 대응하고 있다. Julio는 소형 언어 모델(SLM)의 잠재력을 해결책으로 강조했다. 이러한 모델은 비전문 하드웨어를 사용하여 로컬 또는 하이브리드 클라우드에서 실행될 수 있으며, 로컬 비즈니스 데이터에 접근할 수 있다. SLM은 효율적이고 작업별로 특화되어 LLM보다 적은 리소스를 요구한다.
SLM의 주요 장점 중 하나는 빠르게 변화하는 비즈니스 데이터에 최신 상태를 유지할 수 있는 능력이다. Julio는 "대형 언어 모델은 데이터 생성이 대형 클라우드 외부, 즉 비즈니스 프로세스 바로 옆에서 이루어지기 때문에 빠르게 구식이 될 수 있다"고 설명했다.
비용도 중요한 요소이다. Julio는 "LLM을 사용한 고객 서비스 질의는 상당한 숨겨진 비용을 초래할 수 있다"고 말했다. "AI 이전에는 데이터 질의의 범위와 비용이 예측 가능했다. LLM에서는 각 상호작용이 반복 모델로 작동하기 때문에 비용이 증가할 수 있다. 온프레미스에서 모델을 실행하면 쿼리당 요금이 아닌 인프라에 연결된 비용을 더 잘 제어할 수 있다."
다행히 조직은 GPU와 같은 특수 하드웨어에 크게 투자할 필요가 없다. Red Hat은 표준 하드웨어에서 모델을 최적화하여 실행하고, 모든 쿼리에 대규모 범용 데이터 세트를 처리하는 대신 비즈니스에 필요한 특정 모델에 집중하고 있다.
더 작고 지역화된 모델의 중요성
로컬 데이터를 사용하고 참조함으로써 결과를 특정 요구에 맞게 조정할 수 있다. Julio는 영어 중심의 LLM이 잘 서비스하지 않는 아랍어 및 포르투갈어 사용 지역에서의 프로젝트를 언급했다.
LLM에는 시간에 민감하거나 고객을 대면하는 애플리케이션에 영향을 미칠 수 있는 지연 시간 문제와 같은 실제적인 도전 과제가 있다. 리소스와 결과를 사용자 가까이에 유지하면 이러한 문제를 완화할 수 있다.
신뢰는 책임 있는 AI의 또 다른 중요한 측면이다. Red Hat은 투명성을 높이고 더 많은 커뮤니티 참여를 가능하게 하기 위해 개방형 플랫폼, 도구, 모델을 지지한다. Julio는 "모두에게 중요하다"고 말했다. "우리는 모델을 공개하는 것뿐만 아니라 사용자가 이를 복제하고 조정하며 제공할 수 있는 도구를 제공함으로써 AI를 민주화하는 능력을 구축하고 있다."
Red Hat의 최근 Neural Magic 인수는 기업이 AI를 더 쉽게 확장하고, 추론 성능을 개선하며, vLLM 프로젝트를 통해 AI 워크로드를 구축하고 배포하는 데 더 많은 선택권을 제공하는 것을 목표로 한다. 또한 IBM Research와 협력하여 Red Hat은 비데이터 과학자이지만 가치 있는 비즈니스 지식을 가진 사람들이 AI 개발에 접근할 수 있도록 InstructLab을 출시했다.
AI의 미래
AI 거품에 대한 많은 추측이 있지만, Red Hat은 AI가 특정 사용 사례에 맞춰지고 오픈소스로 유지되는 미래를 믿는다. 이 접근법은 경제적으로 실행 가능하고 모두에게 접근 가능할 것이다. Red Hat의 CEO인 Matt Hicks는 "AI의 미래는 개방적이다"고 말했다.
2025년 텍사스 홍수에서 AI가 부족한 이유: 중요한 재난 대응 교훈
다시 작성된 버전은 다음과 같습니다:2025년 텍사스 홍수: 경각심을 일깨운 사건2025년 7월, 텍사스는 재난 대비에 심각한 공백이 있음을 드러내는 치명적인 홍수에 직면했습니다. 과달루페 강이 3~34피트까지 급격히 불어난 홍수로 인해 지역 사회는 경계를 늦추었고, 강이 지나가는 모든 것을 휩쓸어 버렸습니다. 텍사스 중부에 단 3시간 만에 10인치 이상의
테크크런치 세션 티켓을 할인된 가격에 구매할 수 있는 마지막 기회입니다: 내일의 AI 이벤트
UC 버클리의 젤러바흐 홀에서 올해 가장 중요한 AI 모임이 개최됩니다. 내일 그 문이 열리면 여러분은 인공지능의 미래를 만들어가는 엄선된 그룹에 속하고 싶을 것입니다.이 AI 컨퍼런스가 특별한 이유테크크런치 세션: AI는 소음 속을 뚫고 AI 기반 미래의 설계자들이 전하는 진정한 인사이트를 제공합니다. 미래의 기술을 구축하는 선구자, 혁신을 촉진하는 투자
AI 기반 뉴스레터 자동화 가이드: 간편한 워크플로 간소화
다음은 모든 원본 태그와 구조를 엄격하게 유지하면서 HTML 콘텐츠를 재작성한 것입니다:키 포인트 Make, Notion, 0CodeKit 솔루션을 사용하여 자동화된 뉴스레터 워크플로우를 구현합니다. 프로그램적으로 콘텐츠 영감을 수집하고 트랜스크립션을 자동 생성합니다. 요약, 매력적인 제목, 전문적으로 제작된 뉴스레터 콘텐츠를 위한 GPT-4o의 기능을 활
2025년 8월 26일 오전 8시 1분 20초 GMT+09:00
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
0
2025년 8월 25일 오후 2시 0분 59초 GMT+09:00
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
0
2025년 8월 25일 오전 11시 39분 46초 GMT+09:00
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
0
2025년 4월 26일 오후 4시 27분 1초 GMT+09:00
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟
0
2025년 4월 26일 오후 3시 5분 13초 GMT+09:00
Red Hatのオープンで小規模な言語モデルへの焦点は新鮮です！責任あるAIを推進する企業を見るのは素晴らしいです。実用的な応用は印象的ですが、学ぶための例がもっと欲しいです。それでも、正しい方向への一歩です。頑張ってください、Red Hat！🌟
0
2025년 4월 26일 오전 11시 40분 8초 GMT+09:00
A abordagem da Red Hat com modelos de linguagem pequenos para IA responsável é muito legal! É ótimo ver esforços em direção a uma IA prática que considera influências geopolíticas. No entanto, a aplicação dentro das empresas poderia ser mais detalhada. Ainda assim, um passo na direção certa! 👍
0
