Pruna AI는 오픈 소스 AI 모델 최적화 프레임 워크를 공개합니다
Pruna AI, 인공지능 모델을 위한 압축 알고리즘 개발에 주력하는 유럽 스타트업은, 이번 목요일에 최적화 프레임워크를 오픈 소스로 공개할 예정이다. 이 회사는 캐싱, 프루닝, 양자화, 증류와 같은 다양한 효율성 기술을 통합하여 AI 모델 성능을 향상시키는 프레임워크를 개발해 왔다.
Pruna AI의 공동 창립자이자 CTO인 John Rachwan은 TechCrunch에 그들의 프레임워크가 이러한 방법들을 적용할 뿐만 아니라 압축된 모델을 저장하고, 로드하고, 평가하는 과정을 표준화한다고 설명했다. 이를 통해 사용자는 품질 손실 가능성과 압축을 통해 달성한 성능 개선을 평가할 수 있다.
Rachwan은 Pruna AI의 역할을 Hugging Face에 비유했는데, Hugging Face는 트랜스포머와 디퓨저의 사용을 표준화했다. 그는 “우리는 효율성 방법에 대해 동일한 작업을 하고 있다”며, 이러한 방법들이 어떻게 적용되고 관리되는지에 대한 표준화를 강조했다.
주요 AI 연구소들은 이미 유사한 압축 기술을 채택해 왔다. 예를 들어, OpenAI는 증류를 사용해 GPT-4 Turbo와 같은 더 빠른 모델 버전을 개발했다. 마찬가지로 Black Forest Labs는 Flux.1 모델의 증류 버전인 Flux.1-schnell을 만들었다. 증류는 더 큰 모델의 출력을 사용하여 더 작고 효율적인 모델을 훈련시키는 “교사-학생” 접근법을 포함한다.
Rachwan은 대기업들이 종종 이러한 도구를 내부적으로 개발하지만, 오픈 소스 커뮤니티는 일반적으로 단일 방법에 초점을 맞춘다고 지적했다. 그는 “그러나 모든 방법을 통합하고, 사용 및 조합을 쉽게 만드는 도구는 찾을 수 없다”며 Pruna AI의 독특한 가치 제안을 강조했다.
왼쪽에서 오른쪽으로: Rayan Nait Mazi, Bertrand Charpentier, John Rachwan, Stephan Günnemann 이미지 제공: Pruna AI Pruna AI의 프레임워크는 대형 언어 모델, 디퓨전 모델, 음성-텍스트 모델, 컴퓨터 비전 모델 등 다양한 모델을 지원하지만, 현재 회사는 이미지 및 비디오 생성 모델에 초점을 맞추고 있다. Pruna AI의 기존 사용자로는 Scenario와 PhotoRoom이 포함된다.오픈 소스 버전 외에도 Pruna AI는 고급 최적화 기능을 포함한 엔터프라이즈 에디션을 제공하며, 여기에는 곧 출시될 압축 에이전트가 포함된다. Rachwan은 이 에이전트를 사용자가 지정한 성능 및 정확도 요구사항에 따라 모델에 최적의 압축 조합을 자동으로 찾아주는 도구로 설명했다.
Pruna AI의 프로 버전은 AWS와 같은 클라우드 서비스에서 GPU를 대여하는 것과 유사하게 시간당 요금으로 청구된다. 모델 최적화를 통해 사용자는 추론 비용을 크게 절감할 수 있다. 예를 들어, Pruna AI는 Llama 모델을 원래 크기의 8분의 1로 압축하면서도 품질 손실을 최소화하여 잠재적인 비용 절감을 보여주었다.
이 회사는 최근 EQT Ventures, Daphni, Motier Ventures, Kima Ventures 등의 투자자로부터 650만 달러 규모의 시드 펀딩 라운드를 확보했다. Pruna AI는 압축 프레임워크를 운영 비용 절감을 통해 자체적으로 비용을 충당할 수 있는 전략적 투자로 보고 있다.
관련 기사
독특한 사운드 커버로 음악을 재해석한 마인크래프트 마을 주민 AI
AI 기술이 예상치 못한 방식으로 창작의 경계를 넓히면서 음악 제작 환경은 계속해서 변화하고 있습니다. 특히 흥미로운 발전 중 하나는 마인크래프트 마을 주민의 독특한 보컬 사운드를 사용하여 인기 곡을 재해석한 AI 생성 음악 커버입니다. 기발하면서도 음악적으로 뛰어난 이 커버는 머신러닝이 어떻게 디지털 향수와 현대적인 AI 혁신을 결합하여 색다른 음원으로부
미드저니, 크리에이티브 콘텐츠를 위한 최첨단 AI 동영상 생성기 공개
미드저니의 AI 비디오 생성 혁신Midjourney가 첫 번째 AI 동영상 생성 도구를 공개하며, 유명한 이미지 제작 기능을 넘어서는 중요한 확장을 이루었습니다. 초기 버전에서는 사용자가 업로드한 이미지와 플랫폼에서 생성한 아트워크를 모두 5초 분량의 짧은 애니메이션 클립으로 변환할 수 있으며, 향후 야심찬 개선 계획을 가지고 있습니다.핵심 특징 및 기능정
구글, 스마트 폰 조기 공개로 픽셀 10 유출 억제
Google은 8월 20일로 예정된 출시 행사를 불과 몇 주 앞두고 공식 디자인을 선보이며 곧 출시될 Pixel 10 스마트폰 라인업을 미리 엿볼 수 있도록 팬들을 유혹하고 있습니다.Google 웹사이트의 홍보 동영상을 보면 트리플 후면 카메라, LED 플래시, 온도 센서(이전에는 프로 모델에만 제공되었던 기능)가 장착된 세련된 회청색 기기를 확인할 수 있
의견 (30)
0/200
![PaulRoberts]()
PaulRoberts
2025년 4월 25일 오후 1시 4분 39초 GMT+09:00
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
0
![DouglasMitchell]()
DouglasMitchell
2025년 4월 25일 오전 2시 25분 23초 GMT+09:00
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
0
![WillieMartinez]()
WillieMartinez
2025년 4월 20일 오전 10시 20분 47초 GMT+09:00
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
0
![JamesLopez]()
JamesLopez
2025년 4월 19일 오전 7시 46분 0초 GMT+09:00
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀
0
![CharlesNelson]()
CharlesNelson
2025년 4월 19일 오전 4시 7분 22초 GMT+09:00
Pruna AI's open-source framework sounds promising, but I'm not a tech whiz, so I'm a bit lost. The idea of optimizing AI models is cool, but I wish they had more user-friendly tutorials. Maybe they'll release something simpler soon? 🤔🧠
0
![JerryMoore]()
JerryMoore
2025년 4월 17일 오후 6시 56분 48초 GMT+09:00
Pruna AI의 오픈소스 프레임워크는 promising하지만, 기술에 밝지 않아서 좀 헷갈려. AI 모델 최적화는 흥미로운데, 좀 더 사용자 친화적인 튜토리얼이 있었으면 좋겠어. 곧 더 간단한 걸 내놓을까? 🤔🧠
0
Pruna AI, 인공지능 모델을 위한 압축 알고리즘 개발에 주력하는 유럽 스타트업은, 이번 목요일에 최적화 프레임워크를 오픈 소스로 공개할 예정이다. 이 회사는 캐싱, 프루닝, 양자화, 증류와 같은 다양한 효율성 기술을 통합하여 AI 모델 성능을 향상시키는 프레임워크를 개발해 왔다.
Pruna AI의 공동 창립자이자 CTO인 John Rachwan은 TechCrunch에 그들의 프레임워크가 이러한 방법들을 적용할 뿐만 아니라 압축된 모델을 저장하고, 로드하고, 평가하는 과정을 표준화한다고 설명했다. 이를 통해 사용자는 품질 손실 가능성과 압축을 통해 달성한 성능 개선을 평가할 수 있다.
Rachwan은 Pruna AI의 역할을 Hugging Face에 비유했는데, Hugging Face는 트랜스포머와 디퓨저의 사용을 표준화했다. 그는 “우리는 효율성 방법에 대해 동일한 작업을 하고 있다”며, 이러한 방법들이 어떻게 적용되고 관리되는지에 대한 표준화를 강조했다.
주요 AI 연구소들은 이미 유사한 압축 기술을 채택해 왔다. 예를 들어, OpenAI는 증류를 사용해 GPT-4 Turbo와 같은 더 빠른 모델 버전을 개발했다. 마찬가지로 Black Forest Labs는 Flux.1 모델의 증류 버전인 Flux.1-schnell을 만들었다. 증류는 더 큰 모델의 출력을 사용하여 더 작고 효율적인 모델을 훈련시키는 “교사-학생” 접근법을 포함한다.
Rachwan은 대기업들이 종종 이러한 도구를 내부적으로 개발하지만, 오픈 소스 커뮤니티는 일반적으로 단일 방법에 초점을 맞춘다고 지적했다. 그는 “그러나 모든 방법을 통합하고, 사용 및 조합을 쉽게 만드는 도구는 찾을 수 없다”며 Pruna AI의 독특한 가치 제안을 강조했다.
오픈 소스 버전 외에도 Pruna AI는 고급 최적화 기능을 포함한 엔터프라이즈 에디션을 제공하며, 여기에는 곧 출시될 압축 에이전트가 포함된다. Rachwan은 이 에이전트를 사용자가 지정한 성능 및 정확도 요구사항에 따라 모델에 최적의 압축 조합을 자동으로 찾아주는 도구로 설명했다.
Pruna AI의 프로 버전은 AWS와 같은 클라우드 서비스에서 GPU를 대여하는 것과 유사하게 시간당 요금으로 청구된다. 모델 최적화를 통해 사용자는 추론 비용을 크게 절감할 수 있다. 예를 들어, Pruna AI는 Llama 모델을 원래 크기의 8분의 1로 압축하면서도 품질 손실을 최소화하여 잠재적인 비용 절감을 보여주었다.
이 회사는 최근 EQT Ventures, Daphni, Motier Ventures, Kima Ventures 등의 투자자로부터 650만 달러 규모의 시드 펀딩 라운드를 확보했다. Pruna AI는 압축 프레임워크를 운영 비용 절감을 통해 자체적으로 비용을 충당할 수 있는 전략적 투자로 보고 있다.
독특한 사운드 커버로 음악을 재해석한 마인크래프트 마을 주민 AI
AI 기술이 예상치 못한 방식으로 창작의 경계를 넓히면서 음악 제작 환경은 계속해서 변화하고 있습니다. 특히 흥미로운 발전 중 하나는 마인크래프트 마을 주민의 독특한 보컬 사운드를 사용하여 인기 곡을 재해석한 AI 생성 음악 커버입니다. 기발하면서도 음악적으로 뛰어난 이 커버는 머신러닝이 어떻게 디지털 향수와 현대적인 AI 혁신을 결합하여 색다른 음원으로부
미드저니, 크리에이티브 콘텐츠를 위한 최첨단 AI 동영상 생성기 공개
미드저니의 AI 비디오 생성 혁신Midjourney가 첫 번째 AI 동영상 생성 도구를 공개하며, 유명한 이미지 제작 기능을 넘어서는 중요한 확장을 이루었습니다. 초기 버전에서는 사용자가 업로드한 이미지와 플랫폼에서 생성한 아트워크를 모두 5초 분량의 짧은 애니메이션 클립으로 변환할 수 있으며, 향후 야심찬 개선 계획을 가지고 있습니다.핵심 특징 및 기능정
구글, 스마트 폰 조기 공개로 픽셀 10 유출 억제
Google은 8월 20일로 예정된 출시 행사를 불과 몇 주 앞두고 공식 디자인을 선보이며 곧 출시될 Pixel 10 스마트폰 라인업을 미리 엿볼 수 있도록 팬들을 유혹하고 있습니다.Google 웹사이트의 홍보 동영상을 보면 트리플 후면 카메라, LED 플래시, 온도 센서(이전에는 프로 모델에만 제공되었던 기능)가 장착된 세련된 회청색 기기를 확인할 수 있
2025년 4월 25일 오후 1시 4분 39초 GMT+09:00
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
0
2025년 4월 25일 오전 2시 25분 23초 GMT+09:00
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
0
2025년 4월 20일 오전 10시 20분 47초 GMT+09:00
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
0
2025년 4월 19일 오전 7시 46분 0초 GMT+09:00
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀
0
2025년 4월 19일 오전 4시 7분 22초 GMT+09:00
Pruna AI's open-source framework sounds promising, but I'm not a tech whiz, so I'm a bit lost. The idea of optimizing AI models is cool, but I wish they had more user-friendly tutorials. Maybe they'll release something simpler soon? 🤔🧠
0
2025년 4월 17일 오후 6시 56분 48초 GMT+09:00
Pruna AI의 오픈소스 프레임워크는 promising하지만, 기술에 밝지 않아서 좀 헷갈려. AI 모델 최적화는 흥미로운데, 좀 더 사용자 친화적인 튜토리얼이 있었으면 좋겠어. 곧 더 간단한 걸 내놓을까? 🤔🧠
0
