Pruna AI는 오픈 소스 AI 모델 최적화 프레임 워크를 공개합니다
AI 모델을위한 압축 알고리즘 개발에 중점을 둔 유럽의 스타트 업인 Pruna AI는 이번 목요일에 최적화 프레임 워크를 오픈 소스로 출시 할 예정입니다. 이 회사는 캐싱, 가지 치기, 양자화 및 증류와 같은 다양한 효율성 기술을 통합하여 AI 모델 성능을 향상시키는 프레임 워크를 연구하고 있습니다.
Pruna AI의 공동 창립자이자 CTO 인 John Rachwan은 TechCrunch에 프레임 워크가 이러한 방법을 적용 할뿐만 아니라 압축 모델을 저장,로드 및 평가하는 프로세스를 표준화한다고 설명했습니다. 이를 통해 사용자는 잠재적 인 품질 손실과 압축을 통해 달성 된 성능 향상을 평가할 수 있습니다.
Rachwan은 Pruna AI의 역할을 포옹 얼굴의 역할에 비유하여 변압기와 디퓨저의 사용을 표준화했습니다. "우리는 동일하게 수행하고 있지만 효율성 방법을 위해 이러한 방법이 적용되고 관리되는 방식의 표준화를 강조하면서 밝혔다.
주요 AI 실험실은 이미 유사한 압축 기술을 채택했습니다. 예를 들어, OpenAI는 증류를 사용하여 GPT-4 터보와 같은 더 빠른 버전의 모델을 개발했습니다. 마찬가지로, Black Forest Labs는 플럭스의 증류 버전 인 1-Schnell을 생성했습니다. 증류에는 더 큰 모델의 출력이 더 작고 효율적인 모델을 훈련시키는 데 더 큰 모델의 출력이 사용되는 "교사 학생"접근 방식이 포함됩니다.
Rachwan은 대기업이 종종 이러한 도구를 내부적으로 개발하지만 오픈 소스 커뮤니티는 일반적으로 단일 방법에 중점을 둡니다. "그러나 당신은 그들 모두를 집계하고, 모두 사용하기 쉽고 함께 결합하는 도구를 찾을 수는 없다"고 Pruna AI의 독특한 가치 제안을 강조했다.
왼쪽에서 오른쪽 : Rayan Nait Mazi, Bertrand Charpentier, John Rachwan, Stephan Günnemannimage 크레딧 : Pruna AI Pruna AI의 프레임 워크는 대형 언어 모델, 확산 모델, 음성 텍스트 모델 및 컴퓨터 비전 모델을 포함한 광범위한 모델을 지원하지만 현재 이미지 및 비디오 생성 모델에 중점을두고 있습니다. Pruna AI의 기존 사용자에는 시나리오 및 포토 룸이 포함됩니다.
Open-Source 버전 외에도 Pruna AI는 다가오는 압축 에이전트를 포함하여 고급 최적화 기능이있는 엔터프라이즈 에디션을 제공합니다. Rachwan 은이 에이전트를 사용자 지정 성능 및 정확도 요구 사항을 기반으로 모델에 대한 최상의 압축 조합을 자동으로 찾는 도구로 설명했습니다.
Pruna AI의 프로 버전은 AWS와 같은 클라우드 서비스에 GPU를 임대하는 것과 유사한 시간에 의해 청구됩니다. 모델을 최적화함으로써 사용자는 추론 비용을 크게 줄일 수 있습니다. 예를 들어, Pruna AI는 Llama 모델을 최소한의 품질 손실로 원래 크기로 1/8으로 압축하여 잠재적 비용 절감을 보여주었습니다.
이 회사는 최근 EQT Ventures, Daphni, Motier Ventures 및 Kima Ventures를 포함한 투자자들로부터 650 만 달러의 종자 자금을 확보했습니다. Pruna AI는 압축 프레임 워크를 운영 비용 절감을 통해 스스로 지불 할 수있는 전략적 투자로 간주합니다.
관련 기사
AI驱动的摘要：YouTube视频摘要完整指南
在当今快节奏的世界中，快速处理和理解信息的能力比以往任何时候都重要。YouTube拥有无尽的视频资源，是知识的宝库，但谁有时间从头到尾观看每一部视频？本指南将向您展示如何使用AI工具来摘要YouTube视频，帮助您节省时间并提高生产力。通过使用AI驱动的摘要工具，您可以迅速掌握视频的要点，帮助您决定是否值得深入观看或继续下一个。让我们探索这些AI工具如何改变您的学习和保持更新的方式。要点AI驱动的
AI가 포인트 오브 케어 평가를 위한 초음파를 혁신하다
인공지능은 의료 분야를 뒤흔들고 있으며, 초음파 기술도 그 변화의 물결을 타고 있다. 이 글은 AI가 포인트 오브 케어 초음파(POCUS) 평가를 어떻게 변화시키고, 더 접근 가능하고 효율적이며 정확하게 만드는지 살펴본다. 이미지 획득의 문제를 해결하고 해석의 초점을 날카롭게 하는 AI는 초음파를 혁신하여 다양한 환경에서 더 나은 환자 치료를 전면에 내세운
머신 러닝 치트 시트: 필수 AI 빠른 참고 가이드
기술의 역동적인 세계에서 AI와 클라우드 컴퓨팅이 혁신을 주도하고 있으며, 최신 정보를 유지하고 준비하는 것이 중요합니다. 동료와 전략을 논의하거나, 교육 콘텐츠를 제작하거나, 인터뷰를 준비할 때 핵심 정보에 빠르게 접근하는 것이 큰 차이를 만듭니다. 여기서 머신 러닝 치트 시트가 등장합니다. 이는 단축키를 사용하는 것이 아니라, 기억을 되살리고 필수 개념
의견 (30)
0/200
![NicholasLewis]()
NicholasLewis
2025년 4월 11일 오전 12시 0분 0초 GMT
Pruna AI's open-source framework sounds promising, but it's a bit too technical for me. I appreciate the effort to make AI more efficient, but I wish there was a simpler way to use it. Maybe they'll add a user-friendly interface in the future. Still, it's cool they're sharing it for free!
0
![PeterMartinez]()
PeterMartinez
2025년 4월 11일 오전 12시 0분 0초 GMT
El marco de código abierto de Pruna AI suena prometedor, pero es un poco demasiado técnico para mí. Aprecio el esfuerzo por hacer que la IA sea más eficiente, pero desearía que hubiera una forma más sencilla de usarlo. Tal vez en el futuro agreguen una interfaz más amigable para el usuario. Aún así, es genial que lo compartan gratis!
0
![BenBrown]()
BenBrown
2025년 4월 11일 오전 12시 0분 0초 GMT
Pruna AIのオープンソースフレームワークは有望に聞こえますが、私には少し技術的すぎます。AIをより効率的にする努力は評価しますが、もっと簡単に使える方法があればいいのにと思います。将来、ユーザーフレンドリーなインターフェースが追加されるかもしれません。それでも、無料で共有してくれるのは素晴らしいですね！
0
![DouglasMartínez]()
DouglasMartínez
2025년 4월 11일 오전 12시 0분 0초 GMT
Das Open-Source-Framework von Pruna AI klingt vielversprechend, aber es ist ein bisschen zu technisch für mich. Ich schätze den Aufwand, die KI effizienter zu machen, aber ich wünschte, es gäbe eine einfachere Möglichkeit, es zu nutzen. Vielleicht fügen sie in Zukunft eine benutzerfreundlichere Oberfläche hinzu. Trotzdem ist es cool, dass sie es kostenlos teilen!
0
![DanielWalker]()
DanielWalker
2025년 4월 11일 오전 12시 0분 0초 GMT
Le cadre open-source de Pruna AI semble prometteur, mais c'est un peu trop technique pour moi. J'apprécie l'effort pour rendre l'IA plus efficace, mais j'aimerais qu'il y ait une manière plus simple de l'utiliser. Peut-être qu'ils ajouteront une interface plus conviviale à l'avenir. C'est quand même cool qu'ils le partagent gratuitement !
0
![TimothyGonzález]()
TimothyGonzález
2025년 4월 13일 오전 12시 0분 0초 GMT
Pruna AI's open-source framework sounds promising, but I'm not sure how to use it yet. The idea of optimizing AI models with caching, pruning, and quantization is cool, but it's a bit over my head. Hopefully, they'll release some tutorials soon!
0
AI 모델을위한 압축 알고리즘 개발에 중점을 둔 유럽의 스타트 업인 Pruna AI는 이번 목요일에 최적화 프레임 워크를 오픈 소스로 출시 할 예정입니다. 이 회사는 캐싱, 가지 치기, 양자화 및 증류와 같은 다양한 효율성 기술을 통합하여 AI 모델 성능을 향상시키는 프레임 워크를 연구하고 있습니다.
Pruna AI의 공동 창립자이자 CTO 인 John Rachwan은 TechCrunch에 프레임 워크가 이러한 방법을 적용 할뿐만 아니라 압축 모델을 저장,로드 및 평가하는 프로세스를 표준화한다고 설명했습니다. 이를 통해 사용자는 잠재적 인 품질 손실과 압축을 통해 달성 된 성능 향상을 평가할 수 있습니다.
Rachwan은 Pruna AI의 역할을 포옹 얼굴의 역할에 비유하여 변압기와 디퓨저의 사용을 표준화했습니다. "우리는 동일하게 수행하고 있지만 효율성 방법을 위해 이러한 방법이 적용되고 관리되는 방식의 표준화를 강조하면서 밝혔다.
주요 AI 실험실은 이미 유사한 압축 기술을 채택했습니다. 예를 들어, OpenAI는 증류를 사용하여 GPT-4 터보와 같은 더 빠른 버전의 모델을 개발했습니다. 마찬가지로, Black Forest Labs는 플럭스의 증류 버전 인 1-Schnell을 생성했습니다. 증류에는 더 큰 모델의 출력이 더 작고 효율적인 모델을 훈련시키는 데 더 큰 모델의 출력이 사용되는 "교사 학생"접근 방식이 포함됩니다.
Rachwan은 대기업이 종종 이러한 도구를 내부적으로 개발하지만 오픈 소스 커뮤니티는 일반적으로 단일 방법에 중점을 둡니다. "그러나 당신은 그들 모두를 집계하고, 모두 사용하기 쉽고 함께 결합하는 도구를 찾을 수는 없다"고 Pruna AI의 독특한 가치 제안을 강조했다.
Open-Source 버전 외에도 Pruna AI는 다가오는 압축 에이전트를 포함하여 고급 최적화 기능이있는 엔터프라이즈 에디션을 제공합니다. Rachwan 은이 에이전트를 사용자 지정 성능 및 정확도 요구 사항을 기반으로 모델에 대한 최상의 압축 조합을 자동으로 찾는 도구로 설명했습니다.
Pruna AI의 프로 버전은 AWS와 같은 클라우드 서비스에 GPU를 임대하는 것과 유사한 시간에 의해 청구됩니다. 모델을 최적화함으로써 사용자는 추론 비용을 크게 줄일 수 있습니다. 예를 들어, Pruna AI는 Llama 모델을 최소한의 품질 손실로 원래 크기로 1/8으로 압축하여 잠재적 비용 절감을 보여주었습니다.
이 회사는 최근 EQT Ventures, Daphni, Motier Ventures 및 Kima Ventures를 포함한 투자자들로부터 650 만 달러의 종자 자금을 확보했습니다. Pruna AI는 압축 프레임 워크를 운영 비용 절감을 통해 스스로 지불 할 수있는 전략적 투자로 간주합니다.
AI驱动的摘要：YouTube视频摘要完整指南
在当今快节奏的世界中，快速处理和理解信息的能力比以往任何时候都重要。YouTube拥有无尽的视频资源，是知识的宝库，但谁有时间从头到尾观看每一部视频？本指南将向您展示如何使用AI工具来摘要YouTube视频，帮助您节省时间并提高生产力。通过使用AI驱动的摘要工具，您可以迅速掌握视频的要点，帮助您决定是否值得深入观看或继续下一个。让我们探索这些AI工具如何改变您的学习和保持更新的方式。要点AI驱动的
AI가 포인트 오브 케어 평가를 위한 초음파를 혁신하다
인공지능은 의료 분야를 뒤흔들고 있으며, 초음파 기술도 그 변화의 물결을 타고 있다. 이 글은 AI가 포인트 오브 케어 초음파(POCUS) 평가를 어떻게 변화시키고, 더 접근 가능하고 효율적이며 정확하게 만드는지 살펴본다. 이미지 획득의 문제를 해결하고 해석의 초점을 날카롭게 하는 AI는 초음파를 혁신하여 다양한 환경에서 더 나은 환자 치료를 전면에 내세운
머신 러닝 치트 시트: 필수 AI 빠른 참고 가이드
기술의 역동적인 세계에서 AI와 클라우드 컴퓨팅이 혁신을 주도하고 있으며, 최신 정보를 유지하고 준비하는 것이 중요합니다. 동료와 전략을 논의하거나, 교육 콘텐츠를 제작하거나, 인터뷰를 준비할 때 핵심 정보에 빠르게 접근하는 것이 큰 차이를 만듭니다. 여기서 머신 러닝 치트 시트가 등장합니다. 이는 단축키를 사용하는 것이 아니라, 기억을 되살리고 필수 개념
2025년 4월 11일 오전 12시 0분 0초 GMT
Pruna AI's open-source framework sounds promising, but it's a bit too technical for me. I appreciate the effort to make AI more efficient, but I wish there was a simpler way to use it. Maybe they'll add a user-friendly interface in the future. Still, it's cool they're sharing it for free!
0
2025년 4월 11일 오전 12시 0분 0초 GMT
El marco de código abierto de Pruna AI suena prometedor, pero es un poco demasiado técnico para mí. Aprecio el esfuerzo por hacer que la IA sea más eficiente, pero desearía que hubiera una forma más sencilla de usarlo. Tal vez en el futuro agreguen una interfaz más amigable para el usuario. Aún así, es genial que lo compartan gratis!
0
2025년 4월 11일 오전 12시 0분 0초 GMT
Pruna AIのオープンソースフレームワークは有望に聞こえますが、私には少し技術的すぎます。AIをより効率的にする努力は評価しますが、もっと簡単に使える方法があればいいのにと思います。将来、ユーザーフレンドリーなインターフェースが追加されるかもしれません。それでも、無料で共有してくれるのは素晴らしいですね！
0
2025년 4월 11일 오전 12시 0분 0초 GMT
Das Open-Source-Framework von Pruna AI klingt vielversprechend, aber es ist ein bisschen zu technisch für mich. Ich schätze den Aufwand, die KI effizienter zu machen, aber ich wünschte, es gäbe eine einfachere Möglichkeit, es zu nutzen. Vielleicht fügen sie in Zukunft eine benutzerfreundlichere Oberfläche hinzu. Trotzdem ist es cool, dass sie es kostenlos teilen!
0
2025년 4월 11일 오전 12시 0분 0초 GMT
Le cadre open-source de Pruna AI semble prometteur, mais c'est un peu trop technique pour moi. J'apprécie l'effort pour rendre l'IA plus efficace, mais j'aimerais qu'il y ait une manière plus simple de l'utiliser. Peut-être qu'ils ajouteront une interface plus conviviale à l'avenir. C'est quand même cool qu'ils le partagent gratuitement !
0
2025년 4월 13일 오전 12시 0분 0초 GMT
Pruna AI's open-source framework sounds promising, but I'm not sure how to use it yet. The idea of optimizing AI models with caching, pruning, and quantization is cool, but it's a bit over my head. Hopefully, they'll release some tutorials soon!
0
