Pruna AI open sources its AI model optimization framework | TechCrunch
Pruna AI open sources its AI model optimization framework | TechCrunch
Pruna AI, a European startup that has been working on compression algorithms for AI models, is making its optimization f...続きを読む
techcrunch.com
Pruna AIは、AIモデルの圧縮アルゴリズムに取り組むヨーロッパのスタートアップで、最適化フレームワークをオープンソースとして公開しました。このフレームワークは、キャッシング、プルーニング、量子化、蒸留などの効率化手法を統合し、モデルの圧縮と評価を行います。
共同創設者のジョン・ラチワン氏は、圧縮後の品質損失や性能向上を評価する機能があると述べています。Pruna AIは、大規模言語モデルや画像生成モデルなど、さまざまなモデルをサポートしており、特に画像や動画生成に注力しています。
プロ版は時間単位で課金され、最適化されたモデルを使用することで推論コストを削減できる可能性があります。Pruna AIは650万ドルのシード資金を調達しており、投資家にはEQT VenturesやDaphniなどが含まれています。
Pruna AI – Make your AI models cheaper, faster, smaller …
https://www.pruna.ai/
GitHub – PrunaAI/pruna: Pruna is a model optimization framework built for developers, enabling you to deliver faster, more efficient models with minimal overhead.
https://github.com/PrunaAI/pruna
