Pruna AI、AIモデル圧縮アルゴリズムの最適化フレームワークをオープンソース化、性能向上を実現

概要

Pruna AIは、AIモデルの圧縮アルゴリズムに取り組んでいるヨーロッパのスタートアップで、圧縮フレームワークを木曜日にオープンソースとして公開する予定です。

同社は、キャッシング、プルーニング、量子化、蒸留など、複数の効率化手法をAIモデルに適用するフレームワークを開発しています。

特に、このフレームワークは、圧縮後に品質の損失がないか、パフォーマンスの向上がどれくらい得られるかを評価できます。

Pruna AIは、Hugging Faceがトランスフォーマーやディフューザーを標準化した方法と似ており、効率化手法の統一と利用しやすさを提供しています。

大手AIラボではすでに圧縮手法が使われており、OpenAIは蒸留を使ってGPT-4 Turboなどの高速モデルを作成しています。

Pruna AIは、モデルの最適化を自動化する「圧縮エージェント」を提供予定で、開発者は精度を犠牲にすることなくスピード向上を目指すことができます。

また、Pruna AIは、画像や動画生成モデルに特化しているものの、様々なAIモデルに対応しています。

ポイント

1. Pruna AIがAIモデル最適化フレームワークをオープンソース化しました。
2. 多様な効率化手法を統合し、品質損失を評価可能な仕組みを提供します。
3. 画像・動画生成モデルに注力し、収益性向上を目指した企業向け機能も開発中。

詳しい記事の内容はこちらから

参照元について

『TechCrunch』のプロフィールと信ぴょう性についてここでは『TechCrunch』の簡単なプロフィール紹介と発信する情報の信ぴょう性についてまとめています。 記事を読む際の参考にし...