Metaが新たに発表したLlama 4モデル群の特徴と影響を探る

Contents

概要

Metaは新たにAIモデルのコレクション「Llama 4」を発表した。

今回のモデルは、Llama 4 Scout、Llama 4 Maverick、Llama 4 Behemothの3つで、未ラベルのテキスト、画像、動画データでトレーニングされている。

DeepSeekの成功がLlamaの開発を加速させ、Metaは戦略会議を開いてコスト削減の手法を模索した。

ScoutとMaverickは公開され、Behemothはまだトレーニング中である。

Meta AIはLlama 4を使って40か国で更新され、現時点では英語のみの多機能性が米国で利用可能だ。

ただし、EU内に拠点があるユーザーは使用が禁止され、700万人以上のアクティブユーザーを持つ企業は特別なライセンスを求める必要がある。

これらのモデルはMixture of Experts (MoE)アーキテクチャを採用し、Maverickは4000億のパラメータを持ち、17億が実働する。

Metaの内部テストによれば、Maverickは特定のベンチマークでGPT-4oやGemini 2.0を上回るが、近年の優れたモデルには及ばない。

Scoutは10百万トークンのコンテキストウィンドウを持ち、膨大なデータを処理できる。

全体的に、MetaはLlama 4がより多くの質問に応じ、さまざまな見解に対してバランス良く反応することを目指している。