
Metaは4月5日、新しいAIモデルシリーズ「Llama 4」を発表した。これには、会話と大容量ファイルの処理に特化した「Llama 4 Maverick」と「Llama 4 Scout」、そして未発表の「教師」モデル「Llama 4 Behemoth」が含まれる。
Llama 4は、Metaシリーズ初の「Mixture of Experts(MoE)アーキテクチャ」を採用したシリーズです。このアプローチでは、ニューラルネットワークの「エキスパート」と呼ばれる特定の部分のみを活性化し、特定のサブタスクを処理させます。タスクはサブタスクに分割され、それぞれが最も適切なエキスパートにルーティングされるため、リソース効率が向上します。
Llama 4 Maverick と Scout の詳細はどのようなものですか?
Llama 4 Maverickは128人のエキスパートと170億個のアクティブパラメータを備えており、これらは与えられた入力を処理するためにモデルの知識の一部を表します。Metaはこれを「一般的なアシスタントやチャットのユースケース向けの主力製品モデル」と表現しており、画像解釈とクリエイティブライティングに特化しています。
興味深いことに、マーク・ザッカーバーグ氏の会社は、会話機能に関してはMaverickが「クラス最高のパフォーマンス対コスト比」を提供していると自慢している。1月にDeepSeekがサプライズリリースされて以来、AI大手はコストを懸念してきた。DeepSeekの学習コストはわずか560万ドルだった。
参照:Metaのチップスタートアップへの8億ドルの買収提案が拒否された理由
しかし、AI専門家は、主要な大規模言語モデルを様々なタスクでランク付けするLMArenaに公開されたLlama 4 Maverickのバージョンが「会話性に最適化」されており、公開されているバージョンとは異なるパフォーマンスを示していることに気づいています。これは、MetaがLMArenaのリーダーボードで上位にランクインするように改変されたバージョンを提出したことを示唆しています。
Llama 4 Scoutも170億個のアクティブパラメータとわずか16人のエキスパートを備えていますが、Meta社はこれを「同クラスでは世界最高のマルチモーダルモデル」と評しています。1000万トークンという異例の大規模コンテキストウィンドウを備えており、これはプロンプトで処理できる情報量を表しています。そのため、大規模な文書の要約や逐次推論において優れたパフォーマンスを発揮します。
Meta社によると、ScoutとMaverickはどちらもLlama 4 Behemothから抽出されたため、「これまでで最高」の性能を持つとのことです。LMArenaでは既に上位にランクインしていますが、まだ学習中で、リリースされていません。The Informationによると、Llama 4の発表は、技術ベンチマークと会話性におけるモデルの性能不足により、少なくとも2回延期されました。
LLama 4 Maverick と Scout にアクセスするにはどうすればいいですか?
ScoutとMaverickは、Llama.comとHugging Faceからダウンロードできるほか、WhatsApp、Messenger、InstagramのMeta AIチャットボットを通じて40か国でご利用いただけます。マルチモーダル機能は現在、米国および英語のみでご利用いただけます。
一部のパートナーはすでに統合を発表しており、開発者は Microsoft の Azure AI Foundry および Azure Databricks で Llama 4 モデルを使用して AI アプリケーションを構築および展開できます。
ラマ4は非政治的
Metaは、Llama 4モデルから「バイアスを排除」するために特に取り組んできたと述べています。「議論されている政治・社会問題」に関する質問の拒否率はLlama 3.3よりも5%以上低く、拒否した質問についても回答は「劇的にバランスが取れている」と説明されています。
ドナルド・トランプ米大統領のチームは、AIモデルの中立性に懐疑的な見解を示しており、AI・暗号資産担当のデイビッド・サックス氏はポッドキャストで、OpenAIのChatGPTは「意識的にプログラムされている」と示唆した。AI専門家は、バイアスは最終的には学習データに由来し、左派だけでなくあらゆる方向への政治的偏向につながる可能性があると指摘している。
それでも、ザッカーバーグ氏の会社は最近、米国政権に味方し続ける意向を示唆する動きをいくつも見せている。共和党のストラテジスト、ジョエル・カプラン氏は、トランプ政権発足直後にメタの政策責任者として採用された。彼はソーシャルメディア規制を言論の自由への直接的な挑戦と捉えている。
1月、Metaはサードパーティによるファクトチェックプログラムを廃止し、コンテンツモデレーションチームをカリフォルニアからテキサスに移転することを明らかにした。これは「偏見を持つ従業員がコンテンツを過度に検閲しているという懸念を払拭するため」だという。Metaはまた、トランプ大統領がこうしたプログラムを批判したことを受け、多様性、公平性、包括性に関する取り組みも廃止した。
さらにメタ氏は、ラマ4のモデルが「物議を醸す」話題に対して「強い政治的傾向」で応答する割合は、現ホワイトハウス顧問イーロン・マスク氏が所有するxAIが開発したチャットボット、グロクと同程度だと述べた。
Llama 4はEUでは使用できません
Llama 4の利用規定によると、欧州連合(EU)内に「居住」する個人または「主たる事業所」を有する企業は、Llama 4モデルを使用または配布することはできません。ただし、これらの個人または企業は、Llama 4モデルをEU域内で利用可能な製品またはサービスに組み込む場合は、Llama 4モデルを使用できます。
これは、MetaがEUの法律、特にAIに関して問題を抱えていることが原因である可能性が高い。EUの規制当局がコンテンツ所有者からの明示的な同意が必要になる可能性を示唆したことを受け、Metaは2024年6月にFacebookとInstagramで共有される公開コンテンツに対する大規模言語モデルの学習を延期した。Meta AIは未だにEU域内ではリリースされていない。
参照: MetaはEUユーザー向けにパーソナライズ広告を少なく提供
メタは昨年9月、欧州の規制当局に対し、「一貫性のない規制上の意思決定」と予測不可能なコンプライアンス要求に対処するよう求める公開書簡に署名した。その後2月には、メタはEUの規制が不公平だと考えていることに対する懸念をトランプ大統領に直接伝える用意があると表明した。
Llama 4の利用には他にも制限があり、月間アクティブユーザー数が7億人を超える営利企業は、モデルを使用する前にMetaに許可を求める必要がある。オープンソース・イニシアチブは、この制限によりこのAIは「オープンソース」の範疇から外れると主張しているが、Metaはそうではないと主張している。