8160億パラメーターAIをGPU4枚で動かす。IntelのMuse Spark Open対応

Windowsキーのあるキーボードのイメージ写真 生成AI
イメージ写真。記事で紹介する実機・画面ではありません。写真:Unsplash(配布ページ) / Unsplash License

この記事のポイント

  • Muse Spark Openは8160億パラメーターの公開重みモデルである
  • Intelは160GBメモリーのGPUを4枚使った推論を示した
  • 個人PC向けではなく、データセンターでの運用技術である

2026年10月17日時点のIntel公式発表を整理した。画像はイメージ写真であり、GPUサーバーやモデルの実行画面ではない。

Windowsキーのあるキーボードのイメージ写真
イメージ写真。写真:Unsplash配布ページ(利用許諾)。

Intelは10月15日、Metaの公開重みモデル「Muse Spark Open」へ初日対応したと発表した。モデル規模は8160億パラメーターで、コード生成、デバッグ、巨大なコードベースの理解を主目的にする。コンテキスト長は100万トークンで、音声、動画、画像、文書も扱える。

注目点はモデルの機能より、巨大モデルを既存の空冷データセンターへ収めるための低ビット化と大容量メモリーである。IntelはXeon CPUと開発中のGPU D-series向けに、モデルを圧縮して動かす経路を用意した。

160GB GPUを4枚使う

Intelの実行例はGPU D-seriesを4枚使い、各GPUに160GBのLPDDR5xメモリーを載せる。合計640GBのメモリーへモデルを分散し、350Wの空冷PCIeカード4枚で推論した。1枚で動くという発表ではない。

MXFP4とINT4で必要メモリーを減らす

元モデルのBF16重みを、GPU向けMXFP4とXeon向けINT4へ量子化した。量子化は数値をより少ないビットで表して、メモリー使用量と計算量を減らす方法である。IntelはAutoRoundで層ごとの丸め方を調整し、精度低下を抑えるとしている。

Xeonでは大量メモリーを使うオフライン推論

Xeon向けにはINT4の重みのみを量子化する方式を使い、AMXで行列計算を加速する。大量のシステムメモリーを持つ既存サーバーで、外部サービスへデータを送らないオフライン推論を想定する。リアルタイム応答の速度や消費電力を比較した数値は発表に含まれていない。

個人利用との距離:8160億パラメーター級をGPU4枚または大容量Xeonサーバーで動かす話であり、一般的なノートPCへ導入する手順ではない。モデルの公開と同日に評価を始められる企業向け基盤の発表である。

出典・確認先

コメント

タイトルとURLをコピーしました