大原雄介のエレ・組み込みプレイバック
HBMの代替どころか、勇み足で終わりかねない「HBF」(1/4 ページ)
サンディスクが広帯域フラッシュ「HBF(High Bandwidth Flash)」の開発と戦略を支援する「HBF技術諮問委員会」を設立した。HBFとは何なのか。広帯域メモリ「HBM」の代替をうたうが、うまくいくのだろうか。
2025年7月もいろいろあったのだが、その中からHBF(High Bandwidth Flash)の話を取り上げたいと思う。
HBFの概略は「HBMと同等コストで記憶容量8倍、サンディスクが「HBF」推進強化」にまとまっているが、もともとは2025年2月11日に開催された"Future FWD: Sandisk 2025 Investor Day"のスライドで公開された話である(図1)。要するにHBM(High Bandwidth Memory)と似たような構造であるが、DRAMの代わりにFlash Memoryを積層すれば、帯域を変えずに8~16倍のメモリ容量を確保できることになる。現在のGPUとかAIプロセッサのボトルネックは、オンパッケージに搭載できるメモリ量の少なさであり、例えば100B(1000億)個のパラメータを持つ大規模言語モデル(LLM)を稼働させようとすると、仮にパラメータが全部4bit(FP4)だとしても50GB(ギガバイト)ほどのメモリを占有する事になる。
もう既に100B個台のLLMは結構多く、この先もまだパラメータが指数級数的に増えてゆく事が考えられるが、現状で既にメモリの搭載量は一杯一杯となっている。NVIDIAの次世代GPUである「Rubin」は8 Stack、「Rubin Ultra」は16 StackのHBM4を搭載すると示されている(図2)。HBM4は最大16Hi(16層積層)であり、仮に1層当たり4GBが間に合えばRubinでは64×8=512GB、Rubin Ultraでは1TBが可能になる。ただ現状サンプル出荷されているHBMは1層当たり3GB、12Hi(12層積層)のものであり、これをそのまま利用すると36×8=288GBの計算となる。同時期に投入されるAMDの「Instinct MI400」(図3)は、同じく36GBのHBM4を12 Stack搭載し、トータル432GBのメモリを利用可能であるが、4bitのパラメータであってもパラメータ1000BのLLMがギリギリ動かない事になる。
このあたりを考慮して、HBMを搭載しながら、さらに外部に1.5TBのDDR5メモリをL3 Memory(オンダイ上に520MBのSRAMのL1、オンパッケージで64GBのHBMをL2として搭載する)として利用可能なSambaNova「SN40L」のような製品もある。
もちろんTraining用途であれば、煩雑な書き込みが発生するからFlash Memoryだと書き込み速度と書き込み寿命の両面で使い物にならないのだが、Inferenceに限れば読み出し速度だけ間に合えば十分利用できる、というのがSanDiskのもくろみなのだろう。
Copyright © ITmedia, Inc. All Rights Reserved.
大原雄介のエレ・組み込みプレイバック
これを読めばここ1カ月のエレクトロニクス/組み込み業界の動きが分かる連載。注目すべき市場動向と注目すべき製品を取り上げます。
この記事の著者
新着ホワイトペーパー PR
-
製品資料
[株式会社 Green AI] AIで脱炭素計画を最適化、初年度からエネルギーコストとCO2を削減する方法 -
市場調査・トレンド
[スマートジャパン編集部] 「ペロブスカイト太陽電池」の普及戦略が公表 政府が目指すコスト・導入量のロードマップを解説 -
市場調査・トレンド
[スマートジャパン編集部] 導入が加速する再エネ・系統向け蓄電システム コスト・収益性の現状分析 -
技術文書・技術解説
[スマートジャパン編集部] いまさら聞けない「ペロブスカイト太陽電池」の基礎知識と政策動向 -
技術文書・技術解説
[スマートジャパン編集部] 「ペロブスカイト太陽電池」の開発動向、日本の投資戦略やコスト目標の見通しは?
こんなメディアも見られています
TechFactoryに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
特集
- マテリアルズ・インフォマティクスの動向調査
- 研究・開発職のデジタル活用調査
- 設計・解析業務におけるAI活用
- 3Dプリンタ利用動向調査
- CAD利用動向調査
- つながる工場の現状と課題
- 製造業におけるAI開発および活用の実態
- 設計・製造現場における品質管理
ホワイトペーパーランキング PR
-
1
EE Times Japan×EDN Japan 統合電子版:フィジカルAIが生み出す新たな「設計思想」――電子版2026年8月号
-
2
半導体装置メーカー 業績まとめ【2027年3月期第1四半期】
-
3
新入社員に読んで欲しい鉄鋼材料の基礎知識まとめ(Part4)
-
4
一時は時価総額トヨタ超え キオクシア2026年度の動向
-
5
微細配線間の絶縁劣化をどう捉える? 先端パッケージ評価の最前線
-
6
新入社員に読んで欲しい鉄鋼材料の基礎知識まとめ(Part1)
-
7
EE Times Japan×EDN Japan 統合電子版:2026年上半期の半導体業界を振り返る――電子版2026年7月号
-
8
新入社員に読んで欲しい鉄鋼材料の基礎知識まとめ(Part3)
-
9
CADツールの見直しは本当に必要? 切り替えの理由と効果を7つの質問で検証
-
10
新入社員に読んで欲しい鉄鋼材料の基礎知識まとめ(Part2)
TechFactory SNS
インフォメーション
注目情報をチェック
TechFactoryをフォロー