大原雄介のエレ・組み込みプレイバック
HBMの代替どころか、勇み足で終わりかねない「HBF」(1/4 ページ)
サンディスクが広帯域フラッシュ「HBF(High Bandwidth Flash)」の開発と戦略を支援する「HBF技術諮問委員会」を設立した。HBFとは何なのか。広帯域メモリ「HBM」の代替をうたうが、うまくいくのだろうか。
2025年7月もいろいろあったのだが、その中からHBF(High Bandwidth Flash)の話を取り上げたいと思う。
HBFの概略は「HBMと同等コストで記憶容量8倍、サンディスクが「HBF」推進強化」にまとまっているが、もともとは2025年2月11日に開催された"Future FWD: Sandisk 2025 Investor Day"のスライドで公開された話である(図1)。要するにHBM(High Bandwidth Memory)と似たような構造であるが、DRAMの代わりにFlash Memoryを積層すれば、帯域を変えずに8~16倍のメモリ容量を確保できることになる。現在のGPUとかAIプロセッサのボトルネックは、オンパッケージに搭載できるメモリ量の少なさであり、例えば100B(1000億)個のパラメータを持つ大規模言語モデル(LLM)を稼働させようとすると、仮にパラメータが全部4bit(FP4)だとしても50GB(ギガバイト)ほどのメモリを占有する事になる。
もう既に100B個台のLLMは結構多く、この先もまだパラメータが指数級数的に増えてゆく事が考えられるが、現状で既にメモリの搭載量は一杯一杯となっている。NVIDIAの次世代GPUである「Rubin」は8 Stack、「Rubin Ultra」は16 StackのHBM4を搭載すると示されている(図2)。HBM4は最大16Hi(16層積層)であり、仮に1層当たり4GBが間に合えばRubinでは64×8=512GB、Rubin Ultraでは1TBが可能になる。ただ現状サンプル出荷されているHBMは1層当たり3GB、12Hi(12層積層)のものであり、これをそのまま利用すると36×8=288GBの計算となる。同時期に投入されるAMDの「Instinct MI400」(図3)は、同じく36GBのHBM4を12 Stack搭載し、トータル432GBのメモリを利用可能であるが、4bitのパラメータであってもパラメータ1000BのLLMがギリギリ動かない事になる。
このあたりを考慮して、HBMを搭載しながら、さらに外部に1.5TBのDDR5メモリをL3 Memory(オンダイ上に520MBのSRAMのL1、オンパッケージで64GBのHBMをL2として搭載する)として利用可能なSambaNova「SN40L」のような製品もある。
もちろんTraining用途であれば、煩雑な書き込みが発生するからFlash Memoryだと書き込み速度と書き込み寿命の両面で使い物にならないのだが、Inferenceに限れば読み出し速度だけ間に合えば十分利用できる、というのがSanDiskのもくろみなのだろう。
Copyright © ITmedia, Inc. All Rights Reserved.
大原雄介のエレ・組み込みプレイバック
これを読めばここ1カ月のエレクトロニクス/組み込み業界の動きが分かる連載。注目すべき市場動向と注目すべき製品を取り上げます。
この記事の著者
新着ホワイトペーパー PR
-
製品資料
[株式会社 Green AI] 自動車業界の脱炭素はなぜ進まない? 実務で直面する“壁”の乗り越え方 -
製品資料
[株式会社 Green AI] 脱炭素投資をすぐ回収するには? エネルギー&CO2削減の成果を出す秘訣 -
市場調査・トレンド
[スマートジャパン編集部] 「ペロブスカイト太陽電池」の普及戦略が公表 政府が目指すコスト・導入量のロードマップを解説 -
市場調査・トレンド
[スマートジャパン編集部] 導入が加速する再エネ・系統向け蓄電システム コスト・収益性の現状分析 -
技術文書・技術解説
[スマートジャパン編集部] いまさら聞けない「ペロブスカイト太陽電池」の基礎知識と政策動向
こんなメディアも見られています
TechFactoryに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
特集
- マテリアルズ・インフォマティクスの動向調査
- 研究・開発職のデジタル活用調査
- 設計・解析業務におけるAI活用
- 3Dプリンタ利用動向調査
- CAD利用動向調査
- つながる工場の現状と課題
- 製造業におけるAI開発および活用の実態
- 設計・製造現場における品質管理
ホワイトペーパーランキング PR
-
1
ものづくり白書2026を読み解く
-
2
EE Times Japan×EDN Japan 統合電子版:フィジカルAIが生み出す新たな「設計思想」――電子版2026年8月号
-
3
一時は時価総額トヨタ超え キオクシア2026年度の動向
-
4
プリント基板設計の課題を乗り越えた成功事例集
-
5
IMUを活用してロボットの位置推定を強化、より高精度なナビゲーションが可能に
-
6
「サプライチェーン最適化」実践ガイド:効果的な意思決定を実現する秘訣とは?
-
7
AI×DXで効率化する設備保全まとめ
-
8
若手設計者が育たない? 「探す」時間を「学ぶ」時間に変えるデータ管理とは
-
9
動き出したファナックの「フィジカルAI」
-
10
製造現場の“人材育成の課題”を一掃、階層別に必要な知識を習得する秘策とは?
TechFactory SNS
インフォメーション
注目情報をチェック
TechFactoryをフォロー