大原雄介のエレ・組み込みプレイバック
HBMの代替どころか、勇み足で終わりかねない「HBF」(1/4 ページ)
サンディスクが広帯域フラッシュ「HBF(High Bandwidth Flash)」の開発と戦略を支援する「HBF技術諮問委員会」を設立した。HBFとは何なのか。広帯域メモリ「HBM」の代替をうたうが、うまくいくのだろうか。
2025年7月もいろいろあったのだが、その中からHBF(High Bandwidth Flash)の話を取り上げたいと思う。
HBFの概略は「HBMと同等コストで記憶容量8倍、サンディスクが「HBF」推進強化」にまとまっているが、もともとは2025年2月11日に開催された"Future FWD: Sandisk 2025 Investor Day"のスライドで公開された話である(図1)。要するにHBM(High Bandwidth Memory)と似たような構造であるが、DRAMの代わりにFlash Memoryを積層すれば、帯域を変えずに8~16倍のメモリ容量を確保できることになる。現在のGPUとかAIプロセッサのボトルネックは、オンパッケージに搭載できるメモリ量の少なさであり、例えば100B(1000億)個のパラメータを持つ大規模言語モデル(LLM)を稼働させようとすると、仮にパラメータが全部4bit(FP4)だとしても50GB(ギガバイト)ほどのメモリを占有する事になる。
もう既に100B個台のLLMは結構多く、この先もまだパラメータが指数級数的に増えてゆく事が考えられるが、現状で既にメモリの搭載量は一杯一杯となっている。NVIDIAの次世代GPUである「Rubin」は8 Stack、「Rubin Ultra」は16 StackのHBM4を搭載すると示されている(図2)。HBM4は最大16Hi(16層積層)であり、仮に1層当たり4GBが間に合えばRubinでは64×8=512GB、Rubin Ultraでは1TBが可能になる。ただ現状サンプル出荷されているHBMは1層当たり3GB、12Hi(12層積層)のものであり、これをそのまま利用すると36×8=288GBの計算となる。同時期に投入されるAMDの「Instinct MI400」(図3)は、同じく36GBのHBM4を12 Stack搭載し、トータル432GBのメモリを利用可能であるが、4bitのパラメータであってもパラメータ1000BのLLMがギリギリ動かない事になる。
このあたりを考慮して、HBMを搭載しながら、さらに外部に1.5TBのDDR5メモリをL3 Memory(オンダイ上に520MBのSRAMのL1、オンパッケージで64GBのHBMをL2として搭載する)として利用可能なSambaNova「SN40L」のような製品もある。
もちろんTraining用途であれば、煩雑な書き込みが発生するからFlash Memoryだと書き込み速度と書き込み寿命の両面で使い物にならないのだが、Inferenceに限れば読み出し速度だけ間に合えば十分利用できる、というのがSanDiskのもくろみなのだろう。
Copyright © ITmedia, Inc. All Rights Reserved.
大原雄介のエレ・組み込みプレイバック
これを読めばここ1カ月のエレクトロニクス/組み込み業界の動きが分かる連載。注目すべき市場動向と注目すべき製品を取り上げます。
この記事の著者
新着ホワイトペーパー PR
-
製品資料
[株式会社 Green AI] 自動車業界には好機 脱炭素×コスト削減×現場改善を実現するエネルギー戦略 -
製品資料
[株式会社 Green AI] 脱炭素投資をすぐ回収したい 自動車業界にも有効なCO2削減アプローチ -
市場調査・トレンド
[スマートジャパン編集部] 「ペロブスカイト太陽電池」の普及戦略が公表 政府が目指すコスト・導入量のロードマップを解説 -
市場調査・トレンド
[スマートジャパン編集部] 導入が加速する再エネ・系統向け蓄電システム コスト・収益性の現状分析 -
技術文書・技術解説
[スマートジャパン編集部] いまさら聞けない「ペロブスカイト太陽電池」の基礎知識と政策動向
こんなメディアも見られています
TechFactoryに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
特集
- マテリアルズ・インフォマティクスの動向調査
- 研究・開発職のデジタル活用調査
- 設計・解析業務におけるAI活用
- 3Dプリンタ利用動向調査
- CAD利用動向調査
- つながる工場の現状と課題
- 製造業におけるAI開発および活用の実態
- 設計・製造現場における品質管理
ホワイトペーパーランキング PR
-
1
EE Times Japan×EDN Japan 統合電子版:「PCIM 2026」で見たパワー半導体最前線――電子版2026年10月号
-
2
CAE解析をAIエージェントに任せてみた 人は何を担うのか
-
3
スマート工場動向調査2026
-
4
AIエージェントで製造業の暗黙知を継承、熟練者の思考を再現する保全強化策
-
5
EE Times Japan×EDN Japan 統合電子版:製造現場にフィジカルAIをどう実装するか――電子版2026年9月号
-
6
DMG森精機の欧州深耕
-
7
高精度テクノロジーの学習モジュール 「高精度ADC 基礎編・上級編」
-
8
太陽光発電と蓄電池を最適制御、再エネ活用とコスト削減を両立する製品とは?
-
9
製造現場などを支える状態監視システム サンプリングの位相ずれを減らすには?
-
10
半導体の微細な構成要素を非破壊で可視化/評価する「3D X線技術」とは?
TechFactory SNS
インフォメーション
注目情報をチェック
TechFactoryをフォロー