エッジAIで顕在化したメモリ問題、HBMの課題を解消する広帯域メモリとは？：Winbond Electronics Corporation提供Webキャスト

PR／TechFactory

PR

　GPUは生成AIを支える重要なハードウェアリソースだが、HBM（High Bandwidth Memory）も同様に、生成AIにはなくてはならないものだ。生成AIの進化は目覚ましく、その進化に伴ってメモリ要求もますます高度化している。そのためHBMは毎年、世代交代している状況だ。一方、近年ではAIの処理をこれまでの中央集権型ではなく、エッジに担わせるという動きが台頭している。

　HBMは確かに高い性能を備えているが、高コスト、熱管理の難しさ、設計の複雑さ、サイズの制約、EOL問題などの課題があり、エッジAIへの適用には難しさもある。そこで注目したいのが、エッジAIに最適化されたカスタムメモリだ。本メモリは、アプリケーションに必要十分な設計仕様に対応する上、スケーラブルな仕様にも柔軟性を示し、性能およびコストの最適化を実現する。

　また、HBM3相当の1TB/s以上の帯域幅を実現する他、1pJ/bit未満の超低消費電力によって電力消費の問題を大幅に改善できる。HBMとは異なり、長期供給に対応できる点も大きな特長だ。本動画では、本メモリの特長を詳しく解説する他、HBMとの電力効率比較、帯域・電力・サイズなどを加味したバランス設計なども紹介する。