生成AIの活用が加速度的に進んでおり、GPUへのニーズも格段に高まっている。しかし、GPUベースの環境を自前で構築する上では、幾つもの課題が立ちふさがる。そこで注目されているのが、「GPUクラウドサービス」だ。
従来はグラフィック処理用途に使われていたGPUは、膨大なデータを瞬時に計算する能力から、生成AIの計算処理にも利用されている。最近では生成AIの利用が急速に拡大しており、GPUへのニーズも格段に高まってきた。しかし、ハイスペックなGPUを搭載した計算基盤を自前で構築しようとすると、まずコストがネックとなる。また、GPUは発熱や電力消費が大きいため、冷却のために相応の設備が必要だ。
そこで注目されているのが、GPUサーバの機能をクラウドで提供する「GPUクラウドサービス」だ。本動画では、NVIDIAのGPUを搭載した国産クラウドサービスを紹介する。本サービスは、ハイパースケーラーの50%安い料金で利用できる。ストレージやデータ転送料などの追加料金もかからず、コストを最小限に抑えることが可能だ。
動画では、本サービスのコストメリットをはじめ、パフォーマンスや柔軟性、導入のスムーズさ、セキュリティ対策、サポート対応などの特長を解説。また、ユースケースや導入事例、さらにMetaの「Llama3」およびMicrosoftの「Phi-3」のデモなども紹介する。
Copyright © ITmedia, Inc. All Rights Reserved.