メモリ容量を活かし、高速化する手法とは？

株式会社フィックスターズが提供する「最新GPUへのハードウェア更新にともなうパフォーマンスエンジニアリングの実践」は、B200と H100／H200を実測比較し、その性能を引き出す環境構築とチューニングの実践をまとめたホワイトペーパーです。

本書が取り組む課題

最新GPUを導入した場合、そのハードウェアに合わせた環境構築が欠かせません。本書では、性能を引き出すための周辺ソフトウェアの選び方を解説します。あわせて、実測検証の結果をもとにボトルネックを見つけ、改善するまでの判断過程からGPU更新の効果をどう引き出すかを示します。

本書の特徴

• B200のハードウェア特性をH100／H200と比較紹介
• GPUの性能を引き出す周辺ソフトウェア選定の考え方を解説
• LLM事前学習（H100／H200との比較）：B200の特徴であるメモリ容量を生かすパフォーマンスエンジニアリングの実践事例
• 480Bモデルの1Mトークン推論 ：H100x2ノードからの移植と、速度改善の実施報告

こんな方におすすめ

• 新旧ハードウェアの性能差が、実際のワークロードでどのような違いを生むのか知りたい方
• より性能を引き出すためのAI学習・推論環境の構築の仕方に迷っている方
• 並列化パラメータやマイクロバッチサイズなど、学習設定のチューニングに手応えを得られていない方
• GPU投資の効果を、スループット以外の指標で説明したい方