パフォーマンスエンジニアリング
プラットフォーム
※Fixstars AI Boosterの自動高速化と、取得したパフォーマンスデータを元にした手動高速化の両方の結果を含む
Linuxデーモンのように、システムに常駐しますので、オーバーヘッドはゼロではありませんが、システムリソースを極力消費しないように設計しています。我々は、”Near-Zeroオーバーヘッド”と呼んでいます。
Dockerがインストールされた、一般的なLinux環境で動作します。NVIDIA GPUがない環境でも動作可能ですが、取得できる情報や機能が限られます。
現在配布されているDockerコンテナイメージは無償でご利用可能です。詳細な利用規約については、利用規約書を参照ください。パフォーマンス・インテリジェンス（PI）に関する機能は有償となります。詳細については お問い合わせください。
Fixstarsは、ユーザーのアプリケーション情報、POによる分析結果など、ユーザー固有のデータを取得していません。プロダクトの改善のために、プロダクトの利用状況に関するデータのみ取得しています。詳細はお問い合わせください。
DataDog, NewRelicなど、従来のパフォーマンス観測ツールでも、ハードウェアの利用状況等を見ることはできますが、Fixstars AI Boosterの場合、AI処理の詳細も取得・可視化しています。さらに、得られたデータから、パフォーマンスのボトルネックを分析・改善します。
パフォーマンス観測（PO）の結果を元に、利用しているインフラの構成を変更したり、処理の際のパラメーターを変えたり、GPUの性能を最大限引き出すソースコードに変更するなど、様々な高速化手法を組み合わせて改善します。ただし現時点では、自動で改善される項目は限られます。
NVIDIA Nsightなどのプロファイリングツールは、特定のコマンドをトリガーとして、処理の詳細の”スナップショット” を取得するものです。AI Boosterは、システムで実行された処理の詳細を常時取得しています。これにより、性能劣化の原因を過去に遡って調査・分析可能です。また、パフォーマンス改善の提案や自動適用は、他にはないAI Boosterならではの機能です。
はい、できます。基本的な技術は大きく変わらないため、他のAIやGPU処理も、Fixstars AI Boosterによって速くなることが期待できます。具体的な効果については処理内容によって変わりますので、お問い合わせください。
見えないボトルネックを自動で発見し高速化
取得したパフォーマンスデータを活用して、手動で更なる高速化を実現
