【AI基盤の本番運用】高価なGPUを、ムダにしないAIインフラとは ～稼働率50％台から90％台への改善事例に学ぶ、クラスタ運用とメモリー最適化～

Япония

本セミナーはWebセミナーです ツールはZoomを使います。URLは直前にメールにてご連絡いたします。 なお、「osslabo.com」「majisemi.com」からのメールが迷惑メールとならないよう、メールの設定をご確認ください。 高価なGPU投資を、どう成果につなげるか 生成AIの活用が本格化し、LLMの学習・推論を支えるAI基盤への投資が進んでいます。GPUクラウド事業者や、自社でAIを本格運用する企業では、多数のGPUを導入し、基盤を拡充する動きも見られます。 一方で、高性能GPUは高価です。投資を成果につなげるには、GPUを増やすだけでなく、導入した設備を安定して稼働させ、その性能を十分に引き出すことが求められます。 GPUの稼働率と推論性能を左右する、二つの課題 GPUが増えるほど、サーバーやネットワークを含めたクラスタ全体の運用は複雑になります。障害によってジョブが中断すれば、原因の特定や復旧、再実行に時間がかかり、GPUを十分に活用できません。 また、AI推論では、長い文章の処理や同時リクエストの増加に伴い、GPUメモリーが不足することがあります。GPUを増強しても、メモリーが制約となって期待したほど処理量が伸びない場合があります。 こうした課題に対応するには、クラスタの安定運用によって稼働率を高めることと、推論時のメモリー利用を最適化することの両方が必要です。 稼働率50％台から90％台へ。改善事例から学ぶ運用設計 本セミナーでは、高価なGPUへの投資効果を高めるために、AI基盤の設計・構築・運用で押さえるべきポイントを解説します。 クラスタの安定運用とパフォーマンス最適化を支援する「ClusterWareAI」に加え、AI推論時に処理を高速化するための一時データ「KVキャッシュ」を大容量メモリーへ移し、GPUメモリーの負荷を軽減する「MemoryAI KV Cache Server」をご紹介します。 さらに、GPUの稼働率を50％台から90％台へ引き上げた過去の実績をもとに、インフラの設計・構築・運用で何に着目し、どのような改善を積み重ねたのかを事例とともに解説します。GPUサーバー、ストレージ、ネットワークから監視・保守まで、基盤全体を見据えた運用の考え方をお伝えします。 AIファクトリーを設計から運用まで支える、ペンギンソリューションズ ペンギンソリューションズは、長年にわたりAI/HPC基盤の設計・構築・運用に携わり、約10万GPUの展開・運用、40億時間を超えるGPU稼働を支えてきました。 この経験をもとに、複数ベンダーの製品・技術を組み合わせ、お客様の課題に応じたAI基盤を提案。設計・構築から導入後の監視・保守・運用まで伴走する、AIファクトリー向けフルスタックサービスを提供しています。 こんな方におすすめ ・AIインフラを構築・運用しており、稼働率やリソース効率を改善したい方 ・障害によるジョブの中断や、AI推論時のメモリー不足に課題を感じている方 ・クラウド利用から、自社環境でのLLM学習・推論への移行を検討している方 ・GPUクラウドなど、AI基盤サービスを提供・検討している事業者の方 ・AIインフラ全体のTCOや投資対効果を最適化したい方 プログラム 09:45～10:00　受付 10:00～10:05　オープニング（マジセミ） 10:05～10:45　【AI基盤の本番運用】高価なGPUを、ムダにしないAIインフラとは 10:45～11:00　質疑応答 主催 ペンギンソリューションズ株式会社（プライバシーポリシー） 協力 マジセミ株式会社（プライバシーポリシー） ※共催、協賛、協力、講演企業は将来的に追加、削除される可能性があります。 当日参加方法に関するお問合せ zoom@osslabo.com セミナー事務局 マジセミ株式会社（プライバシーポリシー） ※以下の方について、当社判断によりご参加をご遠慮いただく場合がございます。予めご了承ください。 ・講演企業の競合となる商品・サービスを提供している企業、同業の企業、及びそのグループ企業・関連企業の方 ・個人や個人事業主の方 ・海外から参加される方 ・日本に活動拠点が無い企業の方 ・その他、弊社及び講演企業が不適切と判断した企業・個人の方 ※申込が多数の場合、弊社抽選にてご参加をご遠慮いただく場合がございますので、予めご了承ください。 当社では、本フォームから取得する個人情報を下記の通り取扱います。 下記をご一読いただき、ご同意の上で送信してください。 １．個人情報の利用目的 本フォームからのお申込みにあたりご提供頂く個人情報は、以下の目的で利用いたしま

• Дата начала:29.10.2026 01:00
• Дата завершения:29.10.2026 02:00