LM Studio ソフトウェアを使用して、Deepseek-R1 のパフォーマンスをテストしました。 LLM SER9 Pro HX370 および の SER9 Pro AI 365 は、さまざまなパラメーター スケールと量子化レベルに対応し、包括的なパフォーマンス リファレンスを提供します。
テストの概要:
このテストは 2 台で実施されました パソコン: SER9 Pro HX370 (64GB RAM 搭載) および SER9 Pro AI 365 (32GB RAM 搭載)。 Deepseek-R1 蒸留モデルが使用され、パラメーター スケールは 1.5B ～ 14B、量子化レベルは Q2 ～ Q8 でした。
テスト結果は、両方とも パソコン 導入時に優れたパフォーマンスを発揮 LLM 地元で。 SER9 プロ です だけでなく できる CPU を計算に利用しますが、統合された GPU の使用も優先されます。
パフォーマンスの比較:
GPU モードでのパフォーマンス:
-1.5B および 7B モデルを処理する場合、SER9 Pro HX370 はより強力なため、優れたパフォーマンスを示しました。 Radeon 890M iGPU。
-14Bモデルの場合、2台のPCの性能差 は最小限であり、両方とも安定して実行されました。
-GPU モードは、VRAM の使用量と応答速度の点で利点があり、より高いパフォーマンスが要求されるシナリオに適しています。
CPU モードでのパフォーマンス:
CPU モードでは、LLM を実行したときの両方の PC のパフォーマンスは同等でした。
メモリと VRAM の構成:
-64GB RAM を搭載した SER9 Pro は専用 VRAM として最大 48GB を割り当てることができ、32GB バージョンは最大 24GB の専用 VRAM をサポートします。
-この設計により、より大きなパラメータスケールのモデルを GPU 上で実行できます。
推奨事項:
-日常使用: 8B モデルは最良の選択であり、パフォーマンスとハードウェア使用量の完璧なバランスを提供し、ほとんどのシナリオに適しています。
-高パフォーマンスのニーズ: 14B モデルは、より複雑なタスクを処理できるため、より高いパフォーマンスが必要なシナリオに最適です。
