Ryzen AI Max+ 395 で LLM 推論速度を比較
はじめに AMD Ryzen AI Max+ 395 を搭載した EVO-X2 で、gpt-oss:20b を CPU/GPU/NPU で動作させて処理速度を比較します。 測定環境 プロセッサ: AMD Ryzen AI Max+ 395(16コア) OS: Windows 11 Pro 24H2 モデル: gpt-oss:20b ソフトウェア: CPU/GPU: Ollama 0.12.6 NPU: FastFlowLM (FLM) 0.9.13 プロンプト: AIの将...
みんなの反応
はてなブックマークでの反応
※メールアドレスは公開されません。