Ryzen AI Max+ 395 で LLM 推論速度を比較

はじめに AMD Ryzen AI Max+ 395 を搭載した EVO-X2 で、gpt-oss:20b を CPU/GPU/NPU で動作させて処理速度を比較します。 測定環境 プロセッサ: AMD Ryzen AI Max+ 395(16コア) OS: Windows 11 Pro 24H2 モデル: gpt-oss:20b ソフトウェア: CPU/GPU: Ollama 0.12.6 NPU: FastFlowLM (FLM) 0.9.13 プロンプト: AIの将...

みんなの反応

はてなブックマークでの反応
※メールアドレスは公開されません。
"ねとなび"は今ネットで話題になっている最新記事と最新ニュースを全部まとめてチェックすることができるサイトです。 スマートフォンからも同じURLで閲覧できます。
人気の反応
ニュース
comments powered by Disqus