📖 vLLMのコードを読んでみよう - ENGINEERING BLOG ドコモ開発者ブログ

こんにちは、NTTドコモR&D戦略部の門間です。この記事では、vLLMのコードを追いつつその中身の動きに迫りたいと思います。最近、業務やプライベートでLLM関連のいろいろを触っていますが、 OSSのコードリーディングを通じてLLMの推論処理への理解を深めたいというモチベーションです。 🤖 vLLMって? 📚 前提知識 Atten...