https://yennj12.js.org/yennj12_blog_V4/tags/vllm/Recent content in VLLM on YennJ12 Engineering BlogHugo -- gohugo.ioen-usSun, 21 Jun 2026 19:30:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/ai-eng-from-scratch-phase11-part1-inference-serving-zh/Sun, 21 Jun 2026 19:30:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/ai-eng-from-scratch-phase11-part1-inference-serving-zh/大多數人把 LLM 推論想成「載入模型，呼叫 generate()，等結果」。 實際上，每個 token 都在搶 GPU HBM 頻寬，記憶體碎片化讓吞吐量砍半， 一個設計不良的 batch 策略讓 A100 的使用率停在 12%。 真正的推論工程是記憶體管理、排程策略、精度取捨三件事同時做對。 面試情境：「你的團隊剛把一個 70B 參數的對話模型從研究環境搬到生產，目前 p99 延遲 18 秒、GPU 使用率 15%、每千 token 成本 $0.04。CTO 要求三個月內把成本降到 $0.008、p99 降到 4 秒。你的架構計畫是什麼？」 一、核心問題：LLM 推論為什麼貴又慢 LLM 推論和傳統深度學習推論有本質上的差異。ResNet 做影像分類，輸入固定大小，一次 forward pass，批次容易排。LLM 是自回歸生成（autoregressive generation）：每個 token 依賴前面所有 token，必須一步一步產生。 三個根本瓶頸： 瓶頸一：記憶體頻寬牆（Memory Bandwidth Wall） 70B 模型 FP16 佔 140 GB。A100-80GB 只能塞下半個模型，必須 tensor parallel。每生成一個 token，模型的所有 140 GB 權重都要從 HBM 讀一次。A100 HBM 頻寬 2 TB/s，讀 140 GB 需要 70 ms——這就是單 token 延遲的硬下限，和計算無關。https://yennj12.js.org/yennj12_blog_V4/posts/fde-interview-guide-part47-edge-model-routing-zh/Mon, 08 Jun 2026 09:00:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/fde-interview-guide-part47-edge-model-routing-zh/大多數團隊的做法：讓小模型先回答，覺得不好再丟給大模型——結果是雙倍延遲加雙倍成本。 正確的做法：在小模型生成第 10 個 Token 的那一刻，就已經知道要不要升級了。 路由的決策點不在答案完成之後， 而在答案開始生成的前幾個 Token 之間。 面試情境 面試官：「一個金融科技客戶，為了隱私合規，90% 的查詢必須留在地端私有伺服器處理。他們在地端部署了 Gemma-2-9b，雲端備用 Gemini Pro。但目前的架構是：小模型先跑完整回答，人工審核覺得不好才重送到雲端，導致平均延遲高達 6.8 秒。你如何重新設計路由機制，讓延遲降到 3.6 秒以下，同時確保敏感 PII 資料絕不離開地端？」 一、核心問題：為什麼「先跑再判斷」的架構從根本上就錯了 傳統雙軌架構的根本缺陷： ┌─────────────────────────────────────────────────────────────┐ │ 用戶 Prompt → 地端小模型（完整推理 3.5s） │ │ ↓ │ │ 品質評估（人工或 LLM 評分 0.5s） │ │ ↓ │ │ [品質不足] → 雲端大模型（完整推理 2.8s） │ │ │ │ 最壞情況延遲 = 3.5 + 0.5 + 2.8 = 6.8 秒 │ │ 最壞情況成本 = 地端 + 評分 LLM + 雲端大模型（三份費用） │ └─────────────────────────────────────────────────────────────┘ 為什麼這個架構在生產環境中必然崩潰： 問題 1：確定性延遲疊加 └── 任何需要升級的查詢都承受 100% 的雙倍延遲，沒有優化空間。 金融客服場景中，約 35% 的查詢需要升級 → 平均延遲被拉高 2.