https://yennj12.js.org/yennj12_blog_V4/tags/sft/Recent content in SFT on YennJ12 Engineering BlogHugo -- gohugo.ioen-usSun, 21 Jun 2026 19:00:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/ai-eng-from-scratch-phase10-part3-finetuning-zh/Sun, 21 Jun 2026 19:00:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/ai-eng-from-scratch-phase10-part3-finetuning-zh/大多數人認為微調就是「把 LLM 在自己的資料上再跑幾個 epoch」。 真正的答案是：選錯策略會讓 70B 模型比 7B 更差，燒掉 $50,000 的 GPU 時間還讓對齊崩潰。 差距在於你是否理解 LoRA 降低了哪 99.85% 的參數、QLoRA 如何在 48GB 記憶體訓練 65B，以及為什麼 1,000 條高品質資料勝過 100 萬條雜訊。 這篇文章帶你從數學原理到生產工程，建立完整的微調決策框架。 面試情境： 你負責一個醫療文件摘要產品，基礎模型在通用任務表現良好，但在臨床術語和 SOAP 格式輸出上錯誤率高達 34%。你的 GPU 預算是 2 台 A100 80GB，資料團隊提供了 8,000 條標注好的醫生對話。你會選擇 Full Fine-tuning、LoRA 還是 QLoRA？如何評估微調後的對齊品質？ 一、核心問題：預訓練模型為什麼需要微調 1.1 預訓練的本質局限 預訓練（Pre-training）讓 LLM 學到了語言的統計規律與世界知識，但它優化的目標是下一個 token 預測（next-token prediction），而非「照我說的做」。這個差距在三種場景下最為明顯： 格式遵從性：預訓練模型傾向續寫，而非回答。給它 「請列出三個優點：」，它可能輸出 「...這個問題的三個優點分別是...」 然後繼續產生隨機文本，而不是乾淨的清單。 領域術語精度：通用語料中醫療、法律、金融術語出現比例不到 2%，導致模型在這些領域的 token 機率分布偏移。Llama-3 8B 在 MedQA 上未微調的準確率約 58%，微調後可達 78–82%。 安全與對齊邊界：預訓練模型缺乏拒絕有害請求的能力，需要 RLHF 或 DPO 等對齊微調來建立邊界。https://yennj12.js.org/yennj12_blog_V4/posts/llm-post-training-approaches-open-source-zh/Fri, 13 Mar 2026 10:00:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/llm-post-training-approaches-open-source-zh/全面介紹開源 LLM 的 Post-Training 方法，包含 SFT、RLHF、DPO、ORPO、持續預訓練等技術，以 Qwen 為範例，深入分析各方法的優缺點、所需資源與適用場景，幫助你選擇最合適的訓練策略。