https://yennj12.js.org/yennj12_blog_V4/tags/svm/Recent content in SVM on YennJ12 Engineering BlogHugo -- gohugo.ioen-usSun, 21 Jun 2026 10:00:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/ai-eng-from-scratch-phase2-part1-classical-ml-zh/Sun, 21 Jun 2026 10:00:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/ai-eng-from-scratch-phase2-part1-classical-ml-zh/「任何問題都用深度學習解決」 「Transformer 萬能，傳統模型已經過時」 ——這是 80% 初學者的第一直覺。 正確的工程師問的是：資料量多少？延遲需求是幾 ms？可解釋性重要嗎？預算有多少？ 再選模型。 面試情境 你的電商平台每天有 50 萬筆訂單，需要即時預測「這筆訂單是否為詐騙」，要求推論延遲 < 5ms、需要提供法務可稽核的決策理由、訓練資料有 200 萬筆歷史記錄（其中詐騙率 0.3%）。你會選擇哪種模型？為什麼？ 一、核心問題：深度學習時代為什麼還要學傳統 ML 2024 年，ChatGPT 席捲世界，LLM 成為媒體焦點。許多工程師開始質疑：傳統機器學習是否已成歷史？ 答案是：不，傳統 ML 在生產系統中的佔比仍超過 80%。 原因很直接： 1. 資料量的現實 大多數企業的結構化資料集在 10 萬至 500 萬筆之間。神經網路在這個規模下通常不比梯度提升樹更好，卻需要 10–100 倍的計算資源。 2. 延遲的硬需求 金融風控、廣告競價、即時推薦的推論預算通常是 1–10ms。線性模型推論 < 0.1ms，決策樹 < 1ms，而即使是小型神經網路也需要 10–50ms（CPU），加上批次化開銷後更長。 3. 可解釋性的法規壓力 歐盟 GDPR、台灣個資法、金融監理機關都要求「自動化決策必須能解釋」。邏輯回歸的係數、決策樹的規則路徑可以直接呈給法務；神經網路的注意力權重不能。 4. 維護成本的差距 一個訓練好的 XGBoost 模型可以用 pickle 序列化，部署到任何有 Python 的環境。不需要 GPU，不需要特殊推論框架，oncall 工程師看得懂特徵重要性。 5. 過擬合風險 資料少、特徵少的場景，深度模型反而容易過擬合。L1/L2 正則化的線性模型在小資料集上往往比 5 層 MLP 表現更穩定。