All Posts

The complete archive.

Every post on the blog, newest first.

349 posts · All topics

5

Part 5 — Hugging Face 實戰（五）：端到端實戰 — 打造一個完整的 RAG 客服系統

把前四篇串起來：用 bge-m3 + FAISS + reranker + 微調模型，從文件切分、混合檢索、引用生成、FastAPI 服務化到 Gradio 部署與線上評估，一套可直接執行的完整專案程式碼。

·30 min aiengineering
4

Part 4 — Hugging Face 實戰（四）：後訓練 — 從 SFT 到 DPO、ORPO 與 GRPO

後訓練不只是再微調一次。完整解析 DPO / ORPO / KTO / SimPO / GRPO 與 PPO 的差異、偏好資料怎麼準備、TRL 的完整訓練程式碼，以及如何評估對齊效果與偵測 reward hacking。

·27 min aiengineering
3

Part 3 — Hugging Face 實戰（三）：微調實戰 — Datasets、Trainer 與 LoRA/QLoRA

什麼時候才該微調？從資料準備、LoRA/QLoRA 原理、TRL SFTTrainer 完整訓練程式碼，到評估、合併、量化與部署的全流程。含超參數決策表與六種失敗模式診斷。

·28 min aiengineering
2

Part 2 — Hugging Face 實戰（二）：用模型、跑 App、推送自己的模型

如何從兩百萬個 repo 中挑對模型、用四個抽象層載入它、用 Gradio 與 FastAPI + vLLM 把它變成服務，並把自己的模型完整推上 Hub。含量化、Spaces 部署與 Model Card 撰寫範例。

·26 min aiengineering
1

Part 1 — Hugging Face 實戰（一）：它到底是什麼，以及如何開始

從零認識 Hugging Face：Hub、Transformers、Datasets、Spaces 五大支柱的關係，帳號與 Token 設定、CLI 安裝、快取機制，以及三行程式碼跑起第一個模型。含完整可執行範例。

·22 min aiengineering
16

Part 16 — AIO / GEO - Part 16 - 商業化：從一個客戶到二十個客戶

顧問生意在第 6 到第 10 個客戶之間會壞掉。本篇拆解交付 SOP、團隊配置、retainer 合約結構與詳細的單位經濟試算，並誠實處理兩個問題：GEO 服務往 SaaS 走的陷阱，以及什麼時候該停止擴張。

·20 min aibusiness
15

Part 15 — AIO / GEO - Part 15 - 商業化：工具地圖與該自建的部分

GEO 工具市場已經很擁擠，但九成的工具只做同一件事：給你 dashboard。本篇畫出完整工具地圖、比較商業與開源選項、給出自建 vs 買的分界線，並提醒一個 2026 年 9 月生效、會改變所有人前提的變動：Cloudflare 對新網域預設封鎖 AI 爬蟲。

·20 min aiengineeringbusiness
14

Part 14 — AIO / GEO - Part 14 - 商業化：十個產業的 GEO 劇本

同一套方法在不同產業的效果差三倍以上。本篇給出十個產業的獨立劇本：主要查詢類型、可達天花板、優先動作、獨有風險與該用哪組 KPI。附一張跨產業對照表與「換產業時要重問的六個問題」。

·22 min aibusiness
13

Part 13 — AIO / GEO - Part 13 - 商業化：顧問方法論，從第一通電話到簽約

GEO 最有效的銷售動作是「當場跑診斷」。本篇給出 90 分鐘診斷工作坊的完整腳本、診斷報告模板、提案與定價錨定方式，以及最重要的一節：合約 KPI 該怎麼寫才不會自殺。附常見異議的回應與該拒絕的案子。

·20 min aibusiness
12

Part 12 — AIO / GEO - Part 12 - 商業化：什麼時候該做 GEO，什麼時候只需要 SEO

Google 官方說「這就是 SEO」——這句話對，也不對。本篇正面處理這個質疑，給出一套決策樹與四維評分表，並列出五種不該賣 GEO 的客戶。附預算配比建議與該怎麼跟客戶解釋這件事。

·18 min aibusiness
5

Part 5 — QM 深度解析（五）：Sandbox、Skills、Cron 與部署 — 讓 Agent 擁有一台持久的電腦

拆解 QM 的持久化能力：三種沙箱後端與能力損失偵測、Skills 的簽章與 git pack 匯入、Cron 的 leader lease 與收件人同意、三種記憶策略的抽取 prompt，以及部署目錄與私有 fork 兩種客製路線。

·29 min aiengineering
4

Part 4 — QM 深度解析（四）：安全模型 — 三種 Posture、命令政策與誠實的威脅模型

拆解 QM 的分層防禦：三種 security posture 如何組合、命令政策的 scannableCommand 如何遞迴拆解八層 shell 混淆、ReDoS 防護的自製 regex 編譯器、內容篩檢分類器的分塊與重試，以及三個「刻意不給 Agent」的動作與 12 條誠實列出的已知限制。

·28 min aiengineering
3

Part 3 — QM 深度解析（三）：Harness 抽象 — 一套核心驅動四種 Agent 引擎

拆解 QM 如何讓 Pi、OpenCode、Codex、Claude Code 四種完全不同的 Agent 引擎驅動同一個核心：Harness 契約的三軸能力宣告、60 欄位的 HarnessTurnInput 依賴注入、Entries 與 Tape 雙軌重放、context 壓縮的 throughSeq 錨點，以及 runtime 選擇的三層繼承。

·27 min aiengineering
2

Part 2 — QM 深度解析（二）：Scope 與 Resolution — 一次對話如何解析出身分、權限與工作區

拆解 QM 多人隔離的核心：五種 ScopeId、workspace 分層掛載、soul 指令的不可覆寫疊層、audience floor 如何用「受眾交集」防止頻道洩漏、ACL grant 變成 shared/ handle，以及 session 租約與 tape 雙軌記錄。

·27 min aiengineering
1

Part 1 — QM 深度解析（一）：多人協作 Agent 平台的架構全景

拆解 yc-software/qm — 一個為公司而非個人設計的開源 Agent 平台。從「每個人一個隔離工作區」的核心命題出發，看懂它的無頭核心 + 外掛式介面架構、76K 行 TypeScript 的目錄分工，以及一次 Slack 對話如何走完整條路徑。

·25 min aiengineering
5

Part 5 — OpenWorker 深度解析（五）：能力擴充 — Tools、Skills、Personas、MCP 與排程

拆解 OpenWorker 的五層能力擴充體系：ToolRegistry 與封閉式 Capability 目錄、Persona 作為資料而非程式碼、Skills 的漸進式揭露、explore 子代理的 context 隔離、MCP 客戶端的單任務生命週期，以及排程器的 catch-up 與 skip-on-overlap 策略。

·28 min aiengineering
4

Part 4 — OpenWorker 深度解析（四）：LLM 層 — Provider 抽象、能力降級與 Context 自動壓縮

拆解 OpenWorker 如何同時支援 OpenAI、Anthropic、Gemini、Bedrock、Vertex、Ollama 與多家轉售商：ProviderClient 契約為何刻意同步且無迴圈、能力矩陣如何驅動 vision/PDF 降級、TokenUsage 的快取拆分，以及 561 行 compaction.py 的完整壓縮演算法。

·27 min aiengineering
3

Part 3 — OpenWorker 深度解析（三）：Harness — 權限模型、Inbox 與人機協作

拆解 OpenWorker 的安全外殼：58 行的 RiskClass 如何撐起整個權限系統、五種執行模式的決策流程、shell allowlist 的前綴比對陷阱、跨 session 的 Inbox 決策佇列與 durable resume，以及 SSRF 防護、prompt injection 防線與稽核軌跡。

·29 min aiengineering
2

Part 2 — OpenWorker 深度解析（二）：TurnEngine — Agent 迴圈的完整解剖

逐行拆解 OpenWorker 的 1192 行 agent 迴圈：訊息的真實形狀、blocking provider 如何橋接到 async loop、工具呼叫的授權與併發分流、四種中斷狀態下的「不留孤兒 tool_call」不變式，以及 canonical history 與 outbound view 的分離設計。

·28 min aiengineering
11

Part 11 — AIO / GEO - Part 11 - 商業化：市場長什麼樣、誰在買、誰在賣

把 GEO 當生意做之前，先看清楚市場。本篇拆解需求端與供給端、服務型態與毛利結構，並誠實處理一件事：關於 GEO 的市場數據，絕大多數是賣 GEO 的人寫的。附三種可行的商業定位與風險清單。

·20 min aibusiness
1

Part 1 — OpenWorker 深度解析（一）：架構全景 — 一個能交付成果的桌面 AI 同事

從零拆解 Andrew Ng 團隊的開源專案 OpenWorker：它為什麼強調「交付成果而非聊天」、三層本地優先架構如何組成、37000 行 Python 後端的目錄職責分工，以及一次任務從輸入到產出的完整生命週期。

·24 min aiengineering
10

Part 10 — AIO / GEO - Part 10 - 實戰案例：私有 Repo 與內部知識庫（把 GEO 反過來用）

最後一個案例沒有搜尋引擎。一家 400 人公司把 GEO 的原則用在自己的內部 AI 助手上——私有 repo、Confluence、Slack 全接進 RAG，答案卻錯得離譜。診斷結果和公開網站一模一樣：內容不是不存在，是不可引用。

·19 min aiengineeringbusiness
9

Part 9 — AIO / GEO - Part 9 - 實戰案例：線上課程平台（付費牆 + 影片內容）

一個 8,000 名付費學員的線上課程平台，跑在 GCP Cloud Run 上。內容 90% 是影片、且全在付費牆後——這是 GEO 最困難的組合。看付費牆怎麼分層、影片怎麼變成可引用文字，以及「開放多少才不會傷害營收」的實測。

·18 min aibusiness
8

Part 8 — AIO / GEO - Part 8 - 實戰案例：單頁式 Landing Page（內容只有 800 字）

一個 3 人團隊的 SaaS 產品，全站只有一頁 Landing Page 加一份文件。內容量是最小的，資源也是最少的——這反而讓「該做什麼、不該做什麼」變得極度清楚。從 0 到被引用的 8 週實錄。

·16 min aibusiness
7

Part 7 — AIO / GEO - Part 7 - 實戰案例：電商網站（12,000 SKU + 價格新鮮度）

一家台灣戶外用品電商，12,000 個 SKU、跑在 Vercel + Shopify Headless 上。電商 GEO 的兩個獨有難題：長尾商品頁怎麼模板化才不變成薄內容，以及價格與庫存怎麼讓模型抓到最新的。

·18 min aibusiness