AI & LLM
Building with language models — from prompt to production.
LLM applications, agent architectures, RAG pipelines, evaluation and model deployment.
Part 6 — FDE 面試準備指南（六）：RAG 進階——檢索失敗、Grounding、評估指標與成本控制
以 Google AI 工程師兼面試官的視角，深度拆解 RAG 系統的四大進階主題：檢索失敗的原因與修復、Grounding 策略、RAG 評估指標設計，以及生產環境中的成本控制
Part 5 — FDE 面試準備指南（五）：RAG 深度技術——Chunking、Embedding、向量資料庫與混合搜尋
以 Google AI 工程師兼面試官的視角，深度拆解 RAG 的技術細節：Chunking 策略選擇、Embedding 模型挑選、向量資料庫設計、混合搜尋與 Reranking，以及 Context Window 爆炸的處理方式
Part 4 — FDE 面試準備指南（四）：System Design 實戰
以 Google AI 工程師兼面試官的視角，完整拆解兩道 FDE 高頻系統設計題：企業知識庫 Chatbot 與 Internal AI Copilot，含 Auth、RBAC、Cache、NL2SQL 的設計決策與 trade-off
Part 3 — FDE 面試準備指南（三）：你不能忽略的 ML 基礎
以 Google AI 工程師兼面試官的視角，整理 FDE 面試中仍然高頻的傳統 ML / AI 基礎知識，包含 Transformer、Embedding、評估指標與 Fine-tuning 的工程視角
Part 2 — FDE 面試準備指南（二）：Agent System Design
以 Google AI 工程師兼面試官的視角，解析 FDE 面試中 Agent 系統設計考題，包含 ReAct 架構、Multi-Agent 判斷邏輯、失控防禦設計、MCP 協定與 Google ADK 定位
Part 1 — FDE 面試準備指南（一）：RAG 完全解析
以 Google AI 工程師兼面試官的視角，解析 FDE 面試中 RAG 最高頻考題，包含核心架構、Chunk 策略、幻覺改善、Hybrid Search 與實戰建議
Part 5 — AI Forward Deployed Engineer 必備技能指南（五）：客戶協作與問題解決實務
深入探討 AI FDE 客戶協作的核心技能，包含需求分析、技術溝通、專案管理與問題解決的最佳實務
Part 4 — AI Forward Deployed Engineer 必備技能指南（四）：生產環境 AI 系統監控與最佳化
深入探討生產環境 AI 系統的全方位監控策略、效能最佳化技術、故障診斷流程與成本管理實務
Part 3 — AI Forward Deployed Engineer 必備技能指南（三）：企業級 AI 整合與部署策略
深入探討企業級 AI 系統整合策略，包含雲端平台部署、安全性管理、RAG 架構設計與企業數據管道建構
Part 2 — AI Forward Deployed Engineer 必備技能指南（二）：多智慧體系統與框架實戰
深入探討多智慧體系統架構設計，包含 LangGraph、CrewAI 框架實作，以及 Model Context Protocol (MCP) 的企業級應用
Part 1 — AI Forward Deployed Engineer 必備技能指南（一）：基礎核心概念與技術棧
深入解析 AI FDE 角色所需的核心技術基礎，包含 Python 生態系統、深度學習框架、大語言模型基礎與提示工程技術
Part 3 — CrewAI 完全指南（三）：進階技巧——Flows 事件驅動、Memory 記憶體、與生產部署
CrewAI 進階篇：用 @start/@listen/@router 建立事件驅動的複雜工作流程、三種記憶體機制的實際應用、錯誤處理與成本控制，以及如何把 CrewAI Crew 包成 API 服務部署到生產環境。
Part 2 — CrewAI 完全指南（二）：三個真實場景實戰——競情分析、程式碼審查、客服自動化
CrewAI 不只是玩具：用三個完整的生產級範例說明如何建立競爭對手情報分析系統、自動化程式碼審查流程、以及智慧客服分類與回覆系統，包含工具整合與 Hierarchical Process 實作。
Part 1 — CrewAI 完全指南（一）：入門與核心概念——用多 Agent 協作解決複雜問題
從零開始學 CrewAI：什麼是多 Agent 協作框架、為什麼需要它、核心四大元件（Agent、Task、Crew、Tool）的詳細說明，以及你的第一個 CrewAI 應用程式。
Part 5 — RAG 完全指南（五）：生產級評估、GraphRAG 與 Agentic RAG
RAG 系列終章：如何用 RAGAS 框架量化評估 RAG 品質、GraphRAG 如何用知識圖譜突破向量搜尋的限制，以及 Agentic RAG 如何讓 AI Agent 主動決策何時搜尋、搜尋什麼。
Part 4 — RAG 完全指南（四）：查詢轉換、Self-RAG 與 Context 壓縮
當問題本身就是問題：深入三大 RAG 優化技術——Step-Back Prompting、Self-RAG 自我反思、以及 Context Compression。了解它們的核心原理、實作方式、優缺點與最佳使用場景。
Part 3 — 如何衡量 AI 的準確度（三）：RAG 系統的可靠性評估框架
RAG 系統的評估遠不只是看回答品質，還要驗證檢索忠誠度與事實接地性。本文介紹 Faithfulness、Relevance、Context Precision 等 RAG 專屬指標，以及如何使用 RAGAS 框架自動化評估流程。
Part 2 — 如何衡量 AI 的準確度（二）：大型語言模型（LLM）的評估方法
LLM 的輸出沒有唯一標準答案，該怎麼客觀評估？本文介紹 BLEU、ROUGE、Perplexity、BERTScore 及 LLM-as-a-Judge 等方法，幫助你從多個維度評估語言模型的真實能力。
Part 3 — RAG 完全指南（三）：進階檢索技術——混合搜尋、HyDE、Multi-Query、Reranker
Naive RAG 的搜尋精準度不夠？本篇深入四大進階檢索技術：BM25 混合搜尋、假設性文件嵌入（HyDE）、多查詢檢索（Multi-Query）、以及 Cross-Encoder Reranker，每個都有核心原理、程式碼與最佳使用場景。
Part 1 — 如何衡量 AI 的準確度（一）：分類與回歸任務的基礎評估指標
AI 準確度不是一個數字就能說清楚的。本文從分類與回歸任務出發，介紹 Precision、Recall、F1-Score、RMSE 等核心指標，幫助你建立客觀評估 AI 模型的基礎框架。
Part 2 — RAG 完全指南（二）：Chunking 策略與向量資料庫選型
深入探討 RAG 系統的兩個核心基礎：如何切塊才能保留語意完整性，以及如何選擇適合的向量資料庫。包含五種 Chunking 策略比較與主流向量 DB 的實測比較。
Part 1 — RAG 完全指南（一）：基礎概念與你的第一個 RAG 系統
從零開始理解 RAG（Retrieval-Augmented Generation）：為什麼 LLM 需要外部知識、RAG 的核心架構是什麼，以及如何用 Python 實作一個最基本的 RAG pipeline。
Part 5 — 用 AI Bot 打造顧問團隊（五）：數位行銷公司實戰案例
實戰案例：一家 8 人數位行銷公司如何用 AI Agent 團隊自動化內容策略、廣告文案、成效報告與客戶簡報，包含完整 Prompt、LangGraph 實作與執行步驟。
Part 4 — 用 AI Bot 打造顧問團隊（四）：小型外包公司實戰案例
實戰案例：一家 10 人軟體外包公司如何用 AI Agent 團隊自動化需求評估、報價、專案追蹤與客戶溝通，包含完整 Prompt、Skill 設計與執行步驟。
Part 3 — 用 AI Bot 打造顧問團隊（三）：評估、維運與優化計畫
AI 顧問 Agent 團隊上線後怎麼辦？本文從 DevOps/SRE 角度，涵蓋系統效能評估、品質驗證、監控告警、部署策略、以及持續改善的 Roadmap。