#AI

174 posts tagged "ai"

1

Part 1 — vLLM Intro Part 1 — 全景架構 — 從一次 model.generate() 到一個推論引擎

vLLM 原始碼與架構導讀系列第一篇：用一張全景圖說清楚這個 9 萬星的 LLM 推論引擎由哪些子系統組成、一個請求進來之後經過哪些階段、GPU 記憶體到底被誰吃掉，以及 V1 重寫改變了什麼。

·24 min aiengineeringinfrastructure
1

Part 1 — RAGFlow Intro Part 1 — 全景架構 — 從一份 PDF 到一句帶引用的答案

RAGFlow 原始碼導讀系列第一篇：用一張全景圖與兩條資料路徑，說清楚這個 9 萬星的開源 RAG 引擎由哪些子系統組成、一份 PDF 進來之後經過哪些階段、以及它在架構上做了哪些與眾不同的取捨。

·24 min aiengineering
1

Part 1 — Hugging Face 實戰（一）：它到底是什麼，以及如何開始

從零認識 Hugging Face：Hub、Transformers、Datasets、Spaces 五大支柱的關係，帳號與 Token 設定、CLI 安裝、快取機制，以及三行程式碼跑起第一個模型。含完整可執行範例。

·22 min aiengineering
1

Part 1 — AI 工程從零開始｜Phase 1 Part 1：線性代數與微積分 — AI 演算法直覺

從工程師視角掌握 AI 必備的線性代數與微積分直覺：向量、矩陣、梯度下降、反向傳播背後的數學原理，附 ASCII 架構圖與工程決策表

·23 min aiengineering
1

Part 1 — FDE 面試準備指南（一）：RAG 完全解析

以 Google AI 工程師兼面試官的視角，解析 FDE 面試中 RAG 最高頻考題，包含核心架構、Chunk 策略、幻覺改善、Hybrid Search 與實戰建議

·12 min aiengineering
1

Part 1 — AI Forward Deployed Engineer 必備技能指南（一）：基礎核心概念與技術棧

深入解析 AI FDE 角色所需的核心技術基礎，包含 Python 生態系統、深度學習框架、大語言模型基礎與提示工程技術

·12 min aiengineering
1

Part 1 — 如何衡量 AI 的準確度（一）：分類與回歸任務的基礎評估指標

AI 準確度不是一個數字就能說清楚的。本文從分類與回歸任務出發，介紹 Precision、Recall、F1-Score、RMSE 等核心指標，幫助你建立客觀評估 AI 模型的基礎框架。

·12 min aiengineering
1

Part 1 — Building MCP Servers for Claude Code Development - Part 1

Complete guide to setting up Model Control Protocol (MCP) servers for Claude Code, from basic configuration to building custom tools that enhance your AI-powered development workflow.

·18 min aitools
2

Part 2 — vLLM Intro Part 2 — PagedAttention 與 KV Cache — 把作業系統的分頁搬進 GPU

vLLM 原始碼導讀系列第二篇：拆解 PagedAttention 的分頁機制與 kernel 記憶體佈局、Copy-on-Write 共享、自動前綴快取的 hash 鏈與 LRU 淘汰、KV cache 量化與多層卸載，以及一份能讓你算出併發上限的記憶體規劃手冊。

·26 min aiengineering
2

Part 2 — RAGFlow Intro Part 2 — 資料進場 — DeepDoc 解析、Chunking 策略與 14 種模板

RAGFlow 原始碼導讀系列第二篇：拆解 DeepDoc 的 OCR／版面辨識／表格結構辨識三層視覺管線、五條解析後端路線、14 種 chunk 模板各自的結構假設，以及 naive_merge 的切分契約與 chunk 加值管線的真實成本。

·26 min aiengineering
2

Part 2 — AI 工程從零開始｜Phase 1 Part 2：機率與統計 — 不確定性的數學語言

從工程師視角掌握 AI 必備的機率論與統計直覺：貝葉斯定理、最大概似估計、資訊理論、分佈假設背後的設計決策

·23 min aiengineering
2

Part 2 — FDE 面試準備指南（二）：Agent System Design

以 Google AI 工程師兼面試官的視角，解析 FDE 面試中 Agent 系統設計考題，包含 ReAct 架構、Multi-Agent 判斷邏輯、失控防禦設計、MCP 協定與 Google ADK 定位

·14 min aiengineering
2

Part 2 — AI Forward Deployed Engineer 必備技能指南（二）：多智慧體系統與框架實戰

深入探討多智慧體系統架構設計，包含 LangGraph、CrewAI 框架實作，以及 Model Context Protocol (MCP) 的企業級應用

·15 min aiengineering
2

Part 2 — 如何衡量 AI 的準確度（二）：大型語言模型（LLM）的評估方法

LLM 的輸出沒有唯一標準答案，該怎麼客觀評估？本文介紹 BLEU、ROUGE、Perplexity、BERTScore 及 LLM-as-a-Judge 等方法，幫助你從多個維度評估語言模型的真實能力。

·15 min aiengineering
2

Part 2 — Advanced MCP Server Development with Database Integration - Part 2

Advanced MCP server development covering database integration, REST API connectors, real-time data processing, and production deployment strategies for Claude Code development workflows.

·24 min aitools
2

Part 2 — Java Concurrency Deep Dive Part 2: Mastering Runnable, Callable Patterns and Internal Mechanisms

Deep dive into Java concurrency fundamentals: Runnable and Callable internals, thread synchronization mechanisms, memory models, and advanced patterns. Master the building blocks of Java concurrent programming.

·40 min aiengineeringarchitecture
3

Part 3 — vLLM Intro Part 3 — 連續批次與排程器 — 決定誰在這一輪前進一格

vLLM 原始碼導讀系列第三篇：拆解連續批次的實作、V1 統一 token 預算排程器如何取代 V0 的雙軌制、Chunked Prefill 在 TTFT 與 ITL 之間的取捨、搶佔與重算機制、投機解碼的接受率數學，以及一份可直接套用的調參手冊。

·27 min aiengineeringarchitecture
3

Part 3 — RAGFlow Intro Part 3 — Encode 與 Save — 向量化、索引 Schema 與雙引擎抽象

RAGFlow 原始碼導讀系列第三篇：拆解混合向量（0.1 檔名 + 0.9 內容）的設計理由、批次與截斷策略、以後綴驅動的動態 ES mapping、把 TF 壓成 min(freq,1) 的自訂相似度，以及支撐六種 doc engine 的儲存抽象層。

·25 min aiengineering
3

Part 3 — AI 工程從零開始｜Phase 2 Part 1：傳統機器學習 — 生產 AI 的骨幹

深入解析線性回歸、邏輯回歸、決策樹、SVM、特徵工程等傳統 ML 技術為何在 80% 生產 AI 系統中仍是首選，附完整決策框架與量化比較

·23 min aiengineering
3

Part 3 — FDE 面試準備指南（三）：你不能忽略的 ML 基礎

以 Google AI 工程師兼面試官的視角，整理 FDE 面試中仍然高頻的傳統 ML / AI 基礎知識，包含 Transformer、Embedding、評估指標與 Fine-tuning 的工程視角

·13 min aiengineering
3

Part 3 — AI Forward Deployed Engineer 必備技能指南（三）：企業級 AI 整合與部署策略

深入探討企業級 AI 系統整合策略，包含雲端平台部署、安全性管理、RAG 架構設計與企業數據管道建構

·18 min aiengineering
3

Part 3 — 如何衡量 AI 的準確度（三）：RAG 系統的可靠性評估框架

RAG 系統的評估遠不只是看回答品質，還要驗證檢索忠誠度與事實接地性。本文介紹 Faithfulness、Relevance、Context Precision 等 RAG 專屬指標，以及如何使用 RAGAS 框架自動化評估流程。

·18 min aiengineering
3

Part 3 — Java Concurrency Part 3: Design Patterns with Thread Interfaces - Producer-Consumer, Observer, and Enterprise Patterns

Master concurrent design patterns using Java thread interfaces: Producer-Consumer, Observer, Command, Strategy, and Enterprise patterns. Learn practical implementations with Runnable and Callable, including pros/cons and real-world use cases.

·45 min aiengineeringarchitecture
4

Part 4 — RAGFlow Intro Part 4 — Decode 與檢索 — 混合搜尋、Rerank、GraphRAG/RAPTOR 與引用

RAGFlow 原始碼導讀系列第四篇：逐行拆解查詢編譯器如何把一句人話變成加權布林查詢、ES 與 Infinity 兩條融合路徑的差異、三層重排的權重公式、GraphRAG 與 RAPTOR 的成本與時機，以及不依賴 LLM 服從度的引用對齊演算法。

·28 min aiengineering
4

Part 4 — AI 工程從零開始｜Phase 2 Part 2：集成學習與最佳化 — 超越單一模型的上限

深入解析 Random Forest、Gradient Boosting、XGBoost、超參數調優與 AutoML，理解集成方法為何在表格資料競賽與生產系統持續稱霸

·23 min aiengineering