AI & LLM

Building with language models — from prompt to production.

LLM applications, agent architectures, RAG pipelines, evaluation and model deployment.

234 posts · All topics

Hermes Agent 完全入門指南：自我改進的 AI 智能體

詳細介紹 Hermes Agent，一個具有自我學習和改進能力的 AI 系統。涵蓋核心功能、安裝步驟、配置方式和實際應用，幫助你快速上手這個強大的自主 AI 系統。

·35 min aitools

Harness 工程入門指南：AI 時代的基礎設施自動化

深入探討 Harness 在 AI 時代的角色，從基本概念、核心功能到實戰應用，幫助工程團隊建立高效的自動化部署流程，加速 AI 應用的上線速度。

·35 min aiinfrastructure

Career-Ops 完全使用指南：AI 驅動的智能求職系統

深入講解 Career-Ops，一個由 AI 驅動的求職系統，幫助你在數百個工作機會中找到最適合的職位。涵蓋安裝、配置、使用技巧和策略，助力你高效求職。

·40 min ai

在 Kubernetes 上使用 Slurm 運行大規模 GPU 工作負載

本文深入探討如何在 Kubernetes 環境中利用 Slurm 進行大規模 GPU 工作負載的管理和調度。文章將介紹核心概念、技術架構、實現細節，並通過代碼示例展示如何配置和優化系統性能，最後討論常見問題和最佳實踐。

·25-30 min ai

多 Agent Token 優化系列 pt.7：專責化 Agent 協作模式 — 從團隊設計到生產級協調

多 Agent Token 優化系列 pt.7：深入探討專責化 Agent 的協作模式，涵蓋團隊組織架構、動態路由、任務分解策略、狀態管理、錯誤處理等生產級實作，幫助你打造高效協調的 Agent 團隊。

·40 min aitools

開源 LLM Post-Training 全攻略：從 SFT 到 RLHF，手把手帶你訓練 Qwen

全面介紹開源 LLM 的 Post-Training 方法，包含 SFT、RLHF、DPO、ORPO、持續預訓練等技術，以 Qwen 為範例，深入分析各方法的優缺點、所需資源與適用場景，幫助你選擇最合適的訓練策略。

·35 min ai

多 Agent Token 優化系列 pt.6：Agent 專責化實戰指南 — 打造精準高效的專家團隊

深入探索 Agent 專責化策略：從單一通用 Agent 到專業分工的專家團隊，涵蓋職責劃分、System Prompt 精簡、工具最小化配置、模型差異化選擇等完整實作，幫助你大幅降低 System Prompt 的 Token 消耗並提升輸出品質。

·35 min aitools

多 Agent Token 優化系列 pt.5：選擇性 Context 傳遞 — 打造高效協作系統

多 Agent Token 優化系列 pt.5：深入探索選擇性 Context 傳遞策略，從依賴關係映射、結構化輸出到相關性過濾，提供完整實作範例，幫助你大幅降低 Agent 間通訊的 Token 消耗。

·35 min aitools

多 Agent Token 優化系列 pt.4：模型分層實戰 — 智能路由打造高效低成本系統

多 Agent Token 優化系列 pt.4：深入探索模型分層策略，從任務分類、智能路由到動態選擇，提供完整實作範例，幫助你在保持品質的同時大幅降低 AI 應用成本。

·30 min aitools

多 Agent Token 優化系列 pt.3：Context 壓縮與摘要 — 打造可無限對話的 AI 系統

多 Agent Token 優化系列 pt.3：深入探索 Context 壓縮與摘要技術，從滑動視窗、階層式摘要到語意壓縮，提供完整實作範例，幫助你打造可無限對話且成本可控的 AI 應用。

·35 min aitools

多 Agent Token 優化系列 pt.2：Prompt Caching 實戰 — 從記憶體快取到 RAG 系統

多 Agent Token 優化系列 pt.2：深入探索 Prompt Caching 的實際應用，從 Claude API 原生快取、應用層記憶體快取、到 RAG 系統整合，提供完整程式碼範例，幫助你打造高效低成本的 AI 應用。

·30 min aitools

多 Agent Token 優化系列 pt.1：完整指南 — 使用 Claude API 構建高效 AI 系統

多 Agent Token 優化系列總覽：深入解析 Token 用量優化策略，涵蓋 Prompt Caching、Context 壓縮、Agent 專責化、模型分層、選擇性 Context 傳遞等方法，幫助你建構高效且低成本的多 Agent 系統。

·25 min aitools

SpotifyMCP2: Control Spotify with Claude via the Model Context Protocol

A deep dive into SpotifyMCP2, an open-source Model Context Protocol server that integrates Claude with the Spotify Web API. Learn how it works, how to set it up, and how to extend it. Covers MCP architecture, OAuth2 flow, TypeScript design, and all 8 exposed tools.

·12 min aiengineeringtools
2

Part 2 — AI 深海/太空環境音串流實戰（二）：8K 視覺製作與動態場景生成

系列第二篇：使用 Midjourney V7 和 Runway Gen-3 創造令人驚嘆的 8K 深海與太空視覺。從提示詞工程到動態影片生成，打造沉浸式直播體驗。

·28 min aibusinesscreative
1

Part 1 — AI 深海/太空環境音串流實戰（一）：市場分析、科學原理與 AI 工具選擇

系列第一篇：深度分析深海/太空環境音市場機會、聲音設計的科學原理，以及如何使用 AI 工具生成高品質音頻內容。從零開始建立你的沉浸式環境音頻道。

·22 min aibusinesscreative

Claude Code 開發工作流程完整指南：從需求到部署的最佳實踐

詳細解析使用 Claude Code 的標準開發工作流程：涵蓋需求分析、架構設計、功能開發、測試部署等完整生命週期，並提供不同開發情境的具體實踐策略。

·25 min aitools

深入理解 Claude Code Context Window：管理對話上下文的完整指南

深度解析 Claude Code 的 Context Window 機制：從底層原理到實戰策略，學習如何有效管理對話上下文、優化 token 使用，並避免常見陷阱，讓 AI 輔助開發更高效。

·22 min aitools

Claude Code 最佳實踐指南：提升 AI 輔助開發效率的 20 個技巧

完整的 Claude Code 最佳實踐指南：從基礎使用到進階技巧，涵蓋提示工程、檔案管理、錯誤處理與團隊協作，幫助開發者充分發揮 AI 輔助開發的潛力。

·18 min aitools

深入理解 Claude Code 架構：Plugin、Skill、Sub-agent 與 MCP 完整指南

完整解析 Claude Code 的核心架構元件：從底層的 MCP 協議到高層的 Sub-agent，了解 Plugin、Skill、Sub-agent 與 MCP 的運作原理、使用時機與層級關係。

·20 min aitools

Fine-Tuning LLMs with AWS Bedrock: A Complete Guide to Post-Training Customization

Comprehensive guide to fine-tuning and customizing Large Language Models (LLMs) with AWS Bedrock - covering supervised fine-tuning, continued pre-training, and reinforcement fine-tuning with practical examples and AWS CDK infrastructure setup.

·28 min aiinfrastructure

Building Multi-Agent Orchestration Systems with Claude Code

Comprehensive guide to building multi-agent orchestration systems with Claude Code - learn to coordinate specialized AI agents for complex software development workflows, from architecture design to implementation.

·22 min aitools

Building a Centralized Monitoring System with AWS CloudWatch and Grafana using CDK

Design and implement a production-ready centralized monitoring and observability platform using AWS CloudWatch, Grafana, and CDK (TypeScript). Learn cross-service log aggregation, metric collection, IAM permissions, dashboard creation, and alerting strategies for monitoring distributed systems.

·65 min aiengineeringinfrastructure

Building a Centralized User Access Control System with AWS Cognito and CDK

Design and implement a production-ready centralized authentication and authorization system using AWS Cognito and CDK (TypeScript). Learn multi-tenant strategies, user pool management, RBAC/ABAC patterns, and how to integrate with multiple services and applications.

·60 min aiengineeringarchitectureinfrastructure

Deploying Hugging Face Models to AWS: A Complete Guide with CDK, SageMaker, and Lambda

Learn how to deploy production-ready Hugging Face AI models to AWS using CDK (TypeScript), SageMaker, and Lambda. Comprehensive guide covering system design, infrastructure setup, model deployment, API creation, and best practices for scalable ML applications.

·55 min aiengineeringinfrastructure

Express.js Best Practices: Building Production-Ready Node.js Backend Applications

Master Express.js development with comprehensive best practices covering configuration, middleware, routing, security, error handling, and performance optimization. Learn to build scalable, maintainable, and secure Node.js backend applications.

·50 min aiengineering