#Guardrails
3 posts tagged "guardrails"
6
Part 6 — FDE core topic - Prompt Injection & Jailbreak Defense：生產環境零信任 AI 防禦體系
深入剖析生產環境中 LLM 系統面臨的 Prompt Injection 與 Jailbreak 攻擊，從輸入分類器、XML 隔離、DLP 掃描到工具白名單，建構四層縱深防禦體系。
31
Part 31 — AI 工程從零開始｜Phase 14 Part 4：Agent 生產化 — 可靠性、可觀測性與成本控制
深入解析 Agent 生產部署工程：執行追蹤、成本預算控制、並發限流、Guardrails 安全防護、A/B 測試框架與 Agent 監控告警設計
AI System on Native AWS - Part 4 - 自主 AI Agent 工具呼叫系統
當 AI 不只是回答,而要主動規劃、呼叫工具、串起多步驟任務時,你需要的是 Agent。本篇用純 AWS 原生服務打造一套自主 AI Agent:Bedrock Agents 做規劃與工具編排、Lambda Action Groups 當可呼叫的工具、Knowledge Base 提供知識、Guardrails 做安全護欄,全部用 CDK(CloudFormation)描述,深入談 ReAct 迴圈、工具設計、權限邊界、幻覺與惡意輸入防護、以及人工確認關卡。