https://yennj12.js.org/yennj12_blog_V4/tags/crossencoder/Recent content in CrossEncoder on YennJ12 Engineering BlogHugo -- gohugo.ioen-usMon, 08 Jun 2026 10:00:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/fde-core-concept-5-reranking-cross-encoder-zh/Mon, 08 Jun 2026 10:00:00 +0800https://yennj12.js.org/yennj12_blog_V4/posts/fde-core-concept-5-reranking-cross-encoder-zh/核心定義：Re-ranking 是「先用 Bi-Encoder 快速縮小候選集，再用 Cross-Encoder 精準評分」的兩階段架構——用 10ms 的粗召回換取可接受的候選集，再用 150ms 的深度交互換取 LLM 真正需要的高品質上下文。 一、為什麼面試官問這個 面試官實際測試的能力： 你知道「快」和「準」之間的工程取捨嗎？ Bi-Encoder 可預計算、延遲低，Cross-Encoder 不可預計算但精準——能不能說清楚這兩者的差異，是區分背了課文還是真正理解原理的關鍵。 你能把數字說出來嗎？ 弱答：「Re-ranking 可以提升準確率。」強答：「ANN-only MRR@5 約 0.61，加上 Cross-Encoder 重排後升至 0.79，提升約 30%，幻覺率同步下降約 40%。」 你知道什麼時候不該用嗎？ 盲目加 Cross-Encoder 在延遲 SLA < 200ms 的場景會直接違反 SLA。強答必須包含 skip 條件。 弱答 vs 強答對比： 維度 弱答 強答 定義 「對搜索結果重新排序」 解釋 Bi-Encoder 獨立編碼 vs Cross-Encoder 聯合編碼的機制差異 數字 無 MRR@5 +30%、幻覺 -40%、延遲 +150ms、成本 +$0.002/query 取捨 「有點慢」 說明延遲預算分配：ANN 10ms + CE 150ms + LLM 800ms ≈ 960ms 跳過條件 未提及 明確指出 <200ms SLA 應改用 ColBERT 或接受 ANN 品質 二、核心原理與技術深度 Bi-Encoder 與 Cross-Encoder 的本質差異 兩種模型架構解決同一個問題（語意相關性），但用完全不同的方式：