<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Open WebUI on YennJ12 Engineering Blog</title><link>https://yennj12.js.org/yennj12_blog_V4/tags/open-webui/</link><description>Recent content in Open WebUI on YennJ12 Engineering Blog</description><generator>Hugo -- gohugo.io</generator><language>en-us</language><lastBuildDate>Sat, 18 Jul 2026 09:00:00 +0800</lastBuildDate><atom:link href="https://yennj12.js.org/yennj12_blog_V4/tags/open-webui/feed.xml" rel="self" type="application/rss+xml"/><item><title>ollama on mac - part 4 - 與應用整合(Python、OpenAI SDK、LangChain、Open WebUI、RAG)</title><link>https://yennj12.js.org/yennj12_blog_V4/posts/ollama-on-mac-part4-app-integration-zh/</link><pubDate>Sat, 18 Jul 2026 09:00:00 +0800</pubDate><guid>https://yennj12.js.org/yennj12_blog_V4/posts/ollama-on-mac-part4-app-integration-zh/</guid><description>很多人以為要用本地模型,就得把整個 app 打掉重寫、換掉所有 SDK。 於是遲遲不敢動手,繼續每個月付雲端 API 帳單。 事實上,對絕大多數既有專案而言,你只要改一行 base_url。 模型跑起來只是開始,把它接進你的應用,才是價值真正發生的地方。
在 Part 1 我們把 Ollama 裝起來、跑了第一個模型;Part 2 挑了適合的公開模型;Part 3 玩了 REST API 與 Modelfile。到這裡,你手上已經有一個穩定跑在 localhost:11434 的本機推論服務。但一個孤立的模型沒有意義——真正的價值在於它成為你程式碼裡的一個函式呼叫、你 IDE 裡的自動補全、你知識庫上的問答引擎。
這一篇,我們把「整合」這件事講透。
一、整合的三條路:你其實只需要選一條 先建立心智模型。不管你用什麼語言、什麼框架,把本機模型接進應用永遠是這張圖:
┌──────────────────────────────────────────────────────────────┐ │ 你的應用程式 │ │ (Web 後端 / CLI 腳本 / 桌面 App / Jupyter) │ └───────────────┬───────────────┬───────────────┬───────────────┘ │ │ │ ┌───────▼──────┐ ┌──────▼───────┐ ┌─────▼────────┐ │ 路線 A │ │ 路線 B │ │ 路線 C │ │ 官方 SDK │ │ OpenAI 相容 │ │ 框架 / App │ │ ollama-py │ │ /v1/.</description></item></channel></rss>