不是「接一個 ChatGPT 按鈕」
是可自架的 AI 調度層
Semantic Core 把內容 CMS、PWA 筆記、私人助理、MCP 工具鏈收在同一套語義架構裡。雲端極速、本地私密、某一條模型掛了自動換下一條——這才是企業能長期用的 AI 基礎設施,不是 Demo 級外掛。
30 秒話術
「我們賣的不是 API Key,是混合 provider 的調度能力:Gemini 補峰值、Ollama 守內網、Agent 七千行不是薄殼 UI。AI Agent 用 MCP 寫入、手機用 PWA 閱讀、對話用 AppAgent 改稿——同一筆資料、三條動線。」
7,106
行 AppAgent.php
非 iframe 薄殼
三態斷路器
Closed · Open · Half-Open
Canary 探活自癒
LLMOps
耗時 · 錯誤率 · 溯源流水帳
秒級定位故障模型
雲地混合
Gemini + Ollama + MLX
文字與多模任務解耦
多管道 AI 協作,一個資料真相
懂工程的人會問:「AI 在哪裡、何時用哪個?」Semantic Core 獨創「內容 CMS 即 AI 大腦」,串聯 IDE (MCP)、網頁 (AppAgent / AiButton) 與 LINE 官方帳號 (LineOA),實現內容發布即記憶同步,零時差多管道調度。
AppAgent · 對話式助理
Preflight、Prism、多模態、CRUD 筆記、OCR、產圖。主模型 + keyword 鏈雙層 fallback,限流時 UI 會顯示「切換備援模型」。
AppAgent →自研輕量級 LLM Gateway & Ops 控制台
在企業落地 AI 的真實場景中,痛點從來不是「Prompt 怎麼寫」,而是「地端模型顯卡卡死或 OOM 時,系統會不會整組癱瘓?」與「報錯時能否在 3 秒內定位是哪顆模型故障?」
標準三態斷路器 (Circuit Breaker)
採用經典 Closed ➔ Open ➔ Half-Open 狀態機:
- Closed (正常):請求直達目標 Provider。
- Open (熔斷):連續失敗或 503 斷線時自動熔斷,立即切換備援 Fallback 鏈,不拖慢前端。
- Half-Open (探活):冷卻 60 秒後放行 1 筆 Canary 試探請求;成功即自癒復原,失敗即重入熔斷。
全方位模型可觀測性 (Observability)
不只看噴錯,而是將運維指標全面量化與視覺化:
- SLA 量化指標:各 Provider 總調用次數、錯誤率(%)與平均響應耗時(ms)。
- 模型穩定度排行:依失敗率與逾時率降序排列,一眼看出不穩定模型。
- 溯源流水帳:精準追溯請求來源(Preflight / AiButton / LineBot / OCR / Test),含真實錯誤原因。
分級路由與多模態解耦 (Routing)
兼顧速度、成本與隱私的任務調度架構:
- Preflight 意圖分流:極輕量模型前置判斷意圖,決定是否動用高成本生成模型。
- 文字與 Vision 解耦:文字對話與排程/LineBot OCR 分開配置專屬 Provider,避免資源互搶。
- 雲地混合容錯:日常優先 Ollama/MLX 內網私密,故障或高峰自動切 Gemini 雲端。
多模型輪詢與熔斷:
一條不行,下一條上
這不是行銷形容詞,是跑在 production 的高可用性架構:
- 三態斷路器:當前 Provider 異常時自動進入熔斷保護,請求秒級降級切換,不再卡死。
- 全域容錯降級鏈:自訂 Fallback Chain(如
ollama ➔ custom ➔ gemini),依序容錯。 - Keyword/Preflight 鏈:逗號分隔鏈式備援,429/timeout 自動嘗試下一個模型。
- 共享 RPM 時鐘與 Cooldown:同一模型限流狀態跨功能共享,避免無謂消耗。
- 即時健康燈號與 Reset:後台直觀顯示正常/熔斷/探活中,並支援一鍵手動重置。
和「一般接 API」對照
| 常見做法 | Semantic Core |
|---|---|
| 單一 model,掛就 500 報錯 | 標準三態斷路器 + 跨 Provider 自動容錯降級 |
| Rate limit 後狂 retry 拖垮連線 | 60s Cooldown 隔離 + 換下一條 + Canary 探活自癒 |
| 無法得知哪顆模型出錯率最高 | LLMOps 稽核表:錯誤率排行 + 近 50 筆診斷流水帳 |
| 文字與多模態混在一起互相干擾 | 任務解耦:Preflight、文字、Vision/OCR 獨立管線 |
| 金鑰散落 .env 十幾個變數 | JSON + 後台集中管理(超級用戶專屬) |
| 全雲端或全本地二選一 | Gemini + Ollama + MLX + Custom 雲地混合治理 |
改得安心:版本、權限、交付
AI 協作最怕「改壞找不到誰動的」。這套系統把還原和權限當一等公民,不是事後補的 audit log。
完整時間軸
任一版本可還原;AI 改與手動改分色標示,長文還有光點導引找關鍵字。
安全過水轉檔
貼上 MP4 自動 FFmpeg 過水轉 m3u8,圖檔轉 WebP。剝離惡意代碼,優化載入效能。
RBAC + 區塊權限
誰能看、誰能改、誰能移動內容——企業知識庫不是人人可刪的共享資料夾。
企業空車交付
TinyMCE 7 / CKEditor 5 代裝、授權範本、AI JSON 各機一份——可 gitignore 金鑰,符合合規敘事。
系統插件埠:版面埋點,管理員自己配
Semantic Core 內建 sys-slot(系統插件埠):工程師定義「能放什麼元件」;管理員在後台拖曳區塊、選元件、選位置、調排序。公司公告走剛需;橫幅、近期更新等錦上添花,同一套流程加上去即可。
易用 · 管理員自助
「主選單管理」裡的系統插件埠卡片:拖入區塊、下拉選元件與位置、拖曳排序。中文名稱、色塊區分位置;標記模式可一眼看出全站埋點在哪裡。
擴充 · 加元件即可
新模組(例如橫幅、分格線)實作標準元件介面並放入元件目錄,即出現在後台下拉選單。不必改側欄、首頁、管理選單各一份。
穩定 · 位置契約清楚
每個位置自帶正確版面結構(選單項、側欄子區、首頁區塊)。統一渲染管線,避免「這頁能顯示、那頁壞掉」的拼裝問題。
實際能做的事
- 首頁發布 公司公告(綁定公告區塊,依發佈日期自動顯示)
- 後台管理選單插入 自訂文字(綁定內容 c_id)
- 推播訂閱等系統用途改由插件埠綁定區塊,逐步取代 .env 硬編碼
- 同一位置 多個元件 + 排序(公告在上、近期更新在下)
多數 CMS 擴充=改模板或塞 hook,管理端沒有統一 UI。Semantic Core 用 location 註冊表 + 元件 registry + 統一渲染殼——在單產品內的可配置版面上,擴充路徑比常見 Laravel 後台更短、更一致。
為什麼外部 AI 也會「加價評估」?
從產品筆記與實際架構來看:價值不在「有 AI 按鈕」,而在工程深度 × 可自架 × 多入口協作。Copilot、Gemini 等第三方在評估筆記/CMS 方案時,常把「MCP 整合、Agent 後端厚度、PWA 殼、版本還原」視為加價因子——因為這不是模板站能複製的組合。