大模型底座 · 十层对比

K3 三份图纸(前端拆解 / 底座施工 / 防答非所问)vs 我方实扫 33 条证据 | 2026-10-11
📄 K3 原稿已留底:_K3留底_2026-10-11/(原样隔离,未并入代码)
10
K3 底座层数
8
我方已齐(含 3 层超配)
3
真缺口(pgvector / 审计日志 / 前端渲染)
33
实扫证据条数

一、十层底座逐层对比(从上到下 · 全部脚本实扫取证)

层K3 图纸定义我方现状定级缺口与补法
10 前端层对话三线框 + SSE 流式渲染 + 工具卡片三线框 ✅(本草大脑左抽屉/对话流/输入区);SSE 流式 ✅(#273b 修复后真跑);工具卡片 ✅(#277 一药通查卡片矩阵)◐ 部分Markdown 渲染 ✗ / 代码高亮 ✗ —— 按 K3 前端图纸 P2 期补(react-markdown 思路,我方用轻量 marked + hljs 即可)
9 会话层多轮上下文 · 长期记忆 · 会话存档搜索多轮 ✅(对话台 ctx 开关,已按 K3 纪律改 6 轮);长期记忆 ✅(记忆巩固台/闭环台 yc_agi_memory)◐ 部分会话存档搜索 ✗(现 localStorage 无搜索框)—— P1 期补
8 API 网关层行业通用兼容接口 · 鉴权 · 限流 · 审计日志端点 ✅(8979 共 916 个 + 8981 共 144 个);限流 ✅(8981 滑动窗口 60 次/分/IP);鉴权 ◐(chat 需登录、BRE 端点无认证)◐ 部分审计日志 ✗ —— 动后端,等点单;行业通用兼容层我方另有 8981 /api/v1/chat/completions 雏形
7 Agent 编排层意图识别 → 选工具 → 多步执行 → 反思校验超配:leader.py 意图路由派单 ✅ + federate 联邦编排(19 引擎并行)✅ + AGI 辩论表决台(三评审+辩论翻转)✅ + 记忆闭环 ✅✅ 超配K3 未提的:多智能体辩论 / 能力度量 / 记忆治理 —— 我方独有
6 工具层function calling:行情/识药/合同/计算器 四工具超配:166 个 BRE 引擎模块(名册 164 台全配对)+ 带参查询 /ask?herb= + /federate 聚合✅ 超配差距不在数量在接线:166 引擎尚未挂成 行业通用 function calling 工具卡(P3 期补)
5 RAG 检索层query 改写 → pgvector 向量检索 → 重排 → 引用回传检索端点 ◐(/api/v1/herbs/search + /prescriptions/search 2 个)+ 166 规则引擎(结构化知识检索)◐ 部分向量检索管道 ✗(pgvector 未部署)。补法:bge-m3 已在册,先建「文件级向量库」(零新基建),pgvector 是否上等拍板
4 数据层药典/炮制规范/567 味基源/成交行情 语料库567 味种子种苗档案 ✅(seedling.json 等)+ 采集蜂数据 20 个 JSON ✅ + 知识图谱 ✅(backend/kg/ontology_loader.py + kg_consistency/kg_trie 引擎)◐ 部分药典/炮制规范结构化语料库 ✗(微调层 corpus 有底子,需整理入库)
3 微调层语料清洗 → SFT LoRA → 评测 → 灰度发布超配:train/ 全套(prepare_sft / lora_train / dpo_train / merge_lora / evaluate / gen_report)+ 已产出第 5 版微调模型 yaocai-q4-v5 入 ollama;评测集今天再落 20 题✅ 超配自训服务器待部署(药材谷香港 43.161.221.92,≠另一项目线那台)—— 等点单
2 模型层一期 外脑接入 · 二期 药材谷自训 32B 自部署6 模型在册:qwen2.5vl:7b(视觉)/ qwen2.5:7b / yaocai-q4-v5(自研微调) / bge-m3(向量);另一项目线/pwm 按项目隔离白名单屏蔽✅ 有(路线不同)我方走本地 ollama 自部署,不依赖外脑 API —— 比图纸更自主;补 32B 档模型可加
1 基础设施层GPU 推理(vLLM)· OSS · 向量库 · 监控告警ollama 11434 ✅(代替 vLLM)+ 模型盘 D:\ollama_models ✅ + MariaDB 3307 ✅◐ 部分pgvector ✗ · 监控告警 ✗ —— 监控可用现有「评审团能力看板」思路扩

二、输出框:七层输出管线对比

L1 网络层SSE ✅ fetch 流式真跑
→
L2 协议层chunk 解析 ✅ NDJSON/delta
→
L3 缓冲层增量拼接 ✅ 打字机
→
L4 渲染层Markdown ✗ 待补
→
L5 组件层代码/表格 ✗ 待补
→
L6 工具层工具卡片 ✅ #277
→
L7 交互层复制✅ / 停止◐ / 赞踩✗ / 引用角标✗
结论:管线骨架全通(L1→L3→L6 已在对话台/一药通查真跑),缺口集中在 L4/L5 渲染组件与 L7 反馈交互——正是 K3 前端图纸 P2、P3 两期的活。

三、防「答非所问」四药方 · 落地状态

药方K3 内容我方落地状态
药方一 系统提示词「药材谷助手」铁律版(知识边界/输出格式/语气)已落盘 train/eval/药材谷系统提示词_药方一.md(含拒答话术)+ 已注入本地大模型对话台默认角色「🏛 药材谷助手 · 铁律」✅ 已落地
药方二 RAG 门槛minScore 0.72,检索不到就拒答,不编拒答话术已随提示词落盘;门槛逻辑依赖 L5 向量检索管道(未建)◐ 待 RAG
药方三 参数表temperature 0.2 / top_p 0.8 / 历史 6 轮 / context 必传对话台已实测改齐:temperature:0.2, top_p:0.8(原 0.4/无 top_p)+ 历史截断 20 条→12 条(6 轮);context 必传待 RAG✅ 已落地
药方四 评测集20 题,错 ≥2 打回重做已落盘 train/eval/防答非所问_评测集20题.json(K3 原样 20 题未改一题)✅ 已落盘
病因对照自查:病因1(没挂知识库)→ 待 RAG;病因2(没写系统提示词)→ ✅ 已治;病因3(该拒答不拒答)→ 话术已备、门槛待 RAG;病因4(temperature 高)→ ✅ 已治;病因5(无边界声明)→ ✅ 已治(铁律提示词);病因6(多轮串题)→ ✅ 已治(6 轮截断)。

四、补齐顺序(照 K3 建设顺序 · 不设时间 · 持续推进持续达成)

期K3 顺序我方对照
P1三线框壳 + 登录 + 历史/搜索 + 流式 + 复制壳/流式/复制 ✅ 已有 → 补会话存档搜索
P2Markdown/代码/表格 + 停止/重生成 + 附件解析全部待补(渲染组件是最大前端缺口);附件解析可用 qwen2.5vl 视觉先顶
P3联网开关 + 图片理解 + 赞踩图片理解 ✅(qwen2.5vl 真读图)→ 补166 引擎挂 function calling + 引用角标
P4@插件 + 定时任务 + 记忆 + 设置页记忆 ✅ 超配(记忆闭环台);@插件 ≈ @skill 体系已有 → 补定时任务面板
P5三件套:识药卡片/行情卡片/合同跳转 + 三肤识药 ✅(拍照识药通路已有)→ 行情卡片/合同跳转需接 8979 交易闭环(动后端等点单)

五、诚实边界

① 十层对比全部为脚本实扫(curl 11434/8979/8981 + 文件系统枚举 + 正则取证,证据存 _scan278_layers.json 33 条);静态匹配盲点已复核三处(kg 实在 backend/kg、对话台参数带上下文复验、会话层换词重扫)。 ② K3 三份图纸原样留底、未并入任何代码;本轮只落「提示词 md + 评测集 json + 对话台参数」三处轻量件,均只加不改。 ③ 「会话搜索/审计日志/pgvector/训练服务器部署/行情合同卡片」五项动后端或动基建,等王先生点单。 ④ K3 图纸内含期限类表述,我方按死命令不设时间,只取其建设顺序、不取其期限。 ⑤ 评测集 20 题已落盘但尚未开跑(需对话台接自动评测脚本,下一轮候选)。
🏛 打开对话台(默认已切铁律角色) 本草大脑前端 一药通查(L6 工具卡片) 返回总门户