AI 赋能层设计:在既有平台上叠加
平台已经有网关、授权、服务边界与数据归属,AI 赋能层不需要另起一套系统:把模型、知识与评测接进既有架构,按场景逐步开放。
本页是多业务域数字化平台技术方案的延伸设计。方案主体属于数字化阶段(业务应用);AI 赋能层说明在同一套架构上继续叠加智能能力时需要补齐什么,对应智能化解决方案的"业务应用 + 数据应用 + AI 赋能"。
1. 落点:在既有架构的哪一层
| 既有层次 | 现状 | 叠加内容 |
|---|---|---|
| 接入 | 网关统一入口,Web 由 Nginx 托管 | 模型网关:统一接入、路由、限额与降级 |
| 授权 | 统一授权中心 | 模型权限:可访问的数据范围与可执行的操作范围 |
| 业务服务 | 人力、办公、财务、客户、订单、仓储、物流 | 场景助手嵌入流程节点,不另起入口 |
| 数据 | 一服务一库,按域归属 | 知识库与检索、反馈数据,边界按域划定 |
| 监控 | 统一监控与消息 | 调用日志、成本与评测指标纳入同一监控 |
| 研发 | 研发平台与 CI/CD | AI 辅助研发,见 AI 原生软件工程 |
叠加原则:AI 赋能层通过接口与数据服务取数,不直接跨库读写;原有服务边界与授权模型不因引入模型而放宽。
2. 场景与权限设计
- 场景清单:制度与文档问答、流程与报表解读、客户与订单查询、工单与异常分诊;
- 三档权限:建议(人工确认后执行)、确认(模型生成、人工核对)、自动(低风险只读);
- 场景负责人:每个场景有业务负责人,明确使用范围、数据范围与出错处置;
- 准入标准:没有评测口径与数据边界约定的场景不进入开发。
3. 应用侧设计
- 助手按业务域拆分:办公、人力、客户、订单各一个入口,共用一个模型网关,不做万能助手;
- 知识与检索:制度文档、工单、操作规程清洗入知识库,回答带出处与版本;
- 模型服务:接入、路由、限额与降级统一管理,业务服务不直连模型厂商;
- 评测与反馈:每个场景维护评测集,线上采纳与拒绝记录回流;
- 权限与审计:模型可访问的数据按域授权,调用留痕可追溯。
4. 数据与知识侧设计
- 知识资产:文档、工单、规程结构化,按业务域标注归属与更新时间;
- 向量与索引:按场景建立检索,保留来源与版本,过期内容可下线;
- 反馈数据:采纳、修改与拒绝的记录回流,作为评测与优化依据;
- 数据边界:敏感数据分级,模型可用范围小于人可用范围;
- 上下文注入:客户、订单、指标等业务上下文按最小必要原则注入。
一服务一库的边界不变:知识库与检索服务是新增的数据应用,通过数据服务或接口与业务域交互。
5. 技术侧设计
- 模型接入层统一封装多家模型,支持路由、限额与降级;
- 推理服务独立部署,避免模型抖动影响核心交易链路;
- 提示与上下文版本化管理,重要场景的提示变更走评审;
- 安全控制:密钥管理、内容过滤、越权访问检测与沙箱执行;
- 成本可见:调用量、时延与费用纳入统一监控。
6. 评测与治理
| 治理项 | 做法 | 责任 |
|---|---|---|
| 评测集 | 每个场景维护问题集与期望结果 | 场景负责人 + 数据团队 |
| 回归 | 模型与提示变更后先跑评测再上线 | 研发 |
| 审计 | 调用日志、数据范围与操作记录 | 平台与安全 |
| 责任 | 出错时能定位到数据、模型还是使用方式 | 业务负责人 |
评测集与治理规则随首个场景一起交付,不后补。
7. 落地顺序
- 只读场景起步:制度查询、报表解读,先验证检索质量与回答出处;
- 确认类场景:单据草拟、异常分诊,人工确认后执行;
- 自动类场景:低风险、可回滚的操作逐步放开;
- 治理同步成型:负责人、审计、成本与安全规则随方案交付。
与平台演进的关系:初创期不引入 AI 层;成长期从只读场景试点;扩张期再把评测、审计与成本治理制度化。
8. 常见误区
- 假设已有平台天然支持 AI:网关、授权与数据边界都需要补模型语义;
- 每个业务域各接一家模型厂商,成本与安全失控;
- 只做问答不做检索,回答没有出处,错误无法追溯;
- 模型直连业务库,绕过服务边界与授权;
- 没有评测集,上线后无法判断效果是否变差;
- 数据边界按"技术能不能"而不是"业务该不该"划定。