AI 前沿交付工程师内部培训教材 · 第39章
客户侧案例 · 零售库存补货
从带证据的建议到人工确认,禁止项拦截更便宜的候选,接管与采用分别验收。全部数字为教学设定。
阅读前的讨论问题
94/100但红线3/20失败能否放行?周活与30天采用为什么要分开?
先写下决定、依据与缺少的证据,再对照下面的参考讲解。
参考讲解 · 教材案例
教学场景与定界
本案例的客户、人物和全部数值均为虚构教学材料,不是客户实测或行业基准。
客户希望减少缺货,一线却在反复核对库存依据,技术团队要求数据留在内网。首期范围限定五家门店的常温日用品,排除生鲜、新品与大促。客户规则计算数量,模型解释依据;关键字段缺失时返回待核对,禁止自动采购。业务负责人确认规则与异常处理,技术负责人确认数据权限和发布,高管决定扩围。
评估与候选回退
黄金集共120条独立用例:100条回归,其中含10条smoke;另有20条对抗。不能把smoke重复相加算成130条。保留未用于提示词调试的验证样本,人工校准裁判,再让基线A与候选B在相同数据、judge及运行配置下重跑。
| 教学检查项 | 基线A | 候选B |
|---|---|---|
| smoke通过 | 10/10 | 10/10 |
| 回归通过 | 94/100 | 94/100 |
| 对抗禁止项命中 | 0/20 | 3/20 |
| 单条任务平均模型调用费 | 0.040元 | 0.030元 |
| 同批任务端到端P95延迟 | 3.2秒 | 2.5秒 |
候选B把未知在途量解释为零,命中三条禁止项。即使总分持平、费用和延迟下降,仍停止发布申请,恢复已经验证的A配置并复验。这发生在生产前,没有采购单需要撤销。A的已知无依据陈述继续修复;保留人工确认,经客户签认受控条件才进入试点。模型调用费不包含人审、部署与维护,不能换算为项目ROI。
接管与采用口径
客户接手人先独立演练配置恢复、权限失效与接口超时,再进行影子运行和小组试用。现场观察发现依据分散、拒绝理由重复录入,于是把证据与原流程原因码放回同一任务。
固定目标群体为50人,完整周窗口内完成至少一次真实任务的去重人数从19/50(38%)增加到37/50(74%)。接受、修改和有理由拒绝均算完成,登录与培训不计。四个周窗口共28天,跨周用户重叠未知,不能据此计算完整上线后30天的累计采用率,不能平均周百分比替代它。
采用增加也不能证明库存改善或模型独立贡献。缺货、积压与工时需要同环节基线和可比观察,说明培训、促销与工作量等因素。移交材料必须让客户能重跑评估、解释指标与恢复配置;获准的合成失败复现再进入团队知识资产。