跳到正文

AI 前沿交付工程师内部培训教材 · 第39章

客户侧案例 · 零售库存补货

从带证据的建议到人工确认,禁止项拦截更便宜的候选,接管与采用分别验收。全部数字为教学设定。

阅读前的讨论问题

94/100但红线3/20失败能否放行?周活与30天采用为什么要分开?

先写下决定、依据与缺少的证据,再对照下面的参考讲解。

参考讲解 · 教材案例

教学场景与定界

本案例的客户、人物和全部数值均为虚构教学材料,不是客户实测或行业基准。

客户希望减少缺货,一线却在反复核对库存依据,技术团队要求数据留在内网。首期范围限定五家门店的常温日用品,排除生鲜、新品与大促。客户规则计算数量,模型解释依据;关键字段缺失时返回待核对,禁止自动采购。业务负责人确认规则与异常处理,技术负责人确认数据权限和发布,高管决定扩围。

评估与候选回退

黄金集共120条独立用例:100条回归,其中含10条smoke;另有20条对抗。不能把smoke重复相加算成130条。保留未用于提示词调试的验证样本,人工校准裁判,再让基线A与候选B在相同数据、judge及运行配置下重跑。

教学检查项基线A候选B
smoke通过10/1010/10
回归通过94/10094/100
对抗禁止项命中0/203/20
单条任务平均模型调用费0.040元0.030元
同批任务端到端P95延迟3.2秒2.5秒

候选B把未知在途量解释为零,命中三条禁止项。即使总分持平、费用和延迟下降,仍停止发布申请,恢复已经验证的A配置并复验。这发生在生产前,没有采购单需要撤销。A的已知无依据陈述继续修复;保留人工确认,经客户签认受控条件才进入试点。模型调用费不包含人审、部署与维护,不能换算为项目ROI。

接管与采用口径

客户接手人先独立演练配置恢复、权限失效与接口超时,再进行影子运行和小组试用。现场观察发现依据分散、拒绝理由重复录入,于是把证据与原流程原因码放回同一任务。

固定目标群体为50人,完整周窗口内完成至少一次真实任务的去重人数从19/50(38%)增加到37/50(74%)。接受、修改和有理由拒绝均算完成,登录与培训不计。四个周窗口共28天,跨周用户重叠未知,不能据此计算完整上线后30天的累计采用率,不能平均周百分比替代它。

采用增加也不能证明库存改善或模型独立贡献。缺货、积压与工时需要同环节基线和可比观察,说明培训、促销与工作量等因素。移交材料必须让客户能重跑评估、解释指标与恢复配置;获准的合成失败复现再进入团队知识资产。