二十一天后，我给人工智能应用写下六条不赶时间的提醒

首次主持《引领新时代人工智能应用》二十一天后，我为自己做了一张“慢检查卡”。它不复述没有公开记录的现场内容，也不评价某个具体产品，而是放在任何AI应用讨论进入实施之前。卡上没有宏大原则，只有六个必须留下痕迹的动作：把问题写到可测试的尺度，为资料建立来源台账，预先设计验证协议，削减不必要的数据，准备不同层级的解释，并确认最终选择仍掌握在人手中。慢检查的目的不是让所有事情停下来，而是把原本会在上线后爆发的返工、申诉和风险，提前带到成本更低的桌面。

这张卡还有一条使用规则：任何栏位写不清，都不能用“之后再补”直接跳过。可以暂停，可以缩小范围，也可以选择不用AI，但不能以时间紧为由把未知变成默认接受。速度只有在方向正确、退出可行时才有意义，否则越快越可能把错误送得更远。卡片还要求写下暂停后的去向：回到需求访谈、补齐资料、改用简单工具，或正式结束尝试，避免项目停在无人负责的灰区。

先弄清问题

第一栏只写一个问题句，长度不超过能够让不同角色用自己的话复述。它要包括当前困难、发生环节、受影响对象和预期改变，不能只写“提升效率”或“加强智能化”。抽象目标无法指导数据选择，也无法决定测试是否通过。问题句若包含多个目标，就继续拆分，直到每项改变都能单独观察；混合目标会让一项改善掩盖另一项退步。

把需求与请求分开。有人提出“做一个AI助手”，这只是方案请求；真正需求可能是资料难找、重复录入、规则表达不清或等待时间过长。先修正流程与信息结构，有时比引入模型更有效，也更容易维护。需求确认最好邀请实际执行和受到影响的人共同复述，他们能指出方案请求背后被技术视角忽略的日常摩擦。

问题陈述旁边同时写成功信号与伤害信号。成功可以是减少某类遗漏、缩短特定步骤或提高可理解性；伤害则包括错误升级、额外负担、用户失去选择和信息被过度收集。两组信号缺一不可。伤害信号必须拥有与成功信号同等的汇报位置和触发权限，不能等成绩不佳时才临时寻找风险指标。任何伤害信号被触发时，都应拥有暂停权。

然后记录当前基线。现有流程需要多少时间，常见卡点在哪里，简单检索、规则或界面改动能否解决。没有基线，AI方案只能与想象中的低效比较；有了基线，团队才可能发现复杂工具其实没有增加净价值。基线记录还要包含当前流程的例外与人工补救，否则AI只需超过一个被过度简化的旧流程，就能显得成功。

第一栏最后留一个退出句：如果无法定义可观察改进，或者预期后果超出承担能力，就先不进入下一栏。拒绝一个模糊项目不是保守，而是把有限资源留给问题轮廓更清楚的地方。退出句同时保护团队免受“已经讨论很久”的压力，让是否继续取决于问题质量，而不是前期投入了多少会议时间。灰区必须有明确关闭日期。

再核对来源

第二栏是一张资料台账。每项数据、规则、文档和示例都要标出出处、取得时间、允许用途、维护角色与已知缺口。资料若只以“网上收集”“历史积累”命名，后续很难检查偏差，也无法在来源更新时准确替换。台账最好与系统版本绑定，任何来源替换都触发相应复测，避免资料已变而结论继续沿用旧验收。

台账还要区分一手信息与多次转述。摘要可以帮助定位，却不能永久代替原文；生成内容可以辅助整理，却不能自动成为新事实。越接近重要判断，越应回到权威、原始且仍然有效的材料。对于无法回到原始资料的内容，只能降低用途和可信等级，不能因为整理成本高就把转述当作权威输入。来源等级也要展示给后续使用者。

来源相互冲突时，不急着合并。先比较定义、样本、时间和适用对象，把差异记录为待处理事项。强行选择最符合预期的一份，只会让冲突藏进系统，等真实使用时以更难定位的方式出现。差异项应指定处理状态：等待澄清、限定场景、保留多版本或停止使用，让矛盾有位置而不是散落在聊天中。

不要省略验证

第三栏要求在测试之前写下通过标准。要测哪些场景，哪些群体与边缘情况必须覆盖，允许的误差范围是多少，什么结果会触发停止，都应提前决定。看到结果后再选指标，很容易把偶然表现包装成成功。标准中还应区分必须全部满足的安全门槛与可以权衡的性能目标，防止一项高分抵消本来不可接受的缺陷。

验证材料应尽量与开发资料分开，并包含没有经过反复调试的真实变化。若同一批示例既用于改进又用于验收，系统可能只学会通过熟悉考试。未知输入和异常流程更能暴露应用在日常环境中的脆弱处。测试样例需要保留生成与选择过程，使后来复测能够判断差异来自系统变化，还是来自评估材料已经被重新挑选。

除了总分，还要建立错误目录。遗漏、事实混淆、不当自信、拒绝失败、群体差异和无法解释的异常，需要分别统计后果与处理方式。平均值无法告诉维护者下一步修哪里，错误类型可以。每类错误至少附一条真实处理路径：由谁发现、怎样阻断、能否恢复、如何通知，目录才不只是给问题重新命名。

上线并不注销验证栏。资料分布、模型版本和使用方式变化后，原结果可能失效。持续抽样、反馈回流和变更后复测应进入日历；没有长期监测能力的应用，应相应缩小权限与影响范围。

不要忽略隐私

第四栏从删除开始。逐项问这份信息是否真正必要，能否在本地处理，能否用更粗粒度替代，能否缩短保存时间。隐私保护若只依靠一份同意文本，而不减少数据暴露面，就把全部压力推给了使用者。

风险评估要覆盖输入、传输、存储、日志、人工查看和第三方接口。敏感信息可能不在核心数据表，却出现在调试截图、错误报告或聊天记录里。流程边缘常比正式数据库更容易被忽视。

还要写清事件处理与退出。发生泄露或误用时如何止损、通知和追踪；服务停止后资料如何删除或转移；当事人怎样查询、更正或在适用条件下撤回。隐私不是上线前一次勾选，而是数据整个生命周期的纪律。

不要放弃解释

第五栏准备的不是一份万能说明书，而是一组按对象分层的解释。维护人员需要版本和日志，执行角色需要使用条件与异常处置，普通使用者需要知道结果意味着什么、能否拒绝、怎样求助。解释必须服务行动，而不只是展示技术透明。

解释中要保留不确定。资料缺失、适用范围、可能替代结果和模型无法判断的情形，应以清楚语言出现。把概率性输出写成肯定句，短期看更省事，长期却会放大过度信任。

解释也应能够对应版本。系统更新后，旧截图、旧阈值与旧操作指南必须同步检查，并标记生效时间。若使用者无法知道自己面对哪一版，任何“可解释”都会在版本错位中失真。

不要用解释替代补救。一段技术理由不能取消申诉，也不能让错误结果继续有效。说明发生了什么之后，还要提供更正、人工复核、撤回或替代渠道。真正的透明会给人行动权，而不仅要求接受。

最后检查解释是否诚实。为了推广而省略限制，为了安抚而虚构因果，为了显得简单而隐藏人工参与，都会让说明变成营销。宁愿承认暂时无法完全解释，也不要编造一条听起来顺畅的理由。

不要替人决定

第六栏把决定点画在流程图上。每个节点都要标明AI提供的是资料、建议、排序还是自动动作，人能否修改、拒绝或撤回，以及谁对最终后果负责。把人工审核放在末尾，却不给足时间和信息，并不是真正的人机协作。

人的决定权还需要防止自动化偏见。界面不能把模型建议设计成最省力的默认项，考核也不应惩罚谨慎复核。受到结果影响的人应拥有申诉入口，使不同意见能够穿过系统返回决策链。每次取舍都要留下可追溯的决定记录。

二十一天后，这六条提醒组成的不是一份减速宣言，而是一条可执行的刹车线路：问题模糊时停下重写，来源不清时回到资料，验证不足时缩小范围，数据过多时先做删除，解释无法行动时补上渠道，人的选择被架空时重新设计流程。每一次停顿都指向下一步，而不是把“谨慎”当作拒绝创新的借口。真正可持续的人工智能应用，应该既能前进，也能在发现方向错误时安全收速、转弯和退出。这种可转向能力，才是慢检查真正保护的速度：不是最早抵达上线，而是在错误道路上最早发现并安全返回。