核心思想
医学、硬件、软件、ML/AI、工程结构五个看似互不相干的诊断领域,其实都能收敛到同一条八阶段证据链上——观察、测量与留存、情境化、比对、推断、鉴别、行动、验证与学习。可观测性负责把证据变得可获取,诊断学负责在相互竞争的解释之间做鉴别,两者从来不是一回事。作者进一步提出”诊断分析模式”作为跨领域的探究层,但态度谨慎:明确给出了这套方案应当被推翻的证伪条件,而不是自说自话地宣称统一成功。
说明:本篇是对原始 46 页英文白皮书的结构化转述整理(保留全部关键表格与论证结构),并非逐字全文翻译;如需精确措辞与完整参考文献,请查阅正文中链接的原始 PDF。
诊断、可观测性与调试的五条脉络:一次跨领域的技术与思想综合
来源:Dmitry Vostokov,DumpAnalysis.org。本文是五部相互关联的领域史(医学、硬件、软件、ML/AI、技术诊断)的配套总览。写作过程借助了 AI(起草、比对、文字编辑),方向把控与事实核查由作者本人完成。2026 年 8 月。
注意:本文是对原始论文的一次结构化综述/学习笔记式呈现——逐节压缩并转述,以保留其论证与结构——并非逐字誊录。若需确切的措辞、表格和完整的参考文献体系,请查阅上面的原始 PDF。
摘要(转述)
医学、硬件、软件、ML/AI 与技术(结构/工程)诊断是五个彼此不同的领域,各有各的研究对象、制度建制与举证标准。但它们共享同一个难题:关键状态是隐藏的,观测是局部的,而行动必须在确定性尚不完整时做出。在每一条脉络(strand,指五条独立发展的诊断传统)中,诊断都在做同一件事:把征象推进为证据,把证据推进为相互竞争的解释,把解释推进为检验或介入,再把结果推进为被修正的知识。
本文把五条脉络视为一个家族,而非一套层级体系,并主张它们都可以被映射到同一条规范诊断连续统(canonical diagnostic continuum)上:观察 → 测量与留存 → 情境化 → 比对 → 推断 → 鉴别 → 行动 → 验证与学习。可观测性提供证据面(evidence surface);诊断在相互竞争的解释之间做出鉴别;调试是一种介入式搜索,用来找出行为在何处、以何种方式偏离意图;监测跟踪状态随时间的演变;预后则把论证向前外推。只有当 AI 的主张始终有据可依、可审计、可回退,并置于可问责的人类监督之下时,它才能强化这条连续统。
第二项提案——作者明确标注为暂定——是诊断分析模式(diagnostic analysis patterns):一组可复用的操作(比对、重建、关联、鉴别、验证),它们有可能充当一个共享的探究层,置于各领域自有的形式化模型与实践之上,同时不抹去这些领域各自不同的对象、证据标准与伦理要求。这一主张是狭义的:只有在尚无任何单一的结构化、概率论或控制论形式化方法覆盖该对象时,模式才有用;一旦已经存在这样的形式化方法,模式就应当去调用它,而不是与它竞争。
如何阅读这篇综述
这不是一个统一的起源故事——五条脉络形成于不同的时代与不同的尺度:医学有古老的以个案为基础的传统;硬件与技术诊断经由力学、计量学和可靠性工程成形;软件诊断随存储程序计算而生;ML/AI 诊断则从统计学、学习理论和 MLOps 中生长出来。相似的诊断形式常常是各自独立出现的,而同一个术语在不同领域里可能背负着不同的义务。
本综述取材于五部详细的配套史(每条脉络一部),并在每一处提出跨脉络结构性主张的地方,直接引用外部一手资料、标准与规范。跨脉络的比较指向的是结构上的相似——它们并不主张病人、桥梁、处理器、分布式服务和 AI 智能体是可以互换的对象。
表 1 —— 五条脉络一览
| 脉络 | 主要对象 | 典型证据 | 独特侧重 |
|---|---|---|---|
| 医学 | 人、身体、疾病过程、诊疗路径 | 病史、查体、标本、影像、波形、结局 | 患者情境、概率、伦理、沟通、临床效用 |
| 硬件 | 横跨物理层与逻辑层的电子/计算设备 | 波形、测试图样、校验子、计数器、遥测、物理失效分析 | 故障遏制、首次失效数据捕获、跨层的物质/表征对应 |
| 软件 | 程序、执行过程、服务、组织 | 内存转储、日志、指标、追踪、性能剖面、代码、配置 | 在证据不完整的条件下重建不可见的、分布式的执行过程 |
| ML 与 AI | 数据—模型—流水线—服务—人构成的系统 | 残差、数据划分、梯度、解释、漂移、评估、轨迹 | 系统可能在执行完全正确的同时失效;行为是统计性的、自适应的、受治理约束的 |
| 技术 | 物理结构、机器、工厂、工程资产 | 无损检测(NDE)、应变、振动、热成像、状态历史、结构健康监测(SHM)、失效分析 | 完整性、退化物理、鉴定、基于后果的介入 |
表 2 —— 邻接实践(一套共享的工作词汇)
| 实践 | 核心问题 | 典型证据 |
|---|---|---|
| 观察/检查 | 此刻能被直接注意到、直接测量到的是什么? | 征象、尺寸、影像、波形、状态、叙述 |
| 测试/测量 | 在规定条件下,对象是否达到了既定的预期? | 激励信号、参照标准、测试向量、化验、校准记录 |
| 监测 | 状态正在如何变化,何时需要加以关注? | 趋势、遥测、计数器、告警、轨迹 |
| 诊断 | 哪一种状态或机理最能解释这些证据? | 相互关联的观测、相互竞争的假设、残差、因果检验 |
| 调试 | 行为在何处、以何种方式偏离意图,介入之后又有什么改变? | 断点、替换、受控扰动、回放 |
| 可观测性 | 从设计好的输出与被留存的上下文中,能推断出哪些隐藏行为? | 日志、追踪、指标、信号、溯源、标识符 |
| 预后 | 状态可能如何演变,何时可能需要介入? | 退化模型、不确定性边界、剩余寿命估计 |
| 取证/诊断复审 | 发生了什么,先后顺序如何,又有什么被漏掉了? | 被留存的产物、时间线、证据保管链、事后复盘 |
七种反复出现的跨脉络转变,本文在全部五部历史中都识别出了它们:
- 感官征象与局部观察 → 量化变量、结构化记录、经校准的仪器
- 一次性测试与快照 → 纵向历史、轨迹、计入状态条件的基线
- 外部检查 → 嵌入式的、数字化的、远程的、可持续查询的观测
- 异常检测 → 定位、机理、后果、预后
- 单个案例与单个部件 → 系统、人群、机群、基础设施、组织
- 无辅助的专家解读 → 治理约束下由 AI 辅助的排序与解释
- 工具专有的产物 → 具备稳定身份、时间、溯源与语义的可互操作证据
文档结构图
七个部分、33 章、三个附录、一张综述图:
- 第一部分 —— 为五条脉络立框架(第 1–3 章)
- 第二部分 —— 用各条脉络自身的语汇讲述它们(第 4–8 章)
- 第三部分 —— 共同的历史弧线(第 9–14 章)
- 第四部分 —— 一套统一的证据架构(第 15–20 章)
- 第五部分 —— 汇聚而不塌缩(第 21–23 章)
- 第六部分 —— 走向一门通用的诊断学科(第 24–30 章)
- 第七部分 —— 未来方向与结论(第 31–33 章)
- 附录 A —— 对照矩阵 · 附录 B —— 共享术语表 · 附录 C —— 跨脉络模式实例
第一部分 · 为五条脉络立框架
1. 为什么是五部历史?
一部大一统的诊断史,要么会抽象到再也触碰不到真实证据,要么会狭窄到把某一个领域误认成整个学科。拆成五部,则让每个领域各自去界定:什么是它的研究对象、什么算失效、什么样的介入是被允许的、什么样的解释才算充分——与此同时,五者仍然循着同一种共同的推断模式。
五条脉络所诉诸的权威来源也各不相同:医学依靠患者叙述 + 临床判断 + 人群证据;硬件依靠设计意图 + 电气/逻辑状态 + 服役维修记录;软件依靠形式化的代码 + 视具体情形而定的实际执行 + 组织层面的变更;ML/AI 依靠数据生成过程 + 习得的表示 + 反馈回路;工程(技术)诊断依靠力学 + 材料科学 + 全生命周期保障。
诊断学的进步,很少是”多了一个新传感器”这么简单——它是围绕一个传感器,把一整套证据系统搭建起来:身份、校准、基线、覆盖范围、解释、上报升级、反馈。而每一件新仪器,既拓宽了可观测的范围,也新增了被蒙蔽的方式(伪影、漂移、误用、虚假的信心)。
2. 五种诊断对象
每条脉络所关心的”隐藏状态”各不相同。医学关心的是生理机能、病理改变、风险,以及被遗漏的诊疗;硬件关心的是材料缺陷、电气裕量损失、故障遏制失败;软件关心的是错误的状态、非预期的控制流、分布式的因果序列;ML/AI 关心的是校准失准、数据泄漏(leakage)、捷径学习、漂移、不公平、幻觉、不安全的轨迹,以及治理失灵;工程(技术)诊断关心的则是损伤、完整性丧失、退化机理,以及未来的状态。
这些对象彼此重叠,但并不等同:硬件诊断的范围限定在计算与电子设备上,而工程(技术)诊断覆盖的是更广阔的工程世界——结构物与工业装置。软件与 ML/AI 在运维层面有大量交叠,但 ML/AI 引入了一种独有的失效模式:程序完全按照写下的样子执行,习得的行为却可能是错的、脆弱的、不公平的或不安全的;反过来,服务部署、编排、检索、遥测环节的 bug,也可能伪装成模型层面的失效。
3. 共享词汇与类比的边界
“诊断""调试""可观测性”这些词之所以能在各领域之间迁移,是因为它们命名的是一种可辨认的推理形式(观察 → 收集证据 → 比较备选解释 → 检验假设 → 介入 → 重新评估)。但如果这种类比被理解成”每个领域都共享同一套本体论、同一份参照标准、对其诊断对象抱有同样的伦理关系”,它就会把人引入歧途。
“调试”在软件中,通常意味着对执行过程的直接控制;在硬件与工程实践中,它意味着改变负载、替换模块,或者复现某个物理症状;而在医学中,这个词只被当作一个受到严格限定的隐喻来使用——它指的是对诊断工作流本身做迭代式的纠偏,绝不是把病人当作一台机器来对待。
“可观测性”同样有两重含义:在控制论中,它是一个严格的、形式化的、基于模型的概念,即控制论意义上的可观测性;而在软件工程中,它是一个宽松得多的意思——“能否从生产环境的输出反推出内部状态”,也就是可推断性(inferability)。本文把控制论意义上的可观测性列为一个严格的统一方案候选,但仅限于确实存在一个站得住脚的状态空间模型的场合。
五条脉络中的诊断推理,本质上都是溯因的(abductive):证据催生出若干相互竞争的假设,这些假设始终保持暂定状态,靠反证一步步收窄——而不是被当作演绎证明来对待。
第二部分 · 五条脉络的内在逻辑
4. 医学诊断
医学诊断始于一种不对称:面对的是一个完整的人,而医疗能拿到的只是局部证据——从病案叙述、切脉、床旁查体,到实验室医学、影像、分子检测、连续监测、人群监测,再到 AI 辅助诊断。它的核心单元不是一份检验结果,而是一个具有解释性、需要沟通的过程:把病史、查体、先验概率、时间进程、备选可能以及行动后果整合到一起。这条脉络最具特色的自律,在于把三件事分开——分析有效性(analytical validity,测量本身是否正确?)、临床有效性(clinical validity,它是否与疾病相关?)、临床效用(clinical utility,它是否改善了一个与患者切身相关的决策?)——此外还要把敏感性/特异性(属于检验本身的特征)与预测值(取决于患病率/验前概率)分开。一个阳性结果更新的是一份先验信念,而不是一纸孤立的判决。实例:一种生物标志物可以在分析上足够稳定,也确实与疾病相关,却依然无法改善诊疗——只要它的阈值会触发不必要的操作,或者根本不存在有效的后续处置手段。
5. 硬件诊断
硬件诊断通过信号、校验结构和服役证据去追踪隐藏的物理状态——从感官检查、电桥、仪表、示波器和维护日志,到 ECC、冗余、自动测试设备、扫描设计、内建自测试(BIST)、固件错误日志、带外管理,再到机群遥测、物理失效分析、数字孪生和 AI 辅助的故障隔离。它的核心链条是 故障 → 错误 → 失效(fault → error → failure,故障是根源缺陷,错误是被污染的内部状态,失效是对外可见的服务中断):一道裂纹、一次辐照翻转、一处时序裕量损失,或者一个被破坏的接口,都可能引发内部错误,而这个错误未必会浮现为可见的服务失效——检测、纠正、遏制、诊断、恢复与预后是彼此独立的断言(ECC 修复了一个比特,却没有解释它为什么翻转;换掉一个部件恢复了服务,机理却仍然未知)。硬件诊断天生是跨层的,因为物质与表示始终耦合在一起——电气波形、逻辑事务、固件、操作系统记录、基板管理控制器(BMC)遥测、实验室显微分析,各自呈现的都是同一条因果链上的不同位置。实例:可纠正内存错误的计数在上升,这只证明了错误被检测到并被修复,并不证明存在某个特定的物理故障——完整的诊断可能还需要校验子解码(syndrome decoding;硬件语境下,校验子指从 ECC 校验码解出的错误定位信息,与医学里的”综合征”同词不同义)、物理地址映射、DIMM 身份、温度与负载历史,以及返修件分析。
6. 软件诊断
软件诊断是一部让不可见的执行过程变得可被论证的历史:存储程序机上的校验例程 → 内存转储(dump,让失效变得可携带) → 符号/源码调试器(把调查变成对话) → 静态/动态分析 → 日志/追踪/指标/性能剖面(把生产环境中的行为留存下来) → 分布式追踪(跨边界的上下文) → SRE 与事后复盘(诊断成为一种组织实践)。这条脉络的定义性张力是形式化的意图对上偶然性的执行:源代码可以是精确的,而真正跑起来的系统却取决于配置、时序、并发、硬件、网络行为、数据、用户,乃至组织变动。没有哪一种产物是万能的——转储在结构上很深,在时间上却很窄;追踪是有顺序的,但只保留被选中的部分;指标覆盖面广,却是聚合过的;日志是人写出来的;性能剖面则是对资源归属的采样。可观测性关乎可推断性,而非数据量——遥测再丰富,若缺少稳定的身份、上下文传播、语义约定和采集链路的健康度,在诊断上依然可能很弱。介入本身是危险的(挂上调试器、重启进程、回滚一次部署,都可能改变失效本身,或者引爆下一场事故),所以安全的诊断会把恢复服务与给出解释分开。实例:一条分布式追踪缺了下游的 span(跨度),可能意味着那个服务压根没被调用,也可能是传播断了、采样把它丢掉了,或者采集器丢了数据——只有在传播格式、采样策略和采集器健康状况都已知之后,这条追踪才有用;正因如此,观测路径健康度属于软件诊断的内部组成,而不是摆在它旁边的东西。
7. 机器学习与 AI 诊断
机器学习与 AI 诊断把统计模型批判延伸进了会学习、会适应、会生成、会行动的系统——其谱系包括残差分析、控制论、留出集/交叉验证、基准测试、校准、训练期的梯度与激活值监测、可解释性、鲁棒性、公平性、数据与流水线校验、漂移监测、基础模型评估、检索诊断,以及智能体轨迹分析。它的定义性难题是:执行成功 ≠ 行为成功——一个模型可以毫无异常地跑完,同时却在利用数据泄漏(leakage)、学到了一条捷径、变得过度自信、在某个亚组上失灵、部署后发生漂移、幻觉出一个来源,或者靠一串不安全的工具调用完成了任务。一个基准测试分数只是一次观察,不是一张”适合部署”的合格证。这条脉络还额外背负一项任务:诊断它自己的诊断仪器——显著性图、归因方法、漂移检测器、自动评判器、稀疏特征可解释性工具,本身也都是模型,也各有自己的失效模式;因此合理性检查、反事实介入、分组拆解评估和对抗性测试都不是可选项。智能体式 AI(agentic AI)系统让轨迹与副作用成为一等证据:接到了什么指令、选用了哪些工具、观察到了什么、记忆如何变化、哪些外部状态被改动过。实例:人群发生偏移之后,一个分类器的准确率保持稳定,它给出的置信度却系统性地变得过度自信——按软件的标准,这个模型仍在”正确执行”,而它在行为层面、决策理论层面的契约已经失效;只有校准曲线或亚组分析才能揭示这一点。
8. 工程(技术)诊断
工程(技术)诊断关心的是物理结构与系统的性能和完整性——机器、压力设备、管道、工厂、飞机、桥梁、风力发电机、制造过程、文化遗产——它生长自手艺式的目视检查、验证性试验、力学、计量学、失效物理、无损检测(NDE)、状态监测、结构健康监测(SHM)、预测性诊断和数字孪生。它的证据序列是 指示信号 → 特征 → 异常 → 损伤/故障状态 → 机理 → 后果 → 决策(其中指示信号即 indication,是无损检测术语,指仪器上出现的可疑信号,此时尚未被判定为缺陷;行业正式译名为”显示”),而这些区分至关重要:热像上一块高温区域不会自动等于分层,一个超声指示信号不会自动等于须判废的缺陷,一个振动峰值可能是不平衡、共振、松动,也可能只是正常运行状态。一种方法本来能够检出什么,受限于鉴定、检出概率(probability of detection, POD)、可达性、校准、几何形状与环境。结构性后果在这里被摆到了明面上:同样尺寸的缺陷,在不同的应力场、材料和载荷历史下含义完全不同,所以检出必须与断裂、疲劳、腐蚀、磨损、蠕变或适用性评估(Fitness-For-Service, FFS;压力设备与管道行业的正式评估流程,用于判定带缺陷的设备能否继续服役)模型挂上钩——而物理检查本身可能销毁证据或加重损伤,这就使得尽可能少侵入、多模态、可审计的检查成为一项工程责任。实例:一个超声指示信号,只有在应用了检测程序鉴定、参照标准和检出概率边界之后,才能成为一项”裂纹尺寸判定”;随后,FFS 评估再把这份经鉴定的缺陷估计与应力、几何、材料、环境结合起来,为继续运行/修复/更换/复检的决策提供支撑。
第三部分 · 共同的历史弧线
9. 从征象到量化证据
五条脉络都始于依赖经验的征象(脉搏的性状、轴承的声音、残差的形态)。量化并不取代熟练的观察,它所做的是让各种区分能够跨观察者、跨时间、跨地点地相互比较。但每一件仪器都只是转移了不确定性,而非消除它:一个数字看上去很客观,可它的含义取决于校准、采样、重建与参照——血压取决于袖带与体位,波形取决于探头与带宽,延迟取决于时钟与采样,ML 分数取决于数据划分与指标,无损检测的指示信号取决于几何形状与检出概率(POD)。真正的历史性进展并不是”从主观到客观”,而是从心照不宣的比较,走向显式的、可被检视的中介过程。
10. 从快照到轨迹
一份快照(体格检查、内存转储、CT 容积数据、无损检测扫查)回答的是当前存在什么状态;一段历史(症状病程、事件日志、追踪、训练曲线、裂纹扩展记录)回答的则是它如何形成、以及是否正在变化。仅凭当前状态往往是含混的:一个被破坏的堆不会显示出更早的那次错误写入,单个振动幅值分不开载荷与退化,智能体最终给出的答案也看不到中途那些不安全的工具调用。时间把证据从描述变成机理——但纵向证据自有其风险:传感器与定义会漂移,软件与模型会迭代版本,维护动作会重置基线;只有当轨迹上的各点确实可比,这条轨迹才是有效的(历史上对时钟、标识符、配置记录、显式缺失性的要求正由此而来)。
11. 从外部检查到嵌入式、可持续查询的观测
一个反复出现的转变:观测搬进了对象或工作流内部——床旁查体变成了连续的患者监测;外部测试设备变成了内建自测试(BIST)与机器检查记录;打印语句变成了运行时的追踪、指标与上下文传播;周期性的模型评估变成了生产环境中的漂移监测;定期检验变成了结构健康监测(SHM)与数字孪生。这样换来的是时间覆盖度和远程访问能力——而不是自动获得解释——而且嵌入本身制造出一个新的失效面(传感器、固件、库、采样器、采集器、孪生体自身都可能失效或漂移)。文中举了一个具体案例:DICOM 被改造为面向无损检测的 ASTM E2339 DICONDE(DICOM 是医学影像的标准数据格式,DICONDE 是它被移植到工业无损检测后的版本)——一个领域的身份与元数据基础设施被迁移到另一个领域,同时各自保留领域特有的内容;分布式追踪同样依赖标准化的上下文传播。
12. 从检出到定位、机理、后果与预后
异常检测器只回答第一个问题。在所有脉络中,定位、机理、后果与预后都是各自独立的主张,各自有独立的证据要求——筛查试验可以检出风险升高,却不定位病变;机器检查可以定位到发出报错的那个内存 bank,却识别不出受损的具体部件;ML 监测器可以检出漂移,却找不到漂移的来源;无损检测的指示信号可以定位到一个反射体,却确定不了机理或剩余寿命。这条逐级上升的阶梯是检出 → 定位 → 机理 → 后果 → 预后;当行动已经有充分理由时,调查可以正当地提前停止,但报告始终应当说明实际到达的是哪一级。
13. 从局部证物到系统与群体
诊断的范围从单个患者、单个部件、单个程序,扩展到诊疗路径、机群、分布式服务、流水线与群体。这能揭示罕见的模式与系统性成因,但也改变了解释的单位——一处局部异常,可能要追溯到一个远端依赖,甚至一条组织政策。聚合(崩溃归并桶、磁盘与内存机群、流行病学、生产环境 ML 的亚组分析)能制造对比、为调查排出优先级,但一项队列层面的关联并不能证明某个具体案例为什么会失败——共同的要求是一条从聚合数据回到具体证物、再回到机理的返回路径(机群统计应当能引回到一份有代表性的转储、设备或追踪);没有这条下钻路径,异常聚类只是在给受害者排个序。
14. 从人的手艺到 AI 辅助诊断
人的专业经验始终是基线与判断在历史上的承载者;自动化最先编码的是稳定的检查(限值、奇偶校验、规则、控制图),随后统计方法开始给异常排序,如今 AI 已经可以检索案例、汇总证据、提出假设,并操作诊断工具。这一演进是累加的,而非替代的——AI 并不能免除对已校准的传感器、正确的数据、有效的检测程序的需求;它继承了上游的每一处缺陷,还可能在此之上再叠上一层听着极有道理、实则无据可依的推断。一段说得头头是道的根因叙述并不构成证据,除非它能链回到观察,并经得起反向检验。共同的设计目标是有边界的辅助:诊断 AI 应当暴露原始证物,把观察与推断分开,保留备选可能,表达不确定性,主动寻找反证,并让自身被赋予的权限与其置信度和可逆性相匹配。
第四部分 · 一套统一的证据架构
15. 诊断连续统(表 5 —— 全文的规范骨架)
| 阶段 | 核心问题 | 典型产出 |
|---|---|---|
| 观察 | 有哪些征象、状态、事件或陈述可供利用? | 叙述、图像、波形、事件、追踪、物理指示信号 |
| 测量与留存 | 它是如何产生的,能否被忠实地保存下来? | 经校准的数值、原始产物、样本、内存转储、不可篡改的记录 |
| 情境化 | 适用的是哪个身份、哪套配置、哪种环境、哪段时间? | 溯源包、拓扑、患者/资产历史、版本 |
| 比对 | 相关的经鉴定基线、参照标准或模型是什么? | 残差、差值、阈值越界、异常、不一致 |
| 推断 | 哪些状态或机理能解释这一现象? | 排序后的假设、鉴别诊断、故障集合、因果图 |
| 鉴别 | 什么检验或介入能把这些备选项区分开? | 重复检验、正交检验、扰动、替换、消融、回放 |
| 行动 | 在证据 + 后果 + 权限的支撑下,何种响应是正当的? | 治疗、维修、回滚、遏制、弃权、上报升级 |
| 验证与学习 | 行动是否改变了预测中的结果?有什么应当被保留下来? | 结果证据、回归测试、事后复盘、更新后的模型或标准 |
这同样的八个阶段贯穿摘要、实例分析与结论,反复出现。这条连续统并非严格线性——紧急行动可以先于完整解释,回滚可以在分析继续进行的同时恢复服务,一次治疗响应本身也可以变成诊断证据。可观测性在前四个阶段最为强势(让证据与情境变得可获取);诊断学主导推断与鉴别;调试是那种受控的交互,用来收窄行为在何处、以何种方式偏离意图;监测提供反复的观察;预后向前外推;治理则决定证据何时足以支撑行动、以及谁有权行动。
16. 身份、溯源与时间
没有身份的证据几乎无法使用——一份医学结果需要对应正确的患者、样本与方法;一个硬件校验子需要物理映射以及固件与更换历史;一份软件调用栈需要与之匹配的二进制与符号;一个 ML 输出需要数据、模型、提示词与评估器的版本;一条技术指示信号需要资产、位置、检测程序与校准信息。溯源是从观察到结论的完整路径(采集、变换、过滤、重建、解释)——数字系统往往拉长了这条路径,同时又把它藏在一块干净的显示界面后面,因此派生出来的产物(一幅重建图像、一个健康分数、一段生成的解释)必须始终与其源头条件保持关联。时间是复数的:墙上时钟时间(把证据关联到人和事件)、单调时长(性能)、因果顺序(消息与介入的先后)、以及生物学与退化时间(循环次数、暴露量、年龄)——一份可信的综合判断,会选用与机理相关的那种时间概念,而不是把一切都强行塞进同一只看似精确、实则误导的时钟。
17. 基线、阈值与参照标准
偏差只有相对于某个参照才存在(先前状态、健康的同类群体、设计模型、已知良品、验证集、SLO、验收规范)——参照的选择,决定了什么算是可见的、什么被”按定义”算作正常。本文对普适阈值提出警告:正常生理指标因人而异,硬件错误率取决于拓扑、负载与年限,ML 校准取决于人群与时间,结构响应取决于载荷与环境。阈值把一个决策压缩成一条线,因此也就承担了漏检、误报与延迟的代价。基线必须是活的产物——要有版本、要被维护,并且在仪器、人群、配置或环境发生任何变动之后被重新检验;一条从不改变的基线会把判断锚死在过去,而一条不经审计就自动改变的基线,会悄无声息地把真实的失效”正常化”。
18. 概率、损失与一项检验的价值
一次诊断观察要改变决策,只能经由先验 + 后果模型这条通道。在医学中,验前比数 × 似然比 → 验后比数;敏感性与特异性是以目标状态为条件的,而预测值则取决于患病率。同样的逻辑在别处也成立——一个罕见的硬件校验子,出现在存在已知隐患的批次里和出现在普通机群里,含义完全不同;一个在部署前学到的 ML 异常分数,在运行体制发生迁移之后可能就没什么意义了。物理检测有一套类似的装置:检出概率(Probability of Detection, POD,不是检测准确率,而是”给定尺寸的缺陷在给定条件下被检出的概率”)研究会估计检测响应如何随缺陷尺寸与检测条件而变(并给出不确定度),随后由适用性评估(Fitness-For-Service, FFS)把这一结果与结构后果结合起来。在 ML 中,校准问的是预测概率是否与观测到的频率相符,而不只是分类是否准确。行动阈值应当最小化期望损失,而不是最大化某一个准确率指标——一条排除阈值可以容忍假阳性,以避免危险的漏检;一次破坏性拆解所需的证据强度,要高于一次可逆的回滚;当一个自主智能体采取无据可依的行动、其预期危害超过上报升级的成本时,它就应当弃权。概率论与决策理论是一件强有力的跨脉络统一工具,但它本身并不能重建因果顺序、确立身份、保证知情同意,也无法察觉一条已被污染的观测路径——正因如此,本文的分析模式提案位于其上、环绕其外,而不是取而代之。
19. 因果隔离、介入与验证
相关性收窄注意力;介入才能区分机理。医学重复一次检验或更换治疗方案;硬件调整电压、负载、温度或部件;软件回放一次执行或切换一个功能开关;ML 消融某个特征或评估某个反事实;工程(技术)诊断施加受控载荷或做定向无损检测。一次介入只有在其预测后果被事先言明时才具有信息量——否则任何结果都能在事后被合理化。良好的诊断设计会在行动之前记录下假设、预期观测、安全边界、回滚方案以及需要留存的证据,并把观察者效应计入考量(调试器会改变调度,探针会给电路加载,活检会改变样本,负载试验则可能扩大损伤)。真正把一个说得过去的故事与一次有效的修复区分开来的,是验证——一个修好的零件、一个打了补丁的服务、一个重新训练的模型或一次治疗,都应当改变预测中的结果,同时不带来新的不可接受的危害;回归测试、随访以及返修件分析,则把一次局部的修复转化为可持久留存的知识。
20. 不确定性、后果与行动
诊断中的不确定性不是需要藏起来的瑕疵——它记录的是测量、覆盖范围、模型与参照标准的真实边界。同一个置信水平可以正当地导向不同的行动,因为后果不同(一条低概率但会引发灾难的裂纹、一例可能被漏掉的癌症、一次罕见的静默计算错误,各自需要不同的阈值与防护措施)。每条脉络都通过不同的制度来表达后果——临床获益与危害、安全性与可用性、服务影响与信任、公平性与问责、结构完整性与风险——因此一套通用的诊断系统必须把后果模型放在证据旁边:没有响应路径的异常分数纯属摆设;没有权限边界的自信标签则是危险的。行动也可以正当地包含弃权——拒绝作出预测、报告质量不足、暂缓给出标签、选择上报升级而非自行处置——只要它是被明确声明的、有去向(被路由到某个人)的、并且连着下一步的取证动作,它就不等同于无知。
第五部分 · 汇聚而不塌缩
21. 五条脉络彼此借用了什么
五条脉络之间一直在交换概念与工具:计算领域从医学和工程借来了诊断的语汇;控制论意义上的可观测性进入了软件与 ML 的词汇表;FMEA、故障树与冗余设计跨越了硬件、航空航天、安全攸关软件和 AI 保障;统计质量控制则把实验室实践、制造业和漂移监测连在一起。医学影像的 DICOM 标准被协调移植为面向工业无损检测的 ASTM E2339 DICONDE,本文特别把它点名为一次有据可查的基础设施迁移,而不只是表面上的相似——迁移过去的是共享的元数据外壳,诊断含义仍然是各领域专有的。今天,软件可观测性工具链(追踪、指标、日志、语义约定)已经成为 ML/AI 系统的运行底座;反过来,ML/AI 又在协助其余每一条脉络(图像分类、异常排序、退化预测)。这种关系是递归的:诊断在使用 AI,AI 本身又成为被诊断的对象,而 AI 基础设施本身还需要硬件与软件层面的诊断。
22. 边界地带与重叠对象(表 6)
有些诊断对象确实必须把多条脉络接到一起:医疗器械失效(需要设备日志 + 波形 + 临床记录 + 人因 + 结局);AI 基础设施事故(GPU/HBM 遥测 + 互联结构(fabric)追踪 + 检查点 + 损失曲线 + 拓扑);自动驾驶车辆/机器人(传感器数据 + 硬件错误 + 软件追踪 + 模型输出 + 控制动作);数字孪生决策(资产身份 + 传感器质量 + 模型版本 + 校准 + 不确定度);医院/工业信息物理系统(过程变量 + 告警 + 设备与网络证据 + 人员配置 + 响应时间线)。本文给出的边界诊断规则是:只要继续扩大调查范围还有可能改变”什么行动是正当的”、“该由谁负责”或”应采取什么预防策略”,就继续扩大;一旦不再可能改变这三者,就停下来,同时必须明确记录,更深层的原因可能依然存在。不同脉络在不同深度上停下来都是正当的,因为它们的介入权限和后果各不相同。当证据跨越团队、机构与供应商时,缺失的标识符和互不兼容的语义就不再只是麻烦,而会变成因果层面的障碍——互操作性是重建”究竟发生了什么”的前提条件。
23. 不可化约的差异
医学无法被化约为工程维护,因为病人是有能动性、有价值观、有权利的人——临床行动改变的是一条生命,而不只是某个系统状态,因此解释必须包含沟通与知情同意;而死后取得的证据在伦理和法律上受到的约束,是硬件拆解所没有的。软件具有异乎寻常的可复现性(一个程序往往可以被克隆、插桩、最小化,并被穷举式地回放),但生产环境中的行为却可能比物理证据更加转瞬即逝(容器消失、状态被覆写、分布式因果次序只是偏序)。硬件与工程系统会留下物质痕迹,但通往这些痕迹的通路可能被失效本身摧毁,也可能被检查过程本身摧毁。ML/AI 系统的特殊之处在于:其行为是学出来的、依赖于群体分布、而且往往是概率性的——同一套代码或模型,在采样发生变化、或者检索与智能体环境发生变化时,会给出不同的输出;而一次”修复”可能只是把错误重新分配,而不是消除它们,所以评估需要的是持续的、多维度的证据,而不是一次符合性测试。工程(技术)诊断受物理后果与鉴定制度的约束;硬件在此之上增加了编码状态与校验;软件则可以在不修复任何物质的情况下改变行为。这些差异所支持的是脉络之间的对话,而不是一套普适方法。
第六部分 · 走向一门通用的诊断学科
24. 共享原则
论文列出了一组跨脉络通用的操作原则:从决策与对象出发——先讲清楚任务究竟是筛查、检出、诊断、预后、修复还是学习,因为一次技术上无可挑剔的观察,仍然可能回答了错误的问题;先留存再解释——证据是易腐的,生理状态会变化,缓冲区会回绕,服务会重新部署;在每一份证物上都保留身份、溯源与时间;把观察、推断、行动分开——三者各自需要不同强度的支撑标准;组合独立证据——在不同偏倚方向的多种手段之间取得一致,胜过把同一条有偏倚的路径重复一遍;分歧应当被保留,而不是被平均掉;让缺失可见——一个失效的传感器或丢失的 span 绝不能被静默地当成”零”或”正常”;缩短从机理到检出的路径——断言、嵌入式监视器、进程内检查;设计遏制与安全降级——隔离、弃权、功能开关、灰度发布;检验诊断系统自身——校准仪器、注入已知故障、验证观测者一旦失灵会以可见的方式暴露出来;在明确的诊断预算内设计——覆盖范围、留存时长、检查间隔都受时间、金钱、算力、隐私与风险的约束,而被排除在外的那部分证据应当是可见的;以及闭合学习回路——发现应当去更新设计、标准、培训与治理,而不只是关掉一张工单。
25. 跨脉络证据分类法(表 7)
有十类证据在全部五段历史中反复出现:身份与情境;原始观测(经变换最少的记录);派生特征(计算得到的属性);期望/模型(在已声明的假设下应当发生什么);时序证据(状态如何随时间改变);比较性证据(相对于基线、同类对象或对照队列);介入性证据(改变某个因素,结果是否随之改变);结果与后果;观测路径健康度(证据系统本身当时是否在正常工作——质量控制、校准、传感器自检);治理与问责(谁授权、谁解释、谁行动)。此外还补充了两类:证据完整性与对抗抵抗力(证据保管链、签名日志、投毒检查、带防篡改留痕的数据)以及资源与捕获预算(这次调查实际负担得起多大的覆盖范围与保真度)。这套分类法刻意抵制把一切压缩成单一特征向量或单一健康分数——证据的强度取决于独立性、相关性与可追溯性,而不是数据量:同一个坏掉的传感器派生出十块仪表盘,不等于十次印证;而一次受控的介入,其鉴别力可以强过一百万条彼此相关的观测。
26. 把分析模式作为候选的统一层
这一部分被明确定位为一份提案,而非一套已完成的标准。在作者已有的面向模式的诊断学(Pattern-Oriented Diagnostics)与面向模式的可观测性(Pattern-Oriented Observability)工作(见 DumpAnalysis.org)的基础上,论文提出把反复出现的诊断操作——而不是被诊断的对象本身——映射到全部五条脉络之上,并把这种做法称为”面向模式的投射”。其理由是:一种疾病、一条开裂的焊缝、一个处于临界状态的内存单元、一处竞态条件、一个正在漂移的模型,并不是同一类东西,但用来调查它们的分析动作却在反复出现——建立基线,重建身份与序列,关联独立观测,生成备选解释,执行一次有鉴别力的介入,诊断观测路径,验证行动的效果。论文进一步区分了四类模式:问题模式(反复出现的诊断情境)、分析模式(可复用的证据变换/操作)、实现模式(某个操作在特定工具或工作流中如何被落实)、以及呈现模式(结果如何被做成可供检视的形式)。这里的”分析模式”是刻意与 Martin Fowler 那本广为人知的 Analysis Patterns 中的用法区别开来的:Fowler 指的是可复用的业务领域模型,而本文指的是可复用的证据变换与操作步骤;作者明确承认了这一命名冲突的存在。
表 8 —— 提出的七个跨脉络模式族(每一族都在医学 / 硬件 / 软件 / ML–AI / 工程(技术)这五条脉络上做了映射):
- 基线比对 —— 把一个案例与经鉴定的先前状态、同类对象、对照或模型作比较
- 身份与溯源重建 —— 重建从对象出发,经由采集、变换、解释的整条链条
- 时序重建 —— 把事件、状态、介入与空白排出顺序,以考察状态转移与机理
- 多模态关联 —— 把部分独立的证据源联结起来,同时保留其中的分歧与缺失
- 鉴别性假设构建 —— 生成并排序相互竞争的解释,但不把排序当成判决
- 介入式因果隔离 —— 改变一个有界的因素,检验预期中的观测是否随之改变
- 观测路径诊断 —— 检验传感器、流水线或评判器本身是否正在失效,而不只是检验被观测的对象
(另加遏制与验证 —— 限制后果、留存证据、确认修复确实起效且没有带来新的损害)
论文认为,这些模式可以自然地延伸到智能体式 AI 诊断:记忆分析模式(针对上下文窗口、持久记忆、草稿区、检索到的文档、工具状态)与追踪/日志分析模式(针对提示词、规划步骤、工具调用、重试、交接、副作用——这些常常只有偏序)可以共同解释一个智能体为何丢失了上下文、陷入循环、发生偏离,或造成了不安全的副作用;与此同时论文也明确指出,观察到的行为并不等于直接触及了隐藏的推理过程。一个规范写就的模式应当记录:意图(Intent)、情境(Context)、问题(Problem)、所需证据(Required Evidence)、变换/操作步骤(Transformation/Procedure)、备选解释与反证(Alternatives and Counter-evidence)、观察者效应与风险(Observer Effects and Risks)、产生的新情境(Resulting Context)、验证(Verification)、停止条件(Stopping Conditions),以及已知用例(Known Uses)。论文强调其局限:模式相似不等于因果同一——任何一个被搬到另一个领域的模式,都必须就”哪些量可以被测量、哪种介入是被允许的、以及谁有权批准它”重新接受一次鉴定。
27. 与其他统一方案的对比,以及什么能推翻这个提案
本文把分析模式放在若干已确立的替代方案之中,作为其中一个候选,并与它们逐项直接比较(表 9):
| 候选方案 | 统一的是什么 | 前提要求 | 强项 | 在五条脉络间的局限 |
|---|---|---|---|---|
| 诊断分析模式 | 对证据的操作 | 模式描述、领域适配、已知用例 | 无需单一本体论即可迁移探究方法 | 必须证实模式确实反复出现且确实带来收益;有沦为换个说法的风险 |
| 基于模型的诊断 | 由不一致性生成候选解释 | 结构模型、部件失效模式 | 形式化;在已有模型的地方具备鉴别力 | 在结构或失效模式无法可信刻画之处很弱 |
| 故障检测与隔离 | 残差生成、故障隔离 | 动态过程/信号模型、传感器、阈值 | 对机械、装置与控制系统很强 | 对叙事性、伦理性、开放式的对象受限 |
| 贝叶斯决策理论 | 信念更新、损失约束下的行动 | 概率、结果、损失函数 | 真正跨领域,且把阈值摆到明处 | 本身不重建身份、时序与机理 |
| 控制论意义上的可观测性 | 状态能否由输出推断 | 明确给定的动态状态空间模型 | 形式化,数学上精确 | 缺少可辩护的模型时,无法迁移到不断变化的社会技术系统 |
| FMEA 与故障树 | 预期的失效模式及其因果组合 | 系统边界、穷举出的失效模式 | 应用广泛,投运前很有用 | 完备性难以保证;新颖的或学习得来的行为会逃出枚举 |
| 符号学 | 符号、对象与解释三者之间的关系 | 表征性词汇 | 能解释各类人工物之间的中介作用与意义 | 对检测选择与验证的直接指导较少 |
本文的主张有意保持狭窄:模式的用武之地,在于尚无形式化方法覆盖该对象的场合;一旦已有形式化方法可用,就应当直接调用它。文中甚至明确给出了证伪条件——以下任一情况成立,该提案就应当被否定或收窄:
- 某个模式族在某条脉络里说不清自己的”所需证据""停止条件""验证方式”;
- 遵循它反而比领域内既有实践产出更差的结果;
- 独立的从业者判定这套映射只是换了个说法;
- 实例在经过领域适配之后,已经认不出原来那个操作;
- 该模式没有带来任何有鉴别力的证据、更安全的行动,或可迁移的经验。
值得注意的是,本文对自己的早期草稿(“Version 9”,即本文自身的前一个版本)同样做了反身性的检讨:作者直言那一版没有达到自己立下的标准——引用图是封闭的、统一方案从未在任何实例中被验证过、连续统前后不一致——而这次修订的存在,正是为了修复这些失败。
28. AI 作为工具、对象与治理者
AI 同时占据三个角色:工具(发现模式、做分类、检索案例、给假设排序)、对象(它自身的数据、训练、服务、反馈与智能体行为都需要被诊断),以及治理者(它推荐或执行的行动,会改变日后用来评判它的那些系统和数据本身——这是一个货真价实的递归式保证难题)。本文主张,最可信的架构不是一个能自主裁断的”神谕”,而是一个以证据为中心的副驾(copilot):维护案卷、引用证据材料、运行可复现的查询、跟踪备选解释、标出缺失的证据、提出安全的鉴别性检验——评价它的标准是因果正确性、证据质量、安全性以及复发的减少,而不是语言是否流畅。尤为关键的是,本文警告:只因名义上有人在场,人工复核并不会自动变得可靠——自动化偏见、监督懈怠、告警疲劳、技能退化与生产压力,都可能让”监督”沦为走过场、盖橡皮图章。具体的对策包括:在揭示 AI 的建议之前先记录独立的人工判断;对已被采纳的建议做抽样审计;度量推翻率、上报升级率与分歧率;轮换人员去做无辅助的实操;按”需要采取什么行动”而非原始告警数量来设计告警。
29. 反身性诊断
一门成熟的诊断学科最终会掉转头来对准自己:它要诊断的不只是病人、设备、程序或模型,还有让这些对象得以被认知的那套可观测性系统、诊断工作流与解释工具。遥测缺失、身份断裂、基线失真、仪表盘误导、AI 解释出现幻觉、评判器未经验证——这些本身就是诊断上的失败,由此形成一个二阶层次:诊断、可观测性与调试自身成了诊断对象。这种情形在每一条脉络里都会重演:医学必须诊断自己的检验与分诊路径;硬件必须验证自己的探头与 BIST 覆盖率;软件要调试自己的日志、追踪与性能剖析器;ML/AI 必须评估自己的评判器与解释方法;技术诊断必须鉴定自己的传感器与 SHM 流水线。问题从来不只是”这个对象出了什么问题”,还包括”我们用来观察和解释它的手段本身够不够格”。这一层还延伸到区分蓄意操纵与意外失效——样本调包、伪造检测记录、日志篡改、数据投毒、评估作弊,都会让本应彼此独立的证据路径产生关联,因此完整性校验、身份认证与考虑对手的验证,是一项反身性的内在要求,而不是事后补丁。
30. 模式叙事与叙事学层面的统一
真实的调查很少只用到一个模式——它们是以一条被讲述出来的序列展开的:识别异常 → 留存证据 → 补全情境 → 比较评估 → 构建假设 → 鉴别性介入 → 验证结果。本文的配套著作《高阶模式叙事》(Higher-Order Pattern Narratives)把其中”可组合、可反身”的意思挑明了:诊断往往是由时间与解释意图串联起来的一串模式,而诊断分析本身又可以成为进一步分析的对象(另一篇相关文章《统一计算机诊断:纳入硬件叙事学》(Unified Computer Diagnostics: Incorporating Hardware Narratology)展示了如何把硬件与软件的证据重建为一个受约束的跨层故事)。这种叙事式的框定对智能体式 AI 尤其有用:在那里,一桩案子是通过被记住的状态、被检索的上下文、被规划的步骤、工具调用、重试与副作用逐步展开的,而不是一次提示词与输出的配对。这里说的叙事学并不是把诊断”编成故事”,而是指在证据受限的条件下,有纪律地重建事件的次序、机理与后果——并且始终对反证保持可修订。
第七部分 · 未来方向与结论
31. 可互操作的证据生态
未来不会是一个包打天下的通用数据库,而是一个可互操作的证据生态——影像、内存转储、追踪、标本、模型、维护记录各自保留本领域特有的结构,同时共享足够的身份、时间、溯源与语义信息,好让它们能够被关联到一起(文中列举的部分现实例子包括 DICOM/DICONDE、OpenTelemetry、模型注册表与数字主线)。证据图(evidence graph)有可能成为一个共通的分析层——节点表示观测、状态、假设与介入,带类型的边表示物理连接、数据派生、时间顺序与因果关系——但它只有在事实与推断在类型上始终分得清清楚楚、并且每一次变换都保持可检查时,才是有用的。自适应捕获(adaptive capture)将会不断扩张:系统持续留存覆盖面广、成本低的信号,再围绕新检测到的异常或风险加深捕获(更完整的转储、更高采样率的波形、有针对性的追踪)——这是在诊断预算约束下的一次显式优化。真正的难点在于,要在异常还没有被识别出来之前,就已经留下足够的前史,同时又让采样策略本身、以及被排除在外的证据都保持可见。
32. 受治理的诊断智能体与数字孪生
数字孪生与诊断智能体汇聚到同一个想法上:一个与某个特定真实对象绑定、并持续维护的模型,其身份、配置、观测到的状态、不确定性与决策范围都被显式跟踪。两者变得危险的时刻也是同一个——表征悄无声息地偏离了它所对应的真实对象,或者智能体的行动超出了已被验证的范围。本文的设计立场是:未来的智能体应当按安全攸关的仪器来构建——默认只读;任何变更都必须配以受限凭证、有边界且可逆的命令,以及与后果相称的审批;智能体应当记录是哪一次查询产生了哪一条观测,把检索到的证据与生成的推断区分开,主动检验反向假设,并在超出自身鉴定范围或证据覆盖范围时停下来。在全部五条脉络上,前沿都在于能自我观测,但不能自我背书——传感器报告自身的健康状况,流水线暴露自身的数据丢失,模型检测自身的领域偏移,孪生体把自己的预测与实际结果作比对。一个宣称自己健康、却没有任何独立核查的系统,它自动化的只是安慰,不是验证。
33. 结论
五段历史最终汇入同一个更大的故事:让隐藏的状况变得可观测,并对由此得知的一切负责任地采取行动。没有哪一条脉络是靠取代先前的证据向前推进的——床旁观察与基因组学并存,示波器与机群遥测并存,内存转储与分布式追踪并存,残差与机理可解释性并存,目视检查与结构健康监测并存。进步来自把不同视角层层叠加、保留它们各自成立的条件,并打造更强的手段去在诸多解释之间做鉴别。一门统一的诊断学科,应当在主张上保持谦逊,在设计上保持雄心:在证据消失之前完成捕获;保住身份与溯源链;对照经鉴定的参照标准做比对;把观察、推断与行动三者分开;把彼此独立的模态结合起来;把缺失性摆到明面上;检验自己所用的仪器;并把每一次介入与经过验证的后果连接起来。AI 能加速这一切——但它无法把判断、伦理与问责从人和机构肩上卸下来。本文提出的那座桥——分析模式,再由模式叙事加以延伸——是作为探究方法这一层上的统一被提出来的,而不是在主张所有诊断对象或所有解释彼此等价。真正经得起时间的收获,是那条八阶段连续统本身(观察 → 测量与留存 → 情境化 → 比对 → 推断 → 鉴别 → 行动 → 验证与学习):可观测性不是诊断的终点,诊断也不是责任的终点。衡量成功的标准是:一个可以被质疑的解释,一个可以被辩护的行动,以及一个因为这场调查发生过、而变得更可诊断的系统。
附录 A · 对照矩阵(表 10,精简版)
| 脉络 | 核心问题 | 核心证据 | 独有的限制与责任 |
|---|---|---|---|
| 医学 | 哪一种病症最能解释这个人身上的证据?诊疗的下一步又该做什么? | 病史叙述、体格检查、标本、影像、人群证据、随访 | 参照标准并不完美;患者的能动性、公平性与临床效用是其中不可分割的组成部分 |
| 硬件 | 是哪一个物理故障或设计故障,产生了观察到的错误或失效? | 波形、校验、校验子、计数器、固件记录、返修件分析 | 纠正与更换会掩盖机理;观测通路与管理通路本身必须可信 |
| 软件 | 执行过程中发生了什么、为什么发生、又靠什么防止复发? | 代码、配置、内存转储、日志、指标、追踪、事件记录 | 状态是易失且分布式的;插桩与修复动作都可能扰动系统 |
| 机器学习与 AI | 在这份数据、这项任务、这个人群、这条轨迹之下,习得的行为为何失效? | 残差、数据划分、梯度、归因方法、漂移、智能体动作 | 行为可以在完全没有软件错误的情况下失效;指标与解释都是有条件的,必须接受检验 |
| 工程(技术) | 哪一种损伤、退化或完整性状态,最能解释这些物理观测? | 目视检查、无损检测、应变、振动、热成像、状态历史 | 可检出性、可及性、方法鉴定与结构后果,共同限定了每一个结论 |
附录 B · 共享术语表(节选,转述)
- 溯因推理(Abductive reasoning) —— 从观察出发推向若干具有解释力的合理假设,再对这些假设进行比对与检验,而不是做演绎。
- 弃权(Abstention) —— 因证据不足或权限不足,而刻意不做分类、不做预测、不采取行动。
- 分析模式(Analysis pattern)(本文中的用法)—— 一种可复用的变换或比对操作,用来让证据变得可理解;请注意,它与 Fowler 的《Analysis Patterns》(可复用的业务领域模型)含义不同。
- 基线(Baseline) —— 一个用作参照的条件、人群、模型或版本,后续证据都以它为准进行比对。
- 可诊断性(Diagnosability) —— 与可观测性不同,它关心的是可用的测试在多大程度上能够在各种故障状态或解释之间做出鉴别,而不只是状态究竟能否被推断出来。
- 诊断对象(Diagnostic object) —— 一项诊断结论所适用的确切实体与边界(个人、部件、一次执行、模型系统、资产、组织)。
- 数字孪生(Digital twin) —— 针对一个已识别的真实对应物所维护的数字表示,随证据更新,服务于事先声明的诊断或预测用途。
- 漂移(Drift) —— 仪器、人群、数据分布、模型关系或基线随时间发生的变化。
- 首次失效数据捕获(First-failure data capture) —— 在重试、复位、故障转移或维修改变系统状态之前,先把最早的可信证据保存下来。
- 缺失性(Missingness) —— 缺席、丢失或未被采集的证据 —— 绝不允许被悄无声息地当作阴性结果或正常读数处理。
- 可观测性(Observability) —— 从可获取的输出与已留存的上下文中,推断出相关隐藏行为与状态的那种被设计出来的能力。
- 观测路径(Observation path) —— 证据得以产生的整条链条(传感器、标本处置、采集、变换、传输、判读)。
- 模式叙事(Pattern narrative) —— 把若干诊断模式结构化地编排成一条以证据为依据的解释序列。
- 反身性诊断(Reflexive diagnostics) —— 对诊断系统、可观测性系统与调试系统自身进行观察、诊断和调试。
- 根因(Root cause) —— 在一个已声明的分析层级上的因果机制;复杂系统可能同时存在若干个同样成立的因果层级。
- 捷径学习(Shortcut learning) —— 模型用一个省事却不具普遍性的线索,取代了本应学到的、与任务真正相关的关系。
- 停止条件(Stopping condition) —— 用来结束或收窄调查的判据:继续扩大调查,已不太可能在行动、责任或置信度上带来足以抵偿其成本的改变。
- 训练—服务偏斜(Training–serving skew) —— 训练时的数据、特征与条件,同部署时的数据、特征与条件之间的不匹配。
(原文的完整术语表约有 45 个条目,横跨全部五个领域 —— 完整列表见源 PDF。)
附录 C · 跨脉络模式实例(摘要)
本文从自己提出的模式族中挑出三个做了端到端检验,并明确说明这只是对有限可行性的演示,而不是在证明每一个家族都能处处迁移 —— 每个案例都点明了跨领域类比实际破裂的位置。
案例 1 —— 观测路径诊断:无损检测传感器漂移 vs. 丢失 span 的遥测流水线。 一边是:某台资产的载荷看上去毫无变化,超声/无损检测通道上的指示信号幅值却在攀升;另一边是:某次事件期间,一条分布式追踪丢失了下游的一个 span。两者都要求先去核查:真正该负责的是不是测量装置本身,而非被测对象(重新校准或更换传感器,并与一种独立的检测手段做对照;检查上下文传播、采样器与采集器的丢弃情况,再对同一次调用的日志和指标做比对)。类比在哪里破裂:无损检测的传感器与材料和几何形状发生物理接触,检测这一行为本身就可能改变资产;而软件的追踪路径纯粹是符号化的、由软件定义的,插桩可以随时改动,完全不必碰触物理服务本身。
案例 2 —— 基线比对:个体医学生物标志物趋势 vs. 机器学习的生产/留出集分布。 一边是:某位患者的生物标志物在上升,却仍然落在宽泛的人群参考区间之内;另一边是:一个已部署的分类器总体准确率保持不变,置信度与亚组表现却在移动。两者都要求先与一个经鉴定的参照做比对,同时把可能仅仅是噪声的部分算进去(分析性/生物学变异 vs. 无害的协变量偏移),然后才能下结论说真实的变化确实发生了。类比在哪里破裂:医学上的参照涉及的是一个有能动性的人,并牵连着诊疗后果 —— “正常”在这里不是一个纯统计概念;而机器学习的参照分布是一件工程造物,可以重新生成,尽管它的标签与环境在部署之后仍然可能移动。
案例 3 —— 时序重建:崩溃转储加遥测 vs. 智能体的记忆状态加工具轨迹。 一边是:某个进程因堆被破坏而崩溃(转储保存下来的是终态,而不是更早的那次错误写入);另一边是:某个 AI 智能体产生了不安全的副作用(它的最终回复并不会揭示上下文、工具与记忆是如何一步步导向那里的)。两者都要求把一份快照与有序或偏序的历史拼接起来,定位真正的失效点,再通过回放或反事实测试来验证修复。类比在哪里破裂:程序执行往往可以针对确切的代码与机器状态做确定性回放;而生成式智能体的行为可能是随机的,模型内部状态与自然语言给出的理由,也无法像调试器回放那样,提供一份稳定而完整的因果说明。
参考文献选录(摘自原文)
- 五部配套历史:History of Software/Hardware/Medical/ML-and-AI/Technical Diagnostics, Observability, and Debugging —— DumpAnalysis.org, 2026.
- Kalman, R. E. “On the General Theory of Control Systems.” IFAC Congress, 1960.
- FDA. Biomarker Qualification: Evidentiary Framework, 2018. · Fagan, T. J. “Nomogram for Bayes Theorem.” NEJM, 1975.
- Avižienis et al. “Basic Concepts and Taxonomy of Dependable and Secure Computing.” IEEE TDSC, 2004.
- W3C Trace Context (2021); OpenTelemetry Specification 1.59.0.
- Sculley et al. “Hidden Technical Debt in Machine Learning Systems.” NeurIPS, 2015. · Guo et al. “On Calibration of Modern Neural Networks.” ICML, 2017.
- Isermann, R. “Fault Diagnosis of Machines via Parameter Estimation and Knowledge Processing.” Automatica, 1993.
- NASA-STD-5009C(无损检测要求);API 579-1/ASME FFS-1(Fitness-For-Service, 2021);DICOM Standard;ASTM E2339-21(DICONDE);NASA/TM-20220013822(POD 研究指南)。
- Alexander et al. A Pattern Language, 1977. · Gamma et al. Design Patterns, 1995. · Fowler, M. Analysis Patterns, 1997.
- Reiter, R. “A Theory of Diagnosis from First Principles.” AI Journal, 1987. · de Kleer & Williams. “Diagnosing Multiple Faults.” AI Journal, 1987. · Gertler, J. Fault Detection and Diagnosis in Engineering Systems, 1998. · NASA GSFC-HDBK-8004(FMEA)。
- Bainbridge, L. “Ironies of Automation.” Automatica, 1983. · Parasuraman & Riley. “Humans and Automation.” Human Factors, 1997. · NIST AI RMF 1.0, 2023. · NIST SP 1270(AI 偏差), 2022.
- IETF RFC 5848 (Signed Syslog Messages), 2010. · Biggio et al. “Poisoning Attacks against Support Vector Machines.” ICML, 2012.
- 配套文章:Pattern-Oriented Diagnostics and Observability as a Philosophy of Engineering;Pattern-Oriented Observability(Parts 1–4);Higher-Order Pattern Narratives;Unified Computer Diagnostics: Incorporating Hardware Narratology —— 均出自 DumpAnalysis.org, 2026.
- OpenTelemetry. “Sampling.” 文档,2025 年 10 月更新。
(原文共有 40 条参考文献;完整的、按首次引用顺序编号的列表见源 PDF。)