以设计实现人类控制：间断式非瘫痪原则

关于自主 AI 在国防领域应用的公共辩论，往往在两个同样无益的极端之间摇摆。一端是恐慌——否决一切自主性，要求每一个微观决策都必须有人类在环。另一端是狂热——将一切托付给机器，把人类监督视为应当消除的延迟。两种立场失败的原因相同：它们将人类控制视为数量问题，而真正关键的是位置问题。

Zendrix 选择第三条道路，我们称之为间断式非瘫痪原则。它始于一个简单的观察：在网络防御中，对手的时钟不是委员会的时钟。每一步都停下来请示人类，等于将主动权拱手让给攻击者。但放弃一切监督，则是将责任转移给一个无法承担责任的器物。该原则通过将人类权威精确定位于能够改变结果的位置来化解这一张力——而在其余一切环节释放机器速度。

两种对称的失败

瘫痪容易识别：没有人类批准便无任何行动，系统沦为昂贵的旁观者，而入侵持续推进。弃权则更为隐蔽，因为它伪装成效率：系统采取行动，宣称成功，却无人能为所产生的效果负责。两种情况下，最终结果相同——丧失控制。前者源于过度摩擦，后者源于监督缺位。

间断式非瘫痪原则将这两种失败视为同等严重。它不试图最大化或最小化人类干预。它针对每一类决策提出一个问题：人类的存在是否会改变正确结果的概率？若会，人类即为必需。若不会，要求人类在场不过是以美德之名制造瓶颈。

还有第三种较少被讨论的错误：假定人类操作员必然比系统掌握更多情境。在遥测数据饱和的环境中，事实往往相反。一个超负荷的人类在明确定义的包络内，决策质量不如机器——并非能力不足，而是缺乏时间和有组织的情境。设计人类控制，首先意味着设计使人类决策成为可能的情境。

人类权威不可让渡之处

有些决策永远不可委托。涉及生命风险的决策始终需要人类权威——无论延迟、操作成本或系统精密程度如何。这同样适用于具有战略后果的不可逆行动，以及改变机构间关系状态的升级行为。在这些节点上，平台负责观察、关联、模拟、建议和准备——但不跨越决策线。

理解"人类权威"在设计中的含义至关重要。人类不是一切已然出错后才按下的紧急按钮，也不是审批队列上的一枚印章。人类是架构的一部分。因此，工程问题不是"是否由人类批准？"，而是"人类是否拥有足够的情境在数秒内做出决策？"。差别巨大：一个将准备好的决策——附带选项、预期后果和明确不确定性——呈交给操作员的系统，使人类能够快速、知情地做出选择。一个将原始数据倾倒在操作员面前的系统，则使监督沦为表演。

后果可逆之处以机器速度运行

决策线的另一侧，是绝不能等待的操作：检测、关联、优先级排序、情境丰富、可逆遏制、证据收集和比例响应。在这一区间，自主性以机器速度运行，处于一个定义明确行动边界的形式化包络之内。自主性不是权威：它执行其可以执行之事，并清楚知道其不可执行之事。

正是这种纪律使自主性有用而非可怕。一个不知自身边界的系统是风险；一个知晓自身边界并在边界附近安全运行的系统是操作优势。非瘫痪之所以是间断式的，恰恰因为停止点是刻意选择的——而非继承自某种通用原则。并且，如同每一项平台能力，该区间内的每一个行动都在形式化包络内执行，附带审计追踪和对所声明效果的密码学验证。

核心要点值得重申：有包络的自主性并非仓促做出的让步。它正是让人类操作员能够安心入睡——知道平台在毫秒内对可逆事件做出反应——并在决策属于他们时将其唤醒的保障。这就是我们所追求的平衡：既非系统决定一切，也非人类被召来处理一切。

伦理作为工程，而非免责声明

这一切若仅停留在修辞层面则毫无意义。如果人类控制不在设计中，它就不存在。因此，平台维护防篡改的审计追踪，对其产生的制品进行密码学签名，并为每一个行动记录其执行所依据的权威及所声明的效果。审计可在数月后重建决策过程。自主性等级是形式化且可验证的，而非叙事性的。

在这个意义上，操作伦理是一门工程学科：它以证据证明，而非以意图证明。开放标准、密码学验证和持续审计不是合规附属品——它们正是使信任一个行动速度快于任何人类所能跟随的系统成为可能的基础。

自主性加速防御；人类决定何为重要。这就是原则。它不会拖慢操作：它正是实现最大速度而不丧失对真正重要之事控制的前提。