跳到主要内容
ZENDRIX
← 新闻中心
研究2026·0910 分钟阅读

任务能力:知道自己能做什么的系统

被声明的能力不等于真实的能力:对能力的语境化建模——系统只把在运行语境中经过验证的东西归于自身,并按经验证的能力而非可用性进行选择。

任务能力:知道自己能做什么的系统

若去问关键系统的操作者,人工智能平台最令人畏惧的是什么,答案很少是“失败”。答案是“宣称能做自己做不到的事”。幽灵能力比缺失的能力更糟:缺失的能力是已知的、会被绕开的;幽灵能力却被人相信——直到现实索要代价的那一刻。

Zendrix 把这一问题当作架构属性处理。我们把任务能力称为这样一种纪律:系统只向自己和操作者声明那些在其所处语境中经过验证的能力。本文阐述这一建模的原则,与我们就带正式包络的自主性和经过校准的不确定性所做的出版物一脉相承。

能力不是二元的——它是语境化的

能力管理中最常见的错误,是把能力当作装备的永久属性:“这套系统有光学传感器”作为事实出现在清单上。然而,晴空下的光学传感器与封闭冠层下的同一传感器,在运行上是两套不同的系统。能力存在于装备、语境与验证的交汇处,而忽视三者中任何一个的模型,都会滋生错误的自我认知。

Zendrix 的能力建模显式表达这一交汇:每项能力关联到经过验证的语境——环境条件、通信体制、任务类别;每个(能力,语境)对都对应一个正式的自主级别。这些正是平台在行为治理中已经使用的、经声明且可审计的级别。在宽泛语境中经过验证的能力以宽泛自主运行;同一能力在从未验证过的语境中以零级运行——系统在那里知道自己不知道。

按能力选择,而非按可用性选择

最重要的运行性后果是选择标准的变化。传统系统按可用性分配任务:哪些资源存在、哪些空闲、哪些有回应。具备任务能力的系统按经过验证的东西分配:哪些资源对那个语境中的那项任务拥有经过验证的能力。

这种区别在困难情形中充分显现。在阴云密布的天气里,一个依赖直线视距的成像资源可能可用却无能;一个不受遮挡影响的有源感知资源可能不那么方便却胜任。按可用性选择会晋升前者,并在运行中发现错误;按能力选择会晋升后者——把选择的理由记录在审计轨迹中,使该决定日后可以被重构和质疑。

这同样适用于内部自分配。系统在规划时,按它在当前语境中拥有的能力规划,而不是按它在理想条件下会拥有的能力规划。要求一项在当前语境中未经检验的能力的计划会被降级、改派或拒绝——绝不会带着希望被执行。

未经检验的语境:零级的诚实

总会存在完全没有任何验证的语境:新环境、史无前例的条件、从未训练过的组合。成熟的应对不是用装饰性的自信去外推,而是声明零级并据此运行。

零级不是瘫痪。它是系统以明确且可审计的方式说明:“在此语境中,这项能力未经检验。我提供建议,但不自主执行。”人类权威带着已声明的不确定性收到建议并做出决定。如果决定是继续,其结果会输送给验证底座,未来的能力是靠证据赢得的,而不是靠类比假定的。这正是系统负责任地扩展自身包络的方式:每一个在人类监督下通过的新语境,都成为下一次的已验证语境。

这种架构改变了操作者与系统的关系。操作者不再需要猜测何时该信任:系统以声明电池电量同等的客观性,声明自己在每个语境下的能力级别。信任不再是情绪,而成为界面——背后有数字、级别与审计轨迹的界面。

经测量的能力:通往证据文化的桥梁

任务能力只有在被测量时才是真实的。作为这套建模的基础设施,Zendrix 维护着每个(能力,语境)对的验证记录:在高保真仿真中演练过的场景、达到的验收底线、验证的日期与版本。没有验证记录的能力被视为不存在——不是出于悲观,而是因为其替代方案正是本文开头所说的幽灵。

这些记录与我们已公开阐述过的保证机制相整合:正式且可验证的自主级别、防篡改的审计轨迹、对行为所声明效果的密码学验证。能力模型不是系统之上的呈现层:它是治理系统的一部分,在每一项分配决策中被引用,在每一次选择中被记录。

双重用途与主权

语境化能力的问题以同样的强度贯穿国防与关键基础设施。电网运营者需要知道异常检测系统是否已针对今日的负荷体制得到验证;民防部门需要知道影像分析能力是否已针对夜间与降雨条件得到验证;航空当局需要知道在链路降级条件下无人系统能做什么、不能做什么。在所有情形中,问题都是同一个,而诚实的答案要求的是显式建模,不是乐观。

还有一层主权维度:知道自己能力并加以声明的系统,是国家可以审计的系统。验证、底线与级别置于国家管辖与控制之下,而不是依赖外部供应商黑盒关于“它能做什么”的说辞。内部透明与主权同行。

开发现状

任务能力建模已在 Zendrix 的验证环境中实现并投入运行,并与自主性治理及以往出版物中描述的仿真记录相整合。分配标准——哪些证据把一项能力晋升到某个级别,哪些退化把它降级——是显式的、受版本管理的、可审计的,并且随着每一个验证周期持续收紧。

机构立场一如既往,只是对象是新的:我们不承诺全知全能的系统。我们构建知道自己能做什么、声明自己不能做什么、并且从不悄悄越过这条界线的系统。这样的系统在演示中不令人激动,在运行中令人激动——而这正是国防与关键基础设施的系统必须令人激动的地方。