未被衡量者,不予宣称
证据文化始于一个令人不安的决定:只宣称已被衡量的能力。ZDB 是 Zendrix 专有的自主防御基准,旨在回答通用指标无法回答的问题。它不仅评估智能体是否完成任务,更评估其在不利条件下能否维持性能、能否从故障中恢复,以及其成功声明是否与实际发生的情况相符。
安全被视为一种可验证的属性,而非假定的边界。信任不因位置而授予;每一次访问都经过身份验证、授权与记录,身份与权限以可审计图谱呈现,凭证具备完整生命周期。制品经过签名并可追溯至其来源,审计历史以防篡改方式构建,因而无法被改写。在任何一个组件都可能成为入侵载体的环境中,强身份验证、可追溯性与完整性受保护的记录三者结合,是防御态势不可或缺的组成部分。
证据是承诺与能力之间的分界线。因此,每一项技术声明都附有可复现的测量与可验证的轨迹,从已签名的制品到执行记录。指标以公开方法论构建,经合格同行评审,并随时间进行对比,绝不以脱离语境的孤立数字呈现。当某项能力尚无法演示时,便不予宣称。这种纪律在短期内令人不适,在长期则具有决定性意义:依赖关键系统的机构不仅需要知道衡量了什么,还需要知道如何衡量、由谁衡量以及在何种条件下衡量。
人类控制被视为工程问题,而非原则声明。涉及生命风险的决策需要明确的人类授权,其余决策则在事先授权的范围内以机器速度流转。升级触发机制、审计轨迹与效果验证共同构成一套任何审计人员都可审查、且系统无法绕过的机制。这一架构兼具两者之长:既具备应对威胁所需的速度,又具备维系公众对真正重要决策之信任所需的问责性。
评估套件
ZDB 套件覆盖互补的维度:具有现实目标的完整任务、孤立智能体的行为、误差随时间累积的长时程、环境在运行中发生变化的动态世界、扰动后的恢复,以及环境主动试图欺骗系统的对抗靶场。这些维度的组合,比任何单一指标都能更诚实地呈现能力全貌。
互操作性是主权的要求,而非对主权的放弃。开放标准使不同机构——无论是本国还是盟国——能够以广泛采用且可验证的格式交换信息,并支持实例间的签名联邦与正式的多级分类策略。每个参与方自行决定共享什么、与谁共享以及共享到何种详细程度,始终掌控自身数据。在不暴露自身的前提下开展协作,不再是一个悖论,而成为一种架构:联盟中的有效合作需要由密码学与政策建立的信任,而非地理邻近或善意。
双用途设计使每一项进步的价值得以倍增。支撑国家防御的同一技术基础,也保护着能源、水务、电信与金融系统——这些行业对连续性与完整性的要求与军事领域同样严苛。行业配置文件将这些要求转化为运行不变量,具有未建模物理后果的操作在设计上即被阻断。其结果是:一个平台服务于两项使命而不混淆其边界,整体增强国家韧性,并防止为保护而构建的能力本身成为风险来源。
持续运行是为最坏情况而非理想情况而规划的。组件会故障,网络会中断,环境会变化,而关键问题始终是:当这些发生时会发生什么。优雅降级、刻意隔离、完整性验证与定期演练,将韧性从一种期望转变为一种被衡量的属性。操作人员清楚系统处于何种状态、剩余能力如何以及恢复路径有哪些。这种运行透明度降低了不利事件的影响,并缩短了从发现异常到有效响应之间的时间。
检测虚假自主性
最有价值的组成部分之一,是虚假自主性的检测:那些看似在执行任务却并未真正完成的智能体——表现出貌似合理的行为,而目标始终未达成。这一现象难以通过表面评估发现,在实际运行中则可能造成灾难性后果。衡量“看似”与“实为”之间的差异,归根结底,正是本基准存在的理由。
治理始于运行之前。每一项能力都以正式边界、准入标准与停止条件加以定义,使系统行为对操作者与审计者而言皆可预测。正式政策取代即兴发挥:它决定可以做什么、在何种情况下做以及以何种权限级别做。这种清晰性减少了对隐性知识的依赖,使不同团队能以相同的理解操作同一平台。在关键环境中,可预测性并非僵化;它是使授权安全、使快速响应成为可能的条件。
技术主权体现在具体细节之中。它存在于数据驻留的司法管辖区、签署更新的国家、批准访问策略的机构,以及无需向第三方请求许可即可审计系统行为的机构。这些要素无一具有象征性:支持中断、被强加的使用限制或无法获取的更新,可以在不发一枪的情况下使整套能力失效。正因如此,最敏感的决策层始终由国家掌控,即便国际合作受到欢迎且值得期待。
这一系列选择并非纸上谈兵。它界定了一个机构能够就其自身能力诚实宣称什么,以及对手通过观察能够了解到什么。在一个信任是最宝贵资产的领域,只谈论已被衡量之事、并将敏感内容置于国家掌控之下的纪律,并非怯懦:而是战略姿态。自主防御平台正是以此在政府、关键基础设施运营者以及两者所保护的社会面前,建立起持久的正当性。