임무 역량: 자신이 무엇을 할 수 있는지 아는 시스템

핵심 시스템 운영자에게 인공지능 플랫폼에서 가장 두려운 것이 무엇인지 물어보면, 답은 좀처럼 “실패하는 것”이 아닙니다. “할 수 없는 일을 할 수 있다고 주장하는 것”입니다. 유령 역량은 없는 역량보다 나쁩니다. 없는 역량은 알려져 있고 우회되지만, 유령 역량은 믿어지며, 세상이 그 차이를 청구하는 순간까지 그렇습니다.

Zendrix는 이 문제를 아키텍처 속성으로 다룹니다. 우리는 임무 역량을, 시스템이 자신과 운영자에게 자신이 놓인 맥락에서 검증된 역량만을 선언하는 규율이라고 부릅니다. 이 글은 공식적 외피를 갖춘 자율성과 교정된 불확실성에 관한 우리의 발행물과 연속선에서 이 모델링의 원칙을 설명합니다.

역량은 이진적이지 않습니다 — 맥락적입니다

역량 관리에서 가장 흔한 오류는 역량을 장비의 영구적 속성으로 취급하는 것입니다. “이 시스템에는 광학 센서가 있다”가 사실로서 목록에 등장합니다. 그러나 맑은 하늘 아래의 광학 센서와 폐쇄된 수관 아래의 같은 센서는 운용적으로 서로 다른 두 시스템입니다. 역량은 장비, 맥락, 검증의 교차점에 존재하며, 세 요인 중 하나를 무시하는 어떤 모델도 거짓 자기 인식을 낳습니다.

Zendrix의 역량 모델링은 이 교차점을 명시적으로 표현합니다. 각 역량은 검증된 맥락 — 환경 조건, 통신 체제, 임무 등급 — 에 연결되고, 각 (역량, 맥락) 쌍에는 공식적 자율성 수준이 대응합니다. 플랫폼이 행동 거버넌스에 이미 사용하는, 선언되고 감사 가능한 바로 그 수준들입니다. 넓은 맥락에서 검증된 역량은 넓은 자율성으로 운용되고, 한 번도 검증되지 않은 맥락에서 같은 역량은 수준 0으로 운용됩니다. 시스템은 거기서 자신이 모른다는 것을 압니다.

가용성이 아니라 역량에 의한 선택

가장 중요한 운용적 결과는 선택 기준의 변화입니다. 관습적 시스템은 가용성에 따라 임무를 배정합니다. 어떤 자원이 존재하는가, 어떤 자원이 비어 있는가, 어떤 자원이 응답하는가. 임무 역량을 갖춘 시스템은 검증된 것에 따라 배정합니다. 어떤 자원이 그 맥락의 그 임무에 대해 검증된 역량을 갖추었는가.

그 차이는 어려운 경우에 온전히 드러납니다. 흐린 하늘 아래에서 직선 가시선에 의존하는 영상 자원은 가용하면서 무능할 수 있고, 폐쇄에 영향을 받지 않는 능동 센싱 자원은 덜 편리하면서 유능할 수 있습니다. 가용성에 의한 선택은 첫 번째를 승격하고 운용 중에 오류를 발견합니다. 역량에 의한 선택은 두 번째를 승격하고 — 선택의 이유를 감사 추적에 기록하여, 그 결정이 나중에 재구성되고 이의 제기될 수 있게 합니다.

이것은 내부 자기 배정에도 똑같이 적용됩니다. 시스템이 계획할 때, 이상적 조건에서 가질 역량이 아니라 현재 맥락에서 보유한 역량으로 계획합니다. 현재 맥락에서 검증되지 않은 능력을 요구하는 계획은 강등되거나, 재배정되거나, 거부되며, 결코 희망을 품고 실행되지 않습니다.

미검증 맥락: 수준 0의 정직함

어떤 검증도 존재하지 않는 맥락은 항상 있을 것입니다. 새로운 환경, 전례 없는 조건, 한 번도 훈련되지 않은 조합. 성숙한 대응은 장식적 확신으로 외삽하는 것이 아니라 수준 0을 선언하고 그에 따라 운용하는 것입니다.

수준 0은 마비가 아닙니다. 시스템이 명시적이고 감사 가능한 방식으로 말하는 것입니다. “이 맥락에서 이 역량은 검증되지 않았습니다. 나는 권고하지만, 자율적으로 실행하지는 않습니다.” 인간 권위는 선언된 불확실성과 함께 권고를 받고 결정합니다. 결정이 진행이라면, 그 결과는 검증 기반에 공급되고 미래의 역량은 유추로 가정되는 것이 아니라 증거로 획득됩니다. 이것이 시스템이 자신의 외피를 책임 있게 확장하는 방식입니다. 인간 감독과 함께 통과한 각각의 새로운 맥락이 다음번을 위한 검증된 맥락이 됩니다.

이 아키텍처는 운영자와 시스템의 관계를 바꿉니다. 운영자는 언제 신뢰해야 할지 추측할 필요가 없습니다. 시스템이 배터리 수준을 선언하는 것과 같은 객관성으로 맥락별 자신의 역량 수준을 선언합니다. 신뢰는 감정이기를 그치고 인터페이스가 됩니다. 그 뒤에 숫자, 수준, 감사 추적을 갖춘 인터페이스입니다.

측정된 역량: 증거 문화와의 다리

임무 역량은 측정될 때만 실제입니다. Zendrix는 이 모델링의 인프라로서 (역량, 맥락) 쌍별 검증 기록을 유지합니다. 고충실도 시뮬레이션에서 훈련된 시나리오, 도달한 승인 하한, 검증의 날짜와 버전입니다. 검증 기록이 없는 역량은 존재하지 않는 것으로 취급됩니다. 비관주의 때문이 아니라, 그 대안이 바로 이 글을 여는 유령이기 때문입니다.

이 기록은 우리가 이미 공개적으로 설명한 보증 메커니즘과 통합됩니다. 공식적이고 검증 가능한 자율성 수준, 변조에 강한 감사 추적, 행동의 선언된 효과에 대한 암호학적 검증입니다. 역량 모델은 시스템 위의 표현 계층이 아니라 거버넌스 시스템의 일부이며, 모든 배정 결정에서 참조되고 모든 선택에서 기록됩니다.

이중 용도와 주권

맥락적 역량의 문제는 국방과 핵심 인프라를 같은 강도로 관통합니다. 전력망 운영자는 이상 탐지 시스템이 오늘의 부하 체제에 대해 검증되었는지 알아야 하고, 민방위는 영상 분석 역량이 야간과 강우 조건에 대해 검증되었는지 알아야 하며, 항공 당국은 링크 열화 상황에서 무인 시스템이 무엇을 할 수 있고 무엇을 할 수 없는지 알아야 합니다. 모든 경우에 질문은 같으며, 정직한 답은 낙관이 아니라 명시적 모델링을 요구합니다.

주권적 차원도 있습니다. 자신의 역량을 알고 선언하는 시스템은 자기 국가가 감사할 수 있는 시스템입니다. 검증, 하한, 수준이 외국 공급자의 블랙박스가 “무엇을 할 수 있는지”에 대한 말에 의존하는 대신 국가 관할과 통제 아래 놓입니다. 내부 투명성과 주권은 함께 갑니다.

개발 현황

임무 역량 모델링은 Zendrix의 검증 환경에서 구현되어 운용 중이며, 자율성 거버넌스와 이전 발행물에서 설명한 시뮬레이션 기록에 통합되어 있습니다. 배정 기준 — 어떤 증거가 역량을 한 수준으로 승격시키고, 어떤 열화가 그것을 강등시키는가 — 은 명시적이고, 버전 관리되며, 감사 가능하고, 각 검증 주기마다 계속 엄격해집니다.

기관 입장은 언제나와 같으며, 새로운 대상에 적용됩니다. 우리는 전지적인 시스템을 약속하지 않습니다. 우리는 자신이 무엇을 할 수 있는지 알고, 무엇을 할 수 없는지 선언하며, 결코 그 경계를 조용히 넘지 않는 시스템을 구축합니다. 이런 시스템은 시연에서 감동을 주지 않습니다. 운용에서 감동을 줍니다. 국방과 핵심 인프라의 시스템이 감동을 주어야 하는 곳이 바로 그곳입니다.