Control humano por diseño: la doctrina de la no parálisis puntuada

El debate público sobre la IA autónoma en defensa tiende a oscilar entre dos extremos igualmente improductivos. Por un lado, el pánico que vetaría cualquier autonomía, exigiendo un humano en el circuito para cada microdecisión. Por el otro, la euforia que lo delegaría todo a la máquina, enmarcando la supervisión humana como un retraso que debe eliminarse. Ambas posiciones fallan por la misma razón: tratan el control humano como una cuestión de cantidad, cuando lo que importa es la posición.

Zendrix adopta una tercera vía, que llamamos la doctrina de la no parálisis puntuada. Comienza con una observación simple: en la defensa cibernética, el reloj del adversario no es el reloj del comité. Detener las operaciones para consultar a un humano en cada paso le entrega la iniciativa al atacante. Pero abandonar toda supervisión transfiere la responsabilidad a un artefacto que no puede asumirla. La doctrina resuelve esta tensión posicionando la autoridad humana exactamente donde cambia el resultado — y liberando la velocidad de máquina en todo lo demás.

Dos fallas simétricas

La parálisis es fácil de reconocer: ninguna acción ocurre sin aprobación humana, y el sistema se convierte en un espectador costoso mientras la intrusión avanza. La abdicación es más sutil, porque se disfraza de eficiencia: el sistema actúa, declara éxito, y nadie puede responder por el efecto producido. En ambos casos, el resultado final es el mismo — pérdida de control. En el primero, por exceso de fricción; en el segundo, por ausencia de supervisión.

La no parálisis puntuada trata estas dos fallas como igualmente graves. No intenta maximizar la intervención humana ni minimizarla. Pregunta, para cada clase de decisión, si la presencia humana cambia la probabilidad de un resultado correcto. Donde la cambia, el humano es obligatorio. Donde no la cambia, exigir presencia humana es meramente construir un cuello de botella bajo la apariencia de virtud.

Existe también un tercer error, menos discutido: asumir que el operador humano necesariamente posee más contexto que el sistema. En entornos saturados de telemetría, a menudo ocurre lo contrario. Un humano sobrecargado decide peor que una máquina dentro de un envelope bien definido — no por falta de capacidad, sino por falta de tiempo y de contexto organizado. Diseñar el control humano significa, ante todo, diseñar el contexto que hace posible la decisión humana.

Donde la autoridad humana no es negociable

Algunas decisiones nunca se delegan. Las decisiones que implican riesgo para la vida siempre requieren autoridad humana — independientemente de la latencia, el costo operativo o la sofisticación del sistema. Lo mismo aplica a las acciones irreversibles de consecuencia estratégica y a las escaladas que cambian el estado de las relaciones entre instituciones. En esos puntos, la plataforma observa, correlaciona, simula, recomienda y prepara — pero no cruza la línea de decisión.

Es importante entender qué significa "autoridad humana" en el diseño. El humano no es un botón de emergencia que se presiona después de que todo ya salió mal, ni un sello en una cola de aprobaciones. El humano es parte de la arquitectura. Por eso la pregunta de ingeniería no es "¿aprueba un humano?" sino "¿tiene el humano suficiente contexto para decidir en segundos?". La diferencia es enorme: un sistema que le entrega al operador una decisión preparada — con opciones, consecuencias proyectadas e incertidumbre explícita — habilita una elección humana rápida y bien informada. Un sistema que vuelca datos crudos en el regazo del operador convierte la supervisión en teatro.

Velocidad de máquina donde las consecuencias son reversibles

Del otro lado de la línea están las operaciones que no deben esperar: detección, correlación, priorización, enriquecimiento de contexto, contención reversible, recolección de evidencia y respuesta proporcional. En esa banda, la autonomía opera a velocidad de máquina, dentro de un envelope formal que define límites explícitos de acción. La autonomía no es autoridad: ejecuta lo que puede ejecutar, y sabe exactamente lo que no puede.

Esa disciplina es lo que hace que la autonomía sea útil en lugar de temible. Un sistema que actúa sin conocer sus límites es un riesgo; un sistema que conoce sus límites y opera de forma segura cerca de ellos es una ventaja operativa. La no parálisis es puntuada precisamente porque los puntos de detención se eligen deliberadamente — no se heredan de una doctrina genérica. Y, como toda capacidad de la plataforma, cada acción en esa banda se ejecuta dentro de un envelope formal, con una traza de auditoría y verificación criptográfica del efecto declarado.

El punto central merece repetirse: la autonomía con envelope no es una concesión hecha a las apuradas. Es lo que permite que el operador humano duerma sabiendo que la plataforma reacciona en milisegundos ante eventos reversibles — y lo despierte cuando la decisión es suya. Ese es el equilibrio que perseguimos: ni el sistema lo decide todo, ni el humano es convocado para todo.

La ética como ingeniería, no como descargo de responsabilidad

Nada de esto funciona como retórica. Si el control humano no está en el diseño, no existe. Por eso la plataforma mantiene una traza de auditoría a prueba de manipulación, firma criptográficamente los artefactos que produce y registra, para cada acción, la autoridad bajo la cual se ejecutó y el efecto que declaró. Las auditorías reconstruyen decisiones meses después. Los niveles de autonomía son formales y verificables, no narrativos.

La ética operativa, en este sentido, es una disciplina de ingeniería: se demuestra con evidencia, no con intención. Los estándares abiertos, la verificación criptográfica y la auditoría continua no son accesorios de cumplimiento — son lo que hace posible confiar en un sistema que actúa más rápido de lo que cualquier humano puede seguir.

La autonomía acelera la defensa; los humanos deciden lo que importa. Esa es la doctrina. No ralentiza las operaciones: es lo que permite la máxima velocidad sin perder el control de lo que verdaderamente importa.