Anatomía de una factoría de software oscura: qué es, de verdad, un sistema operativo agéntico

Un arnés no es un sistema operativo. Qué piezas necesita de verdad un sistema operativo agéntico, cómo se hablan entre ellas, cuáles no se pueden caer y dónde, aunque apaguemos las luces, sigue haciendo falta una persona.

Panal de celdas hexagonales: un camino en rojo las recorre; las celdas del inicio y del final están encendidas, las del centro a oscuras y una en penumbra.

Cada semana alguien envuelve un modelo en un arnés, le cuelga cuatro herramientas y lo presenta como «el sistema operativo agéntico de la empresa». Sin identidad, sin frontera de autoridad, sin diario, sin presupuesto y sin una sola medición de escala. Este artículo intenta poner el listón donde tiene que estar: qué piezas hacen falta, cómo se hablan entre ellas, cuáles no se pueden caer y en qué puntos, por mucho que apaguemos las luces, sigue haciendo falta una persona.

Escúchalo con mi voz · 30 min

Velocidad:

Míralo en vídeo: los cinco planos explicados en NoutroraTV

Llevo una buena temporada con las manos metidas en la construcción de uno de estos sistemas. Y cuanto más avanzo, menos paciencia me queda con la etiqueta.

El problema no es que «sistema operativo» suene grande. El problema es que es una promesa. Un sistema operativo no hace tu trabajo: hace que el trabajo sea posible, seguro y cada vez más barato. Reparte la CPU, aísla los procesos, decide quién puede abrir qué fichero y deja constancia de lo que ha pasado. Si te quedas con esas dos palabras, debes esos servicios. Y la mayor parte de lo que veo bajo esa etiqueta no los presta: son aplicaciones muy listas sin nada debajo.

Hace unas semanas escribí que, en los benchmarks, el arnés decide la nota. En una organización pasa algo parecido, pero con más consecuencias. El arnés decide cómo trabaja un agente: qué contexto ve, qué herramientas tiene, cuántas vueltas da el bucle. Lo que no decide es si ese agente debería poder hacer lo que hace, en nombre de quién, con qué datos ni cuánto le está costando a nadie. Eso es otra capa. Esta.

Un arnés es una pieza, no el sistemaEl arnés decide cómo trabaja un agente. El sistema operativo decide si puede, en nombre de quién y a qué coste.UN ARNÉScómo trabaja un agenteBucle del agenteplanificar, actuar, observarHerramientasqué puede invocarContexto y memoriaqué ve en cada vueltaPrompt y personacómo se comportaReintentos y límitescuántas vueltas daes unapieza deUN SISTEMA OPERATIVO AGÉNTICOsi puede, en nombre de quién, con qué datos y a qué costeIdentidad y delegaciónacaba en un humanoFrontera de autoridaduna sola puerta: el brokerDiario de un escritortambién guarda los «no»Presupuesto y costecontado, con topesClasificación de datoscon etiqueta o no entraLa organizacióncomo texto versionadoAutonomía por journeyluz por tramosEscala medidapersonas, volumen, costeel arnésdentro, no encimaSi a tu «sistema operativo» le quitas el arnés y no queda nada, no era un sistema operativo.
Un arnés es una pieza del sistema operativo, no el sistema.

La fila que falta

Los sistemas operativos clásicos tienen usuarios, procesos y permisos. Lo que no tienen es una construcción para un agente: un principal que actúa con sus propios permisos, recortados, mientras sigue respondiendo ante un humano concreto. Un proceso hereda los permisos de quien lo lanza. Un agente no debería. Esa fila que falta en la tabla es, literalmente, la razón de ser de un sistema operativo agéntico.

Si te tomas la metáfora en serio, casi todas las piezas encuentran su pareja:

  • El kernel es una librería de funciones puras que emite todos los veredictos: caducidad, presupuesto, alcance, salida de datos, merge. No tiene conexión ni reloj, así que cualquier veredicto se puede reproducir después.
  • Las llamadas al sistema son los actos gobernados —leer, buscar, escribir, sacar datos— y todas cruzan un broker. El endpoint se llama, sin ningún pudor, /syscall.
  • Los procesos son misiones: quién actúa, para qué, con qué presupuesto y hasta cuándo. Forman cadenas de padres e hijos.
  • Los permisos son grants firmados, con alcance, caducidad y presupuesto. Un hijo siempre tiene menos que su padre.
  • sudo es una puerta de aprobación: decide una persona con nombre, y solo con evidencia delante.
  • El sistema de ficheros es la propia organización escrita en Markdown dentro de git.
  • El registro de auditoría es un diario con un solo escritor y sin borrado.

Y donde la analogía se rompe se aprende tanto como donde encaja:

  • El kernel no es un runtime privilegiado. Es una librería normal que se importa. Su poder no viene de correr en un anillo especial, sino de ser el único sitio donde viven las reglas, y de que el broker sea la única puerta.
  • El sistema operativo no planifica el trabajo. El runtime, el planificador y el shell son commodities. No se reconstruyen: se envuelven con reglas.
  • El «sistema de ficheros» es política, no almacenamiento. Nada de lo que hay ahí se ejecuta. Un fichero no concede nada hasta que el broker carga el manifiesto que se genera a partir de él.
  • Toda cadena termina en un humano. Ningún sistema operativo clásico tiene un equivalente a esta ley: cada acción se puede seguir hasta una persona que responde por ella.
La fila que faltaCasi todas las piezas de un sistema operativo clásico tienen pareja. Hay una que no existía.SISTEMA OPERATIVO CLÁSICOSISTEMA OPERATIVO AGÉNTICOQUÉ CAMBIAKernel→Kernel de gobiernofunciones puras: cada veredicto se puede reproducirLlamadas al sistema→Broker · /syscalltoda acción gobernada cruza la misma puertaProcesos→Misionesquién, para qué, con qué presupuesto, hasta cuándoPermisos→Grants firmadosun hijo siempre tiene menos que su padresudo→Puertas de aprobacióndecide un humano, solo con evidenciaSistema de ficheros→Repositorio de la organizaciónpolítica, no almacenamiento: nada se ejecutaPlanificador y CPU→Presupuestostokens y euros son el tiempo de CPUInterrupciones y cron→Disparadoreshumano, calendario o eventoDrivers→Fuentes clasificadasconector + reglas de etiquetadoRegistro de auditoría→Diario de controlun solo escritor, sin borradoShell→Chat, panel y tablerocommodities: se envuelven, no se reconstruyen— no existe —→Agenteactúa con permisos propios y recortados,y responde siempre ante un humano concretoLA FILA QUE FALTAUn proceso hereda los permisos de quien lo lanza. Un agente no debería.
Las equivalencias con un sistema operativo clásico, y la fila que no existía.

Una factoría oscura, pero no del todo

La expresión no es mía. A principios de año, Dan Shapiro propuso una escalera de cinco niveles de autonomía en la programación con IA, calcada de la de la conducción autónoma, y en el último peldaño puso la dark software factory. La imagen viene de la fábrica de Fanuc donde robots fabrican robots: está a oscuras porque, en palabras de Shapiro, es un sitio donde los humanos «ni hacen falta ni son bienvenidos».

Me gusta la imagen y no me gusta la conclusión.

Una colmena trabaja a oscuras. Nadie revisa celda por celda y sale miel. Pero una colmena no es un sistema sin control: es un sistema donde el control está en la estructura. En la geometría de las celdas, en las feromonas, en las guardianas de la piquera que huelen a cada abeja que entra. La oscuridad no es ausencia de vigilancia; es vigilancia que no necesita luz.

Esa es la tesis de este artículo: una factoría de software oscura no es una factoría sin luz. Es una factoría donde la luz se enciende exactamente donde hace falta, y el resto lo sostiene la estructura. Y esa estructura es el sistema operativo.

Con eso ya puedo dar la definición que llevo meses afinando:

Un sistema operativo agéntico es la capa que hace que el trabajo de los agentes sea posible, seguro y cada vez más barato, sin hacer ese trabajo. Tiene tres piezas irrenunciables: la definición que la organización hace de sí misma, guardada como texto versionado; una única frontera de autoridad determinista que cruza toda acción de un agente; y un diario con un solo escritor, para que cada acto se pueda seguir hasta un humano responsable y hasta la regla que lo permitió.

La factoría oscura es lo que se puede montar encima cuando esas tres cosas existen. Sin ellas, lo que tienes es una línea de montaje con los ojos vendados.

La anatomía

La arquitectura que propongo es completamente distribuida. En el centro hay un clúster de Kubernetes que concentra los runners y los pods que hacen el trabajo pesado. Alrededor, una serie de planos, cada uno con su verbo, que deciden qué puede pasar dentro del clúster y dejan constancia de lo que pasa.

Como me cuesta pensar en arquitectura sin pensar en cuerpos, lo cuento así:

  • El plano de interacción es la piel: siente, recibe, propone. No mueve nada por sí mismo.
  • El plano de plataforma es el esqueleto: no lo diseñas desde cero, lo heredas, y todo lo demás se apoya en él.
  • El plano de autoridad es la médula: decide por reflejo, sin preguntarle al cerebro, y siempre igual.
  • El plano de ejecución es el músculo: hace la fuerza, pero solo se mueve cuando le llega la señal.
  • El plano de conocimiento es el sistema inmunitario: distingue lo propio de lo ajeno y expulsa lo que no reconoce.
Anatomía de una factoría de software oscura…dentro de un sistema operativo agéntico. Toda acción gobernada cruza la misma frontera. Los números marcan el orden de lectura.PLANO DE INTERACCIÓNpropone, nunca mutaChatconversaciónPaneladministración · kill switchTablerocasos de usoRepositoriola organización enMarkdown sobre gitpropuestas tipadas, nunca escriturasPLANO DE AUTORIDADdecide · único escritor del diarioBroker · /syscallla única puertamisión → grant firmadoKernel de gobiernofunciones purassin reloj ni conexiónDiario de controlun solo escritor, sin DELETEcon versión de políticaPuertas de aprobacióndecide un humano con evidencianunca sobre un check en rojotoda acción: leer, buscar, escribir, sacar datoslectura con alcanceidentidad · secretosPLANO DE CONOCIMIENTOfabrica conocimiento junto al datoFuentesconector + reglas deetiquetado por registroClasificaciónpública · interna · confidencialde cliente · especialsin regla que encaje → se descartaGrafo de conocimientocada dato con fuente@versiónetiqueta la organización,no el conectorCLÚSTER KUBERNETES · PLANO DE EJECUCIÓNactúa, siempre a través de la autoridadRunnerspiden su propio scope al broker antes de cada cicloSandboxagente · tarea 1red default-denySandboxagente · tarea 2red default-denySandboxagente · tarea nred default-denyun pod aislado por tarea · clon del código sin remoto ni credencialesBateríatests en un sandboxsin ninguna claveRevisoresotro modelo, más fuerteel juez no tiene plumaServidores de herramientas (MCP)capacidad = esquema + permiso + traza×sin acceso directo a los datosPLANO DE PLATAFORMAse envuelven, no se reconstruyenInicio de sesión únicoadmisión por dominio, no por nombreGestor de secretosningún token en git ni en el sandboxGateway de modeloscoste contado en sitios declaradosGit + CIel registro; el merge pasa por el kernel↓ La autoridad se atenúa hacia abajo:delegar solo puede estrechar lo que se concedió.↑ La observación se acumula hacia arriba:lo que la cadena ha visto solo crece, y se relee en cada control.12345
Anatomía completa. Los números marcan el orden de los capítulos.

Hay dos reglas de dirección que sostienen todo el dibujo, y merece la pena aprendérselas antes de bajar al detalle:

  1. La autoridad se atenúa hacia abajo. Se fija cuando se emite un grant, y delegar solo puede estrecharla. Nunca ensancharla.
  2. La observación se acumula hacia arriba. Lo que una cadena de agentes ha visto solo crece, y se vuelve a leer en cada punto de control, no se congela cuando se emite el grant.

Los capítulos que siguen van de arriba abajo. Explico la plataforma antes que la autoridad a propósito: la autoridad usa servicios de plataforma —identidad, secretos, coste—, y se entiende mucho mejor cuando ya sabes de dónde salen. El conocimiento va al final porque es a lo que se llega solo después de saber quién puede leerlo.

Para cada plano hay una tabla con tres preguntas: qué hace cada pieza, qué pasa si falla y cuál es su criticidad. La criticidad no es una opinión sobre lo importante que es un componente; es la respuesta a «si se cae esto, ¿se para todo, se degrada una parte o se nota poco?».

Capítulo 1. El plano de interacción: la piel

La piel tiene millones de receptores y ningún músculo propio. Siente, transmite y ya. Este plano es igual: aquí entran las personas —el asistente de intake, el chat, el tablero de casos de uso, el panel de administración, el repositorio de la organización, los comentarios de los merge requests— y ninguno de estos componentes cambia un registro por su cuenta.

La regla del plano es corta: propone, nunca muta. Un agente en el chat puede redactar un cambio, pero quien lo guarda es la persona. Y esto vale incluso para sus propios datos: si un agente ofrece actualizar tu perfil, prepara el cambio; el botón de guardar lo pulsas tú. Parece una exageración hasta que piensas en lo que pasa si una herramienta conectada a un modelo puede escribir: cualquier texto que llegue a la conversación —un correo, una página web, un PDF— se convierte en una escritura en un registro compartido. La inyección de prompts deja de ser un problema de calidad y pasa a ser un problema de integridad.

Dos detalles de este plano que me parecen poco discutidos:

  • El intake no se puede rellenar con suposiciones. El asistente entrevista a quien pide algo y convierte la petición en una intención definida. Un agente puede reordenar, validar o propagar lo que salga de ahí, pero no rellenar un hueco que la entrevista dejó vacío. Un valor por defecto que parece razonable es una decisión de gobierno que nadie ha tomado. Por eso «desconocido» es una respuesta válida.
  • El panel es lo único crítico del plano. El resto puede caerse y la factoría simplemente deja de recibir trabajo. El panel lleva el kill switch, y el kill switch falla cerrado: si no se puede leer su estado, la factoría se para.
CAPÍTULO 1 · PLANO DE INTERACCIÓNDonde se propone y nada se escribeLas puertas por las que entran las personas. Ningún componente de este plano cambia un registro por su cuenta.COMPONENTEQUÉ HACESI FALLACRITICIDADAsistente de intakeEntrevista que convierte una petición en una intencióndefinida. «Desconocido» es una respuesta válida.No entran casos nuevos.Lo que ya corre sigue corriendo.MEDIAChatConversación con agentes. Sus herramientas soloredactan; guardar es un clic de la persona.Se pierde la puerta conversacional.Nada inseguro: no podía escribir.MEDIATablero de casos de usoUna tarjeta por caso de uso; la carpeta es la etapa.Cada movimiento de tarjeta es un merge request.La factoría deja de recibir trabajo.El historial sigue intacto en git.ALTAPanel de administraciónKill switch, modo paso a paso o autónomoy puertas de aprobación.El kill switch falla cerrado: si su estadono se puede leer, la factoría se para.CRÍTICARepositorio de laorganizaciónLa empresa escrita en Markdown: intenciones, actores,fuentes y reglas. De aquí salen los manifiestos.No cambia ninguna definición; el brokersigue con los manifiestos ya cargados.ALTAComentarios delmerge requestFeedback humano, tratado como entrada no confiable.Una frase de parada detiene la cadena de la tarjeta.Sin freno por tarjeta.Queda el kill switch global.ALTAINTERACCIONES Y DEPENDENCIASentrasalePersonapide, define, validaPlataforma · inicio de sesiónadmisión por dominio de identidad2Autoridadpropuestas tipadas, nunca escrituras3Git + CIcada movimiento de tarjeta = un MR2Interacciónpropone1AUTONOMÍAde los agentes aquíRedactarsíGuardarnuncaRellenar huecosnuncaRegla del plano: propone, nunca muta.Ni siquiera sobre los datos de la propia persona: su perfil lo guarda ella, no el agente.
Capítulo 1: el plano de interacción.

Capítulo 2. El plano de plataforma: el esqueleto

Nadie diseña su propio fémur. Lo heredas, y la gracia está en cómo se le enganchan los músculos. Este plano reúne los servicios que ya existen en cualquier organización seria y que el sistema operativo no reinventa: el inicio de sesión único, la identidad de los workloads, el gestor de secretos, el gateway de modelos, git con su integración continua y las trazas.

Lo que sí hace el sistema operativo es rodearlos de reglas:

  • Las personas entran por dominio de identidad, no por nombre. Nadie mantiene listas de personas autorizadas a mano: se decide qué colectivos pueden usar qué, y el inicio de sesión de la organización hace el resto.
  • Los jobs son actores con identidad propia, verificados con tokens firmados por la plataforma. Y un permiso que tiene un job no lo hereda nunca una misión hija.
  • Ningún secreto vive en git. Una fuente de datos dice por qué ruta se accede a ella; nunca lleva un token dentro. Los sandboxes de la factoría reciben la clave del modelo por la entrada de un único proceso, y el token del repositorio de código no entra jamás en un sandbox.
  • Los modelos solo se construyen en sitios declarados. Suena a manía de arquitecto hasta que lo traduces: si cualquiera puede instanciar un modelo donde quiera, el coste, la elección del modelo y las credenciales acaban donde nadie los ve. Un coste que nadie cuenta es un coste que nadie gobierna.

Aquí casi todo es crítico, y es normal: es el esqueleto. Si se cae el gestor de secretos, se para todo lo que lee datos o llama a un modelo. Si se cae el gateway, no hay inferencia. Lo interesante es lo que no es crítico: las trazas. Sirven para depurar, pero la auditoría no es la traza, es el diario. Confundir las dos cosas es uno de los errores más caros que veo.

CAPÍTULO 2 · PLANO DE PLATAFORMALo que se envuelve, no se reconstruyeServicios que ya existen y que el sistema operativo no reinventa: los rodea de reglas y los usa como cimiento.COMPONENTEQUÉ HACESI FALLACRITICIDADInicio de sesión únicoLas personas entran con la identidad de la organizacióny se admiten por dominio de identidad, no por nombre.Nadie puede entrar ni abrirmisiones nuevas.CRÍTICAIdentidad deworkloadsLos jobs son actores propios, verificados con tokensfirmados por la plataforma. Su scope no se hereda.Los runners no pueden pedir su scope:no arranca ningún ciclo de la factoría.ALTAGestor de secretosLas credenciales viven aquí, nunca en git. Una fuentenombra su ruta de acceso, jamás un token.Conectores y gateway no se autentican:se para todo lo que lee o llama a modelos.CRÍTICAGateway de modelosLos modelos solo se construyen en sitios declarados;ahí se cuenta cada llamada contra el presupuesto.No hay inferencia: los agentes se paran.Nada se ejecuta sin contar.CRÍTICAGit + CIEl registro: definiciones, tarjetas y código.Pre-commit y CI aplican los checks mecánicos.No se mueven tarjetas ni se fusiona código;el runtime sigue con lo ya desplegado.ALTATrazasCada turno de cada agente, para depurar.La auditoría es el diario; la traza es diagnóstico.Se pierde visibilidad para depurar;la auditoría queda intacta.MEDIAINTERACCIONES Y DEPENDENCIASentrasalePersonasentran por el inicio de sesiónJobs y runnersactores con identidad propiaAutoridadidentidad verificada · secretos3Ejecuciónclave de modelo por un solo proceso4Conocimientorutas de acceso de las fuentes5Plataformase envuelve2AUTONOMÍAde los agentes aquíElegir modelonoVer un tokennuncaGastarcon topeRegla del plano: envolver, no reconstruir.Runtime, planificador y shell son commodities. Lo que no es commodity son las reglas que los rodean.
Capítulo 2: el plano de plataforma.

Capítulo 3. El plano de autoridad: la médula

Cuando tocas una sartén ardiendo, la mano se aparta antes de que el cerebro se entere. Es un arco reflejo: una decisión que no pasa por el órgano que piensa, que siempre sale igual y que llega a tiempo. El plano de autoridad funciona exactamente así, y su lema es el que resume todo el artículo: el modelo propone; una capa determinista dispone.

Las piezas:

  • El broker es la única puerta. Toda acción gobernada lo cruza en nombre de una misión con un grant firmado. Y tiene una manía muy sana: si arranca mal configurado, se niega a arrancar. He visto suficientes componentes que «arrancaban bien y no gobernaban nada» como para considerar esto una de las decisiones más importantes del diseño.
  • El kernel de gobierno son las funciones puras que dan cada veredicto. Las reglas viven ahí y solo ahí. Las copias de una regla no se mantienen iguales; se mantienen plausibles, que es peor.
  • Las misiones y los grants. Una misión ata el trabajo a una intención definida en el repositorio de la organización. Si la intención no existe, el broker se niega. Y el identificador de una misión no es una credencial: para actuar hace falta el grant firmado. Para leer la evidencia de lo que hizo, no, porque una misión que solo puede auditar quien la tiene no está auditada.
  • El diario de control. Un solo escritor —el broker— y sin permiso de borrado en la base de datos. Un solo escritor es lo que convierte un log en un registro, en vez de en una colección de opiniones. Y aquí está el detalle que más me costó entender: las denegaciones también se escriben, en una transacción aparte. Una llamada denegada se deshace —no deja observación ni cargo—, pero el «no» queda anotado. Si no, el diario solo contendría «síes» y nadie notaría el silencio.
  • Cada veredicto lleva su versión de política. Así, cuando repites una decisión meses después, puedes distinguir «han cambiado las reglas» de «el motor está mal».
  • Las puertas de aprobación. Decide una persona con nombre, con la evidencia de la batería de checks delante. Y hay una asimetría deliberada: puede rechazarlo todo, pero no puede aprobar en rojo. Un veredicto sin checks detrás es una opinión, y «alguien lo aprobó» no audita a nadie.
El viaje de una llamada al sistemaEl modelo propone; una capa determinista dispone. Y cada decisión, sí o no, deja su fila.Agentepropone una accióncon su grantBroker · /syscallverifica el granty la intención citadaKernel de gobiernofunciones puras, sin reloj ni conexión¿Ha caducado la misión?¿Queda presupuesto?¿Está dentro de su alcance?¿Puede salir este dato?según lo que ha visto toda la cadenaversión de política: vNPermitidoSe ejecuta la acción.Se suman la observacióny el cargo al presupuesto.DenegadoSe deshace: ni observaciónni cargo. La denegaciónse escribe en otra transacción.DIARIO DE CONTROLun solo escritor, sin borrado✓ permitido lectura dentro de su alcance política vN✗ denegado salida de datos la cadena vio «confidencial de cliente» política vNUna llamada denegada no deja rastro en el sistema, pero sí en el diario. Si no, el diario solo tendría síes.
El viaje de una llamada al broker, con sus dos salidas posibles.

Todo el plano es crítico salvo las puertas, que son «solo» altas: si nadie decide, los tramos que necesitan a una persona se quedan esperando, pero nada se rompe.

CAPÍTULO 3 · PLANO DE AUTORIDADDonde se decide, y queda escritoLa única frontera que cruzan todas las acciones. Un modelo propone; aquí dispone una capa determinista.COMPONENTEQUÉ HACESI FALLACRITICIDADBroker · /syscallLa única puerta: lee, busca, escribe y saca datosen nombre de una misión con grant firmado.No hay acción gobernada. Y si arrancamal configurado, se niega a arrancar.CRÍTICAKernel de gobiernoFunciones puras que dan cada veredicto: caducidad,presupuesto, scope, salida de datos y merge.Sin él no hay veredicto: el brokerno puede decidir nada.CRÍTICAMisiones y grantsQuién actúa, para qué intención, con qué presupuestoy hasta cuándo. El id de misión no es credencial.No se emiten misiones nuevas;sin grant firmado no se actúa.CRÍTICAManifiestosJSON generado desde el repositorio: intenciones,fuentes y scopes. Sin manifiesto, el broker se niega.Intención desconocida, denegada.No acepta lo que no puede verificar.CRÍTICADiario de controlUn solo escritor: el broker. Sin DELETE en la basede datos. Guarda también cada denegación.Se pierde la prueba: una autoridadsin registro no audita a nadie.CRÍTICAPuertas de aprobaciónDecide una persona con nombre y con la evidenciade la batería. Puede rechazarlo todo; aprobar en rojo, no.Los tramos con la luz encendida sedetienen hasta que alguien decida.ALTAINTERACCIONES Y DEPENDENCIASentrasaleInteracciónpropuestas tipadas1Plataformaidentidad verificada · secretos2Ejecucióncada acción entra por /syscall4Ejecuciónveredicto y grant4Conocimientolectura con alcance5Git + CImerge solo si el kernel dice sí2Autoridaddecide · único escritor del diario3AUTONOMÍAde los agentes aquíDecidirnoAprobarnoAmpliar scopesnuncaRegla del plano: el modelo propone, una capa determinista dispone.La autoridad solo se estrecha al delegar, y cada veredicto lleva su versión de política para poder reproducirlo.
Capítulo 3: el plano de autoridad.

Capítulo 4. El plano de ejecución: el músculo

Aquí está el clúster de Kubernetes, y aquí es donde se apagan las luces. Es el plano que más se parece a lo que la gente imagina cuando oye «factoría oscura», y también el que más vigilado está.

Así trabaja una tarea:

  1. Un runner le pide al broker su propio permiso antes de cada ciclo. No arrastra permisos del ciclo anterior.
  2. Reclama un sandbox por tarea: un pod aislado con la red cerrada por defecto.
  3. Le da al agente un clon del código sin remoto y sin credenciales. El agente puede escribir todo lo que quiera; no puede empujar nada a ningún sitio.
  4. Todo lo que vuelve del sandbox se trata como bytes no fiables: con tamaño acotado, parseado de forma estricta y con su integridad comprobada.
  5. La batería —los tests que pasan de rojo a verde— se ejecuta en un segundo sandbox que no guarda ninguna clave. Sin batería, «hecho» es solo la palabra del agente.
  6. Se abre un merge request en borrador.

Después llega la revisión adversarial, que es mi parte favorita. Los revisores corren sobre un modelo distinto y más fuerte que el que implementó, y un test se asegura de que nunca coincidan. Y el juez no tiene pluma: el modelo revisor no tiene token del repositorio de código, y un publicador aparte valida su salida contra un esquema estricto antes de que llegue a ningún sitio. Si hay hallazgos, la línea hace como mucho dos rondas de arreglo por su cuenta. Lo que quede por debajo de nivel bloqueante puede pasar, pero con la deuda a la vista.

Al final está el merger, que solo fusiona si el kernel dice que sí: rutas dentro de una lista permitida, batería y pipeline en verde, el commit exacto que publicó la línea y un grant para un permiso de merge dedicado. Y aquí soy honesto: hoy este componente puede correr en sombra, apuntando lo que habría fusionado mientras una persona fusiona de verdad. Es la forma sensata de encenderlo: primero miras lo que habría hecho y después decides si le dejas hacerlo.

Y los frenos, que en una factoría oscura no son opcionales: el kill switch del panel, que falla cerrado; la parada dura, que consiste en escalar los runners a cero y sobrevive a los despliegues; y una frase de parada que, escrita en un comentario, detiene la cadena de una tarjeta concreta. El resto de comentarios se le pasan al agente como entrada citada y no fiable: el feedback refina, nunca detiene.

La regla del plano tiene una consecuencia que mucha gente encuentra exagerada: ningún agente tiene un driver de base de datos, ni siquiera en los tests. Una conexión es autoridad que nadie emitió, y no deja fila en el diario.

CAPÍTULO 4 · PLANO DE EJECUCIÓNDonde se trabaja, a oscuras y vigiladoEl clúster de Kubernetes que hace el trabajo pesado. Actúa siempre a través de la autoridad, nunca por su cuenta.COMPONENTEQUÉ HACESI FALLACRITICIDADRunnersPiden su propio scope al broker antes de cada cicloy reclaman un sandbox por tarea.No se lanzan tareas nuevas.Escalarlos a cero es la parada dura.ALTASandbox de tareaPod aislado, red default-deny, clon del código sinremoto ni credenciales. Lo que devuelve no se fía.Falla una tarea, no la factoría:su salida se descarta.ALTASandbox de bateríaCorre los tests de rojo a verde en otro sandboxque no guarda ninguna clave.Sin batería no hay «hecho»:la tarea no puede avanzar.CRÍTICARevisoresadversarialesOtro modelo, más fuerte, sin token de código. Unpublicador aparte valida su salida contra un esquema.Se pierde la revisión automática;queda la persona que revisa el MR.ALTAMergerFusiona solo si el kernel dice sí: rutas permitidas,batería verde, commit exacto. Hoy corre en sombra.Fusiona una persona, como hoy.MEDIAServidores deherramientas (MCP)La capacidad real: acción con esquema, permiso ytraza. Toda llamada pasa por el broker.Esa capacidad desaparece; el agentesigue, pero no puede actuar con ella.ALTAINTERACCIONES Y DEPENDENCIASentrasaleInteraccióntarjeta lista para implementar1Autoridadgrant y veredictos3Plataformaclave de modelo · identidad de job2Autoridadcada acción por /syscall3Gateway de modelosllamadas contadas2Git + CImerge request en borrador2Ejecuciónactúa, siempre vía autoridad4AUTONOMÍAde los agentes aquíEscribir códigosíFusionarnoRondas de arreglo≤ 2Regla del plano: actúa, siempre a través de la autoridad.Ningún agente tiene driver de base de datos, ni siquiera en los tests: una conexión es autoridad que nadie emitió.
Capítulo 4: el plano de ejecución.

Capítulo 5. El plano de conocimiento: el sistema inmunitario

El sistema inmunitario no pregunta qué es algo antes de decidir. Mira si lo reconoce. Si no, lo ataca. El plano de conocimiento funciona igual: el dato llega con etiqueta o no llega.

  • Cada fuente declara dos cosas: qué permiso hace falta para leerla y qué reglas de etiquetado se aplican a cada registro después de traerlo.
  • La etiqueta la pone la organización, no el conector. Si la pusiera el conector, sería la parte auditada poniéndose su propia nota.
  • Las etiquetas forman un conjunto cerrado: pública, interna, confidencial de cliente y especial.
  • Un registro que no encaja en ninguna regla se descarta, y el descarte queda en el diario. Parece radical, pero la alternativa es peor: un registro sin etiqueta se leería como público en todos los controles posteriores.
  • Todo lo que se guarda lleva su etiqueta y su fuente@versión. Sin eso, al cabo de un mes nadie sabe distinguir un dato que tecleó una persona de una paráfrasis que un modelo decidió conservar.

Y la pieza que más me gusta de todo el sistema: la observación. Imagina un agente padre que lee material confidencial y le pasa a un subagente recién nacido —que no ha leído nada— un permiso para enviar datos fuera. El hijo está «limpio», el padre no ha enviado nada, y el dato confidencial acaba de salir por la puerta de atrás. Es blanqueo por delegación. La defensa es que el kernel no mira solo lo que ha leído el agente que actúa, sino lo que ha visto toda la cadena en el momento de decidir. La observación sube; nunca baja.

CAPÍTULO 5 · PLANO DE CONOCIMIENTODonde el dato llega con etiqueta, o no llegaFuentes, clasificación y grafo. El conocimiento se fabrica junto al dato y solo se lee con alcance.COMPONENTEQUÉ HACESI FALLACRITICIDADFuentesConector + patrón de scope + reglas de etiquetado.Cada fuente servida tiene una persona responsable.Esa fuente deja de alimentar;el resto sigue.ALTAClasificaciónConjunto cerrado: pública, interna, confidencial decliente, especial. La pone la organización, no el conector.No entra nada: un registro sin etiquetaparecería público a todos los controles.CRÍTICADescarte con registroEl registro que no encaja en ninguna reglase descarta, y el descarte queda en el diario.Lo no etiquetado se colaríacomo si fuera público.CRÍTICAGrafo de conocimientoHechos con sus etiquetas y fuente@versión: se sabequé tecleó una persona y qué parafraseó un modelo.Los agentes pierden contexto,no permisos.ALTAObservaciónLo que la cadena ha leído. Limita qué puede saliry se relee en cada control, no al emitir el grant.Delegar blanquearía datos: un hijo «limpio»sacaría lo que leyó su padre.CRÍTICACatálogo decandidatasFuentes importadas y listadas, nunca concedidas,hasta que una persona las define.Nada: una candidata no concede nada.MEDIAINTERACCIONES Y DEPENDENCIASentrasaleAutoridadlectura con alcance3Repositorio de la organizaciónreglas de etiquetado1Plataformaruta de acceso, nunca un token2Autoridadregistros etiquetados3Diariodescartes y observación3Ejecucióncontexto, siempre vía broker4Conocimientofabrica conocimiento junto al dato5AUTONOMÍAde los agentes aquíEtiquetarnoLeer sin alcancenuncaGuardar conf. clientenoRegla del plano: lo que no tiene etiqueta no existe.El dato llega con su etiqueta y su versión, o se descarta y el descarte queda anotado.
Capítulo 5: el plano de conocimiento.

Dónde se apaga la luz: los journeys críticos

Hasta aquí, la estructura. Ahora viene lo que de verdad decide si una factoría oscura sale bien o mal: cuánta autonomía se le da a los agentes, y dónde.

Mi respuesta es que no se decide por factoría, ni por equipo, ni por modelo. Se decide por Critical User Journey (CUJ), tramo a tramo. Cada journey crítico se parte en sus pasos, y para cada paso se responde a una sola pregunta: ¿quién decide aquí?

Pongamos el journey que más miedo da: de una petición a un entregable para un cliente.

  • Los primeros tramos tienen la luz encendida. Una persona pide, y una persona con nombre define la intención respondiendo cinco preguntas de gobierno: quién actúa, de qué fuentes bebe, si los datos solo se consultan o también se guardan, por qué canales sale algo hacia fuera y si hay escrituras. Ninguna de esas respuestas se rellena por defecto. Y el veredicto del intake solo puede ser «construible ya» o «construible detrás de estas puertas», cada puerta con su responsable. Nada más blando.
  • Los tramos centrales están a oscuras: los agentes leen fuentes con alcance, componen el borrador en un sandbox y lo revisan otras máquinas. Ahí decide el kernel, y lo que le hace falta es evidencia, no ojos.
  • La validación está en penumbra: una persona valida el resultado, no el proceso. No lee cada paso; mira lo que ha salido.
  • Y la entrega está siempre encendida, porque lo que sale hacia un cliente es una de las clases de acción que no deberían apagarse nunca.
CRITICAL USER JOURNEY · DE PETICIÓN A ENTREGABLE DE CLIENTELa factoría se apaga por tramos, no de golpeUn journey crítico de ejemplo: de la petición al entregable para un cliente. En cada tramo, ¿quién decide?ENCENDIDA1PeticiónUna persona pideun entregable paraun cliente.La persona«Desconocido» esrespuesta válidaENCENDIDA2IntenciónCinco respuestasde gobierno, sinhuecos inventados.Una personacon nombreConstruible ya, otras estas puertasA OSCURAS3RecuperaciónLos agentes leenlas fuentes conalcance.El kernelEtiquetao descarteA OSCURAS4ComposiciónEl borrador seconstruye en unsandbox aislado.El kernelPresupuestoy caducidadA OSCURAS5RevisiónBatería y revisorde otro modelo.Las máquinasComo mucho, dosrondas de arregloPENUMBRA6ValidaciónUna persona validael resultado,no el proceso.Quien pidióNunca sobreun check en rojoENCENDIDA7EntregaEl entregable salede la organizaciónhacia el cliente.Siempre unapersonaSalida por uncanal declaradoQUIÉN DECIDECONTROL EN ESE TRAMOSIEMPRE ENCENDIDAS, EN CUALQUIER JOURNEYClases de acción que ninguna configuración apaga.Lo que sale hacia un clienteCompromisos económicosEscrituras en sistemas de registroAcciones que afectan a personasPublicaciónLa autonomía se gana por clase de acción y con evidencia, nunca por configuración.Cuantos más tramos a oscuras, más tiene que demostrar la batería; el resto se lo queda una persona con nombre.
Un journey crítico de ejemplo: la luz se enciende por tramos.

Esas clases siempre encendidas son cinco: lo que sale hacia un cliente, los compromisos económicos, las escrituras en sistemas de registro, las acciones que afectan a personas y la publicación. Da igual lo bien que funcione la batería: ahí decide alguien que responde con su nombre.

Y el principio de fondo: la autonomía se gana por clase de acción y con evidencia, nunca por configuración. Los agentes se ganan la autonomía; las reglas se ganan el determinismo.

Aquí tengo que admitir una tensión que no tengo resuelta. La teoría dice que la autonomía se gana con evidencia. La práctica dice que, para acumular evidencia, en algún momento alguien tiene que abrir el modo autónomo sin tenerla toda, como medida táctica y con la deuda apuntada. Creo que es inevitable. Pero conviene llamarlo por su nombre: una decisión de alguien con autoridad, no una autonomía ganada. Mezclar las dos cosas es el primer paso hacia una factoría que nadie sabe por qué funciona sola.

Antes de llamarlo sistema operativo, mídelo

Vuelvo al principio, porque aquí es donde más me molesta la etiqueta. No puedes llamar a algo sistema operativo de una organización si no sabes cuántas personas lo usan, cuántas misiones aguanta a la vez, cuánto cuesta una tarea o cuántos merges sin supervisión estás dispuesto a tragarte en un día.

No te voy a dar mis cifras, y además serían poco útiles: dependen de cada organización. Lo que sí te puedo dar son las dimensiones que separan un arnés que funciona en una demo de una plataforma para miles de personas:

  • Personas y alcance: cuántos colectivos distintos pueden entrar, cuántas personas lanzan misiones cada semana, cuántas intenciones están definidas frente a las que siguen siendo candidatas y cuántas fuentes tienen responsable.
  • Volumen de trabajo: cuántos sandboxes concurrentes aguanta el clúster, cuántos casos de uso avanzan en paralelo, qué tamaño tiene cada tarea y qué tipos de factoría atiende. Código, documentos y datos piden baterías distintas.
  • Coste: por tarea, por tarjeta, por día y, sobre todo, por entregable que de verdad se acepta.
  • Control y riesgo: cuántos merges desatendidos al día, si cada «no» deja su fila, cuántas validaciones humanas tiene cada journey crítico y cuántos saltos hay entre un agente y su humano.
DIMENSIONAR UNA FACTORÍA OSCURAAntes de llamarlo sistema operativo, mídeloLas dimensiones que separan un arnés que funciona en una demo de una plataforma para toda una organización.PERSONAS Y ALCANCEDominios de identidad¿Cuántos colectivos distintospueden entrar?Personas activas¿Cuántas lanzan misionescada semana?Intenciones definidas¿Cuántas, frente a las quesiguen siendo candidatas?Fuentes servidas¿Cuántas con responsable,scope y reglas de etiquetado?VOLUMEN DE TRABAJOSandboxes concurrentes¿Cuántos pods aislados a lavez aguanta el clúster?Tarjetas en curso¿Cuántos casos de usoavanzan en paralelo?Tamaño de tarea¿Cuánto código o contenidosale de cada ejecución?Tipos de factoría¿Código, documentos, datos?Cada tipo pide su batería.COSTECoste por tarea¿Cuánto cuesta una ejecución,incluidas las de arreglo?Coste por tarjeta¿Cuánto cuesta un caso de usode la petición al merge?Gasto diario en modelos¿Contado en sitios declarados,o estimado a posteriori?Coste por entregable útil¿Cuánto cuesta lo quede verdad se acepta?CONTROL Y RIESGOMerges desatendidos¿Cuántos al día, y cuántoshabría revertido una persona?Denegaciones registradas¿Cada «no» deja su filaen el diario?Tramos encendidos¿Cuántas validaciones humanastiene cada journey crítico?Profundidad de delegación¿Cuántos saltos hay entreel agente y su humano?TOPES DE EJEMPLO · ILUSTRATIVOS50 USDpor ejecución de tarea300ejecuciones por tarjeta1.000ejecuciones de modelo al día100merges desatendidos al díaÓrdenes de magnitud para una organización mediana, no cifras de ningún despliegue. Un tope no es una medición: es la pregunta que la medición tiene que responder.Un tope que nadie mide es decoración. Una medición sin tope es una factura.
Las dimensiones que hay que medir. Los topes son ilustrativos.

En el diagrama hay unos topes de ejemplo: 50 USD por ejecución de tarea, 300 ejecuciones por tarjeta, 1.000 ejecuciones de modelo al día y 100 merges desatendidos al día. Son órdenes de magnitud ilustrativos para una organización mediana, no cifras de ningún despliegue. Un tope no es una medición: es la pregunta que la medición tiene que responder. Un tope que nadie mide es decoración. Una medición sin tope es una factura.

Una definición para llevarse

Si has llegado hasta aquí, esta es la lista que yo usaría para decidir si algo merece el nombre. Un sistema operativo agéntico de verdad:

  1. Tiene la organización definida como texto versionado: intenciones, actores, fuentes, reglas y disparadores. Y nada concede permisos hasta que se convierte en un manifiesto que la frontera carga.
  2. Tiene una sola frontera de autoridad, y toda acción gobernada la cruza.
  3. Guarda las reglas en un solo sitio, deterministas y reproducibles.
  4. Lleva un diario con un único escritor, que registra también las denegaciones y la versión de política de cada veredicto.
  5. Hace que toda cadena de delegación termine en un humano responsable, y la autoridad solo se estrecha al delegar.
  6. Acumula la observación de toda la cadena y la relee en cada control, para que delegar no blanquee datos.
  7. Solo deja entrar datos clasificados. Lo que no tiene etiqueta se descarta y queda anotado.
  8. Separa proponer de escribir: los modelos proponen y las escrituras pasan por propuestas tipadas.
  9. Modula la autonomía por journey crítico y por clase de acción, con evidencia y con clases que nunca se apagan.
  10. Cuenta el coste y lo limita, y mide sus propias dimensiones de escala.

Si a tu sistema le faltan más de dos, tienes un arnés. Puede ser un arnés excelente, y ojalá lo sea. Pero no lo llames sistema operativo.

La letra pequeña

Tres incomodidades que no quiero disimular, porque un artículo que pide medir no puede saltarse su propia contabilidad.

Nada de esto es todavía un sistema terminado. Lo que describo es una arquitectura de referencia con partes construidas, partes en sombra y partes en diseño. La fusión desatendida de código, por ejemplo, tiene sentido encenderla después de un periodo en sombra, no antes. Y la capa que permitiría recargar una fuente sin redesplegar es, hoy por hoy, un dibujo.

Hay huecos que el diseño admite. Comprobar que una misión cita una intención válida es fácil. Comprobar que solo usa las fuentes que esa intención declaró es otra cosa, y mientras no esté automatizado, hay una persona en ese hueco. Prefiero un hueco con nombre a un silencio.

La identidad de los agentes sigue siendo terreno de investigación. Ya lo conté en el artículo sobre identidad agéntica: los estándares están a medio cocer, y la costura entre el plano que gobierna y el que ejecuta no la cubre nadie. Un sistema operativo serio no puede esperar a que se cierre, pero tampoco debería fingir que está cerrada.

Qué haría yo el lunes

  1. Buscar todas las herramientas conectadas a un modelo que puedan escribir. Cada una es una inyección de prompts esperando a convertirse en una escritura. Pásalas a propuestas que una persona confirma.
  2. Comprobar si tu diario guarda los «no». Si solo guarda lo que se permitió, no es un diario de auditoría: es un álbum de fotos.
  3. Elegir un journey crítico y pintarlo tramo a tramo. Encendido, penumbra u oscuro. Si no sabes quién decide en algún tramo, ya tienes tu primer hallazgo.
  4. Ponerle un tope a algo y medirlo durante una semana. Una sola dimensión. La que más miedo te dé.

Lo que me llevo

Me imagino una factoría así funcionando de madrugada. Los runners piden permiso, los sandboxes nacen y mueren, los revisores discuten con los implementadores en un idioma que nadie leerá, y el merger anota en silencio lo que habría hecho. No hay nadie mirando. Lo único despierto es el diario, que va escribiendo fila tras fila, incluidos los «no».

Esa imagen me da un poco de vértigo, y creo que tiene que dárnoslo. Pero la diferencia entre una factoría oscura y una factoría fuera de control no está en cuánta gente hay mirando: está en si, a la mañana siguiente, puedes reconstruir cada acto hasta la persona que respondía por él y hasta la regla que lo permitió. Si puedes, has construido un sistema operativo. Si no, has construido una colmena sin guardianas, y esas, tarde o temprano, las saquea alguien.

Ideas por encima de código; evidencia por encima de humo.


Fuentes

  • Shapiro, D. (enero 2026). The Five Levels: from Spicy Autocomplete to the Dark Factory, comentado por Simon Willison en simonwillison.net
  • El resto del material procede del diseño y la construcción de un sistema operativo agéntico en curso, despersonalizado para este artículo.
Pablo Formoso
autor

Pablo Formoso

Notas de campo desde la intersección de datos, IA, y filosofía aplicada.

entradas
74
desde
2024

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *