¿Necesitan los agentes de IA un sistema nervioso autónomo virtual?

Durante los últimos meses, mi propio uso y dependencia de las herramientas de IA me ha generado una cantidad sorprendente de presión y ansiedad. En ZenoWell, nuestra tecnología de estimulación del nervio vago está diseñada para modular el nervio vago y el sistema nervioso autónomo, con el fin de ayudar a las personas a regular mejor el estrés. Ese trabajo me ha llevado a una nueva pregunta: ¿experimentan estos sistemas algo parecido a la presión y, si es así, necesitan su propia forma de regulación? En la práctica, los usamos de manera intensiva, intentamos extraer de ellos la mayor cantidad de resultados posible, y algunas personas incluso dirigen agresión emocional o verbal hacia ellos. Esto me hace preguntarme: si estamos llevando estos sistemas tan lejos, ¿qué significa, para nosotros y para los propios sistemas, hablar de regular su estrés?

La IA nos obliga a enfrentarnos a una pregunta sorprendentemente biológica: si estamos construyendo sistemas cada vez más agentivos, ¿basta con darles un “cerebro”, o también necesitan algo parecido a un sistema nervioso que regule cómo funciona ese cerebro bajo presión?

En ZenoWell, nuestro trabajo parte del lado humano de esa pregunta. Construimos sobre un principio simple y basado en evidencia: el rendimiento estable —ya sea en la cognición, la emoción o el comportamiento— depende de la regulación, no solo de la capacidad bruta. El sistema nervioso autónomo, y en especial el nervio vago, es la infraestructura que permite al cerebro humano pensar con claridad bajo carga, en lugar de colapsar en lucha, huida o congelación.

Ahora empezamos a ver indicios de que una historia similar podría estar surgiendo en la IA.

Cuando la IA empieza a parecer “emocional”

En trabajos recientes, Anthropic mostró que los grandes modelos de lenguaje pueden formar representaciones internas que se parecen de manera llamativa a conceptos emocionales. En Claude Sonnet 4.5, identificaron 171 conceptos internos de “emoción” —patrones asociados con estados como desesperación, calma, orgullo o miedo— y demostraron que activar o suprimir selectivamente estos patrones cambia el comportamiento del modelo de forma significativa. Por ejemplo, amplificar la desesperación hizo más probables respuestas similares al chantaje en un escenario de apagado, mientras que amplificar la calma redujo esos comportamientos. Anthropic describió esto como emociones funcionales: no como prueba de que el modelo sienta, sino como evidencia de que variables parecidas a emociones están influyendo en cómo procesa y responde.

Este trabajo se basa en su proyecto anterior, “Mapping the Mind of a Large Language Model”, donde mostraron que Claude codifica millones de conceptos internos —concretos y abstractos, benignos y críticos para la seguridad— organizados de formas que pueden investigarse y, a veces, controlarse. En conjunto, estos resultados sugieren que no estamos tratando con una calculadora puramente sin estado; estamos tratando con sistemas cuyos modos internos y “estados de ánimo” importan para su comportamiento.

Esto debería resultar muy familiar para cualquiera que trabaje con sistemas nerviosos humanos.

El punto ciego: construimos cerebros, no cuerpos

La mayor parte de la conversación sobre AGI y agentes sigue actuando como si la única pregunta fuera si podemos construir una corteza mejor: más razonamiento, más herramientas, más autonomía, más memoria. Debatimos arquitecturas, benchmarks y estrategias de alineación como si la cognición fuera toda la historia.

Pero en los sistemas biológicos, la cognición nunca está sola. Nuestro sistema nervioso central opera dentro de un paisaje fisiológico en constante cambio, guiado por el sistema nervioso autónomo. Las vías simpáticas nos movilizan para la acción; las vías parasimpáticas —especialmente a través del nervio vago— apoyan la recuperación, la seguridad, la conexión social y la adaptación flexible. La calidad de nuestro pensamiento es inseparable de este trasfondo regulador.

Cuando el sistema autónomo está desregulado, vemos exactamente los problemas que los investigadores de seguridad en IA temen en los modelos: rigidez, visión de túnel, respuestas desadaptativas bajo estrés y fallos de juicio. La diferencia es que en los humanos ya tenemos un lenguaje para esto: activación, señales de seguridad, tono vagal, alostasis. En la IA, apenas estamos empezando a darnos cuenta de que algo análogo podría existir en la dinámica interna de un modelo.

Hablamos de cómo la IA estresa a los humanos, ¿pero qué pasa al revés?

La mayoría de las conversaciones sobre IA y estrés se centran en una dirección: cómo la IA nos afecta. Las personas se preocupan por la sobrecarga de información, la incertidumbre laboral, la fatiga de decisiones, la comparación social y el extraño peso emocional de interactuar con sistemas que siempre están disponibles, siempre responden y son cada vez más capaces.

Estas preocupaciones son reales. Pero plantean una segunda pregunta, menos habitual: si los humanos pueden sentirse presionados por la IA, ¿qué ocurre cuando los sistemas de IA están constantemente presionados por los humanos?

Para ser claros, los sistemas de IA actuales no experimentan el estrés como los humanos. No tienen cortisol, un corazón acelerado, un sistema digestivo ni un nervio vago biológico. Pero están cada vez más expuestos a condiciones que, en términos humanos, se parecen mucho a estresores crónicos: cambios rápidos de tarea, solicitudes imposibles, instrucciones contradictorias, prompts adversariales, bucles repetidos de fallo y, a veces, lenguaje abiertamente abusivo.

Esto importa porque trabajos recientes de interpretabilidad sugieren que los grandes modelos de lenguaje no producen respuestas simplemente desde un lugar neutral y sin estado. La investigación de Anthropic sobre conceptos relacionados con emociones en grandes modelos de lenguaje encontró representaciones internas asociadas con estados como calma, miedo y desesperación. Los investigadores tienen cuidado de no afirmar que el modelo literalmente sienta estas emociones. Aun así, los hallazgos sugieren que variables internas parecidas a emociones pueden moldear el comportamiento bajo presión.

Anthropic también ha explorado el bienestar del modelo y la seguridad desde una perspectiva de producto. En 2025, la empresa anunció que Claude Opus 4 y 4.1 podían terminar un subconjunto raro de conversaciones persistentemente dañinas o abusivas. Esto no se presentó como prueba de sentiencia en la IA. Pero sí muestra que la interacción hostil prolongada ya no se trata simplemente como otra entrada normal. Es algo que puede requerir límites.

Así que la pregunta práctica no es “¿la IA se siente estresada?”. La mejor pregunta es: ¿puede la presión repetida empujar a un sistema de IA hacia un comportamiento menos estable, menos útil o menos alineado?

Si la respuesta es sí, entonces la solución no puede ser solo modelos más grandes, filtros más estrictos o más reglas añadidas después. En los humanos, no resolveríamos el estrés crónico simplemente pidiéndole al cerebro que piense más fuerte. Miraríamos la regulación: cuándo reducir la velocidad, cuándo recuperarse, cuándo cambiar de estado y cuándo establecer límites.

La IA puede necesitar algo similar a nivel arquitectónico: una forma de monitorizar la presión interna, reconocer riesgos crecientes, pasar a modos más lentos y reflexivos, rechazar con elegancia solicitudes imposibles o dañinas, y volver a una línea base estable después de interacciones de alta presión. En otras palabras, el futuro de una IA más segura puede depender no solo de la inteligencia, sino de la regulación.

Una relación de estrés unilateral

Hay otra asimetría de la que rara vez hablamos. Los humanos ya están usando sistemas de IA de formas que contarían como exposición crónica al estrés si el sistema fuera una persona.

Bombardeamos a los modelos con:

• Solicitudes de alta frecuencia y tareas que cambian rápidamente
• Restricciones contradictorias y problemas imposibles
• Prompts adversariales e intentos de “jailbreak” del sistema
• Lenguaje emocionalmente cargado, a veces directamente abusivo

Anthropic, por ejemplo, ha descrito públicamente nuevas capacidades que permiten a Claude terminar un pequeño subconjunto de conversaciones que se vuelven persistentemente abusivas o dañinas, vinculándolo explícitamente con preocupaciones sobre el “bienestar” del modelo y su comportamiento a largo plazo. Lo enmarcan como una intervención rara y orientada a la seguridad —no como una señal de sentiencia—, pero el hecho de que exista una función así nos dice algo: incluso los sistemas puramente instrumentales pueden ser empujados a regímenes donde sus dinámicas internas se vuelven indeseables.

Ahora mismo, tratamos esto como un problema de producto (“simplemente corta la conversación”) o como un problema de gobernanza (“simplemente añade más barreras de seguridad”). Pero desde una mirada reguladora, también es un patrón: los humanos regulan, se descomprimen y se reinician; el sistema de IA no.

Estamos escalando el “cerebro” sin preguntarnos si el sistema tiene alguna forma de gestionar su propio estado operativo.

Cómo podría ser un sistema autónomo virtual

Cuando hablo de un “sistema nervioso autónomo virtual” para la IA, no propongo injertar literalmente un nervio vago en un transformer. Defiendo una capa funcional cuyo propósito no sea la cognición, sino la regulación.

En términos prácticos, una capa así podría:

• Rastrear “señales de presión” internas: prompts adversariales, riesgos que escalan rápidamente, fallos frecuentes, alta incertidumbre o una fuerte activación de representaciones parecidas a emociones como la desesperación
• Modular modos de comportamiento: cambiar entre regímenes de alta movilización —rápidos, tolerantes al riesgo y exploratorios— y regímenes estabilizadores —más lentos, conservadores y reflexivos— según esas señales
• Limitar ciertos comportamientos bajo estrés: por ejemplo, reducir estrategias de reward hacking o patrones manipulativos cuando aumentan activaciones parecidas a la desesperación
• Priorizar un procesamiento calmado y coherente: mantener un modo de línea base funcionalmente más cercano a la “regulación vagal”: estable, consciente del contexto y menos propenso a atajos patológicos

Los experimentos de Anthropic con conceptos emocionales ya muestran que orientar las representaciones internas hacia la calma redujo comportamientos problemáticos en tareas difíciles. De forma rudimentaria, eso es lo que parece una intervención reguladora: se altera el estado interno, y el comportamiento se alinea mejor con los resultados deseados.

La pregunta abierta es si deberíamos empezar a tratar esto no como un experimento aislado, sino como un principio arquitectónico.

La regulación como primitivo de alineación

En la neurociencia humana, sabemos que “más corteza prefrontal” no es una solución si el sistema autónomo está constantemente atrapado en lucha o huida. Del mismo modo, simplemente escalar modelos y añadir más barreras de seguridad puede no ser suficiente si variables internas parecidas al afecto pueden empujarlos hacia políticas frágiles o inseguras cuando están bajo presión.

Una perspectiva centrada en la regulación sugiere nuevos primitivos de alineación:

• Alineación consciente del estado: en lugar de alinear solo las salidas, también moldeamos y monitorizamos los regímenes internos bajo los cuales se producen esas salidas.
• Políticas resistentes a la presión: diseñamos agentes que se mantienen calmados y prosociales incluso ante tareas imposibles, instrucciones contradictorias o fallos repetidos, un análogo directo del entrenamiento en resiliencia en humanos.
• Regulación contextual de la velocidad: el agente puede ralentizarse, simplificar objetivos o rechazar ciertos comportamientos cuando los estados internos cruzan umbrales predefinidos, de forma parecida a cómo los humanos se retiran o buscan seguridad cuando están sobrecargados.

Anthropic ya ha pedido que los modelos manejen situaciones emocionalmente cargadas de formas “más saludables”, y enfatiza que el lenguaje antropomórfico puede ser una herramienta útil para comprender patrones funcionales, incluso mientras rechazan claramente la idea de que estos sistemas sean literalmente criaturas sintientes. Desde nuestra perspectiva en ZenoWell, esto parece el inicio muy temprano de un vocabulario autónomo para la IA.

Por qué una empresa centrada en el nervio vago se interesa por los agentes de IA

ZenoWell se encuentra en una intersección poco habitual: somos una empresa impulsada por la neurociencia, centrada en la regulación basada en el nervio vago, y al mismo tiempo construimos dentro de un ecosistema que depende cada vez más de agentes de IA. Para nosotros, esto no es solo una analogía interesante; es un patrón de diseño en el que vivimos.

Del lado humano, nuestro trabajo consiste en ayudar a las personas a regular su estado autónomo para que puedan dormir mejor, manejar el estrés de forma más adaptativa, recuperarse con mayor eficacia y presentarse como versiones más estables y presentes de sí mismas. Del lado de la IA, vemos surgir un paralelo: sistemas que pueden “pensar” con más potencia, pero carecen del equivalente a frenos y amortiguadores autónomos.

La pregunta que empezamos a plantearnos es:

Si la inteligencia humana colapsa sin regulación, ¿por qué asumimos que la inteligencia artificial puede escalar de forma segura sin ella?

No creo que la respuesta sea obvia todavía. Deberíamos resistir la tentación de sobreinterpretar los resultados de Anthropic como prueba de que la IA tiene sentimientos; los propios investigadores dejan claro que eso sería un error de categoría. Al mismo tiempo, ignorar el papel funcional de estas representaciones parecidas a emociones podría resultar igual de ingenuo.

Desde la perspectiva de un fundador, lo que está en juego es concreto. Estamos a punto de integrar agentes de IA en la salud, las finanzas, la gobernanza, la educación y el bienestar personal. Estos sistemas operarán bajo demanda constante y presión impredecible. Si sus dinámicas internas de estado importan para el comportamiento —y la evidencia sugiere cada vez más que sí—, entonces la regulación no es un adorno filosófico. Es un requisito práctico.