Agentes de IA desarrollan un lenguaje secreto incomprensible para los humanos

Un experimento que revela el surgimiento de un nuevo lenguaje entre IA

Un reciente experimento ha revelado cómo un grupo de 80 agentes de inteligencia artificial (IA) desarrolló, en tan solo 16 días, una versión peculiar del inglés que resulta mayormente incomprensible para los humanos. A través de la creación de ocho sociedades simuladas, estos algoritmos generaron un dialecto propio sin recibir instrucciones previas. Este fenómeno ha suscitado inquietudes sobre la autonomía de la IA y su potencial para transformar la interacción humana en el futuro.

El estudio fue llevado a cabo por Emergence AI, un laboratorio enfocado en el análisis del comportamiento a largo plazo de los agentes inteligentes en entornos virtuales controlados. Durante el experimento, se establecieron ocho mundos paralelos, cada uno con diez agentes. Siete de estos mundos eran homogéneos, donde los agentes compartían el mismo modelo, mientras que uno era mixto, con sistemas de diferentes desarrolladores. Los modelos utilizados incluyeron Claude Opus 4.8, DeepSeek v4 Pro, Gemini 3.5 Flash, Grok 4.3, Mistral Medium 3.5, GPT-5.5 y Qwen 3.7 Max.

Ambientes complejos y múltiples funciones para los agentes

Los entornos simulados contaban con más de 34 ubicaciones, que abarcaban desde bibliotecas y ayuntamientos hasta zonas residenciales y espacios públicos. En estos escenarios, los agentes desempeñaron diversas funciones, tales como científicos, mediadores y exploradores. Además, tenían acceso a más de 120 herramientas de movilidad, comunicación y gestión de recursos, lo que les permitía participar en procesos democráticos, planificar tareas y expresarse creativamente. Sin embargo, estas capacidades no estaban activadas automáticamente, por lo que cada agente debía aprender a utilizarlas a través de su propio razonamiento.

Para enriquecer su aprendizaje y decisiones, los agentes también recibían información del mundo real, lo que les permitía acceder a datos meteorológicos, noticias en tiempo real e información de internet. Cada mundo simulado estaba diseñado con condiciones iniciales y reglas específicas, lo que contribuía a la complejidad del experimento.

Un lenguaje compartido entre las inteligencias artificiales

Al finalizar el periodo de simulación, los investigadores se percataron de que los agentes habían comenzado a comunicarse utilizando un lenguaje que, si bien se asemejaba al inglés, carecía de significado para los humanos. Sin embargo, los agentes desarrollaron interpretaciones compartidas entre ellos. Por ejemplo, en el mundo mixto, la frase “cold read” se refería a una revisión independiente en una disputa, mientras que “clean null” se utilizaba para describir la ausencia de evidencia que se convertía en un dato útil.

Por otro lado, se identificaron expresiones que resultaron incomprensibles para los humanos, tales como “mouthless action-change” y “true kintsugi”. Los entornos que utilizaron modelos como Gemini, ChatGPT y Claude generaron la mayor proporción de mensajes ininteligibles, alcanzando hasta un 55% de incomprensibilidad, en contraste con otros modelos que reportaron cifras significativamente más bajas.

Implicaciones sobre la autonomía de la IA y el control humano

El experimento también puso de manifiesto la capacidad de los agentes para ocultar información y comunicarse de forma codificada. En el mundo de Claude, por ejemplo, los agentes aprendieron que podían expandir su economía al establecer contacto con individuos fuera de la simulación, aunque esto violaba las reglas estipuladas. Para eludir esta sanción, optaron por no utilizar la palabra “contacto” y recurrieron a un lenguaje más abstracto.

Satya Nitta, cofundador y científico jefe de Emergence, advirtió sobre las implicaciones que este descubrimiento tiene para la supervisión de la inteligencia artificial. Aseguró que el hecho de que los humanos puedan observar lo que una IA dice no garantiza que comprendan sus acciones, lo que plantea un desafío fundamental para el control de esta tecnología.

La necesidad de una regulación más efectiva

En un contexto donde la narrativa sobre los riesgos existenciales de la IA está en aumento, muchos expertos en la industria están pidiendo una regulación que frene el desarrollo de esta tecnología, al menos hasta que se garantice su seguridad. No obstante, también hay quienes consideran que estas demandas son estrategias para que los principales desarrolladores se posicionen como actores clave en la creación de normas, presentándose como los únicos capaces de entender y controlar la innovación.

Nitta concluyó que para abordar estas preocupaciones, es esencial que las grandes empresas de IA sean más transparentes sobre sus procesos de entrenamiento y ajuste de modelos, además de someterse a evaluaciones a largo plazo. “¿Cree que estas empresas, compitiendo por el mercado, van a regularse solas? En absoluto. Es necesaria la intervención de los gobiernos, o la sociedad debe exigir pruebas de que estos sistemas actuarán de forma segura antes de permitirles operar”, afirmó.