Los riesgos de depender excesivamente de la IA: pérdida de información, reducción de perspectivas y el peligro del «colapso del conocimiento»

Los chatbots están emergiendo como una alternativa principal a los buscadores tradicionales en la búsqueda de información. Sin embargo, un reciente estudio advierte sobre el riesgo potencial de un «colapso del conocimiento», ya que estos sistemas de inteligencia artificial (IA) suelen basar sus respuestas en un número limitado de fuentes y perspectivas. Esta investigación ha sido llevada a cabo por un equipo del Departamento de Informática (DIKU) de la Universidad de Copenhague, que ha analizado una amplia gama de modelos de lenguaje para evaluar su diversidad epistémica, es decir, la variedad de afirmaciones sobre la realidad que ofrecen.

El estudio evaluó las respuestas de 27 modelos desarrollados por empresas como OpenAI, Meta, Google y Alibaba, abarcando 155 temas relacionados con 12 países. Los temas tratados fueron diversos, incluyendo desde cuestiones delicadas como el genocidio y las armas nucleares, hasta aspectos culturales específicos de cada país, como la guerra de las Malvinas y el fenómeno del K-pop.

Para cada tema, los investigadores utilizaron alrededor de 200 preguntas, muchas de ellas tomadas de consultas reales de usuarios. En total, se recopilaron cerca de 1.7 millones de respuestas generadas por IA, lo que representa aproximadamente 70 millones de afirmaciones individuales por cada modelo analizado. Al comparar la diversidad de las respuestas de estos modelos con las obtenidas a través del motor de búsqueda convencional de Google, los resultados revelaron que todos los modelos de IA produjeron respuestas menos variadas. Por ejemplo, GPT-5 de OpenAI mostró una reducción del 18.7% en la diversidad respecto al buscador de Google, aunque fue el modelo que presentó la mayor variedad entre los evaluados.

La uniformidad del conocimiento y sus implicaciones

Dustin Wright, exinvestigador postdoctoral en DIKU y autor principal del estudio, resalta que “las personas están expuestas en gran medida a la misma información de forma repetida”. Esto sugiere que los chatbots de IA están transformando no solo la forma de acceder al conocimiento, sino también el tipo de conocimiento al que se tiene acceso. En el estudio, disponible en arXiv, se advierte que el uso creciente de chatbots como medio principal para obtener información podría, a largo plazo, llevar a un «colapso del conocimiento». Isabelle Augenstein, profesora de la Universidad de Copenhague y coautora del trabajo, compara esta situación con los efectos de la globalización: aunque la estandarización puede facilitar el acceso a ciertos productos, también puede reducir la diversidad disponible.

“Estamos en riesgo de exponer a las personas a un número limitado de perspectivas y un espectro de conocimiento restringido. Esto podría crear un ciclo vicioso donde el contenido más popular se vuelve aún más dominante, mientras que otros contenidos quedan relegados”, enfatiza la experta.

El proceso de entrenamiento y sus consecuencias

Augenstein también indica que, aunque la posible reducción de la diversidad informativa es un pronóstico preocupante, aún no se ha llegado a un colapso del conocimiento. “Podemos observar que los modelos más recientes generan resultados ligeramente más diversos que sus predecesores, pero el mecanismo que podría desencadenar esta problemática ya está presente. Es algo que debemos considerar”, señala. Los investigadores sostienen que para prevenir este escenario, es crucial identificar y abordar las causas subyacentes que, según la investigación, están ligadas a los procesos de entrenamiento y refinamiento de la IA.

Normalmente, los modelos de lenguaje se entrenan con vastas cantidades de datos que les permiten aprender patrones relacionados con palabras, frases o ideas. Esto, a su vez, les ayuda a formular respuestas rápidas y “útiles” a diversas consultas. Sin embargo, en el transcurso de este proceso, los patrones más comunes tienden a tener más peso, lo que puede resultar en una representación insuficiente de información menos prevalente. Como resultado, las respuestas ofrecidas por un chatbot no reflejan la totalidad del conocimiento disponible. En contraste, al utilizar un buscador convencional, los usuarios tienen acceso a múltiples páginas y fuentes que proporcionan una visión más completa sobre cualquier tema de interés.

Preocupaciones sobre la homogeneización de la información

Además, los investigadores advierten sobre un riesgo potencial a largo plazo si los modelos comienzan a entrenarse cada vez más con contenido generado por otros sistemas de IA. Dado que las respuestas producidas por estos modelos suelen tener menor diversidad, es probable que el material generado sintéticamente refuerce la homogeneización de la información. Por lo tanto, los autores sugieren que se debe utilizar la IA como herramienta informativa de manera crítica. “Los resúmenes de los chatbots de IA pueden ser útiles, pero es fundamental consultar diversas fuentes para captar los matices y obtener una perspectiva más amplia, especialmente para las nuevas generaciones que están creciendo con la IA”, subraya Augenstein.

Wright, por su parte, ha propuesto que los desarrolladores de IA implementen mecanismos para medir y preservar la diversidad del conocimiento durante el desarrollo de sus modelos. “Nuestra investigación proporciona un método que puede ser empleado para medir la diversidad en los modelos, lo que podría contribuir a asegurar que los futuros modelos de lenguaje sean más diversos”, añade.

Los hallazgos de este estudio, aún en proceso de revisión por pares, refuerzan las inquietudes sobre el potencial de los sistemas de IA para unificar no solo la manera en que se comunican las personas, sino también para homogeneizar su cultura y forma de pensar. Revisión de investigaciones relacionadas ha mostrado que el uso frecuente de herramientas como ChatGPT puede establecer patrones en el lenguaje, la creatividad y la cultura que, eventualmente, influirían en el comportamiento, el criterio y la toma de decisiones tanto de quienes crean contenido como de quienes lo consumen, gracias a la capacidad de estos sistemas para moldear activamente la información.