Expertos en IA alertan sobre una posible «explosión de inteligencia» que podría desbordar el control humano

Una nueva era de inteligencia artificial

La humanidad se encuentra al borde de una potencial «explosión de inteligencia», un fenómeno que podría ser catalizado por los sistemas más avanzados de inteligencia artificial (IA). Este desarrollo no solo promete ser uno de los hitos más significativos en la historia, sino que, si no se maneja adecuadamente, podría desencadenar una crisis de gobernanza que afecte no solo al ámbito tecnológico, sino también a las democracias y al sector económico en su conjunto.

Este análisis proviene de un ensayo titulado «¿Qué pasaría si la automatización de la I+D en IA desencadenara una explosión de inteligencia?», realizado por un equipo de más de 20 expertos en el campo, incluyendo a figuras destacadas como Jack Clark, cofundador de Anthropic, y Jakub Pachocki, científico jefe de OpenAI. Entre los autores se encuentran también los reconocidos científicos Geoffrey Hinton y Yoshua Bengio, considerados pioneros de la inteligencia artificial moderna.

Preocupaciones sobre la aceleración del progreso

Los autores del ensayo expresan su preocupación por la posibilidad de una aceleración drástica en el desarrollo de la IA, impulsada por los propios sistemas de inteligencia artificial. Este fenómeno podría permitir la compresión de años de avances científicos en un tiempo mucho más corto, generando un cambio cualitativo respecto al progreso constante que se ha observado en años recientes.

La noción de que las máquinas podrían generar versiones sucesivas de sí mismas con capacidades cada vez mayores no es nueva. Sin embargo, los especialistas afirman que la situación actual es diferente. A diferencia de épocas anteriores, la automatización de la investigación y el desarrollo de la IA ya no requiere de infraestructuras físicas extensas. Hoy en día, los desarrolladores buscan automatizar estos procesos a través de software que maneja datos, algoritmos y código, un fenómeno conocido como «automejora recursiva».

Riesgos asociados a la explosión de inteligencia

Los expertos identifican varios riesgos que podrían surgir de esta explosión de inteligencia. En primer lugar, advierten sobre la posibilidad de que los sistemas más avanzados faciliten el desarrollo de amenazas biológicas y cibernéticas a un ritmo superior al de las medidas necesarias para contrarrestarlas. Esta dinámica podría generar un entorno de creciente vulnerabilidad.

En segundo lugar, la disminución de la intervención humana en la investigación y el desarrollo de la IA podría limitar la capacidad de supervisar y controlar eficazmente estos sistemas. Esto plantea preocupaciones sobre la falta de responsabilidad y la dificultad para implementar regulaciones necesarias.

Finalmente, los gobiernos podrían utilizar esta explosión de inteligencia como una herramienta para gestionar unilateralmente mercados, economías y acuerdos internacionales de acuerdo a sus propios intereses, lo que podría generar tensiones y desigualdades a nivel global.

La necesidad de una regulación urgente

El documento subraya que una explosión de inteligencia artificial podría representar el avance tecnológico más significativo en la historia, con el potencial de amenazar el control humano sobre los sistemas de IA y socavar los equilibrios de poder dentro de los Estados, las empresas y las distintas ramas del gobierno. Los expertos instan a que las autoridades internacionales y los gobiernos actúen con celeridad para regular el desarrollo de esta tecnología, advirtiendo que, una vez que se produzca la explosión, podría ser demasiado tarde para tomar medidas.

Se anticipa que la automatización total de los proyectos de investigación y desarrollo relacionados con la IA podría ocurrir en un plazo de dos años. Para evitar un escenario caótico, los especialistas proponen tres medidas concretas: exigir transparencia en los informes de avances en I+D sobre IA, involucrar auditores independientes en las empresas y desarrollar mecanismos que limiten el rápido avance de estos sistemas.

En resumen, los controles existentes son considerados inadecuados. Los expertos concluyen que el momento de actuar es ahora, ya que una explosión de inteligencia podría redefinir la estructura del poder y el control en el mundo, alterando la relación entre la humanidad y la tecnología de manera irreversible.