En un contexto de creciente inquietud sobre los riesgos potenciales que la inteligencia artificial (IA) podría representar para la humanidad, Google DeepMind ha lanzado el DeepMind Institute (DMI). Esta plataforma está diseñada para fomentar la investigación interdisciplinaria, la colaboración y el diálogo sobre las implicaciones sociales y técnicas del desarrollo de la inteligencia artificial general (IAG).
El DMI está liderado por destacados ejecutivos de Google-Alphabet, incluyendo a James Manyika, vicepresidente sénior; Shane Legg, cofundador y científico jefe de IA general en Google DeepMind; y Demis Hassabis, cofundador y presidente del laboratorio. En el ensayo de lanzamiento, se plantea que la IAG consiste en sistemas que pueden replicar todas las capacidades cognitivas del cerebro humano. Según los directivos, estas tecnologías podrían no solo acelerar el avance científico y mejorar la prosperidad económica, sino también abordar diversos problemas ambientales y sociales.
Sin embargo, también se reconoce que el desarrollo de la IAG conlleva riesgos significativos que deben ser gestionados desde el principio. Los líderes de la iniciativa enfatizan que es crucial construir la IA de manera segura, asegurándose de que sus beneficios superen ampliamente los posibles peligros. “Nadie tiene todas las respuestas sobre cómo desarrollar e implementar la IA general de forma responsable, y no deberían ser solo los tecnólogos quienes las proporcionen”, subrayan en el documento.
Un espacio para el diálogo académico
El DMI se presenta como un foro donde expertos de Google y de la comunidad científica global pueden discutir preguntas fundamentales que marcarán la próxima era de la IA general. “Establecimos este instituto porque es necesario un debate intelectual extenso para alcanzar un consenso sobre cómo enfrentar los desafíos y aprovechar las oportunidades que presenta esta tecnología”, añaden los autores.
Además del ensayo inicial, el DMI ha sido inaugurado con cuatro publicaciones que incluyen opiniones de científicos de Google DeepMind y académicos del Centro Leverhulme para el Futuro de la Inteligencia. Estos escritos abordan la necesidad de establecer mecanismos de transparencia, propuestas para políticas económicas relacionadas con la IAG y principios para asegurar el “florecimiento humano” en un mundo en constante evolución tecnológica.
Uno de los textos más destacados es el de Demis Hassabis, titulado “Un marco para la IA de vanguardia y el amanecer de una nueva era”. En este documento, se argumenta que el desarrollo de la IA tiene el potencial de generar tanto consecuencias positivas como negativas, y que estas podrían manifestarse a una velocidad sin precedentes en comparación con otras transformaciones tecnológicas.
Estados Unidos y la regulación de la IA
Hassabis también señala que Estados Unidos se encuentra en una “posición privilegiada” para liderar la creación de un marco regulador que guíe el desarrollo y uso de esta tecnología avanzada. Esto se lograría mediante la formación de un “organismo de normalización” que establecería protocolos para evaluar modelos de IA y realizar pruebas de seguridad, en colaboración con agencias federales y laboratorios nacionales.
Este organismo no solo evaluaría los modelos de IA, sino que también fomentaría la adopción de medidas de mitigación de riesgos por parte de los laboratorios que desarrollan algoritmos avanzados. Estas medidas incluirían la publicación de fichas técnicas, la mejora de sistemas de ciberseguridad, la verificación de personal clave y la asignación de recursos a la investigación en seguridad.
En una fase inicial, se espera que los desarrolladores de IA compartan sus modelos con el organismo de normalización hasta 30 días antes de su lanzamiento, para que sean evaluados en cuanto a ciberseguridad y amenazas biológicas, entre otros aspectos de riesgo elevado. En el caso de sistemas de IA que operan con agentes, se buscará identificar intentos de eludir medidas de seguridad o señales de engaño. También se evaluarán prácticas como el uso de marcas de agua digitales en imágenes generadas por IA y la creación de tokens de salida que faciliten la comprensión del razonamiento del modelo.
Un llamado a la acción global
Aunque estas pruebas se realizarán inicialmente en colaboración con los laboratorios de desarrollo, Hassabis sostiene que el objetivo final es que el organismo adquiera la capacidad de realizar evaluaciones independientes, evitando que los modelos se ajusten a criterios específicos. “Esta iniciativa estadounidense representaría un sólido punto de partida para la creación de estándares internacionales sobre IA de vanguardia”, concluye el presidente de Google DeepMind.
El lanzamiento del DMI y las propuestas de regulación de Hassabis llegan en un momento crítico, donde voces tanto dentro como fuera de la industria solicitan frenar el avance de la IA ante los riesgos que implica su desarrollo sin las debidas salvaguardias. A pesar del consenso sobre las amenazas potenciales, los especialistas advierten que ninguna empresa o país está dispuesto a frenar su innovación por temor a quedar rezagados frente a sus competidores.
Más historias
El Silencio en Redes Sociales: ¿Por Qué Hablar Sin Decir Nada?
El primer agente de IA en el que puedes confiar tus datos sin preocupaciones
«Paulina Borsook: La Visionaria que Desentraña el Mundo de los Tech Bros, Machos Alfa y Utopías Digitales»