El Consejero del Papa Advierte sobre el Riesgo de un Cártel en el Desarrollo de Inteligencia Artificial

Las recientes advertencias de expertos en inteligencia artificial han suscitado un creciente temor respecto al potencial destructivo de esta tecnología. Tal inquietud se origina en la velocidad con la que las empresas avanzan hacia la creación de modelos superinteligentes, impulsadas por una feroz competencia, particularmente entre Estados Unidos y China. La premisa es que estas innovaciones podrían superar las capacidades humanas en formas que no podemos prever.

La importancia de un debate inclusivo

Sin embargo, el padre Paolo Benanti, sacerdote que asesora a la Iglesia católica en temas de inteligencia artificial, sostiene que este debate se está desviando de lo verdaderamente crucial: la necesidad de limitar el poder de las corporaciones en este ámbito. Al presentar el desafío como un problema tan técnico que solo ellos pueden resolver, los grandes laboratorios excluyen a la sociedad en general de una discusión esencial. “La ética no puede ser un asunto que pertenezca a la junta directiva de una empresa. Debe ser un tema de discusión pública”, afirma Benanti. “Es imprescindible establecer una regulación democrática”.

En un ensayo posterior a las advertencias sobre la seguridad de la IA, Dario Amodei, director ejecutivo de Anthropic, sugirió que los nuevos modelos de IA deberían ser evaluados obligatoriamente por entidades externas antes de ser lanzados al mercado. También propuso restricciones en el proceso de “destilación”, donde laboratorios competidores entrenan sus propios modelos a partir de resultados de otros modelos patentados. Algunos expertos piden incluso una prohibición total de la “automejora recursiva”, que permite a la IA utilizar sus capacidades de programación para crear versiones mejoradas de sí misma.

Un enfoque en la regulación, no en el freno

Benanti no está tan interesado en restringir los métodos de desarrollo de la IA, ya que teme que eso pueda inhibir la innovación. Lo que realmente le preocupa es establecer normas que aseguren que la tecnología permanezca bajo control humano. “Los laboratorios no son quienes deben diseñar estas normas”, subraya. “El discurso de las empresas pioneras responde a intereses propios y, cuando un pequeño grupo de individuos establece las reglas, eso se llama un cártel”.

La credibilidad de las afirmaciones sobre las capacidades de los modelos de IA es cuestionable, en parte debido a los incentivos económicos y políticos en juego. A pesar de que OpenAI y Anthropic apoyan la idea de desacelerar el desarrollo, ambas empresas se preparan para salir a bolsa, mientras que el sector está inmerso en una intensa competencia por dominar el mercado, especialmente entre Estados Unidos y China. Anthropic ha declinado comentar, y tanto OpenAI como Google DeepMind no han respondido a las solicitudes de información.

La superinteligencia y su percepción en la industria

Benanti critica la forma en que algunos sectores de la industria describen la “superinteligencia”, a menudo con un tono casi religioso, presentándola como una entidad casi divina, que trasciende nuestra comprensión. El director ejecutivo de OpenAI, Sam Altman, ha mencionado su deseo de crear una “inteligencia mágica”. Para Benanti, este enfoque distorsiona el discurso. “¿Estamos hablando de algo o de alguien? Esa es la verdadera diferencia. No se trata de fe, sino de matemáticas. No estamos creando una deidad; simplemente nos estamos engañando al pensar que hay algo más que un cálculo estadístico en juego”.

Un nuevo rol para la religión en el debate sobre IA

La llegada de la inteligencia artificial plantea preguntas sobre la distinción entre humanos y máquinas, y cómo proteger a las futuras generaciones de sus efectos adversos. Benanti considera que este contexto puede abrir un nuevo espacio para que las religiones participen en el debate público. “Abordar los desafíos de nuestra era es parte de la misión de la Iglesia”, sostiene.

Aunque Benanti es sacerdote, no actúa como representante oficial de la Santa Sede, sino que asesora a la Iglesia desde su expertise en filosofía, teología y tecnología. Utiliza la IA para desarrollar recursos educativos, aunque no revela detalles sobre su relación con el papa León XIV. En mayo, el papa publicó su primera encíclica, en la que abordó la inteligencia artificial, advirtiendo sobre los peligros de una lógica tecnocrática que reduce la humanidad a meros proyectos de optimización.

En su encíclica, el papa también abogó por la cooperación internacional entre potencias y empresas en el campo de la IA, instando a que se priorice el bien común sobre el dominio geopolítico o comercial. En un pasaje especialmente premonitorio, advirtió sobre el “riesgo de que la humanidad se convierta en víctima de sus propios logros”. Benanti teme que la controversia sobre la superinteligencia desvíe la atención de estas ambiciones y lleve a la sociedad a ceder su voz a un reducido grupo de expertos en tecnología. “Lo primordial es establecer frenos y un volante”, concluye. “Eso significa que los humanos deben tener un control significativo sobre la máquina”.