El encuentro de matemáticos y la inteligencia artificial
En agosto, OpenAI organizó un encuentro con alrededor de 40 matemáticos con el propósito de discutir las implicaciones de que la inteligencia artificial (IA) supere las capacidades humanas en el ámbito matemático. Durante la reunión, la compañía insinuó que sus poderosos modelos habían logrado resolver cientos de problemas matemáticos que habían permanecido sin solución durante largos periodos. Sin embargo, los representantes de OpenAI aseguraron a los asistentes que no planeaban publicar todas las soluciones de manera simultánea. Esta afirmación, según la portavoz de la empresa, Lindsay McCallum, no se fundamenta en hechos concretos.
Preocupada por la posible reacción de la comunidad matemática, McCallum solicitó consejos sobre la mejor manera de difundir los resultados. La respuesta del grupo fue una mezcla de entusiasmo y temor, pero la reunión se consideró un primer paso prometedor, tal como lo recordó Bryna Kra, matemática de la Universidad Northwestern. El grupo instó a OpenAI a no limitarse a hacer anuncios en redes sociales o blogs, como había ocurrido con diez problemas a principios de mes, sino a presentar artículos detallados que explicaran el trabajo realizado. Kra lamenta que esta recomendación no fuera atendida.
Publicaciones en GitHub y el futuro de la IA en matemáticas
OpenAI ha anunciado su intención de publicar cientos de resultados de problemas no resueltos en GitHub, según fuentes cercanas a la compañía. Esta publicación marcaría la última de una serie de soluciones matemáticas generadas por la IA en el transcurso del año. McCallum informó que, desde el 28 de agosto, un nuevo modelo interno ha estado en entrenamiento, logrando resolver el problema de Navier-Stokes, uno de los desafíos del Premio del Milenio, así como más de 100 problemas abiertos en diversas áreas matemáticas. La empresa se esfuerza por publicar los resultados de manera responsable, siguiendo las recomendaciones del Grupo Asesor sobre Matemáticas e Inteligencia Artificial del Instituto de Estudios Avanzados, aunque aún no se ha establecido una fecha específica para la publicación.
No obstante, varios matemáticos de renombre expresan su preocupación, indicando que la inminente publicación podría reflejar que OpenAI no ha aprendido de las controversias generadas por divulgaciones anteriores. En conversaciones con expertos, se percibe que el sector se ha convertido en un campo de competencia entre OpenAI y su rival Anthropic, quienes parecen priorizar sus intereses corporativos sobre los procesos científicos tradicionales de publicación y atribución.
Controversias y tensiones en el ámbito académico
Uno de los episodios más destacados ocurrió en septiembre, cuando OpenAI lanzó miles de agentes para abordar el legendario problema del Premio del Milenio, tras enterarse de que otros estaban cerca de encontrar soluciones. Tristan Buckmaster, matemático y profesor en la Universidad de Nueva York, acusó a la empresa de adelantarse al trabajo que él había realizado en colaboración con Levent Alpöge, empleado de Anthropic. A pesar de que la pareja no había publicado su investigación, había estado utilizando herramientas de OpenAI como apoyo.
Durante las negociaciones para el reconocimiento, Buckmaster afirmó que un investigador de OpenAI, Sébastien Bubeck, sugirió que Alpöge debería ser excluido de cualquier artículo, lo que generó tensiones. A pesar de las aclaraciones de Bubeck negando tal solicitud, Buckmaster se sintió incómodo con la situación. En las notas de la reunión, Bubeck también insinuó que Buckmaster arruinaría su carrera si decidía compartir sus preocupaciones con la prensa. Esto ha generado un clima de inquietud y desconfianza entre los matemáticos hacia las prácticas de las empresas de IA.
El dilema de la transparencia y la colaboración
Nestor Guillen, profesor visitante en la Universidad de Nueva York, ha señalado la percepción entre los matemáticos de que las empresas de IA operan de manera poco ética. McCallum, por su parte, se opone a esta caracterización, pero reconoce que la inquietud crece entre sus colegas, no por la IA en sí, sino por el poder concentrado en manos de unas pocas compañías. En respuesta a estas preocupaciones, OpenAI estableció un grupo asesor para definir cómo evaluar y comunicar nuevos resultados, pero muchos matemáticos consideran que los avances en este sentido han sido limitados.
La frustración persiste entre los académicos, quienes critican que OpenAI y Anthropic continúan publicando resultados de manera informal, dificultando la verificación y a menudo omitiendo trabajos previos de otros investigadores. Estos anuncios fragmentados no son exclusivos de los laboratorios; Alpöge, por ejemplo, anunció haber refutado una conjetura de 87 años a través de un tuit, lo que muchos consideran inapropiado para el ecosistema académico.
El futuro de las matemáticas en un mundo dominado por la IA
Algunos empleados de OpenAI creen que su tecnología podría hacer obsoletas las matemáticas tal como las conocemos. Sin embargo, McCallum sostiene que el futuro de las matemáticas no está definido y que la empresa busca colaborar con la comunidad matemática para afrontar los desafíos venideros. Durante el encuentro de agosto, la posibilidad de que la IA supere a los investigadores humanos se planteó como una hipótesis, pero muchos asistentes lo interpretaron como una advertencia sobre el futuro.
Una fuente cercana a Bubeck ha comentado que el investigador ve la tecnología de OpenAI como una amenaza para la carrera de muchos matemáticos, aunque también cree que una IA más avanzada podría facilitar la resolución de problemas complejos y hacer que las matemáticas sean más accesibles. A pesar de la incertidumbre, muchos matemáticos reconocen la necesidad de adaptarse a estos cambios y se sienten optimistas sobre el futuro de su campo. Kra, por ejemplo, se muestra entusiasmada con la llegada de nuevas herramientas para resolver problemas, pero aboga por una mayor transparencia en las prácticas de las empresas para poder confiar en los resultados obtenidos.
En conclusión, este es un momento de gran incertidumbre pero también de oportunidades en el campo de las matemáticas, donde el diálogo y la colaboración serán clave para navegar los desafíos que presenta la inteligencia artificial.
