En respuesta a las implicaciones que conlleva la rápida integración de sistemas de inteligencia artificial (IA) en el ámbito científico y de investigación, el Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS) de la Universidad Nacional Autónoma de México (UNAM) ha presentado un conjunto de diez recomendaciones destinadas a guiar a su comunidad académica en el desarrollo, aplicación y evaluación de esta tecnología. Este documento, titulado «Principios Institucionales para el Desarrollo y Uso de una Inteligencia Artificial Ética, Responsable y Sostenible», surge ante las transformaciones que las tecnologías emergentes están provocando en la toma de decisiones y la generación de conocimiento científico.
Aunque la adopción de la IA ofrece múltiples beneficios, también plantea desafíos éticos, sociales y ambientales que deben ser considerados. Helena Gómez Adorno, jefa del Departamento de Ingeniería de Sistemas Computacionales y Automatización del IIMAS, enfatizó que la utilización de la IA nos obliga a reflexionar sobre la procedencia de los datos utilizados para entrenar estos modelos, quiénes son representados en ellos y quiénes quedan excluidos. Además, planteó interrogantes sobre la gestión de la información compartida y la asignación de responsabilidad ante posibles errores de estos sistemas.
Compromiso con los Derechos Humanos
Zinnya del Villar, directora de Investigación de Ciencia de Datos en Data-Pop Alliance y colaboradora en la elaboración de los principios, destacó la importancia de desarrollar y utilizar la IA de forma que sus beneficios estén al servicio de la humanidad, manteniendo un respeto constante por los derechos humanos. Las autoridades de la UNAM señalaron que el decálogo es fruto de un esfuerzo colectivo que se originó a partir de un proyecto de vinculación con el sector financiero, y que debe ser considerado como una guía inicial para abordar cuestiones fundamentales que requieren un debate continuo.
Los diez principios en los que se basa esta propuesta fueron elaborados tras una exhaustiva revisión de la literatura especializada y diversos marcos regulatorios relacionados con la IA. También se tomó en cuenta la evidencia empírica recogida mediante entrevistas con miembros de la comunidad académica del IIMAS. Esta metodología permitió adaptar conceptos reconocidos a nivel internacional a las necesidades y prácticas específicas del Instituto.
Los Principios Fundamentales del IIMAS
Los principios propuestos por el IIMAS son los siguientes:
- Respeto a la dignidad humana y los derechos fundamentales.
- Equidad, diversidad e inclusión.
- Transparencia y explicabilidad.
- Privacidad y protección de datos.
- Responsabilidad y rendición de cuentas.
- Seguridad y confiabilidad.
- Bienestar social y solidaridad.
- Sustentabilidad y respeto al medio ambiente.
- Supervisión humana y control.
- Cumplimiento legal y estándares institucionales.
La UNAM subraya que estos lineamientos no buscan reemplazar las regulaciones vigentes, sino complementarlas con criterios que se ajusten a las características y necesidades del trabajo científico del Instituto. Para implementar esta propuesta, el IIMAS ha diseñado una estrategia de adopción progresiva que incluye programas de formación, acompañamiento institucional, desarrollo de herramientas prácticas y espacios para la reflexión colectiva.
Desafíos de la Integración de la IA en la Educación Superior
El centro de investigación reconoce que uno de los principales retos será integrar estos principios en las actividades diarias, asegurando su permanencia y efectividad en el desarrollo y uso de la IA en beneficio de la sociedad. Pablo Pruneda Gross, coordinador general del Consejo Coordinador de Inteligencia Artificial (CCOIA) de la UNAM, resalta que el surgimiento y la rápida adopción de nuevas tecnologías en el ámbito científico requieren establecer directrices éticas sólidas, ya que estas se han convertido en el hilo conductor de la labor académica.
En el contexto mexicano, más del 60% de los estudiantes y docentes de educación superior emplean regularmente sistemas de IA generativa. A pesar de su creciente uso, la comunidad universitaria reconoce la existencia de brechas en formación, regulación y desarrollo del pensamiento crítico, las cuales deben ser abordadas de manera urgente. La propuesta del IIMAS busca sentar las bases para enfrentar los retos que presentan estas tecnologías y fomentar una práctica científica innovadora, responsable y comprometida con el bienestar social en el ámbito universitario.
