«Desmitificando la Amenaza Existencial de la IA: Perspectivas de una Investigadora Crítica con la Tecnología»

La revolución en el discurso sobre inteligencia artificial

En la actualidad, el sector de la inteligencia artificial (IA) está experimentando un crecimiento sin precedentes, lo que ha dado lugar a un nuevo lenguaje en los debates sobre su impacto real. Dos conceptos han emergido como esenciales en estas discusiones: «loros estocásticos» y «riesgo existencial». En este contexto, destaca la figura de Timnit Gebru, una investigadora de IA que ha enfrentado desafíos significativos en su carrera. Gebru se hizo conocida por su valiente confrontación con Google, donde coautorizó un artículo que denunciaba los sesgos presentes en los modelos de IA de la compañía.

En su investigación, Gebru argumentó que los grandes modelos de lenguaje (LLM) tienden a repetir los datos de entrenamiento, lo que podría perpetuar visiones sesgadas. Su artículo, que generó controversia, resultó en su salida de Google y la motivó a fundar un instituto dedicado a investigar los efectos adversos de la tecnología y a promover herramientas tecnológicas imparciales. Además, está trabajando en su próximo libro, «Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist», que se publicará a principios del próximo año.

Desafiando narrativas alarmistas en la comunidad tecnológica

Recientemente, Gebru ha criticado a una parte de la industria que sostiene que la IA es tan poderosa que podría representar una amenaza para la humanidad. Algunos de sus detractores, incluyendo cofundadores de empresas como Anthropic, han argumentado que su investigación sobre los «loros estocásticos» ya no es pertinente y que la IA puede «pensar» o razonar. Sorprendentemente, las creencias de Gebru sobre las dinámicas sectarias dentro del movimiento del altruismo efectivo han llevado a una alineación inesperada con entidades de derecha que también critican estos grupos.

El debate sobre la IA ha evolucionado para abarcar no solo la tecnología, sino también las ideologías y narrativas que la rodean. Gebru afirma que estas narrativas pueden desviar la atención de los problemas reales que enfrenta la IA. En una reciente conversación, exploró cómo algunas discusiones pueden ser distractoras y también abordó las críticas que ha recibido por su trabajo anterior en el campo.

La importancia de cuestionar la narrativa del “riesgo existencial”

Durante una entrevista, Gebru se refirió a las afirmaciones de un joven investigador en Anthropic que renunció, sugiriendo que muchos en la empresa sienten que la IA representa un «grave riesgo existencial». Gebru considera que esta narrativa no solo es una distracción, sino que puede ser peligrosa. Históricamente, figuras como Elon Musk y Peter Thiel han sostenido que la IA representa una amenaza existencial desde 2013, repitiendo un discurso alarmista cada pocos años.

Gebru cuestiona el papel que juegan las instituciones que advierten sobre el riesgo existencial de la IA. Argumenta que muchas de estas organizaciones están financiadas por las mismas personas que se beneficiarían económicamente de la creación y regulación de IA, lo que plantea interrogantes sobre sus verdaderas intenciones. «Si puedo ganar mucho dinero con algo en particular, ¿por qué parecería ser la persona que dice que esta empresa podría construir algo que nos mate a todos?», reflexionó Gebru.

La regulación y la necesidad de gobernanza en IA

El debate sobre la regulación de la IA se ha intensificado, y Gebru sostiene que las leyes actuales no son suficientes para abordar los problemas que presenta esta tecnología. A su juicio, la industria tiende a eludir su responsabilidad al afirmar que la IA es tan poderosa que no necesita regulación. Esta narrativa, argumenta Gebru, desplaza la atención de cuestiones más inmediatas como la explotación laboral de los trabajadores que alimentan los datos necesarios para entrenar modelos de IA.

Según Gebru, las prácticas de marketing engañosas y la falta de transparencia son problemas críticos que deben abordarse. Propone que las empresas de IA deben ser responsables de documentar sus datos de entrenamiento y asegurar prácticas laborales justas. Si se implementaran regulaciones que obligaran a estas empresas a cumplir con estándares básicos, la dinámica del mercado cambiaría drásticamente, lo que llevaría a una mayor rendición de cuentas.

Desmitificando los “loros estocásticos” y sus implicaciones

Gebru también abordó el concepto de «loros estocásticos», un término que utiliza para describir cómo los modelos de lenguaje en IA replican datos sin comprender su significado. Este concepto se refiere a la naturaleza de los modelos de IA que generan texto al predecir la secuencia más probable basándose en datos de entrenamiento. A pesar de que muchos argumentan que la IA está evolucionando hacia sistemas más inteligentes, Gebru sostiene que la esencia de estos modelos no ha cambiado.

El artículo que coescribió en 2021, que discutía los peligros de los «loros estocásticos», aún se cita en la actualidad. Gebru explica que el problema principal radica en la falta de comprensión de los contextos detrás de los datos, lo que puede llevar a errores significativos, como diagnósticos médicos incorrectos. La crítica hacia su investigación se basa en la suposición de que los modelos de IA están desarrollando capacidades de razonamiento, algo que Gebru niega rotundamente.

Perspectivas sobre el futuro de la IA y la acción colectiva

A pesar de las críticas y la desinformación, Gebru mantiene una perspectiva optimista sobre el futuro de la IA. Cree que, en medio de la confusión actual, hay un creciente número de personas y organizaciones que están trabajando activamente por un futuro tecnológico más equitativo y responsable. Se siente alentada por el surgimiento de grupos que abogan por prácticas éticas y sostenibles en el desarrollo de la IA.

La investigadora concluye que su mayor aprendizaje en los últimos años ha sido la necesidad de concentrarse en construir modelos que beneficien a la sociedad, ignorando el ruido generado por las narrativas alarmistas. Reconoce que, aunque el camino es complicado, la acción colectiva y el deseo de imaginar un futuro mejor son fuerzas poderosas que pueden llevar a cambios significativos en la forma en que se desarrolla y se regula la inteligencia artificial.