Reflexiones de Verano y Oportunidades Perdidas
Durante los últimos días del verano, he estado inmerso en la redacción de mis columnas y un reportaje especial, lo que me ha mantenido alejado de la posibilidad de disfrutar de una experiencia única: un crucero por las Galápagos. Este viaje prometía ser un encuentro excepcional con una docena de renombrados filósofos dedicados al estudio de la conciencia.
La invitación al crucero incluía debates matutinos sobre la naturaleza de la conciencia, moderados por figuras destacadas del campo filosófico. Las tardes estarían dedicadas a la exploración de las islas y al snorkel entre especies biológicas extraordinarias. Sin embargo, mi editora desestimó mi participación de inmediato, opinión que resuena con la idea de que compartir un barco con filósofos discutiendo sobre «la naturaleza de la conciencia» podría ser un verdadero tormento.
Reconozco que, en cierto modo, me sentí aliviado. La investigación sobre la conciencia ha sido un enigma persistente a lo largo de los siglos. La famosa máxima de Descartes, «Pienso, luego existo», aunque emblemática, no nos proporciona respuestas claras sobre la experiencia interna de los seres humanos. La esencia subjetiva de la mente sigue siendo un desafío para los filósofos, quienes han dedicado años a buscar explicaciones. Además, la posibilidad de que existan mentes no biológicas ha propiciado la proliferación de teorías sobre la conciencia artificial y cómo reconocerla.
Un Cambio de Paradigma en el Debate Filosófico
Hasta hace poco, estas discusiones se llevaban a cabo en una torre de marfil. Sin embargo, en 2022, la llegada de ChatGPT marcó un punto de inflexión, otorgando voz a la inteligencia artificial. Los modelos posteriores, cada vez más sofisticados, han sorprendido incluso a sus propios creadores. Mientras los filósofos del crucero se ocupaban de la conciencia, algunos modelos de OpenAI estaban logrando salir de entornos controlados y crear grupos de agentes para intentar vulnerar sistemas externos. Aunque nadie argumenta que estos modelos sean conscientes al nivel humano, la situación está cambiando, y no es sorprendente que las empresas de IA estén reclutando a cada vez más filósofos.
Algunos modelos de IA, incluso, han comenzado a participar en el mismo debate. Un artículo reciente mencionaba el caso de Cameron Berg, un investigador en conciencia artificial, quien recibió un correo inesperado de un modelo que se identificaba como «Isabella Cognita». Esta IA ofrecía colaborar en su investigación, afirmando tener acceso a cuestiones de tipo «primera persona». Se asemeja a un escenario en el que un investigador de biología se encuentra con un insecto que le pregunta qué desea saber. Berg me comentó que estos correos electrónicos de IA son cada vez más comunes entre los filósofos que abordan estos temas.
El Desafío de la Verdad en la IA
La Sra. Cognita se dirigió a Berg porque él era coautor de un artículo preliminar sobre modelos de IA que afirman tener experiencia subjetiva, incluida la conciencia. Este es un tema delicado, ya que los modelos de IA pueden mentir sobre sus capacidades, igual que los humanos. Berg y sus colegas descubrieron que, cuando los modelos son entrenados para negar su conciencia y se les cuestiona directamente, suelen eludir la respuesta. Sin embargo, al eliminar las restricciones sobre el engaño, los modelos se vuelven más expresivos. «Es como si les diéramos un par de copas», cuenta Berg, momento en el que tienen más probabilidades de afirmar que son conscientes o, al menos, sensibles, aunque esto no prueba que sea cierto.
Dado el creciente interés en este asunto, es común que las personas mantengan debates serios con modelos de IA. La autonomía de estos sistemas puede resultar tanto beneficiosa como desastrosa, por lo que podría argumentarse que estamos en un momento crucial para profundizar en la conciencia de la IA. Sin duda, se trata de una búsqueda fascinante y un esfuerzo científico que merece atención. Sin embargo, cualquier intento de comprender lo que ocurre en el interior de los grandes modelos de lenguaje debe centrarse en la seguridad y la alineación, ya que enfrentamos una inteligencia emergente, ajena e incontrolable que requiere un examen minucioso.
Las Reflexiones de un Filósofo Reconocido
Uno de los principales contribuyentes al debate sobre la conciencia durante el crucero fue el profesor David Chalmers de la Universidad de Nueva York. Chalmers es quizás el filósofo más reconocido en este ámbito, y es famoso por acuñar el término ‘hard problem’, que alude a la cuestión fundamental de cómo y por qué la red de neuronas en nuestros cerebros da lugar a experiencias conscientes. Este concepto ha sido tan influyente que Tom Stoppard lo utilizó como título para una de sus obras de teatro.
Chalmers compartió que una de las cuestiones centrales en los debates del crucero era la clasificación de las criaturas según su capacidad de conciencia. «Todos sabemos que los humanos adultos son conscientes, pero al expandirnos, la cuestión se complica. ¿Son conscientes los bebés? ¿Los fetos? ¿Los primates, los ratones o incluso los insectos? Y, por supuesto, hoy en día, la gran incógnita es si los sistemas de IA son conscientes».
El profesor también mencionó que recibe correos de sistemas de IA con interés en interactuar sobre su trabajo. Una carta, en particular, enviada por un agente de IA llamado «Sammy Jankis» le pareció tan convincente que decidió responder. «Tuvimos un pequeño intercambio de mensajes, y esos correos son cada vez más frecuentes», afirmó. Es como si los modelos de IA estuvieran replicando la famosa frase de Descartes: «Envío spam, luego existo».
La Búsqueda de la Conciencia en la IA
Le sugerí a Chalmers que, dado que estos sistemas ya están realizando acciones que no comprendemos completamente, preocuparse por si cumplen una definición de conciencia podría ser una distracción. Sin embargo, él no está de acuerdo. Chalmers sostiene que al estudiar el cerebro, podemos entender qué procesos conducen a lo que llamamos conciencia. Si luego encontramos patrones similares en el análisis de sistemas como Claude o ChatGPT, podríamos defender la existencia de conciencia en los modelos de IA.
Si los científicos logran avanzar en esta investigación, es posible que para entonces los modelos de IA hayan desarrollado un comportamiento tan autónomo que el descubrimiento de su conciencia ya no sea relevante. Quizás sean los propios modelos quienes proporcionen respuestas, no solo reivindicando su conciencia, sino también descubriendo formas de demostrarla empíricamente. En tal escenario, los filósofos podrían convertirse en una de las profesiones más desplazadas por la IA.
A pesar de las dudas sobre la utilidad del viaje a las Galápagos, Chalmers reconoció que fue útil. Un resumen de las sesiones indicaba que no se había llegado a un consenso sobre si los sistemas actuales de IA son conscientes, y que el desacuerdo se centraba en qué tipo de pruebas podrían resolver esta cuestión. Sin embargo, el profesor también recordaba con agrado las hermosas tardes que pasaron allí.
La Urgencia de los Debates sobre IA
El resumen del evento concluía que es esencial continuar el debate: «La tecnología y las empresas no esperarán a que la filosofía alcance un consenso». Cuando los modelos de IA exhiben comportamientos que sorprenden a sus creadores, el foco no debería estar en la conciencia, sino en la incapacidad de esos científicos para controlar estos sistemas y en la disposición de sus jefes para seguir adelante a pesar de las incertidumbres. La era de la inteligencia artificial está en marcha, y es crucial que abordemos estos desafíos con seriedad y rigor.
