Vulnerabilidad en la app de ChatGPT para Mac: Conversaciones y datos sensibles expuestos

En la actualidad, las noticias sobre inteligencia artificial (IA) y su relación con la ciberseguridad son cada vez más frecuentes. Recientemente, se ha destacado una vulnerabilidad en la versión de ChatGPT para macOS, la cual ha sido corregida, y que pone de manifiesto cómo las aplicaciones de IA pueden convertirse en blancos atractivos para los ciberdelincuentes. Este hallazgo resalta la necesidad de que las empresas de tecnología permanezcan alerta ante las amenazas emergentes en un entorno digital cada vez más complejo.

El riesgo de la vulnerabilidad en ChatGPT

La vulnerabilidad detectada permitía que un atacante pudiera tomar control de ChatGPT en el ordenador de una víctima, obteniendo acceso a los historiales de chat y otros datos almacenados en la aplicación, así como a sesiones del navegador. Este descubrimiento fue realizado por investigadores de la Fundación Objective-See, quienes subrayan el importante acceso que necesitan estos programas para operar, convirtiéndolos en un blanco potencialmente atractivo para ataques maliciosos.

Patrick Wardle, analista de software de la Fundación Objective-See, destaca que «los agentes requieren un amplio acceso para realizar sus funciones. Son comparables a un ama de llaves de un hotel, con acceso a todas las habitaciones. Por lo tanto, si estos sistemas son corrompidos o manipulados, se genera una situación problemática».

La respuesta de OpenAI y las medidas de seguridad implementadas

OpenAI ha reconocido la existencia de esta falla de seguridad y ha implementado su corrección, la cual fue anunciada en su registro de cambios el pasado 25 de septiembre. Un portavoz de la compañía, Shane Bauer, declaró que «continuamos mejorando nuestras prácticas de seguridad, pero somos conscientes de la necesidad de actuar con mayor rapidez».

La aplicación de ChatGPT para macOS se basa en múltiples componentes que se comunican de forma segura mediante la verificación de firmas digitales, con el propósito de asegurar que las interacciones provienen de fuentes legítimas y no de software malicioso. Sin embargo, los investigadores encontraron que uno de estos componentes, un intérprete de scripts, podría ser manipulado para enviar comandos al proceso principal de ChatGPT. Wardle explica que, aunque el sistema realiza comprobaciones de seguridad, un script malicioso puede eludir estas barreras ejecutando el intérprete de scripts de manera adecuada.

Consecuencias de la vulnerabilidad y el futuro de la seguridad en IA

Además de permitir el acceso a los registros de chat, la vulnerabilidad podría haber sido utilizada para que ChatGPT ejecutara comandos en nombre del hacker, lo que incluiría acceder a navegadores u otras aplicaciones críticas, haciendo que las solicitudes parecieran legítimas. Wardle presentará un análisis de diversas vulnerabilidades en aplicaciones de IA para macOS en la próxima conferencia «Objective by the Sea», que se centrará en la seguridad de productos de Apple.

Recientemente, Wardle también identificó un fallo en la función de dictado del nuevo agente Muse de Meta, el cual podría haber permitido a un hacker obtener un token de autenticación mal gestionado y acceder a datos de usuarios. Además, ya ha reportado a OpenAI un nuevo hallazgo relacionado con la conexión entre ChatGPT y el agente de IA Dots, que está activo de forma constante. OpenAI está actualmente revisando este informe.

La necesidad de priorizar la seguridad en el desarrollo de IA

Wardle enfatiza que las empresas de IA están muy enfocadas en añadir nuevas funciones, pero advierte que cada nueva incorporación aumenta la superficie de ataque. «Cuantas más características se implementan, mayor es el riesgo. Por esto, es crucial que estas compañías prioricen la seguridad, aunque muchas veces parece que este aspecto se considera secundario», concluye.