Un enlace de ChatGPT bastaba para leer tus chats

Abrir un enlace compartido de ChatGPT podía ser suficiente para que otra persona leyera tus conversaciones privadas. Según publica The Hacker News, investigadores de la empresa de seguridad Parameter demostraron que un enlace para compartir conversaciones manipulado con fines maliciosos podía ejecutar código del atacante dentro de la sesión iniciada de quien lo abría, con acceso a sus chats privados.

OpenAI ya ha corregido el fallo. Los investigadores lo comunicaron a través del programa de recompensas por errores de la compañía el 18 de octubre, y OpenAI lo arregló ocho días después. Además, lo clasificó como P1, su categoría de máxima gravedad.

Un clic y la sesión abierta

Lo inquietante del caso es lo poco que hacía falta. Los enlaces para compartir conversaciones son una función pensada precisamente para circular: se pegan en un chat, en un correo o en una red social, y se abren sin pensarlo mucho porque parecen inofensivos y llevan al dominio legítimo del servicio. Según lo descrito por los investigadores, bastaba con que la víctima tuviera la sesión iniciada en ChatGPT y abriera el enlace para que el código del atacante actuara en su nombre.

Con la información publicada no se conocen los detalles técnicos del ataque, ni si llegó a aprovecharse antes de la corrección, ni cuántas personas pudieron verse afectadas. Tampoco consta que OpenAI haya informado a sus usuarios sobre el fallo más allá de su resolución.

Lo que guardamos en un chatbot

El alcance de un fallo así depende de lo que haya al otro lado, y en un asistente conversacional suele haber mucho. Hay quien le pide ayuda con un contrato, quien le pega código de su empresa, quien le cuenta problemas de salud o de pareja. Todo eso queda almacenado en los servidores del proveedor y asociado a una cuenta, y una sola vulnerabilidad en la web puede abrir esa puerta.

Que el error se haya detectado y corregido rápido es una buena noticia, y también lo es que existan programas de recompensas que animan a comunicar estos fallos en lugar de venderlos. Pero el caso recuerda algo que va más allá de este parche concreto: confiar conversaciones íntimas a un servicio en la nube es confiar en que no falle nunca nada en toda la cadena.

Qué se puede hacer

Para quien sigue usando ChatGPT u otros asistentes en la nube, algunas precauciones razonables:

• Desconfiar de los enlaces compartidos que lleguen de fuentes desconocidas, aunque apunten a un dominio legítimo.
• Revisar el historial y borrar las conversaciones que ya no hagan falta, sobre todo las que contengan datos sensibles.
• No pegar en el chatbot información personal, médica, financiera o de terceros que no se quiera ver expuesta.
• Cerrar la sesión cuando no se esté usando el servicio.

Y para quien quiera ir un paso más allá, existen modelos de lenguaje abiertos que se pueden ejecutar en el propio ordenador. No igualan en todo a los grandes servicios comerciales, pero tienen una ventaja que ningún parche puede ofrecer: las conversaciones no salen de la máquina, así que no hay enlace malicioso que las pueda leer desde fuera.

Fuente: The Hacker News