Un ataque a un proveedor expone chats con Notion AI

Notion ha reconocido que una brecha de seguridad en Fireworks AI, la empresa que le presta parte de la infraestructura de inteligencia artificial, dejó al descubierto transcripciones de conversaciones con Notion AI en un número reducido de espacios de trabajo. Según la compañía, afecta a menos del 1 % de sus usuarios. Lo ha contado BleepingComputer.

Notion es una herramienta en la nube para tomar notas, redactar documentos, montar wikis internas y gestionar proyectos. Incluye un asistente de IA que responde preguntas, resume contenido y ayuda a escribir. Lo que mucha gente no sabe es que parte de ese asistente no funciona en servidores de Notion.

Un proveedor que casi nadie conocía

Fireworks AI permite a Notion ejecutar algunos de los modelos de pesos abiertos que ofrece en Notion AI y, además, analizar las conversaciones almacenadas para Insights, una función que da a los administradores visibilidad sobre cómo usan la IA sus equipos. Las transcripciones expuestas proceden precisamente del conjunto de datos de Insights, que Notion ha desactivado.

La cronología, según BleepingComputer, es esta:

• A principios de octubre, Fireworks sufrió una primera intrusión en la que se accedió a variables de entorno con claves de API y tokens de un número limitado de cuentas.
• El 23 de octubre, un atacante entró en su entorno de desarrollo a través de un proveedor de nube externo y comprometió metadatos, información de facturación, pesos de modelos y conjuntos de datos de algunos clientes.
• El 2 de noviembre, Fireworks avisó a Notion de un conjunto de datos expuesto que, en principio, solo contenía datos sintéticos de prueba.
• Notion cortó el tráfico hacia Fireworks, borró todos sus datos de los sistemas del proveedor y detuvo los entrenamientos antes del 3 de noviembre.
• El 8 de noviembre, Fireworks confirmó que sí se había accedido a datos de clientes, incluidos los de usuarios de Notion.

«Tras analizar el conjunto de datos que Fireworks AI nos entregó el 8 de noviembre, descubrimos que incluía transcripciones de chats de Notion AI usadas para la función Insights, que en la inmensa mayoría de los espacios afectados no eran atribuibles», explica Notion en una actualización. La empresa aclara que eso significa que los chats no estaban etiquetados con quién los escribió ni de qué espacio procedían, y que no incluían los resultados de las llamadas a herramientas.

Retención cero, sobre el papel

En la página de preguntas frecuentes sobre el incidente, Notion subraya que Fireworks se había comprometido por contrato a no retener datos de Notion. Aun así, el conjunto expuesto contenía transcripciones de conversaciones. La compañía no ha detallado cuántos espacios de trabajo concretos están afectados ni qué tipo de información contenían esos chats.

El caso ilustra un problema que va más allá de Notion: cuando se habla con el asistente de una herramienta de trabajo, la conversación puede acabar en manos de proveedores que el usuario ni conoce, y cada eslabón de esa cadena, incluido el proveedor de nube del proveedor, es un punto por donde puede escaparse.

Qué hacer si te afecta

Notion recomienda a los propietarios de espacios potencialmente afectados que revisen los datos desde la sección de revisión de incidentes de seguridad en la interfaz web de escritorio y compartan con los miembros un enlace para que descarguen sus propias transcripciones.

También aconseja cambiar cualquier contraseña, clave de API u otra credencial que se haya escrito en los chats afectados. Si ni el usuario ni el propietario de su espacio han recibido un aviso, según la empresa no hace falta hacer nada por ahora: lo más probable es que no estén entre los afectados.

Fuente: BleepingComputer