Esta técnica, no solo funciona con ChatGPT, sino también con otros bots de inteligencia artificial.
ChatGPT día con día se ha vuelto parte de la vida de millones de personas que lo utilizan a diario para diferentes tareas.
Sin embargo nunca nos hemos preguntado ¿qué tan expuestas están las conversaciones? Desde hace tiempo sabemos que OpenAI puede utilizar el contenido de los chats para mejorar sus modelos de inteligencia artificial, a menos que se desactive el historial de chats, o que se utilice la versión de pago.
Lo que significa que empleados de la compañía de ChatGPT pueden tener la posibilidad de acceder a tus conversaciones con fines técnicos o de seguridad. Por eso es de suma importancia no compartir información confidencial ya que esta puede acabar en manos de un ciberdelincuente.
Si eres usuario de ChatGPT, seguramente habrás notado que el chatbot va enviándote la respuesta progresivamente. Este proceso podemos explicarlo también de la siguiente manera: el modelo, GPT-3.5 o GPT-4, va transmitiendo los tokens con destino a tu ordenador a medida que los va generando. Ahora bien, aunque esta transmisión secuencial está cifrada, abre la puerta a utilizar un tipo de ataque conocido como Side-Channel attack que puede revelar la longitud de lo tokens para inferir información.
Cabe señalar que esta técnica, según los investigadores, no solo funciona con ChatGPT, sino también con otros bots de inteligencia artificial como Copilot que envían los tokens de manera secuencial.