La aparición de DeepSeek, el chatbot con inteligencia artificial (IA) desarrollado en China, desató un verdadero terremoto en el sector tecnológico global. Desde su lanzamiento al público general el 20 de enero de 2025, la plataforma logró posicionarse como la aplicación gratuita más descargada tanto en China como en Estados Unidos, y superó a gigantes como ChatGPT.
Sin embargo, las dudas sobre el manejo de los datos que recopila y la falta de respuesta en temas incómodos para el gobierno chino pusieron en el centro del debate serios interrogantes sobre la censura, la privacidad y la competencia global en el sector de la inteligencia artificial.
Leé también: Censura, código abierto y dudas sobre privacidad: qué hay detrás del fenómeno DeepSeek, la IA china
DeepSeek, como muchas otras empresas de tecnología, depende de grandes volúmenes de datos para entrenar y mejorar sus modelos. La pregunta es: ¿de dónde provienen estos datos y cómo se utilizan?
Si bien la empresa afirma cumplir con las normativas de protección de datos, las leyes chinas sobre privacidad son menos estrictas que las de la Unión Europea o Estados Unidos. Esto generó preocupación sobre si la información de los usuarios podría ser compartida con el gobierno chino o utilizada para fines no declarados. En un mundo donde los datos son el nuevo petróleo, la falta de claridad en este aspecto es motivo de alarma.
Dark News, newsletter de noticias de ciberseguridad, informó esta semana que una empresa de seguridad aseguró que DeepSeek es significativamente más vulnerable, ya que es simple engañarlo para escribir malware, fabricar contenido sensible y hasta desarrollar ransomware. Esto es: usarlo para infectar dispositivos.
Lo más preocupante es que otra compañía analizó el modelo R1 -así se llama el LLM de DeepSeek- y descubrió una base de datos con información interna expuesta: había hasta conversaciones de los usuarios con el chatbot, disponibles para que la vea cualquiera que pudiera llegar a la base de datos y lista para descargarse.
Leé también: El rol de la IA en los ataques digitales y los consejos para proteger los datos
Pero todo esto no es muy distinto de ChatGPT, el chatbot de OpenAI: “Los problemas que se señalaron con DeepSeek en cuanto a su seguridad se pueden encontrar en la mayoría de los chatbots actuales”, aseguró Juan Brodersen, periodista especializado en ciberseguridad, responsable de Dark News.
“ChatGPT, Gemini, Grok (X/Twitter), Claude (Anthropic) y ahora DeepSeek funcionan bajo la misma lógica: entrar a una web o una app, crear una cuenta y empezar a chatear. Su uso siempre es gratis, pero hay una versión premium que se paga”, explicó Brodersen. “Lo que sucede por detrás, opera en la nube: es decir, la información se procesa en los servidores (computadoras) de una empresa”, agregó.
Como explica el especialista en Dark News, esto puede representar un problema: los usuarios hacen consultas personales a los chatbots, e incluso, muchas veces, cargan información no solo privada, sino confidencial (motivo por el cual muchas empresas bloquean el chatbot o le aplican restricciones para no poder enviar ciertas consultas).
En este sentido, tanto ChatGPT como DeepSeek representan el mismo riesgo: “Digan lo que digan en sus términos y condiciones, la información es procesada en un servidor ajeno, en la nube, y el usuario ya pierde control de cómo se manejen esos datos", expuso Brodersen.
De esa manera, el acceso a sus sistemas y servidores están a la merced de ciberdelincuentes. Y a pesar de que las empresas tienen “guardarrailes” o contenciones, pueden saltearse con un poco de maña.
Para citar dos ejemplos, durante la semana pasada se supo que hubo una filtración de datos internos de DeepSeek y chats de los usuarios. Lo mismo le sucedió a ChatGPT hace un año.
Leé también: Una multa sin precedentes: un banco deberá devolverle $140 millones a una pyme que sufrió una ciberestafa
Esta situación pone de relieve las complejidades inherentes al uso de modelos de lenguaje avanzados y ambas plataformas enfrentan desafíos similares en cuanto a seguridad.
Estos incidentes también reavivan el debate sobre cómo se manejan los datos personales en internet y ponen de manifiesto los riesgos potenciales asociados con el uso de estas tecnologías.
