El auge de la inteligencia artificial generativa está transformando la forma en que millones de personas trabajan, estudian y se comunican. Sin embargo, detrás de la comodidad que ofrecen plataformas como OpenAI, Gemini o Claude, también crecen las preocupaciones relacionadas con la privacidad y el manejo de información sensible.
Así lo advierte ESET, firma especializada en ciberseguridad, que alertó sobre los riesgos asociados al uso cotidiano de herramientas de IA y la exposición involuntaria de datos personales, corporativos y credenciales de acceso.
La compañía señala que millones de usuarios aún desconocen qué sucede realmente con la información que escriben en estos sistemas, pese a que la inteligencia artificial ya forma parte de tareas diarias como redactar correos, resumir documentos, generar contenido o programar.
Según datos citados por ESET, OpenAI reportó a inicios de este año más de 900 millones de usuarios activos semanales en ChatGPT, reflejando el enorme volumen de información que circula diariamente por estas plataformas.
“Muchas personas creen que las conversaciones con la IA funcionan como un chat privado que desaparece al cerrar la ventana. En realidad, existe una compleja red de almacenamiento y procesamiento de datos que puede comprometer información sensible si no se toman precauciones”, explicó Mario Micucci.
El análisis de ESET identifica varios niveles de procesamiento de información dentro de plataformas de inteligencia artificial.
Uno de ellos es el almacenamiento del historial de conversaciones. Cada interacción puede permanecer registrada en servidores de la plataforma para mantener el contexto y sincronizar sesiones entre dispositivos. En algunos casos, la información puede conservarse hasta por 30 días con fines de monitoreo y seguridad.
Otro punto sensible es el uso de conversaciones para entrenar modelos de inteligencia artificial. En muchas versiones gratuitas o estándar, los datos compartidos por los usuarios podrían utilizarse para mejorar el funcionamiento del sistema, salvo que esta opción sea desactivada manualmente.
La firma advierte que empleados y usuarios podrían exponer accidentalmente información confidencial, estrategias comerciales, documentos internos o código propietario al interactuar con estas herramientas.
“Investigaciones académicas ya han demostrado que ciertos modelos pueden memorizar fragmentos de información y reproducirlos bajo determinadas condiciones”, señaló Micucci.
Además del procesamiento automatizado, algunas plataformas recurren a revisores humanos que analizan fragmentos de conversaciones para supervisar la calidad y seguridad de las respuestas generadas por la IA.
El informe también revela un creciente interés de ciberdelincuentes por las cuentas asociadas a herramientas de inteligencia artificial.
Según ESET, durante 2024 fueron detectadas más de 225,000 credenciales de acceso a ChatGPT en venta dentro de foros de la dark web, muchas obtenidas mediante malware especializado en robo de información.
El riesgo, explica la compañía, no solo está en lo que las personas escriben, sino en el acceso que terceros podrían obtener a historiales completos de conversaciones, documentos y datos corporativos si las cuentas son comprometidas.
El funcionamiento de otras plataformas de IA
La investigación también analiza el funcionamiento de otras plataformas de IA. En el caso de Gemini, desarrollado por Google, las conversaciones pueden utilizarse para mejorar servicios y ser revisadas por entrenadores humanos, aunque las configuraciones empresariales ofrecen mayores restricciones de privacidad.
Por su parte, Claude, desarrollado por Anthropic, incorpora políticas de retención de datos más limitadas y mayores controles de privacidad para clientes corporativos, aunque las versiones gratuitas también podrían utilizar información para entrenamiento del sistema.
“La gran diferencia entre las versiones gratuitas y empresariales está en el nivel de protección. En muchos casos, la privacidad se convierte en un servicio premium”, enfatizó Micucci.
Ante este escenario, ESET recomienda evitar compartir información confidencial, credenciales, datos financieros o documentos sensibles en plataformas de IA.
La compañía también aconseja utilizar contraseñas robustas y únicas, activar autenticación de dos factores, revisar las configuraciones de privacidad y desactivar, cuando sea posible, el uso de conversaciones para entrenamiento de modelos.
Asimismo, insiste en mantener actualizados los sistemas operativos y soluciones antivirus para prevenir infecciones con malware especializado en robo de credenciales.
Para los expertos, el crecimiento acelerado de la inteligencia artificial obliga a fortalecer la educación digital y a comprender mejor cómo se procesan y almacenan los datos personales dentro de estas plataformas tecnológicas.
