La evolución de la inteligencia artificial (IA) está transformando la forma en que las personas interactúan con la tecnología, pero también está dando paso a nuevos desafíos en materia de ciberseguridad.
Para Kaspersky, el mayor riesgo ya no radica en la posibilidad de que la IA «lea la mente» de los usuarios, sino en su creciente capacidad para analizar comportamientos, anticipar decisiones e influir de manera casi imperceptible en la forma en que las personas consumen información y toman decisiones.
De acuerdo con los especialistas de la compañía, la denominada IA cognitiva representa una nueva frontera para la seguridad digital, al poner sobre la mesa el concepto de autonomía cognitiva, entendido como la capacidad de las personas para decidir libremente sin ser perfiladas, manipuladas o condicionadas por sistemas tecnológicos que personalizan contenidos y recomendaciones.
Aunque las tecnologías actuales no pueden interpretar pensamientos de manera directa, sí son capaces de analizar grandes volúmenes de información sobre el comportamiento digital de los usuarios para construir perfiles altamente precisos.
A partir de ellos, algoritmos y sistemas de recomendación pueden determinar qué contenido recibe cada persona, cuándo lo ve y de qué manera se le presenta, incrementando su capacidad de influencia.
Frente a este escenario, los expertos del Equipo Global de Investigación y Análisis (GReAT) de Kaspersky identificaron cuatro amenazas emergentes que podrían intensificarse con el desarrollo de la IA cognitiva.
La primera corresponde a una nueva generación de ataques de ingeniería social, impulsados por modelos avanzados de lenguaje capaces de crear correos electrónicos, mensajes y sitios web fraudulentos mucho más convincentes y personalizados.
El phishing
Según el más reciente informe de Kaspersky Security Services, el phishing representa cerca del 15 % de las técnicas de ataque utilizadas actualmente, convirtiéndose en una de las principales puertas de entrada para fraudes financieros, robo de credenciales y accesos no autorizados a sistemas corporativos.
Otro riesgo creciente es la manipulación cognitiva, que puede utilizar la inteligencia artificial para influir en comunidades enteras, amplificar determinados discursos, reforzar sesgos o fomentar la polarización mediante contenidos diseñados específicamente para generar determinadas reacciones.
La compañía advierte que este fenómeno trasciende la ciberseguridad tradicional al comprometer la confianza pública y la capacidad de las personas para tomar decisiones informadas.
En tercer lugar, Kaspersky alerta sobre el avance del perfilamiento digital, una práctica que permite combinar datos provenientes de redes sociales, historiales de búsqueda e interacciones en línea para construir perfiles extremadamente detallados sobre cada usuario.
Este nivel de análisis facilita prácticas como el doxxing, el acoso digital y otros abusos basados en información personal, además de abrir la puerta a sistemas predictivos que podrían clasificar o evaluar a una persona según comportamientos que un algoritmo considera probables, y no necesariamente reales.
El cuarto escenario analizado corresponde a las interfaces cerebro-computadora, una tecnología aún en fase experimental que ya se utiliza en determinados entornos médicos para facilitar la comunicación de pacientes mediante señales neuronales.
La posible integración de estas interfaces con dispositivos del Internet de las Cosas (IoT) promete importantes avances en salud y accesibilidad, pero también plantea nuevos retos de seguridad. Un eventual acceso no autorizado podría permitir la manipulación de dispositivos conectados o la alteración de las respuestas generadas por estos sistemas.
«Aunque la IA cognitiva aún se encuentra en una etapa temprana y está lejos de alcanzar una adopción masiva, su desarrollo avanza rápidamente», explicó Noushin Shabab, investigadora principal de seguridad del Equipo Global de Investigación y Análisis (GReAT) de Kaspersky.
«Se espera que los modelos avanzados de interacción entre humanos e IA se vuelvan mucho más comunes en las próximas décadas. A medida que crezca su adopción, también lo harán los riesgos asociados, por lo que debemos prepararnos desde ahora», afirmó.
Ante este panorama, Kaspersky recomienda a los usuarios desarrollar una actitud crítica frente a mensajes excesivamente personalizados, verificar siempre la autenticidad de correos, enlaces y anuncios, limitar la información personal que comparten en entornos digitales y utilizar soluciones de seguridad capaces de detectar intentos de phishing, sitios fraudulentos y otras amenazas potenciadas por inteligencia artificial.
Para las organizaciones, la empresa aconseja reforzar los controles sobre el acceso a sitios y aplicaciones de riesgo, así como fortalecer la capacitación de los colaboradores para reconocer campañas de ingeniería social cada vez más sofisticadas.
Según la firma, combinar herramientas tecnológicas con programas permanentes de concienciación será clave para enfrentar una nueva generación de amenazas donde el objetivo principal ya no será únicamente vulnerar dispositivos, sino influir directamente en las decisiones de las personas.
