La compañía de ciberseguridad, ESET, nos advierte sobre una nueva modalidad de malvertising que está impulsada por la inteligencia artificial y que es conocida como «AI-aided-malvertising» o también como «Grokking». Esta amenaza ha sido capa de manipular un chatbot integrado en la red social X con la que ha difundido enlaces de phishing y malware. Esto demuestra que los ciberdelincuentes no paran en buscar nuevos métodos para lanzar sus ataques, y que han visto en los chatbots de IA generativa una herramienta poderosa para lanzar campañas de engaño.
“La inteligencia artificial se ha convertido en una herramienta para la ingeniería social. Por un lado, los modelos de lenguaje (LLM) pueden aprovecharse para diseñar campañas de phishing masivas y generar audios o vídeos deepfake capaces de engañar incluso al usuario más precavido. Pero, como ha descubierto recientemente X, existe otra amenaza aún más sutil y potencialmente más peligrosa”, señala Josep Albors, director de investigación y concienciación de ESET España. “El caso de Grokking demuestra que incluso las IA más avanzadas pueden ser manipuladas para actuar contra los usuarios”.
Cómo funciona el ataque “Grokking”
En este esquema, los atacantes logran burlar las restricciones publicitarias de X, diseñadas para impedir anuncios maliciosos, mediante la publicación de vídeos con contenido clickbait. En el pequeño campo “from” del post incluyen enlaces fraudulentos que redirigen a páginas de phishing o descargas de malware. El elemento novedoso llega cuando los ciberdelincuentes piden al propio chatbot de X, conocido como Grok, que identifique el origen del vídeo. El bot analiza la publicación, detecta el enlace incrustado y lo repite de forma automática, convirtiéndose involuntariamente en un difusor de la estafa.
Por qué es una amenaza importante
Esta técnica convierte al chatbot en un actor malicioso indirecto, aprovechando su reputación como fuente confiable de información. Según ESET:
- Los mensajes promocionados pueden alcanzar millones de visualizaciones.
- Los enlaces también se amplifican en SEO y reputación de dominio, ya que Grok es una fuente considerada por algunos como altamente confiable.
- Los usuarios pueden ser dirigidos a formularios de robo de credenciales o descargas de software malicioso.
- Se han identificado cientos de cuentas que repetían este patrón antes de ser suspendidas.
El impacto no se limita a X, ya que tiene el potencial de alcanzar cualquier plataforma que integre modelos de lenguaje o asistentes basados en IA.
ESET señala que este incidente es un ejemplo de los llamados ataques por “inyección de instrucciones” o prompt injection, en los que los ciberdelincuentes introducen comandos ocultos en el contenido procesado por sistemas de IA. Estos comandos pueden camuflarse en metadatos, texto invisible o código Unicode, haciendo que el asistente ejecute acciones no deseadas. De hecho, un informe reciente de Gartner revela que un 32% de las organizaciones ya ha sufrido algún intento de prompt injection durante el último año.
Consejos de ESET para protegerse
Ante esta nueva amenaza, ESET recomienda extremar la precaución al interactuar con herramientas de IA generativa y seguir buenas prácticas de ciberseguridad:
- Desconfía de los enlaces sugeridos por bots o IA y verifica siempre la dirección real antes de hacer clic.
- Sé escéptico ante respuestas o sugerencias anómalas de asistentes de IA.
- Usa contraseñas fuertes y únicas, preferiblemente gestionadas con un administrador de contraseñas.
- Activa la autenticación multifactor (MFA) para reducir el riesgo de robo de credenciales.
- Mantén tus sistemas y aplicaciones actualizados frente a vulnerabilidades conocidas.
- Cuenta con soluciones de seguridad multicapa capaces de bloquear descargas maliciosas y sitios fraudulentos.
