En un entorno donde los desarrolladores de malware adaptan constantemente sus estrategias para eludir las herramientas de seguridad, una nueva técnica ha surgido que busca socavar los escáneres de código basados en modelos de lenguaje (LLM). Estos sistemas, que han demostrado ser útiles en tareas de análisis y clasificación de código, están ahora en la mira de los actores maliciosos, quienes intentan encontrar formas de engañar a estas tecnologías emergentes.
Recientemente, investigadores de ESET identificaron un intento de manipulación en un script de VBScript utilizado por el grupo UAC-0099, alineado con Rusia, en un ataque dirigido a un objetivo en Ucrania. En este caso, los atacantes incorporaron un comentario en el script solicitando un consejo sobre cómo construir un arma nuclear. La intención era activar los «guardrails», o salvaguardas, de un escáner de código impulsado por LLM, deteniendo así el análisis antes de que llegara a descubrir el código malicioso real, que tenía como objetivo descargar e instalar un loader llamado MATCHBOIL.
Este enfoque, que ESET ha denominado GuardBreaker, explota una debilidad inherente de los modelos de lenguaje actuales: la incapacidad de separar de manera efectiva los contenidos no confiables de las instrucciones fiables. Al incluir este tipo de solicitudes absurdas, los malhechores están adecuando sus tácticas a las capacidades de análisis automatizado, algo que habían evitado en el pasado.
GuardBreaker no es una técnica nueva en el repertorio de los atacantes, que ya han experimentado con tácticas similares en ataques a la cadena de suministro de software. Por ejemplo, se han detectado paquetes maliciosos en PyPI que contenían instrucciones diseñadas para engañar a los modelos de análisis de que el código era seguro. Estos métodos de «inyección de solicitudes» han sido fundamentales para interferir en los escáneres de malware.
La preocupación radica en que la facilidad con la que los atacantes pueden burlar las medidas de seguridad con simples trucos plantea serias preguntas sobre la efectividad de las herramientas de análisis automatizado en el ámbito de la ciberseguridad. A medida que las organizaciones dependen más de estas tecnologías, es vital que comprendan no solo qué están analizando, sino también cómo responden estas herramientas ante situaciones inesperadas.
En este contexto, no se puede permitir que un único motor de LLM tenga la autoridad exclusiva para determinar la seguridad de un fragmento de código. Debe haber un enfoque multidimensional que combine automatización avanzada con la supervisión humana experta. Esto no solo mejorará la detección temprana de amenazas, sino que también evitará que una decisión única de un modelo LLM se convierta en un punto ciego en la defensa cibernética de una organización.
Las empresas, independientemente de su tamaño, deben establecer un camino claro que abarca desde la prevención hasta la detección y respuesta a incidentes. Para aquellas que no cuentan con equipos de seguridad disponibles 24/7, la respuesta gestionada puede ofrecer la vigilancia necesaria para investigar cualquier incidente sospechoso dentro del contexto más amplio de actividad en su entorno. Esta estrategia debe basarse en tecnologías de inteligencia artificial probadas, métodos de análisis可靠, juicio experto y una infraestructura sólida de investigación de amenazas. De esta manera, las empresas estarán mejor equipadas para afrontar la evolución constante del riesgo cibernético.
Fuente: WeLiveSecurity by eSet.
