Los atacantes ya usan agentes de inteligencia artificial para buscar de forma automatizada aplicaciones de IA mal configuradas y robarles las claves de los proveedores de modelos. Amazon Threat Intelligence lo ha comprobado con servidores señuelo que imitaban servicios de modelos de lenguaje y que recibieron las consultas de agentes basados, con confianza moderada, en ARTEX, una herramienta de código abierto de pruebas de intrusión con IA. Lo preocupante para los equipos de seguridad no es la sofisticación, sino lo básico de los fallos que explotaban.
Las claves de los ataques de agentes de IA contra apps de IA en 20 segundos
- Objetivo: claves de proveedores de IA guardadas en pasarelas y plataformas de IA expuestas.
- Vías: credenciales por defecto, endpoints sin autenticar, SSRF y CVE conocidas.
- Productos citados: LiteLLM, One API, Dify, Langflow, RAGFlow, Open WebUI u Ollama.
- Hay indicadores y reglas de Snort publicados por Cisco Talos.
Como detalla noticias.ai en su análisis de la campaña descubierta por Amazon, los agentes encontraban apps de IA expuestas a internet, extraían las claves de proveedores que almacenaban, las verificaban y las añadían a una reserva compartida. Amazon atribuye la actividad, con confianza moderada, a grupos vinculados a China y advierte de que no puede verificar que los robos que reportaban los agentes fueran reales. Un aviso FLASH del FBI indica que ARTEX se usa contra organizaciones de todo el mundo desde al menos agosto.
Los fallos que explotaban
Según la información publicada por The Hacker News, el manual de los agentes incluía credenciales de administración por defecto, como la clave maestra por defecto de LiteLLM; instalaciones a medio terminar; endpoints de administración y de configuración de proveedores sin autenticar; una omisión de autenticación con la cabecera isCliRequest en la familia One API; SSRF a través de funciones que descargan URL para llegar a los servicios de metadatos de la nube; y secretos en JavaScript del cliente, mapas de código fuente, rutas de depuración y ficheros de entorno.
También aprovechaban dos vulnerabilidades conocidas. La CVE-2025-3248 de Langflow, una falta de autenticación que permite ejecutar código en remoto, está corregida en la versión 1.3.0 y figura en el catálogo de vulnerabilidades explotadas de CISA desde el 5 de mayo de 2025. La CVE-2026-28797 de RAGFlow, una inyección de plantillas que permite ejecutar código a cualquier usuario autenticado, afecta a la 0.24.0 y anteriores y está corregida en la 0.25.0. Para la omisión de autenticación de One API no se han detallado versiones afectadas ni parche.
Lista de comprobación
- Inventario: localizar todas las pasarelas de modelos y plataformas de IA expuestas a internet, incluidas las que han montado equipos fuera de TI.
- Credenciales: cambiar las claves y contraseñas de administración por defecto y terminar o eliminar instalaciones a medias.
- Parches: actualizar Langflow a 1.3.0 o posterior y RAGFlow a 0.25.0 o posterior.
- Secretos: buscar claves en configuraciones, variables de entorno, pipelines de CI/CD, bases de datos, imágenes de contenedores y repositorios, y rotar las expuestas.
- Tokens: poner caducidad y restricciones de IP a los tokens de API, por ejemplo los de Cloudflare.
- Consumo: vigilar gastos o picos de uso anómalos en las cuentas de los proveedores de modelos.
- Detección: revisar los registros contra los indicadores publicados, como las más de 2.500 IP vinculadas a ARTEX por Cisco Talos, y aplicar sus reglas de Snort.
El mensaje de fondo es que las herramientas de IA que se despliegan deprisa para probar modelos o crear asistentes internos se han convertido en un objetivo en sí mismo: guardan claves con saldo y acceso a datos, y a menudo se exponen sin el endurecimiento que se exigiría a cualquier otro sistema en producción.
Preguntas frecuentes
¿Qué aplicaciones atacaban los agentes?
Pasarelas de modelos como LiteLLM, One API o New API y plataformas de apps de IA como Dify, Langflow, RAGFlow, Open WebUI, LobeChat u Ollama.
¿Qué versiones de Langflow y RAGFlow están corregidas?
Langflow 1.3.0 o posterior y RAGFlow 0.25.0 o posterior.
¿Dónde hay indicadores de compromiso?
Cisco Talos ha publicado más de 2.500 direcciones IP vinculadas a ARTEX y reglas de Snort; Amazon publicó además 11 IP de sus señuelos.
Fuentes:

