La ciberseguridad empresarial está entrando en una fase en la que los atacantes no solo tienen más herramientas, sino también más velocidad. La inteligencia artificial generativa, los agentes autónomos, las cadenas de suministro de software y la manipulación de identidades están ampliando la superficie de ataque en empresas que todavía arrastran controles pensados para un entorno más previsible.
Gartner ha identificado cuatro amenazas que requieren mejoras urgentes por parte de los responsables de seguridad: compromiso de aplicaciones de IA, suplantación de identidad mediante deepfakes, ataques a la cadena de suministro de software y prompt injection. La firma las sitúa entre los riesgos donde los atacantes tienen una ventaja clara frente a muchas organizaciones, bien porque hay poca señal fiable, bien porque las capacidades defensivas aún no están maduras.
La IA empresarial ya es una superficie de ataque
El compromiso de aplicaciones de IA aparece como una de las amenazas más sensibles. Las empresas están desplegando asistentes internos, agentes personalizados, herramientas conectadas a datos corporativos y aplicaciones basadas en modelos generativos. Muchas de ellas pasan rápido de pruebas a producción, a veces sin una evaluación completa de permisos, datos expuestos, integraciones de terceros o credenciales accesibles.
El problema no está solo en el modelo. Una aplicación de IA puede conectarse a documentos internos, CRM, sistemas financieros, repositorios de código, plataformas de soporte o herramientas de automatización. Si los controles son débiles, un atacante puede explotar esa capa para extraer información sensible, forzar comportamientos no autorizados o usar el propio agente como puente hacia otros sistemas.
Gartner recomienda ampliar los programas de seguridad más allá de las protecciones tradicionales de software. Esto implica mapear las nuevas superficies de ataque creadas por modelos generativos y herramientas agénticas, aplicar prácticas de ciclo de vida seguro, hacer modelado de amenazas específico para aplicaciones de IA y reforzar la seguridad de los datos con clasificación, control de acceso por propósito y monitorización en tiempo de ejecución.
La referencia al marco TRiSM de Gartner también es relevante. La seguridad de IA no puede limitarse a revisar prompts o bloquear determinadas palabras. Necesita gobierno, gestión de riesgos, trazabilidad, controles de acceso, pruebas continuas y capacidad para detectar comportamientos anómalos cuando el sistema ya está funcionando.
Deepfakes y prompt injection cambian las reglas
La segunda amenaza es la suplantación de identidad con deepfakes. La generación de voz, vídeo e imagen ha mejorado en calidad, precio y disponibilidad. Esto permite crear ataques más creíbles contra empleados, proveedores, procesos de contratación, reuniones online y sistemas de verificación biométrica.
Durante años, muchas empresas confiaron en señales humanas relativamente simples: reconocer una voz, ver una cara en videollamada o validar una instrucción porque parecía venir de un directivo. Ese modelo ya no basta. Gartner advierte de que los deepfakes pueden combinarse con ingeniería social en tiempo real, atacar procesos biométricos y colarse en comunicaciones internas.
La defensa no puede apoyarse solo en detectores de deepfakes. Estas herramientas pueden ayudar, pero no son suficientes. Las organizaciones necesitan procesos de verificación reforzados, controles adicionales para operaciones sensibles, autenticación fuerte en reuniones críticas, análisis de metadatos de llamadas y señales contextuales que permitan detectar comportamientos fuera de lo normal.
La tercera amenaza, prompt injection, afecta directamente a sistemas basados en grandes modelos de lenguaje. Un atacante puede manipular entradas para alterar el comportamiento del modelo, hacer que ignore instrucciones previas, revele información confidencial, ejecute acciones no autorizadas o eluda controles diseñados por la empresa.
Este riesgo aumenta cuando los modelos no solo responden texto, sino que tienen acceso a herramientas, bases de datos, correo, calendarios, CRM, repositorios o sistemas de automatización. Un prompt malicioso dentro de un documento, una web o un ticket podría intentar inducir al agente a actuar fuera de su propósito.
Gartner recomienda una estrategia por capas: validación y saneamiento de entradas, pruebas específicas de prompt injection durante el desarrollo, guardrails en tiempo de ejecución, monitorización de comportamientos anómalos y alertas ante señales de manipulación. La clave está en asumir que el modelo puede ser engañado y diseñar el sistema para limitar el daño si eso ocurre.
La cadena de suministro de software sigue siendo el gran punto débil
La cuarta amenaza señalada por Gartner es la cadena de suministro de software. El uso de código abierto, dependencias externas, imágenes de contenedor, modelos de IA, pipelines CI/CD y herramientas de desarrollo automatizado ha hecho que muchas organizaciones dependan de componentes que no controlan por completo.
La inteligencia artificial generativa puede acelerar esta tendencia. Los equipos desarrollan más rápido, reutilizan más componentes y delegan parte de la producción de código en asistentes. Esto mejora la productividad, pero también puede introducir paquetes inseguros, dependencias mal verificadas, fragmentos vulnerables o configuraciones que nadie revisa con suficiente profundidad.
Gartner plantea varias medidas concretas: exigir SBOM y AIBOM a proveedores, evaluar cada componente con inteligencia de amenazas actualizada antes del despliegue, usar repositorios curados para código de terceros, imágenes de contenedor y modelos de IA, reforzar la protección de ramas en repositorios, firmar artefactos durante la construcción y aplicar mínimo privilegio en sistemas de build.
El concepto de AIBOM, o inventario de componentes de inteligencia artificial, empieza a ganar importancia. Igual que un SBOM permite conocer qué librerías forman parte de una aplicación, un AIBOM ayuda a identificar modelos, datasets, herramientas, dependencias y componentes de IA incluidos en un sistema. Sin inventario, no hay defensa seria.
Estas cuatro amenazas tienen un punto común: obligan a pasar de una ciberseguridad reactiva a una defensa más anticipada, integrada y contextual. No basta con comprar una herramienta nueva para IA o añadir un control puntual al final del proyecto. Las empresas tendrán que revisar cómo diseñan aplicaciones, cómo validan identidades, cómo gobiernan agentes, cómo compran software y cómo monitorizan lo que ocurre en producción.
Para los CISO, el reto será separar la señal del ruido. La IA ha llenado el mercado de promesas, productos y mensajes urgentes, pero los riesgos reales ya están apareciendo en lugares muy concretos: aplicaciones conectadas a datos sensibles, reuniones y procesos de verificación, prompts que atraviesan barreras débiles y pipelines de software con demasiadas dependencias invisibles.
La respuesta no será bloquear la IA ni frenar la innovación. Será incorporarla con una seguridad más rigurosa desde el diseño. Las empresas que traten los agentes, modelos y herramientas generativas como simples aplicaciones más llegarán tarde. Las que los entiendan como una nueva capa operativa, con permisos, contexto, datos y capacidad de acción, estarán mejor preparadas para defenderse.
Preguntas frecuentes
¿Qué cuatro amenazas destaca Gartner?
Gartner señala el compromiso de aplicaciones de IA, la suplantación de identidad con deepfakes, la prompt injection y los ataques a la cadena de suministro de software.
¿Por qué son peligrosas las aplicaciones de IA empresariales?
Porque suelen conectarse a datos internos, credenciales, herramientas corporativas e integraciones de terceros. Si no se protegen bien, pueden exponer información sensible o permitir acciones no autorizadas.
¿Basta con usar detectores de deepfakes?
No. Gartner recomienda combinar detección con controles de proceso, autenticación fuerte, análisis de metadatos, señales contextuales y verificación reforzada en operaciones sensibles.
¿Qué es un AIBOM?
Es un inventario de componentes de inteligencia artificial. Ayuda a identificar modelos, datasets, herramientas y dependencias usados en un sistema, de forma similar a como un SBOM enumera componentes de software.
vía: gartner
