Amazon ha presentado Mantle, su nuevo motor de inferencia de próxima generación diseñado para el servicio Amazon Bedrock. Este avance responde a la creciente demanda de workloads de inteligencia artificial generativa que requieren una optimización continua en su rendimiento y seguridad. La compañía destaca que su cultura organizativa, basada en discusiones honestas y transparentes sobre oportunidades de crecimiento, permite una inversión constante en innovación para mejorar el valor ofrecido a los clientes.
La seguridad y la privacidad de los datos son prioridades fundamentales en el desarrollo de Mantle. Amazon Bedrock ya opera bajo los rigurosos estándares de seguridad de AWS, que incluyen un modelo de «menor privilegio», limitando el acceso de los operadores de AWS solo a los sistemas necesarios para realizar sus tareas. Asimismo, se asegura que ningún dato del cliente se utilice para entrenar modelos, y los proveedores de modelos no tienen acceso a la información del cliente, lo cual es crucial para salvaguardar datos sensibles.
Mantle eleva estas medidas de seguridad al adoptar un diseño de acceso cero para operadores (ZOA, por sus siglas en inglés), lo que significa que se han excluido intencionalmente cualquier medio técnico que permita a los operadores de AWS acceder a los datos de los clientes. La administración de sistemas y servicios se lleva a cabo a través de automatización y APIs seguras, garantizando así la protección de los datos confidenciales. Además, se han implementado controles rigurosos para evitar que cualquier operador acceda a los sistemas subyacentes donde se manejan los datos de inferencia.
También se ha introducido la capacidad de atestación de instancias EC2 en Mantle, creando un entorno de computación seguro y consistente para el procesamiento de datos de clientes. Este sistema se complementa con medidas de atestación firmadas criptográficamente, que aseguran la integridad de las operaciones realizadas en los datos de los clientes.
En cuanto a la transmisión de datos, cuando un cliente utiliza un punto final de Mantle, la información se cifra desde el entorno del cliente hasta el servicio de Mantle, que opera bajo el modelo ZOA. Durante todo este proceso, ningún operador, ya sea de AWS, del cliente o del proveedor de modelos, puede acceder a la información del cliente.
Con el lanzamiento de Mantle, Amazon reafirma su compromiso a largo plazo con la seguridad y la privacidad de los datos de sus clientes. La compañía está decidida a seguir invirtiendo en mejorar la seguridad de los datos y en ofrecer mayor transparencia acerca de sus esfuerzos en este ámbito. La plataforma Amazon EC2, por su parte, ya permite a los clientes acceder a las capacidades de computación confidencial que Amazon utiliza internamente, como es el caso de NitroTPM Attestation.
vía: AWS machine learning blog
