Amazon ha anunciado que su plataforma Amazon Bedrock ahora admite la importación de modelos personalizados, incluyendo los modelos de OpenAI con pesos abiertos, como los variantes GPT-OSS de 20 y 120 mil millones de parámetros. Estos modelos de GPT-OSS se centran en capacidades de razonamiento y son compatibles con la API de OpenAI para completaciones de chat, lo que permite a las organizaciones migrar sus aplicaciones existentes a la infraestructura de Amazon Web Services (AWS) con la ventaja de una seguridad de nivel empresarial, escalabilidad y control de costos.
La opción de importación de modelos personalizados de Amazon Bedrock permite a los desarrolladores integrar modelos personalizados en un entorno serverless, donde también se pueden acceder a modelos fundamentales. Esto simplifica la gestión al ofrecer una única API, eliminando la necesidad de manejar múltiples puntos finales o infraestructuras separadas.
Para utilizar esta característica, los usuarios deben cargar sus archivos de modelo en Amazon S3 y luego iniciar la importación a través de la consola de Amazon Bedrock. AWS se encarga de los aspectos técnicos, como la provisión de GPU y la configuración de los servidores de inferencia, permitiendo a los desarrolladores centrarse en el desarrollo de sus aplicaciones.
Los modelos GPT-OSS son los primeros modelos de lenguaje de OpenAI con pesos abiertos desde el lanzamiento de GPT-2, lo que permite su descarga, modificación y uso sin costo adicional, incluso en aplicaciones comerciales. El modelo GPT-OSS-20B es particularmente adecuado para aplicaciones que requieren velocidad y eficiencia, mientras que el GPT-OSS-120B es más robusto, diseñado para tareas de razonamiento más complejas, como la codificación y el uso de herramientas.
Con una arquitectura de mezcla de expertos, ambos modelos activan solo los expertos más relevantes para cada solicitud, lo que mejora el rendimiento y mantiene los costos computacionales bajo control. La importación de estos modelos en Amazon Bedrock sigue un proceso claro que incluye la preparación de archivos, carga a S3, y la invocación mediante llamadas a la API compatibles con OpenAI.
Además, se destacan las ventajas de la migración desde OpenAI a Amazon Bedrock, como la continuidad en la estructura de las solicitudes y una mejor privacidad de los datos, así como la capacidad de personalizar y afinar modelos según las necesidades específicas. Este enfoque no solo ofrece un formidable rendimiento, sino que también permite a las empresas mantener un control total sobre sus modelos de inteligencia artificial.
Amazon Bedrock Custom Model Import está disponible en varias regiones, con planes de expansión a otras áreas. Con la creciente proliferación de aplicaciones impulsadas por inteligencia artificial, esta innovadora funcionalidad de AWS proporciona una ruta eficiente y segura para que las organizaciones amplíen sus capacidades tecnológicas en el ámbito de la inteligencia artificial.
vía: AWS machine learning blog
