Amazon, la gigante del comercio electrónico, continúa expandiendo su influencia en todo el mundo, impactando la vida de millones de clientes, empleados y proveedores. Sin embargo, este crecimiento conlleva la responsabilidad de manejar riesgos y abordar reclamaciones relacionadas con la compensación de trabajadores, incidentes de transporte y otros asuntos de seguros. Con este contexto, los gestores de riesgos juegan un papel fundamental en la supervisión de las reclamaciones contra la empresa a lo largo de su ciclo de vida. Para cada reclamación, se generan en promedio 75 documentos, lo que convierte la gestión de estas en una tarea compleja.
Recientemente, un equipo interno de Amazon desarrolló una solución impulsada por inteligencia artificial para optimizar el procesamiento de datos relacionados con las reclamaciones. Este sistema genera resúmenes estructurados de las reclamaciones en menos de 500 palabras, mejorando la eficiencia del proceso sin sacrificar la precisión. No obstante, los desarrolladores enfrentaron problemas de altos costos de inferencia y tiempos de procesamiento que oscilan entre 3 y 5 minutos por reclamación, un desafío que se amplifica con la adición de nuevos documentos.
Para abordar estas inquietudes, el equipo evaluó modelos de la Fundación Amazon Nova como posibles alternativas. Las pruebas de rendimiento demostraron que los modelos de Amazon Nova, en particular el modelo Nova Lite, no solo igualan el rendimiento de otros modelos avanzados, sino que también ofrecen costos significativamente más bajos y mayor velocidad. De hecho, Amazon Nova Lite es dos veces más rápido y 98% más económico que el modelo actual de la empresa.
El proceso de resumen de reclamaciones comienza con el procesamiento de datos en bruto utilizando AWS Glue y el almacenamiento de la información en Amazon S3. A continuación, se gestionan trabajos de resumido a través de Amazon SQS, y los resúmenes se generan mediante AWS Lambda utilizando modelos de base en Amazon Bedrock. Este enfoque permite filtrar datos irrelevantes y concentrarse en lo que realmente importa, optimizando tanto el costo como el rendimiento.
La evaluación de los modelos de Amazon Nova ha puesto de manifiesto mejoras significativas en la velocidad de inferencia y la eficiencia de costos, lo que permite un mayor margen para el diseño de modelos sofisticados y la calibración de computación de prueba. Adicionalmente, la brecha de latencia entre los modelos de Amazon Nova y otros competidores se amplía en documentos de contexto largo, haciendo que estos modelos sean una opción más atractiva para manejar documentos extensos.
En resumen, esta iniciativa no solo resalta la capacidad de Amazon para innovar en la gestión de reclamos, sino que también ofrece una solución viable para organizaciones que enfrentan el procesamiento de grandes volúmenes de documentación compleja, potenciando la calidad de servicio y reduciendo costos operativos al mismo tiempo.
vía: AWS machine learning blog
