Las organizaciones del sector de la salud enfrentan un desafío crítico: la necesidad de analizar de manera eficiente grandes volúmenes de registros médicos diariamente, todo mientras se mantienen estándares de seguridad y cumplimiento rigurosos. La implementación de modelos de lenguaje (LLM) para el análisis de registros médicos se presenta como una solución poderosa, pero conlleva la reestructuración de grandes porciones de datos médicos para cada pregunta de análisis, lo que incrementa los costos operativos y retrasa los tiempos de respuesta.
Care Access, líder en servicios de salud y investigación clínica a nivel global, se topó con este reto al expandir su programa de salud. Procesar entre 300 y 500 registros médicos diarios requería múltiples solicitudes para cada análisis, lo que resultó en la reprocessión de porciones considerables de los registros médicos. Con cientos de nuevos participantes decidiendo compartir sus registros médicos a diario, Care Access se encontró en la necesidad de una solución que pudiera escalar eficientemente mientras respetaba estrictos estándares de cumplimiento y privacidad.
La característica de «caching de prompts» de Amazon Bedrock proporcionó la solución necesaria. Al almacenar el contenido estático de los registros médicos mientras solo variaban las preguntas de análisis, Care Access logró reducir significativamente los costos y mejorar los tiempos de procesamiento. Esta optimización convirtió el procesamiento de registros médicos de un posible obstáculo a un habilitador del crecimiento del programa.
En este contexto, Care Access se dedica a mejorar el futuro de la salud para todos, brindando servicios de investigación y atención médica de calidad en comunidades que frecuentemente enfrentan barreras en el acceso a la atención. Su programa de salud permite a los participantes recibir resultados de pruebas de sangre avanzadas y conectarse con recursos de salud relevantes, incluyendo ensayos clínicos innovadores, alcanzando casi 15,000 nuevos participantes mensualmente en todo el mundo.
El crecimiento rápido que experimenta Care Access, no obstante, también ha presentado desafíos logísticos para escalar sus operaciones ante la creciente demanda. Al implementar una solución de LLM mediante Amazon Bedrock, Care Access se vio capaz de analizar registros médicos variados mientras se ajustaba a los estándares de cumplimiento y seguridad. Sin embargo, la implementación inicial implicaba múltiples solicitudes para cada análisis. Con el aumento del volumen, esto llevó a un incremento considerable de costos operativos diariamente.
La capacidad de «caching de prompts» permite reutilizar partes de una solicitud que, de otra manera, tendrían que ser recomputadas para cada registro. Esto significó que el contenido médico se convertiría en un prefijo estático que se almacena, mientras que las preguntas de análisis forman la parte dinámica que varía con cada consulta. Esta técnica demostró ser particularmente efectiva en el procesamiento de registros médicos, facilitando una mejora sustancial en el rendimiento y una reducción notable de costos.
Con la integración de Amazon Bedrock, Care Access logró optimizar la velocidad y los costos asociados con el procesamiento de miles de registros médicos a través de un LLM. La implementación permitió a Care Access alcanzar una reducción del 86% en los costos relacionados con Amazon Bedrock y un 66% en el tiempo de procesamiento por registro. Además, la compañía experimentó ahorros de entre 4 y más de 8 horas diarias en tiempo de procesamiento.
A través de esta innovadora solución, Care Access no solo abordó sus desafíos inmediatos, sino que también posicionó su programa de salud para un crecimiento continuo, conectando a más comunidades con oportunidades de atención médica y recursos de investigación clínica que pueden cambiar vidas. Este caso de éxito resalta la importancia de adoptar la tecnología adecuada para resolver problemas empresariales inmediatos y que también respalden objetivos a largo plazo.
vía: AWS machine learning blog
