Deployment of machine learning services via microservices architecture

Abstract

Este trabajo presenta el diseño e implementación de arquitecturas basadas en microservicios para el despliegue de modelos de aprendizaje automático utilizando Kubernetes. Se desarrollaron dos arquitecturas diferentes: una orientada a la clasificación de imágenes mediante redes neuronales convolucionales (CNN), y otra centrada en un sistema de recomendación musical utilizando un modelo de lenguaje grande (LLM). Cada arquitectura se compone de microservicios especializados, orquestados mediante servicios REST y desplegados en contenedores Docker gestionados por Kubernetes. Se realizaron pruebas de rendimiento comparando estas arquitecturas contra una implementación monolítica, evaluando métricas como latencia, escalabilidad y tolerancia a fallos. Los resultados mostraron que las arquitecturas basadas en microservicios, especialmente la versión optimizada, presentaron mejoras significativas en escalabilidad y capacidad de actualización, aunque con un ligero aumento en latencia. Se implementaron tres estrategias de actualización (Rolling Update, Blue-Green y Recreate) para evaluar la continuidad operativa. Este estudio demuestra que el uso de microservicios ofrece ventajas reales para el despliegue flexible, escalable y mantenible de modelos de aprendizaje automático en entornos productivos.