Autor: Alexander Oviedo Fadul | Grupo 10
Excelente aporte, Diego. Comparto plenamente tu análisis y quiero felicitarte a ti y a Deisy por estructurar el ciclo de vida bajo la evolución metodológica de CRISP-ML(Q) y las capas transversales de MLOps.
Me parece sumamente oportuno y valioso tu aporte complementario respecto a la deuda técnica oculta planteada en el paper clásico de Sculley et al. (2015). En mi rol como Ingeniero y Abogado dentro de la Rama Judicial de Colombia, esa advertencia de Google sobre la "fontanería de infraestructura" que rodea al código de Machine Learning resuena con mucha fuerza y tiene consecuencias prácticas directas en el sector público:
Tomando tu punto sobre los niveles de madurez de Google Cloud, coincido en que el nivel manual (Maturity Level 0) no debe verse con desdén. Para herramientas que procesan normativas estables, el reentrenamiento manual controlado es la mejor práctica de gobernanza porque nos permite auditar cada paso de manera explícita.
A esta reflexión me gustaría sumar el reto de la explicabilidad y el debido proceso. En derecho, la motivación de las decisiones es una obligación constitucional. Si implementamos un sistema MLOps totalmente automatizado que reentrena y despliega el modelo de forma autónoma sin supervisión humana directa, corremos el riesgo de que el modelo cambie sus criterios internos (debido a sesgos en los datos de reentrenamiento) y altere la justificación lógica del apoyo a los jueces sin que nadie lo note.
En conclusión, la proporcionalidad de la que hablas no es solo una métrica de rentabilidad financiera corporativa; en el sector público es un principio de responsabilidad administrativa, transparencia y garantía legal. ¡Muchas gracias por el debate!