Autor: Alexander Oviedo Fadul | Grupo 10
Estimado Camilo, muy buen día. Quiero destacar la claridad conceptual de tu intervención, en especial el énfasis que otorgas al control de versiones y almacenamiento histórico para la detección del Data Drift, y el ejemplo tan preciso de la evolución del fraude financiero.
En respuesta a la excelente pregunta de debate que planteas al final: "¿Consideran que el monitoreo continuo de los modelos debería automatizarse completamente o siempre debe existir supervisión humana para que se validen los cambios en el rendimiento de un modelo IA?", considero firmemente que la respuesta debe evaluarse bajo el paradigma de Human-in-the-Loop (HITL) y la criticidad del sector.
En mi campo de acción en la Rama Judicial de Colombia, por ejemplo, delegar la actualización automática de un algoritmo de asignación de casos o clasificación penal sin un filtro humano violaría directamente principios de transparencia pública y debido proceso.
La mejor práctica metodológica consiste en un **flujo híbrido**: automatizar la detección del drift y el reentrenamiento en un entorno de pruebas (*staging*), pero requerir la aprobación manual formal (auditoría humana de equidad, explicabilidad y rendimiento técnico) por parte de un comité multidisciplinario antes de pasar a producción. Esto asegura que el algoritmo siga respondiendo no solo al comportamiento de los datos, sino a la ética y las directrices institucionales reales.
En síntesis, la automatización del monitoreo es una herramienta de soporte fantástica, pero la supervisión y validación final humana es una exigencia ética y legal no negociable. ¡Un gran saludo y excelente reflexión!