En respuesta a la participación de Víctor Alfonso Botero Posada y José Daniel Guerra Eraso (Grupo 2)
Apreciados compañeros Víctor y José Daniel, muy buenas tardes.
La participación del Grupo 2 es, sin duda, una de las más completas del foro. El planteamiento sobre el "contrato de datos" como eje organizador de los paradigmas de ML es una metáfora magistralmente precisa. Desde el Grupo 10, que trabaja con tecnología aplicada al ámbito judicial y normativo, la analogía del proceso de clasificación como un "proceso judicial donde el modelo emite un veredicto" resuena con especial fuerza. Exactamente así funciona el módulo de análisis de riesgo del ecosistema MARDUK: ante un expediente, el modelo clasifica antes de que el operador judicial intervenga.
Nos parece especialmente valioso el señalamiento sobre el sesgo histórico de los datos. Su ejemplo de un clasificador de crédito entrenado con datos geográficamente segados que "aprende" a discriminar por barrios es un riesgo sistémico real y documentado. Desde nuestra perspectiva LegalTech, añadimos que este sesgo puede tener consecuencias jurídicas concretas en Colombia, dado que la Ley 1581 de 2012 (Habeas Data) y las directrices de la SIC exigen que los sistemas automatizados de decisión no generen perfiles discriminatorios ilícitos.
Síntesis Final del Grupo 10: El foro nos ha confirmado que el Machine Learning Avanzado no es un catálogo técnico de algoritmos, sino una disciplina de pensamiento estratégico. La elección del modelo es un acto de diseño institucional que tiene consecuencias humanas. El docente Leonardo lo resumió perfectamente cuando nos recordó en clase que el verdadero riesgo no es que la máquina falle, sino que lo haga con datos que nosotros le suministramos sin criterio ético. Somos, al final, los arquitectos responsables de sus decisiones.
Un foro muy enriquecedor. ¡Adelante, Grupo 2!