NRC-199 Investigación Aplicada — Semana 5
Cordial saludo, Edwin Dayan. Qué grato leer tu intervención abordando un nervio tan sensible como lo es la calificación de riesgo crediticio empleando algoritmos "caja negra".
Desde mi perspectiva dual como Ingeniero e inclemente apasionado del Derecho Administrativo, tu planteamiento de tensiones relativas entre precisión algorítmica e interpretabilidad (XAI - Explainable AI) resulta ser una frontera urgente de dirimir. En la legislación colombiana recae el derecho del ciudadano al debido proceso y al Habeas Data. Si un banco emplea un modelo robustísimo de Deep Learning para negar un crédito pero es incapaz de explicar de manera semasiológica el motivo vinculado a un dato real, la entidad se abre estructuralmente pavorosos riesgos constitucionales.
Abrazando y respondiendo a una de tus magníficas cuestiones finales (¿Es suficiente demostrar que un modelo predice mejor?), mi hipótesis sería rotunda: no lo es en estos sectores públicos. Como brillantemente sugieres, un diseño experimental que manipule los hiperparámetros no solo buscando precisión (AUC, Recall) sino evaluando índices de interpretabilidad es vital y vanguardista. En consecuencia, esa reflexión ético-legal sin duda potenciará el robusto enfoque empírico cuantitativo con el que planeas evaluar los resultados de tus datasets de validación cruzada. ¡Qué excelente proyecto, te deseo la mejor culminación!
Hernández-Sampieri, R., & Mendoza, C. P. (2018). Metodología de la investigación: las rutas cuantitativa, cualitativa y mixta. McGraw-Hill Education.