En respuesta a la compañera Luisa Fernanda Agudelo Arango
Estimada Luisa Fernanda, excelente aporte. Me llamó poderosamente la atención tu reflexión y quiero complementarla desde mi experiencia. 🤝
Particularmente valioso es cuando afirmas que "muchas personas creen que estos sistemas piensan, cuando realmente identifican patrones aprendidos durante el entrenamiento". Este es, desde mi perspectiva, uno de los puntos más críticos y menos discutidos del PLN actual. En mi experiencia desarrollando Isabella, un chatbot judicial con procesamiento de lenguaje natural, noté cómo los usuarios —funcionarios judiciales con décadas de experiencia— comenzaban a "confiar ciegamente" en las respuestas del sistema, asumiendo que el modelo "entendía" el derecho colombiano. La realidad es que el modelo reconocía patrones estadísticos en los textos normativos con los que fue alimentado, sin comprensión alguna del espíritu de la ley ni de la jurisprudencia subyacente.
También me parece acertadísima tu selección de ChatGPT como ejemplo, porque permite visualizar todas las fases del PLN de forma transparente. Complementando tu análisis sobre la fase pragmática, quiero agregar un matiz que descubrí en la práctica: el contexto cultural no solo influye en cómo se responde, sino en qué se pregunta. En el ámbito judicial colombiano, un funcionario que escribe "necesito correr traslado del memorial" está usando una expresión técnico-jurídica que un modelo entrenado con corpus genéricos simplemente no reconoce, y no es un problema de gramática ni de sintaxis, sino de pragmática pura. Como bien señalan Srinivasa-Desikan et al. (2018), si los datos de entrada carecen de esta riqueza contextual, los resultados serán inevitablemente deficientes.
En este sentido, un punto clave de desarrollo es el que discutimos en nuestra segunda clase sobre la exploración de **embeddings** de alta dimensión (como el estándar de 300 dimensiones). Antes de alimentar una arquitectura profunda como la de ChatGPT, es crucial realizar análisis exploratorios visuales reduciendo estas dimensiones a 2D o 3D. Comparar algoritmos lineales como PCA con técnicas no lineales como UMAP o t-SNE resulta vital: en mi experiencia con Isabella, UMAP nos permitió separar nítidamente clústeres semánticos y evaluar la vecindad espacial de palabras clave ambiguas (comprobando por ejemplo que los términos adyacentes a "auto" fuesen de carácter procesal y no automovilístico) mucho mejor de lo que permitía PCA. Esta verificación visual temprana evita arrastrar ruidos de vectorización hacia las etapas de entrenamiento.
Finalmente, coincido absolutamente con tu conclusión: el PLN no reemplaza el pensamiento humano. En el contexto judicial, donde una interpretación errónea puede afectar derechos fundamentales de las personas, la supervisión humana no es opcional sino una obligación ética y constitucional. La herramienta potencia capacidades, pero la responsabilidad del análisis y la decisión siempre debe permanecer en manos del profesional.
Un saludo muy cordial y felicitaciones por la rigurosidad de tu análisis. ¡Muchos éxitos! 🚀