Conclusión del Grupo 7 — Foro Semana 4: RNN y LSTM

Autor: Alexander Oviedo Fadul | En representación del Grupo 7

Profesora Nathalia y compañeros, a modo de cierre quisiera consolidar lo que nuestro equipo ha compartido a lo largo de este foro, integrando los aportes de cada integrante del Grupo 7.

Síntesis de los aportes del equipo

William David Obando abrió nuestra participación con una explicación clara y bien articulada de los tres tipos de RNN (simple, LSTM y GRU), presentando su evolución como una cadena donde cada arquitectura resuelve las limitaciones de la anterior. Me pareció particularmente acertado su ejemplo del autocompletado en Visual Studio 2022/2026 y Google Colab, porque demuestra que las RNN no son un concepto abstracto de laboratorio: están detrás de herramientas que usamos todos los días como desarrolladores, muchas veces sin siquiera notarlo. También fue valioso que William no idealizara las LSTM; reconoció que no tienen "memoria infinita" sino una mayor capacidad para retener información relevante, lo cual es una distinción técnica importante.

Luisa Fernanda Agudelo, al retroalimentar el aporte de William, amplió el alcance de la discusión hacia campos que nuestro compañero había tocado tangencialmente: la aplicación de LSTM en medicina (análisis de electrocardiogramas para diagnóstico) y en el sector financiero (predicción de comportamiento de mercados). Esa extensión refuerza una idea que a lo largo del foro ha sido recurrente: las LSTM trascienden el procesamiento de texto y son aplicables a cualquier dominio donde la información se presente como secuencia temporal.

Neheman Samir Jaller complementó con un aporte técnicamente preciso sobre el mecanismo interno de las LSTM, explicando cómo las puertas de entrada, olvido y salida regulan el flujo de información. Además, introdujo un matiz pragmático que comparto: aunque los Transformers dominan hoy el panorama del NLP, las LSTM siguen siendo la mejor alternativa cuando el dataset es pequeño o los recursos computacionales son limitados. Esto no es una opinión menor; en contextos como el sector público colombiano, donde los presupuestos de infraestructura tecnológica son restringidos, esa eficiencia puede ser la diferencia entre implementar una solución o no implementar ninguna.

En mi intervención principal intenté aterrizar los conceptos en mi experiencia profesional con Isabella y la plataforma MARDUK de la Rama Judicial, donde las RNN/LSTM nos permitieron clasificar peticiones ciudadanas por tipología procesal. El ejemplo de la palabra "reposición" —que en un contexto jurídico puede significar un recurso legal o la reexpedición de un documento— ilustra por qué la secuencialidad es vital para la desambiguación y por qué los modelos que ignoran el orden de las palabras (como la bolsa de palabras pura) resultan insuficientes para tareas de clasificación donde el matiz importa.

Conexión con la clase de la Semana 4: La profesora Nathalia nos guio a través de un pipeline completo de clasificación de opiniones (CSV de 2.000 registros de tiendas ARA), donde comparamos bolsa de palabras con embeddings y experimentamos con diferentes modelos. Los resultados (accuracy de ~71% con BoW vs. ~89% con embeddings) refuerzan la relevancia de las representaciones semánticas como entrada para arquitecturas recurrentes. Las RNN/LSTM necesitan que las palabras lleguen con su carga semántica intacta —y los embeddings ofrecen exactamente eso—, mientras que la bolsa de palabras descarta el orden que estas arquitecturas explotan.

Aprendizajes clave del equipo

Tras revisar las intervenciones de nuestros compañeros de curso y contrastarlas con lo trabajado en clase, como equipo destacamos tres aprendizajes:

  1. El contexto es todo en el lenguaje. Tanto el ejemplo de William con la palabra "banco" como mi ejemplo con "reposición" demuestran que una misma palabra cambia radicalmente de significado según la secuencia que la rodea. Las RNN fueron la primera arquitectura en tomarse eso en serio.
  2. Las LSTM no son obsoletas; son pragmáticas. Varios grupos coincidimos en que los Transformers han superado a las LSTM en muchas tareas, pero la eficiencia computacional, la simplicidad de implementación y el buen desempeño en secuencias moderadas mantienen a las LSTM como una herramienta vigente. No se trata de elegir "la mejor" arquitectura en abstracto, sino la más adecuada para el problema, el volumen de datos y los recursos disponibles.
  3. La representación del texto determina el techo del modelo. Lo que aprendimos en la práctica de esta semana es que, independientemente de la arquitectura (árbol de decisión, SVM, LSTM), si la entrada no captura la semántica (como ocurre con una bolsa de palabras simple), el desempeño queda limitado. Los embeddings elevan ese techo al preservar relaciones semánticas entre palabras.

Agradezco a mis compañeros de equipo por sus aportes sólidos y complementarios, y a los compañeros de otros grupos —especialmente al Grupo 6 (Mario y María Katerine) por su pregunta provocadora sobre Transformers vs. LSTM, y al Grupo 14 (Luis Alberto) por sus ejemplos originales de moderación de contenido y generación de actas— que enriquecieron esta discusión de manera significativa.

Quedo atento a sus comentarios. Un saludo cordial para todos. 🙌

Referencias Bibliográficas: