Aporte Principal - Semana 4: Criterios de selección del hardware en el desarrollo de redes neuronales

Autor: Alexander Oviedo Fadul | Grupo 10

¡Hola a todos, profesor Félix y compañeros de curso! En representación de mi equipo de trabajo (Grupo 10), conformado por María Fernanda, Neheman Samir, William David, Yesith Stiven y mi persona, procedo a realizar el aporte principal para este foro sobre hardware en visión por computador.

Como ingenieros de sistemas, entendemos que la IA no opera en el vacío conceptual; depende de un soporte electrónico real. En el marco del desarrollo del Ecosistema MARDUK y específicamente de su componente SIRFAJ (Sistema Inteligente de Reconocimiento Facial para Audiencias Judiciales), la selección del hardware no es un aspecto secundario, sino el factor estratégico que dictamina si un modelo pasa de ser un prototipo de laboratorio a una solución funcional en un juzgado real.

1. Relevancia de la selección del hardware

La relevancia del hardware en visión por computador es crítica debido a que las imágenes digitales son tratadas matemáticamente como tensores numéricos tridimensionales (intensidad de píxeles y canales de color como RGB). Procesar una imagen para extraer características primarias y luego pasarla a través de capas neuronales convolucionales implica realizar miles de millones de operaciones matriciales (multiplicaciones de matrices, convoluciones, pooling y actualizaciones de pesos sinápticos mediante retropropagación).

Como indican Zafar et al. (2018), la potencia de cálculo define la viabilidad del proyecto. Si el hardware es insuficiente, el entrenamiento de una red neuronal convolucional (CNN) puede tardar semanas en lugar de horas. Adicionalmente, para aplicaciones de misión crítica como el reconocimiento facial en vivo durante las audiencias judiciales, la latencia de inferencia debe ser inferior a los $100\text{ ms}$. Si el procesador no responde en tiempo real, se produce una pérdida de fotogramas, lo que degrada la confiabilidad del sistema.

2. Criterios decisivos de selección

Para lograr un diseño óptimo en SIRFAJ, estructuramos la selección de hardware bajo los siguientes criterios decisivos:

Complejidad del Modelo: Modelos sencillos de regresión o redes neuronales con pocas capas pueden correr en CPU, pero arquitecturas convolucionales profundas exigen aceleración por hardware especializado.
Tiempos de Respuesta (Latencia vs. Throughput): Definir si la aplicación requiere procesamiento diferido (batch) en servidores en la nube o predicciones en tiempo real en el juzgado (Edge).
Restricciones de Despliegue (Edge Computing): En juzgados locales con infraestructura limitada, es inviable instalar grandes servidores. Aquí se aplica la lógica explicada en clase: se realiza el entrenamiento pesado en la nube y se despliega únicamente el modelo con los pesos entrenados ($W$) en hardware local de bajo consumo para ejecutar la inferencia.
Calidad y Resolución de Datos: A mayor resolución de cámara web en las salas de audiencias, mayor es el tamaño de los tensores entrantes, lo que demanda un ancho de banda del bus de datos del sistema muy elevado y mayor memoria.

Contextualización en SIRFAJ - Dualidad de Procesamiento
Durante las pruebas piloto de SIRFAJ, realizamos el entrenamiento de la arquitectura de red neuronal convolucional en un servidor en la nube equipado con tarjetas dedicadas. Sin embargo, al desplegar la inferencia en los computadores locales de las salas de audiencias en juzgados municipales, tuvimos que calibrar el modelo para ejecutarse de manera ligera, utilizando únicamente los pesos sinápticos entrenados para evitar sobrecalentamiento y saturación en CPUs estándar.

A continuación, comparto un ejemplo conceptual del código Python (usando la API de TensorFlow) que utilizamos para verificar la asignación física de operaciones matemáticas al dispositivo acelerador (GPU) disponible:

# Verificación de asignación de dispositivos físicos en TensorFlow para SIRFAJ
import tensorflow as tf

# Listar dispositivos físicos disponibles
physical_devices = tf.config.list_physical_devices('GPU')
print("GPUs detectadas en el sistema local:", len(physical_devices))

# Habilitar el crecimiento de memoria para evitar saturación de la VRAM
if physical_devices:
    try:
        tf.config.experimental.set_memory_growth(physical_devices[0], True)
        print("Crecimiento de memoria habilitado exitosamente en GPU.")
    except RuntimeError as e:
        print("Error de asignación de hardware:", e)

Referencias Bibliográficas:

Ballard, W. (2018). Hands-on deep learning for images with TensorFlow: Build intelligent computer vision applications using TensorFlow and Keras. Packt Publishing, Limited.
Zafar, I., Khan, R., Shukla, N., & Kattan, A. (2018). Hands-on convolutional neural networks with TensorFlow: Solve computer vision problems with modeling in TensorFlow and Python. Packt Publishing, Limited.