Tecnologías Específicas

Ingeniería de Computadores

Descripcion y Objetivos

Debido al auge y los grandes avances del aprendizaje automático (machine learning) en el sector empresarial e investigador las grandes compañías como Google e Intel diseñan circuitos ASIC aceleradores. Entre los ejemplos de aplicación del aprendizaje automático destacan la mejora en la precisión del diagnóstico médico en el sector sanitario, la transcripción de texto medieval en paleontología, la predicción del tiempo extremo o la clasificación de imágenes. Por otro lado, el crecimiento exponencial de los teléfonos móviles inteligentes, sensores y dispositivos wearables, que obtienen datos del entorno y que necesitan hacer los cálculos computacionales cerca del dispositivo, sin enviar los datos al cloud central, hace que aparezcan en el mercado aceleradores específicamente diseñados para trabajar en el borde de la red, entre los que se encuentra el Neural Compute Stick (NCS) de Intel.

Más concretamente, el desarrollo del aprendizaje automático se hace en dos etapas. Primero, un algoritmo se entrena haciendo uso de una gran cantidad de muestras de datos en un clúster o máquina computacionalmente potente. Luego, la red entrenada se despliega en una aplicación que necesita interpretar los datos reales (inferencia).

Esta etapa de despliegue o “inferencia” es donde participan los aceleradores de IA en el borde, pues permiten la ejecución de la red entrenada cerca de la fuente donde se generaron los datos. De alguna forma, pasamos a disponer de “inteligencia” cerca de los dispositivos finales, no en el cloud o servidor central, reduciendo las latencias de comunicación y los costes debidos al consumo de ancho de banda. Este paradigma se denomina computación en la niebla o Fog Computing.

El  objetivo de este Trabajo Fin de Grado (TFG) es analizar las prestaciones del Neural Compute Stick de Intel en el contexto de un entorno Fog de bajo coste basado en nodos Raspberry Pi. Para la consecución con éxito de este objetivo se han de abordar los siguientes sub-objetivos:

• Estudio del funcionamiento de las tarjetas Raspberry Pi
• Estudio del Neural Compute Stick y de sus herramientas de desarrollo
• Despliegue de un prototipo de Fog con Raspberry Pi y aceleradores NCS
• Despliegue de aplicaciones de prueba
• Análisis de las prestaciones del sistema

 

Metodología y Competencias

Para el desarrollo de este TFG se hará uso de una metodología ágil basada en Scrum. Se mantendrán reuniones quincenales con los tutores para el correcto seguimiento y retroalimentación del trabajo.

En cuanto al plan de trabajo, a priori se definen las siguientes fases:

1. Familiarizarse con la instalación y gestión de las Raspberry Pi.
2. Estudiar el funcionamiento de machine learning (ML).
3. Estudiar el funcionamiento del framework open source Intel OpenVINO para el despliegue de aplicaciones.
4. Diseñar, integrar e implementar el sistema de bajo coste.
5. Desplegar y ejecutar aplicaciones ML en el sistema.
6. Analizar el funcionamiento de las aplicaciones y las prestaciones del sistema.

Las competencias que se aplican en el caso de la Tecnología de Ingeniería de Computadores son:

[IC3] Capacidad de analizar y evaluar arquitecturas de computadores, incluyendo plataformas paralelas y distribuidas, así como desarrollar y optimizar software para las mismas.

[IC7] Capacidad para analizar, evaluar, seleccionar y configurar plataformas hardware para el desarrollo y ejecución de aplicaciones y servicios informáticos.

 

Medios a utilizar

• Software de código abierto: Raspbian, Intel OpenVINO
• Hardware: PC o portátil, Raspbeery Pi, Intel Neural Compute Stick 2 (disponibles en la ESII)

 

Bibliografía

Raspberry Pi Ltd, "Raspberry Pi Documentation", https://www.raspberrypi.com/documentation/computers/getting-started.html (último acceso: septiembre 2022)

Intel Corporation, "Intel® Neural Compute Stick 2 (Intel® NCS2)", disponible en https://www.intel.com/content/www/us/en/developer/tools/neural-compute-stick/overview.html (último acceso: septiembre 2022)

Intel Corporation, "Intel® Distribution of OpenVINO™ Toolkit", https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit/overview.html (último acceso: septiembre 2022)

Intel, "OpenVINO", https://docs.openvino.ai/latest/index.html (último acceso: septiembre 2022)

X. Rancaño, R. F. Molanes, C. González-Val, J. J. Rodríguez-Andina and J. Fariña, "Performance Evaluation of State-of-the-Art Edge Computing Devices for DNN Inference," IECON 2020 The 46th Annual Conference of the IEEE Industrial Electronics Society, 2020, pp. 2286-2291, doi: 10.1109/IECON43393.2020.9255055.

T. Sipola, J. Alatalo, T. Kokkonen and M. Rantonen, "Artificial Intelligence in the IoT Era: A Review of Edge AI Hardware and Software," 2022 31st Conference of Open Innovations Association (FRUCT), 2022, pp. 320-331, doi: 10.23919/FRUCT54823.2022.9770931.