Clúster con hardware embebido, Kubernetes y paralelización de GPUs para Edge AI
Fecha:
22/07/2021Palabra clave:
Tipo de Ítem:
masterThesis
Resumen:
El presente trabajo de fin de Máster tiene como objetivo desarrollar una plataforma Edge de inteligencia artificial utilizando un clúster hardware de 2 placas nVidia Jetson Nano, sistemas operativos GNU/Linux Embebidos y tecnologías de Kubernetes y paralelización de GPUs para un caso de uso de visión computacional utilizando redes neuronales. Se realizarán diferentes comparativas de rendimiento del clúster respecto a los casos de uso de una única placa con GPU y otros equipos de referencia.
El caso de uso de visión computacional elegido es utilizar redes neuronales de tipo CNN como solución para la predicción temprana de casos de COVID-19, iniciativa planteada por la Comisión Europea en su publicación “AI-ROBOTICS vs COVID-19” (Alliance, n.d.) ,que tuvo mucha repercusión al inicio de la pandemia, utilizando imágenes de placas de tórax obtenidas con máquinas de Rayos X.
Este tipo de soluciones, al no depender de entidades externas, podrían ser utilizadas directamente en entornos hospitalarios sin más dependencias que la conexión con la propia máquina de Rayos X o un depósito de imágenes para interpretar y analizar las imágenes, lo que permitiría gestionar la privacidad de los datos de los pacientes y eliminar las dependencias con infraestructuras fuera del propio hospital o centro de salud.
Como detalles del proyecto planteamos el empleo y optimización de tecnologías consideradas de bajo coste en este campo como pueden ser las placas nVidia Jetson Nano, así como del soporte de software proporcionado por el fabricante de cara a optimización de IA para este tipo de hardware en su BSP, pero lo ampliamos incrementado la capacidad de procesamiento montando en un clúster de dos unidades, aunque con el objetivo que sea totalmente escalable para más unidades con mínimos cambios posibles. Para realizar esto contamos además con la plataforma de gestión de clústeres de contenedores Kubernetes adaptada para sistemas embebidos de este tipo, lo que permitirá una administración del sistema fácil y de escalabilidad totalmente configurable adaptada a las cargas de trabajo necesarias.
Concluyendo, el conjunto de tecnologías en Edge aplicadas en este trabajo servirá para facilitar y acelerar la detección de casos de COVID-19 in situ utilizando redes neuronales convolucionales, sin dependencias externas de ningún tipo, bajo coste y un alto rendimiento y escalabilidad.
Descripción:
This Master’s Dissertation aims to develop an artificial intelligence Edge platform using a hardware cluster of 2 nVidia Jetson Nano boards, GNU/Linux Embedded operating systems and Kubernetes and GPU parallelisation technologies for a computational vision use case using neural networks. Different performance comparisons of the cluster will be made with respect to the use cases of a single board with GPU and other reference equipment.
The computer vision use case chosen is to use CNN type neural networks as a solution for the early prediction of COVID-19 cases, an initiative proposed by the European Commission in its publication "AI-ROBOTICS vs COVID-19" (Alliance, n.d.)which had a great impact at the beginning of the pandemic, using chest X-ray machine images.
This type of solution, as it does not depend on external entities, could be used directly in hospital environments with no dependencies other than the connection to the X-ray machine itself or an image repository to interpret and analyse the images, which would allow the privacy of patient data to be managed and eliminate dependencies with infrastructures outside the hospital or health centre itself.
As details of the project, we propose the use and optimisation of technologies considered low-cost in this field, such as nVidia Jetson Nano boards, as well as the software support provided by the manufacturer for optimising AI for this type of hardware in its BSP, but we extend it by increasing the processing capacity by building a cluster of two units, although with the aim of making it fully scalable for more units with minimum changes. To achieve this we have the Kubernetes container cluster management platform adapted for embedded systems of this type, which will allow easy administration of the system and fully configurable scalability adapted to the necessary workloads.
In conclusion, the set of Edge technologies applied in this work will serve to facilitate and accelerate the detection of COVID-19 cases in situ using convolutional neural networks, without external dependencies of any kind, with low cost, high performance and scalability.
Ficheros en el ítem
Nombre: Crisóstomo Vals, Carlos; Garrido Viro, Rafael.pdf
Tamaño: 5.794Mb
Formato: application/pdf
