O aprendizado de máquina (ML) e a inteligência artificial (IA) não estão mais limitados a servidores de última geração ou plataformas em nuvem. Graças aos novos desenvolvimentos em circuitos integrados (IC) e tecnologia de software, é possível implementar algoritmos de ML e redes neurais de aprendizagem profunda em pequenos controladores e microcomputadores. E esses dispositivos incorporados instalados nas bordas não devem mais depender de um servidor remoto ou de uma nuvem para obter informações a partir dos dados dos sensores ou das entradas do usuário.
Estruturas de software como o TinyML estão evoluindo como soluções de ML específicas para microcontroladores, e estruturas convencionais de aprendizagem profunda podem ser implementadas em microcomputadores poderosos. Isto oferece diversas vantagens.
Por um lado, os dispositivos não dependem da conectividade de rede ou da disponibilidade de um serviço em nuvem para adicionar IA ao sistema. Em segundo lugar, os microcontroladores e microcomputadores são muito mais eficientes em termos energéticos do que um servidor de serviços de IA baseado na Web.
Os microcontroladores agora também podem realizar tarefas específicas de IA enquanto funcionam em uma célula tipo moeda. Comparado a uma estação de trabalho de última geração que normalmente custa milhares de dólares, um microcontrolador com capacidade de ML custa menos de algumas centenas de dólares. Outro benefício da implementação de IA no dispositivo de ponta é proteger a privacidade dos dados do usuário e reduzir as chances de ataques cibernéticos e hackers. Os microcontroladores são onipresentes e podem ser implantados em larga escala para tarefas de aprendizado de máquina.
Existem vários microcontroladores e microcomputadores de placa única disponíveis que podem ser usados para desenvolver aplicativos embarcados habilitados para IA. Vamos explorar as principais plataformas.
Kit de desenvolvedor NVIDIA Jetson Nano
O Kit de desenvolvedor NVIDIA Jetson Nano é uma das máquinas autônomas mais flexíveis que podem ser usadas para implantar software de IA na borda. Este microcomputador pode executar várias redes neurais em paralelo.
Baseado no processador ARM A57 quad-core e na GPU NVIDIA Maxwell de 128 núcleos, o Jetson Nano pode fornecer 472 GFLOPS de desempenho do computador. Ele também abriga uma RAM LPDDR4 integrada de 4 GB e 64 bits a 1600 MHz. Existem dois modos de energia, 5W/10W com entrada de 5V DC, e a placa custa apenas US$ 99.
É fácil começar simplesmente inserindo um cartão MicroSD contendo a imagem do sistema. A placa está programada para aplicações de IA usando o NVIDIA JetPack SDK. O SDK mais recente fornece um ambiente Linux completo baseado no Ubuntu 18.04. O SDK também fornece gráficos acelerados com suporte para NVIDIA CUDA Toolkit 10.0 e bibliotecas aceleradas por GPU, como Tensor RT5 e cuDNN 7.3.
As estruturas de ML suportadas incluem PyTorch, Keras, TensorFlow, Caffe/Caffee2, MXNet e outros. O SDK também suporta OpenCV para visão computacional e ROS para aplicações robóticas.
E mais: este kit de desenvolvedor inclui um SDK DeepStream que oferece um kit de ferramentas completo de análise de streaming para processamento de vídeo e imagem baseado em IA. A NVIDIA pode processar até 8 fluxos de vídeo full-motion HD em tempo real. O Jetson Nano é uma excelente plataforma para implantar cargas de trabalho de inferência baseadas em IA para aplicações como classificação de imagens, segmentação, detecção e localização de objetos, aprimoramento de vídeo, estimativa de pose e processamento de fala.
A placa possui Gigabit Ethernet, HDMI 2.0, Display Port 1.3, interface de câmera MIPI CSI-2, quatro portas USB 3.0, um slot para cartão MicroSD e um conector GPIO de 40 pinos. A placa pode receber energia através de um adaptador de tomada cilíndrica de 5 V DC ou porta Micro USB. O consumo de energia pode ser definido para apenas 5 Watts. O conector da câmera é compatível com 8MP IMX219 e módulo de câmera V2 do Raspberry Pi.
Jetson Nano é capaz de inferir vários modelos de redes neurais profundas (DNN) com visão computacional em tempo real. Até as redes neurais podem ser retidas localmente por meio de aprendizagem por transferência. Esta placa é uma excelente escolha para diversas aplicações, incluindo IoT com análise inteligente de borda, robôs autônomos multissensor, análise de vídeo, reconhecimento de imagem e reconhecimento de gestos.
Conselho de desenvolvedores do Google Coral
Quadro de desenvolvedores do Google Coral é atualmente a placa de desenvolvimento com maior eficiência energética para inferência de ML de borda. Baseado no SoC NXP i.MX 8M (incluindo Quad-core Cortex A53 e Cortex-M4F), com GPU gráfica GC7000 Lite integrada e Google Edge TPU, o Coral Dev pode oferecer desempenho de computação de 4 TOPS. Além disso, a placa consome apenas 0,5 Watt por TOPS. A RAM é de 1 ou 4 GB LPDDR.
Esta placa de desenvolvimento requer uma fonte de 5V DC para operação e seu GPIO é compatível com 3V3. Há também memória eMMC integrada de 8 GB e um slot para cartão MicroSD. A placa custa $ 149,99.
Uma vantagem que o Coral Dev oferece é que ele combina ML com conectividade sem fio. Junto com Gigabit Ethernet, Coral Dev inclui WiFi (802.11b/g/n/ac 2,4/5GHz) e Bluetooth 4.2. Outra vantagem é seu sistema em módulo (SoM) removível que pode ser dimensionado com eficiência entre a prototipagem e a produção. A maior desvantagem é que ele oferece suporte apenas ao TensorFlow Lite e nenhuma outra estrutura de aprendizado profundo. No entanto, esta placa roda um derivado do Debian Linux e suporta várias ferramentas populares do Linux, o que é útil.
Coral Dev é ideal se você planeja implantar inferências de ML usando TensorFlow Lite com tempo mínimo de lançamento no mercado. A placa oferece desempenho computacional impressionante e pode executar os mais recentes modelos de visão móvel do MobileNet v2 a 400 FPS. Os usuários podem fazer quase tudo no Coral Dev que esteja dentro do escopo da estrutura TensorFlow Lite.
Raspberry Pi
Raspberry Pi era um computador de placa única tão popular que esgotou em 2022 devido à sua enorme demanda na indústria fabricante. O mais recente Raspberry Pi 4 Modelo B é baseado no poderoso SoC Broadcom BCM2711 Quad-core Cortex A72 de 64 bits com freqüência de 1,5 GHz. Esta placa também possui GPU Broadcom VideoCore VI e 1/2/4 GB de RAM LPDDR4 e pode fornecer desempenho de computação de 13,5 a 32 GFLOPS.
O custo da placa começa em US$ 35 para um modelo de 1 GB de RAM. Os modelos de 2 GB e 4 GB de RAM custam US$ 45 e US$ 55, respectivamente. O Coral USB Accelerator custa US$ 59,99 e pode ser adicionado à placa para melhorar seus recursos de ML.
Raspberry Pi é compatível com TensorFlow e TensorFlow Lite. Ele pode implantar vários aplicativos de ML, como classificação de imagens, reconhecimento de voz, detecção e localização de objetos, reconhecimento facial e reconhecimento de gestos. O conselho também é capaz de implementar diversas redes de aprendizagem profunda.
É possível adicionar o acelerador Coral USB para melhorar os recursos de ML, mas o custo aumenta. Comparado com outras placas de desenvolvimento, o Raspberry Pi possui uma GPU mais fraca. No entanto, o RPi é um computador de placa única que quase todos os fabricantes possuem.
Raspberry Pi 4B é uma placa excelente para aprender e experimentar ML e redes de aprendizado profundo.
A rocha Pi 4
Rocha Pi 4 é frequentemente considerado uma atualização do Raspberry Pi 4B e é ideal para projetos mais complexos. Lançado em 2021, Rock Pi 4 possui processador e GPU melhores para implementação de tarefas de ML. A placa executa oficialmente o sistema operacional Android (Android 12) e suporta pilha de IA convencional com aceleração de GPU.
O Dual Cortex A72 a 1,8 GHz com Quad-core Cortex A53 a 1,4 GHz está no centro da placa. A GPU Mali T860MP4 integrada suporta até OpenGL v3.2 e OpenCL, DX11 e Vulkan 1.0.
O Rock Pi possui uma RAM LPDDR4 de canal duplo de 64 bits com opções para variantes de 1/2/4 GB. A placa possui várias opções de memória, incluindo MicroSD, eMMC, PCIe e USB3. Um cartão MicroSD de até 128 GB pode ser usado. O módulo eMMC é opcional, com 8/16/32/64/128 GB de armazenamento. O conector M.2 suporta até 2T M.2 NVME SSD.
O custo do Rock 4A/4B começa em US$ 49 para a variante de 1 GB de RAM. Os modelos de 2 GB e 4 GB de RAM custam US$ 59 e US$ 75, respectivamente. Existem também outros modelos de Rock 4 disponíveis, incluindo Rock 4A/4B Plus, Rock 4 SE e Rock 4C Plus. Todos os modelos vêm com WiFi5 e Bluetooth 5 integrados.
O Rock 4A/4B Plus é superior ao Rock 4A/4B em muitas especificações. Os modelos 4A não possuem WiFi e Bluetooth integrados. Os outros recursos notáveis da placa incluem um conector GPIO de 40 pinos, RTC integrado, quatro portas USB 3.0, um conector MIPI CSI, um conector MIPI DSI e uma porta HDMI 2.0 de tamanho normal. Um acelerador NPU de hardware dedicado será adicionado em breve à placa.
Rock 4 é uma alternativa melhor para aplicativos de IA baseados em TensorFlow e TensorFlow Lite, mas é uma opção mais recente, com apenas um pequeno suporte da comunidade no momento. Muitos acessórios ainda são incompatíveis com o Rock 4.
O Sipeed MAIX GO
O Sipeed MAIX GO é uma boa opção de orçamento para iniciantes interessados em IA e ML. A placa inclui um LCD de 2,8 polegadas e uma câmera OV2640 com lente M12. Baseado na CPU RISC-V dual-core de 64 bits com freqüência de 400 MHz, o MAIX GO possui um 64 KPU (Processador de Rede Neural) com largura de 576 bits e uma APU (Unidade de Processamento de Áudio). Ele pode suportar até oito microfones com taxa de amostragem de 192 KHz.
A RAM integrada é SRAM de 8 MB de alta velocidade que pode ter overclock de até 800 MHz. A placa também possui JTAG e UART e um chip gerenciador de bateria de lítio.
Sipeed MAIX GO possui uma porta MicroPython, suportando TensorFlow, Tiny-Yolo, FreeRTOS, Mobile-Net V1 e outras estruturas. MAIX GO é uma excelente placa de desenvolvimento para experimentar pilhas básicas de IA sem adquirir componentes e acessórios adicionais. Os usuários podem experimentar classificação de imagens, processamento de fala e análises inteligentes de dados de sensores com a placa.
Uma desvantagem do MAIX GO é a falta de documentação adequada e suporte de biblioteca em comparação com outras placas de desenvolvimento. Mas por apenas US $ 40, incluindo uma câmera integrada e LCD, ainda vale a pena considerar o MAIX GO.
Pensamentos finais
Nos anos anteriores, o Intel Neural Stick 2 e o BeagleBone AI estariam nesta lista, mas foram descontinuados. A escolha de uma prancha depende de suas necessidades.
Iniciantes que já possuem um Raspberry Pi 4B podem considerar a pilha de IA baseada nas estruturas TensorFlow e TensorFlow Lite. Mas se você procura desempenho e recursos de ML superiores, o Rock 4 é uma alternativa ao RPi. Para um orçamento apertado, MAIX GO é uma opção acessível. Coral Dev é a solução de desenvolvimento mais rápida.
Para versatilidade em relação a ML, IA e aprendizado profundo, o NVIDIA Jetson Nano é ideal. Para alta produção, experimente os dispositivos de borda de inferência de IA do TensorFlow. Ou considere mais de um quadro para adicionar à sua experiência.
