L'inferenza di intelligenza artificiale al bordo tattico — a bordo di un veicolo, di un velivolo o di una piattaforma senza pilota — impone vincoli che l'AI di datacenter non conosce. I budget di potenza si misurano in decine di watt, non in kilowatt. Gli inviluppi termici sono fissi. La qualifica ambientale è obbligatoria. Eppure la domanda di calcolo per il riconoscimento bersagli EO/IR in tempo reale, la sensor fusion e lo sfruttamento ISR continua a crescere. Questa guida aiuta l'ingegnere della difesa a orientarsi nella scelta della piattaforma.
Le tre famiglie di acceleratori AI
- SoM NVIDIA Jetson (Orin NX, Orin AGX): CPU + GPU + DLA (Deep Learning Accelerator) integrati su un modulo solo. Ottimizzati per lo SWaP: da 10 a 60 W. Ideali per UAV, vetronica e piccole piattaforme aeree. La serie AIX di GOMA integra Jetson Orin in uno chassis conduction-cooled qualificato MIL.
- Schede GPU discrete (NVIDIA RTX / serie L / serie A): throughput più alto, centinaia di TOPS. Form factor PCIe. Chiedono più potenza e raffreddamento attivo. Adatte ai server rackmount radar/EW e al calcolo in shelter (serie XRS di GOMA).
- Acceleratori FPGA (Xilinx/AMD Versal, Intel Agilex): inferenza deterministica a bassa latenza. Riconfigurabili. Throughput di picco più basso delle GPU, ma ideali per le applicazioni hard real-time come l'elaborazione del segnale radar. Di norma su schede VPX o PCIe.
I criteri di scelta
- Budget di potenza: sotto i 100 W di potenza totale di piattaforma, la scelta pratica è Jetson Orin. Sopra i 150 W diventano percorribili le schede GPU discrete.
- Termica: le installazioni fanless conduction-cooled richiedono soluzioni SoM integrate. Gli ambienti a ventilazione forzata reggono le GPU discrete.
- Supporto dei framework: PyTorch, TensorFlow e ONNX sono ben supportati su NVIDIA (ecosistema CUDA). Il deployment su FPGA richiede la conversione del modello e toolchain proprietarie del costruttore.
- Latenza o throughput: l'inferenza hard real-time (<1 ms) favorisce gli FPGA. L'inferenza a lotti ottimizzata per il throughput favorisce le GPU.
- Maturità di qualifica: le piattaforme basate su NVIDIA Jetson Orin hanno un track record in crescita nei form factor qualificati MIL. Le schede GPU discrete in chassis ruggedizzati sono più consolidate nelle applicazioni server.
EO/IR e riconoscimento bersagli
Per il riconoscimento bersagli elettro-ottico e infrarosso su UAV ed elicotteri, NVIDIA Jetson Orin AGX (275 TOPS) offre throughput sufficiente per l'inferenza in tempo reale con le reti di object detection più diffuse (YOLOv8, RT-DETR) alla cadenza dei fotogrammi video. Un consumo di 25–60 W rientra nei budget di payload di un UAV. La serie AIX di GOMA fornisce uno chassis qualificato MIL-STD-810 e DO-160G per l'integrazione di Jetson Orin con I/O su connettori MIL circolari.
ISR e sensor fusion
Lo sfruttamento Intelligence, Surveillance and Reconnaissance (ISR) — la fusione di dati radar, EO/IR, SIGINT e geospaziali — richiede di norma un throughput più alto di quello che un singolo SoM Jetson può dare. I sistemi rackmount con GPU di classe NVIDIA RTX A4000 o A5000 (16–24 GB di VRAM, 150–230 W) forniscono il calcolo necessario per l'inferenza multi-flusso e per i modelli grandi. Queste piattaforme richiedono raffreddamento a ventilazione forzata e sono adatte alle installazioni in shelter o nei rack di veicolo.
Ottimizzare il modello per il bordo
Qualunque acceleratore si scelga, l'ottimizzazione del modello è decisiva per il deployment al bordo. La quantizzazione (INT8, FP16) riduce di norma la dimensione del modello di 2–4× con perdita di accuratezza minima e raddoppia il throughput sulle GPU dotate di Tensor Core. NVIDIA TensorRT converte i modelli addestrati in motori di inferenza ottimizzati per Jetson e per le GPU discrete. Il deployment su FPGA passa da Xilinx Vitis AI o Intel OpenVINO. Metti a bilancio il tempo di ottimizzazione e validazione del modello nel calendario di programma: non è un passaggio banale.
