Nella società ipertecnologica in cui viviamo, la fiducia è un valore che deve essere applicato anche in ambiti che apparentemente possono sembrare meno “umani” come l’Intelligenza Artificiale, le cui applicazioni ormai spaziano dalla medicina alla finanza, dalla logistica all’industria, dai servizi ai beni di consumo, influenzando molti aspetti delle nostre vite.
In questa fase in cui l’IA sta acquisendo una propria “maturità tecnologica”, i nuovi studi non riguardano la tecnologia stessa, ma comprendono un insieme di tematiche come l’etica, la sostenibilità e la governance: un campo di ricerca altamente interdisciplinare e dinamico.
Infatti, le opportunità dell’Intelligenza Artificiale sono molteplici ma vanno di pari passo con i rischi, soprattutto se i sistemi basati su di essa vengono creati e utilizzati senza un’adeguata governance che tenga conto della loro affidabilità. In sostanza, l’end user deve potersi fidare dell’Intelligenza Artificiale e delle decisioni prese da essa, specie in contesti relativi a dati e applicazioni sensibili.
In questo senso, il concetto di Trustworthy AI è stato definito per comprendere tutti gli aspetti relativi alla privacy, alla sicurezza, alla fiducia e all’etica delle applicazioni dell’AI in contesti di vita reale. Della Trustworthy AI “ci si può fidare”, perché è stata sviluppata con il proposito di promuovere il benessere degli esseri umani e dell’ambiente rispettando i diritti fondamentali. Le applicazioni IA di “nuova generazione” dovranno essere pensate per sfruttare dati e tecnologie, coniugando al contempo livelli adeguati di responsabilità, inclusività e robustezza, ma soprattutto mettendo sempre in primo piano la centralità dell’essere umano e delle sue esigenze.
Fidarsi della tecnologia: il progetto REXASI -PRO
L’approccio trustworthy-by-design è alla base del progetto di ricerca europeo REXASI-PRO (acronimo di REliable & eXplAinable Swarm Intelligence for People with Reduced mObility), al quale Aitek fornisce il proprio contributo tecnologico e analitico. In particolare, REXASI-PRO intende definire le metodologie ingegneristiche che consentano la progettazione di sedie a rotelle a guida autonoma capaci di supportare le persone con disabilità motorie e sensoriali, garantendo la mobilità degli end-users nella più completa sicurezza.
Dal punto di vista tecnologico, la smart wheelchair è equipaggiata con sensori interconnessi e inserita in ambienti di navigazione intelligenti, dove reti di telecamere, sensori lidar e droni permettono l’impiego di algoritmi di navigazione atti a minimizzare il rischio di collisioni con ostacoli fissi o mobili all’interno di saloni, corridoi, uffici, musei, ambulatori e altri ambienti indoor.
Il contributo Aitek: algoritmi e safety analysis
Aitek contribuisce alla componente tecnologica del progetto fornendo gli algoritmi di video analisi che hanno il compito di elaborare le immagini acquisite dalle telecamere installate a bordo della sedia a rotelle per rilevare in tempo reale la presenza di ostacoli fissi o in movimento, determinare la direzione dei flussi di persone lungo il percorso e verificare la presenza di sovraffollamenti.
Inoltre, il team di ricercatori Aitek coordina le attività di safety analysis riguardanti lo studio delle possibili variabili che possono influire sulla sicurezza e sul corretto funzionamento del dispositivo, con particolare attenzione ad eventuali failure degli algoritmi di intelligenza artificiale che potrebbero causare incidenti o comportamenti non corretti della smart wheelchair.
Per questo, sono stati simulati alcuni scenari di supporto alle decisioni in particolari situazioni, come il rilevamento di ostacoli o persone che corrono dietro un angolo cieco verso il quale sta procedendo la carrozzina. Attraverso l’analisi dei possibili failure e il conseguente irrobustimento delle reti neurali utilizzate per il riconoscimento delle persone, il sistema garantisce la massima affidabilità anche in situazioni di emergenza, eliminando falsi allarmi o errori che potrebbero causare collisioni, brusche frenate o situazioni che potrebbero indurre gli utilizzatori finali a non fidarsi dei movimenti della carrozzina.
I tre casi d’uso
Obiettivo del pilot del progetto è certificare la robustezza dei veicoli autonomi basati su Intelligenza Artificiale attraverso tre differenti casi d’uso.
Il primo prevede l’impiego delle sedie autonome in un ambiente indoor, riconosciuto dal sistema per mezzo di una mappa pre-registrata.
Il secondo prevede l’utilizzo di droni per creare una mappa degli spazi interni: un orchestratore coordina i droni durante l’attività di mapping per ottimizzare l’operazione in termini di tempo e consumo energetico.
Nell’ultimo caso d’uso tutti i componenti cooperano per definire un ambiente completamente orchestrato in cui l’utente finale può spostarsi in modo sicuro e confortevole in un ambiente affollato. La sedia a rotelle sarà in grado di guidare autonomamente in un’area affollata, muovendosi verso la destinazione comunicata dall’utente mediante comandi vocali.
Gli impatti futuri: inclusione e sostenibilità
REXASI-PRO è un progetto finanziato dalla Commissione Europea nell’ambito del programma HORIZON-Research and Innovation Actions. Le attività di ricerca, iniziate nell’autunno del 2022, coinvolgono un team eterogeneo di partner composto da 10 fra aziende, università ed enti di ricerca di 6 differenti paesi europei.
In occasione del pilot finale, in programma nel giugno 2025, verrà allestito un dimostratore a guida autonoma il cui funzionamento dovrà risultare confortevole per l’utente seduto sulla sedia a rotelle e la cui presenza sarà percepita come amichevole dalle persone che condividono gli stessi spazi.
I risultati attesi dal progetto REXASI-PRO consentiranno di garantire maggiore autonomia e sicurezza alle persone con disabilità motorie e sensoriali, costituendo un elemento importante di inclusione sociale e sostenibilità nelle future smart-cities.
Sopra: la ricostruzione grafica di un ambiente di test ottenuta attraverso il REXASI-PRO 3D Driving Assistant (3DDA), un modulo software per il controllo dei comandi di guida della sedia a rotelle autonoma.
I comandi di guida possono essere impartiti dal conducente tramite il joystick della sedia oppure generati dall’intelligenza artificiale, attraverso l’elaborazione delle informazioni acquisite da due scanner laser installati sulla sedia e dalle scansioni “virtuali” ottenute da telecamere di profondità. La mappa di occupazione (occupancy map) che si ottiene viene continuamente aggiornata per rilevare il rischio di collisioni.
Al suo interno la safety area (cioè l’area nella quale la sedia può muoversi in sicurezza) si adatta alla velocità, ai comandi impartiti e a parametri quali accelerazione e decelerazione massime: quando il sistema rileva una possibile collisione, i comandi di guida vengono automaticamente modificati in modo da evitare l’ostacolo o fermare la carrozzina.
