Guida autonoma e intelligenza artificiale, gravi rischi di sicurezza secondo l'Unione Europea

Guida autonoma e intelligenza artificiale, gravi rischi di sicurezza secondo l'Unione Europea

I sistemi di guida autonoma e intelligenza artificiale legata alla guida sono proni ad incidenti di sicurezza: è necessario un cambio radicale dell'approccio che tenga conto di tutta la catena di fornitura e dei modelli di sviluppo e implementazione.

di pubblicata il , alle 16:41 nel canale Tecnologia
 

Un rapporto dell'ENISA - Agenzia dell'Unione Europea per la Cybersecurity - sottolinea che i veicoli autonomi sono "altamente vulnerabili ad una vasta gamma di attacchi" che potrebbero mettere in pericolo i passeggeri, i pedoni e le persone in altri veicoli.

Il rapporto indica alcuni esempi dei possibili attacchi che potrebbero abbattersi sui veicoli a guida autonoma: la compromissione dei sensori di guida con fasci luminosi opportunamente indirizzati così da ingannare i sistemi di rilevamento degli oggetti, passando per il sabotaggio delle attività "dietro le quinte" che si occupano della gestione della guida, fino agli attacchi machine learning con l'inquinamento dei dati di addestramento.

Il rapporto si concentra inoltre sugli attacchi cosiddetti antagonisti all'apprendimento automatico, i quali introducono il rischio di conseguenze potenzialmente gravi. Si tratta di attacchi difficilmente rilevabili dagli esseri umani. Per questo motivo, avverte l'ENISA, l'apprendimento automatico dei sistemi di guida autonoma richiederà una continua revisione che garantisca l'assenza di alterazioni dannose.

"Un attacco potrebbe essere utilizzato per rendere l'IA cieca ai pedoni manipolando, ad esempio, il componente di riconoscimento delle immagini così che li classifichi erroneamente. Questa cosa diffonderebbe il caos per le strade poiché in uno scenario del genere le auto a guida autonoma potrebbero investire i pedoni sulla strada o sugli attraversamenti pedonali. L'assenza di conoscenze e competenze sufficienti in materia di sicurezza tra gli sviluppatori e i progettisti di sistemi sulla sicurezza informatica dell'Intelligenza Artificiale è un ostacolo all'integrazione della sicurezza nel settore automobilistico" si legge nel rapporto.

Guida autonoma: tanti sensori, rischi elevati

Una vettura autonoma ha inevitabilmente bisogno di un gran numero di sensori, per altro di vario tipo, per poter raccogliere dati sui quali costruire il processo decisionale delle operazioni e manovre da compiere. Il rapporto evidenzia, in maniera per altro logicamente condivisibile, come l'elevato numero di sensori e sistemi decisionali aumenti significativamente la "superficie" di attacco. Per questo motivo, avverte il rapporto, è necessario che il settore automobilistico si approcci alla sicurezza in maniera olistica, cioè sviluppando una cultura della sicurezza lungo tutta la catena di fornitura automobilistica compresi quindi i fornitori di terze parti.

E anche l'approccio allo sviluppo dei sistemi dovrebbe cambiare radicalmente. A tal proposito il rapporto suggerisce: "La sicurezza informatica dell'IA non può essere affrontata rivedendo le attuali pratiche, aggiungendo controlli di sicurezza e strategie di difesa di natura reattiva. E questo è vero in particolare per i sistemi di intelligenza artificiale che sono progettati da scienziati informatici e implementati da ingegneri. I sistemi di intelligenza artificiale dovrebbero essere progettati, implementati e allestiti da team in cui collaborano esperti di settore automobilistico, esperti di Machine Learning ed esperti di sicurezza informatica".

Nel passato recente alcuni studi hanno dimostrato come sia possibile, con poco sforzo e risorse pressoché nulle, riuscire ad ingannare i sistemi dei veicoli autonomi costringendo la vettura a prendere decisioni sbagliate. Nel 2017 un gruppo di ricercatori ha usato vernice spray e adesivi su un segnale di stop per indurre un veicolo a riconoscerlo erronamente come un segnale di limite di velocità. Nel 2019 i ricercatori di sicurezza di Tencent hanno impiegato degli adesivi per indurre l'Autopilot di Tesla a sterzare nella corsia sbagliata. E infine lo scorso anno un altro gruppo di ricercatori ha dimostrato la possibilità di condizionare un veicolo autonomo applicando strategicamente alcuni pezzi di nastro sulla strada e spingerlo ad accelerare rapidamente da 50km/h a 130km/h.

30 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
niky8923 Febbraio 2021, 16:46 #1
Quando VW avrà un suo buon sistema l'Europa non si farà più problemi
TorettoMilano23 Febbraio 2021, 16:49 #2
mi sembra che l'articolo parli dell'acqua calda. "la compromissione dei sensori di guida con fasci luminosi opportunamente indirizzati così da ingannare i sistemi di rilevamento degli oggetti", pure a me se mi accecano non ci vedo e posso involontariamente causare un incidente eppure agli umani è concesso guidare.
è ovvio che la guida autonoma sarà commercializzata quando sarà pronta e infatti ad oggi non è ancora stata commercializzata
Ginopilot23 Febbraio 2021, 17:01 #3
La scoperta dell'acqua calda. Arriveranno prima le auto volanti, poi, forse, la guida autonoma.
raxas23 Febbraio 2021, 18:21 #4
secondo me una buona evoluzione potrebbe essere la vendita di auto guidate da androidi su reti stradali apposite: ne guadagnerebbe il mercato auto e connessi, anche per la vendita dei predetti androidi, i quali nel tempo non libero, lavorerebbero a noleggio nelle fabbriche in affitto)
con un grosso sospiro di sollievo per lo stagnamento dei nuovi prodotti
in sintesi lavorerebbero solo gli androidi e con i loro ricavati potrebbero sostenere 4 umani a testa, al netto dell'affitto pagato dagli umani per i loro servigi
altra soluzione la realizzazione di circuiti stradali con auto guidate da androidi, specializzati solo per questo, in maniera da vendere auto, tutto distribuito su vari canali televisivi, in abbonamento agli utenti che guarderanno circolare i predetti androidi, canali televisivi che pagherebbero le spese di rifornimento, manutenzione delle predette auto androidizzate e gestione delle trasmissioni, il netto messo in una cassa comune per le spese emmecinquiste tipo quelle per il lavoro non assistito
ehm
vraptus23 Febbraio 2021, 18:41 #5
Originariamente inviato da: raxas
secondo me una buona evoluzione potrebbe essere... ... ... ehm


Mangiato pesante?
berson23 Febbraio 2021, 18:50 #6
Quindi per gli aerei con cui viaggiano centinaia di persone alla volta tutti questi problemi sono accettabili (come dimostrano alcune penetrazioni dimostrative nei sistemi informatici di bordo e svariati incidenti dovuti a problemi con i sensori), mentre le auto a guida autonoma che portano in media 1,5 passeggeri devono essere perfette. Io sento puzza di cartello e sono d'accordo con niky89 sul fatto che quando i grandi produttori di auto decideranno di iniziare a commercializzare auto a guida autonoma nessuno si farà più problemi, come non ce li facciamo ora per gli aerei.
raxas23 Febbraio 2021, 19:19 #7
Originariamente inviato da: vraptus
Mangiato pesante?

ma no, ho mangiato il giusto, è che non hai capito che stavo

ma comunque "mai dire non è probabile"
acerbo23 Febbraio 2021, 19:42 #8
Aspettiamo la soluzione di Apple, sto progetto titan dovrebbe differenziarsi dalle altre tecnologie.
Il problema legislativo rimarrà e non solo in Europa.
acerbo23 Febbraio 2021, 19:45 #9
Originariamente inviato da: berson
Quindi per gli aerei con cui viaggiano centinaia di persone alla volta tutti questi problemi sono accettabili (come dimostrano alcune penetrazioni dimostrative nei sistemi informatici di bordo e svariati incidenti dovuti a problemi con i sensori), mentre le auto a guida autonoma che portano in media 1,5 passeggeri devono essere perfette. Io sento puzza di cartello e sono d'accordo con niky89 sul fatto che quando i grandi produttori di auto decideranno di iniziare a commercializzare auto a guida autonoma nessuno si farà più problemi, come non ce li facciamo ora per gli aerei.


Vuoi paragonare il traffico aereo con quello delle strade cittadine? Non ho mai visto attraversare la strada da bambini, biciclette e monopattini a 5000 metri di altezza e non ho mai visto cinghiali né tamponamenti sui voli di linea
jepessen23 Febbraio 2021, 19:56 #10
Originariamente inviato da: TorettoMilano
mi sembra che l'articolo parli dell'acqua calda. "la compromissione dei sensori di guida con fasci luminosi opportunamente indirizzati così da ingannare i sistemi di rilevamento degli oggetti", pure a me se mi accecano non ci vedo e posso involontariamente causare un incidente eppure agli umani è concesso guidare.
è ovvio che la guida autonoma sarà commercializzata quando sarà pronta e infatti ad oggi non è ancora stata commercializzata


Ah perche' se ti accecano tu continui a guidare come se nulla fosse?

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^