Intel, modello matematico per stabilire le responsabilità degli incidenti nella guida autonoma

Intel, modello matematico per stabilire le responsabilità degli incidenti nella guida autonoma

Il CEO di Mobileye propone un modello matematico che abbia lo scopo di formalizzare i concetti umani di cautela e responsabilità, così da poter determinare lo stato di sicurezza delle azioni di un veicolo autonomo

di Andrea Bai pubblicata il , alle 13:21 nel canale Tecnologia
Intel
 

I veicoli a guida autonoma sembrano destinati a diventare parte della quotidianità in un futuro non troppo lontano, ma sono ancora aperti numerosi interrogativi sulla loro sicurezza e, in modo particolare, su come attribuire le responsabilità nel momento in cui si trovano coinvolti in un incidente.

Attualmente il panorama è composto da numerose realtà del settore automobilistico e tecnologico che portano avanti sistemi e tecnologie differenti tra loro, aumentando quindi la complessità dello scenario e sollevando la necessità di stabilire un insieme di standard.

Una possibile proposta arriva da Amon Shashua, CEO di Mobileye (recentemente acquisita da Intel), con il modello "Responsibility Sensitive Safety" che ha lo scopo di dimostrare la sicurezza dei veicoli autonomi e di determinare eventuali colpe e responsabilità in caso di incidente. Il concetto è quello di individuare una serie di parametri specifici e misurabili che possano formalizzare i concetti umani di responsabilità e cautela e definire infine uno "stato di sicurezza" dove il veicolo autonomo non può essere la causa di un incidente, a prescindere dal comportamento di altri veicoli.

"La capacità di attribuire la colpa è la chiave. Proprio come i migliori piloti umani al mondo, le auto a guida autonoma non possono evitare incidenti dovuti ad azioni che sono oltre al loro controllo. Ma il guidatore più responsabile, consapevole e cauto difficilmente riuscirà a causare un incidente per sua colpa, in particolare se ha una visione a 360 gradi e tempi di reazione alla velocità della luce, proprio come i veicoli autonomi" ha spiegato Shashua.

La pubblicazione che spiega il modello esplora vari concetti interessanti, tra cui quello di "Multi agent safety" (ovvero che la sicurezza è un obiettivo che si raggiunge in maniera collaborativa e non a carico di una singola entità), e ammette l'impossibilità del concetto di "sicurezza assoluta".

Del resto è impossibile prevenire tutti gli incidenti, specie in una situazione in cui gli elementi controllati dall'intelligenza artificiale dovranno coesistere con il comportamento umano, ovvero ciò che di più imprevedibile esiste in natura. Ma l'obiettivo ultimo è comunque quello di ridurre quanto possibile le situazioni in cui un incidente abbia elevata probabilità di verificarsi e, nel caso accada, di individuare con certezza le responsabilità.

15 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
emahwupgrade18 Ottobre 2017, 13:38 #1
E poi chi paga? Il produttore della macchina che ha sbagliato?
zappy18 Ottobre 2017, 13:58 #2
Originariamente inviato da: emahwupgrade
E poi chi paga? Il produttore della macchina che ha sbagliato?

se l'auto non ha controlli x umani (volante, pedali), per forza.
lucusta18 Ottobre 2017, 14:18 #3
se leggi tra le righe ti stanno dicendo che, dimostrata l'ammissibilità di una condizione che esclude possibilità di evitare l'incidente... il classico concorso di colpa... e paga quindi il proprietario.

nell'immagine 2 non ha senso nella guida autonoma.
qualsiasi auto che consideri ha innescato una possibile fonte di pericolo (anche la nera, perchè ricordiamoci che hanno sensori a 360°, quindi nessuna di queste è a guida autonoma.
zappy18 Ottobre 2017, 14:20 #4
Originariamente inviato da: lucusta
se leggi tra le righe ti stanno dicendo che, dimostrata l'ammissibilità di una condizione che esclude possibilità di evitare l'incidente... il classico concorso di colpa... e paga quindi il proprietario.
se non ci sono controlli umani, come fai ad avere "colpa"?
lucusta18 Ottobre 2017, 16:00 #6
Originariamente inviato da: zappy
se non ci sono controlli umani, come fai ad avere "colpa"?


perchè l'unico modo che hai, anche oggi, per scaricare la colpa sul produttore dell'auto è un difetto di fabbricazione.
dimostrato che non c'è colpa, quindi difetto, il danni li paga il proprietario (perchè qualcuno che paga ci deve sempre essere).
cdimauro19 Ottobre 2017, 07:04 #7
C'è da dire che il problema principale è attualmente rappresentato dagli esseri umani. Con la progressiva eliminazione degli umani, il numero di incidenti è destinato a ridursi notevolmente.

E in ogni caso, anche per quei pochi incidenti che ci saranno, ci sono sempre le assicurazioni (che comunque DOVREBBERO costare molto meno, proprio perché ci sarà di gran lunga meno rischi di incidenti).

Fermo restando che la guida autonoma pone delle problematiche etico-morali di non poco conto.

Originariamente inviato da: emahwupgrade
https://www.techspot.com/community/topics/bill-gates-vs-general-motors.37462/

🙂

amd-novello19 Ottobre 2017, 07:51 #8
già. non vedo l'ora che si diffondano le macchine a guida autonoma. quella vera non le baggianate di oggi. ma un concetto non è stato mai spiegato. come funziona la programmazione di questi sistemi quando si deve decidere cosa rischiare per evitare di porre fine ad una vita?
ad esempio di certo cerco di rallentare per un gatto che attraversa ma se percepisco la possibilità di incidente lo prendo sotto senza pensarci troppo. se fosse un bambino o comunque un essere umano rischierei l'incidente.
Mparlav19 Ottobre 2017, 10:48 #9
Originariamente inviato da: amd-novello
già. non vedo l'ora che si diffondano le macchine a guida autonoma. quella vera non le baggianate di oggi. ma un concetto non è stato mai spiegato. come funziona la programmazione di questi sistemi quando si deve decidere cosa rischiare per evitare di porre fine ad una vita?
ad esempio di certo cerco di rallentare per un gatto che attraversa ma se percepisco la possibilità di incidente lo prendo sotto senza pensarci troppo. se fosse un bambino o comunque un essere umano rischierei l'incidente.


In Germania stanno gettando le basi normative per stabilire a priori queste scelte "etiche":
https://www.engadget.com/2017/08/24...s-self-driving/

da quanto ho capito, pare che vogliano spingersi fino al livello di automazione 4, lasciando sempre un parte dell'intervento, e soprattutto della responsabilità, all'uomo. Perchè poi alla fine, il problema non è tanto tecnologico, ma di responsabilità, per la casa costruttrice e per l'assicurazione.

Un conducente umano agisce d'istinto e la scelta finale non è detto che sia quella più "corretta".
Nel tuo esempio, potrebbe aver deciso di scansare il gatto che attraversa ed alla fine si schianta uccidendo se stesso ed i passeggeri.
Oppure, decide di tirar dritto ed investire un pedone che attraversa (non un animale), salvando se stesso ed i passeggeri.
La tendenza attuale è che è talmente distratto alla guida che gli incidenti semplicemente avvengono senza aver manco eseguito una vera e propria scelta

In generale sono il conducente umano ha pochissimo tempo per ponderare, mentre un computer sì, ma solo se programmato "correttamente".

Alcuni esempi di "scelte etiche":
http://moralmachine.mit.edu/
s-y19 Ottobre 2017, 11:00 #10
la questione penso sia particolarmente delicata in questa fase di 'transizione', da capire cosa uscirà fuori e temo che prima di avere delle 'normative' stabili dovrà essere versato del sangue (lo scrivo senza giudizio, a priori non si può prevedere tutto)

tendenzialmente (ora come ora) sono per un approccio il più light possibile, a meno che non si demandi completamente alla macchina, anche la responsabilità

un esempio parzialmente per assurdo: se il guidatore fosse 'tenuto' ad intervenire solo in certi frangenti, lo farebbe partendo da uno stato di concentrazione estremamente basso dato che in precedenza non guidava, e la situazione sarebbe tutt'altro che ideale.
se poi fosse anche responsabile giuridicamente, penserebbe legittimamente 'ndo sta il bottone per spegnere l'accrocchio?'

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^