Le auto a guida autonoma potrebbero decidere di uccidere i passeggeri, per il bene di tutti

Premesso che le auto a guida autonoma rispettino i limiti di velocità e le distanze, avvicinandosi ad un passaggio pedonale controlleranno se non ci sono pedoni in attesa e, in questo caso, si fermerebbero; se il pedone attraversasse senza guardare, l'auto si fermerebbe perché l'avrebbe già "visto"; se si dovesse trovare in una situazione in cui dovrebbe inchiodare, inchioderebbe e basta.
Non vedo il motivo per cui dovrebbe sterzare e decidere chi salvare... ma scherziamo? mica sfreccerebbe a 100 all'ora in pieno centro come fanno certi neopatentati per farsi "fighi" con la ragazza...
Se poi uno si vuole suicidare, probabilmente non ci riuscirebbe nemmeno!

sulle strisce è troppo facile, se il pedone, come accade quasi sempre, si butta instrada fuori dalle strisce? mettiamo anche sei in centro urbano e stai andando a 30 km/h se è molto vicino non c'è frenata che tenga, o lo investi o sterzi rischiando di investire chi sta sul marciapiede, o di prendere un palo, o di fare un frontale nell'altra corsia.

Io sinceramente non vedo il problema.

Cosa succede oggi quando una persona attraversa all'improvviso senza guardare?
Solitamente l'autista va in panico
Solitamente l'autista pesta sul freno
Solitamente, dopo qualche ulteriore frazione di secondo, l'autista realizza che forse può evitare la persona cambiando traiettoria e, se possibile, lo fa.

Con un'auto a guida autonoma, questa, eliminando il fattore panico, dovrebbe contemporaneamente frenare e cambiare traiettoria, se possibile. Esattamente come accadrebbe con un conducente umano, ma in una frazione del tempo.

Gli occupanti in ogni caso non devono essere messi in pericolo dall'auto... il pedone viene stirato? Beh, lo sarebbe stato anche con un'auto con autista, inoltre la colpa è sua (attraversa all'improvviso senza guardare), quindi non vedo perchè dovrebbero rimetterci altri.

Teoricamente no. E anche praticamente credo.
Per lo meno non è assolutamente scontato.

E' proprio la differenza principe tra IA e programma tradizionale.
Regola che vale panche per le persone ovviamente.. nella medesima situazione tu ed io potremmo prendere la stessa decisione.. oppure no.

Secondo me staranno "attente" nello stesso modo con la differenza che non si fermeranno se il pedone non è sulle strisce... ma magari rallenteranno lo stesso e, in caso di tentato suicidio, inchioderanno e sterzeranno verso una zona libera se c'è, altrimenti fileranno diritte: di certo è meglio investire il pedone che fare un frontale con una vettura che arriva dal senso opposto...
E' un caso limite comunque, di certo la colpa sarebbe del pedone che è soggetto anche lui al codice stradale, non dimentichiamolo.

Quindi una equazione di base che mette in prima posizione l'occupante dell'auto.
Ok, può essere una scelta.. Ma non sempre può risultare la scelta migliore.

Immagina di avere i super riflessi di una IA e di trovarti davanti il pedone disratto all'improvviso.. tutto si muove a velocità "matrix"..

Pesti sul freno, appare chiaro che non basta e non ti fermerai in tempo.
Opzione cambio direzione per evitare l'ostacolo..

Se lo fai eviti il pedone ma sbatti contro un muro: sicuri danni alla macchina ma probabili danni minimi/assenti agli occupanti per via di airbag, cinture ecc. Pedone salvo.

Se non lo fai investi il pedone (danni gravi o morte) e danni limitati la veiocolo.

Quale l'opzione migliore?

Il metodo perfetto per ammazzare il tuo peggior nemico:

Organizza una comitiva di 10 persone per buttarti sotto la sua auto a guida autonoma (e spera che non arrivi a bordo di un pulmino).

Allora non ci siamo per niente, un sistema di guida autonoma deve essere deterministico, così come è adesso l'autopilota di un aereo

Non dovete ragionare solo in termine di "torto" - "ragione". Poniamo ad esempio che due macchine stiano viaggiando in senso opposto e ci sia uno smottamento del terreno che potrebbe portare le due macchine a collisione...
E in questi casi la responsabilità di chi sarebbe? Del produttore della macchina? Del proprietario? Del "conducente"?
Insomma ci sono N esempi possibili e non esiste una regola universale. Indubbiamente la giurisprudenza avrà parecchio da deliberare per i prossimi anni...

Non esiste l'opzione, perchè l'istruzione per il computer che manovra l'auto deve essere una, non può avere il libero arbitrio di scegliere lui in base a calcolci probabilistici indotti da istruzioni date al software da umani (che loro si hanno libero arbitrio) se è meglio schiantarsi perchè "tanto i danni sarebbero minimi".
Minimi a chi/cosa/quando/come/perchè?
Le auto non sono fatte per schiantarsi a caso contro muri/pali/rocce sperando che non succeda nulla perchè tanto i danni sarebbero sulla carta minimi.

E se il muro che colpisci cede, cade di sotto e finisce in testa ad un tizio che era da tutt'altra parte?

E se colpendo un palo lato strada salta via e colpisce un pedone ammazzandolo?

E se urtando il muro sfondi un tubo del gas e prende fuoco tutto? (a me è successo di vederlo, proprio sotto casa mia col tubo del gas che porta il gas anche a me).

Stai ragionando per danni collaterali.
Implicando che per evitare un danno certo puoi causarne tanti altri indefinibili e imprevedebili.
E soprauttutto implicando che i computer di bordo delle auto dovrebbero esser in grado, oltre a guidare, anche a avere un complesso sistema di auto-calcolo balistico per evitare danni da oggetti urtati e "sparati" via dall'energia cinetica del veicolo, nonchè la capacità di distinguere tubi del gas da quelli dell'acqua....



IMHO l'unica scelta che un computer deve avere è quella di intraprendere l'azione che può causare in assoluto meno probabilità di ULTERIORI danni a cose/persone oltre a quelle coinvolte nell'ipotetico sinistro (in questo caso investimento di persona/e).