Guida autonoma e intelligenza artificiale, gravi rischi di sicurezza secondo l'Unione Europea

di pubblicata il , alle 16:41 nel canale Tecnologia Guida autonoma e intelligenza artificiale, gravi rischi di sicurezza secondo l'Unione Europea

I sistemi di guida autonoma e intelligenza artificiale legata alla guida sono proni ad incidenti di sicurezza: è necessario un cambio radicale dell'approccio che tenga conto di tutta la catena di fornitura e dei modelli di sviluppo e implementazione.

 
30 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
tallines23 Febbraio 2021, 20:13 #11
Originariamente inviato da: Ginopilot
La scoperta dell'acqua calda. Arriveranno prima le auto volanti, poi, forse, la guida autonoma.



Questa non mi dispiacerebbe, però non si sa quanto viene, forse più delle auto elettriche e più delle auto a guida autonoma ???

https://www.meccanicanews.com/2018/...uto-volante-ok/
TorettoMilano23 Febbraio 2021, 20:28 #12
Originariamente inviato da: jepessen
Ah perche' se ti accecano tu continui a guidare come se nulla fosse?


??? ho scritto che se mi accecano posso causare un incidente, anche non fare nulla senza vedere cosa si fa può essere pericolo (per esempio posso tamponare quello davanti o farmi tamponare da chi ho dietro o involontariamente invadere corsia).
se non si è capito il senso del mio messaggio è che nell'articolo vengono dette cose ovvie screditando di proposito la guida autonoma. se oggi è in test significa che non è pronta, che senso ha scrivere determinati esempi in cui la guida autonoma oggi fallisce? la possiamo addestrare in modo che pure nelle casistiche più remote possa cavarsela mentre noi umani 100 anni fa e oggi se siamo in una situazione di panico o di improvviso acciecamento siamo un pericolo per noi stessi e per il prossimo
das23 Febbraio 2021, 20:50 #13
Dovrebbero avere il sistema di guida non collegabile in alcun modo a internet, privo di qualunque apparato radio e con il firmware salvato su ROM. Aggiornabile solo estraendo materialmente una cartuccia e cambiandola con un'altra.

In questo modo sarebbe molto difficile da attaccare.

Tra l'altro sarebbero misure da rendere obbligatorie gia' adesso sulle macchine attuali.
Notturnia23 Febbraio 2021, 22:09 #14
@TorettoMilano io credo che intendesse che SE ti accecano tu UMANO probabilmente freni e ti fermi.. non continui a guidare perchè sai che è pericoloso e quindi non dovresti causare molti danni fermandoti.. se poi accecato continui a guidare allora te la cerchi ma quelle rare volte che sono stato sorpreso dal sole all'alba ho rallentato quando l'ho avuto in faccia .. fermato mai.. ma rallentato si.. e quando invece c'è stata nebbia forte mi sono fermato se mi sono reso conto che era inutile continuare o come quando ho beccato un'acquazzone che mi impediva di vedere.. sensori o no l'uomo a volte prendere anche scelte intelligenti..

il dubbio dell'articolo (che mi pare tirato per i capelli in modo assurdo) è che i sensori sono vulnerabili da hacking attivo e che la cosa va presa in considerazione.. spero che chi fa le macchine autonome ci pensi.. detto questo.. amen.. non fanno per me
TorettoMilano23 Febbraio 2021, 22:22 #15
Originariamente inviato da: Notturnia
...


perdona l'instistenza ma reputo un umano acciecato pericoloso indipendentemente da ciò che fa. tu parli di rallentare ma se ipoteticamente colui che hai di fronte a te frena o c'è un pedone gli vai addosso o comunque puoi rallentare invadendo la corsia senza rendertene conto e incrociare un'altra auto o investire un pedone o uscire fuoristrada. poi se nonostante ciò tu o altri continuate a reputare un umano accecato non pericoloso rispetto il punto di vista ma è in contrasto col mio
rockroll24 Febbraio 2021, 02:33 #16
Originariamente inviato da: das
Dovrebbero avere il sistema di guida non collegabile in alcun modo a internet, privo di qualunque apparato radio e con il firmware salvato su ROM. Aggiornabile solo estraendo materialmente una cartuccia e cambiandola con un'altra.

In questo modo sarebbe molto difficile da attaccare.

Tra l'altro sarebbero misure da rendere obbligatorie gia' adesso sulle macchine attuali.


Daccordissimo!

Ma essere [I]sempre connessi[/I] in qualunque contesto senza alcuna necessità di esserlo fa parte della stupidissima moda imperante (e mi raccomando, il 5G è un must, nehhh....).

Veramente l'articolo parla anche di sabotaggi fisici, veri atti criminali che provocherebbero esiti drammatici in qualunque contesto e non solo in quello della guida autonoma.
Se siamo circondati da delinquentì del genere, povera Umanità!
LMCH24 Febbraio 2021, 04:11 #17
Originariamente inviato da: TorettoMilano
perdona l'instistenza ma reputo un umano acciecato pericoloso indipendentemente da ciò che fa. tu parli di rallentare ma se ipoteticamente colui che hai di fronte a te frena o c'è un pedone gli vai addosso o comunque puoi rallentare invadendo la corsia senza rendertene conto e incrociare un'altra auto o investire un pedone o uscire fuoristrada. poi se nonostante ciò tu o altri continuate a reputare un umano accecato non pericoloso rispetto il punto di vista ma è in contrasto col mio

L'articolo non é sufficientemente chiaro, non é che il sensore viene semplicemente accecato o abbagliato, quando parlano di renderlo cieco ai pedoni intendono che, con un emettitore laser a luce visibile oppure ad infrarossi, generano dei pattern che si sovrappongono all'immagine dei pedoni sul sensore della telecamera in modo che il sistema di guida fallisce nel riconoscerli.
Nella stessa situazione un essere umano non viene ingannato perché l'occhio umano e la corteccia visiva non si fanno trarre in inganno così facilmente e letteralmente filtrano via il disturbo, al massimo percependo che c'è qualcosa che lampeggia tipo lucina di natale o poco più.
Se invece si usa qualcosa di molto potente che abbaglia la vista, un essere umano semplicemente distoglie lo sguardo dalla fonte di luce e rallenta, in una situazione simile anche un sistema a guida autonoma fa altrettanto.
Quindi il pericolo non sta nelle situazioni pericolose per un essere umano, ma in quelle "innocue" per un essere umano che un sistema automatico invece ha grosse difficoltà a gestire senza fare incidenti.
A suo tempo all'università mi affascinava molto la visione computazionale (al punto che la mia tesi di laurea è stata proprio su tale tematica), ma più approfondivo l'argomento e più mi rendevo conto dei limiti delle tecnologie e dei modelli teorici utilizzati.
roccia123424 Febbraio 2021, 06:07 #18
Originariamente inviato da: berson
Quindi per gli aerei con cui viaggiano centinaia di persone alla volta tutti questi problemi sono accettabili (come dimostrano alcune penetrazioni dimostrative nei sistemi informatici di bordo e svariati incidenti dovuti a problemi con i sensori), mentre le auto a guida autonoma che portano in media 1,5 passeggeri devono essere perfette. Io sento puzza di cartello e sono d'accordo con niky89 sul fatto che quando i grandi produttori di auto decideranno di iniziare a commercializzare auto a guida autonoma nessuno si farà più problemi, come non ce li facciamo ora per gli aerei.


È molto, molto diverso. I due tipi di spostamento, i pericoli e le problematiche che si portano dietro sono profondamente diversi. Imparagonabili.
cdimauro24 Febbraio 2021, 07:38 #19
Originariamente inviato da: niky89
Quando VW avrà un suo buon sistema l'Europa non si farà più problemi

Basta coi complottismi: quella di cui parla l'articolo è soltanto una RICERCA.
TorettoMilano24 Febbraio 2021, 08:37 #20
Originariamente inviato da: LMCH
L'articolo non é sufficientemente chiaro, non é che il sensore viene semplicemente accecato o abbagliato, quando parlano di renderlo cieco ai pedoni intendono che, con un emettitore laser a luce visibile oppure ad infrarossi, generano dei pattern che si sovrappongono all'immagine dei pedoni sul sensore della telecamera in modo che il sistema di guida fallisce nel riconoscerli.
Nella stessa situazione un essere umano non viene ingannato perché l'occhio umano e la corteccia visiva non si fanno trarre in inganno così facilmente e letteralmente filtrano via il disturbo, al massimo percependo che c'è qualcosa che lampeggia tipo lucina di natale o poco più.
Se invece si usa qualcosa di molto potente che abbaglia la vista, un essere umano semplicemente distoglie lo sguardo dalla fonte di luce e rallenta, in una situazione simile anche un sistema a guida autonoma fa altrettanto.
Quindi il pericolo non sta nelle situazioni pericolose per un essere umano, ma in quelle "innocue" per un essere umano che un sistema automatico invece ha grosse difficoltà a gestire senza fare incidenti.
A suo tempo all'università mi affascinava molto la visione computazionale (al punto che la mia tesi di laurea è stata proprio su tale tematica), ma più approfondivo l'argomento e più mi rendevo conto dei limiti delle tecnologie e dei modelli teorici utilizzati.


io non sto difendendo ne l'umano ne la macchina. dico che i problemi ci sono da una parte e dall'altra. se oggi manomettono i semafori l'uomo farebbe un botto di incidenti mentre le guide autonome, comunicando tra di loro, gestirebbero la situazione probabilmente con naturalezza.
io sono forse troppo pragmatico e se tutti gli studi dimostrassero che la guida autonoma può girare in qualsiasi strada e garantirmi almeno il 10% in meno di morti l'anno farei lo switch totale mondiale da guida manuale a autonoma e non lo dico da fanatico della tecnologia ma da fanatico della vita umana

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
^