Immaginate di trovarvi su un tram lanciato ad alta velocità  e con i freni fuori uso. Lungo il binario si trovano cinque persone, legate o comunque impossibilitate a muoversi, ma prima di raggiungerle c’è uno scambio. Azionandolo potreste condurre il tram su un binario morto che finisce contro un muro, ma la velocità  è tale che lo schianto finirebbe con l’uccidervi. Cosa fareste? Tirereste la leva che aziona lo scambio, o salvereste la vostra vita a scapito di quella dei pedoni? Questo dilemma etico, una variante di quello proposto negli anni ’60 del secolo scorso dalla filosofa inglese Philippa Ruth Foot, è tornato di grande attualità  negli ultimi mesi a causa agli sviluppi molto promettenti nel settore delle automobili a guida autonoma, e ai primi incidenti che si sono inevitabilmente registrati. Un’automobile a guida autonoma potrebbe trovarsi a dover scegliere tra la vita dei suoi passeggeri e quella dei pedoni (o degli altri automobilisti), e dev’essere programmata per prendere una decisione. Logica vorrebbe che preferisse il “male minore”, ma chi acquisterebbe un’automobile programmata per uccidere i suoi occupanti, anche se soltanto in circostanze eccezionali?

Christoph von Hugo, uno dei manager che si occupano di sistemi di guida assistita per Mercedes Benz, ha dichiarato che le loro automobili daranno la priorità  agli occupanti del veicolo, perché nella realtà  gli incidenti sono eventi complessi, che coinvolgono un grande numero di fattori, ed è difficile poter prevedere se una mossa “suicida” da parte di un’automobile possa realmente salvare la vita di chi si trova all’esterno del veicolo; viceversa, è più semplice e sicuro tentare di minimizzazione il rischio per i passeggeri. Difficile dire se si tratti di un’analisi disinteressata, ma il problema rimane. E andrà  affrontato prima di quanto pensiamo: le tecnologie cognitive, infatti, stanno registrando sviluppi rapidissimi. Microsoft, per esempio, ha annunciato che il suo sistema di trascrizione del parlato è in grado di garantire un margine d’errore analogo a quello ottenibile da un umano. Solo pochi mesi fa un sistema automatico ha battuto il campione del mondo di Go (un gioco da tavolo di origine cinese), e un nuovo tipo di rete neurale ibrida ha saputo orientarsi correttamente nella rete della metropolitana di Londra. Siamo all’alba di un cambiamento epocale, e per garantire la convivenza con l’umanità  bisognerà  insegnare alle macchine non soltanto il ragionamento, ma anche i principi etici.

CONDIVIDI