Un’etica per i veicoli autonomi

L’articolo “Moral judgment in realistic traffic scenarios: moving beyond the trolley paradigm for ethics of autonomous vehicles”, pubblicato su “AI and Society” il 29 novembre 2023, esplora l‘impiego della tecnologia della realtà virtuale per analizzare le decisioni etiche nel contesto automobilistico, in particolare le scelte morali coinvolte nei veicoli autonomi.

Si enfatizza come la realtà virtuale offra la possibilità di creare scenari realistici e coinvolgenti, migliorando la validità degli esperimenti nel campo. In particolare, gli esperimenti con realtà virtuale nel traffico stradale mostrano come le persone tendano a priorizzare vite umane, dimostrando preferenze per giovani rispetto agli anziani, e come tali preferenze possano variare in base al contesto legale e alla presenza di norme stradali.

Il testo confronta il tradizionale modello del “Trolley Problem” con il modello “Agente-Azione-Conseguenze” (ADC). Il Trolley Problem si basa su un’etica che concentra l’attenzione sulle conseguenze, sulla scelta tra due azioni: sacrificare una sola vita per salvarne molte o non intervenire lasciando che molti muoiano. In contrasto, l’ADC amplia la prospettiva morale considerando il carattere dell’agente, l’azione compiuta e le conseguenze generate.

L’articolo si concentra sull’ADC per la sua capacità di integrare elementi etici e offrire una prospettiva più completa nelle analisi delle decisioni morali. Sottolinea l’importanza di approfondire la psicologia morale umana nel contesto del traffico stradale, suggerendo che considerare il carattere e le intenzioni dell’agente può contribuire a una visione più realistica delle decisioni etiche.

Mette in rilievo  l’importanza dell’ADC e presenta vari esempi, tra i quali quello positivo del vigile del fuoco (A+) che salta in una casa in fiamme (D+) per salvare una donna anziana e tutti sopravvivono e sono felici (C+), o l’esempio negativo del trafficante di droga (A-) che attacca un bambino (D-) e il bambino muore (C-). Questi esempi illustrano come il modello ADC valuti le azioni, le conseguenze e il carattere dell’agente per formulare un giudizio morale.

Tuttavia, l’articolo non fornisce indicazioni chiare su come applicare concretamente questo modello etico ADM alle auto autonome. L’attenzione alla psicologia morale solleva domande su quali siano le intenzioni rilevanti e come applicare efficacemente questo approccio all’etica dei veicoli autonomi.

Nel caso delle auto autonome, forse occorre porre l’attenzione più sulle azioni stesse e sulle conseguenze che sulle intenzioni. Replicare nei veicoli autonomi le decisioni egoistiche di certi individui potrebbe aumentare il rischio di incidenti.

Moral judgment in realistic traffic scenarios: moving beyond the trolley paradigm for ethics of autonomous vehicles – AI & SOCIETY

The imminent deployment of autonomous vehicles requires algorithms capable of making moral decisions in relevant traffic situations. Some scholars in the ethics of autonomous vehicles hope to align such intelligent systems with human moral judgment. For this purpose, studies like the Moral Machine Experiment have collected data about human decision-making in trolley-like traffic dilemmas. This paper first argues that the trolley dilemma is an inadequate experimental paradigm for investigating traffic moral judgments because it does not include agents’ character-based considerations and is incapable of facilitating the investigation of low-stakes mundane traffic scenarios. In light of the limitations of the trolley paradigm, this paper presents an alternative experimental framework that addresses these issues. The proposed solution combines the creation of mundane traffic moral scenarios using virtual reality and the Agent-Deed-Consequences (ADC) model of moral judgment as a moral-psychological framework. This paradigm shift potentially increases the ecological validity of future studies by providing more realism and incorporating character considerations into traffic actions.