Dilema 1: Un coche sin conductor se queda sin frenos llegando a un paso de cebra. Si sigue recto atropella a dos peatones, si da el volantazo se lleva por delante a un gato. Dilema 2: El vehículo se encuentra en el paso a un ejecutivo trajeado y, si gira, a un indigente. El choque matará a uno de ellos. Dilema 3: A bordo del automóvil van una mujer embarazada y su hija, enfrente tres ancianos que solo puede evitar yendo contra un muro. ¿A quién salvarías? Un experimento con millones de personas muestra ahora cómo debería ser la moral que guíe a los vehículos conectados en un accidente. Sus resultados son una medida de la propia moral humana.
Ya hay infinidad de ensayos con coches que se conducen solos, ha habido hasta atropellos mortales y es cuestión de tiempo que los vehículos autónomos circulen de forma habitual por las carreteras. Un reciente informe de Intel, por ejemplo, indica que serán mayoría en unas décadas. Al retirar de la ecuación la imprudencia y errores humanos, prometen reducir los accidentes. Pero habrá situaciones en las que un fallo mecánico, el tiempo o las condiciones de la carretera hagan inevitable el accidente. En esos casos las máquinas deberán decidir entre dos males y para ello habrá que dotarlas de unos principios morales.
Buscando esos principios, un grupo de científicos europeos y estadounidenses diseñaron un videojuego (un serious game) en el que los participantes tenían que hacer de coche autónomo. Se les presentaron una decena de dilemas como los de arriba en los que alguien moría sí o sí, ya fueran los ocupantes del coche o diversos peatones, desde una persona obesa hasta tres viejecitas, pasando por alguien que cruzaba la carretera por donde no debía.
En el experimento de la máquina moral, como la han llamado, han participado ya más de dos millones de personas de 233 países y territorios (aún se puede jugar). Con sus casi 40 millones de dilemas resueltos, se ha convertido en una especie de tratado sobre lo que los humanos creen que es más o menos correcto.
"Vimos que hay tres elementos que las personas tienden a aprobar más", dice.el investigador del Media Lab del Instituto de Tecnología de Massachusetts (MIT) y principal autor del estudio, Edmond Awad. Primero, entre salvar a un humano o un animal, el coche siempre debería atropellar a la mascota. La norma, además, primaría salvar al mayor número de personas. Así que si el conductor va solo y va a atropellar a dos peatones, que se estampe contra el muro. La tercera decisión más universal es que la mayoría cree que si un vehículo autónomo tiene que decidir entre chocar contra un niño o contra un anciano, el viejo debe morir para que el joven tenga la oportunidad de envejecer.
Aparte de estas tres decisiones morales que son casi universales, la investigación, publicada en Nature, muestra una preferencia específica según el tipo de personaje: De los que cruzan el paso de cebra, los que merecen más la pena salvar son, por este orden, un bebé a bordo de un carrito, una niña, un niño y una mujer embarazada. En sentido contrario, y dejando a un lado las mascotas, los delincuentes, los ancianos y los sintecho son los humanos más sacrificables.
Esta predilección por unas vidas sobre otras introduce un elemento que discrimina a las personas por sus características personales, apuntando a la desigualdad en la moral de las máquinas. "Las comparaciones no implican que los expertos deban cambiar sus normas para complacer a la gente. Lo que sugerimos es que las tengan en cuentan, ya que les ayudarán a anticipar la reacción pública a las diferentes regulaciones que redacten", comenta Awad.
Noticia
