Los dilemas éticos de los coches y la tecnofobia de Will Smith en Yo, robot

Los dilemas éticos de los coches y la tecnofobia de Will Smith en Yo, robot

Autora: Ángeles Gómez Martínez

El inspector Spooner (Will Smith),  protagonista de la película Yo, robot (Alex Proyas, 2004) se manifiesta totalmente tecnófobo en un futuro (año 2035) en el que robots de todo tipo realizan gran parte del trabajo y se han convertido en los asistentes personales perfectos para el ser humano.  Sistemas capaces de ser programados para realizar la demolición de un edificio a la hora señalada, coches que conducen de forma autónoma sin intervención humana o vehículos dotados con la capacidad de recoger al momento los restos de un accidente de circulación son sólo algunos ejemplos de la presencia de las máquinas en la vida de estos humanos del futuro. Los robots estrella al comienzo de la película son los humanoides NS-4, que ofrecen todo tipo de asistencia y compañía a sus dueños.

1024px-Masudaya_Mini_Replica_X-9_Robot_Car_Side

La razón de la aprensión de Spooner hacia estas máquinas tiene mucho que ver con un dilema planteado en un estudio científico publicado recientemente. Tras un accidente de tráfico, el vehículo de Spooner y otro quedan sumergidos en el río Chicago con sus ocupantes dentro. Un camión les acaba de arrollar. El protagonista de la historia viaja solo, pero en el otro coche, además del conductor, que muere en el acto, se encuentra una niña de 12 años en el mismo aprieto. Un robot NS-4 acude por propia iniciativa al rescate y, según sus algoritmos, decide salvar en primera instancia a Spooner porque tiene una probabilidad mayor de sobrevivir. Desobedece, por tanto, a sus órdenes instándole a que salve a la pequeña.

irobot

Tras una dura recuperación física todavía le quedan secuelas psicológicas, entre ellas, la tecnofobia y la predilección por objetos del pasado, sean tecnológicos o no. Spooner no soporta que la niña muriese porque el robot decidiese salvar su vida primero, y ello lo convierte en el hombre perfecto para llevar a cabo la investigación policial en la que se basa la historia de la película.

El pasado 5 de julio se publicó en la revista Science un trabajo de investigación, liderado por Iyad Rahwan  del MIT (Instituto Tecnológico de Massachusetts), en el que se plantea los dilemas sociales a la hora de establecer los criterios de actuación de los vehículos autónomos ante situaciones de peligro en las que debe decidir qué vidas sacrificar o salvar. Mediante distintas encuestas realizadas a través de la herramienta de Amazon Mechanical Turk, en la que usuarios reciben una pequeña compensación (hablamos de centavos) por rellenar cuestionarios de todo tipo para los más diversos propósitos, los sujetos de estudio debían elegir ante distintas situaciones y contestar varias preguntas. Los escenarios presentados consistían básicamente en elegir entre atropellar a peatones (en distinto número) o inmolar a los ocupantes del coche autónomo mediante un volantazo que supondría el impacto contra un muro. El número de personas a salvar es uno de los criterios estrella a la hora de elegir la opción moral más adecuada para los participantes en el estudio. Es decir: el mal menor y el bien común. Sin embargo, los investigadores observaron que eran reticentes a la hora de comprar un vehículo capaz de sacrificar su integridad física y la de sus copilotos (familiares o amigos) a pesar de que según sus principios morales lo correcto sería que el coche se comportase de ese modo. Es decir, cuando se personaliza es mucho más difícil asumir una postura ética altruista.

Fig. 1 Bonefon et al. 2016

De todos modos, hay muchos más factores que se deberían tener en cuenta a la hora de tomar la decisión, como por ejemplo el incumplimiento de las normas de circulación (¿perdería prioridad de ser salvado quien viola el código vial?), la edad, o la condición física de los sujetos sobre los que se debe establecer la valoración.

En todo caso, además de los algoritmos, queda pendiente una mejora sustancial de los sensores para que dicha información llegue de forma correcta al ordenador del vehículo. Todavía está reciente el caso del  Tesla S  que no fue capaz de detectar un camión que realizó una maniobra inadecuada y por ello no reaccionó ante una situación que acabó con la vida del conductor y orgulloso propietario de este vehículo autónomo cuyos fabricantes, por otra parte, recomiendan utilizar el modo autónomo siempre y cuando el conductor permanezca alerta.

Es fundamental una regulación adecuada en estos casos y en otros mucho más complejos para que esta tecnología, que en la teoría reduciría el número de accidentes al eliminar las infracciones derivadas del comportamiento humano, salga a la calle, pero estos dilemas morales suponen un factor que retrasa su comercialización. Lo lógico sería que todos los coches autónomos tuviesen la misma regulación para que todos los conductores y tripulantes tuviesen las mismas probabilidades de sobrevivir ante similares situaciones de peligro, pero si no se llega a un consenso puede ocurrir que un futuro con coches que conduzcan sin intervención humana nunca llegue. Otra cuestión es que se puedan hackear los algoritmos para que el coche actúe según el criterio de su propietario.

En el caso de Yo, robot la tecnología, obviamente, se encuentra en un estado más avanzado. El robot que salvó la vida del inspector Spooner tomó su decisión en función de las distintas posibilidades de supervivencia de ambos humanos tras el accidente, lo cual denota la gran cantidad de información capaz de ser captada por el androide. Sin embargo, en este caso nuestro protagonista hubiese preferido ser el sujeto sacrificado, una decisión que, según él, cualquier ser humano hubiese tomado. La cuestión es: ¿y si el robot tuviese que elegir entre esa niña y uno de sus vástagos? ¿Consideraría adecuado su criterio?

Entrada realizada para el ROS Film Festival, festival online de cortometrajes de temática robótica.

Comparte este post

Deja una respuesta

Tu dirección de correo electrónico no será publicada.

DESCUBRE MÁS

JORNADAS D+i 2022. ACTUALIZA Y REINICIA
Agenda

JORNADAS D+i 2022. ACTUALIZA Y REINICIA

Vuelven las Jornadas de Divulgación Innovadora D+i. 28 y 29 de octubre. Se reúnen de nuevo en Zaragoza científicas, científicos, periodistas, docentes, personal de museos…,

Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos. Al hacer clic en el botón Aceptar, acepta el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Más información
Privacidad