Un experimento sobre ética en IA

Si un auto totalmente autónomo va camino a un choque inevitable, ¿la vida de quiénes debería dar prioridad? Un juego experimental desarrollado en 2014 en el MIT que lleva por nombre The Moral Machine pide a la gente que decida cómo habría que priorizar la vidas. Si debería volantear o mantener el curso. Si debería preferir a jóvenes o a viejos, más vidas o menos vidas, si debería preferir salvar vidas o no. En los cuatro años que lleva en acción, el experimento ha recolectado 40 millones de decisiones dadas por personas en 233 países.

El análisis de las respuestas concluye que el sentido de la ética difiere mucho según el país. Culturas colectivistas como China y Japón tienden a preferir salvar a los viejos. Otras más individualistas como Estados Unidos y Gran Bretaña se inclinan a salvar la mayor cantidad de vidas posible. Los participantes de países con instituciones más débiles se mostraron más tolerantes con los peatones imprudentes.

El estudio tiene implicancias interesantes para los países que están en este momento probando los autos autónomos porque esas preferencias podrían ayudar a dar forma al diseño y la regulación de esos vehículos. Los fabricantes podrían descubrir, por ejemplo que los consumidores chinos estarían más dispuestos a entrar a un auto que los proteja a ellos antes que a los peatones.

Pero los autores del estudio insisten en que los resultados no se proponen dictar cómo los diferentes países debeían actuar. En realidad, en algunos casos, sienten que los tecnólogos y los legisladores deberíanignorar la opinión colectiva.