Para explicar esto pensemos en una situación cotidiana de la realidad actual.
Una persona va por la calle conduciendo su auto. Al acercarse a la esquina la luz se pone verde y puede cruzar. Pero del costado un micro escolar pretendió pasar antes del cambio de luz y están a punto de chocar. A su izquierda va pedaleando un ciclista. En una fracción de segundo el conductor tiene que decidir qué hace: si sigue derecho y corre el riesgo de lastimar a varios chicos o si volantea y atropella al ciclista.
O esta otra situación: si una rama se proyecta sobre uno de los carriles de una ruta y del otro lado no se ve que vengan autos, simplemente viramos hacia el carril opuesto para sortearla. Pero un auto autónomo podría detenerse completamente, porque observa obedientemente todas las leyes del tránsito que prohíben cruzar la doble línea amarilla. Esa acción inesperada evitaría chocar con un objeto que está delante, pero puede causar un choque con los conductores humanos que vienen detrás.
Las anteriores son dos situaciones en que la persona, ante un imprevisto, debe tomar una decisión arriesgada. Entonces la pregunta es ¿debemos confiar que autos robóticos circulen por calles y caminos solo porque están programados para obedecer la ley y evitar choques? El acto de manejar está plagado de decisiones inesperadas que, a veces, como ocurrió con la rama sobre el camino, el sentido común nos obliga a hacer algo que no se debe.
Estos dilemas morales, que parecen más aptos para filósofos en la universidad que para fabricantes de autos, son los que ocupan a las compañías que como Daimler, BMW, Tesla y también Google, imaginan que un día los seres humanos ya no manejarán más los autos en que se movilizan. Esas compañías están conscientes de que no se les va a perdonar fácilmente un accidente en el cual, por ejemplo, se ponga en evidencia que el auto está preparado para proteger a su ocupante sacrificando a otros. Se acepta que la gente comete errores; a un ser humano se le puede perdonar que tome una mala decisión instintiva como virar hacia la mano contraria en lugar de hacia la banquina. pero los robots deben ser infalibles. Los programadores y diseñadores de autos autónomos no tienen ese lujo: ellos tienen tiempo para pensar y por lo tanto tienen más responsabilidad sobre los malos resultados. Un accidente de cualquier tipo cometido por un auto sin conductor dañará irremediablemente a la marca, a la reputación de la compañía, y a todo el concepto tecnológico que la sustenta.
Como se sabe, a veces la ética y la ley no van por el mismo camino, a veces el sentido común nos obliga a actuar ilegalmente. En una emergencia, aceleramos más que la velocidad máxima permitida Si los autos robot siguen fielmente las leyes y regulaciones podría ocurrir que se nieguen a andar con un faro roto aunque sea de día y la luz no haga falta.
Pero en este terreno que liga al auto autónomo con la ética hay muchos más temas a considerar además de la programación. Uno se refiere al auto mismo. ¿Le importa a la ética si el auto de público o privado¿ ¿Si es un autobús escolar o un auto familiar? ¿Es lícito que el dueño de un auto robot piense que su auto debe protegerlo más a él que a un desconocido? Un auto público, en cambio, podría no tener esa obligación.
Con respecto a los seguros, ¿cómo habrá que pensar el riesgo desde el punto de vista de un auto autónomo? ¿Esos vehículos son una amenaza existencial para el negocio de los seguros?
Después, ¿puede un auto robot ser hackeado? Hasta el momento todo dispositivo electrónico que se ha inventado ha sido hackeado. Un vehículo que, por definición, puede ser controlado en forma remota está ofreciendo una gran oportunidad a los delincuentes.
Peter W. Singer, director de la Brookings Institution ha dicho que “todavía estamos en la etapa del “carro sin caballos” de esta tecnología, estamos describiendo estas tecnologías por lo que no son en lugar de batallar con lo que son”. O sea, los robots no están simplemente reemplazando a los seres humanos de la misma forma que los conductores humanos de los primeros automóviles no estaban simplemente reemplazando a los caballo: el impacto de la automatización del transporte cambiará a la sociedad de una forma dramática, y la ética puede ayudar a guiar el proceso.
