Quen vai ser asasinado por un coche autónomo? Máquina, salva tantas persoas como poidas, pero sobre todo, sálvame!

Se se produce unha situación na que o sistema autónomo dun coche teña que escoller rapidamente a quen sacrificar en caso de accidente inminente, como debería reaccionar? Sacrificar os pasaxeiros para salvar aos peóns? Se é necesario, matar a un peón para evitar, por exemplo, unha familia de catro persoas que viaxa nun coche? Ou quizais sempre debería protexerse primeiro?

Aínda que máis de sesenta empresas xa recibiron permisos de probas persoais só en California, é difícil dicir que a industria está preparada para enfrontarse a dilemas éticos. Polo momento, está loitando con problemas máis básicos: o funcionamento e a eficiencia da navegación dos sistemas e simplemente evitar colisións e imprevistos. En situacións como o recente asasinato dun peón en Arizona, ou accidentes posteriores (1), ata agora tratouse simplemente de fallos do sistema, e non de algún tipo de "elección ética" do coche.

Salva os ricos e mozos

Os problemas de tomar este tipo de decisións non son problemas abstractos. Calquera condutor experimentado pode certificar isto. O ano pasado, os investigadores do MIT Media Lab analizaron máis de corenta millóns de respostas de entrevistados de todo o mundo, que recolleron no transcurso da investigación lanzada en 2014. O sistema de enquisas que denominan "Máquina Ética", mostrou que en varios lugares ao redor mundo, preguntas semellantes fanse respostas diferentes.

As conclusións máis xerais son previsibles. En situacións extremas a xente prefire salvar persoas a coidar animais, co obxectivo de salvar o maior número de vidas posible e adoita ser máis nova que os anciáns (2). Tamén hai algunhas, pero menos obvias, preferencias á hora de rescatar ás mulleres sobre os homes, ás persoas de alto estatus fronte ás persoas máis pobres e aos peóns fronte aos pasaxeiros dos coches..

2. A quen debería salvar o coche?

Xa que case medio millón de entrevistados cubriron cuestionarios demográficos, foi posible correlacionar as súas preferencias coa idade, o xénero e as crenzas relixiosas. Os investigadores concluíron que estas diferenzas non "afectaban significativamente" ás decisións das persoas, pero sinalaron algunhas influencias culturais. Os franceses, por exemplo, tendían a ponderar as decisións en función do número estimado de mortes, mentres que en Xapón o menor énfase era. Porén, no País do Sol Nacente, a vida das persoas maiores é valorada moito máis que en Occidente.

"Antes de permitir que os nosos coches tomen as súas propias decisións éticas, necesitamos ter un debate global sobre isto. Cando as empresas que traballan en sistemas autónomos coñezan as nosas preferencias, desenvolverán algoritmos éticos en máquinas baseadas neles, e os políticos poden comezar a introducir disposicións legais adecuadas", escribiu os científicos en outubro de 2018 en Nature.

Un dos investigadores implicados no experimento da Máquina Moral, Jean-Francois Bonnefont, considerou alarmante a preferencia por rescatar a persoas de status superior (como os executivos sobre as persoas sen fogar). Na súa opinión, isto está moi relacionado o nivel de desigualdade económica nun país determinado. Onde as desigualdades eran maiores, preferíase sacrificar aos pobres e ás persoas sen fogar.

Un dos estudos anteriores amosaba, en particular, que, segundo os entrevistados, un coche autónomo debería protexer á maior cantidade de persoas posible, aínda que iso supoña perder pasaxeiros. Ao mesmo tempo, non obstante, os entrevistados manifestaron que non comprarían un coche programado deste xeito. Os investigadores explicaron iso aínda que á xente é máis ético salvar a máis persoas, tamén se interesan, o que podería ser un sinal para os fabricantes de que os clientes se mostrarán reacios a comprar coches equipados con sistemas altruístas.. Hai tempo, representantes da empresa Mercedes-Benz dicían que se o seu sistema salvase só a unha persoa, elixirían ao condutor, non ao peón. Unha vaga de protestas públicas obrigou á empresa a retirar a súa declaración. Pero a investigación mostra claramente que había moita hipocrisía nesta santa indignación.

Isto xa está a suceder nalgúns países. primeiros intentos de regulación legal en campo. Alemaña aprobou unha lei que obriga aos coches sen condutor a evitar feridas ou mortes a toda costa. A lei tamén establece que os algoritmos nunca poden tomar decisións en función de características como a idade, o sexo, a saúde ou os peóns.

Audi faise cargo

O deseñador non é capaz de prever todas as consecuencias do funcionamento do coche. A realidade sempre pode proporcionar unha combinación de variables que nunca antes se probaron. Isto socava a nosa fe na posibilidade de "programar éticamente" unha máquina. Parécenos que nas situacións nas que se produce un erro e se produce unha traxedia "por culpa do coche", a responsabilidade debe correr por parte do fabricante e desenvolvedor do sistema.

Quizais este razoamento sexa correcto, pero quizais non porque fose incorrecto. Máis ben, porque se permitiu un movemento que non estaba 2019% libre da posibilidade de facelo. Ese parece ser o motivo, e a empresa non eludiu a responsabilidade compartida, que recentemente anunciou que asumiría a responsabilidade dos accidentes que involucren un A8 de 3 anos mentres utilizaba un sistema automático Traffic Jam Pilot (XNUMX).

3. Audi Traffic Jam Pilot Interface

Por outra banda, hai millóns de persoas que conducen coches e tamén cometen erros. Entón, por que as máquinas, que estatisticamente cometen moitos menos erros que os humanos, como demostran numerosos erros, deberían ser discriminadas neste sentido?

Se alguén pensa que os dilemas da ética e da responsabilidade no mundo do vehículo autónomo son sinxelos, siga pensando...