Quem o carro autônomo deve matar? Você decide

Carros autônomos muito provavelmente vão matar pessoas. Não por serem "produtos do mal" - e sim porque acidentes na estrada são muito comuns e nem todos são culpa do motorista. 

Podemos treiná-los para evitar tragédias. Mas e quando o motorista precisa escolher entre duas situações ruins na estrada? Como ensinar o cérebro-robótico do seu carro a fazer a melhor escolha?
Um exemplo famoso desse tipo de reflexão é o dilema do bonde: você tem a chance de salvar cinco pessoas de serem atropeladas por um bonde desgovernado. Mas, para isso, precisa sacrificar a vida de uma só. Na vida real, nem sempre dá para salvar todo mundo, e às vezes temos que decidir qual é menor dos males.
Estamos começando a viver no mundo da Inteligência Artificial - e, agora, a questão não é mais se dá para um robô inteligente ser enfermeiro em um hospital e sim como "instalar" nele uma bússola moral, o tipo de mecanismo que nos faz refletir quando os limites entre certo e errado ficam difusos.
O MIT acha que encontrou uma solução para isso. O Instituto criou a Máquina Moral, um joguinho no qual o usuário precisa escolher entre dois cenários. Cada etapa é uma variação do dilema do bonde: às vezes o jogador precisa decidir entre atropelar grupos de diferentes tamanhos; um criminoso ou um executivo; dois adultos ou uma criança.

A ideia é que a Máquina Moral se torne uma plataforma de crowdsourcing, uma base de dados coletiva de como os seres humanos julgam que as inteligências artificiais deveriam decidir em situações complexas.
Mais que isso, porém, o jogo acaba sendo um retrato das nossas próprias prioridades morais. Depois de 13 cenários jogados, o game produz um relatório que mostra quem foi o tipo de personagem que você mais salvou e quem foi aquele que você mais sacrificou.
O programa acaba pintando um retrato (não muito politicamente correto) de que tipo de vida é mais valorizada. A maioria das pessoas tende a preferir salvar o maior número possível de vítimas. Também priorizam a vida dos mais jovens e daqueles que cumprem a lei, atravessando o semáforo na hora certa, por exemplo.
As mulheres são salvas com mais frequência que os homens. As pessoas atléticas têm vantagem sobre as gordas e as que estão em posições sociais mais elevadas (médicos e executivos) morrem bem menos que os criminosos e os sem-teto.
Pode ser que esse não seja o tipo de viés que queremos ensinar às máquinas, mas é bom começarmos a pensar nisso. Quem sabe o pacote de instalação da sua geladeira inteligente não precise incluir uma cópia digital da Escolha de Sofia...

Postagens mais visitadas