O acidente é inevitável, o carro escolhe quem vai matar. Pode repetir?

Um carro sem condutor circula a alta velocidade e tem dois caminhos à frente, ambos vão resultar num acidente: num lado, mata dois idosos; no outro, mata uma mãe e um bebé. Para onde deve ir? Pode o carro decidir quem mata?

Na origem destas perguntas está o "trolley problem" ("dilema do eléctrico", numa tradução livre), um dilema concebido em 1967 e que tem servido para inúmeros estudos sobre a moral e a ética. Só que, com a evolução dos carros autónomos, uma questão que era apenas teórica e filosófica passará a ser um problema real.

A premissa de origem é esta: um carro autónomo desliza em direcção a um acidente inevitável, correndo o risco de atropelar várias pessoas. O entrevistado é colocado no papel de transeunte com possibilidade de influenciar o desfecho. Num primeiro cenário, tem a hipótese de puxar um manípulo que vai mudar a direcção da carruagem e atropelar apenas uma pessoa na via alternativa.

Depois, os cenários vão sofrendo ligeiras alterações para determinar em que situações é que o entrevistado está disposto a intervir no acidente. Por exemplo, se ele tiver de empurrar uma pessoa para a linha de maneira a antecipar o acidente e salvar mais vidas, está disposto a isso? E quando a alternativa está entre matar quatro pessoas idosas ou quatro adolescentes? E entre homens e mulheres? Ladrões ou professores? Como decidir quem matar?

As questões são infinitas e muito dificilmente se colocariam na vida real. Mas quando um carro for dotado de inteligência suficiente para conseguir antecipar o que vai acontecer, através de câmaras, satélites, ligação a bases de dados, comunicações com outros carros, entre outros avanços técnicos, como vai decidir o que fazer em caso de acidente inevitável?

A diferença está na "inteligência"

O Massachusetts Institute of Tecnhology (MIT) criou uma página com uma "máquina de moral" e convida os internautas a responderem a estas perguntas. No fim de 13 perguntas, é possível comparar as respostas com as dos outros utilizadores e ver para onde pende a moral de cada um.

Decidir quem vive ou quem morre são questões a que a sociedade vai ter de saber responder, defende Pedro Domingos, professor de Ciências da Computação na Universidade de Washington e um dos nomes mais importantes na área da inteligência artificial a nível mundial. O seu livro "A Revolução do Algoritmo Mestre", publicado recentemente em Portugal, foi considerado por Bill Gates uma leitura obrigatória.

Na opinião deste especialista, existem, para já, dois caminhos: o carro aprende o comportamento do condutor, e tenta manter o comportamento aprendido, ou são escritas leis que estabelecem o que fazer em determinadas situações.

Mas é então possível e desejável programar uma resposta para estas situações? Programar quem salvar ou matar? No limite, deixa de haver acasos, mas escolhas deliberadas.

Pedro Domingos sublinha que não se pode, nem se quer, programar tudo: "um ser humano também não tem todas as situações programadas. É precisamente nessa capacidade de resolver novos problemas e de lidar com novas situações que reside a nossa inteligência. O que nós queremos fazer é dar aos computadores essas mesmas capacidades mais gerais de raciocínio e de tomada de decisão. Isso é que é a inteligência artificial."

O professor dá como exemplo os carros da marca Tesla que conduzem sozinhos e que já são uma realidade, embora minoritária, nos Estados Unidos. Os carros aprendem o comportamento do condutor e passam a ser "extensões" dele.

Os primeiros a desaparecer: camionistas

"A parte mais difícil para os carros sem condutor é lidar com os condutores humanos", explica Pedro Domingos. E acrescenta um cenário para já difícil de imaginar: "se os condutores humanos e os peões fossem proibidos, o problema era fácil [de resolver]".

Para o especialista, a dificuldade está na transição para uma sociedade sem condutores humanos, o que implica um reordenamento das cidades tal como o que houve até agora para incluir os carros.

Um cenário utópico? "A nível experimental, já há, nos Estados Unidos, pequenas cidades modelo só para os carros sem condutor.” O professor não arrisca um prazo para estas mudança no paradigma – "os progressos científicos não são lineares" –, mas diz que se trata de uma questão de "anos" e não de "décadas".

Os carros sem condutor, conclui, poderão entrar na nossa vida de forma faseada: "há aspectos que são mais fáceis e que já existem ou vão existir dentro de pouco tempo. Por exemplo, guiar um carro na auto-estrada é muito mais fácil do que guiar na cidade. Um condutor de camionetas provavelmente vai perder o seu emprego muito mais cedo do que o taxista."

Uma questão que abre o já longo debate entre a tecnologia e o emprego: vai a inteligência artificial acabar com milhões de postos de trabalho? Um inquérito feito aos principais investidores presentes na Web Summit do ano passado, em Lisboa, revelou que a maior parte deles (93%) considerava que sim.

Pedro Domingos socorre-se da história para responder: "Vai continuar a haver muitas coisas que os seres humanos fazem melhor. Se nós olharmos para a história da tecnologia até hoje, tem sido sempre isso que se passa. Hoje em dia há mais empregos a nível mundial do que alguma vez houve".