www.publico.ptpublico@publico.pt - 14 set 06:35

Computadores, algoritmos e ética

Computadores, algoritmos e ética

É um desafio garantir que a utilização cada vez mais intensa de algoritmos é compatível com valores éticos e morais.

As economias modernas estão cada vez mais dependentes de computadores, algoritmos e dados para funcionarem e serem competitivas. De facto, uma fracção cada vez maior da economia mundial depende da capacidade das empresas para analisarem dados e actuarem sobre estes de forma inteligente. Por outro lado, cada um de nós está também cada vez mais dependente do seus computadores e telemóveis, assim como dos algoritmos que estes executam. Quantos de nós podem passar um dia sem o telemóvel, ou sem usar nenhuma aplicação que corre no telemóvel? Os algoritmos estão cada vez mais presentes no nosso dia, são cada vez mais indispensáveis, mais centrais à nossa vida.

Mas o que é, afinal, um "algoritmo"? (Não confundir com um "logaritmo", que é uma função matemática proposta por John Napier, no século XVII). A palavra "algoritmo" deriva do nome do brilhante matemático, astrónomo e geógrafo árabe al-Khwarizmi, que viveu nos séculos VII e VIII na cidade que agora se chama Bagdad. Al-Khwarizmi descreveu em grande detalhe os passos necessários para resolver diversas equações matemáticas, sendo considerado um dos fundadores da álgebra. Devemos-lhe também o conceito de algoritmo, um conjunto de passos simples e bem determinados que, aplicados de forma sistemática, conduzem à solução de um problema. Um algoritmo pode ser visto como uma receita para atingir um dado resultado, receita esta que pode ser executada por um ser humano ou por um computador.

O problema resolvido por um dado algoritmo pode ser puramente matemático. Um dos mais simples algoritmos para resolver problemas matemáticos é o algoritmo da adição, que todos aprendemos na escola primária. Usando esse algoritmo, qualquer pessoa pode facilmente somar dois números, por maiores que eles sejam, usando a sequência de passos ensinada a todas as crianças, que consiste em ir somando os algarismos da direita para a esquerda, juntando a cada uma destas somas o valor do transporte da soma anterior (o famoso "e vai um"). Mais tipicamente, o problema matemático que é resolvido por um algoritmo corresponde a um problema do mundo físico. Quando fazemos uma adição, tipicamente queremos somar duas parcelas (dois preços, por exemplo) e obter o valor total (por exemplo, o custo total). O poder dos algoritmos vem, justamente, deste potencial para resolver problemas do mundo real. Na escola primária aprendemos também outros algoritmos, como o da multiplicação e o da divisão e até (para os leitores menos jovens) o algoritmo da raiz quadrada. As máquinas de calcular e os computadores usam internamente estes mesmos algoritmos, entre muitos outros, para obter os mesmos resultados que é possível obter com lápis e papel. Nestes casos, os algoritmos são primeiro descritos numa linguagem de programação, criando-se assim uma descrição que pode ser executada por um computador, tipicamente após um processo adicional de tradução, chamado compilação.

Existem, literalmente, milhões de algoritmos diferentes, que resolvem os mais variados problemas. Existem, por exemplo, algoritmos que determinam o caminho mais curto entre duas moradas, a melhor rota para um avião, a melhor forma de enviar um contentor para um dado destino, quais centrais eléctricas devem funcionar em cada momento ou a melhor distribuição de alunos por turmas numa escola, entre milhares de tantos outros. Para cada problema do mundo físico que possa ser descrito de forma clara, bem definida e estruturada é, em princípio, possível projectar um algoritmo que o resolva.

Estas aplicações dos algoritmos em engenharia e em gestão não colocam, em geral, grandes dilemas morais. É geralmente aceite que queremos a melhor solução para cada um dos problemas de optimização colocados acima e para outros semelhantes, uma vez que todos beneficiamos com uma boa solução. Porém, também há algoritmos que resolvem problemas que afectam mais directamente e de forma mais complexa a vida de cada um de nós. Por exemplo, existem algoritmos que conduzem veículos, que compram e vendem acções, que identificam qual o melhor candidato para um encontro romântico, que controlam o disparo de um míssil, que sugerem quem deve ser promovido ou contratado, que identificam o melhor tratamento para um cancro, que determinam o risco de uma pessoa ser um terrorista ou qual o melhor bairro para inserir imigrantes recém-chegados. Muitos destes algoritmos enquadram-se na grande área que agora é conhecida como inteligência artificial e que consiste, em muitos casos, em usar algoritmos para tomar decisões complexas, com base nos dados disponíveis.

Uma importante questão, analisada no último livro da escritora Hannah Fry, Hello World, é se não estamos a delegar nestes algoritmos (e em muitos outros) decisões que não deveriam ser tomadas autonomamente por máquinas. O problema não é que os algoritmos sejam ineficazes ou que exista o risco de se tornarem, deliberadamente, hostis. Os cenários de as máquinas se virarem contra a humanidade, tão populares nos filmes de ficção científica, são, pelo menos por enquanto, completamente irrealistas. O problema reside em que nem sempre é possível garantir que os algoritmos, projectados para desempenhar uma dada tarefa, irão desempenhar a sua função inteiramente de acordo com os valores éticos e morais que devem reger a sociedade. Ao delegarmos cada vez mais capacidade de decisão em algoritmos, ao confiarmos, por vezes cegamente, nas soluções propostas por estes algoritmos, estamos a remover os seres humanos do processo de decisão e a confiar, porventura cegamente, nos resultados de cálculos que, muitas vezes, são opacos e difíceis de auditar.

A título de exemplo, um algoritmo implementado num agente inteligente chamado Vera é já amplamente usado por diversas empresas para decidir quais os mais promissores candidatos a posições abertas nestas empresas. O algoritmo decide, com base nos currículos dos candidatos, nas entrevistas conduzidas pelo agente e noutros dados disponíveis, se um dado candidato deve passar à próxima fase do processo de selecção. Que garantias é possível dar que este algoritmo vai, em todos os casos, tomar decisões semelhantes ou compatíveis com as que seriam tomadas por pessoas, peritos em recursos humanos, nas mesmas condições? Não está em causa, aqui, apenas a qualidade das decisões tomadas pelo algoritmo mas também a aplicação de critérios mais subjectivos e complexos, que respeitem os princípios de equidade, justiça e não discriminação. Tipicamente, os algoritmos são projectados por forma a maximizar a qualidade do resultado obtido, algo que poderá nem sempre ser compatível com estes princípios. Exemplos de enviesamento contra minorias têm sido amplamente noticiados, mas representam apenas um potencial problema, entre muitos.

Quando a decisão �� tomada por um ser humano, ou por um grupo de seres humanos, a decisão final será sempre destes, que poderão decidir abrir excepções ou não seguir regras que, por alguma razão, não sejam aplicáveis. Quando se usa um algoritmo, a situação é mais complexa, porque é muitas vezes difícil ou mesmo impossível programar todos os casos raros ou excepcionais que, inevitavelmente, irão aparecer. Estas situações de excepção poderão acontecer em praticamente todos os domínios, desde a condução autónoma à selecção de candidatos a empregos. É um desafio tecnológico, mas também político e social, garantir que a utilização cada vez mais intensa de algoritmos para processar informação e tomar decisões é compatível com os valores, éticos e morais, que são essenciais ao bom funcionamento da sociedade.

1
1