Daniel Kahneman, Prémio Nobel de Economia em 2002, no seu livro “Thinking, fast and slow”, lança-nos na sua abertura, um desafio para nos introduzir de forma direta nos dois sistemas que, segundo o autor, nos condicionam a forma de pensar.
O sistema 1, rápido, intuitivo e emocional que nos permite tirar um conjunto de ilações e suposições a partir de uma imagem de um rosto humano, e o sistema 2, lento, mais deliberativo e lógico que, após algum tempo, nos permite chegar ao resultado da equação 17 × 24.
É certo que uma máquina de calcular nos dá o resultado desta multiplicação de forma instantânea. Trata-se apenas de calculo lógico e matemático, não se trata de inteligência artificial (IA). Esta, na atualidade, baseia-se numa gigantesca expansão da capacidade lógica, dotada de alguma capacidade do sistema 1, em particular da capacidade de associação. Mas não de emoção ou intuição. No entanto, esta combinação deu origem à primeira tecnologia com capacidade de decidir ou de criar novas ideias.
Trata-se de algo disruptivo, que nunca se tinha conseguido até a atualidade. Chegou aqui por via da avassaladora quantidade de dados que todos produzimos diariamente na interação que temos com as tecnologias de informação e na aliança com enorme capacidade de computação que atualmente algumas instituições dispõem.
A associação artificial entre estes dois sistemas (por um lado logico e rápido e por outro associativo) encerra em si um enorme potencial de resolução de situações em todas as áreas o conhecimento (engenharia, economia, direito, medicina, etc..), abrindo também uma nova era repleta de interrogações.
A história mostra-nos que os avanços tecnológicos se dão muito rapidamente, muito antes de estarmos preparados para as suas consequências, e que a economia tira partido muito rapidamente desses mesmos avanços, privilegiando uns quantos, enquanto as sociedades se tentam adaptar e reagir a essas mesmas disrupções.
Comecemos pelo impacto que inevitavelmente iremos ter ao nível do emprego. Não nos é estranho saber que temos há muitos anos máquinas de venda automática, robots industriais, chatbots, assim como outras invenções, foram substituindo tarefas desenvolvidas por pessoas. Esta substituição teve dois impactos imediatos: dispensou pessoas e não pagou as contribuições que elas pagavam (p.ex. segurança social). Mas aumentou a produtividade, argumentaram os beneficiados por esses sistemas. No entanto, atualmente esta substituição é levada a um outro patamar, no qual muitas profissões serão direta e massivamente impactadas por este tipo de tecnologia, a começar pelas mais qualificadas.
- Será que os novos empregos que a IA inevitavelmente vai gerar, comparativamente aos que vai destruir, irá equilibrar a balança a favor do emprego?
- Deverá este tipo de tecnologia, que substitui pessoas, pagar as suas contribuições de modo a criar uma sociedade mais justa e equilibrada?
Pela primeira vez na história, devido à informação que sobre nós fornecemos nas interações que temos com os gigantes tecnológicos, estes hiperconcentram dados sobre muitos mais aspetos da nossa vida do que gostaríamos. E muito embora existam mecanismos que possam minimizar estes riscos, que possibilitam reduzir a exposição da privacidade de cada um de nós a um mínimo, esta é contornada por mecanismos como o interesse legítimo, do qual nem todos estarão cientes, mas com os quais todos deveríamos saber lidar.
Yuval Noah Harari, no livro Homo Deus (2015) colocava a seguinte questão: “O que acontecerá quando os algoritmos nos conhecerem melhor do que nós próprios?” 8 anos depois, em maio passado, o autor dava a resposta ao semanário Expresso: “Quando isso acontecer, poderão controlar-nos completamente, conseguirão moldar as nossas posições políticas e as nossas perspetivas sobre nós mesmos.”
- Poderemos ser confrontados, sem o sabermos, por sistemas programados para conquistar a nossa confiança e para nos influenciar?
- Iremos ficar dependentes de duas ou três empresas que hiperconcentram todos os dados que produzimos?
- Estaremos, através dos dados que todos nós fornecemos, de forma direta ou indireta, a aniquilar por completo a privacidade e criar um regime de vigilância total?
- Uma tecnologia com capacidade de influenciar e manipular em larga escala toda a sociedade, não deverá ser sujeita a regras tão ou mais apertadas que um medicamento (após uma análise de efeitos colaterais ou de segurança), antes de chegar ao mercado?
- Não deveremos sempre ser informados previamente, que vamos interagir com uma máquina ou um sistema que imita comportamentos humanos?
- Se a IA consegue gerar pinturas, desenhos, poemas ou músicas, devem existir direitos de autor sobre estas criações?
- Perante um resultado catastrófico decorrente do uso da IA, quem é o responsável? O fabricante do produto que a incorpora, quem a desenvolveu ou a empresa que a escolheu usar?
- Deveremos priorizar a regulação da utilização da IA, correndo o risco de a concorrência menos regulada (ou não regulada) ganhar a dianteira numa economia globalizada?
Hoje em dia, a regulação é uma questão central, existindo várias vozes do próprio sector a solicitarem-na. Na união europeia, está a desenvolver-se o “AI Act” com o qual se pretende dar resposta através de uma lei pioneira, que tem na sua base a atribuição de diferentes níveis de risco. Nela se considera e identifica aplicações de maior risco, que são inaceitáveis e como tal não podem ser usadas. Para os sistemas e aplicações de risco elevado, cujos critérios também se identificam, serão aplicáveis requisitos legais específicos como, por exemplo, a existência de um sistema de gestão cuja norma de referência se encontra atualmente em fase de aprovação pela ISO – a norma ISO 42001 (Information technology — Artificial intelligence — Management system).
Enquanto humanos temos uma extraordinária capacidade de antropomorfização, de animais, de carros, de objetos e em geral tudo o que nos rodeia. Do mesmo modo, tendemos a antropomorfizar estes sistemas, projetando neles algumas qualidades que eles objetivamente não possuem, como a emoção ou a intuição. Ignorar estes aspetos e deixar-se levar pela aparência de que esta tecnologia muitas vezes se reveste, é um caminho perigoso e comprometedor.
Manter-se informado, estar ciente das suas vantagens e também das suas lacunas e desafios, é fundamental para que a IA seja um agente de um desenvolvimento sustentado e não o contrário. De outra forma, acentuará irreversivelmente as desigualdades existentes.
António Pina