A inteligência artificial em ligação com a democracia

Quer tenhamos consciência disso ou não, a Inteligência Artificial - IA - enquanto conceito tecnológico, nas suas múltiplas formas e aplicações, está a ter um efeito decisivo em vários aspectos da nossa vida pessoal e profissional. Se a analisarmos tendo em conta a sua utilização no domínio da divulgação de informações de interesse público e das redes sociais, basta-nos observar como a nossa pegada no mundo digital condiciona e modula o conteúdo que os algoritmos nos oferecem ou promovem com base no perfil em que fomos classificados a partir dos dados fornecidos e do nosso histórico de actividades. Este tipo de personalização para selecionar e consumir informações, produtos e serviços que satisfazem os nossos interesses e gostos sem sequer o solicitar, tem também uma aplicação, digamos, menos inocente.

É evidente que o processo de segmentação e filtragem automática da informação tem uma enorme capacidade de influência sobre nós, que, para além de orientar as nossas decisões de compra enquanto consumidores, modula também, em consonância com o tema deste artigo, a nossa perceção da realidade política e a formação de opiniões sobre decisões ou propostas na esfera pública e, consequentemente, na orientação das nossas decisões de voto, entre outros efeitos.

Toda esta atividade ocorre em grande escala, a grande velocidade e com um alcance global, favorecendo assim um mainstream temático ou meios de comunicação predominantes no chamado mundo digital. É, sem dúvida, o veículo ideal para influenciar direta ou indiretamente grandes grupos de pessoas. Por outro lado, isto não é novo como abordagem ou objetivo, seja ele qual for, incluindo a manipulação, uma palavra bastante grosseira mas que, se nos cingirmos ao seu significado - tentar obter controlo ou domínio sobre outra pessoa ou grupo - é perfeitamente válida para o caso.

Uma das formas mais conhecidas e eficazes de influenciar grandes grupos de pessoas, e que continua em pleno vigor, é através dos media, tanto no seu formato tradicional como na sua versão digital. Se nos centrarmos na eficácia e eficiência associadas à possibilidade de exercer essa influência, os formatos e canais tradicionais - analógicos - são limitados no que respeita à capacidade de aplicar uma segmentação refinada que lhes permita direcionar mensagens específicas e personalizadas para perfis ou grupos específicos com suficiente agilidade. A solução veio com a Internet e a criação de versões digitais, evoluindo em sofisticação com a combinação de aplicações e plataformas digitais do tipo redes sociais que, juntamente com a IA, provocaram uma mudança radical na forma como somos informados e como nos informamos.

Também não podemos perder de vista o declínio da credibilidade do jornalismo clássico e a sua queda em desgraça enquanto elemento democrático de controlo do poder e gerador de informação mais ou menos objetiva. Esta situação contribui também, sem dúvida, para reduzir a nossa capacidade de tomar decisões informadas.

A atual combinação da Internet com a IA e a utilização generalizada de dispositivos móveis, como os smartphones, representam, em conjunto, uma ferramenta que aperfeiçoa e maximiza as possibilidades de influenciar grandes audiências e, assim, atuar sobre a sua perceção ou opinião - positiva, negativa ou neutra - relativamente a algo ou alguém. Não nos enganemos, este não é um mal novo trazido pela digitalização ou pela IA, é algo que, como já mencionámos, tem vindo a ocorrer ao longo dos tempos e, se estivermos à procura de culpados conhecidos, Gutenberg e a sua prensa de impressão também seriam bons candidatos.

Também vale a pena destacar o potencial "democrático", por exemplo, das redes sociais, que dão às pessoas a sua própria voz no seio da massa global, bem como a capacidade de aceder a informação plural e diversificada.

Todas estas possibilidades e benefícios do mundo digital - mencionaremos alguns efeitos indesejáveis mais adiante - devem também fazer-nos refletir sobre se a informação supostamente livre e aberta que consumimos nos torna de facto mais capazes de exercer o nosso direito democrático de agir livremente e de tomar as nossas próprias decisões em verdadeira liberdade.

Partamos do princípio de que nada, ou muito pouco, é gratuito no contexto da Internet e que temos um valor baseado nos nossos dados pessoais - a nossa atividade nesta rede também é gratuita. Estes dados, com maior ou menor exatidão, geram uma espécie de versão individual digitalizada que, através de um tratamento automatizado, nos coloca em perfis e grupos pré-definidos com base nos interesses existentes.

Isto coloca-nos em risco de nos tornarmos cidadãos "controlados" graças à grande quantidade de informação armazenada sobre os nossos gostos, aversões, fobias, orientação política, localização, capacidade económica, profissão, etc. A tecnologia e os dados são tudo o que é necessário para nos influenciar. Como? Há várias formas de o fazer. Uma delas é, como já referimos, personalizando e direccionando a informação que nos é enviada de acordo com o nosso perfil e grupo previamente atribuído, que o algoritmo gere de forma muito eficiente. O objetivo pode ser promover um produto ou serviço que ainda não tínhamos pensado em adquirir, ou dar-nos a conhecer algo que supostamente acharemos interessante ou útil, embora na realidade possam ser outros os interessados em que recebamos essa informação para expandir e gerar debate ou controvérsia sobre algum tema. Entre as técnicas de IA que são aplicadas, especialmente nas redes sociais, podemos citar os chamados bots sociais, que são criados para se fazerem passar por utilizadores humanos, através de contas falsas com dados de perfil fictícios, com o objetivo de difundir e alimentar opiniões ou fomentar a discussão pública sobre algo.

É claro que existem efeitos secundários, em princípio indesejados e não óbvios para a maioria das pessoas. Para os exemplificar, podemos citar os chamados vieses de normalização, que são muito comuns nos modelos de IA gerados a partir do processamento massivo de dados e da aprendizagem automática, incluindo os novos modelos LLM utilizados pela IA generativa. Este efeito ocorre quando, com base no processamento de um grande volume de dados, o modelo gerado pela IA dá prioridade à resposta ou ao resultado com a maior frequência de ocorrência nos dados disponíveis, por uma questão de probabilidade estatística. Algo que em princípio faria sentido poderia significar que, quando consultamos um sistema baseado em IA, a resposta que nos dá garante um elevado nível de correção seguindo este critério de probabilidade, embora isso não garanta a sua validade ou veracidade. Por outro lado, se assumirmos que a resposta é completamente válida, pode acontecer que o modelo tenha descartado outras opções que também são válidas e verdadeiras, mas que têm uma menor frequência de ocorrência. A consequência é que um possível pensamento ou solução padrão acaba por prevalecer e difundir-se sobre outros que poderiam ser correctos e até mais adequados.

Outro efeito que não deve ser ignorado no domínio das redes sociais é a tendência do algoritmo para fornecer e promover conteúdos, contactos ou opiniões que correspondem perfeitamente às nossas preferências, gostos e convicções ou às do perfil em que fomos classificados. Embora, em princípio, isto seja uma grande ajuda, coloca-nos em risco de sofrer um efeito cognitivo que, em psicologia, se chama viés de confirmação, porque a maior parte do input que recebemos apenas reforça os nossos pensamentos ou opiniões pré-estabelecidos.

Em ambos os casos, esta "orientação" automatizada que ocorre faz com que eliminemos do nosso conhecimento e da nossa análise certos tipos de informação que não são padronizados ou não estão alinhados com o nosso pensamento. A consequência é que solidificamos as nossas convicções, certezas e opiniões de tal forma que o surgimento de qualquer espírito crítico ou de questionamento do que se passa à nossa volta fica muito dificultado, gerando blocos de pensamento inamovíveis, transformando-nos numa espécie de comunidades completamente previsíveis e controláveis que se "deixam ir", condicionando assim o pensamento individual e as decisões que nos afectam a todos. Temos de estar atentos às dinâmicas de construção e às regras de disseminação das opiniões e notícias que nos são apresentadas nos espaços digitais. Com base neste conhecimento, devemos acrescentar à nossa forma de processar a informação uma espécie de reserva crítica individual e, por extensão, colectiva, que, antes de tomar uma posição ou decisão, questione o que está pré-estabelecido e comummente aceite, guiado cegamente pelas propostas do algoritmo.

Precisamos de mais outliers e de os observar, porque por vezes ajudam a explicar todo o contexto. A outra opção é que sejam apenas isso, outliers que se destacam do resto e apenas geram ruído.

O atual estado de desenvolvimento tecnológico ligado à IA representa um enorme potencial de transformação em qualquer sector, atividade ou tecnologia. Tal como aconteceu com a expansão global da infraestrutura da Internet, é preciso diferenciar o seu potencial positivo das utilizações inadequadas ou perversas que as pessoas e as organizações podem fazer.

É necessário compreender os avanços e analisá-los, detetar os seus efeitos indesejáveis e que estes sejam acompanhados de regras e regulamentos que estabeleçam controlos e boas práticas no desenvolvimento e aplicação da IA, sendo um exemplo deste último o Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), recentemente aprovado pela União Europeia.