Inteligencia Artificial en conexión con la Democracia

Seamos o no conscientes de ello, la Inteligencia Artificial -IA- como concepto tecnológico en sus múltiples formas y aplicaciones, está afectando de forma determinante a diversos aspectos de nuestra vida personal y profesional. Si lo analizamos considerando su utilización en el ámbito de la difusión de información de interés público y las redes sociales, bastará con que observemos cómo nuestra huella en el mundo digital condiciona y modula los contenidos que los algoritmos nos ofrecen o promocionan en base al perfil en el que nos han clasificado a partir de los datos proporcionados y nuestro historial de actividad. Esta bondadosa personalización para seleccionar y consumir información, productos y servicios que satisfacen nuestros intereses y gustos sin siquiera solicitarlo, también tiene una aplicación, digamos, menos inocente.

Resulta obvia la enorme capacidad de influencia que tiene sobre nosotros el proceso de segmentación y filtrado automático de información que, además de dirigir nuestras decisiones de compra como consumidores, también modula, llevado a la materia de este artículo, nuestra percepción de la realidad política y la formación de opinión relativa a decisiones o propuestas en el ámbito público, y consecuentemente, en la orientación de nuestras decisiones de voto, entre otros efectos.

Toda esta actividad se produce de forma masiva, a gran velocidad y con alcance global, favoreciendo así un mainstream temático o de medios de información predominantes dentro de lo que se conoce como mundo digital. Es, sin duda, el vehículo ideal para que, directa o indirectamente, se pueda influir sobre amplios colectivos de personas. Esto es algo que, por otra parte, no resulta novedoso como planteamiento u objetivo, sea cual sea éste, incluyendo la manipulación, palabra algo gruesa pero que si nos atenemos a su significado -tratar de obtener control o dominio sobre otra persona o grupo- es perfectamente válida para el caso.

De las fórmulas más conocidas y efectivas de ejercer influencia sobre amplios colectivos de personas, y que sigue en plena vigencia, es la que se realiza a través de los medios de comunicación, tanto en su formato tradicional, como en su versión digital. Si nos centramos en la eficacia y eficiencia asociada a la posibilidad de ejercer dicha influencia, los formatos y canales tradicionales -analógicos- lidian con la limitación de poder aplicar una segmentación refinada que les permita dirigir mensajes específicos y personalizados a perfiles o colectivos concretos con la agilidad suficiente. La solución llegó de la mano de Internet y la creación de las versiones digitales, evolucionando en sofisticación con la combinación de apps y plataformas digitales de tipo red social que, junto con la IA, han supuesto un cambio radical sobre cómo nos informan y nos informamos.

Tampoco podemos perder de vista el descenso de credibilidad del periodismo clásico y su caída en desgracia como elemento democrático de control al poder y generador de información más o menos objetiva. Esta situación, sin duda, también contribuye a reducir nuestra capacidad para tomar decisiones de manera informada.

La combinación actual de Internet con la IA y el uso extendido de dispositivos móviles, como por ejemplo los smartphones, representa en su conjunto una herramienta que perfecciona y maximiza las posibilidades de ejercer esa influencia sobre grandes audiencias y así actuar sobre su percepción u opinión -positiva, negativa o neutra- relativa a algo o alguien. No se confundan, esto no es un nuevo mal que nos ha traído la digitalización ni la IA, es algo que como ya hemos citado, se viene produciendo a lo largo de los tiempos, y puestos a buscar culpables conocidos, Gutenberg y su imprenta también serían buenos candidatos.

No todo son aspectos negativos, también es de resaltar el potencial “democrático” que tienen, por ejemplo, las redes sociales, concediendo a las personas voz propia dentro de la masa global, así como la capacidad de acceder a información plural y diversa.

Todas estas posibilidades y beneficios del mundo digital -más adelante citaremos algunos efectos no deseables-, también debieran hacernos reflexionar sobre si la información supuestamente libre y gratuita que consumimos hace que en realidad estemos en mejor disposición de ejercer nuestro derecho democrático a actuar libremente y tomar nuestras propias decisiones en verdadera libertad.

Asumamos como punto de partida que nada, o muy pocas cosas, son gratis en el contexto de Internet y que tenemos un valor basado en nuestros datos personales -nuestra actividad en ella también lo son-. Esos datos, con mayor o menor exactitud, generan una especie de versión digitalizada individual que, mediante su tratamiento automatizado, nos sitúa en perfiles y grupos predefinidos en función del interés existente.

Esto nos pone en situación de riesgo para convertirnos en ciudadanos “controlados” gracias a la gran cantidad de información almacenada sobre nuestros gustos, fobias, orientación política, localización, capacidad económica, profesión, etc. Tecnología y datos, es cuanto se necesita para poder influir en nosotros. ¿Cómo? Son varias las formas de hacerlo. Una de ellas es, como ya anticipábamos, personalizando y orientando la información que nos dirigen en función de nuestro perfil y colectivo previamente asignado y que el algoritmo gestiona de forma muy eficaz. El objetivo puede consistir en promocionar algún producto o servicio que todavía no habíamos valorado adquirir, o para hacernos saber algo que supuestamente nos resultará interesante o útil, aunque en realidad puede suceder que sean otros los que tienen interés en que recibamos esa información para expandir y generar debate o controversia sobre algún tema. Dentro de las técnicas de IA que se aplican, especialmente en redes sociales, podemos citar a los denominados social bots , los cuales son creados para hacerse pasar por usuarios humanos, mediante cuentas falsas con datos ficticios de perfil, con el objetivo de difundir y alimentar opiniones o fomentar la discusión pública sobre algo.

Por supuesto, hay efectos secundarios, en principio no deseados y no evidentes para la mayor parte de las personas. Para ejemplificarlos, podemos citar los denominados sesgos de estandarización, muy comunes en modelos de IA, generados a partir del tratamiento de datos masivos y del aprendizaje automático, lo que incluye a los nuevos modelos LLM que utiliza la IA generativa. Este efecto se produce cuando, a partir del procesamiento de un gran volumen de datos, el modelo generado con la IA prioriza la respuesta o resultado con mayor frecuencia de aparición en los datos disponibles debido a una cuestión de probabilidad estadística. Algo que en principio tendría sentido puede provocar que, cuando consultemos un sistema basado en IA, la respuesta que nos ofrezca asegure un alto nivel de acierto siguiendo ese criterio de probabilidad, aunque esto no garantiza su validez o veracidad. Por otro lado, si asumimos que la respuesta fuese completamente válida, podría estar sucediendo que el modelo ha desechado otras opciones también válidas y ciertas pero que tienen una menor frecuencia de aparición. La consecuencia es que termina por prevalecer y extenderse un posible pensamiento o solución estándar respecto de otras que podrían ser correctas e incluso más adecuadas.

Otro efecto que no debemos pasar por alto en el ámbito de las redes sociales es la tendencia del algoritmo a entregarnos y promocionar contenidos, contactos u opiniones que coinciden perfectamente con nuestras preferencias, gustos y convicciones o las del perfil en el que nos han clasificado. Algo que en principio representa una gran ayuda, hace que estemos en riesgo de sufrir un efecto cognitivo que en psicología se denomina sesgo de confirmación debido a que la mayor parte del input que recibimos no hace más que reforzar nuestros pensamientos u opiniones ya preestablecidas.

En ambos casos, esta “orientación” automatizada que se produce hace que eliminemos de nuestro conocimiento y análisis cierto tipo de información no estándar o no alineada con nuestro pensamiento. La consecuencia es que solidificamos de tal manera nuestras convicciones, certezas y opiniones que se dificulta enormemente la aparición de cualquier espíritu crítico o de cuestionamiento sobre lo que sucede a nuestro alrededor, generando bloques de pensamiento inamovibles, convirtiéndonos en una especie de comunidades completamente previsibles y manejables que se “dejan llevar”, condicionando así el pensamiento y las decisiones individuales que nos afectan a todas y todos. Debemos ser conscientes de cómo son las dinámicas de construcción y las reglas de difusión de opiniones y noticias que nos presentan en los espacios digitales. A partir de ese conocimiento debemos añadir a nuestra forma de procesar la información una especie de reserva crítica individual y, por extensión, colectiva, que, antes de adoptar una posición o decisión, cuestione lo preestablecido y comúnmente aceptado, guiándonos ciegamente por las propuestas del algoritmo.

Necesitamos más individuos atípicos “outliers” y observarlos, porque en ocasiones ayudan a explicar todo el contexto. La otra opción es que simplemente sean eso, valores extremos que se separan del resto y que sólo generan ruido.

El actual estado de desarrollo tecnológico ligado a la IA representa un enorme potencial transformador en cualquier sector, actividad o tecnología. Al igual que sucedió con la expansión global de la infraestructura de Internet, debemos diferenciar su potencial positivo de los usos inadecuados o perversos que las personas y organizaciones puedan hacer de ella.

Necesitamos comprender los avances y analizarlos, detectar sus efectos indeseados y que estos se acompañen de una normativa y regulación que establezca controles y buenas prácticas en el desarrollo y aplicación de la IA, siendo ejemplo de esto último la Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) recientemente aprobada por la Unión Europea.