IA y democracia

Acabamos de conocer, por un artículo publicado en le revista Science, la advertencia que hacen investigadores de primer nivel de Yale, Oxford, Harvard, Cambridge, el MIT, el Max Planck y un largo etc. de personas expertas que señalan el riesgo cierto de usar la IA para manipular el debate público a gran escala, infiltrarse en comunidades y erosionar la confianza democrática de la ciudadanía.

Alertan de un sistema capaz de coordinarse de manera autónoma e infiltrarse en comunidades digitales para imitar dinámicas sociales humanas, haciendo que la IA sea indistinguible en las redes sociales, al generar y mantener identidades falsas que se adaptan a las respuestas de las personas usuarias y generan consensos manipuladores.

En los últimos años asistimos a un deterioro de la calidad y la credibilidad de la información sobre los asuntos de interés general, siendo hoy muy difícil asegurar que la información es veraz, contrastada y contrastable o simplemente independiente. El papel de la información y su capacidad de influir en la opinión de la ciudadanía es fundamental; hasta hace poco, los medios de comunicación fundamentaban su solvencia en la capacidad de generar información veraz desde una posición de relativa independencia.

Las redes sociales han supuesto un espacio nuevo de acceso a la información por parte de amplios sectores de la ciudadanía y recientemente, con la irrupción de la IA, suponen una fuente casi única para el acceso a la información sobre los asuntos de interés público. Las redes sociales compiten con los medios de comunicación tradicionales y escapan a los controles necesarios, siendo así una amenaza a la democracia por su capacidad de manipulación.

Este asunto debe estar en el debate público si queremos fortalecer la democracia, haciendo valer la necesidad de controles alineados con los valores prevalentes en nuestro ámbito de la UE. Pero no hay que obviar que la política de Trump y de EEUU en materia de regulación de la IA persigue el objetivo de evitar controles y, en ese sentido, la presión a la Comisión Europea ya ha conseguido retrasar la entrada en vigor de la normativa europea, favorable a proteger a la ciudadanía aunque se busca anular las garantías.

Para evitarlo necesitamos una Europa más fuerte y más autónoma para lo cual hay que desenmascarar a quienes pretenden dinamitar la UE; la publicación de Science aporta argumentos para ello.