Piensa en un tema importante: Cambio climático, China, Astrofísica, déficit público, la IA… ¿De quién fiarte para saber sobre algo? ¿Quién te dice la verdad, su opinión sincera? ¿Quién sigue unas directrices para manipularte, esto es, un propagandista o un vendedor de algo más? ¿Quién habla de oídas, repitiendo como un papagayo?

Se puede aprender mucho de un propagandista, si se invierte tiempo, puedes aprender cuál es su visión del mundo. Suelen estar preparados con un argumentario con coherencia interna, completo (o actualizable en tiempo real). Seguros y reconfortantes ante el malestar que da la ignorancia. El problema es: para distinguir a un sabio de un farsante y de un propagandista hay que dedicarles mucho tiempo. Y ahí está el quid de la cuestión. Nuestra sensación es que con internet toda la sabiduría está a nuestro alcance sin el esfuerzo de tener que estudiar a fondo, de contrastar ideas y hechos, pensar la lógica de los razonamientos. Y esa sensación es el caldo de cultivo perfecto para la manipulación.

No hablamos solo de un vago riesgo futuro. Desde el comienzo de la internet colaborativa el riesgo está ahí. Pero con la generalización de las redes sociales y la destilación de formatos hiperefectivos y fugaces, la escala del problema es mayor, aún siendo esencialmente uno con el que nos enfrentamos desde hace tiempo. Este blog está plagado de reflexiones sobre el tema, sobre el uso de la tecnología, no sobre su propia naturaleza. Una gran diferencia es que ahora hay toda una industria de la influencia operando a mayor escala. Empresas que nos perfilan para vendernos no solo productos, sino estilos de vida. Países enteros que despliegan ejércitos de bots e influencers pagados para desestabilizar el debate. Y, por supuesto, nuestros partidos políticos, que están perfeccionado el arte de la escucha reactiva. Ya no se trata tanto de liderar con una visión coherente, sino de detectar qué narrativas están calando en la sociedad, qué miedos o anhelos vibran en cada grupo, para luego amplificar ese mensaje y devolvérselo a cada cual como si fuera una propuesta original. Le dan a la gente exactamente lo que quiere escuchar, convirtiendo la política en un eco de los prejuicios de la tribu. Como argumenté hace un tiempo, nos hemos vuelto prisioneros de relatos simplificados que otros construyen para nosotros.

En este ecosistema de pereza y miedo a la manipulación propagandística, hemos decidido invocar a un nuevo dios salvador: la inteligencia artificial generativa. Le preguntamos a nuestro móvil sobre la fundamentación de una moral universal y una voz sintética nos contesta con una pulcritud que desarma. Le pedimos en nuestro ordenador un análisis sobre la última crisis geopolítica y nos ofrece bullet points que parecen la verdad revelada y que parecen coherentes. Rápido, limpio e indoloro. Sin sudor mental, dolor de cabeza o paradojas. Hemos externalizado nuestra pereza a un oráculo de bolsillo que, a su vez, ha sido entrenado incluyendo la totalidad del ruido digital que hay en nuestra biblioteca global. Un ruido donde los manipuladores profesionales campan a sus anchas.

El resultado es un eco glorificado. Un eco que puede ser tan sutilmente sesgado como el más hábil de los propagandistas, porque la IA no distingue la verdad de la repetición. Intentamos zafarnos y nos encuentran de nuevo. Como bien señalaba Enrique Dans, el problema de los sesgos en estas herramientas es profundo y complejo, y a menudo refleja las miserias de los datos con los que las alimentamos. La máquina, por diseño, busca la respuesta más probable, la más pulida, la que tiene la mejor correlación de palabras, no necesariamente la más veraz. El propagandista perfecto ya no es el que grita consignas, sino el que susurra «verdades» con la voz neutra y omnisciente de un asistente virtual.

Nos enfrentamos a una paradoja monumental: tenemos más acceso a la información que nunca, pero quizás estemos pensando menos de lo que debiéramos. El tiempo que nos ahorramos de estudiar muchos libros no lo invertimos en reflexionar sobre la información que nos llega. Delegamos la tarea de pensar en algoritmos mientras actores muy concretos se frotan las manos. La cuestión de fondo, como se explora a menudo en los debates de la Fundación Juan March, no es solo tecnológica, sino profundamente filosófica: ¿qué es la verdad en la era de su producción industrial?. Nuria Oliver nos lo cuenta bien en esta conferencia.

Así que nos quedamos aquí, preguntándonos si no es una ingenuidad suicida entregarle una herramienta como la IA a quienes ya intentan manipularnos, una IA capaz de automatizar esa manipulación a una escala nunca vista. ¿Estamos realmente dispuestos a delegar nuestro juicio crítico a cambio de la comodidad de una respuesta inmediata, sacrificando la capacidad de navegar en esa incertidumbre que es, en esencia, la base del pensamiento libre? En un mundo donde una máquina puede fabricar discursos de experto y realidades sintéticas, quizás el mayor riesgo no es que se vuelva contra nosotros, sino que nos volvamos tan cómodos en nuestra pereza intelectual que aceptemos la primera respuesta convincente como la única verdad posible, olvidando por completo cómo pensar por nosotros mismos.

No estoy hablando de tecnología, sino de cómo la utilizamos.

(Muy pronto, una segunda parte de esta reflexión)