La segunda conversación del blog El algoritmo y el capital reúne a Xavier Cubeles y Martina Nadal en el marco del programa Reverso. El diálogo aborda los efectos del cambio de paradigma que supone la irrupción de la inteligencia artificial, no sólo en la creación artística sino también en la manera en que vivimos, trabajamos y nos relacionamos.
Xavier Cubeles es miembro del equipo de Consultoría de Eurecat Centro Tecnológico, donde dirige y participa en la realización de proyectos de investigación aplicada y de impulso de la innovación en los ámbitos de las industrias culturales, creativas y el turismo. También es profesor asociado de la Facultad de Comunicación Audiovisual de la Universidad Pompeu Fabra, donde imparte la asignatura Economía de las Industrias Culturales.
Martina Nadal es diseñadora y directora creativa especializada en creatividad para el cambio social, con un fuerte enfoque internacional. Ha liderado proyectos estratégicos de diseño y comunicación para instituciones globales como UNICEF, el PNUD y la Comisión Europea. Como socia, directora de operaciones (COO) y jefa de impacto social en Domestic Data Streamers, impulsa iniciativas que conectan la información con las personas para inspirar una transformación ética y social.
La conversación también explora la necesidad de repensar el concepto de autoría en un contexto dominado por la intermediación digital y la economía de la atención, y plantea cómo incorporar la tecnología desde una perspectiva ética y orientada al bienestar común. Ambos reflexionan sobre la responsabilidad de las grandes plataformas, la precarización derivada de los nuevos modelos de producción cultural, y la importancia de construir comunidades creativas capaces de resistir la lógica de la eficiencia y reivindicar el valor humano de la creatividad.
Xavier Cubeles: Vivimos un cambio de paradigma que está siendo muy radical y que con la digitalización, y ahora con la inteligencia artificial, avanza con una aceleración bestial. Cambian las maneras de vivir, de trabajar, de producir, de consumir… ¿Y qué supone un cambio de paradigma? Supone que somos incapaces de ver lo que ocurrirá.
Me gusta un símil que he oído decir a Genís Roca: estamos conduciendo un coche con mucha niebla, donde lo único que vemos claro es a través del retrovisor, el que hay atrás, pero no tenemos ni idea de lo que hay delante. Lo importante es la actitud que adoptamos ante este momento, cómo encaramos un cambio que no sabemos muy bien hacia dónde irá.
Martina Nadal: Siguiendo la metáfora del coche, creo que hemos inventado y absorbido algo que va muy deprisa antes de plantearnos cuáles son los riesgos y consecuencias de lo que significa incorporarlo a ciertas velocidades.
No podemos obviar que las industrias que están impulsando este cambio de paradigma son las mismas que impulsaron la revolución de las redes sociales y en muy pocas ocasiones han demostrado tener un grado mínimo de responsabilidad como para evitar consecuencias nefastas sobre la salud mental y social, los sistemas democráticos… Para mí, ahora mismo no existen los incentivos para que el bienestar común esté en el centro de la incorporación de estas nuevas tecnologías.
X.C.: Las redes sociales son una nueva manera de intermediar. No hay una desintermediación del sector cultural o de la sociedad, sino que hay unos nuevos intermediarios digitales, y todo ello tiene unos impactos en el bienestar individual y colectivo. Y ahora estamos viendo que estos impactos no son necesariamente bondadosos.
Para ir un poco más allá, una característica que tiene la entrada de la inteligencia artificial en el sector cultural es que algunas actividades que sólo podían hacer las personas, como la creatividad, ahora participan o las hacen máquinas. Eso no pasaba antes: la creatividad usaba máquinas, pero éstas no generaban propuestas de ideas.
M. N.: Justamente una de las ideas que planteamos desde Domestic Data Streamers es la muerte planeada de los modelos de lenguaje. Es decir, dado que hay una cierta tiranía de este cálculo probabilístico que repite todo el rato sobre lo conocido, nos preguntábamos qué pasaría si, descartando estas lógicas de eficiencia, planeáramos de tanto en cuanto la muerte de ciertos modelos para asegurar que se encuentran en una imposición de restricción, como nos encontramos los humanos, haciendo que muchas veces emerja un pensamiento radicalmente más creativo. Esto no va en detrimento de la creatividad humana, sino que puede ser un punto de partida, o de provocación para plantearnos si tiene sentido seguir haciendo esta especie de réplica constante donde aparece una tiranía que incorpora todos los sesgos y las condescendencias de los datos que han podido existir y, por tanto, un rechazo hacia los que no han podido existir.
En este sentido, también es interesante el discurso que pone sobre la mesa el Centre for Human Technology, este grupo que sale de Google y del Big Tech de Silicon Valley que intenta impulsar nuevos marcos de regulación en torno a las nuevas tecnologías. Y hay un concepto especialmente interesante que es como la cultura digital debería estar dentro de la agenda de salud pública porque tiene unos impactos sociales, de salud mental, de patrones de consumo o de comportamiento democrático enormes.
X.C.: Esto nos lleva a un tema muy relevante: la economía de la atención. En el siglo XIX, el problema era cómo garantizar la producción, y la libertad de producción, de contenidos y que éstos llegaran a la población. En el siglo XXI, el reto es cómo distribuimos nuestra atención.
M.N.: Exacto, estamos creando máquinas de persuasión perfectas que son capaces de decidir antes que nosotros sin que nos demos cuenta.
Un experimento que vamos a hacer es la herramienta Skeptic Reader, que es un ejemplo de cómo usar la integración de estos modelos para hacernos mejores preguntas y no para buscar las respuestas más sencillas. Es un plug-in que, cuando estás consumiendo una noticia o cualquier otro tipo de información, puedes pedirle que te haga un análisis y te encuentra fallas lógicas, perspectivas alternativas, contraargumentos, datos que no están referenciados…
Por otro lado, está el tema de las autorías, donde me parece interesante no sólo visibilizar al creador, sino todo el espacio y toda la serie de actores en torno a los modelos de IA. Debemos buscar modelos más justos sobre cómo se retribuyen los datos con los que se entrenan los modelos, y más transparencia con los algoritmos y las lógicas de decisión para que se puedan hacer auditorías.
X.C.: Muchas instituciones de nuestro país y de Europa tienen sus datos alojados en servidores de grandes compañías. Les han «regalado». Se han configurado mercados bilaterales donde tú das una cosa a alguien a cambio de otra que recibimos gratuitamente (como una cuenta de email o un espacio para el almacenamiento de datos), y este lo usa para ganar dinero por otro lado o mercado (como la publicidad o el entrenamiento de la IA). No hay nada gratuito en estos entornos. Habrá una parte de los datos que no hemos consentido dar, pero otra que sí.
M.N.: Y en relación a los datos que no hemos consentido dar, las grandes tecnológicas piensan que si para obtenerlos deben infringir algunas normas que les pueden suponer una penalización pero eso les permite el acceso a una industria de trillones, es un peaje a pagar. Tenemos muy pocas herramientas de mitigación de riesgos como para evitar que esto ocurra.
X.C.: Hay un problema de gobernanza global porque la Unión Europea puede intentar regular los derechos en este escenario complejo, pero si no hay un acuerdo a nivel mundial es muy complicado…
M.N.: La autoría queda disuelta y no hay trazabilidad de los contenidos. Generamos colectivamente el conocimiento, pero el sistema de monetización está en las manos de muy pocos y la regularización es muy difícil. Creo que es demasiado tarde para ser pesimistas y tenemos que cogernos en todas partes donde podamos para encontrar los modelos que nos permitan ver brechas de cambio y de transformación.
X.C.: Pueden pasar cosas inesperadas. La revolución industrial desarrolló el sistema muscular de la economía: ya no había que hacer fuerza física porque lo hacían las máquinas. Ahora, la revolución tecnológica digital está desarrollando el sistema neuronal de la economía y hoy en día parece que no hay que pensar tanto porque ya hay decisiones que las toman las máquinas. Pero, después de la revolución industrial, ¿hacemos menos ejercicio o bien pagamos por hacerlo? Quizás después de esta revolución de la IA, la gente necesitará ejercitar la creatividad por su bienestar individual y su salud. Quizás hay parte creciente de la población que opte por decir: «lo que quiero hacer es pintar, escribir, hacer música… que son actividades que me proporcionan un disfrute que la IA no puede sustituir». Y quizás aquí hay toda una nueva economía que emerge de una nueva manera de practicar la cultura.
M.N.: Y no sólo como creador, también como consumidor. Al final lo que te emociona de la cultura es entender cómo alguien ha elegido aquellas palabras o aquellas formas para transmitir la experiencia vivida. Y eso no es delegable, no es automatizable; aquí no puedes incorporar las lógicas de la eficiencia.
X.C.: Exacto. Por lo tanto, pueden pasar cosas inesperadas y la gente puede tomar decisiones que no son previsibles.
M.N.: Tenemos el ejemplo de lo que está pasando ahora con los jóvenes de Nepal, que en cuestión de días se han organizado a través de Discord a raíz de la prohibición de las redes sociales y de casos de corrupción para protestar, hasta el punto de que han escogido una nueva primera ministra. Me parece un ejemplo muy esperanzador de cómo la cultura digital está haciendo posible en algunos espacios romper el status quo o ciertas lógicas de poder.
X.C.: El mundo digital pone el concepto de comunidad en el centro. Y esa es la visión que tenemos que cambiar, no sólo pensar en los creadores sino también en las comunidades, porque alrededor de la cultura se forjan comunidades y los creadores son arquitectos de comunidades.
Esta conversación forma parte del programa Revers, que cuenta con el apoyo del Departamento de Cultura de la Generalitat de Catalunya y tiene como objetivo activar el debate y generar conocimiento en torno a diversos aspectos que afectan al ámbito de la cultura digital.
El ciclo propone conversaciones a dúo entre creadoras, investigadoras, desarrolladoras, gestoras y otros agentes de nuestro contexto para explorar, desde diferentes perspectivas, temas clave que atraviesan las prácticas digitales.
En este primer segundo bloque temático, dedicado a explorar cómo los sistemas algorítmicos y las lógicas económicas reconfiguran la creación, la distribución y el valor cultural, participan Xavier Cubeles, Daniel G. Andújar, Mireia de Gràcia y Martina Nadal. La conversación se abrirá la ciudadanía en un debate público el próximo 11 de noviembre de 2025 a las 18h en el Antiguo Teatro.
Esta conversación ha sido editada por motivos de claridad y concisión.
