La segona conversa del bloc L’algoritme i el capital reuneix Xavier Cubeles i Martina Nadal en el marc del programa Revers. El diàleg aborda els efectes del canvi de paradigma que suposa la irrupció de la intel·ligència artificial, no només en la creació artística sinó també en la manera com vivim, treballem i ens relacionem. 

Xavier Cubeles és membre de l’equip de Consultoria d’Eurecat Centre Tecnològic, on dirigeix i participa en la realització de projectes de recerca aplicada i d’impuls de la innovació en els àmbits de les indústries culturals, creatives i el turisme. També és professor associat de la Facultat de Comunicació Audiovisual de la Universitat Pompeu Fabra, on imparteix l’assignatura Economia de les Indústries Culturals.

Martina Nadal és dissenyadora i directora creativa especialitzada en creativitat per al canvi social, amb un fort enfocament internacional. Ha liderat projectes estratègics de disseny i comunicació per a institucions globals com UNICEF, el PNUD i la Comissió Europea. Com a sòcia, directora d’operacions (COO) i cap d’impacte social a Domestic Data Streamers, impulsa iniciatives que connecten la informació amb les persones per inspirar una transformació ètica i social.

La conversa també explora la necessitat de repensar el concepte d’autoria en un context dominat per la intermediació digital i l’economia de l’atenció, i planteja com incorporar la tecnologia des d’una perspectiva ètica i orientada al benestar comú. Ambdós reflexionen sobre la responsabilitat de les grans plataformes, la precarització derivada dels nous models de producció cultural, i la importància de construir comunitats creatives capaces de resistir la lògica de l’eficiència i reivindicar el valor humà de la creativitat.

Xavier Cubeles: Vivim un canvi de paradigma que està sent molt radical i que amb la digitalització, i ara amb la intel·ligència artificial, avança amb una acceleració bestial. Canvien les maneres de viure, de treballar, de produir, de consumir… I què suposa un canvi de paradigma? Suposa que som incapaços de veure el que s’esdevindrà.

M’agrada un símil que he sentit dir a en Genís Roca: estem conduint un cotxe amb molta boira, on l’únic que veiem clar és a través del retrovisor, el que hi ha enrere, però no tenim ni idea del que hi ha davant. L’important és l’actitud que adoptem davant d’aquest moment, com encarem un canvi que no sabem ben bé cap on anirà. 

Martina Nadal: Seguint la metàfora del cotxe, crec que hem inventat i absorbit quelcom que va molt de pressa abans de plantejar-nos quins són els riscos i conseqüències del que vol dir incorporar-ho a certes velocitats.

No podem obviar que les indústries que estan impulsant aquest canvi de paradigma són les mateixes que van impulsar la revolució de les xarxes socials i en molt poques ocasions han demostrat tenir un grau mínim de responsabilitat com per evitar conseqüències nefastes sobre la salut mental i social, els sistemes democràtics… Per mi, ara mateix no hi ha els incentius perquè el benestar comú estigui al centre de la incorporació d’aquestes noves tecnologies.

X.C.: Les xarxes socials són una nova manera d’intermediar. No hi ha una desintermediació del sector cultural o de la societat, sinó que hi ha uns nous intermediaris digitals, i tot això té uns impactes en el benestar individual i col·lectiu. I ara estem veient que aquests impactes no són necessàriament bondadosos.

Per anar una mica més enllà, una característica que té l’entrada de l’intel·ligència artificial en el sector cultural és que algunes activitats que només podien fer les persones, com la creativitat, ara hi participen o les fan màquines. Això no passava abans: la creativitat feia servir màquines, però aquestes no generaven propostes d’idees.

M. N.: Justament una de les idees que plantegem des de Domestic Data Streamers és la mort planejada dels models de llenguatge. És a dir, donat que hi ha una certa tirania d’aquest càlcul probabilístic que repeteix tota l’estona patrons sobre allò conegut, ens preguntàvem què passaria si, descartant aquestes lògiques d’eficiència, planegéssim de tant en quant la mort de certs models per assegurar que es troben en una imposició de restricció, com ens trobem els humans, fent que moltes vegades emergeixi un pensament radicalment més creatiu. Això no va en detriment de la creativitat humana, sinó que pot ser un punt de partida, o de provocació per plantejar-nos si té sentit seguir fent aquesta espècie de rèplica constant on apareix una tirania que incorpora tots els biaixos i les condescendències de les dades que han pogut existir i, per tant, un rebuig cap a les que no han pogut existir.

En aquest sentit, també és interessant el discurs que posa sobre la taula el Centre for Human Technology, aquest grup que surt de Google i del Big Tech de Silicon Valley que intenta impulsar nous marcs de regulació al voltant de les noves tecnologies. I hi ha un concepte especialment interessant que és com la cultura digital hauria d’estar dins l’agenda de salut pública perquè té uns impactes socials, de salut mental, de patrons de consum o de comportament democràtic enormes.

X.C.: Això ens porta a un tema molt rellevant: l’economia de l’atenció. Al segle XIX, el problema era com garantir la producció, i la llibertat de producció, de continguts i que aquests arribessin a la població. Al segle XXI, el repte és com distribuïm la nostra atenció.

M.N.: Exacte, estem creant màquines de persuasió perfectes que són capaces de decidir abans que nosaltres sense que ens n’adonem. 

Un experiment que vam fer és l’eina Skeptic Reader, que és un exemple de com fer servir la integració d’aquests models per fer-nos millors preguntes i no per buscar les respostes més senzilles. És un plug-in que, quan estàs consumint una notícia o qualsevol altre tipus d’informació, pots demanar-li que et faci una anàlisi i et troba falles lògiques, perspectives alternatives, contraarguments, dades que no estan referenciades…

Per altra banda, hi ha el tema de les autories, on em sembla interessant no només visibilitzar el creador, sinó tot l’espai i tota la sèrie d’actors al voltant dels models d’IA. Hem de buscar models més justos sobre com es retribueixen les dades amb les quals s’entrenen els models, i més transparència amb els algoritmes i les lògiques de decisió perquè es puguin fer auditories.

X.C.: Moltes institucions del nostre país i d’Europa tenen les seves dades allotjades en servidors de grans companyies. Els hi han “regalat”. S’han configurat mercats bilaterals on tu dones una cosa a algú a canvi d’una altra que rebem gratuïtament (com un compte d’email o un espai per a l’emmagatzematge de dades), i aquest ho fa servir per guanyar diners d’una altra banda o mercat (com la publicitat o l’entrenament de la IA). No hi ha res gratuït en aquests entorns. Hi haurà una part de les dades que no hem consentit donar, però una altra que sí.

M.N.: I en relació a les dades que no hem consentit donar, les grans tecnològiques pensen que si per obtenir-les han d’infringir algunes normes que els poden suposar una penalització però això els permet l’accés a una indústria de trillons, és un peatge a pagar. Tenim molt poques eines de mitigació de riscos com per evitar que això passi.

X.C.: Hi ha un problema de governança global perquè la Unió Europea pot intentar regular els drets en aquest escenari complex, però si no hi ha un acord a nivell mundial és molt complicat… 

M.N.: L’autoria queda dissolta i no hi ha traçabilitat dels continguts. Generem col·lectivament el coneixement, però el sistema de monetització és a les mans de molt pocs i la regularització és molt difícil. Crec que és massa tard per ser pessimistes i hem d’agafar-nos a tot arreu on puguem per trobar els models que ens permetin veure escletxes de canvi i de transformació.

X.C.: Poden passar coses inesperades. La revolució industrial va desenvolupar el sistema muscular de l’economia: ja no calia fer força física perquè ho feien les màquines. Ara, la revolució tecnològica digital està desenvolupant el sistema neuronal de l’economia i avui en dia sembla que no cal pensar tant perquè ja hi ha decisions que les prenen les màquines. Però, després de la revolució industrial, fem menys exercici o bé paguem per fer-ne? Potser després d’aquesta revolució de la IA, la gent necessitarà exercitar la creativitat pel seu benestar individual i la seva salut. Potser hi ha part creixent de la població que opti per dir: “el que vull fer és pintar, escriure, fer música… que són activitats que em proporcionen un gaudi que la IA no pot substituir”. I potser aquí hi ha tota una nova economia que emergeix d’una nova manera de practicar la cultura.

M.N.: I no només com a creador, també com a consumidor. Al final el que t’emociona de la cultura és entendre com algú ha triat aquelles paraules o aquelles formes per transmetre l’experiència viscuda. I això no és delegable, no és automatitzable; aquí no pots incorporar les lògiques de l’eficiència.

X.C.: Exacte. Per tant, poden passar coses inesperades i la gent pot prendre decisions que no són previsibles. 

M.N.: Tenim l’exemple del que està passant ara amb els joves del Nepal, que en qüestió de dies s’han organitzat a través de Discord arran de la prohibició de les xarxes socials i de casos de corrupció per protestar, fins al punt que han escollit una nova primera ministra. Em sembla un exemple molt esperançador de com la cultura digital està fent possible en alguns espais trencar l’status quo o certes lògiques de poder.
X.C.: El món digital posa el concepte de comunitat al centre. I aquesta és la visió que hem de canviar, no només pensar en els creadors sinó també en les comunitats, perquè al voltant de la cultura es forgen comunitats i els creadors són arquitectes de comunitats.

---

Aquesta conversa forma part del programa Revers, que compta amb el suport del Departament de Cultura de la Generalitat de Catalunya i té com a objectiu activar el debat i generar coneixement al voltant de diversos aspectes que afecten l’àmbit de la cultura digital. 

El cicle proposa converses a duo entre creadores, investigadores, desenvolupadores, gestores i altres agents del nostre context per explorar, des de diferents perspectives, temes clau que travessen les pràctiques digitals.

En aquest primer segon bloc temàtic, dedicat a explorar com els sistemes algorítmics i les lògiques econòmiques reconfiguren la creació, la distribució i el valor cultural, hi participen Xavier Cubeles, Daniel G. Andújar, Mireia de Gràcia i Martina Nadal. La conversa s’obrirà la ciutadania en un debat públic el pròxim 11 de novembre de 2025 a les 18h a l’Antic Teatre.

Aquesta conversa ha estat editada per motius de claredat i concisió.