Mireia de Gracia i Daniel G. Andújar protagonitzen la tercera conversa del programa Revers, un espai impulsat per HacTe que promou el diàleg crític sobre les tensions i oportunitats de la cultura digital contemporània.

Mireia De Gracia és enginyera de Telecomunicacions i discjòquei (DJ), amb un gran interès en les Tecnologies del So i de la Música. Ha format part del projecte AIDJb2b, una cocreació de la Universitat Politècnica de Catalunya (UPC) i el Sónar. Concretament, la seva participació en aquest grup s’ha centrat en l’exploració les possibilitats d’una interacció IA-humà en l’àmbit d’una sessió de DJ en directe. Daniel G. Andújar és artista visual, teòric i activista. Des de la dècada dels noranta, la seva obra investiga la relació entre allò real i allò virtual, i les estructures de control que emergeixen en la societat digital. Mitjançant projectes com Technologies To The People™ o Postcapital Archive, planteja una crítica al capitalisme de vigilància i defensa el dret a l’accés tecnològic com a dret cultural fonamental. Membre històric d’irational.org, la seva obra combina recerca, intervenció pública i ironia institucional per qüestionar les promeses de la democràcia digital.

Aquest diàleg engega un nou cicle temàtic, sota el nom de L’algoritme i el capital, que se centra en el paper de la intel·ligència artificial en la creació i la recerca, i en els nous reptes que planteja per als drets culturals, l’autoria i la producció col·lectiva. De Gracia i Andújar reflexionen sobre la transformació dels processos creatius, el valor del treball artístic en un ecosistema automatitzat i la necessitat de models oberts, ètics i transparents que situïn la tecnologia al servei del bé comú.

La conversa recorre temes com la precarització laboral, el capitalisme de vigilància, el retorn a l’exclusivitat amb els NFTs, o la urgència d’una educació tecnològica crítica capaç de respondre a la velocitat del canvi.

Mireia de Gracia: Recentment hi ha hagut algunes intel·ligències artificials que han pogut reproduir estils de disseny o estils fotogràfics d’alguns autors. I crec que és important preguntar-se: tu com a artista, com et sentiries si un dia et despertes i veus mig internet compartint imatges del teu estil, de les quals no tens ni l’autoria ni la idea?

Daniel G. Andújar: Jo crec que la cultura és un sistema de transferències i no hi ha res que sigui original en aquest sentit. De fet, és una cosa que sempre he defensat. Militant en moviments de Creative Commons dels anys noranta, era de la part segurament més radical, que defensava la llibertat total. I això implica reclamar el dret a apropiar-se.

El tema de l’apropiació -el collage, el sampler, la barreja de diversos elements…- és una qüestió que sempre ha estat damunt la taula. La intel·ligència artificial és un model que s’entrena de forma molt similar a com ens hem entrenat els artistes al llarg de la història. És a dir: llegint llibres, veient una portada, llegint un autor que et porta a un altre, apropiant-te, agafant…

No crec que el que està passant en aquest moment sigui una cosa molt més radical, i la qüestió rau en on posem el focus, en què entenem per valor en els processos culturals i en la cultura en general.  

M.G.: El problema principal que ens trobem ara és que tota aquesta música o obres que s’han utilitzat per entrenar les IAs tenen unes llicències que no s’han respectat. I en molts casos, les empreses tecnològiques més grans que hi ha al darrere no només no poden utilitzar aquesta música, sinó que amaguen que ho fan. Tots aquests models, que anomenem “caixa negra”, no et donen informació dels paràmetres i no hi ha una transparència que et permeti reproduir el mateix experiment i obtenir el mateix resultat. No han respectat això.

D.A.: Bé, hem viscut el canvi de paradigma de la societat industrial a la societat informacional, i ara a aquesta societat digital. I hem de canviar l’ordre dels valors en aquest sentit. Va haver un moment en que ens  vam alliberar del que era el virtuosisme, de la cosa artesana de la societat industrial, que focalitzava tot el valor de l’artista,o de l’artesà, en el propi format i en el propi dispositiu, que era un dispositiu únic i que entrava en un sistema de valors capitalistes i d’especulació.

Això és una paradoxa, perquè aquesta suposada liberalització que hi ha hagut amb la intel·ligència artificial i amb els processos digitals el que ha fet és posar sobre el terreny a molts més creadors. És a dir, hi ha més gent que té una capacitat per crear que abans no tenia, potser perquè no disposava d’aquestes condicions virtuoses. Però la gran pregunta és: de què viuran tots aquests creadors? I és aquí on crec que si canviem el paradigma i el portem cap al fet que la cultura és un dret, llavors hauríem de crear una cultura que fos cooperativa, amb sistemes de producció oberts o altres alternatives, perquè els de còpia i reproducció que tenim fins ara no ens serveixen. 

M.G.: Sí, actualment és el que està passant, tot i que la intel·ligència artificial no és una cosa tan recent. Al final, l’algoritme i l’aprenentatge automàtic fa molts anys que existeixen en el món acadèmic. El que passa és que ara ha passat d’un món molt acotat a un món més comercial, perquè és una cosa molt atractiva i no cal tenir un coneixement tècnic per poder-la utilitzar. Coincideixo que hem d’anar cap a models oberts que siguin públics, transparents, amb els paràmetres publicats, i que qualsevol persona pugui utilitzar-los. A la Universitat Pompeu Fabra hi ha un grup de recerca sobre tecnologies de la música, que ha estat pioner i ha creat una base de dades completament oberta. I l’artista pot decidir en qualsevol moment què és el que es fa amb aquella música i deixar-la, o no, a disposició de  l’entrenament de la intel·ligència artificial. Cap aquí és on hem d’anar, perquè d’aquesta manera és molt fàcil fer una auditoria de què s’ha utilitzat i què no s’ha utilitzat, fer un watermarking per evitar que hi hagi deep fakes… 

També hi ha molt interès en veure fins on pot arribar la IA per generar, per exemple, música el més semblant possible a la humana. Aquí s’ha vist una oportunitat d’explotació molt gran perquè els algoritmes no tenen drets laborals i, per tant, poden treballar 24 hores al dia. Tens una fàbrica de música semihumana. El que hem de defensar és que són eines per poder explorar la nostra creativitat, per poder trobar noves sonoritats, noves idees paisatgístiques, noves produccions, coses que fins ara no podíem fer perquè no estaven al nostre abast. Però que la IA imiti una cosa que ja pot fer un humà, no beneficia ni al músic ni a l’espectador, i l’únic que fa és reforçar unes tendències econòmiques de certs grans grups tecnològics que no tenen cap interès que hi hagi un sistema econòmic just per a la resta d’artistes. Hem d’anar cap a allò públic, cap al comú. Hi ha d’haver converses entre científics i artistes, i no podem permetre que la moral i l’ètica recaiguin només en l’empresa final que explota l’algoritme. 

D.A.: Tu creus que tenim les eines que necessitem o que volem? Crec que estem atrapats en una voràgine que és absolutament corporativa, i que és la diferència amb els noranta. Llavors tu et creaves fins i tot el teu propi explorador, feies les teves pròpies pàgines web, el codi era obert, hi entraves i feies… Ara ja no. D’altra banda, a Europa anem tard respecte al món corporatiu anglosaxó, el xinès o d’altres. No hem desenvolupat cap model de llenguatge. No tenim cap model de llenguatge creat específicament a Europa, que sigui transparent, lliure, d’accés obert i que estigui construït amb el llegat cultural del que tenim a les universitats, a les unitats científiques de recerca, a les nostres biblioteques, als nostres museus públics europeus…

M.G.: A les universitats diria que sí que hi ha models oberts, però no són comercials i no arriben al gran públic. Igualment, crec que no tenim les eines que voldríem perquè a vegades hi ha una gran disparitat entre artistes en termes d’accés, i també entre l’objectiu artístic i l’objectiu científic, com si faltés alguna comunicació entremig. Per això, és necessari que no treballem aïllats dels artistes la part més tècnica, perquè a vegades ens perdem en allò teòric, en perfeccionar eines. Ara t’ho dic com a enginyera: a mi em passa a vegades, intentes perfeccionar aquella eina que tens i quan la vas a presentar, “ah, però és que això no funciona”. 

D.A.: Quan construïm tot aquest entramat, crec que és important entendre exactament com estem construint l’edifici. Hem perdut la perspectiva sobre els elements dels quals estem parlant: el valor, l’autoria, el copyright… Moltes vegades no tenim clar quines són les capes que necessitem i, sobretot, l’ordre de prioritats. Com endrecem aquestes capes a l’hora de generar un sistema de producció que, per a mi, ha d’estar basat en aquests drets culturals? Al final del que estem parlant és de per a qui estem produint. I estem produint per a un context social.

M.G.: Sí, aquesta és una clau fonamental. I sense uns pressupostos que permetin fer recerca, i sense mecanismes i espais que facilitin que això pugui passar, la producció mai anirà cap al públic ni cap a la societat, sempre serà cap a un mateix, perquè estem en un sistema capitalista, i el sistema al final t’acaba obligant, si no tens recursos, a seguir així.

D.A.: Jo això ho anomeno postcapitalisme de vigilància, una forma més extrema de control sobre la producció cultural on tot el que produïm, cada clic, cada moviment, cada acció, es converteix en dades. I això és del que viu el sistema, de l’atenció. El que necessitem, de fet, és crear sistemes d’atenció que siguin alternatius. I això és molt complicat perquè estem dins d’un sistema de producció capitalista molt sòlid. 

Crec que la cultura digital en els seus inicis abans dels 90 sobretot, comença a ser distributiva i fora del control dels estats. Des del principi es resisteix a ser continguda. Aquesta tensió entre obertura i mercantilització es veu clarament en fenòmens com els NFTs. Una cosa interessant d’aquests és el retorn a la exclusivitat: la tecnologia blockchain et permet generar uns drets que sí que tenen una traçabilitat. Però també genera una paradoxa: tornem a l’exclusivitat de l’accés, i tornem una altra vegada a tancar-nos en un circuit especulatiu que no resol del tot això.

M.G.: La clau és que, honestament, ningú sap realment què és la intel·ligència artificial. És un concepte tan abstracte per l’usuari que no hem de recaure en culpar-lo del seu consum, sinó que necessitem legisladors que sancionin i limitin. Per exemple, en l’impacte mediambiental. En l’ús de recursos naturals per part de corporacions privades ja que aquests són béns públics. 

Cal afegir també que la velocitat a la qual està evolucionant tot no és proporcional al coneixement que s’està adquirint i és molt difícil pensar quines i com han de ser les normes.

D.A.: Sí, per això deia que la cultura digital té aquest component que fa molt difícil que sigui continguda. Coincideixo amb tu que la velocitat agafa a tothom, a tot el sistema, i especialment al sistema educatiu a les escoles: atrapa les bases d’una societat no preparada. Com construïm sistemes per usuaris que faran servir unes tecnologies que aparenten ser accessibles i gratuïtes?

M.G: Però no són gratuïtes. Les pagues, entre d’altres coses, amb les teves dades.

D.A.: Sí. Si tu busques, treballes per Google.

---

Aquesta conversa forma part del programa Revers, que compta amb el suport del Departament de Cultura de la Generalitat de Catalunya i té com a objectiu activar el debat i generar coneixement al voltant de diversos aspectes que afecten l’àmbit de la cultura digital. 

El cicle proposa converses a duo entre creadores, investigadores, desenvolupadores, gestores i altres agents del nostre context per explorar, des de diferents perspectives, temes clau que travessen les pràctiques digitals.

En aquest segon bloc temàtic, dedicat a explorar com els sistemes algorítmics i les lògiques econòmiques reconfiguren la creació, la distribució i el valor cultural, hi participen Xavier Cubeles, Daniel G. Andújar, Mireia de Gràcia i Martina Nadal. La conversa s’obrirà la ciutadania en un debat públic el pròxim 11 de novembre de 2025 a les 18h a l’Antic Teatre.

Aquesta conversa ha estat editada per motius de claredat i concisió.