Mireia de Gracia y Daniel G. Andújar protagonizan la tercera conversación del programa Revers, un espacio impulsado por HacTe que promueve el diálogo crítico sobre las tensiones y oportunidades de la cultura digital contemporánea.
Mireia De Gracia es ingeniera de Telecomunicaciones y discípulo (DJ), con un gran interés en las Tecnologías del Sonido y de la Música. Ha formado parte del proyecto AIDJb2b, una cocreación de la Universidad Politécnica de Cataluña (UPC) y el Sónar. Concretamente, su participación en este grupo se ha centrado en la exploración las posibilidades de una interacción IA-humano en el ámbito de una sesión de DJ en directo. Daniel G. Andújar es artista visual, teórico y activista. Desde la década de los noventa, su obra investiga la relación entre lo real y lo virtual, y las estructuras de control que emergen en la sociedad digital. Mediante proyectos como Technologies To The People™ o Postcapital Archive, plantea una crítica al capitalismo de vigilancia y defiende el derecho al acceso tecnológico como derecho cultural fundamental. Miembro histórico de irational.org, su obra combina investigación, intervención pública e ironía institucional para cuestionar las promesas de la democracia digital.
Aquest diàleg engega un nou cicle temàtic, sota el nom de L’algoritme i el capital, que se centra en el paper de la intel·ligència artificial en la creació i la recerca, i en els nous reptes que planteja per als drets culturals, l’autoria i la producció col·lectiva. De Gracia i Andújar reflexionen sobre la transformació dels processos creatius, el valor del treball artístic en un ecosistema automatitzat i la necessitat de models oberts, ètics i transparents que situïn la tecnologia al servei del bé comú.
La conversación recorre temas como la precarización laboral, el capitalismo de vigilancia, el retorno a la exclusividad con los NFTs, o la urgencia de una educación tecnológica crítica capaz de responder a la velocidad del cambio.
Mireia de Gracia: Recientemente ha habido algunas inteligencias artificiales que han podido reproducir estilos de diseño o estilos fotográficos de algunos autores. Y creo que es importante preguntarse: tú como artista, ¿cómo te sentirías si un día te despiertas y ves medio internet compartiendo imágenes de tu estilo, de las que no tienes ni la autoría ni la idea?
Daniel G. Andújar: Yo creo que la cultura es un sistema de transferencias y no hay nada que sea original en este sentido. De hecho, es algo que siempre he defendido. Militante en movimientos de Creative Commons de los años noventa, era de la parte seguramente más radical, que defendía la libertad total. Y eso implica reclamar el derecho a apropiarse.
El tema de la apropiación -el collage, el sampler, la mezcla de varios elementos…- es una cuestión que siempre ha estado encima de la mesa. La inteligencia artificial es un modelo que se entrena de forma muy similar a como nos hemos entrenado los artistas a lo largo de la historia. Es decir: leyendo libros, viendo una portada, leyendo un autor que te lleva a otro, apropiándote, cogiendo…
No creo que lo que está pasando en este momento sea algo mucho más radical, y la cuestión radica en dónde ponemos el foco, en que entendemos por valor en los procesos culturales y en la cultura en general.
M.G.: El problema principal que nos encontramos ahora es que toda esta música u obras que se han utilizado para entrenar las IAs tienen unas licencias que no se han respetado. Y en muchos casos, las empresas tecnológicas más grandes que hay detrás no sólo no pueden utilizar esta música, sino que esconden que lo hacen. Todos estos modelos, que llamamos «caja negra», no te dan información de los parámetros y no hay una transparencia que te permita reproducir el mismo experimento y obtener el mismo resultado. No han respetado eso.
D.A.: Bien, hemos vivido el cambio de paradigma de la sociedad industrial a la sociedad informacional, y ahora a esta sociedad digital. Y tenemos que cambiar el orden de los valores en este sentido. Hubo un momento en que nos liberamos de lo que era el virtuosismo, de la cosa artesana de la sociedad industrial, que focalizaba todo el valor del artista,o del artesano, en el propio formato y en el propio dispositivo, que era un dispositivo único y que entraba en un sistema de valores capitalistas y de especulación.
Esto es una paradoja, porque esta supuesta liberalización que ha habido con la inteligencia artificial y con los procesos digitales lo que ha hecho es poner sobre el terreno a muchos más creadores. Es decir, hay más gente que tiene una capacidad para crear que antes no tenía, quizás porque no disponía de estas condiciones virtuosas. Pero la gran pregunta es: ¿de qué vivirán todos estos creadores? Y es aquí donde creo que si cambiamos el paradigma y lo llevamos hacia el hecho de que la cultura es un derecho, entonces tendríamos que crear una cultura que fuera cooperativa, con sistemas de producción abiertos u otras alternativas, porque los de copia y reproducción que tenemos hasta ahora no nos sirven.
M.G.: Sí, actualmente es lo que está pasando, aunque la inteligencia artificial no es algo tan reciente. Al final, el algoritmo y el aprendizaje automático hace muchos años que existen en el mundo académico. Lo que pasa es que ahora ha pasado de un mundo muy acotado a un mundo más comercial, porque es algo muy atractivo y no hay que tener un conocimiento técnico para poder utilizarla. Coincido en que debemos ir hacia modelos abiertos que sean públicos, transparentes, con los parámetros publicados, y que cualquier persona pueda utilizarlos. En la Universidad Pompeu Fabra hay un grupo de investigación sobre tecnologías de la música, que ha sido pionero y ha creado una base de datos completamente abierta. Y el artista puede decidir en cualquier momento qué es lo que se hace con esa música y dejarla, o no, a disposición del entrenamiento de la inteligencia artificial. Hacia aquí es donde tenemos que ir, porque de esta manera es muy fácil hacer una auditoría de qué se ha utilizado y qué no se ha utilizado, hacer un watermarking para evitar que haya deep fakes…
También hay mucho interés en ver hasta dónde puede llegar la IA para generar, por ejemplo, música lo más parecida posible a la humana. Aquí se ha visto una oportunidad de explotación muy grande porque los algoritmos no tienen derechos laborales y, por lo tanto, pueden trabajar 24 horas al día. Tienes una fábrica de música semihumana. Lo que tenemos que defender es que son herramientas para poder explorar nuestra creatividad, para poder encontrar nuevas sonoridades, nuevas ideas paisajísticas, nuevas producciones, cosas que hasta ahora no podíamos hacer porque no estaban a nuestro alcance. Pero que la IA imite algo que ya puede hacer un humano, no beneficia ni al músico ni al espectador, y lo único que hace es reforzar unas tendencias económicas de ciertos grandes grupos tecnológicos que no tienen ningún interés en que haya un sistema económico justo para el resto de artistas. Tenemos que ir hacia lo público, hacia lo común. Tiene que haber conversaciones entre científicos y artistas, y no podemos permitir que la moral y la ética recaigan sólo en la empresa final que explota el algoritmo.
D.A.: ¿Tú crees que tenemos las herramientas que necesitamos o que queremos? Creo que estamos atrapados en una vorágine que es absolutamente corporativa, y que es la diferencia con los noventa. Entonces tú te creabas incluso tu propio explorador, hacías tus propias páginas web, el código era abierto, entrabas y hacías… Ahora ya no. Por otro lado, en Europa vamos tarde respecto al mundo corporativo anglosajón, el chino u otros. No hemos desarrollado ningún modelo de lenguaje. No tenemos ningún modelo de lenguaje creado específicamente en Europa, que sea transparente, libre, de acceso abierto y que esté construido con el legado cultural del que tenemos en las universidades, en las unidades científicas de investigación, en nuestras bibliotecas, en nuestros museos públicos europeos…
M.G.: En las universidades diría que sí hay modelos abiertos, pero no son comerciales y no llegan al gran público. Igualmente, creo que no tenemos las herramientas que queríamos porque a veces hay una gran disparidad entre artistas en términos de acceso, y también entre el objetivo artístico y el objetivo científico, como si faltara alguna comunicación en medio. Por ello, es necesario que no trabajemos aislados de los artistas la parte más técnica, porque a veces nos perdemos en lo teórico, en perfeccionar herramientas. Ahora te lo digo como ingeniera: a mí me pasa a veces, intentas perfeccionar esa herramienta que tienes y cuando la vas a presentar, «ah, pero es que eso no funciona».
D.A.: Cuando construimos todo este entramado, creo que es importante entender exactamente cómo estamos construyendo el edificio. Hemos perdido la perspectiva sobre los elementos de los que estamos hablando: el valor, la autoría, el copyright… Muchas veces no tenemos claro cuáles son las capas que necesitamos y, sobre todo, el orden de prioridades. ¿Cómo arreglamos estas capas a la hora de generar un sistema de producción que, para mí, debe estar basado en estos derechos culturales? Al final de lo que estamos hablando es de para quien estamos produciendo. Y estamos produciendo para un contexto social.
M.G.: Sí, esta es una clave fundamental. Y sin unos presupuestos que permitan hacer investigación, y sin mecanismos y espacios que faciliten que esto pueda pasar, la producción nunca irá hacia lo público ni hacia la sociedad, siempre será hacia uno mismo, porque estamos en un sistema capitalista, y el sistema al final te acaba obligando, si no tienes recursos, a seguir así.
D.A.: Yo eso lo llamo postcapitalismo de vigilancia, una forma más extrema de control sobre la producción cultural donde todo lo que producimos, cada clic, cada movimiento, cada acción, se convierte en datos. Y eso es de lo que vive el sistema, de la atención. Lo que necesitamos, de hecho, es crear sistemas de atención que sean alternativos. Y eso es muy complicado porque estamos dentro de un sistema de producción capitalista muy sólido.
Creo que la cultura digital en sus inicios antes de los 90 sobre todo, empieza a ser distributiva y fuera del control de los estados. Desde el principio se resiste a ser contenida. Esta tensión entre apertura y mercantilización se ve claramente en fenómenos como los NFTs. Algo interesante de estos es el retorno a la exclusividad: la tecnología blockchain te permite generar unos derechos que sí tienen una trazabilidad. Pero también genera una paradoja: volvemos a la exclusividad del acceso, y volvemos otra vez a encerrarnos en un circuito especulativo que no resuelve del todo esto.
M.G.: La clave es que, honestamente, nadie sabe realmente qué es la inteligencia artificial. Es un concepto tan abstracto para el usuario que no debemos recaer al culparlo de su consumo, sino que necesitamos legisladores que sancionen y limiten. Por ejemplo, en el impacto medioambiental. En el uso de recursos naturales por parte de corporaciones privadas ya que estos son bienes públicos.
Hay que añadir también que la velocidad a la que está evolucionando todo no es proporcional al conocimiento que se está adquiriendo y es muy difícil pensar cuáles y cómo deben ser las normas.
D.A.: Sí, por eso decía que la cultura digital tiene ese componente que hace muy difícil que sea contenida. Coincido contigo en que la velocidad coge a todo el mundo, a todo el sistema, y especialmente al sistema educativo en las escuelas: atrapa las bases de una sociedad no preparada. ¿Cómo construimos sistemas para usuarios que usarán unas tecnologías que aparentan ser accesibles y gratuitas?
M.G: Pero no son gratuitas. Las pagas, entre otras cosas, con tus datos.
D.A.: Sí. Si tú buscas, trabajas para Google.
Esta conversación forma parte del programa Revers, que cuenta con el apoyo del Departamento de Cultura de la Generalitat de Catalunya y tiene como objetivo activar el debate y generar conocimiento en torno a diversos aspectos que afectan al ámbito de la cultura digital.
El ciclo propone conversaciones a dúo entre creadoras, investigadoras, desarrolladoras, gestoras y otros agentes de nuestro contexto para explorar, desde diferentes perspectivas, temas clave que atraviesan las prácticas digitales.
En este segundo bloque temático, dedicado a explorar cómo los sistemas algorítmicos y las lógicas económicas reconfiguran la creación, la distribución y el valor cultural, participan Xavier Cubeles, Daniel G. Andújar, Mireia de Gràcia y Martina Nadal. La conversación se abrirá la ciudadanía en un debate público el próximo 11 de noviembre de 2025 a las 18h en el Antiguo Teatro.
Esta conversación ha sido editada por motivos de claridad y concisión.
