Un oggetto culturale chiamato dataset

Questo articolo è pubblicato in collaborazione con

In un’epoca in cui le immagini vengono trattate come dati e i dataset diventano strumenti predittivi, il talk Archivi e curatela incontrano l’IA, a cura di Sineglossa per il Creators Day- organizzato da Delizia Media, lo scorso13 giugno a Bologna – ha aperto uno spazio di riflessione urgente su ciò che l’Intelligenza Artificiale fa vedere, e su ciò che lascia fuori campo. Dalla curatela in campo digitale come gesto politico alla corruzione del dato come pratica artistica: la ricercatrice Gaia Tedone e l’artista visivo Paolo Bufalini si stanno interrogando sul dataset come oggetto culturale ed etico. Ecco come.

Nell’atmosfera industriale dello Spazio Bianco del DumBO di Bologna, lo scorso 13 giugno, il talk Archivi e curatela incontrano l’AI, a cura di Sineglossa per il Creators Day¹, è durato circa trenta minuti ma tanto è bastato per innescare una catena di riflessioni che si è poi sedimentata nelle due interviste alla ricercatrice, curatrice e umanista digitale Gaia Tedone e all’artista visivo Paolo Bufalini. Due percorsi diversi ma un punto d’incontro comune: l’attenzione profonda per l’immagine, per ciò che dice, per ciò che cela, per come viene classificata nei sistemi di Intelligenza Artificiale, per la polvere che si posa sopra, quando il tempo passa o quando lo si lascia entrare nel dataset.

Cosa sono le immagini nei sistemi di Intelligenza Artificiale? Chi decide cosa rappresentano e per quali scopi vengono raccolte e organizzate? E cosa resta dell’immagine quando cade la verosimiglianza? Quando il volto svanisce e il dato si corrompe? Queste sono le domande che attraversano la ricerca di Tedone, e che riecheggiano anche nei processi artistici di Bufalini.

 

Cosa è un’immagine nei sistemi di IA

Durante il talk, mentre scorrevano slides di installazioni futuristiche e pratiche artistiche basate sull’Intelligenza Artificiale o le macchine in generale, Gaia Tedone ha detto qualcosa che è risuonato a lungo: «Il dataset è un oggetto culturale». Un’affermazione che può suonare ovvia per chi frequenta già questi discorsi, ma che rovescia completamente la logica dominante per i non addetti ai lavori, soprattutto per quanto riguarda le immagini.

Gaia Tedone è una ricercatrice, curatrice e umanista digitale che esplora l’impatto dell’Intelligenza Artificiale sui processi di co-creazione e co-curatela, sia all’interno che al di fuori dei confini dell’arte. Ha conseguito un dottorato di ricerca nel 2019 presso il Centre for the Study of the Networked Image alla London South Bank University. Ricopre incarichi di insegnamento presso l’Università degli Studi di Bergamo, l’Università Cattolica del Sacro Cuore di Milano e la Scuola Politecnico del Design di Milano. Parallelamente, svolge attività di formazione e divulgazione sull’Intelligenza Artificiale Generativa nell’ambito scolastico. Sta scrivendo un libro sulla curatela digitale con Marialaura Ghidini, in uscita a fine anno.

A partire dal progetto This image is not available in your country², una semplice maglietta che riporta il messaggio di errore tipico delle immagini oscurate per restrizioni geografiche, «ho iniziato a capire che la tecnologia opera in maniera ben precisa», racconta Gaia Tedone. «La circolazione delle immagini in rete è legata a dinamiche di potere che sono spesso invisibili», così come le immagini stesse che hanno un lato opaco, “numerico” e che resta invisibile. «Quel progetto è stato il dispositivo che mi ha permesso, durante il dottorato, di mettere a fuoco l’idea dell’immagine in rete, o networked image», racconta. «Un’immagine che ha una doppia natura: da un lato è interfaccia visiva, ciò che vediamo e interpretiamo, dall’altro è un oggetto computazionale fatto di dati e metadati, segnali che circolano, si accumulano e vengono letti da macchine».

In questa prospettiva, l’immagine non è più solo rappresentazione, ma infrastruttura: un nodo all’interno di una rete che la trasforma e la misura. Non avremmo, insomma, l’Intelligenza Artificiale come la conosciamo oggi se l’immagine digitale non avesse questa doppia valenza. Nei sistemi di Intelligenza Artificiale, cioè, l’immagine è una forma visiva che viene spogliata della sua ambiguità, segmentata e classificata in modo rigido per essere letta e processata da modelli statistici³.

Questo perché nei sistemi di Intelligenza Artificiale, il significato non emerge più in uno spazio discorsivo o culturale, ma è determinato da chi costruisce, annota e impiega i dataset: ingegneri, informatici e aziende.

«Il labeling, ossia il processo di attribuzione di etichette semantiche alle immagini, non è mai neutro», sottolinea Tedone, «e per lo sviluppo dell’Intelligenza Artificiale generativa, sono stati necessari tantissimi dati e immagini, molte delle quali sono state prese da internet, portando con sé tutti gli stereotipi della nostra cultura».

In questo senso, l’immagine è governata da una struttura di potere “algoritmica” che decide cosa è visibile, cosa è rilevante e cosa resta fuori.

L’artista come artigiano del dato

In un sistema in cui l’industria dell’IA tratta le immagini come risorse da cui estrarre valore, riducendole a codici e categorie entro una logica economica⁴ e predittiva, la curatela può diventare un atto di resistenza e di risignificazione.

Per Tedone, infatti, la curatela in ambito digitale, «è un metodo di organizzazione di senso visuale e semantico, ossia di linguaggi e di codici», che permette di leggere e mettere in discussione i meccanismi culturali delle immagini.

Durante il talk, ha portato due esempi emblematici: le mostre Data/Set/Match, alla Photographers’ Gallery di Londra⁵, e Training Humans, alla Fondazione Prada⁶. In entrambi i casi, i dataset creati per scopo scientifico e reinterpretati dagli artisti non sono semplicemente esposti, ma analizzati criticamente, amplificati ed estremizzati per mostrare fino a che punto la classificazione automatica agisce sul nostro sguardo. Sono progetti che spingono all’estremo i presupposti delle tecnologie di visione artificiale per far emergere le loro logiche interne: estetiche, politiche e storiche.

Paolo Bufalini è un artista visivo di base a Bologna. La sua ricerca ruota attorno all’interazione tra esternalità e atmosfere mentali, intendendo la pratica artistica e in particolar modo la mostra come spazio simbolico attraverso cui operare sovrapposizioni temporali e mediali, mettendo in dialogo il tecnologico e l’affettivo, il passato profondo e i futuri possibili, il documentale e l’immaginario. Il suo lavoro è stato esposto in spazi istituzionali e indipendenti in Italia e all’estero, tra cui: Iuno, Roma; Fondazione Home Movies, Bologna; Palazzo Ducale, Genova; NUB project space, Pistoia; Biennale di Gubbio, Palazzo Ducale, Gubbio; Museo di Palazzo Collicola, Spoleto; Marktstudio, Bologna; La Rada, Locarno; Gelateria Sogni di Ghiaccio, Bologna; Eataly Art House, Verona; Civitella Ranieri Foundation, Umbertide (PG); Dolomiti Contemporanee, c/o Castello di Andraz (BL). È attualmente dottorando presso l’Accademia di Belle Arti di Napoli.

È qui che entra in gioco la figura dell’“artista-artigiano”, come lo ha definito Tedone, ossia chi usa l’Intelligenza Artificiale non solo come uno strumento da usare, ma come una materia da modellare partendo dai dati, costruendola e mettendola in discussione.

«Gli artisti che lavorano con dataset diventano artigiani della propria base di dati», ha spiegato Tedone. «Diventano autori della creazione dell’opera a partire da fasi del processo che normalmente, come utenti, non tocchiamo. Si costruiscono il proprio archivio, le proprie immagini e le proprie etichette. Fotografando, ad esempio, almeno centocinquanta tulipani⁷ per un lavoro, hanno la possibilità di classificarli e creare il proprio dataset». Così si può rendere evidente che dietro ogni immagine generata ci sono precise scelte di classificazione con implicazioni estetiche e semantiche e c’è del lavoro umano. «È un gesto artigianale, ma anche politico» ed è esattamente questo approccio che ritroviamo nel lavoro di Paolo Bufalini, Argo, in cui è stato addestrato un modello di Intelligenza Artificiale a partire dal proprio archivio familiare. 1300 fotografie di sua madre, suo padre e sua sorella per esplorare il dataset come oggetto culturale e la dimensione dell’onirico e produrre una serie sintografica⁸ di dormienti che sembrano reali ma non lo sono. Se Tedone, da un lato, studia le opere di artisti che costruiscono archivi per risignificare le immagini, Bufalini incarna, dall’altro, questa figura per cui, come ha raccontato, «costruire un dataset personale significa scegliere cosa conservare, cosa mostrare e cosa dimenticare».

Ti consigliamo di leggere

17 Novembre 2024

Il passato come performance

Lo spazio del verosimile nel progetto Argo

Comunicazione Data Art Digitalizzazione Intelligenza Artificiale Performance

La stereotipia delle immagini: verso il collasso

«Il modello tendeva a generare visi estremamente armonici, perfezionati nelle loro parti – labbra, nasi, bocche» racconta Bufalini che, anche quando cercava di introdurre variazioni nel processo di generazione delle immagini, vedeva apparire volti sempre, anche se sottilmente, “armonizzati”. «C’era una pressione interna del modello verso la stereotipia», nonostante il fine tuning⁹ sul modello di base già pre-addestrato.

Bufalini ha voluto che una traccia sottile di questa “levigatura algoritmica” restasse: come indice della logica predittiva dello strumento, ma anche come specchio disturbante del funzionamento stesso del ritratto, perché «quello che emerge è una frizione interessante ma strutturale. Si può lavorare per contrastarla, ma entro certi limiti».

«Non è solo questione di dati: è il modo in cui funziona il modello, che per sua natura statistica tenderà sempre a generalizzare. E quindi a marginalizzare tutto ciò che esce dal centro».

La risposta di Bufalini, quindi, non è nel rigetto, ma nel lavoro per sottrazione.

Lo stereotipo è accolto, mostrato ma poi svuotato e in questa direzione vanno, non a caso, le immagini della nuova serie Rückfiguren, un ciclo di produzione che fa parte del suo progetto di dottorato presso l’Accademia di Belle Arti di Napoli ma partito mesi prima in parallelo ad Argo¹⁰ e che, infatti, ne utilizza lo stesso processo generativo. In Rückfiguren – il cui titolo richiama il motivo caro al Romanticismo della figura di spalle in contemplazione e allude a una forma di Sublime tecnologico – proprio le figure di spalle segnano una soglia. «Negando il volto, mi concentro sulla superficie dell’immagine e sulla grana. E lì emerge qualcosa di più puro, più prossimo all’essenza del processo generativo» spiega Bufalini, il cui lavoro diventa così uno scavo verso l’essenza del processo generativo.

«Vorrei sperimentare anche la corruzione del dataset: per collassare il modello su se stesso e osservare cosa resta».

Questo processo, che consiste nel riallenare più volte un modello generativo sulle immagini che esso stesso ha prodotto, «è un modo per portare l’IA ai suoi limiti, ma anche per rivelarne il funzionamento interno, i punti ciechi e le fratture».

«È interessante osservare cosa succede quando un modello impara da se stesso», perché porta a un progressivo scollamento dalla struttura originale. «È lì che si apre un nuovo campo: non tanto un fallimento tecnico, quanto un altro modo di pensare l’immagine».

Nel solco di quanto sostiene Gaia Tedone anche Paolo Bufalini, infatti, si sta interrogando su cosa accade all’immagine nella dimensione digitale. «Per quanto possa essere fedele, un’immagine non è mai la realtà», afferma. «C’è sempre uno scarto e questo accade anche nella fotografia perché ciò che essa mostra è comunque il risultato di una scelta: di un’inquadratura, di un tempo di esposizione o di un punto di vista. In quello scarto l’immagine acquista consistenza propria: diventa realtà a sua volta e un agente nel mondo». L’Intelligenza Artificiale, allora, che è stata allenata con immagini e classificazioni stereotipate, «non reinterpreta la realtà, ma interpreta interpretazioni», afferma Bufalini.

«Non lavora con il mondo, ma con le sue rappresentazioni filtrate. È una forma di indessicalità di secondo grado¹¹»

Una condizione in cui l’immagine perde il suo legame con il reale, non ne è più una traccia ma, in questo caso, è una sintesi astratta di dati preesistenti, risultato di una previsione modellata su rappresentazioni precedenti. «Per questo nella preparazione del dataset, quando scansiono in alta definizione le immagini, non le ripulisco dalla polvere, che viene così riassorbita nel riaddestramento (fine tuning) e diventa una traccia di realtà in immagini che hanno perso il legame con il loro contesto d’origine», racconta Bufalini.

Linee guida per dataset etici

Parlare di dataset oggi significa parlare di archivi, ma anche di memorie, di esclusioni e di desideri. Significa attraversare l’immagine come si attraversa una soglia, lasciando che quella polvere, anziché essere pulita via, si posi. Il dialogo tra Tedone e Bufalini è un punto di incrocio importante: da un lato la curatrice che legge il dato come oggetto culturale, dall’altro l’artista che si fa curatore del proprio processo generativo.

Entrambi mostrano come sia ineludibile oggi pensare al dataset come dispositivo estetico ed etico. Entrambi hanno già in mente delle proposte concrete: un insieme di linee guida etiche per artisti che lavorano con IA generativa, a partire da principi come trasparenza, dichiarazione della provenienza dei dati e attenzione all’effetto stereotipico. Non solo, come afferma Tedone: «Non possiamo più permetterci di lasciare la creazione dei dataset solo nelle mani dei tecnici e delle big tech», afferma. «Serve un approccio interdisciplinare: artisti, teorici, archivisti, designer dell’interazione, curatori. Ognuno con uno sguardo diverso sul dato per interrompere le dinamiche estrattive e proporre nuove forme di rappresentazione».

 

1. L’evento gratuito organizzato da Delizia Media, che mette in connessione le organizzazioni culturali con il mondo dei nuovi media e della creazione di contenuti. L’edizione del 2025 si è svolta allo Spazio Bianco del Dumbo di Bologna e ha accolto circa 600 visitatori. Per saperne di più: https://www.deliziamedia.com/creatorsday ↩︎
2. Scopri il progetto: Tedone, G. (2017). Tracing networked images: an emerging method for online curation. Journal of Media Practice, 18(1), 51–62. https://doi.org/10.1080/14682753.2017.1305843 ↩︎
3. Per approfondire: Tedone, G. (2019, November 29). From spectacle to extraction. and all over again. Unthinking.Photography. https://unthinking.photography/articles/from-spectacle-to-extraction-and-all-over-again ↩︎
4. Una economia in cui i significati (immagini, testi, simboli, dati) vengono prodotti, distribuiti, controllati e scambiati all’interno di un sistema che determina chi può dire cosa, come e con quali effetti sociali o materiali. Per saperne di più: Tedone, G. (2019, November 29). From spectacle to extraction. and all over again. Unthinking.Photography. https://unthinking.photography/articles/from-spectacle-to-extraction-and-all-over-again ↩︎
5. Scopri la mostra: https://thephotographersgallery.org.uk/data-set-match ↩︎
6. Scopri la mostra: https://www.fondazioneprada.org/project/training-humans/ ↩︎
7. Il riferimento è all’opera di Anna Ridler: http://annaridler.com/myriad-tulips ↩︎
8. Un’immagine generata sinteticamente tramite l’uso di Intelligenza Artificiale (IA) e modelli text-to-image. Si distingue dalla fotografia tradizionale perché non si basa sulla luce o sulla registrazione di un’immagine del mondo reale, ma su algoritmi che creano l’immagine basandosi su un input testuale o su altre immagini esistenti. ↩︎
9. Il fine-tuning è il riaddestramento di un modello di Intelligenza Artificiale già esistente su un insieme di dati più piccolo e specifico, per adattarlo a uno stile, un contenuto o un contesto particolare. ↩︎
10. Ne abbiamo già parlato qui: https://mangrovia.info/passato-performance-paolo-bufalini-argo/ ↩︎
11. Nella teoria fotografica, l’idea di indice, sviluppata da Charles Sanders Peirce e ripresa da Rosalind Krauss, definisce la fotografia come un segno indice, cioè una traccia lasciata da un evento reale: qualcosa è stato davanti alla macchina fotografica, e la luce ha impresso quella presenza sulla pellicola o sul sensore. Anche se ciò che è fotografato è messo in scena o costruito, ciò che conta è che qualcosa sia fisicamente accaduto davanti all’obiettivo. Con l’immagine generata da IA, questo legame viene meno. Da qui, l’idea di indessicalità. Per approfondire: Krauss, R. (1977). Notes on the index: Seventies Art in America. October, 3, 68–81. https://doi.org/10.2307/778437https://www.jstor.org/stable/778437 ↩︎