Fotoritocco e postproduzione con l’AI: quando una modifica diventa un contenuto generato artificialmente

La manipolazione di contenuti reali

Qui non parliamo di immagini generate con sistemi d’intelligenza artificiale ma di utilizzare l’intelligenza artificiale per modificare immagini generate da un umano.

Devi sapere che la trasparenza è uno dei concetti fondamentali alla base dell’AI ACT: questo significa che quando un contenuto può essere forviante per l’utente, deve esserci un’adeguata informativa. Nella postproduzione fotografica siamo spesso ai confini, ci sono limiti interpretabili e quindi: “Avvocato come devo fare? Ho bisogno di regole concrete per i miei dipendenti“.

Devi però anche sapere che il Regolamento Europeo non è esaustivo: siamo noi che a livello interpretativo, nel concreto, siamo chiamati a comprendere ed adottare una scelta in linea con la ratio della normativa. C’è poi la Commissione Europea che ci aiuta ma le Linee Guida adottate in adempimento all’articolo 96 dell Regolamento Europeo AI ACT (“La Commissione elabora orientamenti sull’attuazione pratica del presente regolamento, in particolare per quanto riguarda: d) l’attuazione pratica degli obblighi di trasparenza di cui all’articolo 50“) non sono vincolanti. Un’interpretazione autorevole può essere data solo dalla Corte di Giustizia dell’Unione Europea chiamata a decidere.

C’è quindi la tua agenzia, ci siamo noi come studio, c’è il Parlamento Europeo, c’è il legislatore italiano, c’è la Commissione, c’è la Corte di Giustizia. Siamo effettivamente in molti, ed è per quello che spesso ricordo ai miei clienti che è un tema da non banalizzare quello degli aspetti legali dell’AI. Ma quello che possiamo fare noi come Studio è quindi affiancarti concretamente nel compiere delle scelte ragionevoli e ragionate, dimostrabili e documentate.

Fotoritocco e postproduzione: come funziona con l’AI?

I punti di partenza sono tre.

1) Avere chiara la definizione di fotoritocco.

Purtroppo, non è una definizione normativa; questo quindi non ci aiuta. Ci siamo detti in altri articoli (se sei un fotografo ti suggerisco di partire da qui), che “il fotoritoccatore è colui che interviene nella fase successiva allo scatto, eseguendo degli adattamenti o delle variazioni ed apportando delle migliorie all’immagine eseguita dal fotografo“.

2) Sapere cosa si intende per modifica con sistema d’intelligenza artificiale

Queste definizioni ce le abbiamo e ne abbiamo parlato nell’articolo dedicato alla generazione e manipolazione di contenuti (lo puoi leggere qui).

Per limitare il contesto alla sola attività di manipolazione, intendiamo un’attività svolta su contenuti già esistenti che vengono alterati tramite un sistema di AI.

3) Annotare il processo creativo e l’intervento del sistema d’intelligenza artificiale

Qui ci sono alcune domande per orientarsi: qual è il contenuto di partenza? qual è l’intervento che chiediamo al sistema d’intelligenza artificiale? qual è l’output? quali sono le modifiche che sono state compiute? Prendi nota di tutto che ti può essere utile,

Ti porto alcune domande e risposte, che mi sono fatta anche io stessa, e che mi hanno dato l’occasione per approfondire questa nuova normativa. Le aziende con cui lavoro poi, si stanno organizzando internamente per dare risposte concrete ai propri dipendenti e collaboratori.

Ecco infatti che il nostro ruolo è quello di affiancare in questo delicato ed importante passaggio per l’adozione di regole interne coerenti, efficaci, proprozionate e sopratutto uniformi. Questo per evitare che vi siano aree grigie, dubbi e che possano sorgere problematiche.

Con tante aziende siamo partiti dagli esempi concreti, dai casi dubbi, per elaborare una sorta di manuale d’uso, da convivere e mantenere aggiornato. Se vuoi sapere come funziona questo approccio molto concreto, scrivici.

Passiamo al fotoritocco. Ecco alcune domande di orientamento per comprendere se le operazioni possono rientrare nel concetto di deep fake e quindi imporre l’etichettatura.

La rimozione di un oggetto è un contenuto generato con AI?

Il ragionamento di partenza è comprendere qual è l’impatto di questo oggetto in relazione all’immagine e qual è il messaggio sostanziale del contenuto.

Se la rimozione dell’oggetto non altera la percezione da parte del pubblico, quindi non è un elemento essenziale che influenza, inganna va a forviare con riguardo all’autenticità e veridicità, allora probabilmente non richiede la marchiatura.

In caso contrario, alimenta una falsa apparenza di autenticità o di veridicità. Considera che il fotorealismo non è di per è deepfake, ma più il contenuto è verosimile, più è probabile lo sia.

La sostituzione dello sfondo deve essere dichiarata?

Non sempre, perchè devi partire dalle considerazioni sopra. La generazione o manipolazione tramite AI di scene di sfondo, se si tratta di una semplice ambientazione aggiunta ad un prodotto venduto tramite e-commerce, se questa non va ad influire sulla percezione del pubblico anche in relazione ad esempio all’uso del prodotto, allora non è necessaria la dichiarazione.

Se invece, in relazione all’uso del prodotto, al pubblico di riferimento, al contesto, la sostituzione o aggiunta dell’ambientazione influisce sulla percezione e quindi ad esempio l’utente può essere indotto a compiere una scelta che non avrebbe adottato, allora è necessaria la segnalazione.

Il come fare l’etichettatura, è un tema di cui abbiamo discusso qui e qui, ma se vuoi approfondire, contattaci.

Cosa cambia tra correzione tecnica e modifica sostanziale?

La valutazione deve essere sempre fatta nel suo complesso, tenendo conto della somiglianza, del messaggio sostanziale, del contesto di diffusione, della composizione del pubblico, delle aspettative.

É fondamentale chiedersi se si tratta di aspetti sostanziali o irrilevanti, se quindi la modifica ha un’importanza marginale per la valutazione da parte di una persona in relazione all’autenticità o veridicità del contenuto.

È marginale ad esempio la relazione dell’illuminazione, la correzione del colore, la riduzione del rumore. Questo sempre sulla base del consueto e dell’impatto sulla percezione delle persone.

La correzione del colore a fini prettamente estetici, non ha alcuna influenza sulla percezione da parte dell’utente del contenuto. Se invece la correzione del colore ha effetti ad esempio con riguardo alla corretta interpretazione del contenuto, alla percezione del prodotto, alla comunicazione corretta, allora è un deepfake. Se può influire negativamente usulla percezione che una persona ha dell’autenticità e della veridicità del contenuto.

Il fotoritocco o la post con AI è deepfake? Come fare

Non è quindi possibile adottare una soluzione univoca: non sempre il fotoritocco con sistemi di AI porta ad un contenuto deepfake e non sempre la modifica di un’immagine tramite sistema di AI è deepake.

L’aspetto principale da considerare è appunto il fatto se l’editing, le pratiche tecniche adottate, le modifiche possono influenzare negativamente sulla percezione che una persona ha dell’autenticità e della veridicità del contenuto.

Se è probabile, allora il contenuto rientra nel deep fake e deve essere etichettato, altrimenti è una modifica che però rimane con un’importanza marginale.

Ti suggeriamo di partire da una valutazione complessiva, ecco alcune domande che ti faremo in consulenza:

1. Qual è l’attività che hai compiuto nell’immagine? Aggiunte, modifiche, rimozioni?
2. Quali sono i destinatari dell’immagine?
3. Qual è lo scopo dell’immagine?
4. Qual è il contesto in cui viene diffusa e perchè?
5. Possiamo dire che la modifica ha un impatto sulle persone? Basso, medio, alto?

Se desideri approfondire l’argomento, oltre a poter navigare tra le risorse di questo sito internet, puoi contattarci per fissare un appuntamento e valutare come gestirla internamente in azienda.