Sistemi di AI che interagiscono con le persone: i chatbot. Quali obblighi per la tua agenzia di comunicazione?

Quali sono i sistemi di AI che interagiscono con le persone?

Ci sono software house che come core business sviluppano sistemi di AI o elementi AI destinati ad essere integrati a prodotti anche fisici o servizi. Ci sono poi aziende o agenzie di comunicazione che utilizzano questi sistemi, li integrano con i propri prodotti digitali e li distribuiscono. Sono due categorie diverse, ma nemmeno così tanto. Quali sono gli obblighi informativi verso la persona che interagisce con il sistema?

Attenzione, se stai cercando invece gli obblighi della tua agenzia quando vai a generare contenuti, non sei nel posto giusto, ti rinviamo a questo articolo.

Devi partire da un presupposto: tutte le persone fisiche che interagiscono con il sistema di AI devono essere informate in modo efficace, coerente, tempestivo, lungo tutto il ciclo di vita dell’interazione (dalla prima, all’immissione sul mercato del prodotto ovvero alla messa in servizio) di star interagendo con un sistema di intelligenza artificiale.

Ti faccio degli esempi reali:

• chatbot in basso a destra di un sito internet che hai sviluppato per un tuo cliente (e-commerce BtoC) che si attiva e interagisce con le persone che pongono delle domande;
• agente AI che acquisisce le richieste delle persone, ospiti di un ristorante o di un hotel, e che fornisce le risposte adeguate (in termini di menu o di servizi in camera)
• generatore di immagini integrato all’interno di un totem di un centro commerciale

Il quesito è: quali sono, se ci sono, gli obblighi a cui l’azienda (quale?) deve adempiere prima della messa a disposizione di questi strumenti? Partiamo con l’identificare il soggetto su cui ricadono gli obblighi, per poi identificare quelli che possono essere gli obblighi.

Il concetto di fornitore di sistemi di AI

Il Regolamento Europeo AI ACT, all’articolo 3 paragrafo 3 ci dice che è fornitore la persona fisica o giuridica, autorità pubblica, agenzia, o altro organismo che sviluppa sistemi di intelligenza artificiale, li fa sviluppare e li immette sul mercato dell’unione o li mette in sevizio a proprio nome o con il proprio marchio.

Attenzione quindi, non è solo la software house che concretamente scrive il codice, ma è anche il soggetto che incarica a sviluppare il sistema. E ancora, attenzione, che se il sistema è integrato in un gestionale con il marchio dell’azienda, destinato ad interagire con le persone, anche qui, il fornitore è il titolare del marchio.

Certamente, qui stiamo parlando di obblighi normativi, poi c’è tutta la gestione contrattuale (che va necessariamente aggiornata a seguito dell’introduzione dell’AI nei tuoi flussi operativi, leggi qui), ma nei confronti dell’utente finale, se non sei tu a scrivere il codice, non significa che tu non sia obbligato alla trasparenza.

Ed è infatti qui che stiamo maggiormente affiancando le agenzie di comunicazione che integrano i propri servizi con sistemi di AI, magari acquisiti esternamente, ma poi fatti propri, brandizzati, marchiati, messi a disposizione e destinati all’interazione con la persona fisica.

Esempio:: chatbot acquistato all’esterno, integrato nel sito internet sviluppato dall’agenzia a favore del cliente finale, destinato ad interagire con l’utente persona fisica che interagisce prima dell’acquisto all’interno del sito internet.

Oppure aziende che prendono sistemi di AI già esistenti immessi sul mercato e lo vanno a modificare con nuovi dati di addestramento e ad integrare con proprio know how, andandolo poi a mettere in servizio con il proprio nome e marchio; anche in questo caso, l’azienda diventa fornitore e quindi responsabile del nuovo sistema.

Esempio: i clienti finali dell’agenzia che possono interagire con un sistema messo a disposizione per creare dei contenuti da pubblicare.

L’agenzia di comunicazione come “fornitore”: gli obblighi verso le persone

Quando l’agenzia di comunicazione è un fornitore di sistemi di AI che interagiscono con le persone, significa che deve progettare e sviluppare il sistema in modo tale che la persona interessata sia informata del fatto che sta interagendo con un sistema di AI.

L’obiettivo principale di questo obbligo è consentire alla persona di assumere decisioni informate in relazione ai risultati del sistema, evitare che la persona faccia eccessivo affidamento sulle risposte automatiche e consentire quindi di calibrare la valutazione e non deporre troppa fiducia sul risultato. Questa è la sintesi di quanto ci dice il Considerando 132 della Legge sull’AI.

I chatbot IA e gli obblighi informativi

La situazione è quella in cui vi è lo sviluppo di chatbot destinati ad essere integrati all’interno di siti internet che l’agenzia di comunicazione sviluppa nell’interesse di un proprio cliente finale. I chatbot sono poi destinati ad interagire direttamente con le persone fisiche che possono porre domande e ricevere delle risposte.

Il chatbot potrebbe esser marchiato a nome del cliente e sviluppato direttamente dall’agenzia o per conto della stessa su incarico verso uno sviluppatore terzo. Non ci addentriamo sulla contrattualistica che puoi approfondire in altri articoli, qui, qui, qui.

Sulla base di questo quindi potrebbe accadere che il ruolo dell’agenzia sia effettivamente quello di “fornitore” ai sensi della Legge sull’AI. mIn questo caso sarà l’agenzia a doversi attivare per fornire un’adeguata informativa alla persona fisica. Vediamo come fare nel concreto.

I 4 (quattro) requisiti per qualificare un chatbot AI e un sistema AI che interagisce con le persone

In tutti i casi in cui ci sia un sistema di AI destinato ad interagire con le persone, ci sono degli obblighi di trasparenza, previsti dall’articolo 50 paragrafo 1 della Legge AI. Ci sono però dei requisiti, per far scattare l’obbligo di informazione. Ci sono in realtà anche delle eccezioni che però non affrontiamo qui.

1) Il chatbot dev’essere effettivamente un sistema di intelligenza artificiale. Intendo dire che deve soddisfare gli elementi della definizione di sistema di AI previsto dalla Legge AI e non deve essere un meccanismo di risposta automatica (tipo email di OOO). L’articolo 3 paragrafo 1 della Legge AI stabilisce che è un sistema di AI “un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni, o decisioni che possono influenzare ambienti fisici o virtuali.

2) Il sistema deve essere destinato ad interagire, quindi deve esserci uno scambio bidirezionale di informazioni, una conversazione in pratica. può essere anche audio o video. Ci deve essere una richiesta da parte della persona e una risposta da parte del sistema pressoché contestualmente.

3) Deve esserci un’interazione diretta quindi in tempo reale o quasi in tempo reale. Non può esserci una persona umana che fa da filtro e a cui vengono esposti i risultati prima di essere forniti.

4) La conversazione deve avvenire con persone fisiche, che possono essere consumatori, professionisti, utenti, persone che utilizzano il sistema per proprio conto o per conto di terzi. Se noi agiamo come rappresentanti della nostra azienda, comunque siamo persone fisiche destinatarie della medesima tutela.

Comprenderai quindi che non tutti i sistemi di intelligenza artificiale rientrano negli obblighi informativi di trasparenza. É fondamentale fare una valutazione del caso e capire se scatta l’obbligo o non scatta l’obbligo, sulla base dei requisiti di cui sopra.

Ti possiamo dare supporto già in fase di progettazione per stabilire poi quelli che sono gli step successivi.

Gli obblighi di informazione di un chatbot AI e di un sistema AI

L’informazione alla persona fisica che sta interagendo con il sistema di AI deve essere data durante il funzionamento e al più tardi al momento della prima interazione con ala persona.

Il fornitore (ad esempio l’agenzia di comunicazione che si è occupata dello sviluppo, o l’ha incaricato, o ha brandizzato il sistema) è quindi responsabile: deve garantire che questa informazione venga data in modo efficace e coerente, per tutto il ciclo di vita del sistema.

Come fornire l’informativa alla persona?

Gli obblighi di informativa come previsti dalla Legge AI non sono stingenti. Siamo quindi noi, insieme, in sede di consulenza a stabilire le modalità con cui concretamente dare adempimento all’obbligo.

È importante infatti stabilire il formato, le modalità di comunicazione, l’accessibilità all’informazione, il contenuto, il formato della notifica e progettare la comunicazione in modo coerente ed adeguato, ecc.

Ti possiamo aiutare a formulare l’informativa alla persona in modo corretto in base al tipo di sistema. L’informazione non può essere resa di default, o copia-incolla, ma richiede un adeguato approfondimento partendo proprio da quanto ti abbiamo riportato sopra.

Photo by Brett Jordan