Approfondimenti
A cura di Alessio Barpi[1]
Abstract – Italiano
L’articolo 50 del Regolamento UE 2024/1689 (AI Act) è la norma che obbliga chi crea e chi utilizza sistemi di intelligenza artificiale a renderli “riconoscibili” agli occhi delle persone. Non un unico obbligo, ma quattro: dire che si sta parlando con una macchina, marcare i contenuti generati artificialmente in modo che i software possano rilevarli, informare le persone quando un sistema analizza le loro emozioni o caratteristiche biometriche, e segnalare deepfake e testi giornalistici scritti dall’IA. Tutti questi obblighi condividono tre regole comuni: l’informazione dev’essere chiara, distinguibile dal resto del contenuto e fornita subito, al primo contatto. Questo articolo ripercorre in linguaggio accessibile ciascuno di questi obblighi, le eccezioni previste (dall’editing fotografico standard alla satira), il rapporto con le altre leggi europee come il GDPR, il sistema sanzionatorio — che può arrivare fino a 15 milioni di euro o al 3% del fatturato mondiale — e le domande a cui, ad oggi, la norma non risponde ancora con piena chiarezza.
Abstract – English
Article 50 of Regulation (EU) 2024/1689 (the AI Act) requires those who build and those who use artificial intelligence systems to make them “recognisable” to people. Not one single duty, but four: disclosing that someone is talking to a machine, labelling AI-generated content so that detection software can identify it, informing people when a system analyses their emotions or biometric traits, and flagging deepfakes and AI-written journalistic text. All these duties share three common rules: the information must be clear, distinguishable from the rest of the content, and provided immediately, at the first contact. This article walks through each of these obligations in plain language, the exceptions provided for (from standard photo editing to satire), the relationship with other EU laws such as the GDPR, the sanctioning system — which can reach up to €15 million or 3% of worldwide turnover — and the questions the provision still leaves open.
Sommario: §1.) Perché la trasparenza non è un optional; §2.) “Stai parlando con un’IA”: la prima regola; §3.) Contenuti “marchiati”: il bollino invisibile dei fornitori; §4.) Quando la macchina legge le emozioni; §5.) Deepfake e notizie artificiali: la regola più importante; §6.) Chiaro, visibile, subito: come va data l’informazione; §7.) Una regola che non cancella le altre; §8.) Le “buone pratiche”: regole morbide per problemi difficili; §9.) Quanto costa non essere trasparenti; §10.) Le domande ancora senza risposta
§1.) Perché la trasparenza non è un optional
Il legislatore europeo ha collocato l’articolo 50 in una parte specifica dell’AI Act, il Capo IV, intitolato «Obblighi di trasparenza per i fornitori e i deployer di determinati sistemi di IA». Il dettaglio non è casuale: significa che la trasparenza non è un accessorio riservato solo ai sistemi di IA più pericolosi — quelli che il Regolamento classifica come “ad alto rischio” in un’altra parte del testo, il Capo III. È un presidio a sé stante, che vale a prescindere dal livello di rischio.
In altre parole: anche un sistema di IA giudicato “innocuo” deve comunque dichiarare la propria natura artificiale, se rientra in una delle situazioni previste dalla norma. Un po’ come l’etichetta degli ingredienti su un prodotto alimentare: non conta se il prodotto è pericoloso o no, l’etichetta va messa comunque, perché il consumatore ha diritto di sapere cosa sta comprando.
Per capire l’articolo 50 servono due definizioni-chiave, che la norma stessa ripartisce in modo diverso.
Il fornitore è chi sviluppa un sistema di IA e lo immette sul mercato con il proprio nome o marchio — un po’ come una casa automobilistica che progetta un’auto e la vende con il proprio logo sul cofano.
Il deployer è invece chi utilizza quel sistema sotto la propria autorità, per la propria attività — come l’azienda di taxi che acquista quell’auto e la mette al lavoro tutti i giorni. Fa eccezione l’uso puramente personale e non professionale, che resta fuori da alcuni obblighi (ne parliamo nell’ultimo paragrafo).
Questa distinzione è essenziale perché l’articolo 50 non scarica tutti gli obblighi sullo stesso soggetto: li ripartisce. In totale sono quattro obblighi sostanziali, due a carico del fornitore e due a carico del deployer, più un pacchetto di regole comuni su come l’informazione deve essere data. Li vediamo uno per uno.
§2.) “Stai parlando con un’IA”: la prima regola
Il primo obbligo (art. 50, par. 1) riguarda il momento più immediato: la conversazione. Se un sistema di IA è pensato per interagire direttamente con le persone — un chatbot, un assistente vocale, un servizio clienti automatizzato — chi lo ha costruito deve progettarlo in modo che chi ci parla sappia di non avere di fronte un essere umano.
L’obbligo è interessante per tre ragioni.
Chi deve rispettarlo: È il fornitore, non il deployer, a doverlo garantire in fase di progettazione. Chi si limita a usare un sistema già costruito in questo modo, in linea di principio, non ha un obbligo autonomo su questo specifico punto.
Quando si applica: Solo ai sistemi pensati per interagire direttamente con le persone. Non riguarda, ad esempio, un software che elabora dati in background senza mai “parlare” con nessuno.
Quando non è necessario dirlo esplicitamente: La norma prevede una clausola di buon senso: l’obbligo non scatta se è già evidente, per una persona «ragionevolmente informata, attenta e avveduta», di trovarsi davanti a un’IA. È lo stesso metro di giudizio usato in altre norme europee sulle pratiche commerciali: non conta l’evidenza in astratto, ma se una persona media, nel contesto concreto, se ne accorgerebbe comunque. Un voicebot con un timbro palesemente sintetico, magari accompagnato da un avviso testuale, potrebbe bastare da solo. Una voce indistinguibile da quella umana, invece, richiede accorgimenti più espliciti — proprio perché lì l’inganno, anche involontario, è più facile.
C’è infine un’eccezione per le attività di polizia e giustizia (accertamento, prevenzione, indagine o perseguimento di reati), che però cade se il sistema è messo a disposizione del pubblico per segnalare un reato: in quel caso, il cittadino deve comunque sapere che sta parlando con un’IA.
§3.) Contenuti “marchiati”: il bollino invisibile dei fornitori
Il secondo obbligo (art. 50, par. 2) sposta l’attenzione dalla conversazione al contenuto. Riguarda i fornitori di sistemi che generano audio, immagini, video o testi sintetici — pensiamo ai generatori di immagini o alle IA che scrivono testi.
Qui la logica cambia: non si tratta di avvisare l’utente con un messaggio leggibile, ma di inserire nel contenuto stesso una marcatura tecnica, pensata per essere letta da un software di rilevamento, non necessariamente da un occhio umano. È un po’ come l’inchiostro invisibile sulle banconote, leggibile solo con lo strumento giusto: il contenuto porta “cucita addosso” l’informazione della propria origine artificiale, anche se a prima vista non si vede nulla.
La norma non pretende la perfezione tecnica: richiede soluzioni «efficaci, interoperabili, solide e affidabili nella misura in cui ciò sia tecnicamente possibile», tenendo conto dei costi e dello stato dell’arte. È quindi un obbligo di impegno serio e proporzionato, non di risultato assoluto.
C’è però un’eccezione pratica molto rilevante: l’obbligo non si applica quando l’IA svolge una semplice funzione di assistenza per l’editing standard — correzione colore, nitidezza, correttori ortografici, filtri audio — cioè quando non modifica in modo sostanziale il significato del contenuto originale fornito dal deployer. Se l’IA è solo un attrezzo che rifinisce un lavoro che resta comunque “umano” nella sostanza, non c’è motivo di marcarlo come artificiale.
§4.) Quando la macchina legge le emozioni
Con il terzo obbligo (art. 50, par. 3) l’attenzione della norma si sposta per la prima volta dal fornitore al deployer — cioè da chi costruisce il sistema a chi lo usa concretamente. Riguarda due categorie particolarmente delicate: i sistemi di riconoscimento delle emozioni e quelli di categorizzazione biometrica (ad esempio sistemi che, analizzando un volto o una voce, inferiscono uno stato d’animo o classificano caratteristiche della persona).
In questo caso il deployer deve fare due cose: informare le persone coinvolte sul funzionamento del sistema, e trattare i dati personali raccolti nel pieno rispetto del GDPR e delle altre normative europee in materia (il Regolamento UE 2018/1725 e la Direttiva UE 2016/680, che riguardano rispettivamente le istituzioni UE e il settore giustizia/polizia).
La norma non specifica quanto dettagliata debba essere l’informazione, ma parlare del «funzionamento del sistema» implica qualcosa in più della semplice notizia «qui c’è un’IA»: presuppone spiegare, in termini comprensibili, quali dati vengono raccolti, come vengono elaborati e per quale scopo. Anche qui vale l’eccezione per le attività di polizia e giustizia autorizzate dalla legge, purché siano garantite tutele adeguate per i diritti delle persone coinvolte.
§5.) Deepfake e notizie artificiali: la regola più importante
Arriviamo al cuore della disciplina (art. 50, par. 4): l’obbligo — di nuovo a carico del deployer — di dichiarare l’esistenza di due tipologie di contenuto particolarmente sensibili.
I deepfake. Un deepfake, secondo la definizione della norma, è un contenuto — immagine, audio o video — generato o manipolato dall’IA che assomiglia a persone, oggetti, luoghi o eventi reali, e che apparirebbe falsamente autentico o veritiero a una persona. Sono due condizioni che devono esserci entrambe: non basta che il contenuto sia artificiale, deve anche somigliare a qualcosa di vero e sembrare — a chi lo guarda — genuino. Un’immagine dichiaratamente artistica o astratta, un personaggio di fantasia non riconducibile a nessuno di reale, non rientrano nella definizione: manca l’inganno sulla realtà. È la differenza tra una statua di cera dichiaratamente tale e una così realistica da poter essere scambiata, anche solo per un attimo, per una persona in carne e ossa.
Un dettaglio non banale: la norma usa sia il verbo “genera” sia “manipola”. Non serve che l’IA crei un contenuto da zero — basta che modifichi una foto reale al punto da farla apparire come la registrazione autentica di qualcosa che non è mai accaduto.
L’obbligo di dichiararlo grava sul deployer — chi effettivamente utilizza e diffonde il contenuto — perché è lui a sapere per cosa lo sta usando e a poterne controllare la diffusione, a differenza del fornitore del software.
Esiste un’eccezione per le opere manifestamente artistiche, creative, satiriche o fittizie: in questi casi l’obbligo si allenta, limitandosi a rivelare l’esistenza di contenuti generati o manipolati, in modo che non ostacoli la fruizione dell’opera stessa — pensiamo a un film che utilizza deepfake a scopo narrativo: non serve un’etichetta su ogni fotogramma, basta un’indicazione, ad esempio nei titoli di coda.
I testi giornalistici generati dall’IA. La seconda ipotesi riguarda chi genera o manipola testi pubblicati per informare il pubblico su questioni di interesse pubblico: anche qui va dichiarata l’origine artificiale. Ma c’è un’eccezione ampia e importante: se il contenuto è stato sottoposto a revisione umana o controllo editoriale, e una persona fisica o giuridica se ne assume la responsabilità editoriale, l’obbligo di dichiarazione non scatta. L’idea di fondo è che la responsabilità editoriale — chi firma e risponde di ciò che pubblica — assorbe già il rischio di disinformazione, indipendentemente dallo strumento usato per scrivere la bozza.
§6.) Chiaro, visibile, subito: come va data l’informazione
I quattro obblighi appena visti condividono un’unica cornice di regole (art. 50, par. 5), che vale la pena isolare perché è quella che, in pratica, fa la differenza tra un’informativa efficace e una di facciata.
Chiarezza: l’informazione deve essere comprensibile per una persona comune, non per un tecnico. Niente formule oscure o ambigue.
Distinguibilità: l’informazione deve risaltare rispetto al resto del contenuto, non essere nascosta in fondo a un documento, tra termini e condizioni, o in una pagina separata del sito che nessuno legge.
Tempismo: va fornita al più tardi al momento della prima interazione o esposizione al contenuto — non dopo. È come l’avviso sugli allergeni in un menù di ristorante: deve comparire proprio lì, nel momento in cui si ordina, non in un documento a parte da consultare (magari) dopo aver già mangiato.
§7.) Una regola che non cancella le altre
Una precisazione importante (art. 50, par. 6): gli obblighi appena descritti non sostituiscono le altre regole già esistenti. Restano fermi, ad esempio, gli obblighi di trasparenza previsti per i sistemi di IA ad alto rischio (Capo III dello stesso Regolamento), quelli del GDPR, e quelli della normativa sulle pratiche commerciali sleali. In pratica, i diversi regimi di trasparenza si sommano, non si escludono a vicenda: rispettare l’articolo 50 non basta, da solo, a mettersi in regola con tutto il resto.
§8.) Le “buone pratiche”: regole morbide per problemi difficili
L’AI Act non pretende di aver previsto ogni dettaglio tecnico. Per questo (art. 50, par. 7) affida all’Ufficio per l’IA — l’organismo europeo dedicato — il compito di incoraggiare l’elaborazione di codici di buone pratiche a livello europeo, per rendere più efficace l’attuazione degli obblighi di rilevazione ed etichettatura dei contenuti artificiali. La Commissione può approvarli formalmente e, se li ritiene inadeguati, può intervenire direttamente fissando regole comuni.
È un approccio tipico della regolazione europea più recente: la legge fissa i principi generali, mentre i dettagli operativi vengono affinati nel tempo attraverso strumenti più flessibili. Lo stesso Regolamento (art. 96) prevede che la Commissione elabori linee guida sull’applicazione pratica di questi obblighi, con un’attenzione dichiarata alle esigenze delle piccole e medie imprese.
§9.) Quanto costa non essere trasparenti
Le regole viste finora non sono raccomandazioni: la loro violazione è sanzionata dall’art. 99 del Regolamento con multe amministrative che possono arrivare fino a 15 milioni di euro oppure, per le imprese, fino al 3% del fatturato mondiale totale annuo dell’esercizio precedente, se questo importo è più alto. Per le piccole e medie imprese, comprese le start-up, si applica comunque il valore più basso tra i due.
Nel calcolare l’importo, l’autorità competente considera diversi fattori: la gravità e la durata della violazione, quante persone ne sono state coinvolte, il livello del danno, le dimensioni e il fatturato dell’operatore, i vantaggi economici ottenuti, il grado di collaborazione con le autorità, se la violazione sia dolosa o colposa, e le eventuali azioni prese per limitare il danno.
Un dato che dice molto: questa cornice sanzionatoria è la stessa prevista per la violazione degli obblighi più severi imposti ai fornitori dei sistemi di IA ad alto rischio. In altre parole, per il legislatore europeo la trasparenza non è un obbligo di serie B: vale, in termini di conseguenze, quanto le regole sostanziali più stringenti dell’intero Regolamento.
§10.) Le domande ancora senza risposta
Nessuna norma, per quanto dettagliata, riesce a prevedere tutti i casi concreti. L’articolo 50 lascia aperte alcune questioni che, verosimilmente, verranno chiarite nel tempo dalle linee guida della Commissione e dalla prassi applicativa.
Dove finisce il ritocco e dove inizia la manipolazione? L’esenzione per l’editing “standard” è chiara in teoria, meno nella pratica: un fotografo che usa l’IA per cambiare illuminazione e sfondo di un ritratto sta facendo un ritocco di routine o una modifica sostanziale? La norma richiede una valutazione caso per caso.
Chi risponde, tra professionista e cliente finale? Se un fotografo consegna a un cliente un contenuto che rientra nella definizione di deepfake, avvertendolo della sua origine artificiale, e poi il cliente lo pubblica senza dirlo a sua volta, chi è responsabile? Sulla base della definizione di deployer, la risposta più plausibile è che il cliente stesso, pubblicando il contenuto sotto la propria autorità, diventi a sua volta deployer — e quindi responsabile della mancata dichiarazione. Resta però aperto il tema del coordinamento tra le due posizioni.
Lo stesso standard vale per tutti? Il parametro della “persona ragionevolmente informata, attenta e avveduta” è mutuato da altre norme europee, ma applicato all’IA solleva un dubbio: vale allo stesso modo per tutti gli utenti, o un sistema che interagisce con minori o persone vulnerabili richiede cautele maggiori? La norma non lo dice esplicitamente, anche se lo spirito protettivo del Regolamento sembra suggerire una risposta affermativa.
Fin dove arriva la legge europea? L’AI Act si applica anche a fornitori e deployer stabiliti fuori dall’Unione Europea, se l’output del sistema è comunque utilizzato nell’UE. Un deployer statunitense che genera un deepfake diffuso online potrebbe quindi, in teoria, essere soggetto a questi obblighi — anche se la capacità concreta degli Stati membri di far rispettare la norma a soggetti extra-UE resta un tema aperto.
Cosa conta come “uso personale”? Gli obblighi non si applicano a chi utilizza sistemi di IA nel corso di un’attività «puramente personale non professionale». Ma cosa significa, in concreto? Un privato che genera un deepfake per divertimento e lo pubblica sui social è esente? Il termine “puramente personale” fa pensare di no, se il contenuto raggiunge un pubblico indeterminato — ma è la formulazione della norma stessa a lasciare margini di incertezza.
Conclusione
L’articolo 50 dell’AI Act non risolve tutti i problemi posti dall’intelligenza artificiale, e lo abbiamo visto: la linea tra un ritocco fotografico e una manipolazione sostanziale resta sottile, così come quella tra un contenuto pubblicato “per gioco” sui social e uno che raggiunge un pubblico indeterminato. Ma la norma fissa un principio semplice, che vale la pena ricordare ogni volta che si apre una chat, si guarda un video o si legge una notizia online: abbiamo il diritto di sapere con chi — o con cosa — stiamo interagendo. Non è un dettaglio burocratico. È la condizione minima perché la fiducia nel digitale, messa sempre più alla prova dalla capacità delle macchine di imitare l’autentico, possa continuare a reggere.
[1] Contributo realizzato da Alessio Barpi, Dottore in Giurisprudenza (LMG/01) e in Servizi Legali all’Impresa e alla Pubblica Amministrazione – S.L.I.P.A. (L-14).
