Fare AI in modo legale: AI Act, GDPR e quello che i vendor non ti dicono

Il rischio si classifica prima del tool

L’AI Act ragiona per livelli di rischio, e il livello dipende dall’uso, non dalla tecnologia. Lo stesso modello è quasi irrilevante se riassume i verbali delle riunioni, ed è tutt’altra cosa se contribuisce a selezionare candidati. La domanda giusta non è «che AI usiamo», è «a cosa serve, su chi incide, cosa succede se sbaglia».

Ecco perché la classificazione va fatta prima di scegliere lo strumento. Il livello di rischio determina che documentazione ti servirà, che supervisione umana devi garantire, quali dati puoi usare e quali fornitori sono accettabili. Scegliendo il tool per primo, fissi i tuoi obblighi senza saperlo.

In pratica costa poco. Scrivi in tre righe cosa fa il sistema, su quale decisione pesa e chi è toccato dall’output. Se in quelle righe compaiono parole come assunzione, credito, accesso a un servizio o valutazione del personale, quel caso va trattato diversamente dal primo giorno.

Fornitore o utilizzatore non è lo stesso

La normativa distingue chi sviluppa e immette sul mercato un sistema di AI da chi lo utilizza nella propria attività. Gli obblighi più gravosi — progettazione, documentazione tecnica, valutazione di conformità — stanno in capo a chi sviluppa; chi usa ha obblighi diversi, più leggeri ma tutt’altro che inesistenti.

Il punto che sfugge è che il ruolo non lo decide il contratto, lo decide quello che fai davvero. Se rimetti sul mercato a tuo nome un sistema di terzi, se lo modifichi in modo sostanziale o se lo usi per una finalità diversa da quella prevista, puoi essere trattato come chi lo sviluppa. Parecchi progetti interni di «personalizzazione» finiscono lì senza accorgersene.

La domanda va posta all’inizio: in questo caso d’uso, noi chi siamo? E se siamo utilizzatori, cosa ci tocca comunque.

• Usare il sistema secondo le istruzioni del fornitore, e conservare quelle istruzioni.
• Affidare la supervisione umana a chi ha competenza e autorità reale per fermare l’output.
• Verificare che i dati in ingresso siano pertinenti rispetto alla finalità dichiarata.
• Conservare i log per il tempo necessario a ricostruire cosa è successo e perché.
• Informare le persone quando l’output le riguarda, prima e non dopo il reclamo.

Cosa devi dire, e a chi

La trasparenza ha due destinatari, e le aziende di solito ne curano uno solo. Il primo è il cliente: se sta interagendo con un sistema automatico e non con una persona, deve poterlo capire. Vale per l’assistenza, per i bot commerciali, per le risposte generate a tuo nome e per i contenuti sintetici.

Il secondo è interno, ed è quello dimenticato: i dipendenti. Se un sistema incide sul loro lavoro — assegna task, misura produttività, filtra candidature — l’informazione va data prima e in forma comprensibile. E qui non c’è solo l’AI Act: si somma quello che il diritto del lavoro già chiede sugli strumenti di controllo e sulle rappresentanze.

Il test pratico: se una persona scoprisse per caso che quel sistema esiste, si sentirebbe informata o presa in giro? Se è la seconda, la comunicazione va rifatta prima del lancio.

I dati personali finiscono nei prompt

Quando una persona incolla in un prompt il nome di un cliente, un’email o una perizia, stai trattando dati personali. Non conta che sia un gesto di due secondi fatto dal browser: il GDPR si applica lo stesso, anche a ciò che il modello restituisce.

Servono le cose di sempre, in un contesto nuovo. Una base giuridica individuata prima, non ricostruita dopo. Un’informativa che dica che i dati passano da un sistema di AI e da quali fornitori. E la minimizzazione presa sul serio: quasi sempre il prompt funziona con dati pseudonimizzati, solo che nessuno l’ha verificato perché incollare tutto era più veloce.

Due situazioni meritano attenzione extra. Le categorie particolari di dati — salute, convinzioni, vicende giudiziarie — che alzano l’asticella. E il caso in cui l’output produca da solo un effetto significativo sulla persona: lì entra in gioco la disciplina sulle decisioni automatizzate, e la supervisione umana dev’essere sostanziale, non una firma su una decisione già presa.

Cosa chiedere per contratto a un fornitore

Il commerciale ti dirà che il prodotto è «GDPR compliant» e «AI Act ready». Sono etichette, non impegni. Conta cosa c’è scritto nel contratto, e cosa succede il giorno in cui qualcosa va storto o decidi di andartene.

• Dove stanno fisicamente i dati e verso quali Paesi vengono trasferiti, sub-fornitori inclusi.
• Se input e output vengono usati per addestrare i modelli, e se l’esclusione è attiva di default o va richiesta.
• L’elenco dei sub-responsabili, come ti viene notificato un cambio e cosa puoi fare se non ti sta bene.
• Quali log conserva il fornitore, per quanto tempo, e cosa ottieni se devi ricostruire una decisione.
• Cosa succede all’uscita: in che formato riavrai i dati, entro quanto vengono cancellati e chi te lo certifica.
• Chi risponde se l’output causa un danno, e quale documentazione tecnica ti verrà data per i tuoi obblighi.

Comincia dal registro

Niente di tutto questo funziona se non sai cosa sta già girando in azienda. Il primo lavoro concreto è il più banale, e quasi nessuno lo fa: un registro dei sistemi di AI in uso. All’inizio basta un foglio.

Una riga per sistema e poche colonne: cosa fa, chi lo usa, chi è il responsabile interno, quale fornitore c’è dietro, quali dati tocca, che livello di rischio gli hai attribuito e quando l’hai rivisto. Aggiungi una colonna «autorizzato sì/no»: serve a far emergere la shadow AI, gli strumenti che le persone usano già senza dirlo.

Compilarlo richiede giorni, non mesi. Ti mostra dove sei esposto davvero, invece che dove temi di esserlo, e ti dà il documento che il tuo legale e il tuo DPO chiederanno per primo.

Ultima nota: questa è una guida operativa, non un parere legale. Ogni situazione ha dettagli che cambiano la risposta. Usala per fare le domande giuste, poi falle validare da chi risponde con la propria firma.