Quando la fattibilità tecnica di un'idea basata sull'intelligenza artificiale è acquisita, resta da verificarne la praticabilità legale, amministrativa e burocratica. Su un terreno di frontiera tutto va controllato e normato, e le aziende che adottano queste soluzioni si interrogano sui rischi. La buona notizia è che, affrontato nel modo corretto, si tratta di un non problema. Conviene però distinguere tre grandi casistiche: il GDPR, la sicurezza e la privacy dei propri dati, e l'AI Act.
GDPR: nessuna eccezione per l'AI
Sul GDPR la risposta è semplice: le norme sono esattamente le stesse di qualunque altro progetto digitale. Serve il consenso degli utenti per i trattamenti, va archiviato correttamente, va permessa la revoca. Se c'è profilazione serve il relativo consenso. Quando un assistente AI chiede all'utente di qualificarsi, ad esempio per essere ricontattato, dovrà esporre i flag con i trattamenti e i riferimenti alle pagine di privacy policy, e richiedere consensi disgiunti in modalità opt in e non opt out. Il malinteso ricorrente è proprio questo: trattandosi di intelligenza artificiale, le persone incaricate della privacy in azienda assumono che sia tutto diverso, mentre vanno fatte esattamente le stesse cose di prima.
La riservatezza dei dati aziendali
Il vero cuore della questione è la riservatezza dei propri dati. Un'AI aziendale si nutre di una base documentale fatta di dati di ERP, CRM, procedure, processi, schede prodotto: informazioni che sono l'azienda stessa. Due cose non devono accadere: questi dati non devono uscire dal perimetro aziendale, e non devono essere utilizzati per addestrare le intelligenze artificiali di altri. Un esempio chiarisce il rischio: se ci si registra su uno strumento gratuito, vi si carica un documento aziendale e lo si interroga, si ottiene un buon risultato ma si è ceduto quel documento fuori dall'azienda. Nelle condizioni d'uso gratuite, spesso, è scritto che quelle informazioni possono diventare materiale potenziale per il training dei modelli futuri. Per un uso aziendale serve quindi un contesto in cui il dato resti segregato nei sistemi aziendali, e quando viene passato ai motori venga regolato da term and condition precisi che stabiliscano la non registrazione e il non utilizzo per il training.
Come un assistente costruito bene tutela i dati
Quando si crea un assistente nel modo corretto, i dati aziendali vengono trasformati in un enorme database vettoriale, fatto di puri numeri. Non è più intelligibile nella forma originale e non si può tornare indietro: da cento documenti trasformati in vettori non si risale ai cento documenti. È concettualmente un passaggio a senso unico, una prima salvaguardia. La seconda è che quel database risiede sui server e sul tenant dell'azienda, segregato dentro strumenti aziendali. La terza riguarda l'interrogazione: si prelevano solo porzioni del database vettoriale, le si consegnano insieme alle istruzioni al motore tramite comunicazioni crittografate, in forma non riconducibile ai documenti originari, e una volta usate vengono scartate e non archiviate. Tutto questo è dimostrato dal fatto che un LLM è stateless: non ha memoria, nemmeno dell'ultima cosa detta, se non si costruisce un sistema esterno che la gestisca. Questo prova che il motore non salva nulla e non usa quei dati per migliorarsi.
Il vero rischio: l'uso indiscriminato degli strumenti free
Questi ragionamenti tranquillizzano le aziende sul proprio progetto, ma sollevano un'altra preoccupazione: l'uso indiscriminato degli strumenti gratuiti da parte delle persone, ogni giorno, anche per migliorare la produttività personale. Condividere documentazione aziendale con questi strumenti la porta fuori dall'azienda. Un primo passo è la consapevolezza che, quando il prodotto è gratuito, il prodotto sei tu. Le versioni a pagamento spesso consentono di esprimere il consenso sul trattenimento delle informazioni, ma la gestione varia da strumento a strumento e talvolta va richiesta esplicitamente: serve quindi una policy, leggere i term and condition, avere i settaggi giusti. Per strumenti che costano poche decine di euro al mese, però, quelle garanzie restano deboli. Diverso è un contratto Enterprise per l'uso delle API, con un livello di esplicitazione molto forte: è lo stesso contratto che i grandi fornitori usano con aziende molto strutturate, che non lo adotterebbero se non fosse super garantito sul fronte privacy. La parte più complessa, quindi, non è il progetto in sé, ma normare l'uso di questi strumenti in azienda, come già accadde con i social media, con in più un'opacità maggiore.
L'AI Act e la piramide del rischio
L'ultimo tema è l'AI Act, su cui l'Unione Europea ha lavorato per anni con un grande lavoro, riuscendo anche a virare per includere le casistiche più nuove. L'impianto è una piramide del rischio: la punta rossa è il livello massimo, che degrada fino al verde di ciò che non comporta rischi. Al vertice ci sono le pratiche completamente vietate, quelle che gravitano nell'orbita delle logiche da dittatura, come il riconoscimento sociale e la classificazione delle persone. Sotto c'è il rischio alto, dove si può agire ma con un'approvazione ex ante prima dell'immissione sul mercato: dispositivi medici, recruiting, ambiti in cui l'informazione scambiata è molto sensibile e dove un giudizio errato può discriminare o impattare su scelte importanti.
Trasparenza nei livelli più bassi
Più in basso si colloca gran parte dell'AI generativa e degli assistenti conversazionali, dove non serve un'autorizzazione ma occorre dichiarare cosa sta accadendo: lo statement che avvisa l'utente che sta interagendo con una macchina, con i relativi disclaimer su limiti e rischi. La massima trasparenza è la regola. Al livello più basso c'è infine l'AI che lavora nel backoffice, come la logica algoritmica di un motore di ricerca, a rischio sostanzialmente zero. Dichiarare alle persone che stanno parlando con un'intelligenza artificiale non è solo un fatto normativo, ma un approccio corretto: la sensibilità delle persone su questo punto crescerà nel tempo, fino a far adottare comportamenti diversi a seconda che si parli con una persona o con una macchina, una consapevolezza che probabilmente maturerà nell'arco di una generazione. Resta infine aperto un tema delicato, quello del copyright dei contenuti prodotti dall'AI, ad esempio una musica: per il testo di marketing non ci sono problemi, ma per la proprietà di un'opera creativa la normativa esiste ma è ancora interpretativa e legata al contesto.