La protezione dei dati personali e la moderazione dei contenuti nelle piattaforme di modelli generativi

L'integrazione dei modelli generativi nell'ecosistema digitale globale solleva questioni complesse riguardo alla protezione dei dati personali e alla moderazione dei contenuti. Le normative esistenti, come la Direttiva sul Commercio Elettronico (2000/31/CE), hanno cercato di stabilire principi per il corretto funzionamento dei servizi online, ma la rapidità con cui si evolvono le tecnologie come MidJourney, ChatGPT e Bard ha evidenziato lacune significative nelle politiche di protezione dei dati e di gestione dei contenuti.

La situazione appare ancor più complicata quando si considerano i diritti legati alla protezione dei dati personali, che in fase iniziale di sviluppo dei modelli generativi erano spesso ignorati o solo marginalmente trattati. In particolare, molti fornitori di modelli non avevano politiche di privacy proprie, ma facevano riferimento a quelle generali delle aziende madri, che spesso non erano specificamente adattate alla gestione dei modelli di AI generativa. Inoltre, le opzioni per esercitare i diritti di protezione dei dati erano limitate, con pochi strumenti per gli utenti per esercitare diritti come la cancellazione dei dati, la portabilità, la rettifica o il diritto di opposizione al trattamento automatizzato.

Nonostante ciò, le problematiche legate alla protezione dei dati sono tutt'altro che risolte. Se i dati personali vengono utilizzati per addestrare i modelli, devono essere giustificati con una base giuridica adeguata. Il concetto di "diritto all'oblio" è stato uno dei temi più dibattuti, soprattutto in relazione alla compatibilità tra il trattamento di dati personali e le esigenze di formazione dei modelli. In molti casi, l'applicazione della normativa GDPR ai modelli generativi è ancora in fase di definizione, con linee guida che sono in corso di elaborazione da parte del Comitato Europeo per la Protezione dei Dati (EDPB).

Nel panorama in evoluzione delle piattaforme di modelli generativi, emerge un problema fondamentale: la protezione dei dati e la moderazione dei contenuti devono essere affrontate non solo come singole questioni, ma come un contesto interconnesso in cui i diritti degli utenti devono essere protetti, ma anche garantita una moderazione trasparente e responsabile. Il rafforzamento della governance digitale e delle politiche di protezione dei dati sarà fondamentale per il futuro di queste tecnologie.

Oltre a questi aspetti, è fondamentale che i lettori comprendano il contesto giuridico in cui operano le piattaforme di AI generativa, soprattutto alla luce delle normative regionali e internazionali. Mentre la DMCA offre un quadro di riferimento principalmente per gli Stati Uniti, il GDPR e altre leggi locali stanno stabilendo nuovi standard di protezione per i cittadini. Pertanto, le piattaforme devono non solo conformarsi a questi standard, ma anche attuare politiche interne di moderazione dei contenuti che siano coerenti e prevedibili, in modo da evitare un eccesso di discrezionalità che potrebbe danneggiare gli utenti. La creazione di un sistema di governance più equo e trasparente sarà una delle sfide principali per le tecnologie emergenti.

L'intelligenza artificiale generativa e la sua rappresentazione della realtà: implicazioni epistemologiche e legali

La differenza fondamentale tra l'uomo e l'AI generativa risiede nella natura della conoscenza. Gli esseri umani, infatti, sono in grado di operare una "ascesa semantica", cioè di passare dal linguaggio alla comprensione profonda di ciò che rappresentano le parole, mentre Gen AI non possiede questa capacità. Le sue risposte sono il risultato di una manipolazione statistica di parametri, priva di un'effettiva consapevolezza semantica del contenuto. La rappresentazione della realtà offerta da Gen AI, quindi, pur potendo essere accurata in determinate circostanze, non è mai fondata su un sistema di verifica intersoggettiva del suo valore epistemico.

L'impossibilità di attribuire significato o di validare l'affidabilità degli output generati da Gen AI solleva interrogativi cruciali sul suo impatto nella presa di decisioni. Ad esempio, i modelli di linguaggio come ChatGPT possono fornire risposte variabili o anche contraddittorie, mettendo in evidenza l'incapacità del sistema di garantire una coerenza epistemica nelle sue produzioni. Ciò pone il problema della riproducibilità e del controllo delle risposte, dal momento che chi controlla le domande controlla le risposte e, di conseguenza, la realtà stessa.

Dal punto di vista legale, l'incapacità di Gen AI di fornire una spiegazione causale o predittiva valida limita la sua utilità come strumento di supporto decisionale nelle questioni giuridiche. La legge ha sempre avuto il compito di determinare l'entità e i limiti delle spiegazioni causali, stabilendo il legame tra eventi e le loro conseguenze legali. Tuttavia, Gen AI non è in grado di tracciare tale catena causale né di prevedere con certezza le implicazioni future di un evento. Questo solleva la questione di come il diritto possa regolare un evento quando non è in grado di determinare la provenienza e le conseguenze della conoscenza prodotta.

Il modello di Gen AI, quindi, non solo manca della capacità di conferire significato alle informazioni, ma impedisce anche una valutazione intersoggettiva e un controllo continuo da parte di una comunità di esperti. Il diritto, al contrario, è una costruzione sociale che si nutre di interpretazioni e discussioni da parte di esperti, ed è proprio questa interazione collettiva che rende il sapere giuridico progressivo e dinamico.

L'intelligenza artificiale generativa, quindi, pur essendo uno strumento straordinario, solleva interrogativi che riguardano la nostra capacità di comprenderla, controllarla e utilizzarla in modo responsabile. L'approccio epistemologico giuridico ci offre un quadro di riferimento utile per interrogarsi sul ruolo dell'AI nella società, ma è necessario andare oltre la mera applicazione tecnica della tecnologia, considerando anche le implicazioni filosofiche, etiche e legali che essa porta con sé.

La regolamentazione delle pratiche di manipolazione digitale e l'intelligenza artificiale: implicazioni legali e sfide future

Il Digital Markets Act (DMA) si occupa di regolare le pratiche di pubblicità personalizzata e il consenso degli utenti, in particolare per quanto riguarda la progettazione di interfacce e l'autonomia delle decisioni degli utenti. Nella sua dichiarazione del considerando 37, il DMA stabilisce che il consenso all'inserimento della pubblicità deve essere libero e consapevole. Inoltre, secondo l'articolo 13(6) e il considerando 70, viene ribadito che i gatekeeper non devono adottare comportamenti che possano compromettere l'efficacia delle disposizioni e degli obblighi previsti dal DMA. In particolare, sono vietati comportamenti che influenzino la scelta degli utenti attraverso la progettazione delle interfacce, impedendo un’autonomia decisionale libera e imparziale. Un esempio di questo fenomeno è rappresentato dai "dark patterns", tecniche manipolatorie che sfruttano la struttura, il funzionamento e l’interfaccia dell’applicazione per influenzare le scelte degli utenti in modo non neutro.

Un altro importante limite del DMA è rappresentato dalla sua applicazione esclusiva ai gatekeeper, escludendo da tale normativa le piccole aziende e gli operatori che non rientrano sotto la sua definizione. Di conseguenza, le piccole imprese potrebbero continuare a fare uso di pratiche di manipolazione senza essere soggette alla sorveglianza del DMA, accentuando le lacune della regolamentazione nel trattamento dei "dark patterns". Inoltre, le normative non si applicano ai siti web, il che limita ulteriormente l’efficacia del DMA nell’affrontare il fenomeno della manipolazione digitale.

Parallelamente, l'Artificial Intelligence Act (AIA), pubblicato nell'aprile del 2021, ha rappresentato il primo tentativo dell'Unione Europea di regolamentare l'intelligenza artificiale, introducendo un approccio basato sul rischio. L'AIA include una lista di pratiche proibite, incentrate su quelle AI che violano i diritti fondamentali dell'individuo. La versione aggiornata del testo, approvata nel 2023, ha incluso modifiche specifiche relative alla manipolazione subliminale da parte dei sistemi di AI. L'articolo 5 (1)(a) ora stabilisce che è vietato l'uso di tecniche subliminali o manipolative che alterano significativamente il comportamento degli individui, influenzando la loro capacità di prendere decisioni informate. Queste pratiche, secondo l'AIA, devono essere proibite in quanto minacciano il benessere psicologico e fisico dell'individuo.

Tuttavia, l'AIA solleva altre questioni. Innanzitutto, la definizione di "tecniche subliminali" rimane vaga, poiché non è inclusa nei testi legislativi europei. L'assenza di una definizione precisa rende difficile applicare queste disposizioni in modo uniforme. La direttiva 2007/65/EC, ad esempio, vieta l'uso di tecniche subliminali nella pubblicità audiovisiva, ma senza specificarne il contenuto. Sebbene alcuni tentativi di definizione siano stati fatti, non esiste ancora un consenso in merito.

Nel contesto della pubblicità digitale, queste lacune si estendono alla progettazione di assistenti virtuali o altri sistemi basati su intelligenza artificiale, che potrebbero essere utilizzati in modo manipolativo, sfruttando le percezioni subliminali degli utenti. Un esempio di ciò è l'uso delle IA nei giocattoli o nei dispositivi domestici, che potrebbero indurre gli utenti a fare scelte che non riflettono pienamente le loro intenzioni consapevoli.

L'influenza dell'IA nel mercato dell'arte: Il problema dei "limoni" e la selezione innaturale

Nel contesto dell'arte contemporanea, l'introduzione dell'intelligenza artificiale (IA) ha sollevato questioni rilevanti riguardo alla separazione tra opere create dall'uomo e quelle assistite dalla macchina. La vicenda del fotografo tedesco Boris Eldagsen, che nel 2023 ha rifiutato il premio nella categoria Creative Open Competition dei Sony World Photography Awards dopo aver rivelato che la sua foto era stata realizzata con un'intelligenza artificiale, ci offre uno spunto interessante. Eldagsen ha dichiarato di aver volutamente ingannato la giuria per avviare una discussione pubblica sul futuro della fotografia. Questo gesto, pur sollevando polemiche, ci porta a riflettere sulle implicazioni legali ed economiche dell'uso dell'IA nell'arte.

Questa distinzione tra le opere umane e quelle "aumentate" dalla macchina ha anche ripercussioni sul mercato dell'arte, creando una situazione di "informazione asimmetrica". In termini economici, questo fenomeno è simile al cosiddetto "problema dei limoni", descritto dall'economista George Akerlof nel 1970. In un mercato dove è impossibile distinguere tra un'opera d'arte creata dall'uomo e una creata con l'assistenza dell'IA, i compratori non possono valutare correttamente il valore intrinseco dell'opera. Se i venditori hanno interesse a non rivelare l'uso dell'IA nella creazione, il prezzo delle opere umane rischia di essere sistematicamente sottostimato, mentre le opere "aumentate" dalla macchina potrebbero essere vendute a un prezzo superiore rispetto al loro valore reale.

Un'interpretazione di questa dinamica potrebbe essere quella di una "selezione innaturale", ispirata alla teoria di Charles Darwin sulla selezione naturale. Se due specie competono per lo stesso spazio ecologico, quella più adattata prevale. Tuttavia, nel caso del mercato dell'arte, non è la qualità intrinseca delle opere a determinare il loro successo, ma l'informazione asimmetrica che crea un vantaggio per le opere assistite dalla macchina. L'assenza di competizione basata sulle meriti delle opere stesse porta alla marginalizzazione dell'arte creata dall'uomo, che rischia di essere soppiantata da quella "macchina-assistita". Darwin, nel suo celebre lavoro L'origine delle specie, sosteneva che la selezione naturale agisce preservando le variazioni favorevoli che si adattano meglio all'ambiente. In questo caso, però, la selezione non avviene in modo naturale, ma è indotta da un'informazione incompleta e da vantaggi esterni al merito.

Inoltre, l'adozione di regole chiare sull'origine delle opere d'arte potrebbe non solo risolvere il problema dell'informazione asimmetrica, ma anche rafforzare la posizione degli artisti umani nel mercato. Questo tipo di intervento potrebbe essere una risposta proporzionata alle sfide portate dall'intelligenza artificiale, senza ricorrere a una resistenza totale verso l'innovazione tecnologica. Non si tratta di escludere l'IA dal processo creativo, ma di garantire che entrambe le forme di arte – quella umana e quella assistita dalla macchina – possano coesistere e competere in modo equo, preservando la diversità e la qualità del mercato dell'arte.

Qual è la responsabilità dei creatori di modelli AI quando gli strumenti vengono modificati per scopi dannosi?

La rapida evoluzione delle tecnologie di intelligenza artificiale (IA) ha introdotto sfide significative in ambito giuridico, in particolare per quanto riguarda la responsabilità dei creatori di modelli AI. Un aspetto fondamentale è il ruolo che i modelli di IA possono giocare nel facilitare attività dannose, come gli attacchi informatici. La difficoltà di determinare se il creatore di un modello AI possa essere ritenuto responsabile per il suo uso improprio dipende da vari fattori, inclusi i meccanismi di sicurezza implementati nel modello e la possibilità che l'utente finale modifichi questi sistemi per scopi malintenzionati.

Il problema si aggrava quando il modello è rilasciato in un ambiente dove non è possibile monitorare completamente l'uso finale. Se un modello, dopo essere stato rilasciato, viene modificato da un utente che rimuove le protezioni, il creatore originale del modello può essere ritenuto responsabile? E cosa dire di coloro che utilizzano il modello per scopi legittimi, come testare la sicurezza, ma che, a causa delle modifiche, si trovano a contribuire, involontariamente, a danni maggiori? La domanda fondamentale che si pone è: quale standard di "cura ragionevole" si applica in questi casi?

La questione della "cura ragionevole" è particolarmente complicata in scenari in cui il modello viene rilasciato online e, successivamente, viene alterato per scopi dannosi. Se un modello originariamente sicuro viene manipolato per facilitare attacchi, può essere difficile determinare se il creatore originale abbia fatto tutto il possibile per evitare l'abuso. La legge potrebbe, in futuro, evolversi per riconoscere che i creatori di modelli devono prevedere la possibilità che i loro strumenti vengano modificati e utilizzati in modo pericoloso, e quindi essere responsabili per non aver impedito tale possibilità.

Inoltre, la questione dell'intento (scienter) rappresenta un altro ostacolo significativo. In molte giurisdizioni, la responsabilità per danni causati da un'azione illecita richiede la prova che il colpevole fosse a conoscenza dei rischi associati al proprio comportamento. Ad esempio, in casi legali come Twitter, Inc. v. Taamneh e Gonzalez v. Google, i tribunali hanno esaminato se le piattaforme sociali possano essere ritenute responsabili per il reclutamento di terroristi attraverso i loro algoritmi di raccomandazione. In questi casi, la domanda non è se l'algoritmo "sapeva" cosa stava facendo, ma se l'azienda fosse consapevole del rischio di promuovere contenuti dannosi. Analogamente, se un modello AI viene utilizzato per scopi dannosi, potrebbe essere difficile provare che il creatore del modello fosse consapevole di tale utilizzo, soprattutto se non esiste un monitoraggio diretto delle interazioni tra utenti e modello.

La responsabilità giuridica dei creatori di modelli AI non si limita, quindi, a un'analisi superficiale del design del modello stesso, ma deve includere una riflessione sulla facilità con cui tali modelli possono essere manipolati o modificati. In un contesto dove gli strumenti sono sempre più accessibili e modificabili, i creatori di modelli dovranno adottare misure di sicurezza più sofisticate, non solo per evitare abusi immediati, ma per rendere difficile l'uso malevolo anche a posteriori.