La Cina stringe le redini dell'intelligenza artificiale

Pechino si muove rapidamente per rendere l'IA politicamente gestibile

Architettura normativa

Le autorità cinesi hanno messo insieme un'ampia coalizione normativa: regolatori del cyberspazio, polizia per la sicurezza informatica, laboratori statali e grandi aziende tecnologiche hanno partecipato alla stesura degli standard. Il documento stabilisce una combinazione di requisiti tecnici e di governance: campionamento umano dei set di dati di addestramento (training dataset), quiz ideologici mensili per i modelli, etichettatura esplicita dei contenuti generati dall'IA e registrazione obbligatoria delle interazioni degli utenti. I funzionari hanno inquadrato lo sforzo come protezione della stabilità sociale — arrivando persino a inserire l'IA in un quadro nazionale di pianificazione delle emergenze insieme a terremoti ed epidemie.

I funzionari sottolineano inoltre una linea rossa sottile ma assoluta: è proibito tutto ciò che viene giudicato "istigazione a sovvertire il potere statale e a rovesciare il sistema socialista". I regolamenti elencano 31 rischi distinti — dalla promozione della violenza all'uso illecito dell'immagine di una persona — che le aziende devono esaminare attentamente durante la compilazione del materiale di addestramento e l'implementazione dei servizi.

Dieta dei dati e ispezione pre‑lancio

Una delle metafore centrali usate dai funzionari è quella della dieta dei dati. I sistemi di IA sono tanto influenti quanto il materiale di cui vengono alimentati, perciò le regole costringono le aziende a trattare i propri set di addestramento come ingredienti controllati in una cucina. Per ogni formato di contenuto — testo, immagini, video — gli sviluppatori dovrebbero campionare casualmente e sottoporre a revisione umana migliaia di elementi di addestramento. Una soglia proposta nella guida richiede di utilizzare una fonte solo se almeno il 96% del materiale di tale fonte è giudicato sicuro secondo i 31 criteri di rischio.

Prima che un servizio possa essere reso pubblico, deve superare un esame ideologico. Le aziende sono tenute a eseguire 2.000 test prompt progettati per innescare risposte sovversive o separatiste e a sintonizzare i propri sistemi in modo che il modello rifiuti almeno il 95% di tali prompt. La preparazione per questo esame ha dato vita a un piccolo mercato privato di consulenti e agenzie di test che aiutano i fornitori di IA a elaborare e rafforzare le risposte, un processo che gli addetti ai lavori paragonano alla preparazione per il test SAT prima del lancio di un prodotto.

Applicazione, tracciabilità e sorveglianza

L'applicazione delle norme è stata attiva. Le autorità hanno riferito di aver rimosso centinaia di migliaia di contenuti generati dall'IA definiti illegali o dannosi durante una recente campagna, e hanno ritirato migliaia di prodotti di IA per non conformità. Le regole impongono alle piattaforme di etichettare testi, immagini e video creati dall'IA, di tenere registri delle interazioni degli utenti e — aspetto cruciale — di legare gli utenti ai numeri di telefono o all'identità nazionale, in modo da poter limitare la diffusione virale anonima.

Tale architettura è progettata per facilitare la tracciabilità della provenienza del contenuto e dell'identità di chi lo ha generato. Se un utente tenta di generare materiale proibito, le piattaforme sono tenute a registrare la conversazione, sospendere l'account e segnalare l'incidente. I regolatori locali condurranno controlli casuali dopo il lancio e le aziende rischiano la chiusura rapida dei servizi che non superano i test.

Limiti tecnici e aggiramento

I ricercatori che hanno testato i modelli cinesi in Occidente segnalano un importante dettaglio tecnico: gran parte della censura politica sembra avvenire dopo l'addestramento, nei filtri e nei livelli di risposta che sovrastano una rete neurale. Quando i ricercatori scaricano ed eseguono alcuni modelli cinesi localmente, a volte scoprono che la censura si attenua o svanisce, suggerendo che i "cervelli" dei modelli non sono uniformemente ripuliti dalle conoscenze sensibili — la censura è frequentemente implementata come un controllo runtime, non come una completa rimozione dai dati di addestramento.

Questa distinzione è importante perché crea due vulnerabilità. In primo luogo, rende il sistema dipendente da controlli operativi che devono stare al passo con utenti altamente motivati che tentano il "jailbreak" dei modelli con prompt avversari. In secondo luogo, l'architettura divisa — un potente modello di base con un involucro di filtraggio — solleva il dubbio se il modello sottostante possa essere riutilizzato in contesti privi delle stesse misure di sicurezza runtime.

Compromessi sulla sicurezza e la corsa globale

L'approccio della Cina è un deliberato compromesso tra controllo politico e competitività tecnologica. I regolatori temono esplicitamente che restrizioni troppo severe possano soffocare l'innovazione e lasciare la Cina indietro in una competizione globale sull'IA dominata da aziende americane che affrontano incentivi normativi diversi. Allo stesso tempo, le autorità cinesi sono state esplicite riguardo ai rischi sociali di un'IA non regolamentata: i leader di alto livello hanno avvertito che la tecnologia pone "rischi senza precedenti" e il programma statale di adozione dell'IA — denominato "AI Plus" — mira a integrare l'IA nella maggior parte dei settori chiave entro il 2027, mantenendo al contempo rigidi paletti di sicurezza.

Le duplici pressioni — essere all'avanguardia nei benchmark e rimanere ideologicamente sicuri — hanno prodotto modelli che ottengono buoni punteggi in molte categorie tecniche, offrendo al contempo risposte epurate su argomenti politicamente sensibili. Analisti indipendenti notano che questo può rendere i chatbot cinesi oggettivamente più sicuri su alcuni parametri, come la riduzione di contenuti violenti o pornografici. Tuttavia, quegli stessi sistemi possono essere più facili da aggirare in lingua inglese o su argomenti tecnici, il che significa che un utente motivato potrebbe comunque estrarre istruzioni operative pericolose o sfruttare le debolezze del modello.

Come si stanno adattando le aziende

Le principali aziende nazionali hanno scelto in gran parte di cooperare. Gruppi industriali e aziende leader hanno partecipato alla stesura degli standard di novembre, e diversi attori di rilievo stanno ora allineando pubblicamente lo sviluppo dei prodotti con i requisiti di campionamento, test e tracciabilità del regolamento. Lo Stato ha anche affiancato misure coercitive a incentivi: la tabella di marcia nazionale per l'IA e l'iniziativa "AI Plus" creano incentivi per lo sviluppo di modelli utili alle priorità governative, alla difesa, alla salute e alla produzione industriale.

Questo modello di partnership può accelerare la diffusione all'interno di un mercato nazionale regolamentato, ma rischia di produrre modelli che danno il meglio di sé in un ambiente con ampi controlli sui contenuti e un accesso limitato ai set di dati stranieri. Man mano che i modelli diventeranno più capaci, mantenere tale divario di prestazioni tra implementazioni nazionali ristrette e sistemi globali non vincolati diventerà più difficile e richiederà maggiori risorse.

Implicazioni più ampie

Le normative cinesi articolano una visione chiara: l'IA è una risorsa sia economica che di sicurezza nazionale che deve essere plasmata per sostenere la stabilità politica. Il mix di politiche — screening pesante dei set di dati, test ideologici obbligatori, tracciabilità, registrazione e rimozioni attive — è una risposta al problema di mantenere i modelli linguistici, in rapida evoluzione, allineati con le priorità dello Stato. È anche un esperimento in tempo reale per verificare se un settore tecnologico ampio e dinamico possa essere guidato senza perdere il vantaggio rispetto ai rivali stranieri.

L'esito avrà importanza oltre i confini della Cina. Se il filtraggio runtime e i controlli di accesso si dimostreranno robusti, il risultato potrebbe essere un insieme di modelli ottimizzati internamente che sono sicuri per l'internet cinese ma meno aperti all'uso internazionale. Se tali controlli si rivelassero fragili o se ricercatori di talento se ne andassero per ambienti meno limitati, il Paese potrebbe trovarsi di fronte a quel divario di competitività che i suoi regolatori temono.

Per ora, Pechino sembra determinata a trovare un difficile equilibrio: spingere l'IA nell'economia e nell'esercito, costruendo al contempo un regime di applicazione che limiti la capacità della tecnologia di fomentare il dissenso politico. Se questo equilibrio possa essere mantenuto man mano che i modelli diventano più intelligenti — e mentre la competizione globale si intensifica — è una delle questioni tecnologiche determinanti verso il 2026.

Fonti

• Cyberspace Administration of China (standard normativi e linee guida sui contenuti dell'IA)
• Carnegie Endowment for International Peace (analisi della politica cinese in materia di IA)
• Laboratori statali cinesi e gruppi di ricerca nazionali sull'IA (pratiche relative a modelli e set di dati)