Venerdì scorso, citando non specificate preoccupazioni per la sicurezza nazionale, la Casa Bianca ha ordinato ad Anthropic di limitare l’esportazione dei suoi potenti modelli di intelligenza artificiale Fable e Mythos a chiunque al di fuori degli Stati Uniti, nonché ai cittadini stranieri all’interno del paese. Poco dopo, il colosso dell’intelligenza artificiale ha staccato in tutta fretta entrambi i modelli, che ormai da una settimana non erano più disponibili per nessuno.
L’episodio è il primo vero test per verificare se il governo degli Stati Uniti può utilizzare i controlli sulle esportazioni per contenere l’intelligenza artificiale di frontiera nel modo in cui ha già tentato, con risultati molto disomogenei, di contenere la crittografia e lo spyware. E per quanto drammatico possa sembrare, il modo in cui questa situazione di stallo verrà risolta potrebbe influenzare non solo l’accesso di Anthropic ai mercati esteri, ma anche il regolamento su cui altri laboratori di intelligenza artificiale dovranno costruire.
Prima un po’ di contesto. Da quando Anthropic ha lanciato Mythos in aprile, l’azienda lo ha commercializzato come una sorta di macchina informatica apocalittica che potrebbe provocare il caos su Internet se diffusa troppo ampiamente: motivo per cui, prima del divieto, solo circa 150 aziende controllate e organizzazioni governative ne avevano accesso. L’obiettivo era aiutare i difensori a proteggere i propri software e servizi prima che i malintenzionati potessero raggiungere capacità simili a quelle di Mythos.
Allora cosa ha fatto scattare il divieto? Due eventi successivi, secondo quanto riferito. Il primo: Anthropic ha concesso a un’azienda di telecomunicazioni sudcoreana l’accesso a Mythos attraverso il suo programma di partner limitato, e i funzionari statunitensi si sono allarmati dopo aver identificato la società come una che sospettavano avesse legami con la Cina. (L’azienda, ampiamente riportato essere SK Telecom, ha negato qualsiasi connessione con la Cina.) Secondo quanto riferito, anche il CEO di Amazon, Andy Jassy ha allertato l’amministrazione dopo che i ricercatori di Amazon, ha detto, hanno trovato un modo per aggirare le protezioni di Fable 5. Anthropic contesta l’etichetta di “jailbreak”, definendola un problema ristretto e già risolto piuttosto che una sconfitta totale delle misure di sicurezza del modello.
Il risultato è stato lo stesso: il Dipartimento del Commercio ha emesso una direttiva sul controllo delle esportazioni e Anthropic ha dovuto affrettarsi per limitare immediatamente l’accesso ai suoi prodotti entro circa 90 minuti dalla notifica, da parte di alcuni account.
Niente di tutto questo è nuovo, però. I governi hanno cercato per decenni di utilizzare i controlli sulle esportazioni per limitare la proliferazione di quella che considerano una tecnologia informatica pericolosa, ma i loro risultati sono stati nella migliore delle ipotesi mediocri.
Dietro quello che forse è il fallimento più spettacolare della storia di questo approccio, tra l’inizio e la metà degli anni ’90, c’è il governo degli Stati Uniti. All’epoca, gli informatici stavano sviluppando tecnologie di crittografia per proteggere i dati mentre viaggiavano su Internet. Uno di questi prodotti di crittografia si chiamava Pretty Good Privacy, o PGP, un popolare software in grado di crittografare i dati e renderne praticamente impossibile la decodificazione anche se intercettati mentre viaggiavano verso il destinatario previsto su Internet.
Inizialmente il governo degli Stati Uniti considerava PGP un’arma pericolosa, temendo che avrebbe impedito alle agenzie di intelligence di curiosare sulle e-mail mentre attraversavano i loro fili. A fermare la distribuzione di PGP, il servizio doganale statunitense ha aperto un’indagine penale contro il creatore di PGP Phil Zimmermann per presunta violazione dei controlli sulle esportazioni di armi. Ha reagito pubblicando il codice sorgente di PGP come un libro stampatoinnescando quella che oggi è conosciuta come le “Guerre delle Criptovalute”.
Zimmermann ha poi vinto una battaglia chiave quando l’indagine è stata chiusa, aprendo la strada ad algoritmi di crittografia end-to-end cruciali come quello utilizzato da miliardi di utenti di Signal e WhatsApp.
Successivamente, all’inizio degli anni 2010, i ricercatori hanno iniziato a scoprire spyware di fabbricazione occidentale utilizzati contro i dissidenti in Medio Oriente. In risposta, diversi governi hanno deciso di espandersi il pacchetto Wassenaarun trattato internazionale che limita l’esportazione di software e tecnologie a duplice uso utilizzati sia in applicazioni civili che militari.
L’idea era quella di classificare i software di sorveglianza e di hacking come a duplice uso, costringendo così i produttori di spyware a ottenere licenze di esportazione per vendere i loro prodotti all’estero.
Contattaci
Hai maggiori informazioni sul ban di Mythos? Da un dispositivo e da una rete non di lavoro, puoi contattare Lorenzo Franceschi-Bicchierai in modo sicuro su Signal al numero +1 917 257 1382, oppure tramite Telegram e Keybase @lorenzofb, o e-mail.
Ma Wassenaar ha sempre avuto due debolezze intrinseche. Ci sono diversi paesi che non aderiscono all’accordo, incluso Israele, che ospita alcuni dei produttori di spyware più attivi al mondo.
L’accordo dipende anche dal fatto che i paesi lo applichino alle aziende all’interno dei loro confini a loro discrezione. Per un certo periodo, il governo italiano ha concesso a uno dei principali produttori di spyware del paese, Hacking Team, la licenza per esportare i suoi strumenti in tutto il mondo, nonostante la comprovata esperienza della società nella vendita di spyware a opprimente governi Quello usato per hackerare giornalisti e attivisti per i diritti umani.
Da allora, altro Paesi in Europa sono stati negligenti nei confronti dei produttori di spyware come l’Italia. Nonostante i numerosi scandali, l’Europa, patria di molti produttori di spyware e strumenti di hacking, ce l’ha fatta non è riuscita continuamente a frenare l’esportazione di spyware ai regimi autoritari. I critici sostengono che gli sforzi recentemente rinnovati in tutto il blocco dei 27 stati membri per affrontare il crescente problema delle esportazioni di spyware verso stati autoritari “non sono sufficienti”.
Diversi produttori di spyware, come Intellexa, un consorzio sanzionato di società di spyware, hanno semplicemente spostato le proprie attività in paesi con controlli permissivi sulle esportazioni. Altri produttori di spyware hanno cercato di spostare le proprie attività in Arabia Saudita per ragioni simili.
Ci sono state alcune vittorie. FinFisher, produttore di spyware con sede in Germania chiuso nel 2022 dopo un’indagine pluriennale da parte della procura tedesca sulla società presumibilmente vendendo spyware in Turchia senza licenza di esportazione. Gli investigatori avevano precedentemente scoperto che lo spyware FinFisher era stato distribuiti sui telefoni dei critici del governo turco.
Al momento in cui scrivo, l’impasse tra Anthropic e l’amministrazione Trump rimane. C’è una ragionevole possibilità che l’amministrazione rinunci e revochi la restrizione nell’interesse di mantenere le aziende americane di intelligenza artificiale competitive a livello mondiale – una mossa che equivarrebbe al tacito riconoscimento che i laboratori di intelligenza artificiale altrove, inclusa la Cina, probabilmente raggiungeranno capacità simili indipendentemente da ciò che gli Stati Uniti limitano. Oppure, le società americane di intelligenza artificiale potrebbero finire per aver bisogno dell’approvazione del governo prima di servire i clienti stranieri, un onere di conformità che intaccherebbe invariabilmente i loro profitti.
Considerate le esperienze passate che i governi mondiali hanno avuto nel tentativo di controllare la portata del software, è improbabile che i controlli sulle esportazioni imposti dai governi costituiscano l’approccio giusto per impedire ad autori malintenzionati di abusare delle potenti tecnologie informatiche a duplice uso.
Quando acquisti tramite i link presenti nei nostri articoli, potremmo guadagnare una piccola commissione. Ciò non pregiudica la nostra indipendenza editoriale.
