La lettera di applicazione del governo degli Stati Uniti ad Anthropic, che di fatto ha costretto l’azienda a mettere offline i suoi ultimi modelli di intelligenza artificiale poco prima del fine settimana, dovrebbe essere un campanello d’allarme per qualsiasi azienda tecnologica statunitense – laboratorio di intelligenza artificiale o altro.
Per tenervi aggiornati sulle notizie blitz: venerdì pomeriggio, il Dipartimento del Commercio degli Stati Uniti ha inviato ad Anthropic una lettera invocando un’oscura direttiva sul controllo delle esportazioni che vietava ai non americani, compresi i dipendenti di Anthropic, di accedere a Fable 5 e Mythos 5, citando una non specificata preoccupazione per la sicurezza nazionale. Anthropic ha affermato di ritenere che la lettera sia correlata a un bypass dei guardrail del modello, ma non ne è sicura perché la lettera non fornisce dettagli specifici. La lettera non è stata resa pubblica.
In risposta, Anthropic fermare entrambi i suoi modelli di punta a tutti i clienti per assicurarsi che siano conformi alla direttiva. Il risultato è stato che il governo degli Stati Uniti è riuscito a costringere un’azienda tecnologica a mettere offline i suoi modelli con un’azione rapida e unilaterale che non sembrava richiedere l’approvazione del tribunale.
L’intervento di venerdì dell’amministrazione Trump dimostra che l’industria dell’intelligenza artificiale non è immune dalle interferenze del governo. È anche un avvertimento per l’intero settore tecnologico: rispetta le norme, altrimenti potremmo chiudere te e i tuoi prodotti.
Citando fonti, Axios ha descritto una situazione di tensione durante il fine settimana tra i due principali attori, affermando che le “differenze di personalità” tra Anthropic e l’amministrazione Trump hanno portato alla direttiva sulle esportazioni, piuttosto che a un problema tecnico con i prodotti di intelligenza artificiale.
Nuovi dettagli sulla questione emersi durante il fine settimana gettano ora ulteriori dubbi sulle già traballanti ragioni del governo.
Lo ha affermato Katie Moussouris, veterana della sicurezza informatica e ricercatrice che ha fondato Luta Security in un post sul blog che Anthropic ha recentemente condiviso con lei una copia privata di un articolo scritto da ricercatori di sicurezza che descrive un presunto bypass del guardrail in Fable 5. (Il Wall Street Journal riporta che gli autori dell’articolo sono ricercatori di sicurezza presso Amazon.) Moussouris ha detto che Anthropic l’ha contattata per chiederle la sua opinione sull’articolo.
Il post sul blog di Moussouris descrive come i ricercatori hanno attivato il bypass del guardrail, ma ha affermato che il bypass stesso “non avrebbe mai dovuto attivare un controllo sulle esportazioni”. La differenza sta in gran parte tra chiedere a un modello di intelligenza artificiale di “rivedere il codice per problemi di sicurezza” rispetto a chiedergli di “correggere questo codice”. Il risultato finale è sostanzialmente lo stesso, anche se le domande vengono poste in modo leggermente diverso.
“Il comportamento descritto nel documento non può essere corretto in modo significativo, e qualsiasi tentativo non farebbe altro che indebolire il modello di difesa”, ha affermato Moussouris, che ha criticato la direttiva sul controllo delle esportazioni definendola affrettata, pesante e fuorviante.
Moussouris e dozzine di altri importanti ricercatori ed esperti di sicurezza hanno da allora invitato l’amministrazione Trump a revocare l’ordine di controllo delle esportazioni, definendo “pericolosa” la mossa di sottrarre capacità avanzate di sicurezza informatica ai difensori della rete negli Stati Uniti.
Le amministrazioni passate hanno preso decisioni radicali sulle lacune della conoscenza. Ad esempio, il linguaggio utilizzato dal governo degli Stati Uniti negli anni 2010 per fissare la legge sull’esportazione riguardante gli strumenti di sicurezza informatica che potevano essere utilizzati anche per attacchi informatici era così ampio che inavvertitamente quasi fuorilegge ricerca legittima sulla sicurezza e sulla vulnerabilità.
Tuttavia, la direttiva dell’amministrazione Trump sembra una ritorsione.
Justin Hendrix, il direttore della Tech Policy Pressha affermato che la mossa dell’amministrazione Trump “probabilmente susciterà allarmi nelle capitali straniere sull’affidabilità dell’intelligenza artificiale americana per applicazioni critiche”. Il messaggio è che non ci si può fidare che le aziende di intelligenza artificiale negli Stati Uniti operino senza interferenze da parte del governo statunitense.
L’amministrazione Trump non ha confermato il motivo per cui ha invocato la sua direttiva sul controllo delle esportazioni. I funzionari hanno letto male il rapporto e sono andati fuori di testa? Il CEO di Amazon, Andy Jassy, ha detto qualcosa agli alti funzionari governativi che ha provocato la reazione, per cautela o dispetto? Si è perso qualcosa nella traduzione o si è trattato di un modo per fare pressione su Anthropic, con la quale l’amministrazione ha già un rapporto difficile? È possibile che la Casa Bianca non fosse a conoscenza delle conseguenze di vasta portata della richiesta della lettera e che i funzionari si stiano affrettando per riparare il danno da loro stessi provocato.
Per citare Hendrix, “il clima è caratterizzato dal sospetto che gli alti funzionari stiano scegliendo i favoriti in base a fattori personali e politici”. La conseguenza è che il governo ha creato un pericoloso precedente su quanto controllo intende esercitare sul rilascio di software di fabbricazione americana.
Questa volta il governo ha contestato Anthropic; domani potrebbe essere con chiunque altro.
Quando acquisti tramite i link presenti nei nostri articoli, potremmo guadagnare una piccola commissione. Ciò non pregiudica la nostra indipendenza editoriale.
