Quando l’amministrazione Trump reprime l’Anthropic, chi ne trae vantaggio?

Anthropic ha recentemente messo offline i suoi due nuovi modelli di intelligenza artificiale a causa di un ordine di controllo delle esportazioni da parte dell’amministrazione Trump, suscitando ampi dibattiti sulla politica dell’intelligenza artificiale e sulla sovranità digitale.

Nell’ultimo episodio del podcast Equity di TechCrunch, Sean O’Kane, Rebecca Bellan e io abbiamo discusso di ciò che ha effettivamente spinto l’amministrazione ad agire contro Anthropic e di cosa ciò potrebbe significare per l’ecosistema dell’intelligenza artificiale più ampio.

Come ha affermato Sean, “Anthropic non ha avuto il miglior rapporto con l’amministrazione Trump in modo da distinguersi dagli altri principali laboratori di intelligenza artificiale”, quindi forse gli altri rivali di Anthropic non devono preoccuparsi di una simile repressione.

Ma Rebecca ha anche osservato che i principali esperti di sicurezza informatica hanno “firmato una lettera aperta per chiedere a Trump di revocare l’ordine, e dicono che è effettivamente pericoloso dover sottrarre queste capacità avanzate di sicurezza informatica ai difensori della rete negli Stati Uniti”

E ci siamo chiesti se tutto questo potesse rivelarsi una buona pubblicità per Anthropic, soprattutto perché – nelle parole di Rebecca – “tutti amano i ragazzacci”.

Continua a leggere per un’anteprima della nostra conversazione, modificata per lunghezza e chiarezza.

Rebecca Bellan: Come sicuramente molti dei nostri ascoltatori sanno, il governo degli Stati Uniti ha praticamente costretto Anthropic a mettere offline i suoi due modelli più recenti: Fable 5, e poi c’era anche Mythos 5, che era quello disponibile per gli attuali utenti di Mythos, (mentre) Fable 5 era più disponibile al pubblico.

Hanno inviato una lettera (lo scorso) venerdì in cui citavano “preoccupazioni per la sicurezza nazionale”. Nessuno sa quali siano queste preoccupazioni. Quel rapporto non è stato reso pubblico, non hanno fornito dettagli e hanno detto (ad Anthropic) che dovevano garantire che quei modelli non potessero essere utilizzati da cittadini stranieri. Quindi Anthropic ha pensato: “Okay, immagino che dovremmo eliminare del tutto i modelli, perché non sappiamo quando qualcuno è cittadino straniero. Molti dei nostri dipendenti sono stranieri”.

Ma in realtà (secondo i rapporti) la Casa Bianca è stata informata di ciò a causa di alcuni ricercatori di Amazon che presumibilmente hanno trovato un modo per aggirare i guardrail di Fable 5. Il CEO di Amazon, Andy Jassy, ​​ha sollevato queste preoccupazioni alla Casa Bianca, e da lì la situazione si è sviluppata in una sorta di spirale.

Sean O’Kane: Tutto si è svolto molto velocemente, soprattutto da un venerdì pomeriggio a un fine settimana. Ed è nello stesso momento che l’amministrazione stava apparentemente cercando di negoziare una sorta di trattato per la guerra iniziata in Iran.

Rebecca: Venerdì sera per noi a New York. Amano una distrazione.

Sean: Facciamo un passo indietro per un momento. Anthropic non ha avuto il miglior rapporto con l’amministrazione Trump in un modo che si distingue dagli altri principali laboratori di intelligenza artificiale: penso che ci sia almeno un elemento di questo in gioco qui.

Quindi pensi che questo avrà implicazioni per quelle altre società? Pensi che l’amministrazione Trump sarebbe meno propensa a chiudere il rubinetto di uno di questi concorrenti?

Antonio Ah: Parte del contesto qui è che sia il reporting che un’analisi di esperti di sicurezza indipendenti suggeriscono che l’effettivo rischio per la sicurezza derivante da Anthropic non è così unico. Quindi gran parte di ciò sembra derivare da parti dell’amministrazione Trump e di Anthropic che (non vanno) molto d’accordo. Qualunque rischio ci sia, queste cose esploderanno a dismisura solo perché sembra che non possano avere una telefonata civile tra loro.

Se sei un’altra azienda, da un lato forse è vantaggioso per te, perché puoi dire: “Beh, semplicemente non facciamo arrabbiare questi ragazzi con noi e possiamo fare quello che vogliamo”. Ma questo non è nemmeno un ottimo panorama normativo per dire semplicemente: “Ragazzo, spero che non si arrabbino con noi”.

Rebecca: Da un lato, sembra decisamente una ritorsione: dopo che il governo ha etichettato Anthropic come un rischio per la catena di approvvigionamento, c’è questa grande causa in corso tra di loro, sembra davvero che la Casa Bianca stia solo cercando qualsiasi scusa per prendere a pugni Anthropic. E mi sento così non solo perché questa è stata la mia reazione iniziale, ma per quello che hanno detto molti ricercatori di sicurezza informatica. Dicono che questo non avrebbe mai dovuto attivare un controllo sulle esportazioni (ordine). Hanno tutti firmato una lettera aperta per chiedere a Trump di revocare l’ordine, e dicono che è effettivamente pericoloso dover sottrarre queste capacità avanzate di sicurezza informatica ai difensori della rete negli Stati Uniti. La stessa Anthropic ha affermato che alcuni degli stessi jailbreak potrebbero essere stati trovati in molti altri modelli di intelligenza artificiale.

Cinicamente, è come: Okay, stai semplicemente mettendo in pausa Anthropic in modo che gli altri possano recuperare il punto in cui si trovava Anthropic?

Ma allo stesso tempo, ho anche visto reazioni che (diciamo): l’antropopia se l’è cercata. Dicono: “Questo è troppo pericoloso per chiunque da usare, ma non per noi, siamo i bravi ragazzi”. Stanno parlando da entrambi i lati della bocca. Una settimana prima dell’uscita di Fable, dicevano: “Ehi, dobbiamo rallentare l’intelligenza artificiale, ragazzi. Sta diventando davvero pericoloso”. Ma poi boom: “Ecco il nostro modello più folle di sempre, super potente, sparate”.

Antonio: In un certo senso questo sembra un microcosmo di gran parte della discussione sull’intelligenza artificiale, in cui persone come Sam Altman e Jensen Huang dicono: “Ehi, proviamo ad abbassare la temperatura. Perché sono tutti arrabbiati con noi?” Bene, hai passato gli ultimi due anni essenzialmente dicendo che hai costruito questa macchina di Dio che toglierà lavoro a tutti. Non è esattamente uno shock che le persone non si sentano bene al riguardo.

E c’è qualcosa nel modo in cui Anthropic parla dei Mythos in particolare, per cui dicono: “Questo è il modello più incredibilmente potente di sempre, è troppo pericoloso rilasciarlo al pubblico”. E così ad un certo livello, (dici) “Bene, okay, diciamo che allora lo prendiamo sul serio. Ciò significa che ci sarà un incredibile livello di controllo intorno a questo.”

E mi chiedo: sembra che Anthropic non sia felice di questo. Voglio stare attento a non sopravvalutare come questo potrebbe essere vantaggioso per loro. Ma abbiamo anche pubblicato alcune storie sull’analisi Ramp per evidenziare il fatto che l’ultimo grande scontro tra Anthropic e l’amministrazione Trump è stato positivo per l’azienda, almeno in un certo senso. I download di Claude aumentarono vertiginosamente. Penso che molte persone che forse avevano pensato a ChatGPT come IL chatbot, IL Prima l’assistente AI, all’improvviso consideravano Claude forse il più responsabile, il più “resistente”.

E allo stesso modo, (anche se) Anthropic è molto stressata a riguardo, questo potrebbe, ancora una volta, far sembrare i loro modelli ancora più potenti.

Rebecca: Decisamente. “Siamo così pericolosi.” Tutti amano un ragazzaccio, giusto? Tutti dicono: “È il modello più potente, lo dice anche Trump. Ovviamente devo metterci sopra le mani”.