Chi controllerà la superintelligenza? Ruota attorno a questa domanda il lunghissimo post che Mark Zuckerberg ha pubblicato il 10 agosto, delineando in 6500 parole una “filosofia basata sull’emancipazione individuale come fonte di prosperità, sull’invenzione come scopo primario della superintelligenza e sull’equilibrio di potere come fondamento della sicurezza”. In questa cornice, gli Stati Uniti devono mantenere il primato tecnologico, la Cina è il principale termine di confronto e le regole diventano un fattore della competizione internazionale.
In quello che è un vero e proprio manifesto, dal titolo ‘The Future is for Everyone‘, il fondatore di Meta sostiene che il problema centrale sia come l’umanità riuscirà a mantenere il potere e il controllo sull’AI, onde evitare che questa “possa acquisire un potere o un controllo tali da non servire più, nella migliore delle ipotesi, gli interessi dell’umanità e, nella peggiore, da metterla in pericolo”.
Per il fondatore e ceo di Meta l’equilibrio di potere si ottiene non costruendo l’AI attorno a pochi sistemi centralizzati nelle mani di governi, grandi aziende o laboratori tecnologici (“storicamente, la speranza che un potere assoluto, se sufficientemente illuminato, provveda benevolmente al benessere dell’umanità non ha portato a risultati sicuri o positivi”), ma diffondendola a “quante più persone e imprese possibili, dotate di diversi agenti superintelligenti allineati ai propri obiettivi, che si controllano e competono tra loro”.
“La maggior parte degli altri laboratori si dedica allo sviluppo di AI per aziende, governi o altre istituzioni, quindi se questi laboratori dovessero primeggiare, l’equilibrio di potere favorirebbe le grandi istituzioni a scapito dei singoli individui”, afferma Zuckerberg. Nella sua visione, chi guiderà lo sviluppo e la diffusione capillare dell’intelligenza artificiale contribuirà a definire un nuovo equilibrio mondiale, influenzando non soltanto crescita economica e sicurezza, ma anche i valori incorporati nei sistemi utilizzati da miliardi di persone. La corsa all’AI diventa così anche competizione per una nuova infrastruttura strategica globale.
L’AI come nuovo terreno della competizione tra Stati
Il ragionamento di Zuckerberg parte dalla velocità con cui evolve la tecnologia. Quella dell’AI potrebbe essere, scrive, una delle industrie più competitive mai esistite: le innovazioni vengono rapidamente imitate e assorbite e anche mantenere un vantaggio di appena due mesi può avere un valore “prezioso”. Ecco perché gli Stati Uniti devono contemporaneamente accelerare la propria innovazione e rallentare i concorrenti geopolitici.
Secondo Zuckerberg sono soprattutto tre le leve sulle quali intervenire: la velocità con cui si riescono a costruire infrastrutture fisiche, le eventuali regole capaci di rallentare i laboratori americani e i controlli sulle esportazioni che possono invece frenare quelli stranieri. Politica industriale, regolazione e sicurezza nazionale finiscono quindi per sovrapporsi.
La Cina e il problema delle infrastrutture
Parlando di competizione non si può prescindere dalla Cina, che infatti Zuckerberg cita apertamente. Gli Stati Uniti e i loro alleati, sostiene, conservano un vantaggio nella progettazione dei semiconduttori, ma sono meno efficienti nella costruzione delle infrastrutture fisiche e soprattutto della capacità energetica necessaria a sostenere la crescita dell’AI.
Secondo il capo di Meta, il Dragone sta portando online oltre un gigawatt di nuova capacità nucleare ogni due settimane. Gli Stati Uniti devono quindi “accelerare la costruzione sia di centri energetici sia dei data center se vogliono restare competitivi”.
La sfida sull’intelligenza artificiale diventa così anche una sfida infrastrutturale che va oltre lo sviluppo degli algoritmi più avanzati. E che viene affrontata anche dal punto di vista delle comunità locali: Zuckerberg sostiene che debbano esserci benefici diretti per i territori, attraverso occupazione qualificata, investimenti nelle scuole e nei servizi pubblici, tutela dell’ambiente e garanzie affinché l’aumento della domanda energetica non faccia crescere le bollette. Ma lega subito la dimensione territoriale a quella nazionale: le comunità americane, afferma, saranno più prospere e sicure se gli Stati Uniti e i loro alleati guideranno l’AI rispetto ai rivali geopolitici.
Meno ostacoli per i laboratori americani
La competizione internazionale porta Zuckerberg a guardare con diffidenza alle regole che possono rallentare lo sviluppo dei modelli statunitensi. Se il vantaggio tecnologico può essere misurato nell’arco di pochi mesi, anche una procedura che ritardi di un mese il rilascio di un modello americano potrebbe mettere a rischio la leadership degli Stati Uniti e permettere a un concorrente straniero di passare avanti. Questo tuttavia non significa, nella sua visione, eliminare il controllo pubblico.
Zuckerberg propone invece un rapporto molto stretto tra governo e aziende che sviluppano i modelli di frontiera. I laboratori dovrebbero fornire alle autorità americane versioni intermedie dei modelli già durante l’addestramento e mettere a disposizione personale tecnico in grado di aiutare il governo ad analizzarne le capacità e rafforzare in anticipo la sicurezza delle infrastrutture critiche.
Ma la regolazione dovrebbe adattarsi alla competizione tecnologica anziché procedere secondo meccanismi uniformi e predefiniti.
Frenare i concorrenti con i chip
Se Zuckerberg è contrario a creare ostacoli che rallentino i laboratori americani, assume una posizione molto diversa quando le limitazioni riguardano i concorrenti stranieri. Nel manifesto sostiene esplicitamente che i controlli sull’esportazione dei semiconduttori sono riusciti a rallentare i laboratori esteri in una fase decisiva della competizione e considera strategicamente corretto proseguire su questa strada.
La competizione sull’AI è dunque anche una competizione per il controllo della capacità di calcolo.
La partita decisiva dell’open source
Ma per Zuckerberg non basta impedire ai concorrenti di accedere alle tecnologie più avanzate. Gli Stati Uniti e i loro alleati devono anche conquistare la leadership nell’ecosistema dei modelli aperti, che “costituirà un’ampia percentuale dell’utilizzo globale dell’IA”.
Il capo di Meta non propone di vietare agli americani di utilizzare i migliori modelli open source sviluppati all’estero. Una scelta del genere, sostiene, ridurrebbe la qualità dell’AI disponibile per cittadini e imprese e produrrebbe maggiore centralizzazione. La risposta dovrebbe essere opposta: fare in modo che i modelli open source americani siano i migliori al mondo.
“Attualmente i laboratori stranieri godono di diversi vantaggi in questo ambito, poiché quelli americani devono rispettare numerose restrizioni aggiuntive sui dati di addestramento“, sottolinea.
Dunque, secondo Zuckerberg, gli Stati Uniti dovrebbero ridurre alcuni vincoli che penalizzano i propri sviluppatori, compresi quelli relativi ai dati utilizzabili nell’addestramento e alla cosiddetta ‘distillation‘, il processo attraverso il quale un modello può apprendere anche osservando le capacità di altri modelli, criticato dal presidente Donald Trump perché, sostiene, Pechino avrebbe usato questo metodo per addestrare i propri modelli sfruttando quelli americani.
Ma per il capo di Meta la possibilità di imparare da ciò che è osservabile dovrebbe essere preservata, perché limitare eccessivamente questo meccanismo rischierebbe di indebolire l’ecosistema americano rispetto a quello dei concorrenti.
Diffondere l’AI americana nel mondo
Infine, la leadership per Zuckerberg passa per la diffusione. Se gli Stati Uniti vogliono influenzare il futuro equilibrio geopolitico, i loro sistemi devono essere utilizzati su scala globale. Meta intende contribuire costruendo agenti personali, modelli avanzati e sistemi open source e rendendoli disponibili a miliardi di persone nel mondo.
L’obiettivo è arrivare a una situazione nella quale gli Stati Uniti possano guidare contemporaneamente nel settore privato e in quello pubblico, rafforzando la sicurezza nazionale e diffondendo nel mondo una determinata concezione del rapporto tra individuo e tecnologia.
In questa prospettiva, la diffusione dell’AI diventa uno strumento geopolitico. Per Zuckerberg, rimanere indietro nell’intelligenza artificiale rappresenterebbe probabilmente un rischio per la sicurezza nazionale più grande e duraturo dei singoli problemi che emergeranno durante il suo sviluppo.
