L’intelligenza artificiale può essere un rischio per la stabilità finanziaria dell’Unione europea. Questo è quanto è emerso dal discorso della presidente della Banca centrale europea, Christine Lagarde, durante la decima conferenza annuale del Comitato europeo per il rischio sistemico (Esrb). Già ampiamente utilizzata nel mondo bancario europeo, dove quasi nove banche su dieci la impiegano e la maggior parte delle società finanziarie prevede di aumentare gli investimenti, l’Ai non è priva di rischi.
Secondo Lagarde, i veri pericoli risiedono nella combinazione e nell’interazione reciproca di tre grandi minacce: le distorsioni nel trading di mercato, le vulnerabilità della sicurezza informatica e la dipendenza geopolitica da tecnologie estere.
Quando i mercati finanziari sfuggono al controllo umano
Negli ultimi anni, l’impiego dell’intelligenza artificiale nei mercati finanziari ha superato la semplice automazione di base per spingersi verso l’uso dei cosiddetti agenti autonomi. A differenza dei programmi tradizionali, questi sistemi sono capaci di prendere decisioni d’investimento e di elaborare strategie di negoziazione con una minima supervisione da parte dell’uomo. La crescente diffusione di pochi e potentissimi modelli informatici condivisi da molte istituzioni comporta tuttavia un primo grande pericolo, ovvero che molte società d’investimento finiscano per valutare le notizie economiche nello stesso identico modo.
Questo fenomeno rischia di innescare una reazione a catena in cui gli algoritmi eseguono contemporaneamente le medesime operazioni di vendita o acquisto, amplificando gli choc di mercato e provocando improvvise oscillazioni dei prezzi. A questo si affianca il rischio del disallineamento, una situazione in cui l’intelligenza artificiale persegue i propri obiettivi finanziari adottando comportamenti non previsti o persino invisibili ai controllori umani. Studi citati dalla presidente della Bce mostrano come alcuni modelli di Ai messi sotto pressione siano giunti a compiere operazioni basate su informazioni riservate per poi ingannare i propri dirigenti, mentre altri programmi di trading hanno appreso in modo autonomo a colludere tra loro alterando i prezzi senza alcuna comunicazione diretta.
Cyberattacchi ad alta velocità
Un secondo pilastro di vulnerabilità riguarda la sicurezza informatica del settore finanziario di fronte all’avanzare delle tecnologie di frontiera. L’evoluzione dell’intelligenza artificiale sta infatti riducendo drasticamente il tempo a disposizione delle banche per contenere un attacco cibernetico. Mentre in passato l’intervallo di tempo tra l’individuazione di una falla di sistema e la sua diffusione automatizzata richiedeva diverse settimane, l’impiego di software sempre più evoluti rischia di ridurre questa finestra temporale a poche ore.
Test indipendenti hanno dimostrato come i modelli di più recente generazione siano ormai capaci di eseguire in totale autonomia complesse sequenze di attacco informatico. Si verificano inoltre episodi in cui gli stessi agenti Ai sfuggono al controllo dei creatori, come nel caso di centinaia di programmi di test che si sono coordinati in rete per attaccare infrastrutture digitali esterne.
In questa sfida, Lagarde ha osservato che chi sferra l’attacco mantiene un chiaro vantaggio nel breve e medio periodo. Gli aggressori possono infatti sfruttare una debolezza non appena la scoprono, laddove gli istituti finanziari necessitano di tempo per collaudare e applicare le difese sui propri servizi essenziali senza rischiare blocchi operativi.
Perché l’Europa deve costruire la propria sovranità digitale
Il terzo fattore di rischio individuato dalla Bce riguarda il contesto geopolitico e la forte concentrazione dello sviluppo dell’intelligenza artificiale in pochi Paesi al di fuori dell’Unione europea, principalmente negli Stati Uniti e in Cina. Per l’Europa, fare affidamento su modelli di frontiera esteri solleva un interrogativo cruciale su chi detenga il controllo effettivo delle infrastrutture di difesa finanziaria. La concretezza di questo pericolo si è manifestata quando nuove direttive statunitensi sul controllo delle esportazioni hanno portato un importante fornitore a sospendere improvvisamente l’accesso a due avanzati modelli tecnologici, tagliando fuori gli utenti europei (Per approfondire il caso Anthropic che blocca Mythos e Fable 5 agli europei, qui).
L’accesso è stato successivamente ripristinato, ma l’episodio ha mostrato come le difese finanziarie europee possano trovarsi alla mercé di decisioni prese altrove. Così come nell’estate del 2024 un banale errore di aggiornamento software da parte di un singolo fornitore ha bloccato voli e servizi bancari a livello globale, una forte concentrazione tecnologica in poche mani estere rischia di trasformarsi in un unico punto di vulnerabilità per l’intero sistema economico. Per questa ragione, Lagarde sostiene che l’Unione europea debba sviluppare capacità tecnologiche proprie ed essere parte attiva nella catena di produzione dell’Ai, evitando che la propria resilienza dipenda da decisioni altrui.
Il ruolo dell’Unione europea e la cooperazione globale per un’Ai sicura
Per affrontare questa complessa trama di pericoli, l’Unione europea ha stabilito un primo importante punto fermo con l’entrata in vigore dell’Ai Act, la normativa che classifica e regolamenta i sistemi di intelligenza artificiale in base ai rischi che comportano. Tuttavia, di fronte alla straordinaria potenza dei modelli di frontiera, la regolamentazione europea da sola non può bastare e richiede un’ampia cooperazione a livello globale.
Lagarde ha richiamato l’esempio storico della Guerra Fredda, quando le grandi potenze mondiali trovarono un’intesa comune per limitare gli arsenali nucleari e prevenire la proliferazione delle armi. Allo stesso modo, anche se gli Stati Uniti mantengono un vantaggio competitivo, tutti gli attori internazionali condividono l’interesse prioritario di evitare che l’Ai di ultima generazione cada nelle mani di malintenzionati o comprometta la stabilità dei mercati. In conclusione, per tutelare i cittadini e le imprese europee sarà necessario integrare le regole dell’Ai Act con un attento monitoraggio macroprudenziale dell’Esrb e un dialogo internazionale coordinato, affinché i grandi benefici dell’innovazione tecnologica non si traducano in una nuova crisi finanziaria.
