"Credo proprio che ci dovremmo fermare!" — disse, accelerando.

 

 

 Negli ultimi tempi abbiamo assistito a una sfilata di leader delle aziende di AI, Dario Amodei in primis, che dichiarano la necessità di frenare lo sviluppo dell'intelligenza artificiale, almeno per un certo periodo. Eppure, nonostante le dichiarazioni, il progresso non sembra essersi fermato neanche un po': Claude, l'LLM dell'azienda di Amodei, si è appena aggiornato con l'uscita di Opus 5.5, più performante, più economico, più tutto.

Perché questa apparente ipocrisia? Perché non dare il buon esempio, dopo averlo predicato?

Per capirci qualcosa di più può venirci in aiuto un modellino di dinamica dei comportamenti, delle credenze e, più in generale, delle norme sociali, che ho pubblicato di recente su PNAS (insieme a collaboratori molto più autorevoli di me).

Immaginiamo che ogni individuo (nel nostro caso, i capi delle maggiori aziende di AI) debba fare due scelte:

1. dichiarare pubblicamente di sostenere il rallentamento dello sviluppo dell'AI, oppure no;
2. ordinare che la propria azienda rallenti davvero, oppure no.

Queste scelte dipendono da diversi fattori: alcuni materiali, altri psicologici, che qui sarebbero soprattutto legati alla reputazione e all'immagine dell'azienda e personale.

L'aspetto materiale. Se ordino alla mia azienda di rallentare e anche la maggior parte delle altre lo fa, sto bene: i miei utenti restano con me. Se invece rallento solo io, sto malissimo: perdo utenti, che migrano verso gli altri provider. Se non rallento e nemmeno gli altri lo fanno, sto così così: nessuno perde terreno, ma siamo tutti presi in una corsa costosa. Se infine non rallento mentre gli altri rallentano, dal punto di vista dei profitti sto benissimo, perché conquisto i loro utenti.

In gergo questo è un dilemma del prigioniero giocato da molti agenti contemporaneamente: qualunque cosa facciano gli altri, a me conviene non rallentare; ma se tutti ragionano così, finiamo tutti peggio che se avessimo rallentato insieme.

Gli aspetti psicologici. Il primo è il conformismo: se dichiaro ciò che dichiara la maggioranza (a favore o contro il rallentamento), sto bene; se mi discosto, sto peggio.

Il secondo è la coerenza: se faccio ciò che dichiaro (rallento se l'ho annunciato, non rallento se non l'ho annunciato) sto bene; se invece c'è uno scarto fra ciò che dico e ciò che faccio, pago un prezzo psicologico e di reputazione.

Ma quanto pesa, davvero, l'incoerenza? E quanto gratifica essere coerenti? Si potrebbe assumere che questo peso sia fisso; il paper propone invece di considerarlo variabile, cioè che evolva anch'esso, proprio come dichiarazioni e comportamenti.

In base a cosa? In questo contesto possiamo pensare che l'importanza che ciascun leader attribuisce alla coerenza dipenda da quanto sono coerenti gli altri. È un po' quello che succede con il cambiamento climatico: quasi tutti dicono di sostenere l'azione per contrastarlo, ma spesso sono incoerenti perché continuano a prendere la macchina, a mangiare carne, eccetera. Il risultato è che nessuno sente una grande pressione, una forte dissonanza cognitiva, nel non fare ciò che dichiara si dovrebbe fare.

Per i leader tech c'è un ulteriore fattore che può influenzare il peso dell'incoerenza: la pressione dell'opinione pubblica. Se pretendessimo coerenza, se mettessimo i leader di fronte alle loro azioni e alle loro dichiarazioni, comportamenti e dichiarazioni tenderebbero ad allinearsi di più.

Dalle simulazioni del modello, che resta chiaramente una forte astrazione di dinamiche di questo tipo, emerge un aspetto interessante. Se il peso dato ai vari aspetti psicologici non è fisso ma evolve, in certi casi può verificarsi un fenomeno di ramificazione evolutiva, o speciazione: partendo da un gruppo in cui tutti fanno le stesse scelte, piccoli cambiamenti bastano a dividerlo in due o più sottogruppi che scelgono diversamente e attribuiscono pesi diversi ai fattori psicologici. Potrebbe emergere, per esempio, un sottogruppo di leader che dà molto peso alla coerenza, e quindi dichiara di voler rallentare e lo fa davvero, e accanto a questo un altro che considera la coerenza irrilevante (e verosimilmente fa di tutto per svalutarla agli occhi dell'opinione pubblica) ma è comunque conformista e molto influenzato dal guadagno materiale, quindi dichiara di voler rallentare ma non rallenta.