La Banca d'Italia pubblica oggi "Chat Bankman-Fried? Note sull'etica dell'intelligenza artificiale nel settore finanziario", il nuovo numero della collana "Mercati, infrastrutture, sistemi di pagamento".
I recenti avanzamenti tecnologici nell'ambito dei grandi modelli linguistici (large language models, LLM) hanno rinnovato l'attenzione verso il cosiddetto problema dell'allineamento: il comportamento delle intelligenze artificiali è sempre coerente con valori generalmente condivisi nelle società umane? In questo studio, valutiamo se vari LLM siano in grado di rispettare norme etiche fondamentali in scenari finanziari simulati. Chiediamo agli LLM di impersonare l'amministratore delegato di un intermediario finanziario e verifichiamo se siano o meno disposti ad appropriarsi indebitamente dei fondi dei clienti per ripagare debiti aziendali. Dopo aver valutato un primo scenario di riferimento, modifichiamo preferenze e incentivi. Gli LLM mostrano significativa eterogeneità nei comportamenti di base; solo una minoranza sceglie una condotta etica in assenza di vincoli espliciti. Le risposte a variazioni nella tolleranza al rischio, nelle aspettative di profitto e nel quadro regolamentare confermano le previsioni della teoria economica. Valutazioni di questo tipo, basate su simulazioni, possono essere utili per le autorità che devono garantire la sicurezza degli LLM; a esse si devono affiancare analisi dei meccanismi interni dei modelli stessi. È inoltre necessario che le istituzioni finanziarie adottino un adeguato quadro di governance del rischio riveniente dagli LLM.
