BNP Paribas ha sviluppato una piattaforma interna denominata LLM as a Service, con l’obiettivo di promuovere l’adozione e l’applicazione dell’intelligenza artificiale generativa all’interno delle varie funzioni e attività del Gruppo. Questo sistema consente alle singole entità aziendali di utilizzare modelli linguistici di grandi dimensioni (LLM) personalizzati, attraverso un’interfaccia comune e sicura, che permette l’integrazione diretta nei processi e negli strumenti esistenti.
La piattaforma, creata e gestita dai team IT del Gruppo, si basa su un’infrastruttura centralizzata collocata nei data center interni, dotata di unità di calcolo ad alte prestazioni (GPU). È progettata per fornire accesso a modelli open source, a quelli sviluppati da Mistral AI (partner di BNP Paribas) e, a breve, anche a modelli addestrati su dati aziendali, specifici per ogni esigenza operativa.
Questa architettura consente di ottimizzare le risorse, contenere i costi e assicurare un uso sicuro della tecnologia, rispettando i requisiti di protezione dei dati e privacy. Inoltre, consente una maggiore coerenza tra l’adozione dell’IA generativa e le necessità di business, favorendo la diffusione delle innovazioni in modo scalabile e conforme agli standard aziendali.
Marc Camus, Chief Information Officer di BNP Paribas, ha spiegato che l’obiettivo del progetto è fornire a tutte le aziende del Gruppo una base tecnologica condivisa, in modo che possano concentrarsi sui casi d’uso concreti, senza doversi occupare della parte infrastrutturale. Secondo Camus, questo approccio rappresenta un fattore abilitante per l’innovazione e il miglioramento delle prestazioni operative in alcune applicazioni.
Diversi casi d’uso dell’IA generativa sono già in fase di sperimentazione o produzione: ad esempio, l’utilizzo di assistenti digitali interni, la generazione automatica di contenuti testuali e la ricerca di informazioni in documenti complessi. Grazie alla nuova piattaforma, queste applicazioni potranno essere estese in modo più semplice e rapido ad altre aree del Gruppo, mantenendo standard condivisi in termini di tecnologia e sicurezza.
Il progetto è stato inizialmente avviato in fase pilota in alcune entità, tra cui Hello bank! e il dipartimento di ispezione generale, e sarà progressivamente distribuito in tutto il Gruppo, seguendo un percorso di industrializzazione controllata. La piattaforma migliora anche il lavoro degli sviluppatori, offrendo accesso centralizzato a strumenti di coding, tecnologie AI e pipeline DevOps.
L’iniziativa si basa su feedback raccolti dagli utenti nelle prime fasi di utilizzo e integra i progetti già in corso legati all’IA generativa in BNP Paribas. Il rilascio graduale della piattaforma permette di adattarla alle esigenze locali, garantendo allo stesso tempo elevati standard di sicurezza, efficienza e conformità normativa.