Gestione del rischio dei modelli

Che cos'è la gestione del rischio dei modelli?

La gestione del rischio dei modelli offre un approccio strutturato per garantire che i modelli predittivi, analitici e basati sull'intelligenza artificiale funzionino in modo affidabile e trasparente. Aiuta le organizzazioni a convalidare le prestazioni dei modelli, affrontare le distorsioni e mantenere la conformità agli standard normativi.

Originariamente sviluppata per le istituzioni finanziarie, la gestione del rischio dei modelli si è ampliata fino a includere modelli di IA e apprendimento automatico, dove errori, distorsioni o un uso improprio possono portare a rischi in termini di conformità, etica o reputazione.

I quadri di gestione del rischio dei modelli sono allineati con pratiche di governance come la governance dell'IA e la gestione del rischio aziendale per garantire responsabilità, spiegabilità e monitoraggio del ciclo di vita.

Perché la gestione del rischio dei modelli è importante?

I modelli stanno assumendo un ruolo sempre più importante nelle funzioni aziendali critiche, dalla valutazione del merito creditizio e dall'individuazione delle frodi alle procedure automatizzate di assunzione e al monitoraggio della conformità alle normative. Tuttavia, in assenza di un adeguato controllo, modelli imprecisi o distorti possono causare perdite finanziarie, violazioni normative o problemi etici.

Le autorità di regolamentazione, come la Banca centrale europea (BCE) e la Federal Reserve statunitense, considerano la gestione del rischio dei modelli un pilastro essenziale della resilienza operativa e un requisito chiave per un'IA realmente affidabile. Quadri normativi come la legge sull'intelligenza artificiale dell'UE e il regolamento sulla resilienza operativa digitale (DORA) sottolineano inoltre la responsabilizzazione dei modelli come parte integrante di una governance responsabile dell'IA.

Un programma solido di gestione del rischio dei modelli assicura che i modelli siano adeguatamente documentati, testati e spiegabili, e che rimangano allineati agli obiettivi aziendali e ai requisiti di conformità.

Come viene utilizzata concretamente la gestione del rischio dei modelli?

• Per convalidare e testare i modelli al fine di rilevare il degrado o le distorsioni delle prestazioni.
• Per documentare la struttura dei modelli, i suoi dati di input e i suoi presupposti a garanzia della trasparenza.
• Per stabilire flussi di lavoro per la revisione e l'approvazione prima della distribuzione in produzione.
• Per monitorare le prestazioni continue dei modelli e dei segnali che innescano un riaddestramento.
• Per valutare i modelli di intelligenza artificiale in termini di equità, spiegabilità e conformità alle norme.
• Per integrare la gestione del rischio dei modelli con i quadri di governance come le valutazioni d'impatto dell'IA (AIIA).

Leggi e norme correlate

• Legge sull'intelligenza artificiale dell'UE
• Regolamento sulla resilienza operativa digitale (DORA)
• Comitato di Basilea per la vigilanza bancaria (BCBS 239)
• SR 11-7 (linee guida della Federal Reserve sulla gestione del rischio dei modelli)
• ISO/IEC 42001 (norma per i sistemi di gestione dell'IA)

In che modo OneTrust può esserti d'aiuto con la gestione del rischio dei modelli?

OneTrust supporta la gestione del rischio dei modelli aiutando le organizzazioni a monitorare il proprio inventario di modelli, a documentare le valutazioni dei rischi e ad automatizzare i flussi di lavoro di approvazione. La piattaforma fornisce documentazione pronta per gli audit e supporta la governance dell'intelligenza artificiale, oltre alle pratiche di equità e responsabilità.
[Esplora le soluzioni → ]

Domande frequenti sulla gestione del rischio dei modelli