Il saggio si propone di identificare i rischi per la persona umana ingenerati dal ricorso a sistemi di credit scoring algoritmico, nonché le forme di tutela alla stessa riservate nell'attuale quadro normativo. A tal fine, vengono esaminate due recenti pronunce della Corte di Giustizia (Schufa e D&G), che affrontano le questioni sollevate dall'algorithmic credit scoring quale processo decisionale interamente automatizzato (in particolare, esistenza di un diritto alla spiegazione della decisione robotizzata e sua concreta portata), unitamente ad alcuni provvedimenti normativi di recente adozione (CCD II e AI Act), riferibili anche alla predetta attività. L'analisi dimostra che il diritto dell'Unione attribuisce primaria importanza al principio di trasparenza (intesa come spiegabilità e interpretabilità delle decisioni automatizzate), sebbene lo stesso risulti di difficile applicazione pratica, a causa di significativi limiti di natura sia tecnologica che giuridica. Il lavoro suggerisce, pertanto, alcune soluzioni alle problematiche discusse, basandosi sul presupposto che lo sviluppo tecnologico può sì condurre a maggiore velocità, accuratezza ed efficienza nella fornitura di servizi finanziari, ma non può in alcun caso prevalere sulla dignità della persona umana e sulla tutela dei suoi diritti fondamentali.
Credit scoring algoritmico e tutela della persona. Riflessioni intorno ai casi Schufa (CGUE, C-634/21) e D&B (CGUE, C-203/22)
Francesco Ciraolo
2025-01-01
Abstract
Il saggio si propone di identificare i rischi per la persona umana ingenerati dal ricorso a sistemi di credit scoring algoritmico, nonché le forme di tutela alla stessa riservate nell'attuale quadro normativo. A tal fine, vengono esaminate due recenti pronunce della Corte di Giustizia (Schufa e D&G), che affrontano le questioni sollevate dall'algorithmic credit scoring quale processo decisionale interamente automatizzato (in particolare, esistenza di un diritto alla spiegazione della decisione robotizzata e sua concreta portata), unitamente ad alcuni provvedimenti normativi di recente adozione (CCD II e AI Act), riferibili anche alla predetta attività. L'analisi dimostra che il diritto dell'Unione attribuisce primaria importanza al principio di trasparenza (intesa come spiegabilità e interpretabilità delle decisioni automatizzate), sebbene lo stesso risulti di difficile applicazione pratica, a causa di significativi limiti di natura sia tecnologica che giuridica. Il lavoro suggerisce, pertanto, alcune soluzioni alle problematiche discusse, basandosi sul presupposto che lo sviluppo tecnologico può sì condurre a maggiore velocità, accuratezza ed efficienza nella fornitura di servizi finanziari, ma non può in alcun caso prevalere sulla dignità della persona umana e sulla tutela dei suoi diritti fondamentali.Pubblicazioni consigliate
I documenti in IRIS sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.
