Le valutazioni automatizzate del merito creditizio nel quadro regolatorio europeo. Quale futuro per il credit scoring algoritmico?
1. Credit scoring algoritmico, valutazione del merito creditizio e processi decisionali automatizzati. – 2. Le recenti pronunce della Corte di Giustizia sul credit scoring. Il caso Schufa (C-634/21). – 3. (Segue). Le questioni irrisolte. La dubbia portata del diritto ad ottenere «significative informazioni» sulla logica della decisione algoritmica. – 4. (Segue). Le soluzioni proposte dalla Corte di Giustizia nella decisione D&B (C-203/22). Il diritto alla spiegazione della decisione algoritmica e la sua concreta estensione. – 5. I limiti normativi al credit scoring algoritmico. La direttiva UE 2023/2225 sul credito ai consumatori (CCD II). – 6. (Segue). Il Reg. (UE) 2024/1689 sull’intelligenza artificiale (AI Act). – 7. L’irrealizzabilità pratica del diritto alla spiegazione in caso di ricorso a tecniche di machine learning. – 8. Un ulteriore limite normativo: le disposizioni in materia di outsourcing delle funzioni bancarie. – 9. Considerazioni conclusive. Quale futuro per il credit scoring algoritmico?
Lo scritto analizza le recenti pronunce della Corte di Giustizia in materia di credit scoring algoritmico (casi Schufa e D&G), evidenziando come le stesse, unitamente ad alcuni provvedimenti normativi di recente adozione (CCD II e AI Act), contribuiscano a creare un quadro regolatorio certamente più puntale ed efficace (specie in materia di tutele spettanti al soggetto valutato, cui viene ormai riconosciuto, a più livelli, un vero e proprio diritto alla spiegazione della decisione automatizzata che lo riguarda), ma caratterizzato, al contempo, da stringenti limitazioni all’esercizio delle attività in questione.
Invero, l’impatto che le più progredite soluzioni tecnologiche possono produrre sulla persona umana – incidendo sui processi di costruzione dell’identità personale negli ambienti digitali, sui diritti fondamentali dell’individuo o su interessi altrimenti rilevanti - impone l’adozione, sul piano normativo, di una serie di cautele e di vincoli il cui effetto, guardando all’ambito bancario, potrebbe essere quello di privare il mercato creditizio di strumenti, come quelli in esame, potenzialmente in grado di assicurare maggiori livelli di efficienza e di affidabilità.
Lo scopo dello scritto, pertanto, è valutare le prospettive di sviluppo, nel prossimo futuro, delle attività di credit scoring algoritmico, tenuto conto che, nel contesto normativo e giurisprudenziale che si è da ultimo delineato, lo svolgimento delle stesse esige un accurato bilanciamento tra esigenze contrapposte (tutela dei diritti della persona, da un lato; buon funzionamento del mercato del credito, dall’altro), meno agevole di quanto possa sembrare.
This paper analyses some recent rulings of the Court of Justice on algorithmic credit scoring (Schufa and D&G cases), highlighting how they have contributed, together with some recent legislative measures (CCD II and AI Act), to creating a more effective regulatory framework, especially with regard to the protection of the natural person. At the same time, however, the current framework is characterized by severe limitations on the exercise of the concerned activities. Indeed, the impact of the most advanced technological solutions on the rights and legitimate interests of the human being, requires the adoption of suitable safeguard measures and regulatory constraints whose effect, looking at the banking sector, could be to deprive the credit market of very useful, innovative, and effective tools.
The purpose of this paper, therefore, is to investigate the development prospects of algorithmic credit scoring, considering that, in the current framework, the performance of such activities requires a careful balance of opposing needs (protection of the rights of the natural person, on the one hand; proper functioning of the credit market, on the other), less easy than it may appear.