Quando il sospetto automatico chiude i mercati alle imprese
Liste, sanzioni e controlli sono necessari. Ma se la verifica viene sostituita dall’allarme permanente, anche un’attività lecita può diventare economicamente impraticabile.
Un indicatore non è una prova
Il problema del riconoscimento facciale non si ferma ai volti. Nei controlli finanziari, nella verifica delle controparti e nello screening delle sanzioni, strumenti automatizzati possono collegare nomi, società e operazioni. Non tutti questi strumenti utilizzano l'intelligenza artificiale, ma condividono un rischio: scambiare un indicatore per una prova e un collegamento per una responsabilità.
Le persone politicamente esposte o che hanno avuto un'esposizione mediatica negativa vengono classificate attraverso delle "red flag" all'interno dei report di due diligence effettuate da società di audit o che devono valutare la compliance risk di una società. Tuttavia, essere esposti dal punto di vista mediatico non significa essere un criminale, né essere sottoposti a sanzioni. Le banche dati commerciali possono aiutare a identificarle, ma non sono necessariamente complete o affidabili, ma soprattutto non devono sostituire l’adeguata verifica.
Le sanzioni secondarie
Lo stesso bisogno di precisione vale per le sanzioni secondarie. Non esiste un divieto universale che colpisca automaticamente ogni relazione con un mercato sensibile: occorre individuare il regime applicabile, i soggetti, l’attività e le condizioni che possono determinare l’esposizione. Un punteggio generico non esaurisce questa analisi.
La delega del giudizio
Il nodo è la delega del giudizio. Quando un’amministrazione, una banca o un grande ufficio accetta il risultato del software senza un riscontro sostanziale, il controllo umano rischia di diventare una firma in fondo a una decisione già presa.
Un’omonimia o un dato superato possono così generare richieste ripetute, ritardi e difficoltà operative. L’impresa deve ricostruire documenti e relazioni mentre pagamenti, forniture e scadenze continuano.
«Una limitazione bancaria non equivale a una condanna, ma può produrre danni prima che il sospetto venga chiarito.»
L’esclusione preventiva
A questo si aggiunge una narrazione allarmistica del rischio, nella quale contatto, esposizione e violazione finiscono per sembrare sinonimi. L’imprenditore può rinunciare a un cliente o a un mercato non perché l’operazione sia vietata, ma perché non riesce a ottenere una valutazione affidabile o teme che nessuno voglia assumersene la responsabilità. Avviene quello che viene definita esclusione preventiva, cioè l’abbandono di categorie di clienti per evitare il rischio anziché valutarlo e gestirlo caso per caso. Non è un problema riconducibile soltanto all’AI, in quanto è imputabile all'intero sistema della valutazione della compliance.
Il peso di correggere un errore
L’onere giuridico della prova dipende dal procedimento. Ma il peso economico di correggere un errore può ricadere subito sull’impresa.Se da una parte l'inclusione in tali database avviene in maniera automatica ed inconsapevole, dall'altra la cancellazione richiede un procedimento giuridico e spesso molto dispendioso. Inoltre, le associazioni imprenditoriali o i garanti alla privacy non arrivano a regolamentare o a porre dei limiti nei confronti dei sistemi di classificazione automatica, la cui estensione è indefinita. Per questo servono dati verificabili, responsabilità identificabili e tempi di riesame compatibili con la vita aziendale, ma soprattutto una maggiore regolamentazione da parte dello Stato. Per quanto sia vero che l'azione del legislatore non deve essere eccessivamente invasiva, è oggi necessario che il settore della compliance presenti maggiori tutele per l'impresa e il singolo cittadino, essendo esposti a rischi sempre maggiori che le loro opportunità di business vengano danneggiate.
