Il sistema di credito sociale cinese: una «nuova» regolazione sociotecnica mediante sorveglianza, valutazione e sanzione

Da qualche anno, il governo cinese sta costruendo un sistema per la raccolta, conservazione e uso di grandi masse di dati digitali che riguardano il comportamento delle persone fisiche e giuridiche in ambito economico, finanziario, sociale, civile e altri ancora. Tali dati saranno usati per valutare il comportamento dei soggetti attribuendo incentivi per le condotte “affidabili”, “degne di fiducia” o “virtuose”, e limitazioni per quelle “non affidabili”, “non degne di fiducia”, “non virtuose”, secondo parametri giuridici, di moralità sociale o proposti dal potere politico. L’attribuzione del credito sociale e la determinazione delle sue conseguenze risultano da un complesso sistema socio-tecnico (combinazione di persone, norme e tecnologie) nel quale le tecnologie dell’informatica, e in particolare quelle dell’intelligenza artificiale, giocano un ruolo fondamentale. Il presente contributo si propone di introdurre le caratteristiche, la struttura, le finalità esplicite e i principali limiti del sistema di credito sociale, illustrando brevemente le potenzialità, ancora non del tutto attualizzate, dell’uso delle tecniche di intelligenza artificiale nelle diverse applicazioni relative alla sorveglianza, alla valutazione e alla sanzione. In particolare, si porrà l’attenzione sulle caratteristiche del modello sanzionatorio del sistema di credito sociale. Esso è rivolto a realizzare importanti esigenze sociali ma, d’altro lato, è suscettibile di incidere pesantemente sulle libertà dei cittadini e sullo sviluppo delle dinamiche sociali. La sua valutazione richiede un’analisi accurata, che include il contesto socio-culturale in cui esso si colloca così come le tecnologie di cui si avvale. Over the last few years, the Chinese government has built a system for the collection, conservation and utilization of large masses of Big Data concerning the behavior of natural and legal persons in several (economic, financial, social, civil, etc.) fields. All these data are to be used to assess the behavior of the individuals, attributing incentives for “reliable”, “trustworthy” or “virtuous” conducts, and limitations for “unreliable”, “untrustworthy” or “unvirtuous” conducts, according to parameters coming from the legal sphere, from the social morality or proposed by the political power. The attribution of social credit and the determination of its consequences result from a complex socio-technical system (a combination of persons, rules and technologies) in which information (particularly AI) technologies are paramount. This paper aims to present the characteristics, the structure, the explicit goals and the main limits of the social credit system, briefly illustrating the potential of AI technologies in the applications concerning surveillance, evaluation and sanction. In particular, it will highlight the characteristics of the sanctioning model of the social credit system, which aims to realize important social goals, but which can also heavily affect the freedom of citizens and a number of social dynamics. Thus, the evaluation of this system requires a precise analysis, which includes its socio-cultural context and the technologies used by it.