Research

The AI revolution calls for contaminations among disciplines

Papers:
Big data and Artificial Intelligence are leading to radical changes in decision-making processes. In this paper, we aim to provide an overview of the paradigm shift that has occurred in the field of AI and its implications for law. Presenting the Compas case, we highlight some critical aspects of the application of AI on judicial decisions. We conclude the work by reflecting on the radical transformations that are proceeding at great speed, underlining the main challenges that only through interdisciplinary approaches can be effectively addressed and proposing some of the fundamental principles of a new constitutional law of the cybernetic era.

Simoncini, A., & Suweis, S. (2019). Il cambio di paradigma nell’intelligenza artificiale e il suo impatto sul diritto costituzionale. Rivista di filosofia del diritto, 8(1), 87-106.

Conferences:
ICONS FIRENZE 2019

Overview:
Il gruppo intende indagare le questioni legate alla tutela della persona nell’utilizzo dei big data e dell’intelligenza artificiale, analizzando secondo un approccio multidisciplinare l’opportunità e la possibilità di ottenere una spiegazione degli algoritmi utilizzati in questi sistemi. Gli obiettivi di questa discussione sono quello di chiarire le implicazioni giuridico-filosofiche che derivano dalla concreta attivabilità di queste pretese, di spiegare le premesse e le difficoltà pratiche che si possono incontrare da un punto di vista tecnico e di proporre una tassonomia right-oriented dei diversi sistemi, anche alla luce di quanto previsto dal regolamento UE 679/2016.

Alla base di queste riflessioni vi sono una serie di considerazioni ormai pacifiche, legate essenzialmente alla diffusione sempre più pervasiva delle tecnologie data-driven in ogni ambito della quotidianità delle persone e delle istituzioni. Quella che all’inizio poteva sembrare una rivoluzione solo tecnologica oggi dimostra di essere un punto critico in diversi settori, in campo economico, politico, sociale e scientifico. Scelte tecniche che, in astratto, potrebbero risultare neutre, nel momento in cui le applicazioni trovano spazio nell’elaborazione delle policies, nella decisione di casi giudiziari, piuttosto che nell’indicizzazione dei contenuti, chiedono di essere attentamente ponderate. La configurazione delle tecnologie utilizzate, infatti, si presta ad incidere sulle prerogative e sugli interessi dei soggetti coinvolti, finanche sugli equilibri istituzionali tra i poteri pubblici e gli attori privati. In ogni passaggio delle attività di trattamento si intersecano quindi non solo problemi di ordine tecnico, ma più ancora importanti interrogativi di carattere etico, epistemologico e giuridico.
Per capire le prospettive che si aprono, va rilevato come la generazione continua di enormi flussi informativi abbia trasformato il modo in cui tradizionalmente si erano pensato all’intelligenza artificiale, dando vita ad un nuovo paradigma letteralmente “governato dai dati” (data-driven). In molti ambiti, infatti, il metodo logico-deduttivo è soppiantato da un approccio statistico, mettendo in secondo piano la formalizzazione matematica dei problemi e così la spiegazione causale-analitica degli schemi ricorrenti (pattern).

Chiaramente, tali caratteristiche se queste tecnologie vengono applicate in alcuni ambiti – come, ad esempio, in campo scientifico – non danno luogo a particolari perplessità. Al contrario, quando sistemi simili si prestano ad essere adottati in altri contesti – come nel caso policy-making, piuttosto che nei processi di decisione individuale automatizzata – emergono invece diverse criticità. Come accennato, in questi casi infatti i risultati e gli esiti proposti dagli algoritmi diventano il presupposto di iniziative e azioni in grado di incidere anche in modo molto serio sulla sfera giuridica del singolo e di intere categorie di persone, determinando a seconda delle occasioni situazioni di vantaggio o pregiudizio.

È qui che si registra il punto di maggior attrito tra logica giuridica e logica algoritmica. La legittimazione a decidere sulle questioni di pubblico interesse, così come l’esercizio dei poteri atti ad inibire o promuovere l’iniziativa e le libertà del singolo, soggiacciono ad una serie di precondizioni formali e sostanziali di cui le Costituzioni storicamente sono garanti. La ragionevolezza della legge, così come delle sentenze, poggiano sugli argomenti che vi sono posti a fondamento e sulla chiara ricostruzione dei compressi e dei bilanciamenti necessari a raggiungere le determinazioni finali.

Nella prospettiva di integrare e sostituire operazioni e fasi del decision-making – sia pubblico che privato – con algoritmi di apprendimento automatico come il supervised learning, la possibilità di incorrere in simili lacune circa la ratio delle decisioni desta serie preoccupazioni, soprattutto per quanto riguarda i profili relativi alla responsabilità ultima della decisione, così come alla loro sindacabilità.

Di fronte all’esigenza di ripensare i sistemi di garanzia e tutela dei diritti, nel contesto europeo, un primo tentativo di risposta si è registrato in alcune delle novità introdotte dal Regolamento generale sulla protezione dei dati personali (reg. 679/2016). Questa riforma, volta a consolidare il ruolo dell’Unione europea quale garante dei diritti fondamentali al tempo dei big data, recependo suggerimenti e riflessioni ormai risalenti, non solo ha introdotto specifici obblighi rispetto al design delle tecnologie (art. 25, § 1) – considerato a tutti gli effetti come autentica misura di protezione – ma, in qualche modo, riconosce anche un diritto ad ottenere lumi sulle logiche dei programmi utilizzati nel trattamento dei dati personali, aprendo così la strada ad un nuovo diritto volto