“Videosorveglianza, no all’intelligenza artificiale che viola la privacy Il Garante sanziona il Comune di Trento per aver condotto due progetti di ricerca scientifica, utilizzando telecamere, microfoni e reti sociali, in violazione della normativa sulla protezione dati
No del Garante al trattamento dei dati personali nel Comune di Trento nell’ambito dei progetti di ricerca scientifica Marvel e Protector: diritti a rischio in assenza dei necessari presupposti di liceità. Il Comune dovrà pagare una sanzione di 50.000 euro e cancellare i dati trattati in violazione di legge.
I progetti, finanziati con fondi europei, hanno come obiettivo lo sviluppo di soluzioni tecnologiche volte a migliorare la sicurezza in ambito urbano, secondo il paradigma delle “città intelligenti” (smart cities).
In particolare, il progetto Marvel (“Multimodal Extreme Scale Data Analytics for Smart Cities Environments”) prevedeva l’acquisizione di filmati dalle telecamere di videosorveglianza già installate nel territorio comunale per finalità di sicurezza urbana, nonché dell’audio ottenuto da microfoni appositamente collocati sulla pubblica via. I dati, che ad avviso del Comune sarebbero stati immediatamente anonimizzati dopo la raccolta, venivano analizzati per rilevare in maniera automatizzata, mediante tecniche di intelligenza artificiale, eventi di rischio per la pubblica sicurezza. Il progetto Protector (“PROTECTing places of wORship”) prevedeva invece, oltre all’acquisizione dei filmati di videosorveglianza (senza segnale audio), la raccolta e l’analisi di messaggi e commenti d’odio pubblicati sui social, rilevando eventuali emozioni negative ed elaborando informazioni d’interesse per le Forze dell’ordine, allo scopo di identificare rischi e minacce per la sicurezza dei luoghi di culto.
Dopo un’approfondita istruttoria, il Garante ha rilevato molteplici violazioni della normativa privacy.
Il Comune di Trento, che non annovera la ricerca scientifica tra le proprie finalità istituzionali, non ha comprovato la sussistenza di alcun quadro giuridico idoneo a giustificare i trattamenti dei dati personali – relativi anche a reati e a categorie particolari – e la conseguente ingerenza nei diritti e nelle libertà fondamentali delle persone. Tenuto conto che i dati venivano condivisi anche con soggetti terzi, tra cui i partner di progetto, i trattamenti effettuati sono stati quindi ritenuti illeciti.
Si sono rivelate inoltre insufficienti le tecniche di anonimizzazione impiegate per ridurre i possibili rischi di reidentificazione per gli interessati.
Criticità sono emerse anche sotto il profilo della trasparenza. Il Comune non aveva infatti compiutamente descritto i trattamenti nelle informative di primo e di secondo livello, come la possibilità che anche le conversazioni potessero essere registrate dai microfoni installati sulla pubblica via.
Inoltre, nonostante i due progetti comportassero l’impiego di nuove tecnologie e la sorveglianza sistematica di zone accessibili al pubblico, il Comune non ha comprovato di aver effettuato una valutazione d’impatto prima di iniziare il trattamento.
Pur riconoscendo alcuni fattori attenuanti, il Garante ha stigmatizzato le massive e invasive modalità di trattamento poste in essere, che hanno comportato significativi rischi per i diritti e le libertà degli interessati, anche di rango costituzionale.
Poiché simili forme di sorveglianza negli spazi pubblici possono modificare il comportamento delle persone e condizionare anche l’esercizio delle libertà democratiche, l’Autorità si è comunque dichiarata come sempre aperta al dialogo, sia con il Comune di Trento sia con ogni altra amministrazione, per dare supporto ad ogni eventuale futura iniziativa di uso dell’AI da realizzare in conformità con le norme sulla privacy.
I. L’ Agenzia Nazionale di Valutazione del sistema Universitario e della Ricerca (ANVUR) può essere considerata un’autorità indipendente dal potere esecutivo? I suoi membri esprimono libere idee scientifiche sulla valutazione od opinioni di funzionari amministrativi gerarchicamente sottoposti al potere esecutivo?
Alla prima domanda si deve rispondere in senso negativo: ANVUR non è un’autorità indipendente dal potere esecutivo, è piuttosto un’agenzia dipendente dal potere del Ministero dell’Università e della Ricerca (MUR).
Al secondo quesito occorre rispondere che i funzionari dell’agenzia, quando esprimono idee sulla valutazione e sulla stessa agenzia, sono condizionati sia dalla natura dell’organizzazione sia dalle sue regole interne.
II. Per rispondere alla prima domanda occorre prendere le mosse dal dato normativo.
La legge istitutiva dell’ANVUR parla di “autonomia organizzativa, amministrativa e contabile” (art. 2, c. 138-141 del decreto-legge 3 ottobre 2006, n. 262 convertito con modificazioni nella l. 4 novembre 2006, n. 286, conversione in legge, con modificazioni, del decreto-legge 3 ottobre 2006, n. 262, recante disposizioni urgenti in materia tributaria e finanziaria).
Ma se si leggono attentamente e per intero le norme rilevanti, la legge parla anche di nomina dei componenti dei componenti dell’organo direttivo (comma 140 del citato art. 2).
“Con regolamento emanato ai sensi dell’articolo 17, comma 2, della legge 23 agosto 1988, n. 400, su proposta del Ministro dell’università e della ricerca, previo parere delle competenti Commissioni parlamentari, sono disciplinati: a) la struttura e il funzionamento dell’ANVUR, secondo principi di imparzialità, professionalità, trasparenza e pubblicità degli atti, e di autonomia organizzativa, amministrativa e contabile, anche in deroga alle disposizioni sulla contabilità generale dello Stato; b) la nomina e la durata in carica dei componenti dell’organo direttivo, scelti anche tra qualificati esperti stranieri, e le relative indennità”.
Nel regolamento attuativo si è interpretata nel modo peggiore la delega di potere normativo. Vedi l’art. 8 c. 3 del d.p.r. 76 del 2010:
“3. I componenti del Consiglio direttivo sono nominati con decreto del Presidente della Repubblica, su proposta del Ministro, sentite le competenti Commissioni parlamentari. Nel Consiglio direttivo devono comunque essere presenti almeno due uomini e almeno due donne. Ai fini della proposta, il Ministro sceglie i componenti in un elenco composto da non meno di dieci e non più di quindici persone definito da un comitato di selezione appositamente costituito con decreto del Ministro. […]”.
Dunque, i componenti del Consiglio direttivo sono riconducibili al Ministro dell’Università. Peraltro, come evidenziato da Maria Chiara Pievatolo nel recente volume “Perché la valutazione ha fallito. Per una nuova Università pubblica“, i membri del comitato di selezione “sono designati rispettivamente dal ministro, dal segretario generale dell’OCSE e dai presidenti dell’Accademia dei Lincei, dell’European Research Council e dal Consiglio nazionale degli studenti. Fra i designatori, l’unico ente elettivo è il Consiglio nazionale degli studenti […]”.
Senza entrare nel dibattito sulla natura di autorità ed agenzie indipendenti, si può sottolineare che questa struttura di governo, tra le tante possibili, è quella che assicura la dipendenza dell’agenzia dal Ministro.
“l’indipendenza dell’ANVUR è minata dalla mancanza di terzietà rispetto all’Esecutivo e dagli eccessi di controlli da parte dei vari stakeholders: tutti i 7 membri del suo Consiglio Direttivo sono, infatti, scelti direttamente o indirettamente dal Titolare del MUR e a lui o al suo Dicastero riportano, segnalano, propongono”.
Fiorella Kostoris è stata successivamente nominata componente del Consiglio direttivo dell’ANVUR, carica che ha ricoperto dal 2011 al 2015.
III. Ritorniamo ora al secondo quesito di partenza: i membri dell’ANVUR esprimono libere idee scientifiche sulla valutazione od opinioni di funzionari amministrativi gerarchicamente sottoposti al potere esecutivo? Anche per questa domanda si può fare riferimento al dato normativo.
“Nelle materie di competenza dell’Agenzia, i membri dell’Agenzia partecipano a convegni, seminari e simili, nonché pubblicano articoli su quotidiani o periodici solo quando la partecipazione o la pubblicazione avvengano nell’interesse dell’Agenzia. Tali attività sono comunicate al Presidente. Nelle materie estranee alla competenza dell’Agenzia, la partecipazione a convegni, seminari e simili, nonché la pubblicazione di articoli su quotidiani o periodici da parte dei membri dell’Agenzia sono libere. E’ altresì non vincolata qualunque pubblicazione a carattere scientifico, nel rispetto della libertà di manifestazione del pensiero da parte di ogni persona“.
La norma è ambigua. Ma non c’è dubbio sul fatto che essa radichi in capo all’agenzia un potere di controllo e di indirizzo sulle attività di pubblica manifestazione del pensiero dei propri membri nelle materie di competenza (cioè nella valutazione). Allora, quando il codice etico fa riferimento alla pubblicazione di carattere scientifico, cosa intende? Se un membro dell’ANVUR volesse pubblicare un articolo scientifico critico nei confronti dell’operato dell’agenzia si sentirebbe libero di farlo? Egli farebbe kantiamentente uso pubblico della ragione?
È lecito dubitare che la risposta alle ultime domande possa essere positiva. L’agenzia non gode né di indipendenza né di reale autonomia dal potere esecutivo. Tant’è che tutte le sue più importanti funzioni sono dirette normativamente dal Ministero. L’agenzia può muoversi solo nel perimetro normativo disegnato dal Ministero.
Beninteso, qui non si sta sostenendo che i membri dell’agenzia non possano esprimersi liberamente sulla valutazione. Anzi, si vuole sostenere esattamente il contrario. Tuttavia, la natura dell’agenzia e le sue regole condizionano la libertà di espressione del pensiero dei sui membri.
La ragione di questa inossidabile fedeltà è facile da spiegare. Il tentativo – destinato inesorabilmente a fallire – è quello di giustificare scientificamente un potere valutativo che è invece ontologicamente gerarchico, cioè si fonda, nella metafora usata da Maria Chiara Pievatolo, sulla spada e non sulla bilancia.
Perché si ha bisogno di questa giustificazione? Perché si vorrebbe far passare l’idea che, nell’ambito dell’università e della ricerca, decidere sulla base di indicatori garantisce oggettività e merito. Mentre si tratta soltanto di sostituire il governo democratico del diritto con la governance opaca e autoritaria dei numeri.
IV. Per concludere, le norme giuridiche ci dicono esplicitamente che l’ANVUR è un’agenzia dipendente dal Ministero con licenza di valutare numericamente al fine di decidere sulla distribuzione delle risorse e sullo sviluppo delle carriere di professori e ricercatori italiani.
Il problema dunque si sposta sull’autonomia delle università e sulla libertà scientifico-accademica garantite dell’art. 33 della Costituzione.
In che misura le università possono ancora dirsi autonome in un sistema di valutazione amministrativa di Stato come quello attualmente vigente? E i professori universitari possono dirsi ancora liberi?
La compressione dell’autonomia e della libertà non dipende solo dalle norme emanate dal MUR e dall’ANVUR, ma attiene agli anticorpi presenti nelle università.
Pochi esempi bastano a rendere l’idea. Se la disciplina della valutazione a livello di singolo ateneo si appiattisce su quella ministeriale e dell’agenzia, l’autonomia perde un altro pezzo. Se a livello di singola università si emanano regolamenti che sanzionano atti di protesta contro la valutazione amministrativa di Stato o pretendono di disciplinare il modo in cui i componenti della comunità accademica possono o non possono esprimersi sui mezzi di comunicazione di massa, la libertà di professori ne esce menomata, per non dire: azzerata.
Oggi si discute a livello europeo di riforma della valutazione della ricerca, ma questa discussione non può prescindere dalla disciplina giuridica del modo in cui si valuta, dalla distribuzione del potere valutativo e dalla natura di quest’ultimo. Insomma, non basta immaginare operazioni cosmetiche volte ad ammorbidire il peso degli indicatori. Una seria discussione deve prendere dalle mosse da due fondamentali domande.
1) Chi ha il potere di valutare?
2) Tale potere deriva da una gerarchia amministrativa o dalla ragione della scienza?
Tale notizie segnano un ulteriore distacco tra le politiche francesi e quelle italiane in materia di scienza aperta. In proposito si vedano le considerazioni dell’AISA sulle ultime determinazioni dell’ANVUR in materia: qui e qui.
“[…] discussing how research is evaluated is a waste of time if we do not address the question of who is entitled to do it”.
Introductory note from the author.
“If this were only a domestic issue, the fact that some of the international literature on research assessment in Italy appears misleading to many Italian-speaking researchers would not be so important. Now, however, the ANVUR, the Italian agency for research assessment appointed by the government, is participating in the research assessment reform process initiated by the COARA coalition, in a way that is not only inconsistent, but may put the entire COARA project at serious risk of failure. Therefore, we decided to present a translation of a 2017 article dealing with Andrea Bonaccorsi’s closed-access book La valutazione possibile. Teoria e pratica nel mondo della ricerca. Bologna. Il Mulino, 2015. Andrea Bonaccorsi is a former member of ANVUR’s board of directors, who has attempted to provide one of the broadest theoretical justifications for the Italian research assessment system, which is pervasive, centralized, mostly bibliometric, and under government control. A highly abbreviated English version of Bonaccorsi’s argument, which is also behind a paywall, can be found here.
Anonymous peer review has been, and continues to be, an important part of the process leading to the publication of an article in scholarly journals that are still built on the “affordances” of print technology. Two or more scholars from suitable disciplinary fields, chosen at the discretion of the journal’s editorial board and protected by anonymity, are asked to give an ex ante opinion on the acceptability of a text for publication. What the reviewers reject never sees the light of day, nor do their opinions and any discussions with the authors.
The Italian version of this essay, on the other hand, was born – together with a twin written by the jurist Roberto Caso – as an experiment in open peer review, which at the time was – and still is – rather unusual in Italy, where the state assessment of research requires anonymous peer review in order for a work of scholarship to be considered scientific. Open and post-publication peer review, however, would make it possible to moderate centralized and hierarchical evaluation systems by making the entire discussion public, recognizing the merits of the reviewers, and exposing any conflicts of interest.
To deal with Andrea Bonaccorsi’s justification of state evaluation of research, we will pretend – for the sake of discussion – that the system he theorizes produces a faithful snapshot of the way the scientific community evaluates itself. But even so, it can be shown that his justification leads to a research evaluation system that is practically despotic and theoretically retrograde. The system is despotic because it transforms an informal and historical ethos into a fixed rule of administrative law, which ceases to be an object of choice for the scientific community. And it is retrograde because, by establishing this rule, it blocks evolution in a still image, like the Sleeping Beauty’s castle, which cannot be overcome without further bureaucratic intervention.
In addition to the main argument, there are two ancillary parts: the first deals with the question, proposed by Bonaccorsi, of the empirical verifiability of some of the criticisms made against him; the second is an examination of a sample of quotations used by him to support some important passages. Finally, the conclusion briefly outlines the ideal and critical perspective of open science that inspires this paper. In this spirit, whenever possible, we have cited legally accessible versions and reviews of the paywalled sources that Bonaccorsi prefers, so that the reader can check our argument without having to overcome further economic barriers.
The Italian version of this essay was written in 2017, but we resisted the temptation to add a lot of updated references, even if they would have helped to support our points. We trust that our critique of the centralized and bureaucratic system of research evaluation can survive not only by relying on the literature of six years ago, but also on that of a hundred years ago.
A final warning: the term “state evaluation” is modeled on the term “state capitalism“. Just as state capitalism is an economic system in which the state is involved in business and profit-making economic activity, state science and state evaluation of research suggest that the state, directly or indirectly through its agencies, is involved in defining what is good science and what is not. In Italian we use “di stato” after a noun both in a neutral sense (“esame di stato”: state examination) and in a polemical sense, as in “delitto di stato” (a crime committed by the state itself). Translating “valutazione di stato” as “centralized evaluation” would lose the nuances of the Italian expression, while the adjective “governmental” might suggest a Foucauldian undertone that would betray the spirit of this essay, whose main point is closer to Kant: discussing how research is evaluated is a waste of time if we do not address the question of who is entitled to do it.
L’abbandono di banche dati proprietarie costituisce la premessa per l’uso di strumenti aperti e gratuiti in coerenza con i principi della scienza aperta.