Numero 23 [Policy]: L’appello di 150 accademici per un Fundamental Rights Impact Assessment
Si sta discutendo del FRIA al Trilogo in queste settimane
Pubblichiamo con piacere la lettera che oltre 150 accademici di fama internazionale, nel settore della protezione dei dati e dell’Intelligenza artificiale, hanno firmato e inviato alle istituzioni europee (Parlamento, Commissione e Consigli) per supportare l’introduzione di un Fundamental Rights Impact Assessment, sulla linea di quanto già presentato dal Parlamento europeo nel suo testo finale (vi riproponiamo per comodità l’articolo 29a del testo del parlamento sul FRIA in fondo alla lettera).
Tra i promotori della lettera c’è anche il nostro co-curatore e co-autore, Vincenzo Tiani.
La lettera è stata pubblicata da diversi media tra cui:
El Punt Avui, La Vanguardia, La Stampa, La Repubblica, Wired Italia, AgendaDigitale,
Perchè questo appello
Oltre 150 professori universitari da tutta Europa, e non solo, chiedono alle istituzioni europee di inserire nel futuro regolamento sull’Intelligenza artificiale (AI Act) l’obbligo di valutare l’impatto sui diritti fondamentali (FRIA). La proposta del Parlamento europeo va già in questa direzione ma rischia di uscire indebolita dal trilogo, il momento di incontro tra le tre istituzioni per approvare il testo finale. L’obbligo di un FRIA, nella proposta del Parlamento, sarebbe limitato solo alle AI considerate ad alto rischio, sia del settore pubblico che privato.
Rispondendo ad un appello lanciato da Gianclaudio Malgieri (Leiden University), Alessandro Mantelero (Politecnico di Torino) e Vincenzo Tiani (Brussels Privacy Hub), i 150 firmatari, considerati punti di riferimento sui temi dell’AI, della protezione dei dati e dei diritti fondamentali, molti dei quali già chiamati come esperti da istituzioni nazionali, europee ed internazionali, chiedono di mantenere la versione del parlamento e in particolare di assicurare:
parametri chiari sulla valutazione dell'impatto dell'IA sui diritti fondamentali;
trasparenza sui risultati della valutazione d'impatto attraverso sintesi pubbliche e significative;
partecipazione degli utenti finali interessati, soprattutto se in posizione di vulnerabilità;
coinvolgimento delle autorità pubbliche nel processo di valutazione d'impatto e/o nei meccanismi di audit.
Appello urgente per l'approvazione di una solida valutazione d'impatto sui diritti fondamentali nella legge UE sull'intelligenza artificiale
Ai rappresentanti del Consiglio dell'Unione europea, della Commissione europea e del Parlamento europeo, partecipanti al trilogo per la legge sull'intelligenza artificiale,
Noi, il sottoscritto gruppo di professori universitari, membri della comunità accademica, in collaborazione con società civile e altre istituzioni, vorremmo esprimere la nostra più profonda preoccupazione riguardo alle revisioni proposte per la legge UE sull'intelligenza artificiale. In particolare, vi esortiamo ad adottare e rafforzare la disposizione contenuta nella versione del Parlamento europeo della legge sull'intelligenza artificiale in merito a una valutazione obbligatoria dell'impatto sui diritti fondamentali (FRIA, fundamental rights impact assessment) per le istituzioni pubbliche e private che utilizzano tecnologie di intelligenza artificiale (AI).
Una valutazione d'impatto sui diritti fondamentali solida e corretta dovrebbe basarsi sui seguenti quattro pilastri: 1) parametri chiari sulla valutazione dell'impatto dell'IA sui diritti fondamentali; 2) trasparenza sui risultati della valutazione d'impatto attraverso sintesi pubbliche e significative; 3) partecipazione degli utenti finali interessati, soprattutto se in posizione di vulnerabilità; 4) coinvolgimento delle autorità pubbliche nel processo di valutazione d'impatto e/o nei meccanismi di audit.
Inoltre, riteniamo che il FRIA debba essere coordinato con gli altri meccanismi di valutazione d'impatto già presenti nel progetto di legge sull'AI e in altri atti legislativi dell'UE. Le autorità di vigilanza nazionali indipendenti potrebbero attuare i principi del FRIA attraverso un quadro normativo chiaro e coerente, che permetta di comprenderne facilmente le procedure di adeguamento e prevederne gli effetti in caso di violazione. Ciò contribuirebbe a ridurre i costi e i tempi di adeguamento per le aziende che impiegano l'IA.
In qualità di esperti in varie discipline, siamo testimoni dei profondi rischi che i sistemi di IA possono comportare per i diritti fondamentali e della necessità di azioni ex-ante significative per mitigare tali impatti. L'inclusione di un solido meccanismo FRIA all'interno della legge europea sull'intelligenza artificiale è una salvaguardia fondamentale contro i potenziali impatti negativi sui diritti fondamentali degli utenti finali, in particolare di coloro che si trovano in posizioni vulnerabili. Questa valutazione completa consente di esaminare sistematicamente l'impatto dei sistemi di IA sui diritti fondamentali, garantendo responsabilità, trasparenza e un uso etico delle tecnologie di IA.
Riteniamo che il FRIA debba riguardare non solo le istituzioni pubbliche, ma anche le entità private che utilizzano l'IA. Solo in questo modo possiamo garantire che tutte le organizzazioni, indipendentemente dalla loro natura, siano ritenute responsabili dei potenziali rischi e dell'impatto che i loro sistemi di IA possono avere sugli individui e sulla società nel suo complesso, soprattutto considerando l'enorme impatto che gli sviluppatori e le imprese che usano l’IA possono avere sui diritti fondamentali degli individui. Questo approccio stabilisce condizioni di parità, previene indebite concentrazioni di potere e favorisce una diffusione responsabile dell'IA in tutti i settori.
Inoltre, esortiamo le istituzioni europee a garantire che il FRIA sia trasparente, partecipativo e multidisciplinare. Il coinvolgimento di diverse parti interessate, tra cui organizzazioni della società civile, esperti, università e comunità emarginate, arricchirà il processo di valutazione e rafforzerà la legittimità del quadro normativo sull'IA.
Infine, nell'affrontare la complessità dei rischi relativi ai diritti fondamentali, la valutazione del rischio dovrebbe essere uno strumento integrato con una distribuzione proporzionata degli oneri basata sul rischio effettivo introdotto nella società e sul potere dei singoli attori di gestire tale rischio, come generalmente accettato nella teoria giuridica del rischio. I fornitori di IA dovrebbero quindi eseguire la valutazione generale di un prodotto/servizio di IA considerando tutti i suoi potenziali utilizzi, ma le entità che utilizzano tale prodotto/servizio in un determinato contesto e per scopi specifici dovrebbero integrare questa valutazione iniziale con l'analisi dell'impatto contestuale sui diritti fondamentali.
A questo proposito, l'obbligo di effettuare una valutazione d'impatto sarebbe in linea e integrerebbe altri obblighi di valutazione d'impatto più limitati e specifici che gli enti pubblici e privati dell'UE sono già chiamati a fare in base ad altre normative (ad esempio, il GDPR e il Digital Services Act), adottando un focus sulla varietà di impatti potenziali sui diritti fondamentali che i sistemi di IA ad alto rischio possono avere. Da questo punto di vista, la versione del Parlamento europeo della valutazione d'impatto sui diritti fondamentali dell’AI Act si mostra coerente nel caso in cui un ente debba eseguire sia una valutazione d’impatto privacy (DPIA) che una FRIA.
In conclusione, riteniamo che l'inclusione di una solida valutazione d'impatto sui diritti fondamentali all'interno dell'AI Act e la sua armonizzazione nell'ambito del più ampio approccio basato sul rischio siano fondamentali per sostenere l'impegno dell'Unione Europea nei confronti dei diritti umani e dei suoi valori. Nei prossimi giorni pubblicheremo una relazione più dettagliata che illustrerà il nostro punto di vista sulle migliori pratiche per regolamentare le valutazioni d'impatto sui diritti fondamentali.
Vi ringraziamo per l'attenzione che vorrete dedicare a questa questione cruciale.
Bruxelles, 12 settembre 2023
Gianclaudio Malgieri, Associate Professor of Law at Leiden University and Co-director of the Brussels Privacy Hub, The Netherlands
Alessandro Mantelero, Associate Professor of Law at Politecnico di Torino, Italy
Mireille Hildebrandt, Full Professor of Law at Vrije Universiteit Brussel, Belgium
Christopher Kuner, Affiliate Professor of Law at the University of Copenhagen, Denmark
Paul De Hert, Full Professor at Vrije Universiteit Brussel, Belgium, and Tilburg University, The Netherlands
Bart Schermer, Full Professor of Law at Leiden University, The Netherlands
Oreste Pollicino, Full Professor of Law at Bocconi University, Italy
Eduard Fosch-Villaronga, Associate Professor at Leiden University,T he Netherlands
Eleni Kosta, Full Professor of Law at Tilburg University, The Netherlands
Giorgio Resta, Full Professor of Law at Roma Tre University, Italy
Bart Custers, Full Professor of Law and Data Science, Leiden University, The Netherlands
Alain Strowel, Full Professor of IP and IT Law, UCLouvain and U Saint-Louis, Belgium
Vanessa Mak, Full Professor of Civil Law at Leiden University, The Netherlands
Margot E. Kaminski, Full Professor of Law, University of Colorado Law School, Boulder, CO, USA and Director, Privacy Initiative at the Silicon Flatirons Center
Vincenzo Tiani, Brussels Privacy Hub, Vrije Universiteit Brussel, Belgium
Frederik Zuiderveen Borgesius, Full Professor of ICT and Law at iHub, Radboud University, Nijmegen, The Netherlands
Simone van der Hof, Full Professor of Law and Digital Technologies, Leiden University, The Netherlands
Lee A. Bygrave, Full Professor of Law, Director of the Norwegian Research Center for Computers and Law, University of Oslo, Norway; Honorary Professor, College of Law, Australian National University
Andrew Selbst, Assistant Professor of Law at the University of California Los Angeles, USA
Dag Wiese Schartum, Full Professor of Law, Norwegian Research Center for Computers and Law, University of Oslo, Norway
Tobias Mahler, Full Professor of Law, Norwegian Research Center for Computers and Law, University of Oslo, Norway
Sebastian Felix Schwemer, Associate Professor, Centre for Information and Innovation Law (CIIR), University of Copenhagen, Denmark
Björn Fasterling, Professor of Law, EDHEC Business School, Augmented Law Institute, France
Christophe Roquilly, Full Professor of Law, Director of the EDHEC Augmented Law Institute, Honorary Dean of Faculty, EDHEC Business School, France
Alina Wernick, Principal Investigator, Faculty of Law, affiliated researcher, The Legal Tech Lab, the University of Helsinki, Finland
Giovanni De Gregorio, PLMJ Chair in Law and Technology, Universidade Catolica Portuguesa, Lisbon, Portugal
Julián Valero Torrijos, Full Professor of Administrative Law, Director of the Chair in Digital Identity & Rights, University of Murcia, Spain
Miquel Peguera, Full Professor of Law, at Universitat Oberta de Catalunya, Spain
Massimo Durante, Full Professor of Philosophy of Law and Legal Informatics, Department of Law, University of Turin, Italy
Mauro Grondona, Full Professor of Private Law, University of Genoa, Italy
Nora Ni Loideain, Director of Information Law & Policy Centre, Assistant Professor in Law, Institute of Advanced Legal Studies, University of London, UK
Lilian Mitrou, Full Professor - University of the Aegean-Greece - President of I Institute for Privacy Law, Data Protection and Technology (IPL -European Public Law Organisation), Greece
Bethany Shiner, Senior Lecturer in Law, Middlesex University London, UK
Sophie Stalla-Bourdillon, Professor in Law, Co-director of the Brussels Privacy Hub, VUB, Belgium
Martin Husovec, Associate Professor of Law, London School of Economics and Political Science (LSE), UK
Giovanni Sartor, Full Professor in legal theory and legal informatics, Department of Law, University of Bologna, European University Institute of Florence, Italy
Giusella Finocchiaro, Full Professor of Private Law and Internet Law, University of Bologna, Italy
Marcello Ienca, Professor of Ethics of Artificial Intelligence and Neuroscience; Deputy Director of the Institute for Ethics and History
of Medicine; Technical University of Munich, Germany. Senior Scientist at College of Humanities, Swiss Federal Institute of Technology in Lausanne, EPFL, Switzerland
Maria Helen Murphy, Associate Professor, Maynooth University School of Law and Criminology
Patrick O’Callaghan, Senior Lecturer in Law (Associate Professor), University College Cork, Ireland
Perry Keller, Reader (associate professor) in Media and Information law, King’s College London; UK
Thorsten Strufe, Full professor of Privacy and IT security, Karlsruhe Institute of Technology and CeTI/TU Dresden, Germany
Stefanos Gritzalis, Full Professor of Information and Communication Systems Security, Director MSc Programme in Law and ICT, Department of Digital Systems, University of Piraeus, Greece
Luca Longo, Assistant Professor, Technological University Dublin, Dublin, Ireland
Charles Raab, Professor Emeritus, University of Edinburgh, UK
Claude Castelluccia, Research Director, Inria, France
Martin Scheinin, British Academy Global Professor, Bonavero Institute of Human Rights, University of Oxford, UK
Franziska Boehm, Full Professor of Law, Karlsruhe Institute of Technology, Germany
Darius Whelan, Senior Lecturer, School of Law, University College Cork, Ireland
Sarah Spiekermann, Full Professor at Vienna University of Economics & Business, Austria
Marc Langheinrich, Full Professor for Computer Science, Università della Svizzera italiana, Switzerland
Edoardo Celeste, Assistant Professor in Law, Technology and Innovation and Chair of the Erasmus Mundus Master in Law, Data and AI, Dublin City University, Ireland
Sokratis Katsikas, Professor of Information and Cyber Security, Department of Information Security and Communication Technology, Norwegian University of Science and Technology, Norway & Director, Norwegian Centre for Cybersecurity of Critical Sectors, Norway & Professor Emeritus, University of Piraeus, Greece
Bart Preneel, Full Professor in Cybersecurity and Privacy, Department Electrical Engineering-ESAT, KU Leuven, Belgium
Henning Lahmnann, Assistant Professor of Law, eLaw Center for Law and Digital Technologies, Leiden, The Netherlands
Spyros Kokolakis, Professor, Department of Information & Communication Systems Engineering, University of the Aegean, Greece
Costas Lambrinoudakis, Professor, Department of Digital Systems, University of Piraeus, Greece
Maria Belén Andreu Martínez, Full Professor of Civil Law, University of Murcia, Spain
Franco Pizzetti, Professor Emeritus of Constitutional Law University of Turin, Italy
Miguel Poiares Maduro, VdA Chair in Digital Governance, Universidade Católica Portuguesa, Portugal
Philippe Jougleux, Associate Professor, School of Law, European University Cyprus, Cyprus
Ugo Pagallo, Full Professor of Law, University of Turin, Italy
Carissa Véliz, Associate Professor at the Institute for Ethics in AI, University of Oxford, UK
Lorenzo Cotino, Professor of Constitutional Law, University of Valencia, Spain
Orla Lynskey, Associate Professor LSE Law School and Visiting Professor College of Europe (Bruges), UK
Pere Simón Castellano, Full Professor of Constitutional Law, Universidad Internacional de la Rioja (UNIR - La Universidad en Internet), Spain
Jorge Castellanos Claramunt, Professor of Constitutional Law, University of Valencia, Spain
Adrián Palma Ortigosa, Assistant Professor of Administrative Law, University of Valencia, Spain
Professor Chris Marsden, Professor of Artificial Intelligence, Technology and the Law, Monash University, Australia
Maria Bottis, Professor of Information Law, Ionian University, Greece
Silvia De Conca, Assistant Professor of Law, Vrije Universiteit Amsterdam, The Netherlands
Jonathan Cave, Associate Professor of Economics, University of Warwick and Fellow, Alan Turing Institute, UK
Els J. Kindt, Founder of Biometric Law Lab, CiTiP, KU Leuven, Belgium, Associate professor, Universiteit Leiden, The Netherlands
Eoin O’Dell, Fellow and Associate Professor of Law, Trinity College Dublin, Ireland
Alberto De Franceschi, Full Professor of Private Law, Ferrara University, Italy
Camilla Crea, Associate Professor of Private Law, Sannio University, Italy
Róisín Á Costello, Assistant Professor of Law, Trinity College Dublin, Ireland
Ronald Leenes, Full Professor of Regulation by Technology, Tilburg Institute for Law, Technology, and Society, Tilburg University, the Netherlands
Linnet Taylor, Full Professor of International Data Governance, Tilburg Institute for Law, Technology, and Society, Tilburg University, the Netherlands
Mirko Tobias Schäfer, Associate Professor, Department of Information & Computing Sciences, Science Lead at Data School, Utrecht University, the Netherlands
Phoebe Li, Reader (Senior Associate Professor) in Law and Technology, School of Law, Politics, and Sociology, University of Sussex, UK
Vasiliki Diamantopoulou, Assistant Professor, University of the Aegean, Substitute Member of the Board, Hellenic Authority for Communication Security and Privacy, Greece
Nadya Purtova, Full Professor of Law, Innovation, and Technology, Utrecht University, the Netherlands
Albert Meijer, Full professor of Public Innovation, School of Governance, Utrecht University, Netherlands
Cristiana Santos, Assistant Professor of Law and Technology, School of Law, Utrecht University, The Netherlands
Albert Ali Salah, Full Professor of Social and Affective Computing, Utrecht University, The Netherlands
Jiahong Chen, Lecturer (Assistant Professor) in Law, University of Sheffield, UK
Aline Franzke, International Centre for Ethics in Science and Humanities (IZEW) University of Tübingen, Germany
Carlos Castillo, ICREA Research Professor at Universitat Pompeu Fabra, Barcelona, Spain
Salvatore Ruggieri, Full Professor of Computer Science, University of Pisa, Italy
Karin van Es, Associate Professor Media and Culture Studies, Humanities Lead at Data School, Utrecht University, the Netherlands
Domenico Rosani, Assistant Professor of Law, University of Utrecht, The Netherlands
George Christou, Professor of European Politics and Security, University of Warwick, UK
Anu Masso, Associate professor in big data in social sciences, Ragnar Nurkse Department of Innovation and Governance, Tallinn University of Technology, Estonia
Raphaële Xenidis, Assistant Professor in European Law, Sciences Po, France
Hannah Ruschemeier, Juniorprofessor (tenure W3) for Public Law, Data Protection Law & Law of Digitalisation, University of Hagen, Germany
Stephan Grimmelikhuijsen, Associate Professor in Public Management, Utrecht University School of Governance, Utrecht University, The Netherlands
Shoshana Zuboff, Charles Edward Wilson Professor Emeritus, Harvard Business School, author The Age of Surveillance Capitalism, US
Francien Dechesne, Associate Professor of Ethics and Digital Technologies, eLaw Center for Law and Digital Technologies, Leiden University, The Netherlands
Marc Rotenberg, Adjunct Professor Georgetown University, Executive Director, Center for AI and Digital Policy, United States
Merve Hickock, Lecturer in Information Law, Miching University, US
Janneke Gerards, Full Professor of Fundamental Rights Law, Utrecht University, The Netherlands
Giovanni Comandè, Full Professor of Comparative Law, Scuola Superiore Sant’Anna, Pisa, Italy
José Luis Piñar Mañas, Full Professor of Administrative Law, CEU San Pablo University, Madrid
Edoardo Raffiotta, Associate Professor of Constitutional Law, University of Milan Bicocca, Milan, Italy
Henrique Sousa Antunes, Associate Professor of Private Law, Universidade Católica Portuguesa, Lisbon, Portugal
Maria Karyda, Professor,Proffessor, Information Systems Security Management, University of the Aegean, Greece
Mark D. Cole, Professor of Media and Telecommunication Law, University of Luxembourg, Luxembourg
Prof. Dr. Indra Spiecker genannt Döhmann, LL.M., Chair in Constitutional and Administrative Law, Information Law, Environmental Law and Legal Theory, Director Data Protection Research Institute, Goethe University Frankfurt/Main, Germany
Konrad Lachmayer, Professor of Public law, European Law and Foundations of Law, Sigmund Freud University, Vienna, Austria
Judith Simon, Full Professor for Ethics in and Information Technologies, University of Hamburg, Germany
Petra Bárd, Professor of Sustainable Rule of Law, Radboud University, The Netherlands
Henry Prakken, full professor of Artificial Intelligence and Law, Utrecht University, The Netherlands
Masha Medvedeva, Assistant Professor in Legal Technologies, Leiden University, the Netherlands
Erna Ruijer, Assistant Professor in Public Management, Utrecht University School of Governance, Utrecht University, The Netherlands
Jan Trzaskowski, Full Professor of Law, Copenhagen Business School and Aalborg University, Denmark
Tihomir Katulić, Associate Professor of Information Technology Law, University of Zagreb, Faculty of Law, Croatia
Antonio Davola, Assistant Professor of Economic Law, University of Bari “Aldo Moro”, Italy
David Murakami Wood, Professor of Critical Surveillance and Security Studies, University of Ottawa, Canada
Erik Láštic, Associate Professor of Political Science, Comenius University, Faculty of Arts, Bratislava, Slovakia
Jennifer Gradecki, Assistant Professor of Art + Design, Northeastern University, Boston
Cécile de Terwangne, Full professor of IT and Fundamental Rights Law, Vice-Rector University of Namur, Belgium
Yves Poullet, Emeritus professor, Faculty of Law, University of Namur, Belgium
Ben Fleury-Steiner, Professor of Sociology and Criminal Justice, University of Delaware, US
Valerie Steeves, Full Professor of Criminology, University of Ottawa, Canada
David Lyon, Professor Emeritus, Sociology and Law, Queen’s University, Canada
Natali Helberger, Distinguished University Professor of Law and Digital Technology, University of Amsterdam
Antoinette Rouvroy, FNRS permanent research associate, University of Namur, Belgium
Emma L Briant, Associate Professor on News and Political Communication at Monash University
Rossana Ducato, Senior Lecturer in IT Law and Regulation, School of Law, University of Aberdeen, UK
Özgün Topak, Associate Professor, Social Science, York University, Canada
Aleš Završnik, Full Professor of Law, Institute of Criminology at the Faculty of Law University of Ljubljana, Slovenia
Guido Noto La Diega, Chair in Intellectual Property and Technology Law, University of Stirling; Martin-Flynn Global Law Professor, University of Connecticut
Amade Aouatef M’charek, Professor Anthropology of Science, University of Amsterdam
Elise Degrave, Professor of E-government and Fundamental Rights Law, Faculty of Law, University à Namur, Belgium
Alberto Alemanno, Professor of Law, HEC, Paris, France
Mateusz Grochowski, Senior Research Fellow, Max Planck Institute for Comparative and International Private Law, Hamburg, Germany
Andrew Graham, Lecturer in Humanities & Social Sciences, UHI Perth, University of the Highlands and Islands, UK
Keren Weitzberg, Senior Lecturer in the School of Politics and International Relations, Queen Mary University of London, UK
Maria Kutar, Senior Lecturer in Information Systems, University of Salford, Uk
Niels van Dijk, Associate Professor in Legal Philosophy, Faculty of Law & Criminology, Vrije Universiteit Brussel, Belgium
Jo Pierson, Full Professor of Responsible Digitalisation, School of Social Sciences, Hasselt University & Vrije Universiteit Brussel, Belgium
Stéfy McKnight, Assistant Professor, Bachelor of Media Production and Design, School of Journalism & Communications, Carleton University, Canada
Erik Longo, Associate Professor of Constitutional Law, University of Florence, Italy
Timo Minssen, Professor, Director, Centre for Advanced Studies in Biomedical Innovation Law (CeBIL), University of Copenhagen, Denmark; Research Affiliate, Centre for Law, Medicine and Life Sciences (LML), University of Cambridge, U.K.
Marcelo Corrales Compagnucci, Associate Professor and Associate Director, Centre for Advanced Studies in Biomedical Innovation Law (CeBIL), University of Copenhagen, Denmark
Elena Abrusci, Senior Lecturer in Law, Brunel Law School, Brunel University London, UK
Torin Monahan, Professor of Communication, University of North Carolina at Chapel Hill, USA
Catarina Sganga, Associate Professor of Comparative Law, Sant’Anna School of Advanced Studies of Pisa, Italy
Valerie Frissen, Full Professor of Digital Technologies and Social Change, Universiteit Leiden, The Netherlands
Marco Bassini, Assistant Professor of Fundamental Rights and Artificial Intelligence, Tilburg Institute for Law, Technology, and Society – Tilburg University, The Netherlands
🇪🇺 Articolo 29 bis
Valutazione d'impatto sui diritti fondamentali per i sistemi di intelligenza artificiale ad alto rischio
1. Prima di mettere in uso un sistema di IA ad alto rischio come definito all'articolo 6, paragrafo 2, ad eccezione dei sistemi di IA destinati a essere utilizzati nell'area 2 dell'allegato III, i responsabili della distribuzione effettuano una valutazione dell'impatto del sistema nel contesto specifico di utilizzo. Tale valutazione deve comprendere, come minimo, i seguenti elementi:
(a) una chiara descrizione dello scopo per il quale il sistema sarà utilizzato;
(b) una chiara descrizione dell'ambito geografico e temporale previsto per l'uso del sistema;
(c) le categorie di persone fisiche e gruppi che potrebbero essere interessati dall'uso del sistema;
(d) la verifica che l'uso del sistema sia conforme al diritto dell'Unione e nazionale in materia di diritti fondamentali;
(e) l'impatto ragionevolmente prevedibile sui diritti fondamentali della messa in uso del sistema di IA ad alto rischio;
(f) i rischi specifici di danno che potrebbero avere un impatto sulle persone emarginate o sui gruppi vulnerabili;
(g) l'impatto negativo ragionevolmente prevedibile dell'uso del sistema sull'ambiente;
(h) un piano dettagliato su come verranno mitigati i danni e l'impatto negativo sui diritti fondamentali individuati.
(j) il sistema di governance che l'implementatore metterà in atto, compresa la supervisione umana, la gestione dei reclami e i ricorsi.
2. Se non è possibile individuare un piano dettagliato per mitigare i rischi evidenziati nel corso della valutazione di cui al paragrafo 1, l'incaricato si astiene dal mettere in uso il sistema di IA ad alto rischio e informa il fornitore e l'autorità nazionale di vigilanza senza indebito ritardo. Le autorità nazionali di vigilanza, ai sensi degli articoli 65 e 67, tengono conto di queste informazioni quando indagano sui sistemi che presentano un rischio a livello nazionale.
3. L'obbligo di cui al paragrafo 1 si applica al primo utilizzo del sistema di IA ad alto rischio. L'implementatore può, in casi simili, basarsi sulla valutazione d'impatto sui diritti fondamentali precedentemente condotta o sulla valutazione esistente effettuata dai fornitori. Se, durante l'utilizzo del sistema di IA ad alto rischio, l'implementatore ritiene che i criteri elencati al paragrafo 1 non siano più soddisfatti, deve condurre una nuova valutazione d'impatto sui diritti fondamentali.
4. Nel corso della valutazione d'impatto, l'incaricato, ad eccezione delle PMI, informa l'autorità nazionale di vigilanza e le parti interessate e coinvolge, per quanto possibile, i rappresentanti delle persone o dei gruppi di persone che potrebbero essere interessati dal sistema di IA ad alto rischio, come individuato al paragrafo 1, tra cui, a titolo esemplificativo ma non esaustivo, gli organismi per la parità, le agenzie per la tutela dei consumatori, le parti sociali e le agenzie per la protezione dei dati, al fine di ricevere contributi alla valutazione d'impatto. L'implementatore deve concedere un periodo di sei settimane agli organismi per rispondere. Le PMI possono applicare volontariamente le disposizioni di cui al presente paragrafo.
Nel caso di cui all'articolo 47, paragrafo 1, le autorità pubbliche possono essere esentate da questi obblighi.
5. L'implementatore che è un'autorità pubblica o un'impresa di cui all'articolo 51, paragrafo 1 bis, lettera b), pubblica una sintesi dei risultati della valutazione d'impatto nell'ambito della registrazione dell'uso in conformità all'obbligo di cui all'articolo 51, paragrafo 2.
6. Qualora l'incaricato della distribuzione sia già tenuto a effettuare una valutazione d'impatto sulla protezione dei dati ai sensi dell'articolo 35 del regolamento (UE) 2016/679 o dell'articolo 27 della direttiva (UE) 2016/680, la valutazione d'impatto sui diritti fondamentali di cui al paragrafo 1 è condotta congiuntamente alla valutazione d'impatto sulla protezione dei dati. La valutazione d'impatto sulla protezione dei dati è pubblicata come addendum.
⏰ Da parte nostra è tutto, ci vediamo insAIde, martedì prossimo, alle 08:00.
Rocco Panetta, Federico Sartore, Vincenzo Tiani, Davide Montanaro, Gabriele Franco