Managing complexity: the EU’s contribution to artificial intelligence governance
Article Sidebar
Main Article Content
Revista CIDOB d’Afers Internacionals, n.º 131. p. 41-68
Quadrimestral (May-September 2022)
ISSN:1133-6595 - E-ISSN:2013-035X
DOI: https://doi.org/10.24241/rcai.2022.131.2.41/en
Reception date: 25.11.21 ; Acceptance date: 01.04.22
With digital ecosystems being questioned around the world, this paper examines the EU’s role in and contribution to the emerging concept of artificial intelligence (AI) governance. Seen by the EU as the key ingredient for innovation, the adoption of AI systems has altered our understanding of governance. Framing AI as an autonomous digital technology embedded in social structures, this paper argues that EU citizens' trust in AI can be increased if the innovation it entails is grounded in a fundamental rights-based approach. This is assessed based on the work of the High-Level Expert Group on AI (which has developed a framework for trustworthy AI) and the European Commission’s recently approved proposal for an Artificial Intelligence Act (taking a risk-based approach).
Article Details
AI HLEG-High-level Expert on Artificial Intelligence. «Ethics guidelines for trustworthy AI». European Commission, (8 de abril de 2019a) (en línea) [Fecha de consulta: 15.03.2022] https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
AI HLEG-High-level Expert on Artificial Intelligence. «Policy and investment recommendations for trustworthy Artificial Intelligence». European Commission (8 de abril de 2019b) (en línea) [Fecha de consulta: 15.03.2022] https://digital-strategy.ec.europa.eu/en/library/policy-and-investment-recommendations-trustworthy-artificial-intelligence
Altwicker, Tilmann. «International Legal Scholarship and the Challenge of Digitalization». Chinese Journal of International Law, vol. 18, n.º 2 (2019), p. 217-246.
Antonov, Alexander y Kerikmäe, Tanel. «Trustworthy AI as a Future Driver for Competitiveness and Social Change». En: Troitiño, David; Kerikmäe, Tanel; de la Guardia, Ricardo Martín y Pérez Sánchez, Guillermo Á. (eds.). The EU in the 21st Century Challenges and Opportunities for the European Integration. Cham: Springer, p. 135-154.
Bakardjieva Engelbrekt, Antonina; Leijon, Karin; Michalski, Anna y Oxelheim, Lars. «What Does the Technological Shift Have in Store for the EU? Opportunities and Pitfalls for European Societies». En: Bakardjieva Engelbrekt, Antonina; Leijon, Karin; Michalski, Anna y Oxelheim, Lars (eds.). The European Union and the Technology Shift. Cham: Springer Nature, 2021, p. 1-25.
Bostrom, Nick. Superintelligence: Paths, dangers, strategies. Oxford: Oxford University Press, 2014.
Bradford, Anu. The Brussels effect: How the European Union rules the world. Oxford: Oxford University Press, 2020a.
Bradford, Anu. «The Brussels Effect Comes for Big Tech». Project Syndicate, (17 de diciembre de 2020b) (en línea) [Fecha de consulta: 15.03.2022] https://www.project-syndicate.org/commentary/eu-digital-services-and-markets-regulations-on-big-tech-by-anu-bradford-2020-12
Brynjolfsson, Erik y McAfee, Andrew. «What’s Driving the Machine Learning Explosion?». Harvard Business Review, (18 de julio de 2017) (en línea) [Fecha de consulta: 15.03.2022] https://hbr.org/2017/07/whats-driving-the-machine-learning-explosion
Buiten, Miriam. «Towards Intelligent Regulation of Artificial Intelligence». European Journal of Risk Regulation, vol. 10, n.º 1 (2019), p. 41-59.
Butcher, James and Beridze, Irakli. «What Is the State of Artificial Intelligence Governance Globally?». The RUSI Journal, vol. 164, n.º 5–6 (2019), p. 88-96.
Calcara, Antonio; Csernatoni, Raluca and Lavallée, Chantal (eds.). Emerging Security Technologies and EU Governance: Actors, Practices and Processes. Londres: Routledge, 2020.
Chiusi, Fabio; Fischer, Sarah; Kayser-Bril, Nicolas y Spielkamp, Matthias. «Automating Society Report 2020». Algorithm Watch, (30 de septiembre de 2020) (en línea) [Fecha de consulta: 15.03.2022] https://automatingsociety.algorithmwatch.org/wp-content/uploads/2020/12/Automating-Society-Report-2020.pdf
Comisión Europea. «Artificial Intelligence for Europe». CE, COM/2018/237 final, (25 de abril de 2018a) (en línea) [Fecha de consulta: 15.03.2022] https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN
Comisión Europea. «Coordinated Plan on Artificial Intelligence». CE, COM/2018/795 final, (7 de diciembre de 2018b) (en línea) [Fecha de consulta: 15.03.2022] https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52018DC0795
Comisión Europea. «European White Paper on Artificial Intelligence: a European approach to excellence and trust». CE, COM(2020) 65 final, (19 de febrero de 2020) (en línea) [Fecha de consulta: 15.03.2022] https://ec.europa.eu/info/files/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en
Comisión Europea. «A Europe fit for the digital age». CE, (9 de marzo de 2021a) (en línea) [Fecha de consulta: 15.03.2022] https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age_en
Comisión Europea. «Fostering a European approach to Artificial Intelligence». CE, COM/2021/205 final, (21 de abril de 2021b) (en línea) [Fecha de consulta: 15.03.2022]
Comisión Europea. «Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts». CE, COM (2021) 206, (21 de abril de 2021c) (en línea) [Fecha de consulta: 15.03.2022] https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206
Comisión Europea. «Regulatory framework proposal on Artificial Intelligence». CE, (31 de agosto de 2021d) (en línea) [Fecha de consulta: 15.03.2022] https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
Commission on Global Governance. Our Global Neighbourhood: The Report of the Commission on Global Governance. Oxford: Oxford University Press, 1995
Cowls, Josh; Tsamados, Andreas; Taddeo, Mariarosaria y Floridi, Luciano. «A definition, benchmark and database of AI for social good initiatives». Nature Machine Intelligence, vol. 3, n.º 2 (2021), p. 111-115.
Dafoe, Allan. «AI governance: a research agenda». Governance of AI Program, Future of Humanity Institute, (27 de agosto de 2018) (en línea) [Fecha de consulta: 15.03.2022] https://www.fhi.ox.ac.uk/wp-content/uploads/GovAI-Agenda.pdf
Data Ethics Commission of the [German] Federal Government. «Opinion of the Data Ethics Commission». DEK, (diciembre de 2019) (en línea) [Fecha de consulta: 15.03.2022] https://www.bmjv.de/SharedDocs/Downloads/DE/Themen/Fokusthemen/Gutachten_DEK_EN_lang.pdf?__blob=publicationFile&v=3
Dignum, Virginia. Responsible artificial intelligence: how to develop and use AI in a responsible way. Cham: Springer Nature, 2019.
Ebers, Martin. «Liability for Artificial Intelligence and EU Consumer Law». Journal of Intellectual Property, Information Technology and Electronic Commerce Law, vol. 12, n.º 2 (2021), p. 204-220.
Floridi, Luciano; Cowls, Josh; Beltrametti, Monica; Chatila, Raja; Chazerand, Patrice; Dignum, Virginia; Luetge, Christoph; Madelin, Robert; Pagallo, Ugo; Rossi, Francesca; Schafer, Burkhard; Valcke, Peggy y Vayena, Effy. «AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations». Minds and Machines, vol. 28, n.º 4 (2018), p. 689-707.
Garson, George D. Public information technology and e-governance: Managing the virtual state. Burlington: Jones & Bartlett Learning, 2006.
Gasser, Urs y Almeida, Virgilio. «A Layered Model for AI Governance». IEEE Internet Computing, vol. 21, n.º 6 (2017), p. 58-62. https://doi.org/10.1109/MIC.2017.4180835
Hamulák, Ondrej. "La carta de los derechos fundamentales de la union europea y los derechos sociales." Estudios constitucionales 16.1 (2018): 167-186.
IEEE-Institute of Electrical and Electronics Engineers. «Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems». IEEE, (31 de marzo de 2019) (en línea) [Fecha de consulta: 15.03.2022]
ITU-International Telecommunication Union. «Measuring the Information Society Report 2015». UN, (30 de noviembre de 2015) (en línea) [Fecha de consulta: 15.03.2022] https://www.itu.int/en/ITU-D/Statistics/Pages/publications/mis2015.aspx
ITU-International Telecommunication Union. «AI for Good». UN, (2021) (en línea) [Fecha de acceso: 15.03.2022] https://aiforgood.itu.int/about/
Katzenbach, Christian y Ulbricht, Lena. «Algorithmic governance». Internet Policy Review, vol. 8, n.º 4 (2019) (en línea)
Kelly, Kevin. The inevitable: Understanding the 12 technological forces that will shape our future. Nueva York: Viking Press, 2016.
Kettemann, Matthias C. The normative order of the internet: A theory of rule and regulation online. Oxford: Oxford University Press, 2020.
Kohler-Koch, Beate y Rittberger, Berthold. «Review Article: The Governance Turn in EU Studies». Journal of Common Market Studies, vol. 44, (2006), p. 27-50.
Langford, Malcolm. «Taming the digital leviathan: Automated decision-making and international human rights». American Journal of International Law, vol. 114 (2020), p. 141-146.
Larsson, Stefan. «The Socio-Legal Relevance of Artificial Intelligence». Droit et société, vol. 103, n.º 3 (2019), p. 573-593.
Larsson, Stefan. «AI in the EU: Ethical Guidelines as a Governance Tool. Why Ethics Guidelines?». En: Bakardjieva Engelbrekt, Antonina; Leijon, Karin; Michalski, Anna y Oxelheim, Lars (eds.). The European Union and the Technology Shift. Cham: Springer, 2021, p. 85-111.
Lawson, Clive. Technology and isolation. Cambridge: Cambridge University Press, 2017.
Lessig, Lawrence. Code and Other Laws of Cyberspace. Nueva York: Basic Books, 1999.
Murray, Andrew. «Talk at Sixth Annual T.M.C. Asser Lecture on Law and Human Agency in the Time of Artificial Intelligence». Annual T.M.C. Asser Lecture 2020, (26 de noviembre de 2020) (en línea) [Fecha de consulta: 15.03.2022] https://www.asser.nl/annual-lecture/annual-tmc-asser-lecture-2020/
Nemitz, Paul y Pfeffer, Matthias. Prinzip Mensch: Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz. Bonn: Dietz, 2020.
OECD-Organización para la Cooperación y el Desarrollo Económicos. «National AI policies and strategies». OECD.AI, (septiembre de 2021) (en línea) [Fecha de consulta: 15.03.2022]
Pierre, Jon and Peters, Guy. Advanced Introduction to Governance. Cheltenham: Edward Elgar Publishing, 2021.
Pohle, Julia y Thiel, Thorsten. «Digital sovereignty». Internet Policy Review, vol. 9, n.º 4 (2020), p. 1-19.
Rahwan, Ilyad. «Society-in-the-loop: programming the algorithmic social contract». Ethics and Information Technology, vol. 20 (2018), p. 5-14.
Rhodes, Roderick. «The New Governance: Governing Without Government». Political Studies, vol. 44, n.º 4 (1996), p. 652-667.
Russell, Stuart y Norvig, Peter (eds.). Artificial Intelligence: A Modern Approach. Londres: Pearson, 2010.
Schmitt, Michael N. Tallinn Manual 2.0 on the International Law Applicable to Cyber Operations. Cambridge: Cambridge University Press, 2017.
Scott, Marcus; Petropoulos, Georgios y Yeung, Timothy. «Contribution to growth: The European Digital Single Market. Delivering economic benefits to citizens and businesses». European Parliament, PE 631.044, (enero de 2019) (en línea) [Fecha de consulta: 15.03.2022] https://www.bruegel.org/wp-content/uploads/2019/02/IPOL_STU2019631044_EN.pdf
Smuha, Nathalie. «Beyond a human rights-based approach to AI governance: Promise, pitfalls, plea». Philosophy and Technology, vol. 34, (2021), p. 91-104. https://doi.org/10.1007/s13347-020-00403-w
Smuha, Nathalie; Ahmed-Rengers, Emma; Harkens, Adam; Li, Wenlong; MacLaren, James; Piseli, Ricardo y Yeung, Karen. «How the EU Can Achieve Legally Trustworthy AI: A Response to the European Commission’s Proposal for an Artificial Intelligence Act». SSRN Electronic Journal, (2021), p. 1-59.
Taeihagh, Araz. «Governance of artificial intelligence». Policy and Society, vol. 40, n.º 2 (2021), p. 137-157.
Theodorou, Andreas y Dignum, Virginia. «Towards ethical and socio-legal governance in AI». Nature Machine Intelligence, vol. 2, n.º 1 (2020), p. 10-12.
Troitiño, David Ramiro y Kerikmäe, Tanel. «Europe facing the digital challenge: obstacles and solutions.» IDP: revista d'Internet, dret i política, n.º 34 (2021).
Umbrello, Steven. «The Role of Engineers in Harmonising Human Values for AI Systems Design». Journal of Responsible Technology, vol. 10, (2021a), p.1-19.
Umbrello, Steven.«Conceptualizing Policy in Value Sensitive Design: A Machine Ethics Approach». En: Thompson, Steven John (ed.). Machine Law, Ethics, and Morality in the Age of Artificial Intelligence. Hershey: IGI Global, 2021b, p. 108-125.
Umbrello, Steven y van de Poel, Ibo. «Mapping value sensitive design onto AI for social good principles». AI and Ethics, vol. 1, n.º 3 (2021), p. 283-296.
Van de Poel, Ibo. «Embedding values in artificial intelligence (AI) systems». Minds and Machines, vol. 30, n.º 3 (2020), p. 385-409.
Van den Hoven, Jerome. «Ethics for the Digital Age: Where Are the Moral Specs? – Value Sensitive Design and Responsible Innovation». En: Werthner, Hannes y van Harmelen, Frank (eds.). Informatics in the Future. Cham: Springer, 2017, p. 65-76.
Van Roy, Vincent. «AI Watch - National strategies on Artificial Intelligence: A European perspective». European Union, JRC122684 (junio 2020) (en línea) [Fecha de consulta: 15.03.2022] https://publications.jrc.ec.europa.eu/repository/handle/JRC119974
Von Solms, Basie y Von Solms, Rossouw. «Cybersecurity and information security–what goes where?». Information and Computer Security, vol. 26, n.º 1 (2018), p. 2-9.
Zicari, Roberto V.; Ahmed, Sheraz; Amann, Julia; Braun, Stephan; Brodersen, John; Bruneault, Frédérick; Brusseau, James; Campano, Erik; Coffee, Megan; Dengel, Andreas; Düdder, Boris; Gallucci, Alessio; Krendl Gilbert, Thomas; Gottfrois, Philippe; Goffi, Emmanuel; Bjerre Haase, Christoffer; Hagendorff, Thilo; Hickman, Eleanore; Hildt, Elisabeth; Holm, Sune; Kringen, Pedro; Kühne, Ulrich; Lucieri, Adriano; Madai, Vince I.; Moreno-Sánchez, Pedro; Medlicott, Oriana; Ozols, Matiss; Schnebel, Eberhard; Spezzatti, Andy; Jahan Tithi, Jesmin; Umbrello, Steven; Vetter, Dennis; Volland, Holger; Westerlund, Magnus y Wurth, Renne. «Co-design of a trustworthy AI system in healthcare: Deep learning based skin lesion classifier». Frontiers in Human Dynamics, vol. 3, (2021), p. 1-20. https://doi.org/10.3389/fhumd.2021.688152
Zuboff, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Londres: Profile Books, 2019.
Similar Articles
- Mariona Tomàs Fornés, Towards a right to the metropolitan city: an institutional analysis , Revista CIDOB d'Afers Internacionals: No. 123 International municipalism and the right to the city: cities in the age of globalisation
- José Luis de Castro, Reseña: La Unión Europea en un sistema internacional cambiante , Revista CIDOB d'Afers Internacionals: Núm. 108 La Unión Europea y el orden mundial: adaptación o atrincheramiento
- Daniel Innerarity, Carme Colomina, Introduction: disinformation and power, the intermediaries crisis , Revista CIDOB d'Afers Internacionals: Nº. 124 Disinformation and power: the intermediaries crisis
- Gonzalo Escribano Francés, Enrique San Martín González, La Unión Europea y el buen gobierno de los recursos energéticos , Revista CIDOB d'Afers Internacionals: Núm. 108 La Unión Europea y el orden mundial: adaptación o atrincheramiento
- Andrés Malamud, La Unión Europea, del interregionalismo con América Latina a la asociación estratégica con Brasil , Revista CIDOB d'Afers Internacionals: Núm. 97-98 El Brasil de Dilma Rousseff: balance del primer año de Gobierno
- Óscar Jaime-Jiménez, Lorenzo Castro Moral, La criminalidad organizada en la Unión Europea: estado de la cuestión y respuestas institucionales , Revista CIDOB d'Afers Internacionals: Núm. 91 El Espacio de Libertad, Seguridad y Justicia de la UE: un balance entre presidencias españolas (2002-2010)
- Antonio M. Díaz Fernández, La construcción de una capacidad de inteligencia durante las presidencias españolas de la Unión Europea , Revista CIDOB d'Afers Internacionals: Núm. 91 El Espacio de Libertad, Seguridad y Justicia de la UE: un balance entre presidencias españolas (2002-2010)
- Javier Argomaniz, El proceso de institucionalización de la política antiterrorista de la Unión Europea , Revista CIDOB d'Afers Internacionals: Núm. 91 El Espacio de Libertad, Seguridad y Justicia de la UE: un balance entre presidencias españolas (2002-2010)
- Eduardo Bidaurrazaga Aurre, Perspectivas para el África Austral ante el nuevo marco de relaciones comerciales con la Unión Europea , Revista CIDOB d'Afers Internacionals: 2001: Núm.: 56
- , Selección bibliográfica del fondo documental sobre las relaciones entre la Unión Europea y América Latina y España , Revista CIDOB d'Afers Internacionals: 2001: Núm.: 54 - 55 España ante la segunda cumbre entre la Unión Europea y América Latina y el Caribe
<< < 4 5 6 7 8 9 10 11 12 13 > >>
You may also start an advanced similarity search for this article.