El enfoque europeo para construir la política y la gobernanza de la IA: ¿un refugio para burócratas o innovadores?
Article Sidebar
Main Article Content
Las tecnologías disruptivas y el dominio de las plataformas digitales han desafiado a los actores de la economía global dos veces: primero, para echarles una mano, luego para mitigar los posibles riesgos. Está fuera de toda duda que la inteligencia artificial (IA) fiable puede aportar muchos beneficios a nivel europeo, como una mejor atención sanitaria, un transporte más seguro y limpio, una fabricación más eficiente y una energía sostenible. Pero regular lo desconocido requiere esfuerzos considerables sobre cómo atraer inversores con reglas claras y al mismo tiempo mantener el control humano como una prioridad sobre los algoritmos. En abril de 2021, la Comisión de la UE publicó una propuesta holística para regular el uso de la IA, que promete poner la confianza en primer lugar y garantizar que los operadores de reconocimiento facial y big data nunca incumplan los derechos humanos fundamentales. Aunque es probable que la propuesta se modifique durante los debates a escala de la UE, el nuevo enfoque de la IA dará claramente a los ciudadanos la confianza para adoptar estas tecnologías, al tiempo que animará a las empresas a desarrollarlas. Por lo tanto, este artículo tiene como objetivo trazar los principales desafíos para la política de la UE sobre el uso de la IA, así como los hitos del desarrollo de la propuesta holística legislativa, y aclarar si dicha propuesta resuelve realmente todos los riesgos relacionados con la IA para las generaciones futuras.
Article Details

Esta obra está bajo una licencia Creative Commons Reconocimiento-SinObraDerivada 3.0 Unported.
(c) Olga Shumilo, Tanel Kerikmäe, 2021
Derechos de autor
Los contenidos publicados en IDP están bajo una licencia de Reconocimiento-Sin obras derivadas 3.0 España de Creative Commons, cuyo texto completo se puede consultar en http://creativecommons.org/licenses/by-nc-nd/3.0/es/deed.es. Así pues, se permite la copia, distribución y comunicación pública siempre y cuando se cite el autor del texto, la revista (IDP. Revista de Internet, Derecho y Política y la institución que los publica (UOC), tal como consta en la citación recomendada que aparece en cada artículo. No se pueden hacer obras derivadas.
Es responsabilidad de los autores obtener los permisos necesarios de las imágenes que estén sujetas a copyright.
Cesión de derechos de propiedad intelectual
El autor cede sin exclusiva a los editores de la revista los derechos de explotación (reproducción, distribución, comunicación pública y transformación) para explotar y comercializar la obra, entera o en parte, en todos los formatos y modalidades de explotación presentes o futuros, en todos los idiomas, por todo el periodo de vida de la obra y por todo el mundo.
El autor debe declarar que es el autor original de la obra. Los editores quedan, por lo tanto, exonerados de cualquier obligación o responsabilidad por cualquier acción legal que pueda suscitarse derivada de la obra depositada por la vulneración de derechos de terceros, sean de propiedad intelectual o industrial, de secreto comercial o cualquier otro.
Olga Shumilo, Universidad Tecnológica de Tallin (TalTech)
Estudiante de doctorado en la Universidad Tecnológica de Tallin, investiga los impulsores y las barreras detrás de la adopción de la inteligencia artificial en el poder judicial. Actualmente también imparte clases de Derecho Penal y Constitucional, y ha contribuido a varias publicaciones en el ámbito del derecho de la UE y la gobernanza electrónica. Olga ha obtenido su máster de derecho en la Universidad Nacional de Derecho Yaroslav Mudryi (Járkov, Ucrania). En Ucrania, Olga se ha especializado en Criminología, en particular en bienestar animal.
Tanel Kerikmäe, Universidad Tecnológica de Tallin (TalTech)
Profesor de Derecho Europeo y director de la Facultad de Derecho de Tallin en la Universidad Técnica de Tallin; miembro de la junta directiva de varias revistas de derecho de alto rango y autor de más de 150 artículos y publicaciones, Tanel ejerce de experto en instituciones públicas y privadas, organizaciones internacionales y ha sido el principal especialista de la UE en Asia Central. Ha contribuido a la investigación de la ley y las políticas europeas y ha creado un grupo de investigación de derecho y tecnología que recibió una financiación significativa de la Comisión de la UE (H2020, Centro de Excelencia Jean Monnet), la OTAN, la Academia Folke Bernadotte, USAID, el Consejo de Investigación de Estonia, etc. Es presidente de la rama estonia de la Asociación de Estudios de la Comunidad Europea y ha estado enseñando y supervisando en varias universidades dentro y fuera de Europa, incluidos los Estados bálticos. En la actualidad, el profesor Kerikmäe es responsable de varios proyectos internacionales relacionados con redes internacionales de cooperación en investigación. Además, su experiencia también incluye temas sobre políticas jurídicas de la UE, mercado único digital, automatización, impedimentos legales a las nuevas tecnologías e inteligencia aumentada y artificial en la práctica jurídica.
AGAR, J. (2020). “What is science for? The Lighthill report on artificial intelligence reinterpreted”. In: British Journal for the History of Science, pp. 289-310 [online]. DOI: https://doi.org/10.1017/S0007087420000230
ARRIETA, A. B.; DIAZ RODRIGUEZ, N.; DEL SER, J.; BENNETOT, A.; TABIK, S.; BARBADO, A.; HERRERA, F. (2020). “Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI”. In: Information Fusion, pp. 82-115 [online]. DOI: https://doi.org/10.1016/j.inffus.2019.12.012
BBC (2021). “EU artificial intelligence rules will ban ‘unacceptable’ use”. In: BBC [online]. Available at: https://www.bbc.com/news/technology-56830779
BLACK, J.; MURRAY, A. (2019). “Regulating AI and Machine Learning: Setting theRegulatory Agenda”. In: European Journal of Law and Technology.
BÜTTNER, S. M.; LEOPOLD, L.; MAU, S.; POSVIC, M. (2015). “Professionalization in EU Policy-Making? The topology of the transnational field of EU affairs”. In: European Societies, pp. 569-592 [online]. DOI: https://doi.org/10.1080/14616696.2015.1072229
CABRAL, T. S. (2020). “Liability and artificial intelligence in the EU: Assessing the adequacy of the current Product Liability Directive”. In: Maastricht Journal of European and Comparative Law, pp. 615–635 [online]. DOI: https://doi.org/10.1177/1023263X20948689
CEN-CENELEC (2020). “Road Map on Artificial Intelligence (AI)”. In: CEN-CENELEC. Available at: https://ftp.cencenelec.eu/EN/EuropeanStandardization/Sectors/AI/CEN-CLC_FGR_RoadMapAI.pdf
DE HERT, P.; PAPAKONSTANINOU, V.; KAMARA, I. (2016). “The cloud computing standard ISO/IEC 27018 through the lens of the EU legislation on data protection”. In: Computer Law and Security Review, pp. 16-30 [online]. DOI: https://doi.org/10.1016/j.clsr.2015.12.005
DELPONTE, L. (2018). “European Artificial Intelligence (AI) leadership, the path for an integrated vision”. In: Eurocities [online]. Available at: https://nws.eurocities.eu/MediaShell/media/European_AI_study.pdf
DWIVEDI, Y. K. (2019). “Artificial Intelligence (AI): Multidisciplinary perspectives on emerging challenges, opportunities, and agenda for research, practice and policy”. In: International Journal of Information Management.
EUR-Lex-12007L/TXT. Treaty of Lisbon amending the Treaty on European Union and the Treaty establishing the European Community, signed at Lisbon (2007), Official Journal C306, 17 December, pp. 1–271
EUR-Lex-12012P/TXT. Charter of Fundamental Rights of the European Union. Official Journal C326, 26 October, pp. 391-407.
EUR-Lex-32001L0095. Directive 2001/95/EC of the European Parliament and of the Council of 3 December 2001 on General Product Safety, Official Journal L 11, 15 January 2002, pp. 4–17.EUR-Lex-32006L0042. Directive 2006/42/EC of the European Parliament and of the Council of 17 May 2006 on machinery and amending Directive 95/16/EC (recast), Official Journal L 157, 9 June 2006, pp. 24–86.
EUR-Lex-32014L0053. Directive 2014/53/EU of the European Parliament and of the Council of 16 April 2014 on the harmonisation of the laws of the Member States relating to the making available on the market of radio equipment and repealing Directive 1999/5/EC Official Journal L 153, 22 May 2014, pp. 62–106.
EUR-Lex-32016R0679. Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation). Official Journal L119, 4 May 2016, pp. 1–88.
EUR-Lex-52018DC0237. European Commission. 2018, April 25. Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions Artificial Intelligence for Europe [online]. Available at: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN
EUR-Lex-52020DC0064. Report From The Commission To The European Parliament. The Council And The European Economic And Social Committee Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics [online]. Available at: https://eur-lex.europa.eu/legal-content/en/TXT/?qid=1593079180383&uri=CELEX%3A52020DC0064
EUR-Lex-52021PC0206. Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts (2021), Brussels, 21 April.
European Commission (2019). “Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions-Building Trust in Human Centric Artificial Intelligence (COM-2019-168)”. In: European Commission DS [online]. Available at: https://digital-strategy.ec.europa.eu/en/library/communication-building-trust-human-centric-artificial-intelligence
European Commission (2020). “White Paper on Artificial Intelligence: a European approach to excellence and trust”. In: European Commission [online]. Available at: https://ec.europa.eu/info/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en
European Commission (2021). “Annexes to the Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions; Fostering a European approach to Artificial Intelligence”. In: European Commission DS [online]: Available at: https://digital-strategy.ec.europa.eu/en/library/coordinated-plan-artificial-intelligence-2021-review
European Commission (2021). “Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence”. In: European Commission [online]. Available at: https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682
European Union Agency for Cybersecurity (2020). “Artificial Intelligence Cybersecurity Challenges”. In: ENISA [online]. Available at: https://www.enisa.europa.eu/publications/artificial-intelligence-cybersecurity-challenges
EVAS, T. (2020). “European framework on ethical aspects of artificial intelligence, robotics and related technologies”. In: European Parliament [online]. Available at: https://www.europarl.europa.eu/RegData/etudes/STUD/2020/654179/EPRS_STU(2020)654179_EN.pdf
INTRONA, L. D. (2016). “Algorithms, governance and governmentality: On governing academic writing”. In: Science, Technology & Human Values, pp. 17-49 [online]. DOI: https://doi.org/10.1177/0162243915587360
ISO/IEC JTC 1/SC 42 Artificial intelligence [online] [2021]. Available at: https://www.iso.org/committee/6794475.html
JOHNSON, J. (2019). “The end of military-techno Pax Americana? Washington’s strategic responses to Chinese AI-enabled military technology”. In: The Pacific Review, pp. 351-378 [online]. DOI: https://doi.org/10.1080/09512748.2019.1676299
KELLY, É. (2020). “EU struggles to go from talk to action on artificial intelligence”. In: The Science Business Network [online]. Available at: https://sciencebusiness.net/news/eu-struggles-go-talk-action-artificial-intelligence
LEE, N. (2018). “Detecting racial bias in algorithms and machine learning”. In: Journal of Information, Communication and Ethics in Society, pp. 252-260 [online]. DOI: https://doi.org/10.1108/JICES-06-2018-0056
MAAS, M. (2019). “How viable is international arms control for military artificial intelligence? Three lessons from nuclear weapons”. In: Contemporary Security Policy, pp. 285-311 [online]. DOI: https://doi.org/10.1080/13523260.2019.1576464
MAEDCHE, A.; LEGNER, C.; BENLIAN, A.; BERGER, B.; GIMPEL, H.; HESS, T.; SÖLLNER, M. (2019). “AI-based digital assistants”. In: Business & Information Systems Engineering, pp. 535-544 [online]. DOI: https://doi.org/10.1007/s12599-019-00600-8
MCCAULEY, L. (2007). “AI armageddon and the three laws of robotics”. In: Ethics and Information Technology, pp. 153-164 [online]. DOI: https://doi.org/10.1007/s10676-007-9138-2
MEYER, D. (2018). “Most member states won’t be ready for GDPR”. In: IAPP [online]. Available at: https://iapp.org/news/a/most-member-states-wont-be-ready-for-gdpr/
National Science and Technology Council (2016). “Preparing for the Future of Artificial Intelligence”. In: Obama White House [online]. Available at: https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf
National Science and Technology Council (2016). “The National Artificial Intelligence Research And Development Strategic Plan”. In: Networking and Information Technology Research and Development Program [online]. Available at: https://www.nitrd.gov/pubs/national_ai_rd_strategic_plan.pdf
NÍFHAOLÁIN, L.; HINES, A.; NALLUR, V. (2020). “Assessing the Appetite for Trustworthiness and the Regulation of Artificial Intelligence in Europe”. 28th Irish Conference on Artificial Intelligence and Cognitive Science-AICS. In: Research Repository UCD [online]. Dublin: UCD. Available at: https://researchrepository.ucd.ie/handle/10197/12396
PERRAULT, R.; SHOHAM, Y.; BRYNJOLFSSON, E.; CLARK, J.; ETCHEMENDY, J.; GROSZ, B.; NIEBLES, J. C. (2019). “The AI Index 2019 Annual Report”. In: Human-Centered AI Institute [online]. Stanford: Stanford University. Available at: https://hai.stanford.edu/sites/default/files/ai_index_2019_report.pdf
RANCHORDAS, S. (2021). “Experimental Regulations for AI: Sandboxes for Morals and Mores”. In: SSRN, no. 7 [online]. Groningen: University of Groningen, Faculty of Law Research Paper. Available at: SSRN: https://ssrn.com/abstract=3839744. DOI: https://doi.org/10.5771/2747-5182-2021-1-86
RUSSELL, S.; BOHANNON, J. (2015). “Artificial intelligence. Fears of an AI pioneer”. In: Science, vol. 349, no. 6245 [online]. DOI: https://doi.org/10.1126/science.349.6245.252
SCHAFER, B. (2016). “Closing Pandora’s box? The EU proposal on the regulation of robots”. In: The journal of the Justice and the Law Society, pp. 55-68. Brisbane: University of Queensland.
SCHUETT, J. (2019). “A Legal Definition of AI”. In: SSRN [online]. DOI: https://doi.org/10.2139/ssrn.3453632
SMUHA, N. A. (2019). “The EU Approach to Ethics Guidelines for Trustworthy Artificial Intelligence”. In: Computer Law Review International, pp. 97-106 [online]. DOI: https://doi.org/10.9785/cri-2019-200402
STAHL, B. C. (2021). “EU is cracking down on AI, but leaves a loophole for mass surveillance”. In: The Conversation [online]. Available at: https://theconversation.com/eu-is-cracking-down-on-ai-but-leaves-a-loophole-for-mass-surveillance-159421
TAUBE, M. (1961). Computers and Common Sense. The Myth of Thinking Machines. New York: Columbia University Press [online]. DOI: https://doi.org/10.7312/taub90714
THORNTON, R.; MIRON, M. (2020). “Towards the ‘Third Revolution in Military Affairs’ The Russian Military’s Use of AI-Enabled Cyber Warfare”. In: RUSI Journal [online], pp. 12-21. DOI: https://doi.org/10.1080/03071847.2020.1765514
TOTSCHNIG, W. (2020). “Fully autonomous AI”. In: Science and Engineering Ethics, no. 26, pp. 2473-2485 [online]. DOI: https://doi.org/10.1007/s11948-020-00243-z
TROITINO, D. (2014). “The Single European Act-the Creation of the Interior Market in Europe”. In: Journal on Legal and Economic Issues of Central Europe, pp. 8-14.
VINCENT, J. (2021). “EU outlines wide-ranging AI regulation, but leaves the door open for police surveillance” [online]. In: The Verge. Available at: https://www.theverge.com/2021/4/21/22393785/eu-ai-regulation-proposal-social-credit-ban-biometric-surveillance-exceptions
VOGEL, D. (1995). Trading Up: Consumer and Environmental Regulation in a Global Economy. Cambridge: Harvard University Press.
WACHTER, S.; MITTELSTADT, B.; RUSSELL, C. (2020). “Why Fairness Cannot Be Automated: Bridging the Gap Between EU Non-Discrimination Law and AI”. In: SSRN Electronic Journal [online]. DOI: https://doi.org/10.2139/ssrn.3547922
WANG, P. (2008). “What Do You Mean by “AI”?”. In: Frontiers in Artificial Intelligence and Applications, pp. 362-373.
WEARN, O. R.; FREEMAN, R.; JACOBY, D. M. (2019). “Responsible AI for conservation”. In: Nature Machine Intelligence, no. 1, pp. 72-73 [online]. DOI: https://doi.org/10.1038/s42256-019-0022-7
YU, R.; ALI, G. S. (2019). “What’s inside the Black Box? AI Challenges for Lawyers and Researchers”. In: Legal Information Management, vol. 19, no.1, pp. 2-13 [online]. DOI: https://doi.org/10.1017/S1472669619000021
ZAICHUK, M. (2018). “Patenting Artificial Intelligence and Machine Learning Innovations in Europe”. In: Jones Day [online]. Available at: https://www.jonesday.com/en/insights/2018/10/patenting-artificial-intelligence-and-machine-lear
ZAICHUK, M. (2020). “IP Protection of Artificial Intelligence in Europe: Tailor-Made Solutions Required”. In: Jones Day [online]. Available at: https://www.jonesday.com/en/insights/2020/04/ip-protection-of-artificial-intelligence-in-europe
Artículos más leídos del mismo autor/a
- David Ramiro Troitino, Tanel Kerikmäe, Europa ante el reto digital: obstáculos y soluciones , IDP. Revista de Internet, Derecho y Política: Núm. 34 (2021): Diciembre
Artículos similares
- Miguel Ángel Presno Linera, Policía predictiva y prevención de la violencia de género: el sistema VioGén , IDP. Revista de Internet, Derecho y Política: Núm. 39 (2023): Noviembre. Monográfico: "Digitalización y algoritmización de la justicia"
- Cristian Andrés Díaz Díez, Deber de alfabetización: un principio aplicable en la adopción de decisiones administrativas con inteligencia artificial , IDP. Revista de Internet, Derecho y Política: Núm. 42 (2025): Marzo
- Roberto Navarro-Dolmestch, María-Ángeles Fuentes-Loureiro, Una aproximación a ChatGPT como herramienta jurídica: sesgos, capacidades y utilidades futuras , IDP. Revista de Internet, Derecho y Política: Núm. 39 (2023): Noviembre. Monográfico: "Digitalización y algoritmización de la justicia"
- Agustí Cerrillo, El derecho para una inteligencia artificial centrada en el ser humano y al servicio de las instituciones , IDP. Revista de Internet, Derecho y Política: Núm. 30 (2020)
- Thomas Hoffmann, Sander Sagar, Responsabilidad del intermediario en el mercado común digital de la UE , IDP. Revista de Internet, Derecho y Política: Núm. 34 (2021): Diciembre
- Anatolii Kulish, Valeriia Myrhorod-Karpova, Elena Kiselyova, Liudmila Kysil, Nataliia Isaieva, Eficiencia en el desempeño de las obligaciones laborales por parte de los funcionarios: experiencia mundial y perspectivas en Ucrania , IDP. Revista de Internet, Derecho y Política: Núm. 40 (2024): Marzo
- Eduardo Andrés Calderón Marenco, Jimmy Enrique Garzón Solano, Romina M. Sánchez Silveyra, Guillermo O. Sal, Gabriel Ravelo-Franco, Responsabilidad civil del oráculo: intersección entre el derecho privado y los contratos inteligentes , IDP. Revista de Internet, Derecho y Política: Núm. 42 (2025): Marzo
- Teresa Duplá Marín, La mediación empresarial y el conflict management: claves de la evolución del modelo estadounidense , IDP. Revista de Internet, Derecho y Política: Núm. 25 (2017)
- Pablo Martínez Ramil, ¿Es el marco legal de derechos humanos de la UE capaz de hacer frente a la IA discriminatoria? , IDP. Revista de Internet, Derecho y Política: Núm. 34 (2021): Diciembre
- Lorenzo Cotino Hueso, La obligación de relacionarse electrónicamente con la Administración y sus escasas garantías , IDP. Revista de Internet, Derecho y Política: Núm. 26 (2018)
También puede {advancedSearchLink} para este artículo.