L'enfocament europeu per construir la política i la governança de la IA: un refugi per a buròcrates o innovadors?

Article Sidebar

IDP
PDF (English) ePUB (English)

Main Article Content

Olga Shumilo
Universitat Tecnològica de Tallinn (TalTech)
https://orcid.org/0000-0001-7251-7947
Tanel Kerikmäe
Universitat Tecnològica de Tallinn (TalTech)
https://orcid.org/0000-0002-5972-827X

Les tecnologies disruptives i el domini de les plataformes digitals han desafiat els actors de l'economia global dues vegades: primer, per donar-los un cop de mà i després per mitigar els possibles riscos. No hi ha dubte que la intel·ligència artificial (IA) fiable pot aportar molts beneficis en l’àmbit europeu, com ara una millor atenció sanitària, un transport més segur i net, una fabricació més eficient i una energia sostenible. Tanmateix, regular allò desconegut requereix esforços considerables sobre com atraure inversors amb normes clares i alhora mantenir el control humà com una prioritat sobre els algoritmes. L'abril de 2021, la Comissió de la Unió Europea va publicar una proposta holística per regular l'ús de la IA que promet posar la confiança en primer lloc i garantir que els operadors de reconeixement facial i de big data mai no incompleixin els drets humans fonamentals. Tot i que és probable que la proposta es modifiqui durant els debats a escala de la UE, el nou enfocament de la IA donarà clarament als ciutadans la confiança per adoptar aquestes tecnologies, al mateix temps que animarà les empreses a desenvolupar-les. Per tant, aquest article té com a objectiu traçar els principals desafiaments per a la política de la UE sobre l'ús de la IA, així com els objectius del desenvolupament de la proposta holística legislativa, i aclarir si aquesta proposta resol realment tots els riscos relacionats amb la IA per a les generacions futures.

Paraules clau
intel·ligència artificial, IA, dret de la UE, drets fonamentals

Article Details

Com citar
Shumilo, Olga; and Kerikmäe, Tanel. “L’enfocament europeu per construir la política i la governança de la IA: un refugi per a buròcrates o innovadors?”. IDP. Revista d’Internet, Dret i Política, no. 34, pp. 1-14, doi:10.7238/idp.v0i34.387744.
Drets
Creative Commons License

Aquesta obra està sota una llicència internacional Creative Commons Reconeixement-SenseObraDerivada 3.0.

(c) Olga Shumilo, Tanel Kerikmäe, 2021


Drets d'autor

Els continguts publicats a IDP estan subjectes a una llicència de Reconeixement-Sense obres derivades 3.0 Espanya de Creative Commons, el text complet de la qual es pot consultar a http://creativecommons.org/licenses/by-nd/3.0/es/deed.ca. Així, doncs, se'n permet la còpia, distribució i comunicació pública sempre que se citi l'autor del text, la revista i la institució que els publiquen (IDP. Revista d'Internet, Dret i Política i UOC), tal com consta en la citació recomanada inclosa a cada article. No se'n poden fer obres derivades.

És responsabilitat dels autors obtenir els permisos necessaris de les imatges que estiguin subjectes a copyright.

 

Cessió de drets de propietat intel·lectual

L’autor cedeix sense exclusiva als editors de la revista els drets d’explotació (reproducció, distribució, comunicació pública i transformació) per a explotar i comercialitzar l’obra, sencera o en part, en tots els formats i modalitats d’explotació presents o futurs, en tots els idiomes, per tot el període de vida de l’obra i per tot el món.

L'autor ha de declarar que és l’autor original de l’obra. Els editors queden, per tant, exonerats de qualsevol obligació o responsabilitat per qualsevol acció legal que es pugui suscitar derivada de l’obra dipositada per la vulneració de drets de tercers, siguin de propietat intel·lectual o industrial, de secret comercial o qualsevol altre.

Biografies de l'autor/a

Olga Shumilo, Universitat Tecnològica de Tallinn (TalTech)

Estudiant de doctorat i escriu la seva tesi sobre temes de marc legal. Com a estudiant de doctorat a la Universitat Tecnològica de Tallinn, investiga els impulsors i les barreres darrere l'adopció de la intel·ligència artificial en el poder judicial. Actualment també imparteix classes de Dret Penal i Constitucional, i ha contribuït en diverses publicacions en l'àmbit del dret de la UE i en la governança electrònica. Olga Shumilo ha obtingut el seu màster de Dret a la Universitat Nacional de Dret Yaroslav Mudryi (Khàrkiv, Ucraïna). A Ucraïna, Olga Shumilo s'ha especialitzat en criminologia i, en particular, en benestar animal.

Tanel Kerikmäe, Universitat Tecnològica de Tallinn (TalTech)

Professor de Dret Europeu i director de la Facultat de Dret de la Universitat Tecnològica de Tallinn. És membre de la junta directiva de diverses revistes de dret d'alt nivell i autor de més de cent-cinquanta articles i publicacions. Tanel Kerikmäe exerceix d'expert en institucions públiques i privades i en organitzacions internacionals, i ha estat el principal especialista de la UE a l’Àsia Central. Ha contribuït a la investigació de la llei i les polítiques europees i ha creat un grup d’investigació de dret i tecnologia que va rebre un finançament significatiu de la Comissió de la UE (H2020, Centre d'Excel·lència Europeu Jean Monnet), l'OTAN, l'acadèmia Folke Bernadotte, la USAID, el Consell d'Investigació d'Estònia, etc. És president de la branca estona de l'Associació d'Estudis de la Comunitat Europea i ha ensenyat i supervisat en diverses universitats dins i fora d'Europa, inclosos els estats bàltics. En l'actualitat, el professor Kerikmäe és responsable de diversos projectes internacionals relacionats amb xarxes internacionals de cooperació en investigació. A més, la seva experiència també inclou temes sobre polítiques jurídiques de la UE, mercat únic digital, automatització, impediments legals a les noves tecnologies i intel·ligència augmentada i artificial en la pràctica jurídica.

Referències

AGAR, J. (2020). “What is science for? The Lighthill report on artificial intelligence reinterpreted”. In: British Journal for the History of Science, pp. 289-310 [online]. DOI: https://doi.org/10.1017/S0007087420000230

ARRIETA, A. B.; DIAZ RODRIGUEZ, N.; DEL SER, J.; BENNETOT, A.; TABIK, S.; BARBADO, A.; HERRERA, F. (2020). “Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI”. In: Information Fusion, pp. 82-115 [online]. DOI: https://doi.org/10.1016/j.inffus.2019.12.012

BBC (2021). “EU artificial intelligence rules will ban ‘unacceptable’ use”. In: BBC [online]. Available at: https://www.bbc.com/news/technology-56830779

BLACK, J.; MURRAY, A. (2019). “Regulating AI and Machine Learning: Setting theRegulatory Agenda”. In: European Journal of Law and Technology.

BÜTTNER, S. M.; LEOPOLD, L.; MAU, S.; POSVIC, M. (2015). “Professionalization in EU Policy-Making? The topology of the transnational field of EU affairs”. In: European Societies, pp. 569-592 [online]. DOI: https://doi.org/10.1080/14616696.2015.1072229

CABRAL, T. S. (2020). “Liability and artificial intelligence in the EU: Assessing the adequacy of the current Product Liability Directive”. In: Maastricht Journal of European and Comparative Law, pp. 615–635 [online]. DOI: https://doi.org/10.1177/1023263X20948689

CEN-CENELEC (2020). “Road Map on Artificial Intelligence (AI)”. In: CEN-CENELEC. Available at: https://ftp.cencenelec.eu/EN/EuropeanStandardization/Sectors/AI/CEN-CLC_FGR_RoadMapAI.pdf

DE HERT, P.; PAPAKONSTANINOU, V.; KAMARA, I. (2016). “The cloud computing standard ISO/IEC 27018 through the lens of the EU legislation on data protection”. In: Computer Law and Security Review, pp. 16-30 [online]. DOI: https://doi.org/10.1016/j.clsr.2015.12.005

DELPONTE, L. (2018). “European Artificial Intelligence (AI) leadership, the path for an integrated vision”. In: Eurocities [online]. Available at: https://nws.eurocities.eu/MediaShell/media/European_AI_study.pdf

DWIVEDI, Y. K. (2019). “Artificial Intelligence (AI): Multidisciplinary perspectives on emerging challenges, opportunities, and agenda for research, practice and policy”. In: International Journal of Information Management.

EUR-Lex-12007L/TXT. Treaty of Lisbon amending the Treaty on European Union and the Treaty establishing the European Community, signed at Lisbon (2007), Official Journal C306, 17 December, pp. 1–271

EUR-Lex-12012P/TXT. Charter of Fundamental Rights of the European Union. Official Journal C326, 26 October, pp. 391-407.

EUR-Lex-32001L0095. Directive 2001/95/EC of the European Parliament and of the Council of 3 December 2001 on General Product Safety, Official Journal L 11, 15 January 2002, pp. 4–17.EUR-Lex-32006L0042. Directive 2006/42/EC of the European Parliament and of the Council of 17 May 2006 on machinery and amending Directive 95/16/EC (recast), Official Journal L 157, 9 June 2006, pp. 24–86.

EUR-Lex-32014L0053. Directive 2014/53/EU of the European Parliament and of the Council of 16 April 2014 on the harmonisation of the laws of the Member States relating to the making available on the market of radio equipment and repealing Directive 1999/5/EC Official Journal L 153, 22 May 2014, pp. 62–106.

EUR-Lex-32016R0679. Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation). Official Journal L119, 4 May 2016, pp. 1–88.

EUR-Lex-52018DC0237. European Commission. 2018, April 25. Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions Artificial Intelligence for Europe [online]. Available at: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN

EUR-Lex-52020DC0064. Report From The Commission To The European Parliament. The Council And The European Economic And Social Committee Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics [online]. Available at: https://eur-lex.europa.eu/legal-content/en/TXT/?qid=1593079180383&uri=CELEX%3A52020DC0064

EUR-Lex-52021PC0206. Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts (2021), Brussels, 21 April.

European Commission (2019). “Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions-Building Trust in Human Centric Artificial Intelligence (COM-2019-168)”. In: European Commission DS [online]. Available at: https://digital-strategy.ec.europa.eu/en/library/communication-building-trust-human-centric-artificial-intelligence

European Commission (2020). “White Paper on Artificial Intelligence: a European approach to excellence and trust”. In: European Commission [online]. Available at: https://ec.europa.eu/info/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en

European Commission (2021). “Annexes to the Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions; Fostering a European approach to Artificial Intelligence”. In: European Commission DS [online]: Available at: https://digital-strategy.ec.europa.eu/en/library/coordinated-plan-artificial-intelligence-2021-review

European Commission (2021). “Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence”. In: European Commission [online]. Available at: https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682

European Union Agency for Cybersecurity (2020). “Artificial Intelligence Cybersecurity Challenges”. In: ENISA [online]. Available at: https://www.enisa.europa.eu/publications/artificial-intelligence-cybersecurity-challenges

EVAS, T. (2020). “European framework on ethical aspects of artificial intelligence, robotics and related technologies”. In: European Parliament [online]. Available at: https://www.europarl.europa.eu/RegData/etudes/STUD/2020/654179/EPRS_STU(2020)654179_EN.pdf

INTRONA, L. D. (2016). “Algorithms, governance and governmentality: On governing academic writing”. In: Science, Technology & Human Values, pp. 17-49 [online]. DOI: https://doi.org/10.1177/0162243915587360

ISO/IEC JTC 1/SC 42 Artificial intelligence [online] [2021]. Available at: https://www.iso.org/committee/6794475.html

JOHNSON, J. (2019). “The end of military-techno Pax Americana? Washington’s strategic responses to Chinese AI-enabled military technology”. In: The Pacific Review, pp. 351-378 [online]. DOI: https://doi.org/10.1080/09512748.2019.1676299

KELLY, É. (2020). “EU struggles to go from talk to action on artificial intelligence”. In: The Science Business Network [online]. Available at: https://sciencebusiness.net/news/eu-struggles-go-talk-action-artificial-intelligence

LEE, N. (2018). “Detecting racial bias in algorithms and machine learning”. In: Journal of Information, Communication and Ethics in Society, pp. 252-260 [online]. DOI: https://doi.org/10.1108/JICES-06-2018-0056

MAAS, M. (2019). “How viable is international arms control for military artificial intelligence? Three lessons from nuclear weapons”. In: Contemporary Security Policy, pp. 285-311 [online]. DOI: https://doi.org/10.1080/13523260.2019.1576464

MAEDCHE, A.; LEGNER, C.; BENLIAN, A.; BERGER, B.; GIMPEL, H.; HESS, T.; SÖLLNER, M. (2019). “AI-based digital assistants”. In: Business & Information Systems Engineering, pp. 535-544 [online]. DOI: https://doi.org/10.1007/s12599-019-00600-8

MCCAULEY, L. (2007). “AI armageddon and the three laws of robotics”. In: Ethics and Information Technology, pp. 153-164 [online]. DOI: https://doi.org/10.1007/s10676-007-9138-2

MEYER, D. (2018). “Most member states won’t be ready for GDPR”. In: IAPP [online]. Available at: https://iapp.org/news/a/most-member-states-wont-be-ready-for-gdpr/

National Science and Technology Council (2016). “Preparing for the Future of Artificial Intelligence”. In: Obama White House [online]. Available at: https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf

National Science and Technology Council (2016). “The National Artificial Intelligence Research And Development Strategic Plan”. In: Networking and Information Technology Research and Development Program [online]. Available at: https://www.nitrd.gov/pubs/national_ai_rd_strategic_plan.pdf

NÍFHAOLÁIN, L.; HINES, A.; NALLUR, V. (2020). “Assessing the Appetite for Trustworthiness and the Regulation of Artificial Intelligence in Europe”. 28th Irish Conference on Artificial Intelligence and Cognitive Science-AICS. In: Research Repository UCD [online]. Dublin: UCD. Available at: https://researchrepository.ucd.ie/handle/10197/12396

PERRAULT, R.; SHOHAM, Y.; BRYNJOLFSSON, E.; CLARK, J.; ETCHEMENDY, J.; GROSZ, B.; NIEBLES, J. C. (2019). “The AI Index 2019 Annual Report”. In: Human-Centered AI Institute [online]. Stanford: Stanford University. Available at: https://hai.stanford.edu/sites/default/files/ai_index_2019_report.pdf

RANCHORDAS, S. (2021). “Experimental Regulations for AI: Sandboxes for Morals and Mores”. In: SSRN, no. 7 [online]. Groningen: University of Groningen, Faculty of Law Research Paper. Available at: SSRN: https://ssrn.com/abstract=3839744. DOI: https://doi.org/10.5771/2747-5182-2021-1-86

RUSSELL, S.; BOHANNON, J. (2015). “Artificial intelligence. Fears of an AI pioneer”. In: Science, vol. 349, no. 6245 [online]. DOI: https://doi.org/10.1126/science.349.6245.252

SCHAFER, B. (2016). “Closing Pandora’s box? The EU proposal on the regulation of robots”. In: The journal of the Justice and the Law Society, pp. 55-68. Brisbane: University of Queensland.

SCHUETT, J. (2019). “A Legal Definition of AI”. In: SSRN [online]. DOI: https://doi.org/10.2139/ssrn.3453632

SMUHA, N. A. (2019). “The EU Approach to Ethics Guidelines for Trustworthy Artificial Intelligence”. In: Computer Law Review International, pp. 97-106 [online]. DOI: https://doi.org/10.9785/cri-2019-200402

STAHL, B. C. (2021). “EU is cracking down on AI, but leaves a loophole for mass surveillance”. In: The Conversation [online]. Available at: https://theconversation.com/eu-is-cracking-down-on-ai-but-leaves-a-loophole-for-mass-surveillance-159421

TAUBE, M. (1961). Computers and Common Sense. The Myth of Thinking Machines. New York: Columbia University Press [online]. DOI: https://doi.org/10.7312/taub90714

THORNTON, R.; MIRON, M. (2020). “Towards the ‘Third Revolution in Military Affairs’ The Russian Military’s Use of AI-Enabled Cyber Warfare”. In: RUSI Journal [online], pp. 12-21. DOI: https://doi.org/10.1080/03071847.2020.1765514

TOTSCHNIG, W. (2020). “Fully autonomous AI”. In: Science and Engineering Ethics, no. 26, pp. 2473-2485 [online]. DOI: https://doi.org/10.1007/s11948-020-00243-z

TROITINO, D. (2014). “The Single European Act-the Creation of the Interior Market in Europe”. In: Journal on Legal and Economic Issues of Central Europe, pp. 8-14.

VINCENT, J. (2021). “EU outlines wide-ranging AI regulation, but leaves the door open for police surveillance” [online]. In: The Verge. Available at: https://www.theverge.com/2021/4/21/22393785/eu-ai-regulation-proposal-social-credit-ban-biometric-surveillance-exceptions

VOGEL, D. (1995). Trading Up: Consumer and Environmental Regulation in a Global Economy. Cambridge: Harvard University Press.

WACHTER, S.; MITTELSTADT, B.; RUSSELL, C. (2020). “Why Fairness Cannot Be Automated: Bridging the Gap Between EU Non-Discrimination Law and AI”. In: SSRN Electronic Journal [online]. DOI: https://doi.org/10.2139/ssrn.3547922

WANG, P. (2008). “What Do You Mean by “AI”?”. In: Frontiers in Artificial Intelligence and Applications, pp. 362-373.

WEARN, O. R.; FREEMAN, R.; JACOBY, D. M. (2019). “Responsible AI for conservation”. In: Nature Machine Intelligence, no. 1, pp. 72-73 [online]. DOI: https://doi.org/10.1038/s42256-019-0022-7

YU, R.; ALI, G. S. (2019). “What’s inside the Black Box? AI Challenges for Lawyers and Researchers”. In: Legal Information Management, vol. 19, no.1, pp. 2-13 [online]. DOI: https://doi.org/10.1017/S1472669619000021

ZAICHUK, M. (2018). “Patenting Artificial Intelligence and Machine Learning Innovations in Europe”. In: Jones Day [online]. Available at: https://www.jonesday.com/en/insights/2018/10/patenting-artificial-intelligence-and-machine-lear

ZAICHUK, M. (2020). “IP Protection of Artificial Intelligence in Europe: Tailor-Made Solutions Required”. In: Jones Day [online]. Available at: https://www.jonesday.com/en/insights/2020/04/ip-protection-of-artificial-intelligence-in-europe