Programari i algorismes defectuosos: algunes consideracions sobre la responsabilitat del desenvolupador de programari o de sistemes d’intel·ligència artificial

Article Sidebar

PDF (Castellano) ePUB (Castellano)

Main Article Content

Guillem Izquierdo Grau
Universitat Autònoma de Barcelona

El passat 28 de setembre de 2022, la Comissió Europea va publicar la Proposta de Directiva que ha de reemplaçar la longeva Directiva 85/374/CEE sobre danys causats per productes defectuosos. Un dels problemes de l’actual directiva que regula aquesta matèria és la dificultat tècnica que planteja la seva aplicabilitat als danys causats per béns que incorporen sistemes d’intel·ligència artificial. Tenint en compte que només s’aplica als danys causats per béns mobles, deixa fora del seu àmbit d’aplicació els danys causats per un algorisme. No obstant això, el legislador europeu s’ha proposat redreçar aquesta situació i la Proposta de Directiva afirma que el programari i els sistemes d’intel·ligència artificial són un producte. A més, engloba dins del concepte de productor al desenvolupador o proveïdor de sistemes d’intel·ligència artificial. En aquest treball abordarem el text de la Proposta de Directiva i la regulació d’un dels aspectes clau de la nova regulació: la responsabilitat del desenvolupador del programari o de l’algorisme.  

Paraules clau
intel·ligència artificial, producte defectuós, béns amb elements digitals, desenvolupador d’algorismes, proveïdor de sistemes d’intel·ligència artificial, desenvolupador de programari

Article Details

Com citar
Izquierdo Grau, Guillem. “Programari i algorismes defectuosos: algunes consideracions sobre la responsabilitat del desenvolupador de programari o de sistemes d’intel·ligència artificial”. IDP. Revista d’Internet, Dret i Política, no. 38, pp. 1-12, doi:10.7238/idp.v0i38.406131.
Drets
Creative Commons License

Aquesta obra està sota una llicència internacional Creative Commons Reconeixement-SenseObraDerivada 3.0.

(c) Guillem Izquierdo Grau, 2023


Drets d'autor

Els continguts publicats a IDP estan subjectes a una llicència de Reconeixement-Sense obres derivades 3.0 Espanya de Creative Commons, el text complet de la qual es pot consultar a http://creativecommons.org/licenses/by-nd/3.0/es/deed.ca. Així, doncs, se'n permet la còpia, distribució i comunicació pública sempre que se citi l'autor del text, la revista i la institució que els publiquen (IDP. Revista d'Internet, Dret i Política i UOC), tal com consta en la citació recomanada inclosa a cada article. No se'n poden fer obres derivades.

És responsabilitat dels autors obtenir els permisos necessaris de les imatges que estiguin subjectes a copyright.

 

Cessió de drets de propietat intel·lectual

L’autor cedeix sense exclusiva als editors de la revista els drets d’explotació (reproducció, distribució, comunicació pública i transformació) per a explotar i comercialitzar l’obra, sencera o en part, en tots els formats i modalitats d’explotació presents o futurs, en tots els idiomes, per tot el període de vida de l’obra i per tot el món.

L'autor ha de declarar que és l’autor original de l’obra. Els editors queden, per tant, exonerats de qualsevol obligació o responsabilitat per qualsevol acció legal que es pugui suscitar derivada de l’obra dipositada per la vulneració de drets de tercers, siguin de propietat intel·lectual o industrial, de secret comercial o qualsevol altre.

Biografia de l'autor/a

Guillem Izquierdo Grau, Universitat Autònoma de Barcelona

Professor lector (tenure-eligible lecturer Serra Húnter) del Departament de Dret Privat de la Universitat Autònoma de Barcelona. Actualment els seus interessos de recerca se centren en el Dret de consum (falta de conformitat i remeis) i en la responsabilitat per danys causats per productes defectuosos. En aquest sentit, forma part de grups de recerca sobre aquestes temàtiques i és autor de nombroses publicacions sobre la matèria.

Referències

ABBOTT, R.; BORGES, G.; DACORONIA, E.; DEVILLIER, N.; JANKOWSKA-AUGUSTYN, M.; KARNER, E.; KOCH, B. A.; KRAUSOVA, A.; MACHNIKOWSKI, P.; MONTAGNANI, M. L.; MOTZFELDT, M.; PAGALLO, U.; RODRÍGUEZ DE LAS HERAS BALLELL, T.; SPINDLER, G.; WENDEHORST, C. (2019). Liability for Artificial Intelligence and Other Emerging Digital Technologies. Luxemburgo: Comisión Europea. DOI: https://doi.org/10.2838/573689 Disponible en: https://op.europa.eu/en/publication-detail/-/publication/1c5e30be-1197-11ea-8c1f-01aa75ed71a1/language-en

BARFIELD, W. (2018). «Liability for autonomous and artificially intelligence robots». Paladyn, Journal of Behavioral Robotics, núm. 9, págs. 193-203. DOI: https://doi.org/10.1515/pjbr-2018-0018

BRACQUENÉ, E.; BRUSSELAERS, J.; DAMS, Y.; PEETERS, J.; DE SCHEPPER, K.; DUFLOU, J.; DEWULF, W. (2018). «Repairability criteria for energy related products. Study in the BeNeLux context to evaluate the options to extend the product life time. Final Report» [en línea]. Disponible en: https://www.benelux.int/files/7915/2896/0920/FINAL_Report_Benelux.pdf. [Fecha de consulta: 7 de diciembre de 2022].

CÁMARA LAPUENTE, S. (2020). «Resolución contractual y destino de los datos y contenidos generados por los usuarios de servicios digitales». En: ARROYO AMAYUELAS, E. y CÁMARA LAPUENTE, S. (dirs.). El derecho privado en el nuevo paradigma digital. Madrid: Marcial Pons, págs. 141-175.

CASTILLO PARRILLA, J. A. (2021). «Los datos personales como contraprestación en la reforma del TRLGDCU y las tensiones normativas entre la economía de los datos y la interpretación garantista del RGPD». Diario La Ley, núm. 82, págs. 1-20.

CHAGAL-FEDERKORN, K. A. (2019). «Am I an Algorithm or a Product? When Products Liability Should Apply to Algorithmic Decision-Makers». Stanford Law & Policy Review, vol. 30, núm. 61, págs. 61-114.

COMISIÓN EUROPEA (2022). Proposal for a Directive of the European Parliament and of the Council on Liability for Defective Products. Bruselas, 28 de septiembre de 2022, COM(2022) 495 final, 2022/0302 (COD), 38 páginas.

EUROPEAN LAW INSTITUTE (2022). ELI Draft of a Revised Product Liability Directive. Draft Legislative Proposal of the European Law Institute [en línea]. Disponible en: https://www.europeanlawinstitute.eu/projects-publications/current-projects/current-projects/pld/

EIDENMÜLLER, H. (2021). «The Rise of Robots and the Law of Humans». En: EIDENMÜLLER, H. y WAGNER, G. Law by Algorithm. Tübingen: Mohr Siebeck, págs. 7-19. DOI: https://doi.org/10.1628/978-3-16-157509-9

MACHNIKOWSKI, P. (ed.) (2016). European Product Liability. An Analysis of the State of the Art in the Era of New Technologies. Cambridge: Intersentia Publishing nv. DOI: https://doi.org/10.1017/9781780685243

MISCHAU, L. (2022). «The Concept of Digital Content and Digital Services in European Contract Law». European Journal of Consumer and Market Law, núm. 1, págs. 6-13.

NAVARRO-MICHEL, M. (2020). «Vehículos automatizados y responsabilidad por producto defectuoso». Revista de Derecho civil, núm. 5, págs. 175-223.

NAVAS NAVARRO, S. (2020). «Robot Machines and Civil Liability». En: EBERS, M. y NAVAS NAVARRO, S. (eds.). Algorithms and Law. Cambridge: Cambridge University Press, págs. 157-173. DOI: https://doi.org/10.1017/9781108347846.006

PAGALLO, U. (2013). The Laws of Robots. Crimes, Contracts and Torts. Londres: Springer. DOI: https://doi.org/10.1007/978-94-007-6564-1

STAED, K. C. (2017). «Open source download mishaps and product liability: who is to blame and what are the remedies?». Saint Louis University Public Law Review, núm. 36, págs. 169-191.

THEBEN, A.; GUNDERSON, L; LÓPEZ-FORÉS, L.; MISURACA, G.; LUPIÁÑEZ-VILLANUEVA, F. (2021). Challenges and limits of an open source approach to Artificial Intelligence [study for the Special Committee on Artificial Intelligence in a Digital Age (AIDA)]. Luxemburgo: Policy Department for Economic, Scientific and Quality of Life Policies, European Parliament.

WAGNER, G. (2021). «Robot Liability». En: EIDENMÜLLER, H. y WAGNER, G. Law by Algorithm. Tübingen: Mohr Siebeck, págs. 73-102.

WALSH, E. J.; TIBBETTS, A. J. (2010). «Reassessing The Benefits and Risks of Open Source Software». Intellectual Property & Technology Law Journal, vol. 2, núm. 1, págs. 9-14.

WENDEHORST, C. (2021). «Safety and Liability Related Aspects of Software». Luxemburgo: Comisión Europea. DOI: https://doi.org/10.1515/9783110775402-002