Justícia, intel·ligència artificial i dret de defensa

Article Sidebar

PDF (Castellano) ePUB (Castellano)

Main Article Content

Elena de Luis García
Universitat de València
https://orcid.org/0000-0001-7987-957X

La intel·ligència artificial és una realitat de la qual el dret processal no pot escapar. Són indubtables els avantatges que presenta en termes de cost i temps per a l’Administració de Justícia, i fins i tot en determinades ocasions pot contribuir a aconseguir un resultat més objectiu. No obstant això, els seus beneficis són tan visibles com els potencials riscos que comporta per als drets i per a les garanties fonamentals del procés. Característiques com l’opacitat o la fal·libilitat poden afectar irremeiablement el dret de defensa i la contradicció. Davant d’aquesta situació, cal que ens plantegem quin futur volem, és a dir, si la justícia algorítmica és imparable, i com volem que es configuri en el procés. Això només es podrà fer mitjançant l’establiment d’un marc legal que identifiqui els riscos existents i reculli mesures per pal·liar-los, i tot amb l’objectiu de conjugar eficiència i eficàcia de manera que puguem gaudir dels avantatges que ens ofereix aquesta nova eina, però sense que això comporti una minva dels drets fonamentals i de les garanties del procés, atès que aquests són, i han de ser, un límit que no s’excedeixi mai en la utilització de sistemes d’intel·ligència artificial

Paraules clau
intel·ligència artificial, algoritmes, justícia predictiva, dret de defensa, contradicció

Article Details

Com citar
de Luis García, Elena. “Justícia, intel·ligència artificial i dret de defensa”. IDP. Revista d’Internet, Dret i Política, no. 39, pp. 1-12, doi:10.7238/idp.v0i39.417164.
Drets
Creative Commons License

Aquesta obra està sota una llicència internacional Creative Commons Reconeixement-SenseObraDerivada 3.0.

(c) Elena de Luis García, 2023


Drets d'autor

Els continguts publicats a IDP estan subjectes a una llicència de Reconeixement-Sense obres derivades 3.0 Espanya de Creative Commons, el text complet de la qual es pot consultar a http://creativecommons.org/licenses/by-nd/3.0/es/deed.ca. Així, doncs, se'n permet la còpia, distribució i comunicació pública sempre que se citi l'autor del text, la revista i la institució que els publiquen (IDP. Revista d'Internet, Dret i Política i UOC), tal com consta en la citació recomanada inclosa a cada article. No se'n poden fer obres derivades.

És responsabilitat dels autors obtenir els permisos necessaris de les imatges que estiguin subjectes a copyright.

 

Cessió de drets de propietat intel·lectual

L’autor cedeix sense exclusiva als editors de la revista els drets d’explotació (reproducció, distribució, comunicació pública i transformació) per a explotar i comercialitzar l’obra, sencera o en part, en tots els formats i modalitats d’explotació presents o futurs, en tots els idiomes, per tot el període de vida de l’obra i per tot el món.

L'autor ha de declarar que és l’autor original de l’obra. Els editors queden, per tant, exonerats de qualsevol obligació o responsabilitat per qualsevol acció legal que es pugui suscitar derivada de l’obra dipositada per la vulneració de drets de tercers, siguin de propietat intel·lectual o industrial, de secret comercial o qualsevol altre.

Biografia de l'autor/a

Elena de Luis García, Universitat de València

Actualment és membre del projecte d’investigació Claves para una justicia digital y algorítmica con perspectiva de género (PID2021-123170OB-I00) del Ministeri de Ciència i Innovació, i membre del grup d’investigació MEDARB de la Universitat de València des de l’any 2016. La seva línia d’investigació més recent se centra en la utilització d’eines de justícia predictiva en el procés penal i en la seva incidència sobre els drets fonamentals i les garanties processals.

Referències

ANGWIN, J.; LARSON, J.; MATTU, S.; KIRCHNER, L. (2016). «Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks». ProPublica [en línea]. Disponible en: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

ARIZA COLMENAREJO, M.J. (2022). «Impugnación de las decisiones judiciales dictadas con auxilio de Inteligencia Artificial». En: CALAZA LÓPEZ, S. (dir.) y LLORENTE SÁNCHEZ-ARJONA, M. (dir.). Inteligencia artificial legal y Administración de Justicia, págs. 29-54. Cizur Menor: Aranzadi.

BARONA VILAR, S. (2022a). «La seductora algoritmización de la justicia. Hacia una justicia poshumanista (Justicia+) ¿utópica o distópica?». El Cronista del Estado Social y Democrático de Derecho, n.º 100, págs. 36-47.

BARONA VILAR, S. (2022b). Algoritmización del derecho y de la justicia. De la Inteligencia Artificial a la Smart Justice. València: Tirant lo Blanch.

BARONA VILAR, S. (2019a). «Inteligencia artificial o la algoritmización de la vida y de la justicia: ¿solución o problema?». Revista Boliviana de Derecho, n.º 28, págs. 18-49.

BARONA VILAR, S. (2019b). «Cuarta revolución industrial (4.0) o ciberindustria en el proceso penal: revolución digital, inteligencia artificial y el camino hacia la robotización de la justicia». Revista Jurídica Digital UANDES, vol. 3, n.º 1, págs. 1-17. DOI: https://doi.org/10.24822/rjduandes.0301.1

BUENO DE MATA, F. (2020). «Macrodatos, inteligencia artificial y proceso: luces y sombras». Revista General de Derecho Procesal, n.º 51, págs. 1-31.

CHANENSON S.; HYATT J. (2016). The Use of Risk Assessment at Sentencing: Implications for Researchand Policy. Working Paper Series. Villanova University Charles Widger School of Law.

DE HOYOS SANCHO, M. (2022). «Garantías procesales en el uso jurisdiccional de sistemas de inteligencia artificial de alto riesgo». En: MARTÍN PASTOR, J. (dir.) y JUAN SÁNCHEZ, J. (dir.). El Derecho procesal: entre la Academia y el Foro, págs. 23-52. Barcelona: Atelier.

DE HOYOS SANCHO, M. (2021). «El uso jurisdiccional de los sistemas de inteligencia artificial y la necesidad de su armonización en el contexto de la Unión Europea». Revista General de Derecho Procesal, n.º 55.

DE HOYOS SANCHO, M. (2020). «El libro blanco sobre inteligencia artificial de la Comisión Europea. Reflexiones desde las garantías esenciales del proceso penal como “sector de riesgo”». REDE. Revista española de derecho europeo, n.º 76, págs. 9-43. DOI: https://doi.org/10.37417/REDE/num76_2020_534

DE LUIS GARCÍA, E. (2018). «El derecho de defensa en el proceso penal: significado y manifestaciones en la jurisprudencia constitucional». Diario La Ley, n.º 9215.

FERNÁNDEZ ENTRALGO, J. (1989). «La motivación de las resoluciones judiciales en la doctrina del Tribunal Constitucional». Poder Judicial, n.º 6, págs. 57-94.

GÓMEZ COLOMER, J.L. (2022). «Derechos fundamentales, proceso e inteligencia artificial: una reflexión». En: CALAZA LÓPEZ, S. (dir.) y LLORENTE SÁNCHEZ-ARJONA, M. (dir.). Inteligencia artificial legal y Administración de Justicia, págs. 257-287. Cizur Menor: Aranzadi.

GÓMEZ COLOMER, J.L. (2021). «Cuestiones Generales». En: GÓMEZ COLOMER, J.L. (coord.) y BARONA VILAR, S. (coord.). Introducción al Derecho Procesal. Derecho Procesal I, págs. 239-254. València: Tirant lo Blanch.

GUZMÁN FLUJA, V. C. (2021). «Proceso penal y justicia automatizada». Revista General de Derecho Procesal, n.º 53.

HARCOURT, B. E. (2017). Against prediction: profiling, policing, and punishing in an actuarial age. University of Chicago Press.

MARCHENA GÓMEZ, M. (2022). «Inteligencia artificial y jurisdicción penal». Discurso leído por el Excmo. Sr. Dr. D. Manuel Marchena Gómez en el acto de su recepción como Académico de número de la Real Academia de Doctores de España y contestación del Excmo. Sr. D. Jorge Rodríguez-Zapata Pérez.

MARTÍ MINGARRO, L. (2010). Crisis del derecho de defensa. Madrid: Marcial Pons. DOI: https://doi.org/10.2307/j.ctv10rrbh4

MARTÍN DIZ, F. (2021b). «Modelos de aplicación de Inteligencia Artificial en justicia: asistencial o predictiva versus decisoria». En: BARONA VILAR, S. (ed.). Justicia algorítmica y neuroderecho: una mirada multidisciplinar, págs. 65-85. València: Tirant lo Blanch.

MARTÍN DIZ, F. (2019). «Inteligencia artificial y proceso: Garantías frente a eficiencia en el entorno de los derechos procesales fundamentales». En: Jiménez Conde, F. (dir.) y Bellido Penadés, R. (dir.). Justicia: ¿garantías versus eficiencia?, págs. 815-827. València: Tirant lo Blanch.

MARTÍNEZ GARAY, L. (2018). «Peligrosidad, algoritmos y due process: el caso State vs. Loomis». Revista de Derecho Penal y Criminología, n.º 20, págs. 485-502. DOI: https://doi.org/10.5944/rdpc.20.2018.26484

MIRÓ LLINARES, F. (2022). «Inteligencia artificial, delito y control penal: nuevas reflexiones y algunas predicciones sobre su impacto en el derecho y la justicia penal». El Cronista del Estado Social y Democrático de Derecho, n.º 100 (ejemplar dedicado a: Inteligencia artificial y derecho), págs. 174-183.

MIRÓ LLINARES, F. (2020). «Predictive policing: utopia or dystopia? On attitudes towards the use of big data algorithms for law enforcement». IDP: revista de Internet, derecho y política, n.º 30. DOI: https://doi.org/10.7238/idp.v0i30.3223

MIRÓ LLINARES, F. (2018). «Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots». Revista de Derecho Penal y Criminología, n.º 20.

MONAHAN, J.; SKEEM, J.R. (2015, diciembre). «Risk Assessment in Criminal Sentencing». Annual Review of Clinical Psychology.

MONTERO AROCA, J. (1997). Principios del proceso penal: una explicación basada en la razón. València: Tirant lo Blanch.

MONTESINOS GARCÍA, A. (2022). «Empleo de la inteligencia artificial en algunas fases del proceso judicial civil: prueba, medidas cautelares y sentencia». Actualidad civil, n.º 9.

MONTESINOS GARCÍA, A. (2021). «Los algoritmos que valoran el riesgo de reincidencia: En especial, el sistema Viogen». Revista de derecho y proceso penal, n.º 64, págs. 19-55.

NIEVA FENOLL, J. (2022). «Inteligencia artificial y proceso judicial: perspectivas ante un alto tecnológico en el camino». En: CALAZA LÓPEZ, S. (dir.) y LLORENTE SÁNCHEZ-ARJONA, M. (dir.). Inteligencia artificial legal y Administración de Justicia, págs. 417-437. Cizur Menor: Aranzadi.

NIEVA FENOLL, J. (2021). «Tecnología y derechos fundamentales en el proceso judicial». En: MORENO CATENA, V. (dir.) y ROMERO PRADAS, M.I. (dir.). Nuevos postulados de la cooperación judicial en la Unión Europea: libro homenaje a la Prof.ª Isabel González Cano, págs. 1007-1033. València: Tirant lo Blanch.

PLANCHADELL GARGALLO, A. (2021). «Inteligencia Artificial y medidas cautelares». En: BARONA VILAR, S. (ed.). Justicia algorítmica y neuroderecho: una mirada multidisciplinar, págs. 389-419. València: Tirant lo Blanch.

REIFARTH MUÑOZ, W. (2022). «El uso de la inteligencia artificial en el proceso judicial y los derechos fundamentales». En: BUENO DE MATA, F. (dir.). El impacto de las tecnologías disruptivas en el derecho procesal, págs. 199-216. València: Tirant lo Blanch.

ROA AVELLA, M.; SANABRIA-MOYANO, J.; DINAS-HURTADO, K. (2022). «Uso del algoritmo COMPAS en el proceso penal y los riesgos a los derechos humanos». Revista Brasileira de Direito Processual Penal, vol. 8, n.º 1. DOI: https://doi.org/10.22197/rbdpp.v8i1.615