Intel·ligència artificial i Administració de justícia: Quo vadis, justitia?

Article Sidebar

PDF (Castellano) ePUB (Castellano)

Main Article Content

Pere Simón Castellano
Universitat Internacional de la Rioja

La presència en la nostra vida quotidiana de les més modernes tecnologies de la informació i la comunicació, i també de l’anomenada intel·ligència artificial (IA), és cada vegada més gran, alhora que més valuosa. Les administracions públiques no poden romandre immòbils davant d’una nova realitat social que també ofereix una oportunitat brillant d'incrementar la seva eficiència i eficàcia en àmbits molt concrets com, per exemple, la lluita contra el frau i les irregularitats. Els reptes i desafiaments jurídics que presenta l’IA, però, són molts i molt significatius, l’afectació dels quals es projecta en àmbits molt diversos com la protecció de dades personals, la igualtat, la seguretat jurídica, la transparència i la rendició de comptes, entre d’altres. Els problemes es multipliquen exponencialment en l’àmbit de l’Administració de justícia i, molt especialment, per a determinats usos en el marc del procés penal. Encara que la justícia no és ni s’ha de convertir en un mer acte de predicció ni en un model matemàtic que es pugui tancar en fórmules, no és menys cert que l’ús de l’IA per a finalitats concretes pot resultar molt útil en tots els ordres jurisdiccionals. Aquest article planteja, en aquest complex entramat, els termes del debat i analitza el marc legal europeu, els usos de l’IA en l’àmbit de la justícia penal i el seu impacte en els drets fonamentals.

Paraules clau
intel·ligència artificial, decisions automatitzades, Administració de justícia, procés penal

Article Details

Com citar
Simón Castellano, Pere. “Intel·ligència artificial i Administració de justícia: Quo vadis, justitia?”. IDP. Revista d’Internet, Dret i Política, no. 33, doi:10.7238/idp.v0i33.373817.
Drets

Drets d'autor

Els continguts publicats a IDP estan subjectes a una llicència de Reconeixement-Sense obres derivades 3.0 Espanya de Creative Commons, el text complet de la qual es pot consultar a http://creativecommons.org/licenses/by-nd/3.0/es/deed.ca. Així, doncs, se'n permet la còpia, distribució i comunicació pública sempre que se citi l'autor del text, la revista i la institució que els publiquen (IDP. Revista d'Internet, Dret i Política i UOC), tal com consta en la citació recomanada inclosa a cada article. No se'n poden fer obres derivades.

És responsabilitat dels autors obtenir els permisos necessaris de les imatges que estiguin subjectes a copyright.

 

Cessió de drets de propietat intel·lectual

L’autor cedeix sense exclusiva als editors de la revista els drets d’explotació (reproducció, distribució, comunicació pública i transformació) per a explotar i comercialitzar l’obra, sencera o en part, en tots els formats i modalitats d’explotació presents o futurs, en tots els idiomes, per tot el període de vida de l’obra i per tot el món.

L'autor ha de declarar que és l’autor original de l’obra. Els editors queden, per tant, exonerats de qualsevol obligació o responsabilitat per qualsevol acció legal que es pugui suscitar derivada de l’obra dipositada per la vulneració de drets de tercers, siguin de propietat intel·lectual o industrial, de secret comercial o qualsevol altre.

Biografia de l'autor/a

Pere Simón Castellano, Universitat Internacional de la Rioja

Professor contractat doctor (acreditació ANECA des de 2015) a la Universitat Internacional de la Rioja UNIR. Docent en assignatures de grau i postgrau a diferents universitats (UNIR, Universitat de Girona, UOC, ESERP Business School) i a col·legis i associacions professionals (Il·lustre Col·legi d’Advocats de Barcelona, APEP, WCA). Advocat of Counsel a Font Advocats. Premi de l’Agència Espanyola de Protecció de Dades (2011) i de l’Agència Basca de Protecció de Dades (2015). Investigador del grup de recerca PENALCRIM d’UNIR. Investigador principal del projecte sobre presó provisional RETOS d’UNIR. Contacte amb l’autor: pere.simon@unir.net

Referències

ASÍS ROIG, R. F. DE (2018). «Robótica, inteligencia artificial y derecho». Revista de privacidad y derecho digital, vol. 3, núm. 10, págs. 27-77.

BABUTA, A.; OSWALD, M.; RINIK, C. (2018). «Machine learning algorithms and police decision-making: legal, ethical and regulatory challenges». Whitehall Report, núm. 3. Royal United Services Institute for Defense and Security Studies.

BAROCAS, S.; SELBST, A. D. (2016). «Big data's disparate impact». California Law Review, núm. 104, págs. 671-732 [en línea] https://doi.org/10.2139/ssrn.2477899 [Fecha de consulta: 9 de enero de 2021].

BELFIORE, R. (2013). «The protection of personal data processed within the framework of police and judicial cooperation in criminal matters». En: RUGGERI, S. (ed.). Transnational inquiries and the protection of fundamental rights in criminal proceedings. Berlín: Springer, págs. 355-370.

BERROCAL LANZAROT, A. I. (2017). Derecho de supresión de datos o derecho al olvido. Madrid: Reus.

BOIX PALOP, A. (2020). «Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones». Revista de Derecho Público. Teoría y Método, núm. 1, págs. 223-269 [en línea] https://doi.org/10.37417/RPD/vol_1_2020_33 [Fecha de consulta: 9 de enero de 2021].

CABELLOS ESPIÉRREZ, M. A. (2018). «Opinar, enaltecer, humillar: respuesta penal e interpretación constitucionalmente adecuada en el tiempo de las redes sociales». Revista Española de Derecho Constitucional, núm. 112, págs. 45-86 [en línea] https://doi.org/10.18042/cepc/redc.112.02 [Fecha de consulta: 9 de enero de 2021].

CALDERS, T.; KAMIRAN, F.; PECHENIZKIY, M. (2009). «Building classifiers with independency constraints». En: IEEE International Conference on Data Mining Workshops, págs. 13-18 [en línea] https://doi.org/10.1109/ICDMW.2009.83 [Fecha de consulta: 9 de enero de 2021].

CCBE-COUNCIL OF BARS AND LAW SOCIETIES OF EUROPE (2020). Considerations on the legal aspects of Artificial Intelligence. Bruselas: CCBE [en línea] https://www.ccbe.eu/fileadmin/speciality_distribution/public/documents/IT_LAW/ITL_Guides_recommendations/EN_ITL_20200220_CCBE-considerations-on-the-Legal-Aspects-of-AI.pdf [Fecha de consulta: 9 de enero de 2021].

CEPEJ–EUROPEAN COMMISSION FOR THE EFFICIENCY OF JUSTICE (2018). European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment. Adoptada en el Pleno del CEPEJ (31.ª sesión), en Estrasburgo, el 3-4 de diciembre de 2018 [en línea] https://www.coe.int/en/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment [Fecha de consulta: 9 de enero de 2021].

CERRILLO I MARTÍNEZ, A. (2019). «El impacto de la inteligencia artificial en el derecho administrativo: ¿nuevos conceptos para nuevas realidades técnicas?». Revista General de Derecho Administrativo, núm. 50.

CERRILLO I MARTÍNEZ, A.; PEGUERA POCH, M. (2020). Retos jurídicos de la inteligencia artificial. Pamplona: Aranzadi.

CITRON, D. K.; PASQUALE, F. (2014). «The scored society: due process for automated predictions». Washington Law Review, núm. 89, págs. 1-33.

COBACHO LÓPEZ, A. (2019). «Reflexiones en torno a la última actualización del derecho al olvido digital». Revista de Derecho Político, núm. 104, págs. 198-227 [en línea] https://doi.org/10.5944/rdp.104.2019.24313 [Fecha de consulta: 9 de enero de 2021].

COTINO HUESO, L. (2019). «Riesgos e impactos del Big Data, la inteligencia artificial y la robótica: enfoques, modelos y principios de la respuesta del derecho». Revista General de Derecho Administrativo, núm. 50.

COTINO HUESO, L. (2020). «SyRI, ¿a quién sanciono? Garantías frente al uso de inteligencia artificial y decisiones automatizadas en el sector público y la sentencia holandesa de febrero de 2020». La Ley Privacidad, Wolters Kluwer, núm. 4.

CRAWFORD, K.; SCHULTZ, J. (2014). «Big data and due process: Toward a framework to redress predictive privacy harms». Boston College Law Review, núm. 55, págs. 93-128.

DUMORTIER, F. (2010). «Facebook and risks of “de-contextualization” of information». En: GUTWIRTH, S.; POULLET, Y.; DE HERT, P. (eds.). Data protection in a profiled world. Londres: Springer, págs. 119-138.

EDWARDS, L.; VEALE, M. (2017). «Slave to the algorithm: Why a right to an explanation is probably not the remedy you are looking for». Duke Law & Technology Review, núm. 16, págs. 18-84 [en línea] https://doi.org/10.31228/osf.io/97upg [Fecha de consulta: 9 de enero de 2021].

EGGERS, W. D.; SCHATSKY, D.; VIECHNICKI, P. (2018). AI-augmented government. Using cognitive technologies to redesign public sector work. Dallas: Deloitte University Press.

EXECUTIVE OFFICE OF THE PRESIDENT NATIONAL SCIENCE & TECHNOLOGY COUNCIL COMMITTEE ON TECHNOLOGY (2016). Preparing for the future of Artificial Intelligence [en línea] https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf [Fecha de consulta: 9 de enero de 2021].

FEDERAL FINANCIAL SUPERVISORY AUTHORITY (2018). Big data meets artificial intelligence. Challenges and implications for the supervision and regulation of financial services [en línea] https://www.bafin.de/SharedDocs/Downloads/EN/dl_bdai_studie_en.html [Fecha de consulta: 9 de enero de 2021].

FERNÁNDEZ HERNÁNDEZ, CARLOS B. (2020a). «Primera sentencia europea que declara ilegal un algoritmo de evaluación de características personales de los ciudadanos». Diario La Ley Ciberderecho, núm. 37.

FERNÁNDEZ HERNÁNDEZ, CARLOS B. (2020b). «Informe para el Parlamento Europeo sobre el uso de la inteligencia artificial en los ámbitos policial y judicial». Diario La Ley, 24-7-2020.

FERNÁNDEZ HERNÁNDEZ, CARLOS B. (2020c). «El Consejo de la Abogacía Europea analiza los efectos de la aplicación de la Inteligencia Artificial en el ámbito jurídico». Diario La Ley Ciberderecho, núm. 39.

FREY, C. B.; OSBORNE, M. A. (2017). «The future of employment: how susceptible are jobs to computerisation?». Technological forecasting and social change, núm. 114, págs. 254-280 [en línea] https://doi.org/10.1016/j.techfore.2016.08.019 [Fecha de consulta: 9 de enero de 2021].

GÓMEZ MANRESA, F.; FERNÁNDEZ SALMERÓN, M. (2019). Modernización digital en la administración de la justicia. Pamplona: Aranzadi.

GONZÁLEZ FUSTER, G. (2020). «Artificial Intelligence and law enforcement-impact on fundamental rights». European Parliament Think Tank Study [en línea] https://www.europarl.europa.eu/RegData/etudes/STUD/2020/656295/IPOL_STU(2020)656295_EN.pdf [Fecha de consulta: 9 de enero de 2021] .

IBM (2018). Delivering Artificial Intelligence in Government: Challenges and Opportunities. IBM Center for The Business of Government [en línea] http://www.businessofgovernment.org/report/delivering-artificial-intelligence-government-challenges-and-opportunities [Fecha de consulta: 9 de enero de 2021].

IT-POL (2019). «Danish DPA approves Automated Facial Recognition». European Digital Rights Initiative [en línea] https://edri.org/danish-dpa-approves-automated-facial-recognition/ [Fecha de consulta: 9 de enero de 2021].

KAHNEMAN, D.; SLOVIC, P.; TVERSKY, A. (1982). Judgment under Uncertainty: Heuristics and Biases. Cambridge: Cambridge University Press.

KAPLAN, J. (2017). Inteligencia artificial. Lo que todo el mundo debe saber. Zaragoza: Teell Editorial.

MAYER-SCHÖNBERGER, V.; CUKIER, K. (2013). Big data. La revolución de los datos masivos. Madrid: Turner.

MENEZES, C.; AGUSTINA, J. (2020). «Big Data, Inteligencia Artificial y policía predictiva. Bases para una adecuada regulación legal que respete los derechos fundamentales» [en línea] https://www.researchgate.net/publication/341791776_Big_Data_Inteligencia_Artificial_y_policia_predictiva_Bases_para_una_adecuada_regulacion_legal_que_respete_los_derechos_fundamentales [Fecha de consulta: 9 de enero de 2021].

MIRÓ LLINARES, F. (2018). «Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots». Revista de Derecho Penal y Criminología, núm. 20, 2018, págs. 87-130.

— (2020). «Policía predictiva: ¿utopía o distopía? Sobre las actitudes hacia el uso de algoritmos de big data para la aplicación de la ley». IDP. Revista de Internet, Derecho y Política, núm. 30 [en línea] https://www.raco.cat/index.php/IDP/article/view/373608 [Fecha de consulta: 9 de enero de 2021].

NIEVA FENOLL, J. (2018). Inteligencia artificial y proceso judicial. Madrid: Marcial Pons.

NOAH HARARI, Y. (2018). 21 lecciones para el siglo XXI. Madrid: Debate.

PEREA GONZÁLEZ, A. (2020). «Tercer poder: la oportunidad o el precipicio». El Mundo, 24-6-2020.

PONCE SOLÉ, J. (2019). «Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico». Revista General de Derecho Administrativo, núm. 50.

PRICEWATERHOUSECOOPERS (2017). Sizing the prize: What’s the real value of AI for your business and how can you capitalise? [en línea] https://www.pwc.dk/da/publikationer/2017/pwc-ai-analysis-sizing-the-prize-report.pdf [Fecha de consulta: 9 de enero de 2021].

SIERRA, S. (2020). «Inteligencia artificial y justicia administrativa: una aproximación desde la teoría del control de la Administración Pública». Revista General de Derecho Administrativo, núm. 53.

SIMÓN CASTELLANO, P. (2012). El régimen constitucional del derecho al olvido digital. Valencia: Tirant lo Blanch.

SIMÓN CASTELLANO, P. (2015). El reconocimiento del derecho al olvido digital en España y en la UE. Barcelona: Wolters Kluwer-Bosch.

VALLS PRIETO, J. (2017). Problemas jurídico penales asociados a las nuevas técnicas de prevención y persecución del crimen mediante inteligencia artificial. Madrid: Dykinson.

ZARSKY, T. (2016). «The trouble with algorithmic decisions: an analytic road map to examine efficiency and fairness in automated and opaque decision making». Science, Technology & Human Values, vol. 41, núm. 1, págs. 118-132 [en línea] https://doi.org/10.1177/0162243915605575 [Fecha de consulta: 9 de enero de 2021].