Inteligencia artificial y Administración de Justicia: ¿Quo vadis, justitia?

Article Sidebar

PDF ePUB

Main Article Content

Pere Simón Castellano
Universidad Internacional de La Rioja

La presencia en nuestra vida cotidiana de las más modernas tecnologías de la información y la comunicación, así como de la llamada inteligencia artificial (IA), es cada vez mayor a la par que más valiosa. Las Administraciones públicas no pueden permanecer inmóviles ante una nueva realidad social que ofrece también una brillante oportunidad para incrementar su eficiencia y eficacia en ámbitos muy concretos como, por ejemplo, la lucha contra el fraude y las irregularidades. Los retos y desafíos jurídicos que presenta la IA, empero, son muchos y muy significativos, cuya afectación se proyecta en ámbitos tan diversos como la protección de datos personales, la igualdad, la seguridad jurídica, la transparencia y la rendición de cuentas, entre otros. Los problemas se multiplican exponencialmente en el ámbito de la Administración de Justicia y, muy especialmente, para determinados usos en el marco del proceso penal. Aunque la justicia no es ni debe convertirse en un mero acto de predicción ni en un modelo matemático que pueda encerrarse en fórmulas, no es menos cierto que el empleo de la IA para fines concretos puede resultar muy útil en todos los órdenes jurisdiccionales. El presente artículo plantea en este complejo entramado los términos del debate analizando el marco legal europeo, los usos de la IA en el ámbito de la justicia penal y su impacto en los derechos fundamentales.

Palabras clave
inteligencia artificial, decisiones automatizadas, Administración de justicia, proceso penal

Article Details

Cómo citar
Simón Castellano, Pere. «Inteligencia artificial y Administración de Justicia: ¿Quo vadis, justitia?». IDP. Revista de Internet, Derecho y Política, 2021, n.º 33, doi:10.7238/idp.v0i33.373817.
Derechos

Derechos de autor

Los contenidos publicados en IDP están bajo una licencia de Reconocimiento-Sin obras derivadas 3.0 España de Creative Commons, cuyo texto completo se puede consultar en http://creativecommons.org/licenses/by-nc-nd/3.0/es/deed.es. Así pues, se permite la copia, distribución y comunicación pública siempre y cuando se cite el autor del texto, la revista (IDP. Revista de Internet, Derecho y Política y la institución que los publica (UOC), tal como consta en la citación recomendada que aparece en cada artículo. No se pueden hacer obras derivadas.

Es responsabilidad de los autores obtener los permisos necesarios de las imágenes que estén sujetas a copyright.

 

Cesión de derechos de propiedad intelectual

El autor cede sin exclusiva a los editores de la revista los derechos de explotación (reproducción, distribución, comunicación pública y transformación) para explotar y comercializar la obra, entera o en parte, en todos los formatos y modalidades de explotación presentes o futuros, en todos los idiomas, por todo el periodo de vida de la obra y por todo el mundo.

El autor debe declarar que es el autor original de la obra. Los editores quedan, por lo tanto, exonerados de cualquier obligación o responsabilidad por cualquier acción legal que pueda suscitarse derivada de la obra depositada por la vulneración de derechos de terceros, sean de propiedad intelectual o industrial, de secreto comercial o cualquier otro.

Biografía del autor/a

Pere Simón Castellano, Universidad Internacional de La Rioja

Profesor contratado doctor (acreditado ANECA desde 2015) en la Universidad Internacional de La Rioja (UNIR). Docente en asignaturas de grado y posgrado en distintas universidades (UNIR, Universitat de Girona, UOC, ESERP Business School) y en colegios y asociaciones profesionales (Ilustre Colegio de Abogados de Barcelona, APEP, WCA). Abogado of counsel en Font Advocats. Premio de la Agencia Española de Protección de Datos (2011) y de la Agencia Vasca de Protección de Datos (2015). Investigador del Grupo de Investigación «PENALCRIM» UNIR. Investigador principal del proyecto sobre prisión provisional RETOS UNIR.

Contacto con el autor: pere.simon@unir.net

Citas

ASÍS ROIG, R. F. DE (2018). «Robótica, inteligencia artificial y derecho». Revista de privacidad y derecho digital, vol. 3, núm. 10, págs. 27-77.

BABUTA, A.; OSWALD, M.; RINIK, C. (2018). «Machine learning algorithms and police decision-making: legal, ethical and regulatory challenges». Whitehall Report, núm. 3. Royal United Services Institute for Defense and Security Studies.

BAROCAS, S.; SELBST, A. D. (2016). «Big data's disparate impact». California Law Review, núm. 104, págs. 671-732 [en línea] https://doi.org/10.2139/ssrn.2477899 [Fecha de consulta: 9 de enero de 2021].

BELFIORE, R. (2013). «The protection of personal data processed within the framework of police and judicial cooperation in criminal matters». En: RUGGERI, S. (ed.). Transnational inquiries and the protection of fundamental rights in criminal proceedings. Berlín: Springer, págs. 355-370.

BERROCAL LANZAROT, A. I. (2017). Derecho de supresión de datos o derecho al olvido. Madrid: Reus.

BOIX PALOP, A. (2020). «Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones». Revista de Derecho Público. Teoría y Método, núm. 1, págs. 223-269 [en línea] https://doi.org/10.37417/RPD/vol_1_2020_33 [Fecha de consulta: 9 de enero de 2021].

CABELLOS ESPIÉRREZ, M. A. (2018). «Opinar, enaltecer, humillar: respuesta penal e interpretación constitucionalmente adecuada en el tiempo de las redes sociales». Revista Española de Derecho Constitucional, núm. 112, págs. 45-86 [en línea] https://doi.org/10.18042/cepc/redc.112.02 [Fecha de consulta: 9 de enero de 2021].

CALDERS, T.; KAMIRAN, F.; PECHENIZKIY, M. (2009). «Building classifiers with independency constraints». En: IEEE International Conference on Data Mining Workshops, págs. 13-18 [en línea] https://doi.org/10.1109/ICDMW.2009.83 [Fecha de consulta: 9 de enero de 2021].

CCBE-COUNCIL OF BARS AND LAW SOCIETIES OF EUROPE (2020). Considerations on the legal aspects of Artificial Intelligence. Bruselas: CCBE [en línea] https://www.ccbe.eu/fileadmin/speciality_distribution/public/documents/IT_LAW/ITL_Guides_recommendations/EN_ITL_20200220_CCBE-considerations-on-the-Legal-Aspects-of-AI.pdf [Fecha de consulta: 9 de enero de 2021].

CEPEJ–EUROPEAN COMMISSION FOR THE EFFICIENCY OF JUSTICE (2018). European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment. Adoptada en el Pleno del CEPEJ (31.ª sesión), en Estrasburgo, el 3-4 de diciembre de 2018 [en línea] https://www.coe.int/en/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment [Fecha de consulta: 9 de enero de 2021].

CERRILLO I MARTÍNEZ, A. (2019). «El impacto de la inteligencia artificial en el derecho administrativo: ¿nuevos conceptos para nuevas realidades técnicas?». Revista General de Derecho Administrativo, núm. 50.

CERRILLO I MARTÍNEZ, A.; PEGUERA POCH, M. (2020). Retos jurídicos de la inteligencia artificial. Pamplona: Aranzadi.

CITRON, D. K.; PASQUALE, F. (2014). «The scored society: due process for automated predictions». Washington Law Review, núm. 89, págs. 1-33.

COBACHO LÓPEZ, A. (2019). «Reflexiones en torno a la última actualización del derecho al olvido digital». Revista de Derecho Político, núm. 104, págs. 198-227 [en línea] https://doi.org/10.5944/rdp.104.2019.24313 [Fecha de consulta: 9 de enero de 2021].

COTINO HUESO, L. (2019). «Riesgos e impactos del Big Data, la inteligencia artificial y la robótica: enfoques, modelos y principios de la respuesta del derecho». Revista General de Derecho Administrativo, núm. 50.

COTINO HUESO, L. (2020). «SyRI, ¿a quién sanciono? Garantías frente al uso de inteligencia artificial y decisiones automatizadas en el sector público y la sentencia holandesa de febrero de 2020». La Ley Privacidad, Wolters Kluwer, núm. 4.

CRAWFORD, K.; SCHULTZ, J. (2014). «Big data and due process: Toward a framework to redress predictive privacy harms». Boston College Law Review, núm. 55, págs. 93-128.

DUMORTIER, F. (2010). «Facebook and risks of “de-contextualization” of information». En: GUTWIRTH, S.; POULLET, Y.; DE HERT, P. (eds.). Data protection in a profiled world. Londres: Springer, págs. 119-138.

EDWARDS, L.; VEALE, M. (2017). «Slave to the algorithm: Why a right to an explanation is probably not the remedy you are looking for». Duke Law & Technology Review, núm. 16, págs. 18-84 [en línea] https://doi.org/10.31228/osf.io/97upg [Fecha de consulta: 9 de enero de 2021].

EGGERS, W. D.; SCHATSKY, D.; VIECHNICKI, P. (2018). AI-augmented government. Using cognitive technologies to redesign public sector work. Dallas: Deloitte University Press.

EXECUTIVE OFFICE OF THE PRESIDENT NATIONAL SCIENCE & TECHNOLOGY COUNCIL COMMITTEE ON TECHNOLOGY (2016). Preparing for the future of Artificial Intelligence [en línea] https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf [Fecha de consulta: 9 de enero de 2021].

FEDERAL FINANCIAL SUPERVISORY AUTHORITY (2018). Big data meets artificial intelligence. Challenges and implications for the supervision and regulation of financial services [en línea] https://www.bafin.de/SharedDocs/Downloads/EN/dl_bdai_studie_en.html [Fecha de consulta: 9 de enero de 2021].

FERNÁNDEZ HERNÁNDEZ, CARLOS B. (2020a). «Primera sentencia europea que declara ilegal un algoritmo de evaluación de características personales de los ciudadanos». Diario La Ley Ciberderecho, núm. 37.

FERNÁNDEZ HERNÁNDEZ, CARLOS B. (2020b). «Informe para el Parlamento Europeo sobre el uso de la inteligencia artificial en los ámbitos policial y judicial». Diario La Ley, 24-7-2020.

FERNÁNDEZ HERNÁNDEZ, CARLOS B. (2020c). «El Consejo de la Abogacía Europea analiza los efectos de la aplicación de la Inteligencia Artificial en el ámbito jurídico». Diario La Ley Ciberderecho, núm. 39.

FREY, C. B.; OSBORNE, M. A. (2017). «The future of employment: how susceptible are jobs to computerisation?». Technological forecasting and social change, núm. 114, págs. 254-280 [en línea] https://doi.org/10.1016/j.techfore.2016.08.019 [Fecha de consulta: 9 de enero de 2021].

GÓMEZ MANRESA, F.; FERNÁNDEZ SALMERÓN, M. (2019). Modernización digital en la administración de la justicia. Pamplona: Aranzadi.

GONZÁLEZ FUSTER, G. (2020). «Artificial Intelligence and law enforcement-impact on fundamental rights». European Parliament Think Tank Study [en línea] https://www.europarl.europa.eu/RegData/etudes/STUD/2020/656295/IPOL_STU(2020)656295_EN.pdf [Fecha de consulta: 9 de enero de 2021] .

IBM (2018). Delivering Artificial Intelligence in Government: Challenges and Opportunities. IBM Center for The Business of Government [en línea] http://www.businessofgovernment.org/report/delivering-artificial-intelligence-government-challenges-and-opportunities [Fecha de consulta: 9 de enero de 2021].

IT-POL (2019). «Danish DPA approves Automated Facial Recognition». European Digital Rights Initiative [en línea] https://edri.org/danish-dpa-approves-automated-facial-recognition/ [Fecha de consulta: 9 de enero de 2021].

KAHNEMAN, D.; SLOVIC, P.; TVERSKY, A. (1982). Judgment under Uncertainty: Heuristics and Biases. Cambridge: Cambridge University Press.

KAPLAN, J. (2017). Inteligencia artificial. Lo que todo el mundo debe saber. Zaragoza: Teell Editorial.

MAYER-SCHÖNBERGER, V.; CUKIER, K. (2013). Big data. La revolución de los datos masivos. Madrid: Turner.

MENEZES, C.; AGUSTINA, J. (2020). «Big Data, Inteligencia Artificial y policía predictiva. Bases para una adecuada regulación legal que respete los derechos fundamentales» [en línea] https://www.researchgate.net/publication/341791776_Big_Data_Inteligencia_Artificial_y_policia_predictiva_Bases_para_una_adecuada_regulacion_legal_que_respete_los_derechos_fundamentales [Fecha de consulta: 9 de enero de 2021].

MIRÓ LLINARES, F. (2018). «Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots». Revista de Derecho Penal y Criminología, núm. 20, 2018, págs. 87-130.

— (2020). «Policía predictiva: ¿utopía o distopía? Sobre las actitudes hacia el uso de algoritmos de big data para la aplicación de la ley». IDP. Revista de Internet, Derecho y Política, núm. 30 [en línea] https://www.raco.cat/index.php/IDP/article/view/373608 [Fecha de consulta: 9 de enero de 2021].

NIEVA FENOLL, J. (2018). Inteligencia artificial y proceso judicial. Madrid: Marcial Pons.

NOAH HARARI, Y. (2018). 21 lecciones para el siglo XXI. Madrid: Debate.

PEREA GONZÁLEZ, A. (2020). «Tercer poder: la oportunidad o el precipicio». El Mundo, 24-6-2020.

PONCE SOLÉ, J. (2019). «Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico». Revista General de Derecho Administrativo, núm. 50.

PRICEWATERHOUSECOOPERS (2017). Sizing the prize: What’s the real value of AI for your business and how can you capitalise? [en línea] https://www.pwc.dk/da/publikationer/2017/pwc-ai-analysis-sizing-the-prize-report.pdf [Fecha de consulta: 9 de enero de 2021].

SIERRA, S. (2020). «Inteligencia artificial y justicia administrativa: una aproximación desde la teoría del control de la Administración Pública». Revista General de Derecho Administrativo, núm. 53.

SIMÓN CASTELLANO, P. (2012). El régimen constitucional del derecho al olvido digital. Valencia: Tirant lo Blanch.

SIMÓN CASTELLANO, P. (2015). El reconocimiento del derecho al olvido digital en España y en la UE. Barcelona: Wolters Kluwer-Bosch.

VALLS PRIETO, J. (2017). Problemas jurídico penales asociados a las nuevas técnicas de prevención y persecución del crimen mediante inteligencia artificial. Madrid: Dykinson.

ZARSKY, T. (2016). «The trouble with algorithmic decisions: an analytic road map to examine efficiency and fairness in automated and opaque decision making». Science, Technology & Human Values, vol. 41, núm. 1, págs. 118-132 [en línea] https://doi.org/10.1177/0162243915605575 [Fecha de consulta: 9 de enero de 2021].

Artículos similares

<< < 8 9 10 11 12 13 14 15 16 > >> 

También puede {advancedSearchLink} para este artículo.