Una aproximación a ChatGPT como herramienta jurídica: sesgos, capacidades y utilidades futuras

Article Sidebar

PDF ePUB

Main Article Content

Roberto Navarro-Dolmestch
Universidad Católica de Maule
https://orcid.org/0000-0003-0907-5714
María-Ángeles Fuentes-Loureiro
Universidade da Coruña
https://orcid.org/0000-0003-0907-5714

Este artículo es una primera aproximación a la capacidad que podría tener ChatGPT para desempeñarse como una herramienta directamente utilizable en el trabajo jurídico de abogados y jueces. Para ello, intentamos determinar si ese chat conversacional muestra patrones de razonamiento en la resolución de situaciones conflictivas por me-dio de la aplicación de un test. Este consistió en caracterizar los elementos con los que la aplicación construyó sus respuestas frente a nueve problemas que le presentamos. Ese análisis nos permitió determinar que ChatGPT muestra un patrón de uso preferen-te de argumentos de tipo utilitarista, por encima de los de naturaleza deóntica. Asimismo, el análisis nos permitió determinar una escasa utilización por ChatGPT de argumentos jurídicos propiamente dichos. Ambos elementos (su orientación utilitarista y la ausencia de elementos jurídicos) nos permitieron concluir que ChatGPT está lejos aún de ser una herramienta directamente utilizable en el ejercicio de la abogacía y en el foro; sin embargo, por la forma en la que construyó los argumentos que produjo, cree-mos que la aplicación muestra un evidente potencial para ser usado en funciones de sistematización del ordenamiento jurídico.

Palabras clave
ChatGPT, inteligencia artificial, dilema ético, deontología, utilitarismo, consecuencialismo

Article Details

Cómo citar
Navarro-Dolmestch, Roberto; Fuentes-Loureiro, María-Ángeles. «Una aproximación a ChatGPT como herramienta jurídica: sesgos, capacidades y utilidades futuras». IDP. Revista de Internet, Derecho y Política, 2023, n.º 39, pp. 1-16, doi:10.7238/idp.v0i39.417024.
Derechos
Creative Commons License

Esta obra está bajo una licencia Creative Commons Reconocimiento-SinObraDerivada 3.0 Unported.

(c) Roberto Navarro-Dolmestch, María-Ángeles Fuentes-Loureiro, 2023


Derechos de autor

Los contenidos publicados en IDP están bajo una licencia de Reconocimiento-Sin obras derivadas 3.0 España de Creative Commons, cuyo texto completo se puede consultar en http://creativecommons.org/licenses/by-nc-nd/3.0/es/deed.es. Así pues, se permite la copia, distribución y comunicación pública siempre y cuando se cite el autor del texto, la revista (IDP. Revista de Internet, Derecho y Política y la institución que los publica (UOC), tal como consta en la citación recomendada que aparece en cada artículo. No se pueden hacer obras derivadas.

Es responsabilidad de los autores obtener los permisos necesarios de las imágenes que estén sujetas a copyright.

 

Cesión de derechos de propiedad intelectual

El autor cede sin exclusiva a los editores de la revista los derechos de explotación (reproducción, distribución, comunicación pública y transformación) para explotar y comercializar la obra, entera o en parte, en todos los formatos y modalidades de explotación presentes o futuros, en todos los idiomas, por todo el periodo de vida de la obra y por todo el mundo.

El autor debe declarar que es el autor original de la obra. Los editores quedan, por lo tanto, exonerados de cualquier obligación o responsabilidad por cualquier acción legal que pueda suscitarse derivada de la obra depositada por la vulneración de derechos de terceros, sean de propiedad intelectual o industrial, de secreto comercial o cualquier otro.

Biografía del autor/a

Roberto Navarro-Dolmestch, Universidad Católica de Maule

Doctor en Derecho (2021) por la Universidad de A Coruña, en España, donde presentó su tesis De la legalidad penal a la juridicidad proporcional como criterio de limitación de la potestad punitiva (con sobresaliente cum laude). Es profesor adjunto de Derecho Penal en la Facultad de Ciencias Sociales y Económicas de la Universidad Católica del Maule, en Chile, y miembro del grupo de investigación Ecrim –Criminología, Psicología Jurídica y Justicia Penal en el Siglo XXI. Como su investigador responsable, actualmente ejecuta el proyecto de investigación Fondecyt-Iniciación Aplicación del Derecho Penal a la Inteligencia Artificial (N.º 11230216), financiado por la Agencia Nacional de Investigación y Desarrollo del Gobierno de Chile, en el que se enmarca la elaboración de este artículo. Asimismo, forma parte del proyecto de investigación La responsabilidad de la inteligencia artificial: un desafío para las ciencias penales (PID2020-112637RB-I00), financiado por el Programa Estatal de Fomento de la Investigación Científica y Técnica de Excelencia, Subprograma Estatal de Generación de Conocimiento, del Ministerio de Economía y Competitividad, de España.

María-Ángeles Fuentes-Loureiro, Universidade da Coruña

Doctora en Derecho (2020) por la Universidad de A Coruña, en España, donde presentó su tesis Legitimidad y contenido de la intervención penal en materia de residuos (con sobresaliente cum laude) y donde trabaja actualmente como profesora ayudante doctora en el área de Derecho Penal. Es miembro del grupo de investigación Ecrim –Criminología, Psicología Jurídica y Justicia Penal en el Siglo XXI. Su investigación previa se centra en cuestiones de criminología y victimología verde, delitos contra el medio ambiente, protección animal y corrupción en el ámbito medioambiental, urbanístico y de la contratación pública. Actualmente trabaja en el uso de herramientas algorítmicas y de inteligencia artificial en la lucha contra distintos tipos de criminalidad organizada en el marco de los proyectos La responsabilidad de la inteligencia artificial: un desafío para las ciencias penales (PID2020-112637RB-I00, financiado por el Programa Estatal de Fomento de la Investigación Científica y Técnica de Excelencia, Subprograma Estatal de Generación de Conocimiento, del Ministerio de Economía y Competitividad, de España) y Actuaciones colectivas y Derecho penal (PID2021-123213NB-I00), financiado por MCIN/AEI/10.13039/501100011033/ y FEDER Una manera de hacer Europa), en el marco de los cuales se ha elaborado este artículo.

Citas

ALARIE, B.; NIBLETT, A.; YOON, A. H. (2018). «How artificial intelligence will affect the practice of law». University of Toronto Law Journal, vol. 68, n,º 1, págs. 106-124. DOI https://doi.org/10.3138/utlj.2017-0052

ALEXY, R. (2019). Ensayos sobre la teoría de los principios y el juicio de proporcionalidad. Lima: Palestra.

ALEXY, R. (2021). «Constitutional rights, proportionality, and argumentation». En: J.-R. SIECKMANN (ed.). Proportionality, balancing, and rights. Robert Alexy’s theory of constitutional rights. Cham: Springer, págs. 1-10. DOI: https://doi.org/10.1007/978-3-030-77321-2_1

ALJANABI, M.; CHATGPT (2023). «ChatGPT: Future Directions and Open possibilities». Mesopotamian journal of Cybersecurity, vol. 2023, págs. 16-17. DOI https://doi.org/10.58496/MJCS/2023/003

ASHLEY, K. D. (2017). Artificial Intelligence and Legal Analytics. New tools for law practice in the digital age. Cambridge: Cambridge University Press. DOI: https://doi.org/10.1017/9781316761380

AYDIN, Ö.; KARAARSLAN, E. (2022). «OpenAI ChatGPT Generated Literature Review: Digital Twin in Healthcare». En: Ö. Aydın (ed.). Emerging Computer Technologies, n.º 2, págs. 22-31. İzmir Akademi Dernegi. DOI: https://doi.org/10.2139/ssrn.4308687

BANG, Y.; CAHYAWIJAYA, S.; LEE, N.; DAI, W.; SU, D.; WILIE, B.; LOVENIA, H.; JI, Z.; YU, T.; CHUNG, W.; DO, Q. V.; XU, Y.; FUNG, P. (2023). «A Multitask, Multilingual, Multimodal Evaluation of ChatGPT on Reasoning, Hallucination, and Interactivity». ArXiv. DOI: https://doi.org/10.48550/arXiv.2302.04023

BARNES, J. (1998). «El principio de proporcionalidad. Estudio preliminar». Cuadernos de Derecho Público, n.º 5, págs. 15-49.

BARTNECK, C.; LÜTGE, C.; WAGNER, A.; WELSH, S. (2021). An introduction to ethics in robotics and AI. Cham: Springer. DOI: https://doi.org/10.1007/978-3-030-51110-4

BÉRANGER, J. (2021). Societal Responsibility of Artificial Intelligence. Towards an Ethical and Eco-responsible AI. Londres-Hoboken: ISTE/Wiley.

BERNAL PULIDO, C. (2014). El principio de proporcionalidad y los derechos fundamentales. El principio de proporcionalidad como criterio para determinar el contenido de los derechos fundamentales vinculantes para el legislador. 4.ª edición. Bogotá: Universidad Externado de Colombia. DOI: https://doi.org/10.2307/j.ctv13vdfvn

BEU, D. S.; BUCKLEY, M. R.; HARVEY, M. G. (2003). «Ethical decision-making: a multidimensional construct». Business Ethics: A European Review, vol. 12, n.º 1, págs. 88-107. DOI: https://doi.org/10.1111/1467-8608.00308

BOMMARITO, M. J.; KATZ, D. M. (2022). «GPT Takes the Bar Exam». SSRN. DOI: https://doi.org/10.2139/ssrn.4314839

BORJI, A. (2023). «A Categorical Archive of ChatGPT Failures». Research Square. DOI: https://doi.org/10.21203/rs.3.rs-2895792/v1

CHACE, C. (2018). Artificial intelligence and the two singularities. Boca Raton: CRC Press.

DIGNUM, V. (2019). Responsible artificial intelligence. How to develop and use AI in a responsible way. Cham: Springer. DOI: https://doi.org/10.1007/978-3-030-30371-6

FARINA, M.; LAVAZZA, A. (2023). «ChatGPT in society: emerging issues». Frontiers in Artificial Intelligence, vol. 6, págs. 1-7. DOI https://doi.org/10.3389/frai.2023.1130913

FERRARA, E. (2023). «Should ChatGPT be Biased? Challenges and Risks of Bias in Large Language Models». ArXiv. DOI: https://doi.org/10.48550/arXiv.2304.03738

HAGENDORFF, T.; FABI, S.; KOSINSKI, M. (2023). «Human-like intuitive behavior and reasoning biases emerged in large language models but disappeared in ChatGPT». Nature Computational Science. n.º 3. págs. 833-838. DOI: https://doi.org/10.1038/s43588-023-00527-x

HALEEM, A.; JAVAID, M.; SINGH, R. P. (2022). «An era of ChatGPT as a significant futuristic support tool: A study on features, abilities, and challenges». BenchCouncil Transactions on Benchmarks, Standards and Evaluations, vol. 2, n.º 4, pág. 100089. DOI: https://doi.org/10.1016/j.tbench.2023.100089

KAPLAN, A.; HAENLEIN, M. (2020). «Rulers of the world, unite! The challenges and opportunities of artificial intelligence». Business Horizons, vol. 63, n.º 1, págs. 37-50. DOI: https://doi.org/10.1016/j.bushor.2019.09.003

KOCO’N, J.; CICHECKI, I.; KASZYCA, O.; KOCHANEK, M.; SZYDLO, D.; BARAN, J.; BIELANIEWICZ, J.; GRUZA, M.; JANZ, A.; KANCLERZ, K.; KOCO’N, A.; KOPTYRA, B.; MIELESZCZENKO-KOWSZEWICZ, W.; MILKOWSKI, P.; OLEKSY, M.; PIASECKI, M.; RADLI’NSKI, L.; WOJTASIK, K.; WO’ZNIAK, S.; KAZIENKO, P. (2023). «ChatGPT: Jack of all trades, master of none». Information Fusion, vol. 99, pág. 101861. DOI: https://doi.org/10.1016/j.inffus.2023.101861

LEITH, P.; HOEY, A. (1998). TheComputerised Lawyer. A Guide to the Use of Computers in the Legal Profession. 2.ª edición. Springer.

LI, W.; WU, W.; CHEN, M.; LIU, J.; XIAO, X.; WU, H. (2022). «Faithfulness in Natural Language Generation: A Systematic Survey of Analysis, Evaluation and Optimization Methods». ArXiv. DOI: https://doi.org/10.48550/arXiv.2203.05227

LILLO L., R. (2016). «El uso de nuevas tecnologías en el sistema judicial. Experiencias y precauciones». Biblioteca virtual CEJA [en línea]. Disponible en: https://biblioteca.cejamericas.org/bitstream/handle/2015/3868/ElUsodeNuevasTecnologiasenelSistemaJudicial_ExperienciasyPrecauciones.pdf?sequence=1&isAllowed=y

LOEVINGER, L. (1949). «Jurimetrics. The Next Step Forward». Minnesota Law Review, vol. 33, págs. 455-493.

LOEVINGER, L. (1963). «Jurimetrics: The Methodology of Legal Inquiry». Law and Contemporary Problems, vol. 28, n.º 1, págs. 5-35. DOI: https://doi.org/10.2307/1190721

MCGEE, R. W. (2023). «Is Chat Gpt Biased Against Conservatives? An Empirical Study». SSRN. DOI: https://doi.org/10.2139/ssrn.4359405

MIRÓ LLINARES, F. (2018). «Inteligencia Artificial y justicia penal: más allá de los resultados lesivos causados por robots». Revista de Derecho Penal y Criminología, n.º 20, págs. 87-130. DOI: https://doi.org/10.5944/rdpc.20.2018.26446

MOTOKI, F.; NETO, V. P.; RODRIGUES, V. (2023). «More human than human: measuring ChatGPT political bias». Public Choice. DOI: https://doi.org/10.1007/s11127-023-01097-2

MOYA GARCÍA, R. (2003). «Jurimetría, una breve aproximación». Jurimetría. Revista Chilena de Informática Jurídica, n.º 2, págs. 5-9. DOI: https://doi.org/10.5354/0717-9154.2003.10794

PERLMAN, A. (2022). «The implications of ChatGPT for legal services and society». SSRN. DOI: https://doi.org/10.2139/ssrn.4294197

RAY, P. P.; (2023). «ChatGPT: A comprehensive review on background, applications, key challenges, bias, ethics, limitations and future scope». Internet of Things and Cyber-Physical Systems, vol. 3, págs. 121-154. DOI: https://doi.org/10.1016/j.iotcps.2023.04.003

ROZADO, D. (2023). «The Political Biases of ChatGPT». Social Sciences, vol. 12, n.º 3. DOI: https://doi.org/10.3390/socsci12030148

RUTINOWSKI, J.; FRANKE, S.; ENDENDYK, J.; DORMUTH, I.; PAULY, M. (2023). «The Self-Perception and Political Biases of ChatGPT». ArXiv. DOI: https://doi.org/10.48550/arXiv.2304.07333

RYAN, J.W. (1968). «Jurimetrics». University of New Brunswick Law Journal, vol. 18, págs. 103-113.

SINGH, S.; RAMAKRISHNAN, N. (2023). «Is ChatGPT Biased? A Review». OSF Preprints. DOI: https://doi.org/10.31219/osf.io/9xkbu

TAN, J.; WESTERMANN, H.; BENYEKHLEF, K. (2023). «ChatGPT as an Artificial Lawyer?» En: L. K. BRANTING (ed.). Workshop on Artificial Intelligence for Access to Justice (AI4AJ 2023). Braga: CEUR Workshop Proceedings [en línea]. Disponible en: https://ceur-ws.org/Vol-3435/short2.pdf

URCHS, S.; THURNER, V.; ASSENMACHER, M.; HEUMANN, C.; THIEMICHEN, S. (2023). «How Prevalent is Gender Bias in ChatGPT? Exploring German and English ChatGPT Responses». arXiv. DOI: https://doi.org/10.48550/arXiv.2310.03031

VASWANI, A.; SHAZEER, N. M.; PARMAR, N.; USZKOREIT, J.; JONES, L.; GOMEZ, A. N.; KAISER, L.; POLOSUKHIN, I. (2017). «Attention is All you Need». ArXiv. DOI: https://doi.org/10.48550/arXiv.1706.03762

VERBEEK, P. P. (2009). «Cultivating Humanity: towards a Non-Humanist Ethics of Technology». En: J.K.B. OLSEN, E. SELINGER y S. RIIS (eds.). New Waves in Philosophy of Technology, págs. 241-263. Hampshire-Nueva York: Palgrave Macmillan. DOI: https://doi.org/10.1057/9780230227279_12

WALLACH, W.; VALLOR, S. (2020). «Moral Machines. From Value Alignment to Embodied Virtue». En: M. LIAO (ed.). Ethics of Artificial Intelligence, págs. 383-412. Nueva York: Oxford University Press. DOI: https://doi.org/10.1093/oso/9780190905033.003.0014

ZHOU, C.; LI, Q.; LI, C.; YU, J.; LIU, Y.; WANG, G.; ZHANG, K.; JI, C.; YAN, Q.; HE, L.; PENG, H.; LI, J.; WU, J.; LIU, Z.; XIE, P.; XIONG, C.; PEI, J.; YU, P. S.; SUN, L. (2023). «A Comprehensive Survey on Pretrained Foundation Models: A History from BERT to ChatGPT». ArXiv. DOI: https://doi.org/10.48550/arXiv.2302.09419

ZHOU, K. Z.; SANFILIPPO, M. R. (2023). «Public Perceptions of Gender Bias in Large Language Models: Cases of ChatGPT and Ernie». ArXiv. DOI: https://doi.org/10.48550/arXiv.2309.09120.

Artículos similares

1 2 3 4 5 6 7 > >> 

También puede {advancedSearchLink} para este artículo.