Deepfake i desinformació: què pot fer la llei sobre les notícies falses creades amb deepfake?
Article Sidebar
Main Article Content
Aquest article explora la relació entre deepfake i fake news a través de la lent de la llei. Es divideix en tres parts conceptuals principals: primer, s’endinsa en la base conceptual, després explora la relació entre la desinformació i el deepfake i, finalment, ofereix una visió general de la regulació rellevant en el context de continguts de notícies falses deepfake (en particular les tendències reguladores dels EUA, Europa i la Xina). El document presta especial atenció a la percepció legal de la desinformació en el context de la tecnologia deepfake, destacant els efectes socials i legals nocius involucrats. Es basa en una visió general de les regulacions nacionals i internacionals i de la literatura rellevant i inclou les solucions proposades pels autors a les controvèrsies generades per la desinformació deepfake.
Paraules clau:
Article Details
Aquesta obra està sota una llicència internacional Creative Commons Reconeixement-SenseObraDerivada 3.0.
(c) Gergely Ferenc Lendvai, Gergely Gosztonyi, 2024
Drets d'autor
Els continguts publicats a IDP estan subjectes a una llicència de Reconeixement-Sense obres derivades 3.0 Espanya de Creative Commons, el text complet de la qual es pot consultar a http://creativecommons.org/licenses/by-nd/3.0/es/deed.ca. Així, doncs, se'n permet la còpia, distribució i comunicació pública sempre que se citi l'autor del text, la revista i la institució que els publiquen (IDP. Revista d'Internet, Dret i Política i UOC), tal com consta en la citació recomanada inclosa a cada article. No se'n poden fer obres derivades.
És responsabilitat dels autors obtenir els permisos necessaris de les imatges que estiguin subjectes a copyright.
Cessió de drets de propietat intel·lectual
L’autor cedeix sense exclusiva als editors de la revista els drets d’explotació (reproducció, distribució, comunicació pública i transformació) per a explotar i comercialitzar l’obra, sencera o en part, en tots els formats i modalitats d’explotació presents o futurs, en tots els idiomes, per tot el període de vida de l’obra i per tot el món.
L'autor ha de declarar que és l’autor original de l’obra. Els editors queden, per tant, exonerats de qualsevol obligació o responsabilitat per qualsevol acció legal que es pugui suscitar derivada de l’obra dipositada per la vulneració de drets de tercers, siguin de propietat intel·lectual o industrial, de secret comercial o qualsevol altre.
Referències
CODE OF PRACTICE ON DISINFORMATION (2022). Comisión Europea [en línea]. Disponible en: https://digital-strategy.ec.europa.eu/en/library/2018-code-practice-disinformation
ALLEN, M. D. N. (2022). «Deepfake Fight: AI-Powered Disinformation and Perfidy Under the Geneva Conventions». Journal of Emerging Technologies, vol. 3, n.º 2, págs. 1-70. DOI: https://doi.org/10.2139/ssrn.3958426
ALLYN, B. (2022). «Deepfake Video of Zelenskyy Could Be ‘Tip of the Iceberg’ in Info War, Experts Warn». NPR, [en línea]. Disponible en: https://www.npr.org/2022/03/16/1087062648/deepfake-video-zelenskyy-experts-war-manipulation-ukraine-russia/. [Fecha de consulta: 6 de marzo de 2024].
ARCE, D. (2024) «Disinformation Strategies». Defence and Peace Economics, págs. 1-14. DOI: https://doi.org/10.1080/10242694.2024.2302236
CALIFORNIAN ELECTIONS CODE §20010 [en línea] Disponible en: https://ocvote.gov/apps/legtracker/elections-code/contents/.
CITRON, D. K.; CHESNEY, R. (2019). «Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security». California Law Review, n.º 107, págs. 1753-1820. DOI: https://doi.org/10.2139/ssrn.3213954
CÓDIGO ELECTORAL DE CALIFORNIA §20010. [en línea]. Disponible en: https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?sectionNum=20010.&nodeTreePath=22.1&lawCode=ELEC
COE, P. (2023). «Tackling online false information in the United Kingdom: The Online Safety Act 2023 and its disconnection from free speech law and theory». Journal of Media Law, vol. 15, n.º 2, págs. 213-242. DOI: https://doi.org/10.1080/17577632.2024.2316360
COLE, S. (2017). «AI-Assisted Fake Porn Is Here and We’re All Fucked». Vice, [en línea]. Disponible en: https://www.vice.com/en/article/gydydm/gal-gadot-fake-ai-porn/. [Fecha de consulta: 6 de marzo de 2024].
Communications Decency Act of 1996 (CDA), 47 U.S.C. § 230.
COVER, R. (2022). «Deepfake Culture: The Emergence of Audio-video Deception as an Object of Social Anxiety and Regulation». Continuum Journal of Media & Cultural Studies, n.º 36, págs. 609-621. DOI: https://doi.org/10.1080/10304312.2022.2084039
H.R.5586 - DEEPFAKES Accountability Act, 18th Congress (2023-2024), Introduced in House (20.09.2023)
DICKINSON, D. (2018). «Interview with Farnaz Fassihi». UN News, [en línea]. Disponible en: https://news.un.org/en/audio/2018/05/1008682/. [Fecha de consulta: 6 de marzo de 2024].
ESPALIÚ-BERDUD, C. (2022). «Legal and criminal prosecution of disinformation in Spain in the context of the European Union». Profesional De La información The Information Professional, vol. 31, n.º 3, págs. 1-14. DOI: https://doi.org/10.3145/epi.2022.may.22
ESPALIÚ-BERDUD, C. (2023). «Use of disinformation as a weapon in contemporary international relations: accountability for Russian actions against states and international organizations». Profesional De La información The Information Professional, vol. 32, no. 4, págs. 1-19. ¬DOI: https://doi.org/10.3145/epi.2023.jul.02
ESPALIÚ-BERDUD, C. (2024). «The EU Code of Practice on Disinformation: An Example of the Self-Regulatory Trend in International and European Law». VISUAL REVIEW – International Visual Culture Review Revista Internacional De Cultura Visual, vol. 16, n.º 2, págs. 95-109. DOI: https://doi.org/10.62161/revvisual.v16.5217
FALLIS, D. (2015). «What Is Disinformation?». Library Trends, vol. 63, n.º 3, págs. 401-426. DOI: https://doi.org/10.1353/lib.2015.0014
FATHAIGH, R.Ó.; HELBERGER, N.; APPELMAN, N. (2021). «The Perils of Legally Defining Disinformation». Internet Policy Review, vol. 10, n.º 4, págs. 1-25. DOI: https://doi.org/10.14763/2021.4.1584
FERRARO, M. F. (2019). «Deepfake Legislation: A Nationwide Survey – State and Federal Lawmakers Consider Legislation to Regulate Manipulated Media». WilmerHale report, 2019.
GAMBÍN, N. F.; YAZIDI, A.; VASILAKOS, A.; HAUGERUD, H.; DJENOURI, Y. (2024). «Deepfakes: current and future trends». Artificial Intelligence Review, vol. 57, n.º 3. DOI: https://doi.org/10.1007/s10462-023-10679-x
GORWA, R. (2019). «The Platform Governance Triangle: Conceptualising the Informal Regulation of Online Content». Internet Policy Review, n.º 8, págs. 1-20. DOI: https://doi.org/10.14763/2019.2.1407
GOSZTONYI, G. (2023). Censorship from Plato to Social Media. The Complexity of Social Media’s Content Regulation and Moderation Practices. Cham: Springer Nature Switzerland AG. DOI: https://doi.org/10.1007/978-3-031-46529-1
G7 (2023). «Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI system». Comisión Europea [en línea]. Disponible en: https://digital-strategy.ec.europa.eu/en/library/hiroshima-process-international-guiding-principles-advanced-ai-system
HAO, K. (2021). «Deepfake Porn is Ruining Women’s Lives. Now the Law May Finally Ban it». MIT Technology Review [en línea]. Disponible en: https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/. [Fecha de consulta: 6 de marzo de 2024].
HINE, E.; FLORIDI, L. (2022). «New deepfake regulations in China are a tool for social stability, but at what cost?». Nature Machine Intelligence, n.º 4, págs. 608-610. DOI: https://doi.org/10.1038/s42256-022-00513-4
HUSA, J. (2022). «Interdisciplinary comparative law: Rubbing shoulders with the neighbours or standing alone in a crowd». Internet Policy Review, n.º 8, págs. 1_20. DOI: https://doi.org/10.14763/2019.2.1407
HB 2678, SB 1736 2019, LIS [en línea]. Disponible en: https://lis.virginia.gov/cgi-bin/legp604.exe?191+sum+HB2678
HB 2678 VA 2019, LIS [en línea]. Disponible en: https://lis.virginia.gov/cgi-bin/legp604.exe?191+sum+SB1736 DOI: https://doi.org/10.1007/s40278-019-57084-4
H.R. 3230 § 1041, Congress.gov [en línea]. Disponible en: https://www.congress.gov/bill/116th-congress/house-bill/3230
H.R. 3230 § 1041(n)(3), Congress.gov [en línea]. Disponible en: https://www.congress.gov/bill/116th-congress/house-bill/3230
INTERESSE, G. (2022). «China to Regulate Deep Synthesis (Deepfake) Technology Starting 2023». China Briefing, [en línea]. Disponible en: https://www.china-briefing.com/news/china-to-regulate-deep-synthesis-deep-fake-technology-starting-january-2023/. [Fecha de consulta: 25 de mayo de 2024].
IPSOS (2022). «Internet Users’ Trust in the Internet Has Dropped Significantly Since 2019». Ipsos, [en línea]. Disponible en: https://www.ipsos.com/en/trust-in-the-internet-2022/. [Fecha de consulta: 6 de marzo de 2024].
JOHNSON, T. (2023). «Joe Biden Talks About Watching An AI Generated Deepfake Of Himself: “I Said, When The Hell Did I Say That?”». Deadline, [en línea]. Disponible en: https://deadline.com/2023/10/ai-joe-biden-executive-order-1235586979/. [Fecha de consulta: 6 de marzo de 2024].
Joint Declaration of the UN, OSCE, OAS and ACHPR (2019), [en línea]. Disponible en: https://www.osce.org/files/f/documents/9/c/425282.pdf
LENDVAI, G. F. (2023). «Deepfake a szólásszabadság tükrében: Reflexiók a jog perspektívájából». En: Deepfake: a valótlan valóság, págs. 121-138. Budapest: Gondolat Kiadó,
LEVAK, T. (2021). «Disinformation in the new media system – Characteristics, forms, reasons for its dissemination and potential means of tackling the issue». Medijska Istraživanja, vol. 26, n.º 2, págs. 29-58. DOI: https://doi.org/10.22572/mi.26.2.2
Ley de Servicio de Información por Internet Reglamento de Tecnológía de Síntesis Profunda (国家互联网信息办公室等三部门发布《互联网信息服务深度合成管理规定, 11.12.2022, CAC [en línea]. Disponible en: https://www.cac.gov.cn/2022-12/11/c_1672221949318230.htm
MASOOD, M. et al. (2022). «Deepfakes Generation and Detection: State-of-the-art, Open Challenges, Countermeasures, and Way Forward». Applied Intelligence, n.º 53, págs. 1-53. DOI: https://doi.org/10.1007/s10489-022-03766-z
NACIONES UNIDAS (2023). Governing AI for Humanity. Informe de Diciembre de 2023 [en línea]. Disponible en: https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pdf
Online Safety Act 2023 (Ley de Seguridad en Línea de 2023), UK Public General Acts, 2023.c.50., 26.10.2023.
PANTSEREV, K. A. (2020). «The Malicious Use of AI-Based Deepfake Technology as the New Threat to Psychological Security and Political Stability». En: Cyber Defence in the Age of AI, Smart Societies and Augmented Humanity, págs. 47-48. Cham: Springer Nature Switzerland AG. DOI: https://doi.org/10.1007/978-3-030-35746-7_3
PARLAMENTO EUROPEO (2024). «Corrección de errores del Reglamento de Inteligencia Artificial» [en línea]. Disponible en: https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138-FNL-COR01_ES.pdf. [Fecha de consulta: 24 de mayo de 2024].
PREM, B. (2020). «The False Promise of Multi-stakeholder Governance: Depoliticising Private Military and Security Companies». Global Society, n.º 35, págs. 149-170. DOI: https://doi.org/10.1080/13600826.2020.1791055
RANKIN, J. (2018). «Viktor Orbán: Re-election of Hungary’s Anti-immigrant Leader is Major Challenge for EU». The Guardian, [en línea]. Disponible en: https://www.theguardian.com/world/2018/apr/09/viktor-orban-re-election-hungarys-anti-immigrant-leader-major-challenge-for-eu/. [Fecha de consulta: 6 de marzo de 2024].
RAY, A. (2021). «Disinformation, Deepfakes and Democracies: The Need for Legislative Reform». UNSW Law Journal, n.º 44, págs. 983-1013. DOI: https://doi.org/10.53637/DELS2700
Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo de 19 de octubre de 2022 relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales) (El DSA), PE/30/2022/REV/1, OJ L 277, 27/10/2022, págs. 1-102.
Proquesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican determinados actos legislativos de la unión (Ley de Inteligencia Artificial, en lo sucesivo: LIA), COM/2021/206 final (21.4.2021)
SATARINO, A.; MOZUR, P. (2023). «The People on Screen are Fake. The Disinformation is Real». The New York Times, [en línea]. Disponible en: https://www.nytimes.com/2023/02/07/technology/artificial-intelligence-training-deepfake.html. [Fecha de consulta: 6 de marzo de 2024].
SPINA, E.L. (2024). «Between the Need and the Purpose of Comparing in Legal Research. Reflections on its Methodological Approach». Anales de la Cátedra Francisco Suarez, n.º 58, págs. 47-71. DOI: https://doi.org/10.30827/acfs.v58i.28723
STRICKLAND, E. (2023). «What You Need to Know About Biden’s Sweeping AI Order». IEEE Spectrum, [en línea]. Disponible en: https://spectrum.ieee.org/biden-ai-executive-order. [Fecha de consulta: 24 de mayo de 2024].
TURILLAZZI, A.; TADDEO, M.; FLORIDI, L.; CASOLARI, F. (2023). «The Digital Services Act: An Analysis of Its Ethical, Legal, and Social Implications». Law, Innovation and Technology, vol. 15, n.º 1, págs. 83-106. DOI: https://doi.org/10.1080/17579961.2023.2184136
Unlawful Dissemination or Sale of Images of Another Person Act, Code of Virginia, 2019, cc. 490, 515.
VACCARI, C.; ANDREW, C. (2020). «Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News». Social Media + Society, n.º 6, págs. 1-13. DOI: https://doi.org/10.1177/2056305120903408
VAN DER SLOOT, B.; WAGENSVELD, Y. (2022). «Deepfakes: Regulatory Challenges for the Synthetic Society». Computer Law & Security Review, n.º 46, págs. 1-15. DOI: https://doi.org/10.1016/j.clsr.2022.105716
VESZELSZKI, Á. (2022). «A tudományos influencerektől a deepfake-ig. A legújabb tudománykommunikációs lehetőségek». Filológia, n.º 13, págs. 27-39.