¿Es el marco legal de derechos humanos de la UE capaz de hacer frente a la IA discriminatoria?

Los desafíos introducidos por IA para el marco legal de la UE contra la discriminación han sido un tema ampliamente discutido entre la doctrina. A la luz del vigésimo aniversario de la Carta de los Derechos Fundamentales de la UE, la Comisión publicó una propuesta reglamentaria para abordar la IA. Este documento busca determinar si la propuesta aborda con éxito los escollos existentes del marco de la UE. En primer lugar, este documento explora el funcionamiento de los sistemas de inteligencia artificial que emplean técnicas de aprendizaje automático y determina cómo se produce la discriminación. En segundo lugar, el artículo examina los derechos de propiedad intelectual como una de las principales barreras para la rendición de cuentas y la reparación de las violaciones cometidas por un sistema de inteligencia artificial. En tercer lugar, se aborda el estado del debate sobre los escollos del actual enfoque de la UE hacia la no discriminación. La literatura académica disponible sugiere que los resultados discriminatorios producidos por una IA equivaldrán a discriminación indirecta en la mayoría de los escenarios. En este sentido, los casos de discriminación indirecta por proxy probablemente pasarán la prueba de proporcionalidad, lo que justificará el resultado discriminatorio. La última sección de este artículo estudia la propuesta reguladora de la Comisión. Aunque el documento parece abordar de manera efectiva la discriminación causada por conjuntos de datos de capacitación sesgados, este documento concluye que los derechos de propiedad intelectual y la discriminación por poder aún constituyen barreras significativas para la aplicación de la ley contra la discriminación.