Outside in: exile at home, un sistema de discriminació algorítmica

Outside in és una instal·lació que utilitza l’aprenentatge automàtic per reflexionar sobre la discriminació sistemàtica, ja que se centra en la detenció indiscriminada de mexicans amb herència japonesa concentrada a Morelos durant la Segona Guerra Mundial. Aquest sistema de discriminació algorítmica «trosseja» contínuament quatre pel·lícules clàssiques de ficció en una sala de projecció. Els fragments es desplacen i classifiquen utilitzant algorismes d’aprenentatge automàtic. El sistema selecciona, separa i torna a muntar els fragments en un nou ordre. Vol reflectir la sensació de ser despullats del nostre dret a estar al lloc que ens pertany. Els ciutadans detinguts durant la Segona Guerra Mundial van ser trets de casa seva, les seves pertinences van ser confiscades i se’ls va recloure únicament per tenir ascendència japonesa. I ara, quasi de la mateixa manera, les empreses de recuperació de dades realitzen representacions en baixa resolució de nosaltres mateixos partint dels enderrocs digitals que se’ns arrabassa de la nostra vida quotidiana. Aquestes peces es reconfiguren en arquetips i se’ls assigna un significat per a la presa de decisions massives. No tenim el dret o els mitjans per saber com són aquestes representacions o quin significat s’ha assignat a aquestes formes. És un privilegi reservat als dissenyadors dels processos algorítmics: ells són amos d’aquest dret i nosaltres, els ciutadans, som amos de les conseqüències. Aquest article és un estudi de cas que presenta la creació d’Outside in: exile at home com una instal·lació que utilitza l’aprenentatge automàtic i reflexiona sobre aquest tipus de discriminació sistemàtica.