Marc per aplicar sistemàticament l'ètica humanista quan s'utilitza la IA com a material de disseny

Article Sidebar

Temes de Disseny #35 - Intel·ligència Artificial i Tecnologies Digitals Emergents com a Material de Disseny
PDF (ENG + CAT + ES) (English)

Main Article Content

Kyle Dent
Palo Alto Research Center
Richelle Dumond
Palo Alto Research Center
Mike Kuniavsky
Palo Alto Research Center

Els sistemes d'aprenentatge automàtic i d'IA cada vegada adquireixen més capacitats i s'utilitzen en més àmbits. I nosaltres, com a dissenyadors, creadors i investigadors, hem de tenir en compte les implicacions del seu ús, tant les positives com les negatives. En vista del que acabem d'exposar, els investigadors del Palo Alto Research Center (PARC) reconeixen que no es pot abaixar la guàrdia davant el dany que la intel·ligència artificial pot provocar en forma de discriminació intencionada o inadvertida, tracte injust o lesions que es poden infligir a persones o grups de persones. Com que els processos de decisió autònoms i emparats per IA podrien comportar efectes personals, socials i mediambientals negatius generalitzats, ens proposem adoptar una posició proactiva de defensa dels drets humans, de respecte de la intimitat dels individus, de protecció de la informació personal i de foment de la llibertat d'expressió i de la igualtat.


La tecnologia no és neutral per naturalesa i reflecteix les decisions i les concessions dels dissenyadors, els investigadors i els enginyers que la creen i la utilitzen en la seva feina. Els conjunts de dades sovint reflecteixen distorsions històriques. Les tecnologies d'IA que contracten persones, n’avaluen el rendiment laboral, proporcionen atenció sanitària i imposen multes són exemples evidents de possibles àmbits en què es poden produir errors sistemàtics en els algoritmes que donin lloc a un tracte injust. Gairebé tota la tecnologia inclou concessions i encarna els valors i els judicis de les persones que l'han creat. Per això és imprescindible que els investigadors siguin conscients dels judicis de valor que fan i que siguin clars pel que fa al cas amb totes les parts implicades.

Paraules clau
ètica, tecnologia i societat, disseny amb IA

Article Details

Com citar
Dent, Kyle et al. “Marc per aplicar sistemàticament l’ètica humanista quan s’utilitza la IA com a material de disseny”. Temes de Disseny, no. 35, pp. 178-97, doi:10.46467/TdD35.2019.178-197.
Biografies de l'autor/a

Kyle Dent, Palo Alto Research Center

Kyle Dent, investigador en IA i analista de dades, centra la seva feina en la interacció entre persones i tecnologia. Des del seu càrrec de director del grup CHAT dirigeix projectes d'R+D i és copresident de la Comissió d'Ètica d'IA.

Està especialitzat en tecnologia i societat, consideracions ètiques de la IA i de l’aprenentatge automàtic, assistents virtuals i processament de llenguatge natural, anàlisi de textos, extracció d'informació, anàlisi de dades i sistemes complexos.

Richelle Dumond, Palo Alto Research Center

Richelle Dumond és investigadora i dissenyadora d'experiència d'usuari a Innovation Services Group. Treballa en una gran varietat de projectes que van des de solucions en el camp de la salut fins al futur de l’ocupació, combinant les noves tecnologies inventades al PARC (Palo Alto Research Center) amb els coneixements centrats en la persona. És copresidenta de la Comissió d'Ètica d'IA del PARC, que ha rebut una beca de l'AIJ per impulsar la investigació en IA.

Abans d'entrar al PARC, la Richelle va treballar per a Simon Dogger, un dissenyador la pèrdua de visió del qual no li ha impedit continuar creant. Com a voluntària del Bureau of Fearless Ideas de Seattle, la Richelle va ajudar joves a desenvolupar les seves capacitats creatives i de redacció, i va col·laborar amb l'Space Travel Supply Company.

La Richelle va guanyar el premi de disseny Louis G. Marsh al millor investigador, amb el qual va obtenir el màster en Disseny d'Interacció de la Universitat de Washington. Té una llicenciatura de Disseny en l'especialitat de Disseny en Comunicació per la Design Academy d'Eindhoven, a la seva Holanda natal.

Mike Kuniavsky, Palo Alto Research Center

Mike Kuniavsky és creador, investigador i dissenyador d'experiències d'usuari. Amb vint anys d'experiència en desenvolupament de productes digitals, el Mike dissenya productes, processos de negoci i serveis a l'avantguarda del canvi tecnològic.

Abans d'entrar al PARC, va ser un dels fundadors de diverses empreses dedicades a les experiències d'usuari, com ara ThingM, que dissenya i fabrica productes omnipresents d'informàtica i productes d'internet de les coses, i Adaptive Path, una coneguda assessoria de disseny. Està especialitzat en interaccions entre múltiples dispositius, en disseny de serveis en núvol i en disseny de productes de hardware connectats a serveis en núvol. Al llarg de la seva carrera ha treballat en anàlisi de xarxes socials, electrònica de consum, dispositius, recuperació d'imatges, LED RGB i serveis financers.

Ha treballat amb algunes de les principals empreses tecnològiques del món, com ara Samsung, Sony, Nokia, Whirlpool i Qualcomm, per a les quals ha dissenyat nous productes, ha coordinat estratègies de producte i ha creat una cultura de disseny i desenvolupament centrada en l'usuari.

És autor d'Observing the User Experience: A Practitioner's Guide to User Research i Smart Things: Ubiquitous Computing User Experience Design, que s'utilitzen habitualment com a llibres de text a unes quantes universitats. Va obtenir una doble llicenciatura en Informàtica i Estudis de Vídeo de la Universitat de Michigan.
Referències

Belmont. 1979. Belmont Report: Ethical principles and guidelines for the protection of human subjects of research. accessed December 20, 2018, http://hhs.gov/ohrp/humansubjects/guidance/belmont.html, National Commission for the Protection of Human Subjects of Biomedical and Behavioral Research.

Dent, Kyle. 2018. "Ethical Considerations for AI Researchers." AAAI 2018 Spring Symposium on AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents . Standford, CA: Association for the Advancement of Artificial Intelligence.

Economist. 2017. "Keeping a straight face." The Economist, September 9: 72-73.

FAT/ML. n.d. Principles for Accountable Algorithms and a Social Impact Statement for Algorithms. Accessed December 20, 2018. http://www.fatml.org/resources/principles-for-accountable-algorithms.

Floridi, Luciano, Josh Cowls, Monica Beltrametti, Raja Chatila, Patrice Chazerand, Virginia Dignum, Chistoph Luetge, et al. 2018. "AI4People-An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations." Minds and Machines 689-707.

Google LLC. 2018. AI at Google: our principles. June 07. Accessed December 21, 2018. https://www.blog.google/technology/ai/ai-principles/.

Habib, Kareem. 2017. PE 16-007 Automatic vehicle control systems. Accident Investigation, National Highway Traffic Safety Administration.

Hagendorff, Thilo. 2019. "The Ethics of Ethics: An Evaluation of Guidelines." CoRR 2.

Marshall, Aarian, and Alex Davies. 2018. "Uber's Self-Driving Car Saw the Woman It Killed, Report Says." Wired. 05 24. Accessed 04 05, 2019. https://www.wired.com/story/uber-self-driving-crash-arizona-ntsb-report/.

McNamara, Andrew, Justin Smith, and Emerson Murphy-Hill. 2018. "Does ACM’s code of ethics change ethical decision making in software development?" Proceedings of the 2018 26th ACM Joint Meeting on European Software Engineering Conference and Symposium on the Foundations of Software Engineering. Lake Buena Vista, Florida: Association for Computing Machinery. 729-733.

Microsoft Corporation. n.d. Microsoft Design. Accessed January 16, 2019. https://www.microsoft.com/design/inclusive/.

Monteiro, Mike. 2017. A Designer's Code of Ethics. July 10. Accessed January 16, 2018. https://muledesign.com/2017/07/a-designers-code-of-ethics.

O'Neill, Cathy. 2016. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown Publishing Group.

Rawls, John. 1999. A Theory of Justice. 2. Belknap Press: An Imprint of Harvard University Press.

Sanger, David E, and Nicole Perlroth. 2016. "A New Era of Internet Attacks Powered by Everyday Devices." The New York Times, October 16: accessed December 20, 2018, https://www.nytimes.com/2016/10/23/us/politics/a-new-era-of-internet-attacks-powered-by-everyday-devices.html.

Wakabayashi, Daisuke. 2018. "Self-Driving Uber Car Kills Pedestrian in Arizona, Where Robots Roam." The New York Times, March 19: accessed December 20, 2018, https://www.nytimes.com/2018/03/19/technology/uber-driverless-fatality.html .

Williams, Andrew B. 2018. "The Potential Social Impact of the Artificial Intelligence Divide." AAAI 2018 Spring Symposium on AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents . Stanford, CA: Association for the Advancement of Artificial Intelligence.