La Máquina de Bartleby: explorar la desobediencia creativa en los ordenadores

La idea de máquinas desobedientes se desarrolla desde la perspectiva de los desarrollos históricos y actuales en inteligencia artificial (IA). La desobediencia se utiliza a menudo en arte y tecnología como tema y herramienta. Más allá de eso, la desobediencia se presenta como una de las habilidades indispensables para la inteligencia natural. El artículo no profundiza en el uso de las IAs como herramienta de ayuda para la creación. En su lugar, especula si las IA permitirán la aparición de un creador artificial independiente y autónomo. Se presentan diferentes enfoques de IAs, desde el simbolismo hasta el emergismo. Se describen las ventajas de los modelos de aprendizaje automático, así como sus limitaciones, como la incapacidad de generar avances fuera de sus datos de entrenamiento, su determinismo y la incapacidad de usar analogías para resolver problemas inesperados. Otras habilidades humanas (o biológicas) que faltan, presentes en el arte, son la emoción, la producción sin objetivos y la agencia, lo que es un problema incluso cuando se estudia la voluntad humana. Los límites del formalismo computacional son como los límites del razonamiento matemático: siempre requieren algunas reglas externas, o axiomas probados, como la prueba de Gödel. La teoría de la conciencia de Hofsdtader propone una forma de conciliar el hecho de que la creatividad humana también se basa en reglas biológicas cerradas y fijas. Por último, se argumenta que una máquina no puede ser creativa a menos que también pueda desobedecer. Sin embargo, los ordenadores deben seguir un conjunto de instrucciones o dejan de funcionar, es decir, la definición de una máquina de Turing. Por lo tanto, debemos enfrentarnos a la paradoja de querer sistemas obedientes, con las limitaciones de las máquinas simbólicas, al tiempo que exigimos resultados más autónomos y creativos. Es primordial explorar los comportamientos erróneos algorítmicos que podrían eludir esta paradoja para el desarrollo adicional de IAs para las artes y la sociedad en general.