Imagen portada: No.6-MADATACXI-Wen-Hao HUANG,Ting-Hao YEH藝術家黃文浩、葉廷皓「消逝—數位記憶 Fading Digital Memories」
8 de Noviembre de 2020. Ensayo Por Alexandra Gonzalez.
Lo cierto es que jamás me había planteado lo que significa el software en nuestra vida, y leer a Manovich sin duda ha sido muy enriquecedor aunque de difícil lectura para quienes nos estamos muy familiarizados, pero es curioso que pese a que toda nuestra vida ahora se ensambla con el software… somos bastante desconocedores de su funcionamiento y sus orígenes pese a lo importante que ha sido desde que se concibieron en su momento inicial en esos futuros que ya imaginaba Alan Kay. Manovich pone el software al mismo nivel de lo que supuso la electricidad o el motor de combustión en el inicio del siglo XX, cierto es que nadie imaginaria que debido a la electricidad y el motor de combustión tendríamos las sociedades que tenemos hoy día y sus ahora arterias que une al mundo y quizá, aun no llegamos a saber el alcance que aun puede tener el software para nuestro futuro y sin embargo, toda nuestra vida gira entorno a él.
Kay ofrece una especie de base que sirviera para que las personas, a partir de ellas, pudieran crear sus propias herramientas, que las personas pudieran programar. Se simularon medios preexistentes, que se pudieran editar y a la vez crear nuevos, se fomenta así la experimentación una constante re definición de medios, se combinan medios anteriores con nuevos que dan lugar otro medio nuevo y así sucesivamente dando lugar a una mezcla de constantes transformaciones. Manovich utiliza la metáfora de la evolución Darwinista, no en el sentido estricto del funcionamiento biológico, sino como una forma de acercar esa idea de creación y re-creación que crea nuevos medios y a la vez se siguen remezclando e hibridando dando lugar a mas medios. Teniendo en cuenta también que hay medios novedosos que no han dado lugar a mas medios y se han quedado en el olvido, no han sido “elegidos” al igual que en la evolución en la biología que por diferentes circunstancias se eligen unas vías de desarrollo y otras se extinguen, a ello, hay que tener en cuenta que es el software es lo que puede generar nuevos medios y las técnicas de autoría que desarrollan un software, y esto es generada por ideas de personas y/o empresas, por lo que nuestra visión de él también depende de ello y no es menos importante teniendo en cuenta como dice Manovich, que el software se ha convertido en nuestra interfaz del mundo y quizá debamos conocer mejor el software si es a través de él en el cual vivimos.
Como menciona Manovich: El software se ha convertido en nuestra interfaz con el mundo, con los demás, con nuestra memoria y nuestra imaginación: un lenguaje universal que el mundo emplea para hablar y un motor universal que propulsa el mundo. (Manovich, 2013, p. 16).
El software forma parte de nuestra cultura y sin duda lo hará en nuestro futuro por lo que todo lo que se estudie en nuestra sociedad contemporánea no puede hacerse de manera aislada del software, dado que este tiene efectos sobre todas las capas de nuestra sociedad.
Hay una reflexión que hace el profesor Chih-Yung Aaron Chiu como curador en la XI edición MADATAC: la “escritura” se transforma en un espacio de texto digital infinito, el habla se espacializa y el cuerpo autónomo del ser humano también se entrega a dispositivos digitales automáticos. De esta forma, hemos perdido nuestro pensamiento crítico reflexivo sobre el tecno-sistema construido por los seres humanos, en el que vivimos porque las intervenciones tecnológicas en la vida cotidiana se dan por supuestas.
Al final ¿Quién crea esa interfaz con el mundo como menciona Manovich? Pese a que usamos el software en nuestra vida común, somos bastante analfabetos de sus funcionamiento y dejamos que nuestra interfaz con el mundo la creen “otros” para nosotros (otros). Descubriendo un proyecto llamado Silicon Valet que en el periodo del inicio de la alarma Covid y sus restricciones sanitarias, realizaron una exhibición en línea llamada: Well Now WTF ? En un momento donde no había respuestas y solo había confusión, decidieron crear un proyecto virtual para unirse y liberarse de las noticias que provocaban ansiedad y los feeds banales de las redes sociales (Silicon Valet 2020). Algo muy curioso que desconocía es que realizan una critica y animan a los participantes a experimentar las limitaciones de la forma en la que los algoritmos circulan en la “black-box”, un sistema que desconocía.
El sistema “black-box” es un proceso algorítmico de aprendizaje automático opaco que no se sabe como funciona y es usado en inteligencia artificial. Este proceso de aprendizaje automático se vuelve muy complejo, sabes lo que entra y sale de esa “caja negra” pero no lo que pasa en el interior, es en esa capa intermedia donde se desconoce que procesos lógicos sigue.
¿En que nos afecta? Las agencias públicas responsables de áreas como la justicia penal, la salud y el bienestar utilizan cada vez más sistemas de puntuación y software para dirigir o tomar decisiones sobre eventos que cambian la vida, como la concesión de fianzas, sentencias, ejecución y priorización de servicios (Simonite 2017).
Leía mucho sobre las controversias del reconocimiento facial sin entender muy bien por qué, sin embargo, es ahora cuando lo he entendido mucho mejor. Querer introducir a la sociedad a este tipo de tecnologías amparándose en la seguridad de todos, al final, nos expone a que estos sistemas tomen decisiones de los que depende nuestra vida, aun sin saber como toma esa decisión y el peligro de tomarla como fidedigna, ya que algunos algoritmos pueden presentar sesgos.
Ya en 2015, unos de los algoritmos de Google etiquetó como gorilas a dos personas negras generando bastante controversia.
Hay un proyecto muy curioso que he descubierto dentro del proyecto Silicon Valet (mencionado mas arriba) El proyecto es: SQUIRRELING Facial Emotion Detection de Laura Hyunjhee Kim.
El vídeo muestra el fruto de una investigación sobre la manera en la que las ardillas se comunican, una muestra para aprender, como una colaboración entre especies, su modo de comunicar emociones y adaptarlas al humano para proteger nuestras emociones de no ser identificadas en reconocimientos faciales de emociones y conducta, ya que nuestras expresiones se están categorizando y mapeando universalmente, y esta sería una alternativa de comunicación que la identificación facial de emociones no podría detectar. ¡Es un vídeo muy curioso! Lejos de que pueda resultar algo «cómico», conviene pensar sobre ello para reflexionar hasta que punto tenemos poder de control sobre ciertos asuntos en los que deberíamos tener voz y conocimiento.
Teniendo en cuenta que cada vez mas gobiernos usan estas tecnologías para tomar decisiones importantes sobre la vida y tomar prioridades… ¿Quién está decidiendo por nosotros? La información sobre que tipo de sistemas utilizan, no llegan a la población.
ProPublica, una agencia de noticias independiente sin animo de lucro, en 2016, publicó una noticia sobre un sistema utilizado en sentencias que estaba sesgado en contra de las personas negras. En Wisconsin, en Junio de 2017, a un condenado por el tribunal se le denegó por la Corte Suprema su solicitud para conocer como funcionaba el programa COMPAS, herramienta que se utilizó para dictar su sentencia. COMPAS está desarrollado por una empresa privada con los derechos de la propiedad intelectual del algoritmo.
Prometea es un sistema que se usa en Buenos Aires para resolver casos de sencilla resolución en el que se interesó España el año pasado acudiendo a Buenos Aires para conocer este sistema, aunque por lo visto, no funciona como la “caja-negra” sino con un algoritmo abierto y trazable. En cualquier caso, y como menciona Lorena Jaume- Palasí, experta en ética y tecnología y fundadora de Algorithm Watch y The Ethical Tech Society, “Los promedios estadísticos dicen algo sobre los patrones de comportamiento común en un colectivo. No describen perfiles individuales y son incapaces de captar la singularidad del ser humano” (Berchi 2020).
Sepamos, o no, como opera un funcionamiento algorítmico, si sabemos quien realiza su «escritura», es decir, la ordenes y su codificación, y ese es un proceso humano, quien lo escribe y para que que se usa.
La realidad es que el impulso de la automatización está en manos de unos pocos y, para aprovechar algún tipo de acceso a los sistemas del mañana, es importante exigir transparencia, o al menos explicabilidad (Montgomery 2019).
Reflexionando sobre esta “escritura” del quien escribe un espacio para «otros», he descubierto el concepto “Computación decolonial”. No me voy a extender mas pero… creo que sirve para reflexionar sobre esa escritura del software que ensambla el mundo, y en este caso, si el software únicamente transforma bajo principios occidentales.
Openlab.Ec, es un laboratorio ciudadano en Ecuador que busca generar diálogos y experiencias relacionadas a la cultura digital, la participación ciudadana y el conocimiento abierto.
Antes no entendía muy bien la función del software libre, pero ahora sin duda, cobra muchísima fuerza su importancia.
Si el sistema imaginario de la humanidad ahora se expande por la industria del software, sería bueno pensar, como arterias acuíferas que riega y alimenta un territorio, como es el agua que riega los nuestros.
¿En que manos está nuestra interfaz con el mundo? ¿Generamos tecnología o mas bien somos usuarios de corporaciones? (Arainfo, Ramón 2013).
Espero no haberme ido mucho de tema pero me parecía interesante enfocarlo desde un punto de vista de esas interfaces con el mundo; desde la muestra de Madatac, desde los limites y reflexiones de la “black-box” y sus respuestas creativas como en el caso de Silicon Valet o SQUIRRELING Facial Emotion Detection, o desde la necesidad de «escribir» por uno mismo desde el software libre como proceso revolucionario contra la colonización bajo el concepto cuestionable de “desarrollo” ¿Para quien? Cuestionar esas interfaces actuales, algunos aspectos de ese “tecno-sistema” que tienen mucho que ver con el impacto en nuestra manera de vivir ahora y en el futuro.
Fuentes de información:
Anqwin, J., Larson, J., Mattu, S. and Kirchner, L., 2016. Machine Bias. [online] ProPublica.
Disponible en: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
(Arainfo, Ramón 2013)
Ramón Ramón, Militante Del Software Libre: “Hay Que Descolonizar La Tecnología”. [online] AraInfo · Diario Libre d’Aragón.
Disponible en: https://arainfo.org/ramon-ramon-militante-del-software-libre-hay-que-descolonizar-la-tecnologia/
(Berchi 2020)
Berchi, M., 2020.La Inteligencia Artificial Se Asoma A La Justicia Pero Despierta Dudas Éticas. [online] EL PAÍS RETINA. Disponible en: https://retina.elpais.com/retina/2020/03/03/innovacion/1583236735_793682.html
Madatac.es. 2020. FADING DIGITAL MEMORIES – RECUERDOS DIGITALES DESVANECIENDOSE – 受邀國 | | MADATAC XI. [online]
Disponible en: https://madatac.es/event/madatac-xi-instalaciones-new-media-art/
(Montgomery, 2019)
Montgomery, S., 2019. What’s In An Algorithm? The Problem Of The Black Box. Tufts Observer. [online] Tuftsobserver.org. Disponible en: https://tuftsobserver.org/whats-in-an-algorithm-the-problem-of-the-black-box/
Openlab.ec. 2020. Presentación | Openlabec. [online]
Disponible en: https://openlab.ec/presentacion
(Silicon Valet 2020)
Siliconvalet.org. 2020. Weel Now WTF?. [online]
Disponible en: https://www.siliconvalet.org/wellnowwtf
(Simonite, 2017)
Simonite, T., 2017AI Experts Want To End ‘Black Box’ Algorithms In Government. [online] Wired.
Disponible en: https://www.wired.com/story/ai-experts-want-to-end-black-box-algorithms-in-government/
Alexandra gr 