En este artículo, Sofía Sienra llama la atención a ver de una manera crítica al advenimiento de Inteligencia Artificial y el Machine Learning, cuya naturaleza no es neutral ni despolitizada. Una invitación a desmontar las máquinas algorítmicas y hackearlas desde su entendimiento y desde nuestra situación de ciudadanos.
El pensamiento mágico en el siglo XXI
Toda tecnología lo suficientemente avanzada es indiscernible de la magia.
Arthur Clarke
Un halo de misterio rodea nuestro presente tecnológico: algoritmos, cajas negras, redes neuronales, inteligencia artificial, aprendizaje profundo, datos masivos. Convivimos con una multiplicidad de procesos automatizados que escapan al entendimiento ya no solo de los usuarios, sino incluso de sus propios diseñadores.
Con la creciente tecnificación de la vida, parecería que nos encontramos ante un poder omnisciente, en tanto se expanden los procedimientos que permiten ejecutar tareas cada vez más complejas y delegar la toma de decisiones a los sistemas informáticos, devenidos en oráculos matemáticos.
La concepción de la tecnología como dimensión supra-humana, que rebasa los límites de nuestro entendimiento y que posee cierta inteligencia e independencia, orilla a una noción sobrenatural que nos podría hacer pensar, tal como menciona la videoartista Hito Steyerl, que: “La humanidad ha entrado en una nueva fase del pensamiento mágico” (2016: en línea). De ser cierto, valdría la pena explorar de dónde surgen y cuáles son las principales supersticiones contemporáneas, así como qué tipo de consecuencias traen consigo a nivel global.
En particular, el componente metafísico de la técnica se ve reforzado por una aparente desmaterialización asociada a las culturas digitales, donde el ciberespacio, los dispositivos inalámbricos y la instantaneidad comunicacional, nos remiten a una realidad intangible, desvinculada de leyes, soportes o factores materiales y humanos.
De modo que nos referimos a la ‘nube’ para dar forma a la organización de las numerosas transacciones informáticas que suceden a cada instante, aunque la metáfora parece quedar corta frente la magnitud del fenómeno: Hoy podemos hablar no solo de la nube, sino del ‘universo digital’ en expansión, el cual está compuesto de 40 veces más bytes que de estrellas en el universo observable.[1]
No obstante, las imágenes etéreas de la nube y del cosmos digital se cruzan de repente con la materialidad de los 1.2 mil millones de kilómetros de cables submarinos que llevan y traen información a la velocidad de la luz. Recibir o enviar un mensaje, tener activada la geolocalización y el 4G no solo requieren de dispositivos y de cantidades considerables de energía con su correspondiente huella de carbono, sino que implican inmensas travesías transocéanicas por circuitos de aluminio y fibra óptica que surcan las profundidades del planeta.[2]
En definitiva, la dimensión virtual, numérica y abstracta de nuestros entornos computarizados, contribuye a formar una imagen aséptica y autónoma de su funcionamiento, que suele pasar por alto factores geopolíticos, económicos, sociales y ecológicos asociados a su operación, no exentos de dinámicas de explotación y despojo, convenientemente olvidadas.
Los materialismos digitales propician enfoques de análisis complejos, donde las condiciones de existencia y las relaciones sociales que se despliegan en torno a la extracción de minerales, son parte del fenómeno tecnológico. Como dice Baruch Gottlieb, más allá de la igualdad y libertad que acompañaría el progreso técnico, existe: “la subyugación disciplinada y ordenada de generaciones enteras de trabajadores y sus familias, subordinadas a proporcionar un papel de abastecimiento en la gloriosa embestida del progreso tecnológico” (Gottlieb, 2018: pos 95).
Por tanto, resulta limitado aproximarnos a los fenómenos de la digitalidad contemporánea sin observar el sustrato material y la matriz de dominación que conlleva y promueve, sobre todo si nos ubicamos en zonas marcadas por el ‘subdesarrollo’, ahora concebido en función del rezago de conectividad y de la dependencia tecnológica.
El activista Julian Assange argumenta la relevancia de observar la infraestructura de internet, principalmente por la vulneración de derechos que el espionaje y el control comunicacional suponen para América Latina y otros países del sur global, en tanto: “No es secreto que, en lo referente a internet y a las comunicaciones telefónicas, todos los caminos desde y hacia América Latina pasan por Estados Unidos” (Assange, 2013: 10) lo cual repercute en la soberanía de los países de nuestro continente.
Otro aspecto central para contrarrestar los misticismos imbricados con las culturas digitales, estaría en el cuestionamiento en torno a lo que términos como ‘técnica’ y ‘tecnología’ abarcan, para ensanchar su campo semántico más allá de las referencias orientadas hacia la innovación y el progreso.
El exploratorio argentino de poéticas-políticas tecnológicas proclama en su manifiesto la adopción de “una noción ampliada de técnica, que no sólo se identifica con un repertorio de artefactos, métodos, mecanismos y máquinas, sino que implica nuevas dimensiones de intervención planificadora e instrumentalizadora de lo viviente: tecnologías políticas, tecnologías institucionales, tecnologías sociales, tecnologías de la subjetividad” (Colectivo Ludión, 2011: en línea).
En esta misma dirección se ubica la apuesta del Laboratorio de Tecnologías El Rule, en México: “Lo tecnológico precede a lo digital, son las tecnologías de los cuerpos, del lenguaje, de la vida que se construye colectivamente y nos permite abordarlo como posibilidad (…)” (2018, en línea).
En tanto ‘modos de hacer’ las tecnologías pueden aludir a performatividades, es decir, acciones puestas en marcha, independientemente de la existencia de aparatos. Ejemplo de ello son las “tecnologías de la palabra” o “tecnologías de la memoria”, que hacen énfasis en aquellos procedimientos presentes en tácticas, agenciamientos y desobediencias.
En síntesis, un acercamiento crítico del presente tecnológico requiere desmontar el misticismo maquínico –anclado en los paradigmas de inmaterialidad, objetividad, autonomía y neutralidad– que opera “suponiendo que los objetos técnicos no contienen realidad humana” (Simondon, 2007: 31).
Visión automatizada
La visión pierde relevancia y es reemplazada por la capacidad de filtrar, desencriptar y generar reconocimiento de patrones.
Hito Steyerl
Resulta paradigmático el trabajo del artista Trevor Paglen, quien se ha dedicado a investigar el estatuto de la visualidad en la era digital, en particular analizando las ‘imágenes invisibles’ que los algoritmos producen, interpretan y circulan entre ellas, generando lo que el artista llama “paisajes máquina a máquina” (Paglen, 2016: en línea).
Pero ¿Cómo perciben las máquinas? Esta imagen para nosotros borrosa y espectral, es la síntesis de la combinatoria de todas las imágenes existentes del filósofo descolonial Frantz Fanon, a las que se le elimina la información de aquello que no es distintivo de él. El resultado es una precisa e inmutable ‘firma facial’, esto es: “las cualidades únicas de un rostro determinadas por el software de reconocimiento biométrico, utilizada por la visión computarizada para identificar a un individuo” (Metro Pictures, 2017: en línea).
La recopilación de datos masivos se ha acelerado exponencialmente en los últimos años, y se utiliza para entrenar a sistemas automatizados que construyen perfiles y detectan patrones. La identificación biométrica, que se usa cotidianamente en el autoetiquetado de las fotografías para redes sociales, es también relevante en áreas orientadas a la seguridad y la vigilancia, susceptibles de ser implementadas por entidades públicas o privadas, en distintas estrategias de control social.
En este caso, se obtiene un modelo matemático (aquí traducido por Paglen para la visión humana) que identifica a una persona a lo largo del tiempo: “De esta manera, el reconocimiento que hace la máquina es independiente del contexto, ángulo y postura en el que el sujeto sea fotografiado en el futuro, pues ya asimiló y abstrajo una imagen generalizada de éste” (Moscoso y Valtierra, 2018: 6).
Siguiendo la reflexión del propio artista, es necesario reconocer la dimensión ideológica que se esconde en la tecnología: “Los sistemas máquina a máquina son instrumentos de poder extraordinariamente íntimos, que operan a través de una estética y una ideología de la objetividad (…) conforma una especie de hiperideología que es especialmente perniciosa precisamente porque alardea de objetividad e igualdad” (Paglen, 2016: en línea).
Las implicaciones de la expansión de los sistemas automatizados son vastas y en gran medida inexploradas, por fuera de su aplicabilidad comercial y su rédito económico. Por tanto, una mirada amplia que contemple aspectos éticos-estéticos en relación con diversos factores culturales y políticos resulta relevante para evidenciar los posibles abusos de poder, falacias y desigualdades que estos sistemas acarrean y agudizan, independientemente de su funcionamiento matemático.[3]
Poder algorítmico
Nuestros diferentes modos de pensar, sentir, producir, consumir y tomar decisiones, se estarían volviendo agrupables y comparables al convertirlos en algoritmos.
Néstor García Canclini
Existiría un proceso mediante el cual el cuerpo se transforma en dato y el comportamiento en estadística, cuya capacidad de registro, monitoreo y predicción se amplía al ritmo del crecimiento de los servidores y de la miniaturización de los dispositivos.
El actual desarrollo algorítmico parece orientarse hacia la predicción absoluta donde los pensamientos y emociones humanas serían mejor entendidas por la ciencia de los datos masivos que por los propios sujetos, llevando a la progresiva delegación de la toma de decisiones, de la gestión pública y personal. El filósofo Éric Sadin afirma que: “Son robots clarividentes que instauran y legitiman, por medio del aura de sus ‘conciencias sobreinformadas’ y ‘altamente racionalizadas’, una reciente y todavía discreta ‘soberanía digital’ (…)” (Sadin, 2018: 21).
En este escenario emerge el Dataísmo como sustento ideológico del renovado paradigma neoliberal, que apela a la datificación del mundo, de los cuerpos y de los afectos, mediante la instauración de un sistema imparcial y matemáticamente premonitorio, que según Byung-Chul Han “Conduce al totalitarismo digital” (Han, 2014: pos 622).
La confianza absoluta en las llamadas ‘inteligencias artificiales’ como instancias que garantizan lecturas objetivas de la realidad, y por tanto proporcionan soluciones óptimas ante cualquier problema, constituyen el germen de los tecnoentusiasmos acríticos que conciben las conflictividades sociales como meros asuntos técnicos.
En conclusión, las perspectivas tecnocráticas presuntamente despolitizadas, acarrean profundas contradicciones que requieren ser analizadas sin paranoias apocalípticas, sino desde un pensamiento situado que reconozca el lugar de la ciudadanía en una batalla aún en ciernes.
Desmontar las máquinas neutras requiere no temerles, sino abrirlas y ‘hackearlas’ para explorar sus potencias disrruptivas y emancipatorias en la construcción de alteridades, tanto presentes como futuras.
Referencias
Assange, Julian (2013) Cryptopunks. La libertad y el futuro de internet. Montevideo: Trilce. Disponible en: https://www.ufrgs.br/soft-livre-edu/arquivos/assange-criptopunks-la-libertad-y-el-futuro-de-internet.pdf
Colectivo Ludión (2011) “Manifiesto Ludión”. Disponible en: http://ludion.org/archivos/articulo/Manifiesto_Ludi%C3%B3n.pdf
García Canclini, Néstor (2019) Ciudadanos reemplazados por algoritmos. Wetzlar: Bielefeld University Press. Disponible en: http://www.calas.lat/sites/default/files/garcia_canclini.ciudadanos_reemplazados_por_algoritmos.pdf
Gottlieb, Baruch (2018) Digital Materialism. Origins, Philosophies, Prospects. Reino Unido: Emerald Publishing.
Han, Buyng-Chul (2014) Psicopolítica. Neoliberalismo y nuevas técnicas de poder. ePub: Titivillus.
Laboratorio de Tecnologías El Rule (2019) “Manifiesto”. Disponible en: https://laboratoriodetecnologias.mx/labtec/manifiesto/
Metro Pictures (2017) “Trevor Paglen: A Study of Invisible Images”. Disponible en: https://www.metropictures.com/exhibitions/trevor-paglen4/press-release
Moscoso, Manuela y Valtierra, Andrés (2018) Catálogo. Visiones de máquina de Trevor Paglen. México: Museo Tamayo. Información disponible: https://museotamayo.org/exhibition/visiones-de-m%C3%A1quina-trevor-paglen
Paglen, Trevor (2016) “Invisible Images “Your Pictures Are Looking at You”. The New Inquiry. Disponible en: https://thenewinquiry.com/invisible-images-your-pictures-are-looking-at-you/
Sadin, Éric (2018) La humanidad aumentada: la administración digital del mundo. Buenos Aires: Caja Negra Editora.
Simondon, Gilbert (2007) El modo de existencia de los objetos técnicos. Buenos Aires: Prometeo Libros. Introducción disponible en: http://laboreal.up.pt/files/articles/69_73_ES.pdf
Steyerl, Hito (2016) “A Sea of Data: Apophenia and Pattern (Mis-)Recognition”. Journal #72, E-flux. Disponible en:https://www.e-flux.com/journal/72/60480/a-sea-of-data-apophenia-and-pattern-mis-recognition/
[1] Esto es 44 Zettabytes (siendo un Zettabyte 1.000.000.000.000.000.000.000 bytes) Disponible en: https://ia-latam.com/2019/04/18/cuanta-data-se-genera-en-un-dia/
[2] Se puede acceder al monitoreo en tiempo real de las rutas, cantidad y propiedad de los cables a través de: https://www.submarinecablemap.com/
[3] Para profundizar sobre las desigualdades y sesgos en los algoritmos, ver el trabajo de Cathy O’Neil (2017) “La era de la fe ciega en los datos masivos ha de terminar”. Disponible en: https://www.ted.com/talks/cathy_o_neil_the_era_of_blind_faith_in_big_data_must_end?language=es
Sofía Sienra
(Montevideo, Uruguay) Actualmente es Doctoranda en Artes por el INBAL y docente en la Facultad de Artes en la UAEM. Sus campos de interés se centran los estudios visuales latinoamericanos, así como en los cruces entre estética, política y tecnología.