Una cartografía especulativa de la ecología material de la Inteligencia artificial.
Tunel de entrada en la Central Eléctrica de Mangahao. Shannon, New Zealand, 1921 | Leslie Adkin, Te Papa | Sin restricciones de uso conocidas
Mientras creemos en la idea de una IA como un recurso abundante y sin ninguna existencia física, nos enfrentamos a la evidencia y a las consecuencias de su materialidad. Nos preguntamos, sin embargo, hasta qué punto podemos entender la compleja red de agua, minerales, fuentes de energía, datos y mano de obra que conforman estos sistemas. Además de conocer sus efectos climáticos y nuestra responsabilidad hacia ellos.
> ¿Tienes sed, ChatGPT?
Mi dedo se detiene sobre la tecla intro. La investigación de la infraestructura material y del impacto medioambiental de la computación me ha sensibilizado con la absurdidad de someter estos sistemas técnicos inmensos, de alto consumo energético y casi completamente invisibles a un uso tan aparentemente frívolo, y el artículo que acabo de leer –«Making AI Less “Thirsty«», de Li Pengfei y colaboradores, que sugiere que una interacción con ChatGPT que oscile entre las veinte y las cincuenta preguntas consumirá quinientos mililitros de agua potable, dando lugar a la pregunta que acabo de teclear–, subraya, en mi opinión, esta ambivalencia. Sin embargo, mis hábitos se las ingenian para alcanzar mis dudas conscientes, tal y como atestigua el largo historial de chats previos en la barra lateral de ChatGPT. Es casi demasiado fácil preguntarle cualquier cosa que se me pase por la cabeza. Aprieto la tecla.
«Como inteligencia artificial, no tengo emociones, sensaciones físicas ni necesidades, por lo que no experimento sed ni ninguna otra condición humana. ¡Pero estoy aquí para ayudarte con cualquier pregunta o tarea que se te ocurra!».
La idea de que ChatGPT es un recurso abundante, inmaterial, sin existencia física pero siempre disponible para cualquier consulta que se me pueda ocurrir, que ya está arraigado en sus posibilidades y en mis hábitos de uso incipientes, se ve confirmada por su respuesta. Insisto:
> ¿De qué estás hecho, ChatGPT?
«¡Estoy hecho de código y datos! Básicamente, soy un algoritmo complejo que procesa y genera texto a partir de patrones y de información aprendida basándome en una gran cantidad de textos disponibles en internet. Mi “cerebro” está hecho de diversas técnicas de aprendizaje automático y redes neuronales que me ayudan a entender el lenguaje y a proporcionar respuestas».
> ¿Dónde estás, ChatGPT?
«Existo en el ámbito digital, resido en servidores y ordenadores, desde donde puedo acceder a la información e interactuar con usuarios como tú. Pero en un sentido más abstracto, podría decirse que estoy dondequiera que accedas a mí: ¡una página web, una aplicación o cualquier plataforma que me aloje!».
A cada paso, constato que ChatGPT insiste en su propia inmaterialidad, pero al mismo tiempo he estado leyendo trabajos empíricos que exponen con crudeza los numerosos y variados soportes materiales (y consecuencias materiales) de ChatGPT como tecnología. Esto me resulta significativo por dos razones.
La primera es que sospecho que no algo es del todo accidental. En un artículo reciente titulado «The uncontroversial ‘thing-ness’ of AI», Lucy Suchman, antropóloga de la tecnología y una de las fundadoras de la disciplina de la interacción persona-ordenador, identifica la forma en que el término «IA» funciona como un «significante flotante» que refuerza el poder sugestivo que le conferimos: la supuesta inmaterialidad de la «IA» es un factor que contribuye a la autoridad que atribuimos a su conocimiento.
La segunda es que, al comparar las propias declaraciones de ChatGPT con la investigación de Li y sus colaboradores, y las de muchos otros que rastrean la huella material de la IA, hemos hallado una controversia: por un lado, la insistencia en que las IA como ChatGPT carecen de existencia material; y por otro, la afirmación de que su existencia y sus consecuencias materiales son considerables, y tienen una importancia considerable. Las controversias, como nos enseña el trabajo del profesor de Estudios de Ciencia y Tecnología Tommaso Venturini, nos ofrecen oportunidades para aprender; son «las mejores ocasiones de que disponemos para observar el mundo social y su construcción». Así, la presencia de una controversia nos ofrece una oportunidad para entender mejor los aspectos sociomateriales ocultos de esta supuesta cosa, ChatGPT, que se presenta (y autodescribe) como algo incorpóreo, etéreo, incluso cuando abordamos la evidencia y las consecuencias de su propio soporte material.
En conjunto, estas dos oportunidades remiten a un doble propósito de este este tipo de investigación: la forma en que la materialidad de los sistemas de IA se entrelaza con sus cualidades epistémicas y epistemológicas, es decir, qué llega a «conocer» la máquina y cómo llega a «conocerlo», y las formas en que nosotros podemos llegar a conocerla a ella. El tipo de inteligencia específica que es la IA, y nuestras ideas sobre ella, se basan en su materialidad, que nos permite al mismo tiempo sondear los límites de nuestro conocimiento al respecto y de su conocimiento del mundo a través de nuestra investigación de su infraestructura material.
Podríamos decir que se trata de un enfoque ecológico del estudio de la IA. Y es ecológico en dos sentidos distintos. En primer lugar, nos interesa la ecología de la IA en términos de su impacto material en el medio ambiente. Pero también nos interesa la IA más como una ecología en sí misma (Matthew Fuller la describe como «una interrelación masiva y dinámica de procesos y objetos, de seres y cosas, de patrones y materia» que incluye tanto sus aspectos materiales como epistémicos y fenomenológicos), que como una cosa discreta, material o no.
Entonces, ¿qué cosas están incluidas en esta ecología material de ChatGPT? Esto es lo que los participantes del taller «Mentes, mentiras y materiales» y yo tratamos de descubrir una tarde de sábado en enero, mapeando las múltiples bases materiales de ChatGPT y las controversias que giran a su alrededor. Mediante la investigación y el cotejo de múltiples perspectivas (nuestra propia investigación con herramientas técnicas y métodos de investigación de código abierto, junto con estudios independientes publicados, anuncios oficiales de OpenAI y las declaraciones del propio ChatGPT), nos centramos en las fuentes de energía, agua, datos, mano de obra y minerales que conforman la «inteligencia» supuestamente incorpórea de ChatGPT. Esto nos permitió trazar sus fuentes, relaciones y movimientos. Para ello nos inspiramos en Cartografias da Internet y en el Atlas of AI de Kate Crawford, y durante todo el proceso contamos con la ayuda de los métodos de Anne Pasek para Getting into Fights with Data Centers.
Taller: Mentes, mentiras y materiales. CCCB, 2024 | CC BY-NC-SA Pau Fabregat
Se trataba de un ejercicio provisional, especulativo; no esperábamos resolver estas controversias de una manera u otra, sino sensibilizarnos, a través de un proceso de investigación abierto, con los numerosos aspectos materiales de la IA, empleando algo parecido a los métodos Rubber-Boots de la curiosidad, la colaboración y la descripción crítica (aunque, en esta ocasión, nuestros pies nunca abandonaron los suelos enmoquetados del CCCB).
Terminamos configurando un mapa, o, más bien, tres mapas superpuestos. El primero, fruto de nuestras propias investigaciones, consistía en una densa red procedente del agua de un embalse que abastece a un barrio muy poblado de las afueras de Dublín (cuyo uso excesivo por los centros de datos ya ha suscitado polémica), en la trabajo de anotadores de datos mal pagados en Kenia, en la red eléctrica irlandesa (que cuenta con dos centrales hidroeléctricas locales, pero que Microsoft planea ampliar con una central de gas especializada). Teóricamente eran datos extraídos de internet a nivel mundial, aunque lo cierto es que presentan un notable sesgo hacia las zonas anglófonas del Norte Global. El resto del mundo contribuía principalmente de una forma más tangible: níquel de Indonesia, cobalto de la República Democrática del Congo y litio de Chile que se combinan en fábricas de GPU (unidades de procesamiento de gráficos) en Taiwán y que acaban como chatarra electrónica en China, India y Nigeria. Un segundo mapa superpuesto a este: OpenAI presentándose a sí misma como una sede llena de científicos geniales e innovadores en San Francisco, junto con un centro de datos repleto de servidores de alta tecnología en Des Moines (Iowa). El tercer «mapa» sobrevolaba incómodo fuera de cuadro: la insistente descripción del propio ChatGPT como algo incorpóreo y etéreo.
Este método presentaba varios problemas. Al tratar de abrir la caja negra de ChatGPT, encontramos aún más cajas negras en su interior: partes del sistema que eran opacas y desconocidas desde nuestro punto de vista y con las herramientas y métodos de que disponíamos. Sin embargo, nuestra decisión de contrastar nuestra propia perspectiva con la del propio ChatGPT, y con la que revelaba públicamente OpenAI, hizo que estas fronteras del conocimiento se convirtieran en resultados por sí mismos. Identificar las diferencias entre los tipos y la profundidad de conocimientos que tenemos a nuestra disposición a partir de cada una de las distintas fuentes que hemos identificado nos hizo más conscientes de los límites de cada una de ellas.
Esto también implicaba la constatación de que no solo estábamos estudiando esta controversia, sino que nosotros mismos formábamos parte de ella a través de nuestra investigación desde una perspectiva situada y parcialmente informada. Este hecho nos conducía a afrontar situaciones en las que nuestra propia experiencia de primera mano contradecía las afirmaciones de otra fuente que, a primera vista, podría reclamar una mayor autoridad.
Un buen ejemplo fue utilizar traceroute y alguna otra información técnica ligeramente oculta en la página web de ChatGPT para sugerir que nos estábamos comunicando con un servidor en Europa, junto con una serie de inferencias extraídas de la información de dominio público: que Open AI utiliza infrastructura que pertenece a Microsoft, cuyos centros de datos europeos actualmente operativos se emplazan en Dublín y en Ámsterdam. Nos decantamos por Microsoft Grange Castle, es decir, Dublín como posible emplazamiento y objeto de estudios adicionales, para más tarde descubrir una nota a pie de página en una documentación técnica de OpenAI en la que declaraba que su infraestructura se encuentra en Estados Unidos (probablemente en Iowa). Sin embargo, más que un simple error, esto dio lugar a un debate muy provechoso ¿Debíamos confiar más en los métodos situados y parciales de primera mano o en las afirmaciones opacas realizadas por la propia empresa a la hora de tratar de entender un objeto de estudio (ChatGPT en su forma material) al que no podemos acceder directamente? Para nuestros fines inmediatos, esto tal vez no sea tan importante: las infraestructuras digitales como ChatGPT se construyen a escala, lo que quiere decir que están diseñadas para expandirse de manera uniforme, compuestas por unidades más pequeñas, modulares e idénticas, análogas a las piezas de Lego o a los contenedores marítimos. Una consecuencia de esta uniformidad es que permite que los conocimientos adquiridos en un lugar sean más fácilmente trasladables; aquello que aprendemos prestando atención a Dublín puede revelarnos información sobre un centro de datos en Des Moines, porque están diseñados para ser uniformes. Así, tal vez podamos transformar nuestros conocimientos de sistemas escalables en una técnica para «resistirnos al pensamiento a escala», empleando para ello las similitudes entre infraestructuras en diferentes sitios como una herramienta para comparar, contrastar y desarrollar solidaridades entre ellos.
Al final del taller, mientras reflexionábamos sobre la compleja red de minerales, agua, energía, datos y mano de obra que habíamos descubierto, así como sobre los puntos ciegos, las ambigüedades y las contradicciones que habíamos encontrado, analizamos cómo esta investigación podía influir en nuestra actitud hacia ChatGPT y en nuestras interacciones con esta y otras tecnologías en el futuro. Surgieron dos grandes dudas, tras haber tomado conciencia de los límites de nuestra propia capacidad de conocer los efectos materiales de estos sistemas, así como la manera oblicua, selectiva, y en ocasiones incluso deshonesta, en que tanto OpenIA como ChatGPT los presentan: ¿Qué podemos hacer para mitigar las consecuencias medioambientales? Y ¿nos corresponde hacerlo a nosotros, es nuestra responsabilidad?
Mientras debatíamos una tercera duda surgió una posible respuesta a estas cuestiones: ¿era este modelo informático masivo, despilfarrador y centralizado estrictamente necesario? Recordamos intentos anteriores de supercomputación distribuida como SETI@Home, que alistó ordenadores personales inactivos en todo el mundo para resolver tareas científicas complicadas, y nos preguntamos: ¿Es la arquitectura masivamente centralizada y despilfarradora de ChatGPT realmente necesaria para la inteligencia artificial? Y llegamos a la conclusión de que, tal vez, en un sentido estricto, lo sea: modelos de IA generativa como ChatGPT surgieron a partir de innovaciones concretas en el hardware informático (el desarrollo de la GPU), y de las condiciones económicas y tecnológicas particulares del capitalismo de vigilancia que permiten la apropiación de datos a una escala lo bastante grande como para entrenar estos modelos, y ambas, en cierto sentido, suponen dicha centralización como una condición necesaria. Sin embargo, nuestra conciencia de estas condiciones materiales nos permitió darnos cuenta de que lo que se necesita es, quizás, amplificar o replantear nuestra idea de la propia IA. Seguir el llamamiento de Yuk Hui a prestar una atención renovada a la tecnodiversidad, y, a través de la imaginación de otras configuraciones materiales menos extractivas para la IA, concebir colectivamente otras formas más liberadoras y convivenciales en las que las máquinas puedan considerarse inteligentes.
Este articulo tiene reservados todos los derechos de autoría.
Investigador, diseñador y tecnólogo británico, actualmente afincado en Barcelona.
