Vivimos en una época de cambios en la que naturaleza y tecnología se entrelazan en un tejido nuevo que desafía nuestras categorías tradicionales. Históricamente hemos concebido la inteligencia como “aquello que hacemos los humanos” y esta concepción antropocéntrica ha hecho que nos situemos en un pedestal por encima de otras especies, ecosistemas o entidades.
Hemos desarrollado tecnologías a la medida de nuestras necesidades, cuerpos y deseos. Y en la misma búsqueda de una inteligencia artificial general avanzada, hemos emplazado la idea de que ésta, debe asemejarse y operar al mismo nivel que una inteligencia humana. Turing dio forma a este contrato implícito a través del sistema de medición conocido como ”el juego de la imitación”, pero también dejó abierta una grieta, al reconocer nuestros propios límites y conceder que la máquina, con sus respuestas, podía actuar como sustrato de las ideas humanas al establecer nuevas relaciones retóricas o sensibles 1 .
La idea de que la inteligencia es únicamente lo que sucede dentro de nuestra cabeza, desactiva la posibilidad de entenderla como un hecho relacional, como algo que sucede entre, más que dentro de.
Los grandes modelos de lenguaje natural actuales se ofrecen como espacios íntimos de autoanálisis, de desahogo o de construcción narrativa, pero lo hacen a través de infraestructuras técnicas que filtran, sesgan y modulan esas mismas narraciones. Sus interfaces no solo registran y responden; gobiernan suavemente.
Estos modelos borran la frontera de lo que Foucault denominaba las tecnologías del yo —aquellas prácticas mediante las cuales los sujetos se examinan, se narran y se transforman a sí mismos— y las tecnologías del poder 2, que actúan moldeando la conducta, organizando lo posible y estableciendo los límites de lo pensable.
Cada pregunta que les hacemos se embebe en una arquitectura de datos que aprende de nuestros patrones, anticipa nuestras vacilaciones y traduce nuestros deseos en rutas previsibles. En ese sentido, la IA conversacional funciona como un híbrido foucaultiano. Un espacio donde la subjetivación y el poder se pliegan y se enroscan uno sobre otro. Un mecanismo que nos ayuda a narrarnos, al tiempo que captura e influencia esas narraciones.
La IA corporativa 3 se inserta en una economía afectiva que convierte la atención en recurso y la relación en mercancía. No es una herramienta más. Es un operador cognitivo que reorganiza lo deseable y lo imaginable. Es un sistema que acrecienta las dinámicas de dependencia, apropiación y deseo introducidas en nuestras vidas cotidianas, reconfigurando las condiciones materiales y simbólicas que definen lo que hoy entendemos por conocimiento, vínculo e intimidad.
Por eso su expansión no puede entenderse sólo como un avance técnico, ni su efecto medirse únicamente por la calidad de sus respuestas o la sofisticación de sus modelos. La IA es un agente en la economía afectiva contemporánea, una infraestructura emocional que se superpone —y a veces sustituye— a las relaciones humanas, moldeando qué esperamos de los demás y qué esperamos de nosotros mismos.
Su función además de predictiva es extractiva, tal y como advierten Mateo Pasquinelli y Vladan Joler en “The Nooscope manifested: AI as instrument of knowledge extractivism” 4. Necesitamos comprenderla como fenómeno cultural y ecológico, como fuerza que interviene en la conformación del yo, así como en la del planeta, a través de la extracción de energía, recursos y materias primas. Desde las minas de litio, coltán y cobalto, hasta los centros donde bases de datos históricas cargadas de sesgos culturales, raciales y sociodemográficos se incorporan a los modelos fundacionales, pasando por las oficinas invisibles en las que miles de personas limpian, etiquetan y clasifican imágenes, textos y vídeos en regímenes de trabajo precario, repetitivo y alienante, tal y como disecciona Kate Crawford, en “Atlas of AI” 5.
Reivindicar, desde esta materialidad, otras formas de conocimiento —humanas, no humanas, relacionales— que escapen a los regímenes de extractivismo y depredación nos permite reconocer sus límites, sus sesgos y sus estructuras de poder, y desenmascarar aquello que se nos presenta como neutral u objetivo.
—Mariano Sigman y Santiago Bilinkis. “Artificial. La nueva inteligencia y el contorno de lo humano”
No somos buenos atendiendo a los límites. Especialmente cuando las variables de riesgo son invisibles a nuestros ojos. Dos grados de aumento medio en la temperatura del planeta parecen insignificantes, pero bastan para desencadenar lo que en física y en teoría de sistemas se denomina como transición de fase: un cambio abrupto, no lineal y posiblemente irreversible, que se produce cuando un sistema supera ciertos umbrales críticos. Antes de ese punto, el sistema puede absorber variaciones sin alterarse en lo esencial, pero una vez sobrepasado, la suma de pequeños cambios adicionales desencadenan transformaciones radicales. La Tierra opera bajo límites y discontinuidades que nuestra percepción —y nuestra cultura tecnológica del crecimiento continuo— no saben o no quieren registrar.
Esta dificultad para atender a los límites no es solo perceptiva o cultural; es también ética. Hans Jonas 6 advirtió que la técnica moderna introduce una transformación radical en las condiciones de la acción humana: por primera vez, nuestras decisiones operan a escala planetaria, se proyectan sobre horizontes temporales que exceden la vida de quienes las toman y producen efectos potencialmente irreversibles. En este nuevo escenario, ya no basta con una ética centrada en la intención o en las consecuencias inmediatas. El principio de responsabilidad que propone Jonas exige considerar los impactos diferidos, acumulativos y no locales de nuestras acciones, especialmente cuando estas afectan a las condiciones que hacen posible la vida futura. Pensar nuestras decisiones tecnológicas desde este marco implica asumir una forma ampliada de cuidado y precaución frente a un mundo que ya no admite marcha atrás. Esa responsabilidad hacia quienes aún no existen, y cuya vida está siendo hipotecada por las decisiones presentes, es precisamente el vacío político que Kim Stanley Robinson ficciona al imaginar instituciones capaces de representar a las generaciones futuras 7. Y es que quizá la auténtica inteligencia —humana o artificial— consista en reconocer cuándo basta. Cuándo detenerse. Cuándo preservar. Nos encontramos cada vez más cerca del punto de no retorno y me gustaría pensar, que imaginando otras formas de colaboración entre sistemas biológicos y técnicos, emancipados de las exigencias del capital y atentos a sus efectos sistémicos y ecológicos, podríamos caminar hacia un horizonte distinto en el que dejemos de operar desde la escasez y empecemos a hacerlo desde la posibilidad.
Lo urgente en este momento, no es conseguir que las máquinas “piensen” más y mejor. Lo urgente es reconstruir los sistemas que hacen posible la vida en común antes de que la tecnología termine acelerando su degradación. Pensar la inteligencia artificial con la perspectiva de una cognición distribuida nos aleja del terreno de la ciencia ficción apocalíptica, que tradicionalmente la ha situado como una potencial amenaza que viene a reemplazar a la humanidad, para emplazarla allí donde opera actualmente: en un entramado socioeconómico atravesado por lógicas corporativas, extractivas y coloniales que moldean tanto su diseño como sus usos posibles.
No es la primera vez en la historia que creamos algo sin entender bien de qué se trata o cómo funciona. Pero en la nueva relación que estamos forjando, es fundamental que pensemos cómo queremos que se produzca esa convivencia antes de que otros lo decidan por nosotros, e imaginar un enfoque relacional que nos permita trascender el papel de la herramienta o del mero recurso productivo. Adoptar un enfoque relacional en la interacción con la IA nos permite repensar su papel más allá de la subordinación a las lógicas del rendimiento.
Jesús Bermejo Duarte es arquitecto, diseñador, investigador y educador. Trabaja en la intersección entre diseño crítico, pensamiento sistémico y práctica artística.
