Pensar la inteligencia artificialThinking artificial intelligence
El segundo frente. La mente se prolonga en máquinas que también la modifican — y el viejo límite entre humano y técnica ya no se sostiene. The second front. The mind extends into machines that modify it in return — and the old border between human and technique no longer holds.
Las máquinas que nos piensan mientras las pensamos. Un bucle recursivo de una velocidad que el paradigma simplificador no sabe cómo agarrar. Machines that think us as we think them. A recursive loop at a speed the simplifying paradigm doesn't know how to grasp.
De Turing a los modelos de lenguajeFrom Turing to language models
En 1950 Alan Turing pregunta si una máquina puede pensar y desplaza el problema: no importa qué es la máquina, importa si puedo distinguirla de un humano en una conversación. Setenta y cinco años después, esa pregunta filosófica está, para muchos efectos prácticos, contestada — sin que sepamos del todo qué significa. La IA contemporánea no es una tecnología más: es un desplazamiento cognitivo que se ensambla con todos los anteriores (la escritura, la imprenta, la imagen mecánica) y los excede. In 1950 Alan Turing asks whether a machine can think and shifts the problem: it doesn't matter what the machine is, what matters is whether I can distinguish it from a human in conversation. Seventy-five years on, that philosophical question is, for many practical purposes, answered — without our quite knowing what that means. Contemporary AI isn't one more technology: it is a cognitive shift assembled with all the earlier ones (writing, printing, the mechanical image) and exceeding them.
Bernard Stiegler — discípulo de Derrida — lo nombra técnica como exteriorización del pensar: desde el sílex tallado, lo humano se constituye al delegar memoria y operaciones en objetos. La diferencia de la IA no es naturaleza, es escala y velocidad. Lo que antes tomaba generaciones — una nueva forma de escribir, de calcular, de imaginar — hoy se ensambla en meses. Morin habría dicho que estamos viviendo, en directo, una mutación antropológica. Bernard Stiegler — Derrida's disciple — names it technique as exteriorization of thinking: from the knapped flint onward, the human constitutes itself by delegating memory and operations to objects. AI's difference is not in nature, but in scale and speed. What once took generations — a new way of writing, computing, imagining — today assembles in months. Morin would have said we are living, in real time, an anthropological mutation.
Bucle recursivo · nos hace mientras la hacemosRecursive loop · it makes us as we make it
La IA no es herramienta neutra que usamos: es un sistema que, al ser usado, nos forma. Quien delega memoria en un buscador piensa distinto que quien la entrenaba en sí mismo. Quien escribe acompañado de un modelo de lenguaje desarrolla otros músculos retóricos. La pregunta moriniana no es "¿qué hace la IA?" — es "¿qué hace de nosotros mientras la usamos?". Y la respuesta es recursiva: nos hace, mientras la hacemos. AI is no neutral tool we use: it is a system that, by being used, forms us. Whoever delegates memory to a search engine thinks differently from someone who trained their own. Whoever writes alongside a language model develops other rhetorical muscles. The Morinian question is not "what does AI do?" — it is "what does it make of us as we use it?". And the answer is recursive: it makes us, as we make it.
Soberanía cognitiva · autonomía y dependenciaCognitive sovereignty · autonomy and dependence
El principio auto-eco moriniano se vuelve aquí explícito: cuanta más autonomía cognitiva quieres, más dependencias técnicas asumes. Quien lee con motor de búsqueda tiene más alcance que quien lee solo — y a la vez depende de la arquitectura y el sesgo de ese motor. La soberanía cognitiva del siglo XXI no consiste en huir de la IA, sino en componer autonomía y dependencia de modo que la dependencia no devore a la autonomía. Morin's auto-eco principle becomes explicit here: the more cognitive autonomy you want, the more technical dependencies you assume. Whoever reads with a search engine has more reach than someone who reads alone — and depends on that engine's architecture and bias. 21st-century cognitive sovereignty does not consist in fleeing AI, but in composing autonomy and dependence so that dependence doesn't devour autonomy.
Dialógica humano/máquina · sostener la diferenciaHuman/machine dialogics · holding the difference
Ni el antropocentrismo orgulloso ("una máquina nunca podrá") ni el reduccionismo deslumbrado ("ya hay máquinas que piensan como nosotros") son lecturas complejas. La operación dialógica pide sostener la diferencia sin colapsarla en jerarquía: la inteligencia artificial es otra inteligencia — no superior, no inferior — con sus virtudes (escala, velocidad, paciencia infinita) y sus inhabilidades (cuerpo, mortalidad, mundo vivido, deseo). Pensar con ella, no contra ella ni encima de ella. Neither proud anthropocentrism ("a machine will never be able to") nor dazzled reductionism ("there are already machines that think like us") are complex readings. The dialogical operation asks to hold the difference without collapsing it into hierarchy: artificial intelligence is another intelligence — neither superior nor inferior — with its virtues (scale, speed, infinite patience) and its incapacities (body, mortality, lived world, desire). Think with it, not against it nor on top of it.
Un chip y una sinapsis intercambian señales por hilos dorados punteados. Ninguno es origen, ninguno destino: cada uno produce al otro mientras es producido por él. A chip and a synapse exchange signals through dotted gold threads. Neither is origin, neither destination: each produces the other while being produced by it.
Bucles humano-máquina en marchaHuman-machine loops in motion
Modelos de lenguaje — el espejo que devuelve lo nuestroLanguage models — the mirror that returns ours
Un modelo de lenguaje aprende del corpus de textos que la humanidad ya escribió. Cuando lo usas, te devuelve una destilación estadística de ese corpus — incluidos sus sesgos, sus ángulos ciegos, sus silencios. Si crees que la IA es "objetiva" porque es máquina, no estás pensando complejo. Si crees que es "solo un loro estocástico" porque no entiende, tampoco. La operación interesante: leer en el espejo lo que dice de nosotros — y decidir qué hacemos con eso. A language model learns from the corpus of texts humanity already wrote. When you use it, it returns a statistical distillation of that corpus — including its biases, blind angles, silences. If you think AI is "objective" because it is a machine, you are not thinking complexly. If you think it is "just a stochastic parrot" because it doesn't understand, neither. The interesting operation: reading in the mirror what it says of us — and deciding what to do with that.
Algoritmos de recomendación — el bucle invisibleRecommendation algorithms — the invisible loop
Una plataforma de streaming aprende lo que ves para recomendarte más de lo mismo. Tú ves lo que te recomienda. La plataforma aprende de tu ver-más-de-lo-mismo. Y así. El bucle es invisible porque cada paso parece elección libre. Lo que se reproduce, en cada vuelta, es una identidad cognitiva ajustada al algoritmo. La salida no es "apagar el algoritmo": es introducir señales que rompan el bucle (buscar deliberadamente lo que no te recomendaría, leer disensos, conversar con gente fuera de tu burbuja). A streaming platform learns what you watch to recommend more of the same. You watch what it recommends. It learns from your watching-more-of-the-same. And so on. The loop is invisible because each step looks like free choice. What gets reproduced, at every turn, is a cognitive identity tuned to the algorithm. The exit isn't "turn the algorithm off": it is to inject signals that break the loop (deliberately seek out what it wouldn't recommend, read dissents, talk with people outside your bubble).
Deepfakes — la ruptura del pacto epistémicoDeepfakes — the broken epistemic pact
Durante un siglo, una foto o un video servían como prueba: lo que veías había ocurrido, al menos físicamente. La IA generativa rompe ese pacto. Hoy una imagen verosímil no garantiza nada. La consecuencia no es solo técnica: es epistémica y política. Pensar complejamente exige construir nuevos pactos — firmas digitales, cadenas de custodia, hábitos de verificación — sin caer en el escepticismo paralizante donde "nada se sabe". For a century, a photo or video served as proof: what you saw had occurred, at least physically. Generative AI breaks that pact. Today a credible image guarantees nothing. The consequence isn't only technical: it is epistemic and political. Thinking complexly demands building new pacts — digital signatures, custody chains, verification habits — without sliding into the paralysing scepticism where "nothing can be known".
Qué no es pensar la IA complejamenteWhat thinking AI complexly is not
-
No es tecnofobiaIt isn't technophobia
Rechazar la IA en bloque es una posición igual de simplificadora que abrazarla en bloque. La técnica nos constituye desde el sílex: no hay un "humano puro" anterior a la técnica al que regresar. La pregunta no es si — es cuál: qué tecnologías, con qué gobernanzas, al servicio de qué bucle humano-máquina. Wholesale rejection of AI is as simplifying a stance as wholesale embrace. Technique has constituted us since the flint: there is no "pure human" prior to technique to return to. The question isn't whether — it is which: which technologies, with which governance, in the service of which human-machine loop.
-
No es solucionismoIt isn't solutionism
Tampoco basta el "la IA lo arreglará". Cada uso introduce dependencias, costos energéticos (los centros de datos consumen una porción no menor de la electricidad mundial), sesgos heredados, asimetrías de poder. El solucionismo es el paradigma simplificador en versión Silicon Valley: convertir lo complejo en un problema técnico para no tener que pensarlo. Nor is "AI will fix it" enough. Every use introduces dependencies, energy costs (data centres consume a non-trivial share of the world's electricity), inherited biases, asymmetries of power. Solutionism is the simplifying paradigm in Silicon Valley dress: turning the complex into a technical problem so as not to have to think it.
-
No es cuestión solo individualIt isn't only an individual issue
Las recomendaciones tipo "úsala con criterio" trasladan al individuo la responsabilidad de una arquitectura sistémica. Pensar complejo aquí significa nombrar la dimensión política: quién entrena los modelos, con qué datos, bajo qué reglas, y quién decide. La soberanía cognitiva del siglo XXI es también una pregunta institucional, no solo una virtud personal. "Use it judiciously" type advice transfers to the individual the responsibility for a systemic architecture. Thinking complexly here means naming the political dimension: who trains the models, on what data, under what rules, and who decides. 21st-century cognitive sovereignty is also an institutional question, not only a personal virtue.
El hombre es homo sapiens demens: a la vez sabio y loco, racional y soñador, técnico y mitológico. La técnica no es un agregado a su naturaleza: es su naturaleza. Toda crítica que olvide esto se condena a la nostalgia. Man is homo sapiens demens: at once wise and mad, rational and dreaming, technical and mythological. Technique is not an add-on to his nature: it is his nature. Any critique that forgets this dooms itself to nostalgia.Edgar Morin · El paradigma perdido · 1973Edgar Morin · The Lost Paradigm · 1973
Morin escribió este libro medio siglo antes de la IA generativa. Lo que dice de la técnica vale, redoblado, para nuestro momento: no podemos pensar a la humanidad sin la técnica, ni a la técnica sin la humanidad que la engendra y la padece. El bucle es viejo — la velocidad es nueva. Y la velocidad cambia todo. Morin wrote this book half a century before generative AI. What he says of technique holds, doubled, for our moment: we cannot think humanity without technique, nor technique without the humanity that begets and suffers it. The loop is old — the speed is new. And speed changes everything.
Donde el problema se vuelve incómodoWhere the problem becomes uncomfortable
La IA aumenta capacidades mientras atrofia otras. Quien usa modelos para escribir gana fluidez y pierde lentitud; quien usa motores de búsqueda gana alcance y pierde memoria larga; quien delega tareas pierde el conocimiento operativo que solo se sostiene practicándolo. La pregunta no es prohibir — es discernir qué capacidades queremos seguir cultivando como humanos, y preservar deliberadamente su práctica. AI augments capacities while atrophying others. Whoever uses models to write gains fluency and loses slowness; whoever uses search engines gains reach and loses long memory; whoever delegates tasks loses the operative knowledge that only sustains itself in practice. The question isn't to ban — it's to discern which capacities we want to keep cultivating as humans, and deliberately preserve their practice.
¿Quién entrena al entrenador? Los grandes modelos se entrenan con corpus, retroalimentación humana y reglas. Quien define esos tres ingredientes define, en gran medida, el tipo de pensamiento que la máquina aprenderá a devolvernos. Hoy esa decisión está concentrada en un puñado de empresas y estados. El bucle recursivo de la IA tiene origen geopolítico — y nada en su arquitectura técnica lo desmiente. Who trains the trainer? Large models are trained with corpus, human feedback and rules. Whoever sets those three ingredients largely defines the kind of thinking the machine will learn to return to us. Today that decision is concentrated in a handful of companies and states. The recursive loop of AI has a geopolitical origin — and nothing in its technical architecture refutes it.
Dónde se piensa así hoyWhere one already thinks this way
En la filosofía de la técnica (Stiegler, Yuk Hui, Simondon), los estudios críticos de IA (Crawford, Bender, Mitchell), la cognición encarnada (Varela, Thompson), la gobernanza algorítmica (O'Neil, Pasquale, Zuboff), y los movimientos por una IA soberana y de código abierto. La pregunta moriniana — qué nos hace mientras la hacemos — se está volviendo, por primera vez, política pública. In philosophy of technique (Stiegler, Yuk Hui, Simondon), critical AI studies (Crawford, Bender, Mitchell), embodied cognition (Varela, Thompson), algorithmic governance (O'Neil, Pasquale, Zuboff), and movements for a sovereign and open-source AI. The Morinian question — what does it make of us as we make it — is becoming, for the first time, public policy.
¿Qué hace de ti la IA mientras la usas — sin que lo notes? What does AI make of you as you use it — without you noticing?
- ¿Qué capacidad cognitiva tuya ha cambiado en los últimos cinco años por delegarla en una herramienta?What cognitive capacity of yours has changed in the last five years from being delegated to a tool?
- ¿Qué bucle "te recomienda lo que ya pensabas" sostienes sin querer en tus consumos diarios?What "recommends what you already thought" loop do you unwillingly sustain in your daily consumption?
- ¿Qué habilidad humana querrías preservar deliberadamente aunque una máquina la haga mejor?What human skill would you wish to deliberately preserve even if a machine does it better?
- ¿Qué decisión sobre IA — en tu trabajo, en tu familia, en tu país — debería discutirse políticamente y se trata como técnica?What AI decision — at your work, in your family, in your country — should be argued politically and is treated as technical?
- ¿Qué uso de IA sí querrías cuidar y multiplicar — porque amplía lo humano sin atrofiarlo?What use of AI do you wish to nurture and multiply — because it widens the human without atrophying it?
Lecturas complementariasFurther reading
- Bernard Stiegler — La técnica y el tiempoTechnics and Time
- Kate Crawford — Atlas de la IAAtlas of AI
- Yuk Hui — Fragmentar el futuroRecursivity and Contingency
- Shoshana Zuboff — La era del capitalismo de la vigilanciaThe Age of Surveillance Capitalism
- Edgar Morin — La cabeza bien puestaA Head Well Made
… del bucle humano-máquina al bucle humano-humano: ¿cómo la información circula entre nosotros y qué le hace a la democracia? Próximo capítulo. … from the human-machine loop to the human-human loop: how does information circulate among us and what does it do to democracy? Next chapter.