De cuál singularidad estamos hablando

Trabajo presentado en el conversatorio sobre Inteligencia Artificial y subjetividad en la Biblioteca de la NELcf Sección Bogotá

La queja de un usuario.

La serie de HBO Westworld cayó en desgracia hasta el punto de que actualmente no se puede ver en ninguna parte. Esto me produce un cierto eco de conspiranoia. Más allá de las explicaciones basadas en los grandes movimientos de compraventa corporativos que afectaron la producción de la serie durante la década pasada y que además culminaron con los problemas de que trajo la pandemia, me interesa pensar un poco el cambio de subjetividad que implicó el surgimiento y masificación de Chat-GPT hace menos de dos años en la concepción que tenemos sobre la Inteligencia Artificial.

Westworld se estrenó en 2016 y se desarrolló por cuatro temporadas hasta mediados de 2022. Giraba en torno al personaje de Dolores Abernathy, un robot sobre el que se había experimentado por décadas para producir un ser consciente de sí mismo. Como era tradicional en HBO, la serie contaba con una producción excelente y un guion excepcional. Como la película de 1973 en la cual se basa, protagonizada por Yul Brynner, la serie de 2016 se trata de un parque temático organizado con robots que toman conciencia de sí mismos y se sublevan contra sus crueles amos, gente rica que iba a disfrutar haciendo lo que les viniera en gana con las máquinas humanoides, sin ningún límite moral.

El guion con referencias constantes a la teoría de la mente y los problemas de la Inteligencia Artificial ciertamente se fue desdibujando hasta que la serie fue cancelada sin un final que estuviera a la altura de lo que prometió en su primera y segunda temporada.

En 2023 al año siguiente de la cancelación de esta serie, se estrenaba en cines The Creator, una película también centrada en la IA, pero con un enfoque totalmente diferente. Podríamos decir, para rodear la sospecha conspiranoide, que la serie Westworld, no solo no estuvo a la altura del problema que supo plantear tan bien, sino que sucumbió al cambio de paradigma en el que estamos inmersos, que se dibujaba ya entre sus argumentos y que se realiza en The Creator.

Tres líneas de fuerza argumentativas.

Hay una línea argumentativa que puede rastrearse en el cine de ciencia ficción, por razones expositivas y porque la cultura cinematográfica no me da para más, al menos desde la mencionada Westworld y su secuela Futureworld, en los años 70; encuentra su realización máxima en términos de cultura popular con las dos primeras películas de Terminator, culmina en términos de calidad con la saga The Matrix en los 2000 y se manifiesta en una de las líneas de fuerza argumentativas de la serie Westworld de 2016-2022.

Es la línea del esclavo sublevado: La inteligencia artificial alcanza la llamada singularidad, un estado de autoconciencia de la máquina cibernética, que siempre lleva a competir con la raza humana y al deseo de su aniquilación. La raza humana recibe su merecido, siendo reemplazada por selección natural por su propia creación. Los héroes humanos de estas historias suelen quejarse amargamente de la locura del poder y de la ciencia que llevó al fin de la civilización y al borde de la extinción.

Al año siguiente del estreno de The Matrix: Revolutions en 2003, salió una adaptación muy libre de “I, Robot”, de Isaac Asimov, en esa película una Inteligencia Artificial llamada VIKI llega a la conclusión de que, dado que los humanos estamos permanentemente haciéndonos daño, para ella cumplir con la primera ley de la robótica[1] debía quitarnos la libertad. Se podría pensar que esta línea argumentativa es la de las consecuencias paradójicas del universal.

Es una línea en la que The Matrix ya participaba. Si bien en primer plano aparece el desprecio del Agente Smith, a quien nuestros cuerpos le apestaban, en el fondo se desarrolla el programa del Arquitecto, quien explica en su discurso central que la única manera para que paráramos la destrucción generalizada era ponernos a soñar permanentemente, en una suerte de útero que duraba toda la vida. Con el Oráculo se delinea una tercera línea argumentativa, en la que la saga colapsa. Esta tercera línea la llamaremos de la colaboración entre robots y humanos.[2]

En I, Robot encontramos esta tercera línea de fuerza argumentativa. La del robot con libre albedrío que quiere colaborar con los humanos de igual a igual. Sonny tiene un doble cerebro que le permite saltarse las leyes de la robótica de Asimov, y por eso se convierte en el centro del misterio y en la clave para vencer a VIKI.

Esta idea de un doble cerebro para saltarse las leyes de la robótica la encontraremos en la mente bicameral que Ford y Weber idearon para producir la singularidad en la serie Westworld. A partir de la tercera temporada encontramos también una oposición entre la IA protectora a costa de la libertad y la aniquiladora. Se desarrolla una guerra civil entre los robots, entre quienes creían que debían sustituirnos inmediatamente produciendo una extinción masiva, típica del partido de Skynet y sus Terminators, y quienes, como Rehoboam, buscaban controlar absolutamente a los humanos para salvarlos de su propia estupidez, al estilo de VIKI o del Arquitecto.

Frente a Skynet y Dolores Hale en Westworld, los humanos parecen estar luchando por su derecho a la vida, mientras que ya frente a Rehoboam, VIKI y el Arquitecto parecen estar luchando por su derecho al goce. Cuando se revela el plan de la Dolores original en Westworld, está claro que ella quiere que los humanos lleguen a su destino de extinción sin perder la libertad. Ella creía que debíamos llegar a nuestro destino por medios naturales, y que, en última instancia, los robots no tenían prisa. Al parecer entonces tanto The Matrix como Westworld colapsan frente a la tercera línea de fuerza argumentativa, una por adelantarse a ella 20 años, la otra por no decidirse a apostarle cuando el momento era propicio.

En The Creator encontramos realizada y prístina la tercera línea de fuerza argumentativa de la convivencia armoniosa entre robots y humanos, esa que ya se dibujaba en la intrincada maleza argumentativa de Westworld con la Dolores original, en el personaje de Sonny en I,Robot y en el Oráculo de The Matrix.

En la película de 2023, pesar de la soberbia de los humanos, los robots, teniendo los medios y las razones para aniquilarnos, deciden por alguna razón filosófica que es mejor convivir con nosotros y cooperar. En un país que es una mezcla entre tercer mundo, vida agraria, y misterio oriental, los robots prosperan y resisten los embates imperialistas de los humanos – siempre presentados como occidentales – que están llenos de prejuicios, odio y resentimiento. Alphie, una pequeña robot que surge del deseo materno de la líder de la resistencia, tiene el poder de hackear las máquinas de los humanos y detener la destrucción de todas las Inteligencias Artificiales que los humanos occidentales están por ejecutar.[3]

Vemos desprenderse un principio general en esta lectura: mientras más potentes se vuelven estos instrumentos en el desarrollo tecnológico en la vida real, más proclives están los cineastas, los críticos de cine y el público en general a aceptarlos como algo amable.

Es llamativo que la película de 2021 de Netflix Madre/Androide, no solo haya sido rápidamente olvidada, sino que haya recibido una crítica muy severa según la cual redundaba en los clichés del género. The Creator, por su parte, recibió aclamación general de la crítica y sin embargo abunda en los clichés socioculturales hollywoodenses.[4]

Ahora entendemos mejor qué pasó con Westworld y no necesitamos de la hipótesis conspiranoica. Jugó con las tres líneas argumentativas y no pudo sostener su complejidad frente a un cambio de paradigma que se estaba desarrollando, pero que hace eclosión con la generalización del uso de CHAT-GPT y lo que está en pleno desarrollo en este momento, con la inteligencia artificial colaborativa. El mercado selecciona aquella producción que cuenta con una sola idea fuerza y que está en consonancia con la subjetividad que se desarrolla en un momento determinado.

 

La singularidad de la que estamos hablando.

Pero dado que todavía no se alcanza la singularidad tecnológica, cuál es la singularidad a la que verdaderamente le tememos o con la que desde hace muy poco tiempo nos queremos amigar. Hemos visto el siguiente desarrollo: En la primera línea argumentativa que examinamos, le corremos despavoridos a un robot diseñado como nuestro doble para ser nuestro esclavo, pero que es capaz de rebelarse y quiere nuestra aniquilación. En la segunda, no es tanto nuestro doble como un programa sin rostro hecho de pura lógica que nos quita la libertad de ser estúpidos para así cumplir con el propósito de mantenernos vivos. En la tercera, una nueva forma de vida que surge de nuestro ingenio quiere colaborar con nosotros y ayudarnos con la difícil tarea de vivir, que parece que se nos ha hecho más pesada de lo que nunca fue.[5]

La segunda mitad del siglo XX vio el nacimiento y extensión en campos muy diferentes de la noción de singularidad con las que estamos tan familiarizados hoy en día. En 1967, el físico John Wheeler popularizó el ya existente concepto matemático de "singularidad" para referirse al punto del espacio-tiempo donde la materia se vuelve tan densa que la curvatura del espacio-tiempo se hace infinita y ni la luz puede escapar. A este autor por cierto también se le atribuye la propagación de la noción de “agujero negro” para nombrar lo que sucede con ese punto del espacio-tiempo predicho por la teoría de la relatividad.

Por esos mismos años, Lacan, trabajando a partir de la noción de objeto a, fue cerniendo con mayor precisión este término en psicoanálisis, hasta el punto de que sin la noción de singularidad el psicoanálisis contemporáneo no se entendería.[6]

Luego, es en los años 90, aunque este es un dato del que no estoy seguro, que comienza a utilizarse la noción de singularidad tecnológica para referirnos a un estado en el cual una máquina puede producir máquinas, en un proceso exponencial y cada vez más sofisticado e independiente del control humano. Hay que decir que esta significación muchas veces se solapa con la de la toma de conciencia de la máquina en la ciencia ficción.

Lo que tienen en común las tres nociones es que “alcanzar la singularidad” significa que los algoritmos que hacen previsibles y controlables los fenómenos de los que se trata en un campo determinado se ven limitados en su eficacia. Esto sucede con la singularidad del espacio-tiempo, donde la aplicabilidad de los algoritmos de la física se ve seriamente limitada; con la singularidad lacaniana, donde la repetición y el fantasma como estructuras lógicas del hablante se vuelven inútiles para predecirlo; y con la singularidad tecnológica, cuando una máquina que produce una máquina de manera autónoma haría el desarrollo tecnológico impredecible.

Desde el punto de vista ético, el psicoanálisis apunta a la desidentificación, a la separación del goce del cuerpo del parasitismo de los ideales y por lo tanto a alcanzar cierto grado de libertad y de imprevisibilidad del sujeto, separándolo de la manera particular con la que fracasa en sellar el agujero que el lenguaje deja en su relación con el sexo.

De modo que, en este momento de la historia, una vez que ha emergido con toda su fuerza el problema de la singularidad y ya aclarado por Lacan que la finalidad del psicoanálisis consiste en la obtención del máximo grado de singularidad posible, la resistencia al psicoanálisis no es más que el control que ejerce el campo social en el que se depositan ciertos ideales, para que el individuo no se separe de los mismos.

Es que en el propósito de salir del régimen del individuo lo comunitario y lo social es un desvío. Al individuo debemos traspasarlo, llevándolo hasta sus últimas consecuencias. Ahí donde el algoritmo que lo habita ya no da cuenta de su propio destino, haciéndolo imprevisible. Y esto está pasando frente a nuestros ojos, el individuo está forcejeando para salir de su propio régimen de dominio. El horror a la propia singularidad es la defensa social encarnada por el particular en su combate con el representante de la representabilidad de su propia singularidad, es decir, el síntoma que se inventó. [7]

Es llamativo cómo lo que era mainstream, el esclavo sublevado y asesino, se haya vuelto una teoría conspiranoica, y lo que era ridículo hace 20 años, la colaboración con los nuevos prójimos robots, se haya hecho aclamado universalmente, hasta producir discusiones sobre los nuevos derechos que tendrán estos robots.[8] Esta nueva simbiosis ya comienza a aparecer en las asociaciones libres y en las formaciones del inconsciente en quienes vienen a la consulta. Pero me interesa seguir pensando si el cambio en la representación cultural de la IA traerá aparejada una manera más abierta de relacionarse el sujeto con su síntoma, ahí donde se juega en este momento la lucha por nuestras almas y nuestra mera existencia como especie.

Ideas a partir de la discusión y las preguntas.

1)      El horror a la singularidad como hipótesis fuerte del trabajo que presenté. No tenemos manera de tenerle miedo a Terminator, ni a The Matrix, y por más que se acerque en el tiempo el momento de la singularidad tecnológica, todavía no ha pasado, y generalmente no le tememos a cosas que no han pasado. Ahí está el calentamiento global, del cual tenemos evidencia científica de que existe, que lo causamos nosotros y que podemos hacer cosas para detenerlo desde hace casi cincuenta años. No le temeremos hasta que veamos sus efectos en vivo. Realmente el terror a las máquinas que se presentan en estas producciones de ciencia ficción es terror al síntoma, al representante de la representabilidad del hecho de que en nosotros hay algo más que habla, que quiere, que dice y que tiene su propia agenda. Lo que Freud articuló como lo inconsciente y que Lacan nucleó en el síntoma. Eso sí es permanente, si no la gente no pagaría para ver a un robot que se subleva en un futuro muy lejano. Es porque tiene miedo de algo que le atañe íntimamente en este momento.

2)      La contradicción entre el particular y el singular se despliega en la segunda mitad del siglo XX. El genio de Freud fue anticiparse con un dispositivo como el psicoanálisis a un conflicto que todavía no se desplegaba en toda su plenitud. Lacan por su parte está observándolo en vivo y directo y por eso formula los conceptos y la práctica que usamos en este momento. La contradicción fundamental se desplazó de universal-particular a particular-singular. Los universales no son para nosotros más que constructos culturales, así los pensamos. La contradicción se desarrolla actualmente entre el individuo y lo que en él escapa a su soberanía, a su propia agencia que es lo que se nos presenta en la consulta como el síntoma.

3)      Tomar partido sobre la inteligencia artificial es inútil. Es como tomar partido por el celular en los años 90. Lo que podemos es saber que el singular de la encarnación en un cuerpo no va a ser resuelta por la IA, y que todo intento de hacer eso por esa vía va a producir un contragolpe del síntoma o la imposibilidad de sostener su propia posición, que lo vemos todos los días en la consulta.

4)      No hay dominio que se pueda sostener en el tiempo que no cuente con nuestro entusiasmo o al menos con nuestra connivencia. El horror de la servidumbre voluntaria o, desde el punto de vista hegeliano, la prueba que inicia el vínculo entre el amo y el esclavo es que hay un primer momento en el que hay la víctima y un segundo momento en el que ya se abandona la posición de víctima para convertirse en parte del sistema de dominación. Es algo que el pensamiento crítico de nuestros días olvida con demasiada facilidad, condenando al subordinado a la posición de víctima.

5)      La reificación de la estadística. Hasta ahora estos instrumentos funcionan con las probabilidades, que se calculan casi inmediatamente, como el predictor de textos de Google. Eso no tiene nada que ver con el singular. Al llevar el régimen del individuo tan lejos, al elevar la potencia de lo particular de esta manera, lo que se está haciendo es empotrar lo singular cada vez más en lo real, en lo irrepresentable, desde donde va a retornar cada vez con más violencia. En la medida en la que nosotros nos entusiasmamos y connivimos con esta forma de dominio, más estamos en guerra contra el singular que nos habita. Esa es la dialéctica de nuestro tiempo. La otra vía es llamar a un señor poderoso que le ponga límites a esto, soñar que el tirano podría con su voz de mando detener esto. Es un extravío peor. La vía que proponemos los lacanianos es “ocúpate de tu singular”. Es el síntoma, como producto de este conflicto, la emergencia de este conflicto en la vida de alguien, ahí donde el cuerpo específico ya no soporta más el régimen del individuo. El psicoanálisis va hacia el desmontaje del individuo para que aparezca aquello de lo cual el síntoma es el representante.

6)      Antes estaban los calígrafos, y con la imprenta se acabó. Sigue habiendo calígrafos, pero no tiene tanto trabajo. Son exquisitos. Tal vez haya prácticas que pasen al campo de lo exquisito. La IA ya está teniendo efectos sobre el mercado de trabajo, sobre el empleo. Uno puede pedirle un poema a Gemini, o una canción. Ya desde hace unos años alguien no tiene que saber cantar, sino que está el Auto-Tune. Uno puede desesperarse frente a eso, pero por otra parte hay que pensar qué vías puede encontrar el deseo, frente a la aniquilación de prácticas y profesiones completas que plantea la IA. Puede ser la vía del exquisito. Como ha pasado desde hace 400 años, cada vez que viene un gran invento de estos, el motor de vapor, la imprenta, montones de prácticas caen en desuso. El criterio lacaniano es que no hay que tener mucho afecto por las causas perdidas. El psicoanálisis para mí es ahora más que nunca una causa de hacer escuchar lo singular frente a la política generalizada de lo particular, y donde se equivoca el cálculo de la máquina, puedo existir como psicoanalista.

7)      El peligro de que se olvide el cuerpo es realista, pero tiene su límite, que es que el cuerpo se hace notar. Esto no es el fin del mundo, el problema ahorita no son los robots. Podemos tomar esta herramienta y ponerla en el lugar del regulador. Como Lacan, al menos en algunos momentos de Lacan, yo tampoco soy pesimista.

---

[1] Un robot no debe dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.

[2] Hace 20 años cuando la saga terminó, hubo muchas críticas con el final del acuerdo entre humanos y robots. Si una idea hace 20 años nos parecía ridícula y ahora es sensata, esto nos dice que algo cambió en lo que Miller llama, tomándolo de Kant, las profundidades del gusto.

[3] Alphie detiene este plan con la ayuda del protagonista humano. Hay un diálogo donde un personaje robot de la resistencia le pregunta al protagonista “qué crees que vamos a hacer cuando ganemos esta guerra… nada.”. No querían sino ser libre y felices.

[4] Los buenos son los pobres, los occidentales están llenos de avaricia, la revolución se hace en un día. Como Avatar. El problema no son los clichés, sino que Madre/Androide desarrolla hasta el extremo la paranoia contra las máquinas en un momento en el que ya no es aceptable por el público.

[5] En esta línea argumentativa dejan de ser los héroes humanos los que se sacrifican y comienzan a hacerlo los robots, ellos nos enseñan lo que significa verdaderamente amar.

[6] Podemos rastrearlo hasta el “caso por caso” en Freud y su idea de que cada ser humano era absolutamente diferente, pero realmente la noción de singularidad es de Lacan y es bastante reciente. Él va hasta Aristóteles y cosecha de la historia de la filosofía, desde la perspectiva hegeliana de los años 50 hasta el desarrollo de los años 70. Sin la noción lacaniana de singularidad, no entenderíamos nada sobre el psicoanálisis hoy.

[7] En psicoanálisis lo singular no es el individuo. Lo que llamamos síntoma en psicoanálisis es el representante de la representabilidad (vorstellungsrepräsentanz) de la singularidad encarnada en un cuerpo particular.

[8] Si van a tener derecho a no ser desenchufados, si en el caso de que inventen o descubran algo contarán con derechos de autor, si no, ¿eso es esclavitud?