Inteligencia Artificial, ¿una catástrofe cultural?
El filósofo Eric Sadin y el crítico Jorge Carrión examinan cómo la digitalización, los algoritmos y los espacios colonizados por la tecnología dictan nuestra vida cotidiana
POR JUAN CAMILO RINCÓN
Siempre colonizados
Hace 20 años ya lo anticipaban de manera casi profética algunos expertos, pero, bien lo afirma el escritor y filósofo francés Eric Sadin, no fueron lo suficientemente asertivos o categóricos: “Cada vez hay menos espacios no colonizados por las tecnologías digitales, y cada vez más nuestras vidas individuales y colectivas están respaldadas por estas. El desarrollo digital sigue creciendo exponencialmente y se impone de manera cada vez más poderosa porque depende de una industria que también es extremadamente poderosa, caracterizada por marcar el tono y el ritmo de todas las cosas de la vida”, afirma.
Es el poder detrás del poder, pero ya no como resultado de una colonización que se cimenta en la dominación agresiva, como lo explica Sadin en La silicolonización del mundo. La irresistible expansión del liberalismo digital (2018).
Funciona de maravilla porque se trata de la que el filósofo denomina “una voluntad endógena”: aceptamos con gusto, devoción y rendidos a sus pies ese valor universal que determina y organiza “muchas funciones nuevas para individuos y para sectores colectivos; aplicaciones que nos ayudan y nos hacen la vida más fácil, que nos aconsejan hacer una cosa en vez de otra”.
El autor de La humanidad aumentada. La administración digital del mundo (2017) lo denomina el “soporte algorítmico de la vida”: hoy tenemos una conexión natural con las tecnologías y la mejor muestra de eso es nuestra relación continua con las pantallas y los sistemas que, se supone, nos hacen la vida más fácil al organizar cada vez más los asuntos y las relaciones humanas: “Ante eso, cada vez tenemos menos derecho a opinar, a hablar, a participar, al discurso, todo en beneficio de los sistemas que nos organizan… porque tomaron nuestro lugar”, reclama.
“Lo mismo ocurre en los sectores colectivos. Cada vez más, la organización de los asuntos humanos depende de sistemas que orientan el supuesto mejor rumbo, la supuesta mejor organización, que nos llevan a la optimización y racionalización de situaciones. Nos facilitan todo, nos brindan servicios, nos dan la sensación de estar en el centro del mundo”, señala el creador y redactor jefe de la revista éc/artS, dedicada al análisis y reflexión de las intersecciones entre las artes y las nuevas tecnologías digitales, en la que participaron grandes figuras del pensamiento contemporáneo como Roger Chartier y Pierre Lévy.
Es que siempre hemos deseado estar en el centro. Bajo la seducción y facilitación de estos sistemas “¡todo sucede con tal poder y tal consentimiento de nuestra parte!”. Se trata del nuevo ethos convertido en el referente planetario principal, señala Sadin.
Este ethos es el que, a su manera, el escritor y crítico cultural español Jorge Carrión, pensando el presente en clave de futuro, viene reflexionando desde el conocimiento en las plataformas, la literatura y la gestión de la cultura en su relación con la Inteligencia Artificial (IA).
Desde hace una década se ha concentrado en “las arquitecturas del saber y cómo este se organiza, y sobre la transformación de la obra en contenido”, trabajando ficciones —“yo diría que políticas”— sobre nuestro presente.
Con tal poder y apoyado en algoritmos creativos escribió junto con redes neuronales de aprendizaje Los campos electromagnéticos. Teorías y prácticas de la inteligencia artificial (2023), un libro al que describe como “una especie de alternativa utópica mediante un ejercicio de literatura conceptual”.
El crítico cultural español Jorge Carrión (Tarragona, 1976), autor de la novela Membrana y Contra Amazon. /Tim Langlotz
Su trabajo alrededor de la digitalización de la materia prima intelectual también se ha hecho tangible en productos como los podcasts Solaris y Ecos; la novela Membrana (2019), narrada por una Inteligencia Artificial del 2100 y a la que Agustín Fernández Mallo definió como “la primera novela de antropología big-data escrita en nuestro idioma”; los talleres de crónica que impartió durante la pandemia vía WhatsApp; la revista cultural Curarnos, que impulsó junto con Pere Ortín, Paty Godoy y Omar Rincón, también en la aplicación de mensajería instantánea; y un encuentro internacional sobre cultura e IA. ¿Los sistemas tomaron nuestro lugar?
Para Carrión, el canon literario, por ejemplo, “sigue estando conformado por obras que se han publicado en papel. Existen cada vez más obras experimentales, hipertextuales, expandidas en internet, pero la resistencia del papel y de la literatura tradicional son muy fuertes, mucho más de lo que podíamos imaginar”. Tal vez los sistemas aún no han tomado nuestro lugar.
La cuestión es de ética
Este modelo dominado por “el Espíritu de Silicon Valley” ha intentado vender la idea de una ética propia: apoyos financieros al alcance de prácticamente todo el mundo, inteligencias artificiales con “excelencia reactiva solidaria y emprendedora”, virtudes igualitarias…
Cuando le pregunto por esa ética, Sadin enfatiza lo amplio del concepto, “definido por Spinoza como realización, armonía con los demás, los grandes principios que nos permiten vivir nuestras mejores vidas, ser lo mejor de nosotros mismos”.
El también autor de La era del individuo tirano. El fin de un mundo común (2022) insiste en el sustrato político que subyace al mundo digital y advierte que los dirigentes y legisladores, después de diez años de fascinación absoluta por esta industria, de repente se despertaron y empezaron a hablar de ética, prometiendo “que iban a hacer un mundo mejor con startups geniales. Entonces se abrió el telón y vimos que todo era un circo; ahí fue cuando ellos entendieron que había que establecer regulaciones mínimas para que todo funcione bien”.
Se refiere, entre otros, a la Ley de Inteligencia Artificial (AI Act, en inglés) que se espera sea aprobada por la UE en los primeros meses de 2024, con el objeto de regir la venta y el uso de Inteligencia Artificial en esa región. Si el Winston Smith de 1984 (George Orwell) afirmaba que “nada era ilegal, ya que ya no había leyes”, para la Comisión Europea la cuestión es a otro precio.
Sadin nos cuenta que el comisario que promovió esta iniciativa dentro del aparato legislativo europeo es un exdirector de la empresa global Atos, el primer programa industrial de computación cuántica de Europa. Se refiere a Thierry Breton, quien “invirtió miles de millones de euros diciendo que siempre debemos ir más lejos y más rápido, por lo cual ha impulsado el desarrollo de ordenadores cuánticos que intensificarán la completa automatización de los asuntos humanos”.
Así se intenta enfrentar, al menos desde un marco regulatorio, “la tragedia de hoy, que es la falta de pensamiento”. De acuerdo con Sadin, sólo nos movilizan los intereses económicos y no nos preocupamos “por las consecuencias civilizatorias, que son cada vez más graves: el seguimiento, la videovigilancia, la evaluación algorítmica de personas”.
Las preocupaciones e intereses de Carrión pasan por pensar la IA desde otro lado: desde “las inteligencias no humanas que probablemente sean más parecidas en su modo de analizar el entorno a las plantas que a los hombres”, hasta esta idea de que “si el GPT-4 ha leído a su manera —que no es la nuestra— millones de textos, de algún modo tiene algo así como el inconsciente colectivo en su sistema y puede trabajar con él de un modo más preciso que nosotros”.
¿Una catástrofe civilizatoria?
Sobre “las gigantescas consecuencias revolucionarias de la Inteligencia Artificial desde el punto de vista jurídico-político, civilizatorio, antropológico y cultural” ya discutió Sadin en La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical (2020). Para él la cuestión hoy debe plantearse desde la dimensión de la moralidad, de la dignidad e integridad humanas, el derecho natural a enunciarnos en primera persona y hacer valer nuestra libertad en el lenguaje y en nuestras acciones.
De eso sabe bien Carrión, quien reconoce y asume la convivencia poliédrica entre lógicas análogas y digitales, entre humanos y máquinas, la coexistencia de lo clásico con lo viral y lo experimental. Una muestra clara es Los campos electromagnéticos, inspirado en el artefacto de escritura automática Los campos magnéticos que escribieron a cuatro manos los surrealistas franceses André Breton y Philippe Soupault en 1919.
Más de 100 años después Carrión retomó la idea, ahora en forma de escritura automatizada. A esa libertad en el lenguaje de la que habla Sadin es la que el español abre paso con ensayos y tecnologías, formas experimentales del lenguaje, lectura algorítmica y otros conceptos homólogos. El resultado: un libro escrito en conjunto con los ingenieros y artistas de Taller Estampa, sumado a la labor de GPT-2 y GPT-3, aplicaciones de chatbot que se especializan en sostener conversaciones bajo un particular modelo de lenguaje por IA que requiere un entrenamiento previo.
Reclama Sadin que “nuestras acciones son Inteligencia Artificial” y Carrión da buena cuenta de esta sentencia: adiestró un GPT-2 para que escribiera como él y “dado que estamos en el centenario del surrealismo y que el GPT-2 escribía de un modo muy surreal, se me ocurrió una vuelta de tuerca: hacer el remake de un libro emblemático de la escritura automática como es Los campos magnéticos”.
El también autor de Lo viral (2020) obró como “editor, arquitecto y DJ que remezcla, corrige y decide dónde va cada cosa” además de añadir dos ensayos “que de algún modo hacen que el artefacto funcione”. Eso: un artefacto de creación y lenguaje. Con la escritura automática, afirma Carrión, Breton y Soupault descubrieron “un mecanismo y una vía de libertad creativa que pusieron en marcha una máquina cuyas consecuencias van a recorrer todo el siglo XX y todavía son fértiles en el siglo XXI”. Es un ejercicio de creación y lenguaje que puede sortear los problemas que encuentra Sadin respecto a la omnipresencia de la IA generativa, a la que considera un huracán cultural y de civilización.
El filósofo francés anticipa una renuncia a la expresión de nuestras facultades más fundamentales. Carrión no encuentra tal abdicación, al menos en los campos literarios y de las artes: “Hace ya 30 o 40 años que se escriben literatura electrónica, literatura digital, literatura hipertextual, sólo que ninguna obra de ese tipo ha entrado en el canon. Las redes neuronales ya escriben literatura, si la entendemos como textos que circulan y que son peores que los que escriben ellas —hay autores publicados y famosos que escriben peor que el GPT-4”.
Para el autor de Contra Amazon (2019) y creador de Booklovers, una serie documental sobre librerías y bibliotecas recién estrenada en la plataforma gratuita CaixaForum+, “cuando algo emerge no tiene forma, es inclasificable, incómodo y con el tiempo se va consolidando, o no, o desaparece. Ahora estamos ante la emergencia de la literatura algorítmica y de las imágenes algorítmicas que son amorfas, extrañas, inconcretas. Su desarrollo es cuestión de tiempo y grandes artistas humanos trabajarán con ellas”.
De nuevo, la moralidad que destaca Sadin como “la preservación del hogar, del fuego vivo que hay dentro de nosotros”. Esa llama abrasadora es un futuro no muy diferente del presente, como lo vislumbra Carrión, complejo y contradictorio: “Ahora habrá zonas de utopía y zonas de distopía, habrá tecnologías nuevas y, al tiempo, personas que vivirán en ambientes rurales, selváticos”.
Dice Sadin que la religión hoy no es la tecnología, sino ser crítico con ella. Para Carrión el futuro de la mano de la tecnología será “un hundimiento sin ruinas y sin destrucción aparente”. Un huracán, sí; una catástrofe, tal vez. Todo está por verse.
FOTO: El escritor y filósofo francés Eric Sadin (París, 1973), autor de La silicolonización del mundo. La irresistible expansión del liberalismo digital (2018). /Maria Eugenia Cerutti
« Lupe Rumazo y otros pendientes “Cuando el escritor juega a la política, afecta su literatura”, dice Leonardo Padura en entrevista »
