Jaron Lanier: Desnudar el algoritmo
En su libro más reciente, Diez razones para borrar tus redes sociales de inmediato, el exgurú de las redes sociales y tránsfuga de Silicon Valley reivindica la creatividad como el motor de crecimiento sano de una comunidad, pero advierte que la única manera de lograrlo es fuera de la influencia de estas compañías tecnológicas
POR LÁSZLÓ ERDÉLYI
Todos saben que Google y Facebook espían, y que los datos que obtienen del comportamiento de los usuarios los utilizan para ganar dinero. Es una extracción brutal de riqueza al estilo del Rey Leopoldo en el Congo belga, en pleno colonialismo de hace más de 100 años. Pero el asunto no termina ahí. Los sofisticados algoritmos que mueven a estas gigantescas compañías están siendo programados para modificar la conducta; cuanto más irascibles y enojados estén los usuarios, más dinero les harán ganar.
El usuario, entonces, deja de ser un cliente a quien se le venden cosas, pasa a ser el producto a explotar. Todo eso es lo que viene diciendo Jaron Lanier desde hace varios años en sus libros, en sus conferencias, en sus charlas TEDx disponibles en YouTube. En una de ellas: “No podemos sobrevivir como una sociedad si, cuando dos personas desean comunicarse, la única forma en que pueden lograrlo es si los financia una tercera persona que los desea manipular”.
Hombre de Silicon Valley, filósofo de la tecnología y pionero de la realidad virtual, es autor de numerosos libros ya traducidos al español como Contra el rebaño digital (2011), Quién controla el futuro (2013) y El futuro es ahora (2019). Lanier es considerado por la Encyclopedia Britannica como uno de los 300 inventores más importantes de la historia del hombre. Es tan multifacético que se lo ha calificado como un renacentista del siglo XXI al estilo Leonardo da Vinci. También es músico y compositor de música de cámara y orquesta, y reivindica a la creatividad humana como el motor fundamental del crecimiento estable, tolerante y pacífico de una comunidad, de esas que desean vivir en democracia. Entiende que las mujeres y los hombres sólo serán mejores y felices tomando decisiones de forma autónoma y en función de su interés superior. Se dio cuenta que Google y Facebook no quieren eso.
Su cuarto y último libro se pone aún más radical, y suena casi a grito desesperado. Se titula Diez razones para borrar tus redes sociales de inmediato y llegó traducida al castellano en 2019 (disponible sólo en ebook, con una traducción bastante floja de Marcos Pérez Sánchez). Tiene una vigencia y una actualidad que asusta. No sólo porque el modelo de negocio extractivo y manipulador que mueve a estos gigantes tecnológicos sigue tan campante (Lanier logra demostrar que el propio modelo no les deja a ellos otra opción), sino porque ha crecido entre los usuarios de redes la disconformidad, la infelicidad y la frustración. Sienten que están presos en un lugar donde predomina la violencia, la furia y el grito, antes que la razón.
Cómo hacerlo
Lanier advierte que no es fácil vivir sin redes sociales, ni afrontar una decisión de este tipo. Por eso en Diez razones apela a razonar con un lenguaje simple, provocador.
No es un antitecnológico o un anticomputadoras. De hecho, advierte que si el usuario ha logrado sacar cosas positivas de las redes, nada de lo que dice su libro lo invalida. Pero sabe que, más allá de casos puntuales, las cosas están mal. Recomienda a Netflix y a HBO como modelos éticos donde el usuario paga y recibe contenidos a cambio. Punto. No hay otro intercambio, ni uso de datos para luego manipular la conducta del usuario. Lo mismo con los diarios o sitios de noticias: está bien pagar para que nos proporcionen insumos que nos permitan tomar las mejores decisiones en el día a día. Pagar es bueno, dice; ese es el modelo positivo, que nos permite a todos crecer.
El modelo negativo es el de Facebook, Google, Twitter, Whatsapp y demás. Aparentemente gratuito, aunque le entreguemos el alma. En la “Razón 1” del libro Diez razones, Lanier se centra en el poder de los algoritmos, y hace un paralelismo con la psicología conductista, aquella del pobre perro condicionado de Pavlov. Nada de acariciarlos o susurrarles; un simple estímulo mecánico y ya, la respuesta. “Diversos conductistas, muchos de los cuales eran bastante siniestros, aplicaron estos métodos en personas” escribe Lanier. A menudo lograban resultados, lo que alimentó la paranoia sobre los límites del “control mental” en películas de terror y ciencia ficción.
El algoritmo que busca modificar la conducta actúa de forma mucho más sutil. No nos entiende como podríamos entender a otra persona, pero recopila muchos datos sobre nosotros. Sobre lo que nos gusta, no nos gusta, cuántos segundos demoramos en tomar una decisión, si votamos o no. Esos datos se ponen en correlación con los de otros millones de personas con los que compartimos rasgos, situaciones, edades o niveles de ingreso. De esas correlaciones se obtienen datos fundamentales: cuándo estamos predispuestos para tal acción y cuándo no, si queremos apoyar tal o cual medida, si dudamos, y cuántos segundos ocupa esa duda, y si ese lapso varía. A partir de allí se evalúa qué hay que hacer para estimularlas. Pero no con patrones predecibles. Todo está enmascarado detrás de la “insondable aleatoriedad” del algoritmo, cuyo profundo misterio es muy seductor, advierte Lanier.
Para modificar la conducta, nada mejor que ofrecer placer a cambio. El agente neurotransmisor que actúa en nuestro cerebro para la obtención de placer es la dopamina. El primer presidente de Facebook, Sean Parker, lo aclaró: “Tenemos que proporcionarle una pequeña dosis de dopamina (al usuario) cada cierto tiempo, porque alguien dio un ‘me gusta’ o comentó una foto, una publicación o lo que sea (…). Es un bucle de retroalimentación de validación social (…) exactamente una de esas cosas que inventaría un hacker como yo para explotar una debilidad en la psicología humana (…). Los inventores, los creadores —alguien como yo, como Mark (Zuckerberg), Kevin Systrom de Instagram, toda esa gente— lo entendíamos de forma consciente. Y aun así, lo hicimos… (…). Cambia literalmente la relación de la persona con la sociedad, con los demás (…) vaya uno a saber lo que está haciendo con el cerebro de nuestros hijos”.
El exvicepresidente de crecimiento de usuarios en Facebook, Chamath Palihapitiya, ya tiene remordimientos: “A corto plazo, los bucles de retroalimentación a base de dopamina que hemos creado están destruyendo la manera en que funciona la sociedad (…). Ni debate público civilizado ni cooperación: desinformación, afirmaciones engañosas. Y no se trata de un problema estadounidense, no tiene nada que ver con la publicidad rusa. Es un problema global (…). Siento una tremenda culpabilidad. Creo que, en el fondo, todos lo sabíamos, aunque fingíamos que nos creíamos la idea esta de que probablemente no habría consecuencias imprevistas negativas. Pienso que, en el fondo, en lo más profundo, sabíamos que algo malo podía ocurrir (…). Así que, en mi opinión, la situación ahora mismo es realmente nefasta”.
La adicción. El algoritmo sabe que estamos pendientes de los otros, del qué dirán, y que las emociones como la ira y el miedo nos llevan a actuar con mayor rapidez y energía que cuando estamos en calma. Promueve las emociones negativas antes que las positivas.
El gran incordio
Lanier cree que tanto Facebook como Google son muy vulnerables. En la “Razón 2” para abandonar las redes pone en juicio su modelo de negocio. Entiende que carecen de dignidad económica, pues sus propietarios se enriquecen de manera exponencial mientras la riqueza de los usuarios sigue igual, o peor. Es un modelo extractivo, al mejor estilo del ya mencionado Rey Leopoldo de Bélgica en el Congo del siglo XIX. “Creo que las compañías deberían enriquecerse si crean cosas que las personas quieren, pero no que debamos aceptar que esto provoque una inseguridad cada vez mayor para nosotros. El capitalismo no debería ser un juego de suma cero”. Cita el caso de los músicos, cuyos ingresos han caído de forma drástica, por no decir escandalosa.
Eso es lo que las hace muy vulnerables, porque dependen pura y exclusivamente de tomar de forma gratuita los datos de los consumidores para sobrevivir. Igual que los países cuyas economías dependen exclusivamente de la extracción de petróleo: se basan en una única estrategia. Lanier afirma que dos de esas compañías, Google y Facebook, son las más expuestas. Microsoft, Apple y Amazon, a su vez, han sabido diversificarse y no dependen de este modelo.
En la “Razón 3” aborda el comportamiento idiota de los usuarios. El propio Lanier confiesa que tiene su propio lado idiota, y que debió lidiar con él. Sintió que se estaba convirtiendo en un adicto, cada vez más infeliz, en un mundo que amplifica lo que gritan los idiotas, donde se prioriza el comportamiento de manada, y el pensamiento confortable de manada. “Cuando somos lobos solitarios somos más libres”, dice. “Somos precavidos, pero también capaces de más alegría. Pensamos por nuestra cuenta, improvisamos, creamos”. En este punto Lanier puede sonar utópico; somos seres de rutinas, desde que nos levantamos en la mañana hasta que nos acostamos. Dedicamos muy poco tiempo a reinventarnos, a revisar conductas. No todos tienen la autonomía, la capacidad creativa e innovadora de un Jaron Lanier.
El otro gran problema de las redes es que las argumentaciones de los usuarios se plantean sin contexto. En la “Razón 5” se habla de los autores que promueven razonamientos o ideas en las redes sociales, aunque en realidad no saben a quién le escriben, y eso afecta de forma inevitable el rigor de lo que escriben. El entorno no los estimula a ser responsables. Es lo opuesto del periodismo. “El hecho de que el periodismo independiente esté en una situación complicada en las redes sociales es señal de integridad”. Los periodistas tienen estándares más altos de integridad que los influencers, pero han debido pagar un precio: ahora las noticias reales son fake news. Porque en las redes sociales, todo lo real es fake, por definición.
Otro problema de las redes es la pérdida de capacidad de empatía. Dice en la “Razón 6”: “La empatía es el combustible que mueve a una sociedad decente. En su ausencia, no hay más que áridas normas y luchas de poder”. Empatizar es entender al otro en sus virtudes y defectos. Pero los algoritmos de las redes sociales están calibrados para desbaratar esa posibilidad. “Nuestras propias opiniones son reforzadas de forma reconfortante, salvo cuando se presentan versiones irritantes de opiniones contrarias, calculadas por los algoritmos. Reconfortar o irritar: lo que capte más nuestra atención”. Para que aumente el tráfico y los dividendos de los accionistas de estas compañías.
Luego está el problema de la política, analizado en la “Razón 9”. Es decir, cómo este mundo falso, mentiroso, enfurecedor, que trae muy poca felicidad, está afectando a la democracia, a la capacidad de las sociedades para hacer política sana, esa que construye comunidad. Este es el punto más delicado, y quizás el menos explorado. Donald Trump como presidente Twitter es un ejemplo interesante, pero más son los líderes antiliberales que hoy pululan por el mundo, capaces de aplicar la misma dinámica de reafirmación o irritación en sus discursos; a la hora de polarizar, actúan como los algoritmos. En ese juego reafirman su base de poder. Lanier cree que las redes sociales debilita el proceso político de cooperación, y por lo tanto socava el futuro de la convivencia democrática. Las redes sociales no son ni de izquierda ni de derecha, ni progresistas ni conservadoras. Sólo son “pro paranoia, pro irascibilidad, y pro idiotas en general”.
La receta para escapar
Hacia el final del libro Lanier da algunos consejos. Por ejemplo, que no dejen internet, que usen email, pero no gmail. Que eviten leer las noticias que les proporcionan las redes, aun cuando sean de sitios prestigiosos; vayan directo a ellos en sus sitios web. Que se suscriban a diarios o servicios de noticias confiables, leyéndolos al menos tres veces al día. “Estarás mejor informado que antes”. Sugiere que frecuentes sitios web temáticos, y que mires mucho YouTube, pero sin ingresar con una cuenta Google. En una de sus charlas TEDx, Lanier insiste: “A veces, cuando pagamos por cosas, ellas mejoran un montón”.
“¡Abandona todas las redes!” grita Lanier al final. Cree que sólo una estampida obligará a los gigantes tecnológicos a cambiar, o le dará a los gobiernos señales para que los regulen. Sin embargo, somos seres paradójicos; sabe que la mayoría de las cosas que dice en el libro el usuario ya las sabe, y aun así continúa. La autonomía, a muchos, les provoca terror; nada como el confort del rebaño. “El poder de estas redes para atraparnos es formidable”. Pero “una vez que pruebes, te conocerás a ti mismo”.
FOTO: Jaron Lanier ha sido llamado renacentista, por ser un hombre multifacético; aquí lo vemos participar en el Garden of Memory Solstice Concert. / Crédito de foto: Especial
« Alfred Hitchcock presenta: cuentos que mi madre nunca me contó Facebook, un Estado autoritario: entrevista con la reportera Sheera Frenkel »
