Jaron Lanier
2,408,642 views • 14:54

En los 80 di mi primera charla en TED, y traje una de las primeras demostraciones públicas de realidad virtual vistas en este escenario. En ese momento, sabíamos que nos enfrentábamos a un futuro que era un arma de doble filo en el que la tecnología que necesitábamos, la tecnología que amábamos, podía ser también nuestra perdición. Sabíamos que si pensábamos en nuestra tecnología como un medio para tener más poder, que si era solo un viaje de poder, al final nos destruiríamos a nosotros mismos. Eso es lo que ocurre cuando están en una lucha de poder y nada más.

Así que el idealismo de la cultura digital de entonces era comenzar reconociendo esa posible oscuridad e intentar imaginar una forma de superarla con belleza y creatividad.

Solía acabar mis primeras charlas TED con una línea bastante espeluznante: "Tenemos un desafío. Tenemos que crear una cultura tecnológica que sea tan bella, tan significativa, tan profunda, tan infinitamente creativa, provista de un potencial tan infinito que nos aleje de cometer suicidio en masa". Así que hablábamos de la extinción considerándola lo mismo que la necesidad de crear un futuro atractivo, infinitamente creativo. Y todavía creo que la alternativa de la creatividad como alternativa a la muerte es muy real y auténtica, quizás lo más real que haya.

En el caso de la realidad virtual... bueno, yo solía hablar de ella como algo parecido a lo que ocurrió cuando la gente descubrió el lenguaje. Con el lenguaje venían nuevas aventuras, nueva profundidad, nuevos significados, nuevas formas de conectar, de coordinar, nuevas formas de imaginar, nuevas formas de educar a los niños, e imaginaba que con la realidad virtual, habíamos conseguido algo nuevo que sería como una conversación, pero también como despertar de un estado de sueño intencional. Lo llamamos comunicación postsimbólica, porque sería como hacer directamente las cosas que experimentan en vez de hacer indirectamente símbolos para referirse a esas cosas.

Era una hermosa visión, y todavía creo en ella, y aunque tras esa bella visión también estaba el lado oscuro que podría surgir.

Supongo que podría mencionar a uno de los primeros científicos informáticos cuyo nombre era Norbert Wiener, que escribió un libro en los años 50, antes incluso de que yo naciera, llamado "El uso humano de los humanos". En el libro, él describía el potencial para crear una computadora que iría recopilando datos de la gente y proporcionando valoraciones a esas personas en tiempo real para ponerlos parcialmente, estadísticamente, en una caja de Skinner, en un sistema conductista. Y tiene esta increíble línea que dice, uno podría imaginar, como un experimento mental, —estoy parafraseando esto no es una cita— uno podría imaginar un sistema informático global en que todos tengan dispositivos todo el tiempo, y los dispositivos les va dando valoraciones basadas en lo que hicieron, y toda la población está sujeta a un grado de modificación de conducta. Y tal sociedad estaría demente, no podría sobrevivir, no podría enfrentar sus problemas.

Y luego dice, pero esto es solo un experimento mental, y tal futuro es tecnológicamente inviable.

(Risas)

Y, sin embargo, por supuesto, esto es lo que hemos creado, y es lo que debemos deshacer si queremos sobrevivir. Así que...

(Aplausos)

Creo que cometimos un error muy particular, y esto sucedió al principio, y si entendemos el error que cometimos, podemos deshacerlo. Esto sucedió en los años 90, y casi cambiando de siglo, y aquí tienen lo que ocurrió. La antigua cultura digital y, de hecho, la cultura digital hasta nuestros días, tenía un sentido de, yo diría, misión socialista izquierdista, que a diferencia de otras cosas que se han hecho, como la invención de los libros, todo en internet debe ser puramente público, debe estar disponible de forma gratuita, porque aunque solo una persona no pueda permitírselo, se crearía esta terrible injusticia. Por supuesto ahora, hay otras formas de lidiar con eso. Si los libros cuestan dinero, pueden tener bibliotecas públicas. Etcétera. Pero estábamos pensando, no, no, no, esta es una excepción. Esto debe ser puro patrimonio público, eso es lo que queremos.

Y para que ese espíritu siga vivo. Puedan experimentarlo en diseños como la Wikipedia, por ejemplo, muchos otros. Pero al mismo tiempo, también creímos, con igual fervor, en esta otra cosa que era completamente incompatible, que es que nos encantan nuestros empresarios tecnológicos. Nos encantaba Steve Jobs; amábamos este mito nietzscheano del técnico que podría mellar el universo. ¿Correcto? Y ese poder mítico todavía nos domina, también. Entonces tienen estas dos pasiones diferentes, por hacerlo todo gratis y por ese poder casi sobrenatural del emprendedor tecnológico. ¿Cómo celebran el espíritu empresarial cuando todo es gratis?

Bueno, solo había una solución en ese momento, que era el modelo publicitario. Y así pues, nació Google gratis, con anuncios, nació Facebook gratis, con anuncios. Ahora, al principio, era adorable, como con los primeros Google.

(Risas)

Realmente eran pocos anuncios. Serían, como, su dentista local o algo así. Pero hay una cosa llamada ley de Moore que hace las computadoras cada vez más eficientes y más baratos. Sus algoritmos mejoran. De hecho, tenemos universidades donde la gente los estudian, y los hacen cada vez mejores. Y los clientes y otras entidades que usan estos sistemas se vuelven cada vez más experimentados y cada vez más inteligentes. Y lo que comenzó como publicidad realmente no se puede llamar más publicidad. Se convirtió en modificación de la conducta, lo que a Norbert Wiener le preocupaba que podría ocurrir.

Y ya no puedo llamar más a estas cosas redes sociales. Los llamo imperios de modificación de conducta.

(Aplausos)

Y me niego a vilipendiar a las personas. Tengo amigos queridos en estas compañías, vendí una compañía a Google, aunque creo que es uno de estos imperios. No creo que esto sea cuestión de malas personas que han hecho algo malo. Creo que esto es una cuestión de error globalmente trágico, y asombrosamente ridículo, más que una ola de maldad.

Permítanme darles solo otra capa de detalles sobre cómo funciona este particular error. Entonces con el conductismo, le dan a la criatura, ya sea una rata, un perro o una persona, pequeños premios y a veces pequeños castigos como respuesta a lo que hacen. Así, si tienen un animal en una jaula, podrían ser dulces y descargas eléctricas. Pero si tienen un teléfono inteligente, no son esas cosas, son castigos y recompensas simbólicas. Pavlov, uno de los primeros conductistas, demostró el famoso principio. Uds. podrían entrenar a un perro a salivar solo con la campana, solo con el símbolo. Así en las redes sociales, el castigo social y la recompensa social funcionan como castigos y recompensas. Y todos sabemos lo que provocan estas cosas. Consiguen esta emoción: "Oh, mis cosas gustaron y las están repitiendo". O el castigo: "Oh, Dios mío, no gusto, hay alguien más popular, oh Dios mío". Entonces tienen esos dos sentimientos muy comunes, y están repartidos de tal manera que les atrapan en este ciclo. Como se ha reconocido públicamente por muchos de los fundadores del sistema, todos sabían que esto era lo que estaba pasando.

Pero la cuestión es esta: tradicionalmente, en el estudio académico de los métodos del conductismo, se han hecho comparaciones de los estímulos positivos y negativos. En este contexto, un contexto comercial, hay un nuevo tipo de diferencia que por un tiempo ha sido un poco evadido por el mundo académico, y esa diferencia es que si bien los estímulos positivos en diferentes circunstancias son más efectivos que los negativos, los negativos son más baratos. Son los estímulos de oferta. Por tanto, lo que quiero decir es que es mucho más fácil perder la confianza que construir confianza. Lleva mucho tiempo construir amor. Lleva poco tiempo arruinar el amor.

Ahora los clientes de estos imperios de modificación de conducta están en un bucle muy rápido. Son casi como comerciantes de alta frecuencia. Están recibiendo datos de sus gastos o de cualesquiera que sean sus actividades si no están gastando, y ven lo que funciona, y luego hacen más de eso. Y así están obteniendo esa respuesta rápida, es decir están respondiendo más a las emociones negativas, porque son las que que suben más rápidas, ¿verdad? Y por esto, incluso los jugadores bien intencionados que piensan que lo que están haciendo es anunciar pasta de dientes terminan fomentando la causa de las personas negativas, las emociones negativas, los excéntricos, los paranoicos, los cínicos, los nihilistas. Esos son los que se amplifican con el sistema. Y no pueden pagar a una de estas compañías para hacer que el mundo de pronto sea agradable y mejore la democracia tan fácilmente como pueden casi pagar para arruinar esas cosas Y este es el dilema en el que nos hemos metido.

La alternativa es hacer retroceder el reloj, con gran dificultad, y rehacer esa decisión. Rehacerlo significaría dos cosas. Significaría primero que muchas personas, esas que podrían pagarlo, de hecho pagarían, por estas cosas. Uds. pagarían por la búsqueda, pagarían por las redes sociales. ¿Cómo pagarían? Tal vez con una tarifa de suscripción, tal vez con micropagos mientras las usan. Hay muchas opciones. Si algunos de Uds. rebufan, y están pensando, "Oh Dios mío, yo nunca pagaría por estas cosas. ¿Cómo podrían conseguir que alguien pague? Quiero recordarles algo que acaba de ocurrir. En esos mismos momentos que empresas como Google y Facebook estaban formulando su idea libre, mucha cultura cibernética también creía que en el futuro, las televisiones y las películas se crearían de la misma manera, algo así como la Wikipedia. Pero entonces, las empresas como Netflix, Amazon, HBO, dijeron: "En realidad, ya saben, suscríbanse. Le daremos una buena TV". ¡Y funcionó! Ahora estamos en este período llamado "el pico televisivo", ¿verdad? Así que, a veces cuando pagan por cosas, estas mejoran.

Podemos imaginar un hipotético...

(Aplausos) Podemos imaginar un mundo hipotético de "el pico de los medios sociales". ¿Cómo seria? Significaría que cuando los usen, Uds. pueden conseguir consejos, médicos acreditados realmente útiles en vez de chiflados. Podría significar que si quieren obtener información objetiva, no hay miles de teorías de conspiración paranoicas y raras. Podemos imaginarnos esta otra maravillosa posibilidad. Ah. Sueño con eso. Creo que es posible. Estoy seguro de que es posible. Y estoy seguro de que las empresas, los Googles y los Facebook, de verdad lo harían mejor en este mundo. No creo que necesitemos castigar a Silicon Valley.

Solo tenemos que rehacer la decisión. De las grandes compañías tecnológicas, en realidad son solo dos las que dependen de la modificación de la conducta y el espionaje como plan de negocios. Son Google y Facebook.

(Risas) Y los amo chicos. De verdad. Al igual que la gente son fantásticas. Quiero señalar, si puedo, si miran a Google, ellos pueden propagar centros de costos infinitamente con todas estas empresas, pero no pueden propagar centros de beneficios. No pueden diversificarse, porque están enganchados. Están enganchados a este modelo, al igual que sus propios usuarios. Están en la misma trampa que sus usuarios, y no pueden llevar una gran corporación de esa manera. Así que esto es básica y totalmente en beneficio de los accionistas y todos los interesados en estas empresas. Es una solución beneficiosa para todos. Solo tomará algo de tiempo averiguarlo. Un montón de detalles que resolver,

totalmente factibles.

(Risas) No creo que nuestra especie pueda sobrevivir si no solucionamos esto. No podemos tener una sociedad en la que, si dos personas desean comunicarse, la única forma de hacerlo sea siendo financiada por una tercera persona

que desea manipularlas. (Aplausos)

(El aplauso termina) Mientras tanto, si las compañías no cambiasen,

borren sus cuentas, ¿de acuerdo?

(Risas)

(Aplausos) Es suficiente por ahora.

Muchas gracias. (Aplausos)