Tristan Harris
2,185,463 views • 17:00

Imaginez entrer dans une salle, une salle de contrôle avec des personnes, une centaine de personnes autour d'un bureau avec des boutons et que cette salle de contrôle façonnera les pensées et émotions d'un milliard de personnes. Cela semble être de la science-fiction mais cela existe actuellement, aujourd'hui.

Je le sais car j'étais dans une de ces salles de contrôle. J'étais déontologue en conception chez Google, où j'ai étudié comment orienter les pensées des gens de façon éthique. Nous ne parlons pas de comment les quelques personnes travaillant dans les quelques entreprises en technologie orienteront, à travers leurs choix, les pensées d'un milliard de personnes. Quand vous sortez votre téléphone et qu'ils conçoivent son fonctionnement et le fil d'actualités, cela organise de petits blocs de temps dans notre esprit. Si vous voyez une notification, cela vous programme des pensées que vous n'aviez peut-être pas prévues. Si vous cliquez sur cette notification, cela vous programme à passer un peu de temps à être aspiré par quelque chose que vous n'aviez pas prévu. En parlant de technologie, nous en parlons comme d'une opportunité ouverte pouvant aller n'importe où. Je vais être sérieux un instant et vous dire pourquoi cela va dans une direction spécifique. Cela n'évolue pas aléatoirement. Il y a un but caché donnant la direction de toutes les technologies créées et ce but est la course pour notre attention. Tout nouveau site — TED, les élections, les politiques, les jeux, même les applis de méditation — doivent se battre pour une chose : notre attention, et elle est limitée. La meilleure façon d'obtenir l'attention des gens est de connaître le fonctionnement de leur cerveau. Il y a des techniques de persuasion que j'ai apprises dans un labo, le Labo de la Technologie Persuasive, afin d'obtenir l'attention des gens.

Un exemple simple est YouTube. YouTube veut maximiser le temps que vous y passez. Que font-ils ? Ils lancent automatiquement la vidéo suivante. Disons que cela fonctionne très bien. Ils obtiennent un peu plus du temps des gens. Si vous êtes Netflix, vous voyez cela et pensez que cela réduit votre part de marché, alors vous lancez automatiquement l'épisode suivant. Mais si vous êtes Facebook, vous pensez que cela réduit votre part de marché, alors vous lancez automatiquement toutes les vidéos au lieu d'attendre que l'on clique. Internet n'évolue pas aléatoirement. La raison pour laquelle on a l'impression qu'il nous aspire ainsi est à cause de cette course à l'attention. Nous savons où cela va. La technologie n'est pas neutre et cela devient cette course à la base du tronc cérébral de qui s'abaissera le plus pour l'obtenir.

Laissez-moi vous présenter un exemple de Snapchat. Si vous l'ignorez, Snapchat est le moyen de communication principal des adolescents aux Etats-Unis. Si vous êtes comme moi et utilisez les SMS pour communiquer, Snapchat est l'équivalent pour ados et un million d'entre eux l'utilisent. Ils ont inventé une fonctionnalité, Snapstreak, qui montre le nombre de jours d'affilée où deux personnes ont communiqué l'une avec l'autre. En d'autres mots, ce qu'ils ont fait c'est donner à deux personnes une chose à ne pas perdre. Si vous êtes un adolescent et avez 150 jours d'affilée, vous ne voulez pas les perdre. Pensez aux petits blocs de temps prévus dans l'esprit des enfants. Ce n'est pas théorique : en vacances, ils donnent leur mot de passe à des amis, jusqu'à cinq d'entre eux, pour préserver leurs Snapstreaks, même s'ils ne le peuvent pas. Et ils en ont une trentaine, ils doivent donc prendre des photos de photos ou de murs ou de plafonds pour passer la journée. Ils n'ont même pas de réelles conversations. Nous avons la tentation de dire qu'ils utilisent Snapchat comme nous utilisions le téléphone. C'est probablement normal. Ce que nous oublions c'est que dans les années 70, quand vous papotiez au téléphone, il n'y avait pas 100 ingénieurs de l'autre côté de l'écran connaissant exactement votre psychologie et orchestrant de vous confiner ensemble à une contrainte.

Si cela vous scandalise un peu, remarquez que cette pensée vous envahit. L'indignation est une très bonne façon d'obtenir votre attention car on ne choisit pas de s'indigner. Cela nous arrive. Le fil d'actualités de Facebook, qu'il le veuille ou non, tire profit de l'indignation. Car l'indignation ne prévoit pas simplement une réaction à un moment et dans un espace émotionnels pour vous. Nous voulons partager cette indignation avec d'autres. Nous voulons partager et dire : « Tu crois à ce qu'ils ont dit ? » L'indignation fonctionne très bien pour attirer l'attention, si bien que si Facebook devait choisir entre un fil d'actualités scandaleuses et un fil d'actualités calmes, ils choisiraient les actualités scandaleuses non pas consciemment mais parce que cela attire plus votre attention. La salle de contrôle du fil d'actualités n'a pas de comptes à nous rendre. Elle doit simplement maximiser l'attention. Elle est aussi responsable, à cause du modèle de publicité, envers quiconque payant le plus et entrant dans la salle de contrôle en disant : « Ce groupe-là, je veux établir ces pensées dans leur esprit. » Vous pouvez cibler, vous pouvez cibler précisément un mensonge directement vers les gens les plus susceptibles. Puisque c'est rentable, cela ne va qu'empirer.

Je suis ici aujourd'hui car les coûts sont évidents. Je ne connais aucun problème plus urgent car ce problème est sous-jacent à tous les autres problèmes. Non seulement il compromet nos efforts pour concentrer notre attention, vivre notre vie désirée, il change aussi la façon dont nous tenons nos conversations, il change notre démocratie et il change notre capacité à avoir ces conversations et ces relations que nous voulons avoir. Il affecte tout le monde car un milliard de personnes ont ceci dans leur poche.

Comment arranger cela ? Nous devons effectuer trois changements radicaux en termes de technologie et de société. Premièrement, nous devons reconnaître que nous sommes influençables. Une fois que nous comprenons que l'on peut programmer des petites pensées ou des blocs de temps non désirés dans notre esprit, n'utiliserions-nous pas cette connaissance et ne nous protégerions-nous pas ? Nous devons avoir une vision fondamentalement nouvelle de nous-mêmes. Comme une nouvelle période de l'histoire, comme le Siècle des Lumières et aussi comme une prise de conscience de soi, nous sommes influençables et il y a peut-être quelque chose à protéger. Deuxièmement, il nous faut de nouveaux modèles et systèmes de responsabilisation pour que, alors que le monde s'améliore, devient de plus en plus persuasif — il ne peut que devenir de plus en plus persuasif — les gens dans ces salles de contrôle soient responsables, transparents quant à nos désirs. La seule forme de persuasion éthique qui existe c'est si les objectifs de celui qui persuade sont alignés avec ceux de celui qui est persuadé. Il faut remettre en question des choses comme le modèle commercial de la publicité. Finalement, il faut un renouvellement de la conception car une fois que vous avez cette vision de la nature humaine, vous pouvez contrôler les calendriers d'un milliard de personnes. Imaginez, il y a des gens qui ont des désirs quant à ce qu'ils veulent faire et ce qu'ils veulent penser et ce qu'ils veulent ressentir et comment ils veulent être informés et ils sont traînés dans d'autres directions. Un milliard de personnes sont traînées dans d'autres directions. Imaginez une renaissance de la conception qui essayait d'orchestrer la façon exacte et la plus stimulante de bien passer son temps. Cela impliquerait deux choses : nous protéger de ces calendriers selon lesquels nous ne voulons pas vivre, ces pensées que nous ne voulons pas avoir pour que lorsque la sonnerie retentit, cela ne nous accapare pas ; deuxièmement, nous pousser à vivre à notre propre rythme.

Voici un exemple concret. Aujourd'hui, votre ami annule votre dîner ensemble et vous vous sentez un peu seul. Que faites-vous ? Vous ouvrez Facebook. A ce moment-là, les concepteurs dans la salle de contrôle veulent une chose : maximiser le temps passé devant votre écran. Imaginez plutôt si ces concepteurs avaient un autre objectif : la façon la plus simple, grâce à toutes leurs données, de vous aider à sortir avec les gens que vous aimez. Pensez-y, alléger la solitude dans notre société, si c'était le programme que Facebook voulait permettre aux gens. Ou imaginez une autre conversation. Disons que vous vouliez poster quelque chose de controversé sur Facebook, il est très important de pouvoir faire cela, parler de sujets controversés. Actuellement, quand il y a cet espace commentaire, il vous incite presque à écrire. En d'autres mots, cela prévoit un petit programme de choses que vous allez continuer à faire sur l'écran. Imaginez plutôt qu'il y ait un autre bouton demandant : « Comment utiliser au mieux votre temps ? » « Organiser un dîner » Juste en dessous, cela dit : « Qui veut réserver pour le dîner ? » Vous auriez toujours une conversation sur un sujet controversé, mais vous l'auriez à l'endroit le plus stimulant : chez vous, ce soir-là, avec des amis, pour en discuter. Imaginez que nous faisions un « chercher et remplacer » sur tous les programmes qui nous traînent actuellement vers de plus en plus de temps devant l'écran et que nous remplacions ces programmes par ce que nous voulons faire de notre vie.

Cela n'a pas à être ainsi. Au lieu d'handicaper notre attention, imaginez si nous utilisions toutes ces données, tout ce pouvoir, cette nouvelle vision de l'Homme pour nous donner une capacité de concentration surhumaine, une capacité surhumaine à prêter attention à ce qui nous importe, une capacité surhumaine à avoir les conversations que nous devons avoir pour la démocratie. Les défis les plus complexes au monde ne nécessitent pas seulement notre attention individuelle. Ils nécessitent notre attention et une coordination collectives. Le changement climatique va nécessiter que beaucoup de gens puissent coordonner leur attention de la façon la plus stimulante, ensemble. Imaginez créer une capacité surhumaine pour faire cela.

Parfois, les problèmes les plus importants et urgents du monde ne sont pas ces choses hypothétiques que nous pourrions créer à l'avenir. Parfois, les problèmes les plus urgents sont ceux juste sous notre nez, les choses qui dirigent déjà les pensées d'un milliard de personnes. Peut-être qu'au lieu d'être enthousiastes pour la réalité augmentée et la réalité virtuelle et ces choses cool pouvant arriver qui vont être sujettes à la même course à l'attention, si nous pouvions orienter la course à l'attention ce qui est déjà dans les poches d'un milliard de personnes. Au lieu d'être enthousiastes pour les nouvelles applications éducatives excitantes, cool et sophistiquées, nous pourrions corriger comment les enfants sont manipulés et poussés à s'échanger des messages vides.

(Applaudissements)

Au lieu de s'inquiéter d'hypothétiques et futures intelligences artificielles folles qui n'ont qu'un objectif, nous pourrions réparer l'intelligence artificielle folle qui existe actuellement et qui sont ces fils d'actualités qui n'ont qu'un objectif. C'est presque comme si au lieu d'aller coloniser d'autres planètes, nous pouvions réparer celle sur laquelle nous sommes.

(Applaudissements)

Résoudre ce problème offrirait l'infrastructure essentielle à la résolution de tous les autres. Il n'y a rien dans notre vie ou nos problèmes collectifs ne nécessitant pas notre capacité à nous concentrer sur ce qui nous importe. A la fin de notre vie, il ne nous reste que notre attention et notre temps. Comment bien utiliser notre temps ?

Merci.

(Applaudissements)

Chirs Anderson : Tristan, merci. Restez ici un instant. Tout d'abord, merci. Cette présentation a été demandée il y a peu de temps et votre semaine a été stressante, travaillant à cela, alors merci. Certains qui écoutent pourraient dire que vous vous plaignez d'addiction et que pour les gens faisant cela, c'est vraiment intéressant. Les décisions de conception ont créé un contenu utilisation incroyablement intéressant. Le monde est plus intéressant que jamais. Qu'y a-t-il de mal à cela ?

Tristan Harris : Je pense que c'est intéressant. Une façon de le voir est si vous êtes YouTube, par exemple, vous voulez toujours montrer la vidéo la plus intéressante. Vous voulez améliorer la suggestion de la prochaine vidéo, mais même si vous pouviez proposer la vidéo parfaite que tout le monde voudrait voir, vous n'améliorerez que votre capacité à garder les gens devant l'écran. Ce qu'il manque dans l'équation est de trouver où sont les limites. Il faudrait que YouTube connaisse la notion de sommeil. Le PDG de Netflix a dit récemment : « Nos compétiteurs sont Facebook, YouTube et le sommeil. » Nous devons reconnaître que l'architecture humaine est limitée et qu'il y a des limites ou des dimensions de notre vie que nous voulons voir honorées et respectées et la technologie pourrait aider.

(Applaudissements)

CA : Pourriez-vous dire qu'une part du problème est que nous avons un modèle naïf de la nature humaine ? Tant de choses sont justifiées par la préférence humaine, nous avons ces algorithmes faisant un super boulot, optimisant pour la préférence humaine, mais quelle préférence ? Il y a les préférences des choses qui nous importent quand nous y pensons versus celles de ce sur quoi nous avons instinctivement cliqué. Si nous pouvions implanter une vue plus nuancée de la nature humaine dans la conception, cela serait-il du progrès ?

TH : Absolument. Actuellement, c'est comme si notre technologie demandait à notre cerveau reptilien comment, impulsivement, nous faire faire de notre temps la prochaine petite chose au lieu de demander comment vous utiliseriez au mieux votre temps. Quel serait le programme parfait pouvant inclure des prévisions, comment bien utiliser votre temps durant votre dernier jour à TED ?

CA : Donc si Facebook et Google et tous les autres disaient : « Aimeriez-vous optimiser votre cerveau réflectif ou votre cerveau reptilien ? Choisissez. »

TH : Ce serait une façon de faire, oui.

CA : Vous avez parlé d'influence, c'est un mot intéressant car, à mon avis, il y a deux types d'influence. Il y a celle que nous essayons, celle de la raison, la réflexion, l'argumentation, mais vous parlez presque d'une influence différente, plus viscérale, celle d'être convaincu sans savoir ce que l'on pense.

TH : Exactement. Ce problème me tient à cœur car j'ai étudié au labo de la Technologie Persuasive à Stanford qui enseigne ces techniques aux gens. Il y a des conférences, des ateliers qui enseignent ces façons dissimulées d'obtenir l'attention des gens et d'orchestrer leur vie. Le fait que la plupart des gens en ignorent l'existence rend cette conversation si importante.

CA : Tristan, vous et moi connaissons tant de monde dans ces entreprises. Il y en a plein dans la pièce et, je ne sais pas pour vous, mais mon expérience est qu'ils ne manquent pas de bonnes intentions. Les gens veulent un monde meilleur. Ils sont — ils le veulent vraiment. Je ne crois pas que vous disiez que ces gens sont maléfiques. C'est un système où il y a des conséquences inattendues qui est hors de contrôle —

TH : La course à l'attention. La course classique vers les bas-fonds pour obtenir l'attention, c'est très tendu. Pour en obtenir plus, il faut descendre le tronc cérébral, descendre dans l'outrage, descendre dans l'émotion, descendre dans le cerveau lézard.

CA : Merci de nous avoir aidés à devenir plus éclairés à ce propos.

Tristan Harris, merci. TH : Merci beaucoup.

(Applaudissements)