Kevin Slavin: Hoe algoritmes onze wereld bepalen

Dit is een foto van de kunstenaar Michael Najjar, en het is echt, in de zin dat hij naar Argentinië gereisd is om de foto te nemen. Maar het is ook fictie. Er is nadien veel werk in gestopt. Wat hij gedaan heeft, is digitaal de contouren van de bergen veranderen in het verloop van de Dow-Jonesindex. Dus wat je ziet, die hoge top, gevolgd door dat dal, is de financiële crisis van 2008. De foto werd gemaakt toen we diep in dat dal zaten. Ik weet niet waar we nu zitten. Dit is de Hang-Sengindex van Hong Kong. Gelijkaardige topografie. Hoe zou dat kunnen.

Dit is kunst. Het is beeldspraak. Maar ik denk dat dit beeldspraak is met tanden. Het is met deze tanden dat ik wil voorstellen dat we eens nadenken over de rol van wiskunde tegenwoordig -- niet slechts financiële wiskunde, maar wiskunde in het algemeen. Haar verandering van iets dat we onttrekken aan en afleiden uit de wereld naar iets dat de wereld begint te vormen -- de wereld rondom ons en de wereld in ons. Het gaat specifiek over algoritmes, hetgeen de wiskunde is die computers gebruiken om beslissingen te nemen. Ze verwerven de logica van waarheid want ze herhalen zich keer op keer. Ze verstenen en verkalken, en ze worden werkelijk.

Ik dacht hierover na tijdens een transatlantische vlucht, enkele jaren geleden, want ik werd geplaatst naast een Hongaarse natuurkundige van mijn leeftijd en we spraken over hoe het leven tijdens de koude oorlog er uitzag voor natuurkundigen in Hongarije. Ik vroeg: "Wat deed je zoal?"

Hij zei: "We waren voornamelijk stealth aan het breken".

Ik zei: "Da's een goeie baan. Dat is interessant. Hoe werkt zoiets?" Om dit te begrijpen, moet je enigszins begrijpen hoe stealth werkt. Dus -- dit is een oversimplificatie -- maar waar het op neerkomt is: je kunt geen radarsignaal dwars door 156 ton staal laten gaan. Het zal niet zomaar verdwijnen. Maar wanneer je dat grote, solide ding zou kunnen veranderen in een miljoen kleine dingen -- iets als een zwerm vogels -- dan zal de radar die ernaar speurt in staat moeten zijn om elke zwerm vogels te zien in de lucht. Als je een radar bent, is dat een hondenbaan.

Hij zei: "Dat klopt... maar dat is als je een radar bent. Dus we gebruikten geen radar; we bouwden een zwarte doos die naar elektrische signalen speurde, elektronische communicatie. Telkens als we een zwerm vogels zagen met elektronische communicatie, dachten we: heeft waarschijnlijk iets met de Amerikanen te maken".

Ik zei: "Jaah, Da's niet mis. Dus je hebt feitelijk 60 jaar aeronautisch onderzoek tenietgedaan. Wat is je tweede akte? Wat ga je doen als je groot bent?" Hij zei: "Nou, financiële diensten." Ik zei: "Oh." Want die waren de laatste tijd in het nieuws geweest. Ik zei: "Hoe werkt dat?" Hij zei: "Nou, er werken tegenwoordig 2000 natuurkundigen op Wall Street; ik ben er eentje van". Ik zei: "Wat is de Zwarte Doos voor Wall Street?"

Hij zei: "Dat is ook toevallig... Het heet namelijk "black box-handel". Het wordt ook wel algohandel genoemd, algoritmische handel". Algoritmische handel werd ontwikkeld, deels omdat institutionele handelaren dezelfde problemen hebben als de Amerikaanse luchtmacht had, namelijk dat ze posities verplaatsen -- hetzij Proctor and Gamble of Accenture, wat dan ook -- ze sturen een miljoen aandelen van iets door de markt. Als ze dat in één keer doen, lijkt het op een pokerspel waarbij je meteen alles inzet. Je gooit de boel volledig open. Dus moeten ze een manier vinden -- en daar gebruiken ze algoritmes voor -- om dat grote ding te splitsen in een miljoen kleine transacties. De magie en de horror daarvan is dat dezelfde wiskunde die je gebruikt om het grote te splitsen in een miljoen kleine dingen, gebruikt kan worden om een miljoen kleine dingen op te sporen en weer samen te voegen en uit dokteren wat er nu eigenlijk gebeurt in de markt.

Dus als je een idee wilt hebben van wat er momenteel gebeurt in de aandelenmarkt, kun je je een hoop algoritmes voorstellen die geprogrammeerd zijn om zich te verstoppen, en een hoop algoritmes, geprogrammeerd om ze te vinden en te handelen. Dat is allemaal mooi en goed. Het is goed voor 70 procent van de Amerikaanse aandelenmarkt, 70 procent van het besturingssysteem voorheen bekend als je pensioen, je hypotheek.

Wat zou er mis kunnen gaan? Wat er mis kon gaan, is dat een jaar geleden 9 procent van de totale markt zomaar verdwijnt binnen vijf minuten. Ze noemen het de flash crash van 2u45. Opeens is 9 procent weg, en tot op heden is niemand het er zelfs maar over eens wat er gebeurde, want niemand had de opdracht gegeven, niemand vroeg erom. Niemand had enige controle over wat er gebeurde. Alles wat ze hadden, was een monitor voor zich met daarop de cijfers en een rode knop met daarop "Stop".

En dat is het punt. We schrijven dingen die we niet langer kunnen lezen. We hebben iets gemaakt dat onleesbaar is. We hebben alle zicht verloren op wat er werkelijk gebeurt in die wereld die we gemaakt hebben. We beginnen nu hier een begin te maken. Er is een bedrijf in Boston genaamd Nanex, en zij gebruiken wiskunde en magie en weet ik wat niet allemaal, en ze graaien in de handelsgegevens en vinden soms daadwerkelijk deze algoritmes. Dan trekken ze die eruit en prikken ze aan de muur als een vlinder. Ze doen wat we altijd gedaan hebben als we voor massa's gegevens staan die we niet snappen -- ze geven ze een naam en een verhaal. Dit is er een dat ze vonden, genaamd het Mes, het Carnaval, de Boston Shuffler, Schemering.

De grap is dat deze zich uiteraard niet slechts door de markt bewegen. Je kunt deze dingen vinden waar je maar kijkt, als je weet waarop je moet letten. Je kunt het hier zien: dit boek over vliegen waarnaar je misschien gekeken hebt op Amazon. Het is je misschien opgevallen toen de prijs begon bij 1,7 miljoen dollar. Van een uitverkochte editie -- dan nog... (Gelach) Als je het had gekocht voor 1,7 was dat een koopje geweest. Een paar uur later was de prijs gestegen tot 23,6 miljoen dollar, plus verzendkosten. Het probleem is: Niemand kocht of verkocht iets; wat gebeurde er? Je ziet dit soort gedrag net zo makkelijk op Amazon als op Wall Street. Wanneer je dit ziet, aanschouw je het bewijs van algoritmes in conflict, algoritmes die in rondjes met elkaar draaien zonder enig menselijk toezicht, zonder ouderlijk toezicht dat zegt: "Weet je, 1,7 miljoen is wel genoeg".

(Gelach)

Zoals het bij Amazon is, is het ook met Netflix. Netflix heeft verscheidene algoritmes versleten de afgelopen jaren. Ze begonnen met Cinematch, en ze hebben er nog een paar geprobeerd. Er was Dinosaur Planet, er was Gravity. Nu gebruiken ze Pragmatic Chaos. Pragmatic Chaos heeft, net als alle Netflix-algoritmes, hetzelfde doel. Het probeert grip te krijgen op jou, op de firmware in de menselijke schedel, zodat het kan aanraden welke film je vervolgens zou kunnen bekijken -- hetgeen een zeer moeilijk probleem is. Maar de moeilijkheid van het probleem en het feit dat we het nog niet echt beheersen, doet niets af aan het effect dat Pragmatic Chaos heeft. Pragmatic Chaos bepaalt, net als de andere Netflix-algoritmes, uiteindelijk voor 60 procent welke films er gehuurd worden. Dus één stukje code met één idee over jou is verantwoordelijk voor 60 procent van al die films.

Maar wat als je die films zou kunnen beoordelen voordat ze gemaakt worden? Zou dat niet handig zijn? Welnu, een paar datawetenschappers uit Engeland zijn in Hollywood, en ze hebben verhaal-algoritmes. Het is een bedrijf genaamd Epagogix. Je kunt je script er doorheen halen, en dan vertellen zij je of dat een 30-miljoen-dollarfilm of een 200-miljoen-dollarfilm is. Het punt is: dit is niet Google. Dit is geen informatie. Dit zij geen financiële statistieken; dit is cultuur. Wat je hier ziet, of wat je niet ziet, normaal gesproken, is dat dit de natuurkunde van de cultuur is. Als deze algoritmes, net als die van Wall Street, op een dag zouden crashen en doordraaien, hoe zouden we dat dan kunnen weten? Hoe zou het er uitzien?

Ze zitten in je huis. In je huis. Dit zijn twee algoritmes die wedijveren om je woonkamer. Dit zijn twee verschillende schoonmaakrobots met heel verschillende ideeën over wat schoon betekent. Dat kun je zien als je er lampjes op monteert. Ze lijken op geheime architectjes in je slaapkamer. Het idee dat architectuur zelf doelwit is van algoritmische optimalisatie is niet vergezocht. Het is de realiteit en het gebeurt om je heen.

Je voelt het vooral wanneer je in een gesloten metalen doos zit, een lift-nieuwe-stijl, zogenaamde 'destination control'-liften. Dat zijn degene waarbij je moet aangeven naar welke verdieping je wilt, vóórdat je de lift binnenstapt. Het gebruikt een zogenaamd bin packing algoritme. Dus niet de gebruikelijke chaos waarbij iedereen maar lukraak een lift binnenstapt. Iedereen die naar de 10de etage wil, stapt in lift twee, en iedereen die naar de derde verdieping wil, stapt in lift vijf. Het probleem hiermee is dat mensen op tilt slaan. Mensen raken in paniek. En je ziet waarom. Je ziet waarom. Dat is omdat de lift belangrijke instrumenten mist, zoals de knoppen. (Gelach) De dingen die mensen gebruiken. Wat er wel is, is enkel een getal dat hoger of lager wordt en die rode knop waarop "Stop" staat. Dat is waarvoor we ontwerpen. We ontwerpen voor dit machinedialect. Hoe ver kun je dat doordrijven? Hoe ver ? Je kunt het heel, heel ver doordrijven.

Laten we even teruggaan naar Wall Street. Want de algoritmes van Wall Street zijn boven alles afhankelijk van één factor, en dat is snelheid. Ze opereren op millisecondes en microsecondes. Om je een idee te geven wat een microseconde is, het kost jou 500.000 microseconden om met een muis te klikken. Maar als je een Wall-Streetalgoritme bent, en je bent 5 microseconden te laat, ben je een loser. Dus als je een algoritme was, zou je op zoek gaan naar de architect die ik in Frankfurt ontmoette, die een wolkenkrabber aan het uithollen was -- alle meubilair eruit, alle infrastructuur voor menselijk gebruik, en enkel staal op de vloeren als voorbereiding op de komst van de servertorens -- allemaal zodat een algoritme dichtbij het internet komt te zitten.

Je denkt aan het internet als een verspreid systeem. Dat is het ook, maar het wordt verspreid vanaf bepaalde plekken. In New York is dit de bron van de verspreiding: het Carrier Hotel gelegen in Hudson Street. Dit is werkelijk waar de kabels de stad binnen komen. De realiteit is dat hoe verder je daar vandaan zit, hoe meer microseconden je elke keer later bent. Deze jongens in Wall Street, Marco Polo en Cherokee Nation, zijn 8 microseconden later dan al die lui die in die lege gebouwen trekken, die uitgehold worden rondom het Carrier Hotel. Dat zal blijven gebeuren. We gaan ze blijven uithollen, want centimeter voor centimeter en pond voor pond en dollar voor dollar -- niemand van jullie zou omzet uit die ruimte kunnen persen zoals de Boston Shuffler dat kan.

Maar als je uitzoomt, als je uitzoomt, zou je een 1300 km lange geul zien tussen New York City en Chicago die gegraven is in de afgelopen jaren door een bedrijf genaamd Spread Networks. Dit is een glasvezelkabel die gelegd werd tussen die twee steden, enkel om één signaal te vervoeren, dat 37x sneller gaat dan jij met een muis kunt klikken -- enkel voor deze algoritmes, enkel voor het Carnaval en het Mes. Als je bedenkt dat we door de Verenigde Staten trekken met dynamiet en steenzagen opdat een algoritme een zakenbeslissing 3 microseconden sneller kan nemen, binnen een communicatie-omgeving die geen mens ooit zal kennen, is dat een soort manifeste lotsbestemming die altijd zal uitzien naar een volgende grens.

Helaas, ons werk staat op ons lijf geschreven. Dit is slechts theoretisch. Dit zijn enkele wiskundigen van MIT. De waarheid is dat ik niet echt begrijp waar ze het soms over hebben. Dan gaat het over kegels en kwantumverstrengelingen, en die dingen begrijp ik niet echt. Maar ik kan deze kaart lezen. Wat deze kaart zegt, is dat, als je geld probeert te verdienen waar de rode stippen zijn, dat is waar de mensen zijn, waar de steden zijn, dan zul je de servers moeten neerzetten op de blauwe stippen voor een maximale effectiviteit. En wat je misschien is opgevallen aan die blauwe stippen is dat veel daarvan midden in de oceaan liggen. Dus dat gaan we doen, we bouwen luchtbellen of zoiets, of platforms. We gaan het water scheiden om geld uit de lucht te trekken, want de toekomst lacht je toe als je een algoritme bent.

(Gelach)

Eigenlijk is het niet het geld dat zo interessant is. Het is waartoe dat geld aanzet. Dat we de aarde aan het omvormen zijn met dit soort algoritmische efficiëntie. In dat licht ga je terug en je kijkt naar Michael Najjar's foto's, en je beseft dat ze geen beeldspraak zijn, maar voorspellingen. Ze voorspellen de soort seismische, aardse effecten van de wiskunde die we scheppen. Het landschap werd altijd bepaald door een soort vreemde, ongemakkelijke samenwerking tussen natuur en mens. Maar nu is er een derde co-evolutionaire kracht: algoritmes -- de Boston Shuffler, het Carnaval. Die zullen we als natuur moeten gaan zien. Op een bepaalde manier zijn ze dat ook.

Dank je wel.

(Applaus)