Yuval Noah Harari: ”Makten skiftar just nu från människor till AI”

Efter den monumentala succén med Sapiens är en av vår tids mest inflytelserika författare tillbaka med en om möjligt ännu mörkare historia. ”Sanningen är att ingen styr. Det är kaos.” Så var finns hoppet?

Som så ofta med Yuval Noah Harari börjar allt med en saga. Han ser mig i ögonen, tar ansats innan han höjer händerna i luften likt en magiker redo att slunga en förtrollning över mig. Sagan han vill berätta handlar passande nog om en trollkarl och hans lärling. En dag reser den gamla trollkarlen bort, börjar Harari, och lämnar verkstaden till sin unga lärling som lockas av tanken på att finna ett lättare sätt att sköta arbetet. Han förtrollar en kvast så att den städar, men förlorar snart kontrollen. Lärlingen får panik och hugger kvasten itu, bara för att få två kvastar. Först när den gamla trollkarlen återvänder bryts förtrollningen. 

–Det är en berättelse om mänskligheten. Budskapet är: Frammana inte krafter som du inte kan kontrollera. Men vi gör det varje dag. Vi har kastat fram miljarder förtrollade kvastar i form av chatbotar och algoritmer som en dag kan komma att dränka oss. Problemet är att i verkligheten finns det ingen trollkarl som räddar oss på slutet. 

Ögonen lyser när Yuval Noah Harari återberättar historien från Goethes poem Trollkarlens lärling, en berättelse som också inleder hans nya bok Nexus. 

Vi sitter i en konferenskub med väggar av glas och ljus fanér på Stockholm Waterfront. Det är svalt och ljuset är dovt. Mälaren kastar då och då in sitt ljusspel genom de tonade fönsterrutorna. I bakgrunden hörs ett lågt mummel, och ibland applåder, från konferensen Future Talent Summit dit Harari är bjuden för att tala om artificiell intelligens. Ett ämne som har en central roll i hans nya bok. 

–Men… säger Harari plötsligt med eftertryck för att markera att en vändning kommer, berättelsen är felaktig!

Han ler lurigt och tar en konstpaus. För den som är bekant med den israeliska stjärnhistorikerns böcker är detta typiskt ”harariskt”, den oväntade vändningen. Att plötsligt kasta om perspektivet. 

–Berättelsen om trollkarlens lärling är inte särskilt användbar eftersom den inte stämmer. Den utgår från att en enskild individ kan ha denna makt. Men så har det aldrig fungerat i historien. Människor blir inte mäktiga på egen hand, utan genom att vara en del av gigantiska nätverk såsom företag, religioner, statsskick. Det är vad som skapar verklig makt, säger Harari och kommer till det som utgör kärnan i boken: Nexus är en berättelse om hur vi med hjälp av nätverk har erövrat planeten men också riskerar att förtäras av vår egen skapelse.

Yuval Noah Harari är en sagoberättare, en av vår tids mest framgångsrika. Det är hans förmåga att finna spännande, ibland dråpliga, ofta oväntade metaforer, liknelser och lärande berättelser som gjort honom så uppskattad och läst. Hans böcker är fulla av dem, hämtade från antika myter, populärkultur eller varför inte någon obskyr anekdot från Stalin-tiden. En mening kan börja i en Taylor Swift-låt, vandra vidare till en Star Wars-referens och sluta i det andra puniska kriget – inget konstigt alls i Hararis värld. Han använder berättelser på samma sätt som småbarnsföräldrar försöker truga i barn nyttigheter, lite majonnäs på statistiken. I Nexus: En kort historik över informationsnätverk från stenåldern till AI – hans viktigaste och allvarligaste bok hittills –ligger de strösslade över sidorna som munsbitar för att vi ska orka ta till oss det underliggande budskapet.  

Sedan genombrottet med Sapiens: en kort historik över mänskligheten för tio år sedan har Yuval Noah Harari återkommande värjt sig mot epitet som profet eller guru. Men frågan är om han med Nexus faktiskt har börjat finna sig i rollen. Denna gång är det nämligen en mörkare berättelse han vill delge världen. En berättelse, som han själv befarar, kan bli mänsklighetens sista.

Enligt Harari riskerar utvecklingen av artificiell intelligens inte bara att utplåna mänskligheten utan allt medvetet liv i universum. Det är med andra ord mycket som står på spel, vilket kanske är anledningen till att Harari alltmer låter som en gammaltestamentlig profet som vill rädda mänskligheten undan den kommande syndafloden. 

Profet-auran förstärks också av det stora entourage som åtföljer den israeliske historikern. I normala fall eskorteras internationella författare på Sverigebesök, även i Nobelprissammanhang, av enstaka pr-personer från förlaget. Och ibland av en agent eller förläggare. Yuval Noah Hararis team liknar mer det slags hov som medföljer en Hollywoodstjärna eller amerikansk ex-president. En hel enhet av pr-agenter i mörka välskräddade kostymer, beväpnade med flertalet mobiltelefoner, halvspringer fram och tillbaka i ­korridorerna utanför kuben. Deras uppgift är att schemalägga varenda minut i Hararis liv. Lite tidigare, medan jag väntade på den noggrant utsatta intervjutiden (en av två intervjuer som Harari ger under Sverigebesöket), uppstod plötsligt en mindre kö utanför konferensrummet. ”Okay, 30 seconds each” ropade en av pr-agenterna och viftade fram en kö av fans och beundrare. En ung kvinna höll upp sitt nyfödda spädbarn mot Harari, medan en av pr-­agenterna knäppte några bilder. Inom några minuter var kön avbetad och Harari slussades iväg längre ner i korridoren för en åtta minuter lång tv-intervju, ett fem-minuters inhopp i en podcast, ett kort toalettbesök och ett stående snabbmellanmål – innan han ledsagades tillbaka till konferensrummet. Tid är något värdefullt, särskilt om man heter Yuval Noah Harari. Det avslöjas sällan vad författaren tar i talararvode, men enligt en artikel i tidskriften The New Yorker fick han häromåret över 300 000 ­dollar för en föreläsning. Den var 24 minuter lång. 

Några av de passager jag verkligen tyckt om att skriva i mina böcker har varit de fiktiva

På kvällen får dock ett antal utvalda gästar – författare, forskare, kulturarbetare – träffa Harari under mer lediga former. Ett informellt – och oavlönat –­ ”off the record-samtal” om Israel och diasporan 255 dagar efter terrorattacken den 7 oktober. ”Han var lite som ett orakel. Satt och svarade smart. Inte så mycket ljus i mörkret direkt, men ändå glimten i ögat”, berättar Jonna Wolff, programansvarig för Judiska församlingen.

Yuval Noah Hararis författarskap hanteras från ett kontor i Tel Aviv, där en stab på 12 personer förhandlar föreläsningsarvoden, hanterar internationella rättigheter och arbetar med att adaptera författarens böcker till serietidningar, barnböcker och tv. Harari har även fyra researchassistenter som hjälper honom i skrivprocessen. Hela operationen sköts av Itzik Yahav, tillika Hararis make, agent och manager – som sägs vara en ovanligt hård förhandlare. Men Yuval Noah Harari besöker sällan kontoret, i stället arbetar han oftast från hemmet, en stor villa utanför Tel Aviv. Han simtränar dagligen i sin pool, där han lyssnar på ett noga kurerat urval av ljudböcker – med hjälp av vattentäta specialhörlurar av märket Finis.

–Jag försöker vara väldigt eklektisk i mitt läsande. De frågor jag ställer kan aldrig besvaras utifrån det begränsade fält som är säg militärhistorikerns. 

Han ler när jag nämner att jag läst att Liftarens guide till galaxen är en av hans viktigaste litterära upptäckter. 

–Den rymmer väldigt mycket bra filosofi. Även Du sköna nya värld har haft stor betydelse, säger han och tillägger att han funderat på att skriva en egen roman. 

–Jag har lekt med idén. Några av de passager jag verkligen tyckt om att skriva i mina böcker har varit de fiktiva. Men jag använder fiktiva berättelser för att poängtera ett exempel och man kan inte skriva en roman på samma sätt. Sådana romaner tenderar att bli ganska platta, säger Harari och skrattar. 

Yuval Noah Harari har ofta återkommit till två erfarenheter som format hans författarskap: livet som israel och hans egen homosexualitet. Att stå utanför och samtidigt befinna sig mitt i en av världens våldsammaste konflikter – i en region präglad av tusentals år av religiös fanatism. 

–Lever du i Mellanöstern tvingas du att bli medveten om människans och historiens mörka sidor. Och att allt kan kollapsa, i vilket ögonblick som helst. Du tvingas se gråzonerna, att ingenting är svart eller vitt. Att människor kan vara offer och förövare på samma gång. Förtryckare och förtryckta. 

Harari verkar tämligen obesvärad av frågor kring den blodiga konflikten hans land är inbegripen i. Han betraktar konflikten, liksom de flesta frågor, ur ett historiskt perspektiv. 

–Tyvärr har våra hjärnor inte alltid förmågan att hantera verklighetens komplexitet. I stället för att försöka bli klokare, gör vi oss dummare. Krig är ofta en följd av small brains och deras försök att utplåna en ­verklighet de inte kan greppa. Många israeler och palestinier tror att den andra sidan vill förgöra dem, och de har båda rätt. Så länge vi inte kan acceptera komplexitet, som att två folk kan bo på samma plats, kan vi inte lösa någonting.

Det finns också en annan berättelse. Den om hur en blyg, nördig och okänd israelisk militärhistoriker blev vår tids kanske mest omsusade fackboksstjärna. Efter studier i Oxford återvände Harari i början av 2000-talet till Israel för en akademisk karriär som militärhistoriker. Han skrev böcker om gamla soldatdagböcker och medeltida franskt rytteri. Och så hade det kanske fortsatt om inte Harari hade tvingats ta sig an en kurs vid Hebrew University i ”världshistoria” –ett ämne som ofta behandlas styvmoderligt av akademiker som hellre nördar ner sig i detaljer än målar med de stora penseldragen.

Eftersom Harari avskydde att föreläsa och var så blyg att studenterna knappt kunde höra vad han mumlade började han dela ut utskrifter av sina föreläsningsanteckningar. Snart spred sig anteckningarna i allt vidare kretsar. Det var då han insåg att det kanske kunde bli en bok. 2011 utkom En kort världshistoria på hebreiska – en bok som blev lokalt uppmärksammad men inte mycket mer än så. Harari gjorde själv en översättning till engelska, en print on demand-upplaga som hade hans egen gmail-adress på omslaget. Den sålde inte mycket.  

Det var först när en agent några år senare tog sig an boken, föreslog kortningar samtidigt som titeln ändrade till Sapiens som det osannolika hände. Boken sålde över 12 miljoner exemplar och hyllades av personer som Barack Obama och Bill Gates. 

Boken gjorde Harari till stjärna över en natt. Men det var hans nästa bok, Homo Deus –som fokuserade på framtiden – som gav honom en stämpel som profet. Och som öppnade dörrarna till techvärldens innersta rum – med middagsbjudningar med Mark Zuckerberg och Twittergrundaren Jack Dorsey. Det var också där, i techvärldens epicentrum, som idén till Nexus föddes. 

–Jag insåg att ingen vet vad som håller på att hända. Det finns en föreställning om att en liten grupp techpersoner styr världen. Men det är rent önsketänkande. De vet inte vad som pågår. Sanningen är att ingen styr. Det är kaos. 

I Nexus försöker Harari förklara världshistorien genom utvecklingen av nätverk, från medeltidens riddarordnar till 1900-talets totalitära stater och dagens stora techbolag. 

–Vi tenderar att tänka individualistiskt, att vi styr världen eftersom vi är bättre och smartare än elefanter eller schimpanser. Men det är inte sant. Visst, vi kan göra vissa saker som schimpanser inte kan göra, men de kan göra saker som vi inte kan. Om man jämför oss individuellt så är vi inte så speciella. Det är vår förmåga att samarbeta kollektivt, genom att forma jättelika obegränsade nätverk, som gör oss mäktiga. 

Harari menar att vi i dag står inför ett avgörande skifte i nätverkens historia.

–Varje religion, varje politisk ideologi, varje ekonomiskt system är i slutänden baserade på en berättelse. Kommunismen är en berättelse. Kapitalismen är en berättelse. Fram till detta ögonblick har ingen annan än människor kunnat skapa berättelser. Det är därför vi styr världen. Men vad händer när en ny entitet börjar berätta? 

Enligt Yuval Noah Harari går det inte underdriva betydelsen av vad vi står inför. 

–Makten att berätta historier skiftar just nu från människor till artificiell intelligens. Det är enorm makt som rinner ur våra händer. För mig, som ­berättare, är det en skyldighet att försöka få människor att förstå vad som pågår. 

Yuval Noah Harari ser två troliga framtids­scenarion framför sig – båda dystopiska. 

Det första är artificiellt drivna totalitära system, likt det vi ser växa fram i Kina.

–Vi tenderar att tro att 1900-talets totalitära system såsom nazismen och stalinismen kollapsade för att de byggde på en lögn. Att sanningen alltid segrar i slutänden, men det är fel. De kollapsade delvis för att de inte hade tillräckligt bra teknik. Stalins Sovjetunionen kunde koncentrera all information om sina medborgare i Moskva men de saknade förmågan att processa denna kunskap. Det ledde till horribla byråkratier som drabbades av informationsinfarkter. Men tänk om Hitler eller Stalin hade haft tillgång till artificiell intelligens? Nästa gång en totalitär ideologi uppstår kanske den vinner. 

Vi har ännu tid att påverka framtiden. Historien är inte deterministisk. Men om 20 år kanske det är för sent

Hur dystert det än låter är det andra scenariot som Harari målar upp än mörkare – närmast nattsvart. 

–Det finns en möjlighet att det uppstår en artificiell intelligens som är superintelligent men som helt saknar medvetande. Som saknar känslor. Vi tänker ofta att intelligens kräver medvetande, men så är det inte, säger Harari och fortsätter:

–Denna superintelligens kommer kanske expandera över galaxen och utplåna allt medvetet liv överallt. Ett mörkt imperium som kontrollerar allt, men som helt saknar känslor. Som inte känner någonting. Som är helt svart. 

Trots det menar Harari att det fortfarande finns hopp om att förhindra en sådan utveckling. I korthet handlar det om att vi måste reglera artificiell intelligens. 

–Vi har ännu tid att påverka framtiden. Historien är inte deterministisk. Men om 20 år kanske det är för sent. Då har så mycket information, så mycket makt, flyttat till algoritmer, att vi människor är hjälplösa. Så maktlösa att vi inte längre kan påverka framtiden. 

När intervjutiden börjar lida mot sitt slut smyger Yuval Noah Hararis folk in i rummet, två män i ­oklanderliga skräddarsydda kavajer. De säger inte ett ord, avbryter inte, bara sätter sig bakom författaren och plockar fram sina mobiltelefoner. De behöver inte säga något. Budskapet är tydligt. Berättelsen är slut.

Ur Vi Läser #5 2024.

Läs mer:

Eva Illouz om kärlek och modernitet

Ingen konst med AI?