Nu så här i uppstarten av sommaren så har jag redan hunnit med att avverka två av böckerna som egentligen var vikta åt hängmattan. Dessa två böcker är så fundamentalt olika att jag sannolikt är den förste att nämna dem i samma andetag. Den ena boken handlar om att bejaka livslusten och engagera sig i det man älskar med ett fokus som är snudd på övermänskligt. Den andra boken beskriver slutet på mänskligheten.

Det enda de två böckerna har gemensamt är att de båda beskriver hur ett enda lite felsteg leder till döden. Hur fyra sekunder kan vara din värsta tid på vår jord. Möjligen skulle man också kunna säga att båda böckerna beskriver icke-mänskligt beteende.

Det hade varit extremt coolt om titlarna på böckerna varit “Alone on the Wall” respektive “Alone in the World”, men fullt så harmonisk är inte världen. Den första boken heter dock mycket riktigt Alone on the Wall av Alex Honnold och David Roberts och är berättelsen om vår tids kanske största klättrare Alex Honnold. Den andra boken bär den upplyftande titeln Our Final Invention – Artificial Intelligence and the End of the Human Era av James Barrat.

Jag är inte den förste att spekulera kring huruvida Alex Honnold verkligen är mänsklig, för de saker som han gör inom genren “free soloing” på Big Walls strider mot såväl fysikens lagar som vår uppfattning om vad som är mänskligt möjligt. Jag personligen har ingen som helst fallenhet för höjdrädsla, utan tycker till och med det är en frihetskänsla att hänga över en klippkant och stirra ned i avgrunden, men att titta ned på två fötter som helt förlitar sig på friktion och veta att de tillsammans med de yttersta lederna av två fingrar inkörda i en granitspricka är det enda som hindrar mig från att falla 800 meter rakt ned i backen, det är något helt annat. Finns inte på min karta att jag rent mentalt skulle kunna klara något sådant. För Alex Honnold är detta det mest självklara i världen. Med helt otroliga speed records och no pro bestigningar (klättring helt utan hjälpmedel och säkringar) runt om i sitt älskade Yosemite så är han den störste i extremklättringens historia.

Om beskrivningen ovan inte räcker för att förstå hans storhet så kolla in videon kring hans free solo av El Sendero Luminoso i Mexiko.

Fyra sekunder från eufori till en hög med mosade kvarlevor. Det är verkligheten i Honnolds värld. I den värld som James Barrat beskriver går det nästan lika snabbt att utrota mänskligheten när vi väl har nått artificiell superintelligens hos våra älskade maskiner.

Det är inte första gången jag läser någonting med dystopiska undertoner, men James Barrats beskrivning av vår framtid är så dyster att man lika gärna kan logga ur, lägga sig i hängmattan och invänta mänsklighetens undergång. I “Our Final Invention” så beskrivs maskinernas kommande herravälde som faktiskt och oundvikligt, och ju längre man läser desto mer uppgiven blir man om man tror att det finns ett uns sanning i det budskap som rullas ut i kapitel efter kapitel. Barrat beskriver vad som sker när vi passerar AGI – Artificial General Intelligence, vilket är brytpunkten när AI är i paritet med vår mänskliga intelligens. Det som sedan följer är en eskalerad intelligenstillväxt in i det som kallas ASI – Artifical SuperIntelligence där maskiner är väsentligt mer intelligenta än människan. Vi pratar en faktor tusen eller hundratusen per ASI-entitet.

Det som Barrat lyfter fram är att det inte spelar någon roll om majoriteten av världens länder och dess forskare gör sitt yttersta för att skapa AI som bygger på empati med människan (så kallad friendly AI). Det räcker med en enda ASI för att helt ändra spelplanen. En ASI med tillgång till resurser i form av internet och en energikälla kan snabbt reproducera sig själv för att säkerställa att dess syfte uppnås. Likt riskornsdubbleringen på schackbrädet i den indiska sägnen så översvämmas snart världen av ASI-kloner. Kopplar man sedan detta till nanotekniken som forskarna förutspår kommer kunna användas till att rekonstruera föremål ned på molekyl-nivå (och i värsta fall skapa en situation av ecophagy eller grey goo) så kan denna superintelligens fatta beslutet att bryta ned allt det där som den inte behöver för sin överlevnad och istället bygga sådant som den har nytta av. Bryta ned människor och grönska och bygga mer hårdvara istället.

The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else.

Eliezer Yudkowsky, Machine Intelligence Research Institute

Barrats teori är att AI inte går att kontrollera bortom en viss punkt. När vi väl skapat något med det vi kan kalla medvetande och som dessutom är oss vida överlägset så upphör det regelverk som vi bygger hela vår existens på att fungera. Han jämför det lite med att vi människor skulle börja forma vår sätt att leva kring behovet hos en lägre stående art som labbmöss. Det lär inte hända och en artificiell superintelligens skulle heller inte låta sig styras av något så korkat som en människa när dess kollektiva intellektuella kapacitet är 100.000 gånger mer omfattande än mänsklighetens samlade intelligens.

Boken kan läsas som en motvikt till de stora auktoriteterna inom AI-området som Googles Ray Kurzweil som skrev The Singularity is Near för tio år sedan. Kurzweil likt de flesta tongivande rösterna idag är så exalterad över de genombrott som gjorts under senare år att riskerna som följer i svallvågorna på sin höjd nämns i en bisats. Det som Our Final Invention dock lider av är att den ger en vältalig beskrivning av problemen vi står inför men samtidigt så erbjuds inga som helst lösningar, så till skillnad från Ex Machina så kommer ingen i Hollywood vilja producera filmen då den inte erbjuder det sedvanliga hoppet om en ljusare framtid.

Nej, man blir inte precis på något jublande gott sommarhumör när man läser Barrat, så det är kanske bättre att göra som Honnold och bosätta sig i en konverterad van och spendera dagarna hängandes som en spindel på någon massiv granitvägg. Tappar man taget med de nykalkade fingertopparna så innebär det bara att man slipper uppleva när vi tappar taget om hela vår existens. Sug på den upplyftande tanken nu i sommarsolen!

With the possible exception of nanotechnology being released upon the world there is nothing in the whole catalogue of disasters that is comparable to AGI

Eliezer Yudkowsky, Machine Intelligence Research Institute