Omvända AI-geniet: "xxx"

Oliver Edholm var en AI-kille innan alla andra var AI-killar.

Vid 20 års ålder hade han forskat i Singapore, var medlem i Palantir-grundaren Peter Thiels exklusiva sällskap The Thiel Fellowship, och stod listad på Forbes 30 under 30.

Men det som inleddes som ett skolboksexempel på en geniförklarad "dropouts” framgångssaga a la Bill Gates eller Mark Zuckerberg, tog sig en oväntad vändning.

– Jag vet inte hur världen kommer att se ut om fem år, så jag lever lite dag för dag, förklarar Oliver Edholm över länk från ett retreat i Chiang Mai.

Han pendlar mellan att kalla sig för fatalist och att påtala techvärldens ansvar att informera om den framtid som han menar är nära förestående. Förra våren talade han i New York inför flertalet FN-ambassadörer om behovet av en global AI-policy, i likhet med nuvarande kärnvapenavtal.

– När man går runt på stan verkar allting som vanligt. Men i sfärerna där det verkligen har klickat vad det här kommer att innebära för mänskligheten är AI en religion. Tänk dig att vi kan skapa en dator som överträffar Einstein 1000 gånger. Vi kan skapa gud, förklarar Oliver Edholm.

– Självklart finns det enorma möjligheter, men givet vad som står på spel, helt utan regleringar, är det svårt att vara positiv.

Större hot mot mänskligheten än klimatet

Han syftar på så kallad superintelligens. Det som AI kan bli när den lär sig att lära sig självt. Den som kontrollerar superintelligensen, kan kontrollera mänskligheten, är budskapet. Riskerna utgör ett större hot mot mänskligheten än klimatet, menar han.

– Följ pengarna, kolla vad techjättarna investerar dem i, lyssna på vad de säger. Inom fem till tio år är vi där. Vill vi, utan någon som helst demokratisk process, att Mark Zuckerberg och Elon Musk kontrollerar mänsklighetens framtid?

– Det är enkelt att lura sig självt när man är så smart som de här personerna är, i synnerhet om man saknar självinsikt och har en massa emotionella, blinda fläckar. De kan hitta intellektuella argument för vad som helst.

Bara för att man är intelligent, betyder det inte att man har sunt förnuft, slår han fast.

Högbegåvade – och världsfrånvända

I Peter Thiels Fellowship, där bland andra världens yngsta självskapta dollarmiljardär Austin Russel ingår, liksom kryptoentreprenören Vitalik Buterin, finns det gott om personer som har högt IQ och samtidigt är världsfrånvända, enligt Oliver Edholm.

Han vill inte nämna några namn, men förklarar att många har nått sin framgång genom att gå mot strömmen. De tänker, som han själv uttrycker det, "konträrt". En av fem gånger har de rätt, men oftast har de fel. Det är risken som har tagit dem till toppen.

– Och ju mer framgångsrik du blir, desto mer isolerad blir du. Man förlorar verklighetsförankring, och så är man jättesmart, och kan luta sig mot det som ett argument i sig, säger Oliver Edholm.

– Om vi ser till de här människorna som facit för rätt och fel, blir det därför en missvisande selektion.

Vänder sig mot startup-kultur: "Nördar som behandlar algoritmer som ett spel"

I ett symbiotiskt ekosystem av kapital, media och geni-förklarade startups är det lätt att drabbas av storhetsvansinne som ung techentreprenör, enligt Oliver Edholm.

Han tar sig själv som exempel. Han var där för några år sedan. Tillsammans med Lovable- grundaren Anton Osika startade han vid 17 års ålder AI-bolaget Depict, som bland annat EQT investerat i.

– När jag var 16 år läste jag Elon Musks självbiografi 9 gånger, säger han och skrattar.

– Det är mycket snack om att man har en vision, utåt sett ska alla rädda världen. Men i bolagen låter det mer "Vi ska bli störst i världen, vi ska vara det första bolaget som är värderat till en biljon", säger han.

Tankarna rör sig osökt till en intervju med Lisa Ericsson på KTH innovation för några veckor sedan. Hon hade noterat ett mönster under Nordic Tech week i Stockholm:

– Attityden är inte "jag vill slå mig in på den här marknaden", attityden är "jag ska bli störst i världen", sade hon gällande de unga techentreprenörernas ambitioner. Men till skillnad från Oliver Edholm ansåg hon retoriken vara uppfriskande.

I en uppmärksammad intervju i p4 extra säger Oliver Edholm istället att han "spyr" på startup- världen, som han menar domineras av unga män med messiaskomplex. För EFN vill han utveckla sitt resonemang, och framhåller att det är bristen på andra infallsvinklar och en allmän nedvärdering av egenskaper som inte kan beskrivas med epiteten "unga och maskulina", som är problemet.

– Om vi tar sociala medier som exempel. Vi snackar om nördar som behandlar algoritmer som ett spel. När de var yngre gameade de och optimerade sina datorspel, nu optimerar de algoritmer för att din sista sekund på dagen ska gå till att titta på en skärm, och så kommer de på alla möjliga fina argument för att det är okej, säger han.

– Fokuset på den typen av personer i de här bolagen gör dem väldigt likriktiga.

Vill starta bolag som motverkar skärmberoende

Att plocka ut högpresterande personer med högt IQ är i sig inte ett problem, menar Oliver Edholm, snarare är det ett problem att synen på begreppen är så snäv.

– Man tappar helhetsperspektivet, säger han.

Oliver Edholm är inte längre verksam i Depict. För tre år sedan brände han ut sig, och tvingades omvärdera sitt fokus. Eftersom de som brukar vara snabbast på att plocka upp de senaste AI-verktygen oftast är väldigt unga, är det lätt att gasa utan eftertanke – även högintelligenta personers hjärnor har inte en färdigutvecklad frontallob innan 25.

– Det blir väldigt sårbart när man i den åldern kommer in dessa miljöer, med den typen av ideal, utan mer balanserade mentorer, förklarar han.

För närvarande är han i uppstartsfasen av ett nytt bolag.

– Om man ska vara lite klyschig i startup-termer: "I'm working on something new", det handlar väldigt mycket om att kunna kompostera det som gör oss besatta av olika saker och ting. Skärmar till exempel, säger han och tillägger:

– Om Mark Zuckerberg fortsätter som han gör nu, då tycker jag att han kan dra åt helvete.