Att förstå lika mycket som en hund
Hundar, superintelligens och vad vi inte kan förstå
Att vara ute och rasta hunden ger en tid för reflektion, vara i nuet, och ibland även förse sig själv med lite nya insikter. Idag när vi gick längs Åresjön på lunchen lyssnade jag klart på The Diary of a CEO – Steven Bartlett där Roman Yampolskiy gästade.
Precis som Max Tegmark (Sommarpratet 2023!) är Roman orolig för hastigheten vi rör oss mot superintelligens, utan att ha en plan för hur vi ska få "den" att agera i mänsklighetens intresse. Enligt honom, och många andra, är det inte en fråga OM, utan NÄR vi når dit - och han anser att det är rätt korkat att stressa.
En lurig sak med superintelligens är att det är så svårt att göra prognoser för vad som kommer ske när den är på plats, eftersom vi inte kan tänka "smartare" än vår övre gräns. De gör en intressant analogi med just hundar - en hund kan omöjligen förstå varför vi går till jobbet, eller ännu mindre vad vi gör där. Det är utanför dess förmåga att förstå omvärlden. Lika lite kommer vi människor kunna förstå vad en superintelligent maskin gör eller varför - därför är det i princip omöjligt att göra förutsägelser.
"We better get it right" som Roman uttrycker det.
Matrix? En stunds filosofi
En annan spännande åsikt Roman har är att vi redan nu lever i en simulation, skapad av en superintelligens, eftersom all sannolikhet pekar på det.
Hur då? Häng med i Romans tankar:
-
Tekniken utvecklas exponentiellt - AI-modeller blir billigare och klarar redan av att skapa imponerande bilder, video och ljud. Med en prompt kan du skapa en hyfsad virtuell värld. Det är troligt att vi snart kommer kunna skapa virtuella världar, som inkluderar alla våra sinnesuttryck, där det kommer vara omöjligt att särskilja dem från vår vanliga värld.
-
Otaliga simuleringar kommer skapas - Roman menar att han, eller andra, i denna framtid sannolikt kommer köra en miljontals simuleringar - kanske otaliga varianter där han är med i podden han medverkar i till exempel.
-
Statistisk sannolikhet - Om det finns miljontals simulerade världar men bara en "riktig", är det nästintill otroligt att den värld vi lever i nu inte är en simulering skapad av superintelligens - "en dude bakom en laptop" typ.
Varför skulle någon skapat just vår värld? Kanske som ett spel eller underhållningsprogram, eller något helt annat som vi inte kan förstå - ni minns hundarna, va?
Kan det alltså vara så att vi alla är en del av en rysk docka av simulationer? Om det sitter en "Roman" framför en laptop och simulerar vår värld, och i denna värld med den den simulerade "Roman" så skapas en till simulation - ja man blir lätt snurrig av den här teorin...
Sidenote: enligt Roman är all religion någon slags referens till denna simulations-skapande superintelligens, som på något sätt interagerat med sin virtuella värld.
Vi har 99,9% kvar att förbättra med dagens teknik
Roman är en smart kille och tar in mycket ny information, ändå upplever han att han blir "dummare" för varje dag som går. Han menar att "state of the art" inom AI utvecklas i sådan enorm takt att hans egen kunskap, relativt mot all tillgänglig ny kunskap, sakta men säkert rör sig ner mot noll. Det går helt enkelt inte som enskild individ att vara uppdaterad på alla fronter längre.
Givet allt ovan hade han gärna sett ett totalt stopp på utvecklingen av AI mot superintelligens, och istället fokuserar på det vi redan har. Potentialen är redan enorm - han anser att endast 0.01% av potentialen har hunnit ut i "verkliga världen".
Och där kan jag helt hålla med honom, det är något vi tänker på mycket om dagarna. Vi har så mycket kvar att förbättra med tekniken som redan finns.
En riktig hund
Oavsett vad man anser om att leva i en simulation eller risker med superintelligens, så är det alltid spännande att få sina perspektiv utmanade - så jag rekommenderar verkligen en lyssning om du har en stund över.
Min hund, Edison, tittar på mig nu och verkar inte förstå varför jag sitter här och stirrar in i den här saken.
Så, det är väl lika bra att tacka för den här gången och gå och leka med honom istället nu, adjö!
/Johan