Tio år innan AI utplånar mänskligheten?Kan den mänskliga hjärnan ens omfatta ett sånt hotscenario? Det återstår att se.
”Jag tror att om vi inte saktar ner i den nuvarande utvecklingstakten, finns det en stor risk att vi alla kan dö inom en snar framtid.”
Det sade AI-forskaren Jacob Coxon i förra veckan till BBC. Han lämnade AI-företaget Anthropic i september och har sedan gått ut starkt för att varna världen. Många branschkollegor har följt hans exempel.
Tio år. Det är siffran som fastnat efter de senaste dagarnas många rubriker och skriverier om det existentiella hotet. Experter oroar sig för att inom den tidsramen kommer antingen människor använda AI som vapen eller så förlorar människorna kontroll över AI. De stora hotbilderna är biologiska eller kemiska vapen, övertagande av internet eller attacker mot viktig intrastruktur.
Tio år kvar av mänsklighet är alltså de största kritikernas farhåga.
På tio år har man just hunnit gå ut grundskolan, ett gift par har firat tennbröllop och en familj har säkert ännu kvar hundvalpen man införskaffade. Det är verkligen inte lång tid.
Det brukar talas om hur dålig mänskligheten är på att förutse och hantera långsiktiga hot och konsekvenser, där klimatförändringen varit det stora exemplet. Men är vi bättre på att hantera kortsiktiga hot? Är tio år kortsiktigt? Eller är det fortfarande för svårt att greppa?
Är det en skillnad om klippkanten är en kilometer, 100 meter eller en meter bort?
Rent biologiskt kan forskare konstatera detta om människan: för att kunna välja en framtida belöning så måste den vara signifikant större ju längre bort i framtiden den ligger. Detta kallas ”temporal discounting”, fördröjd diskontering på svenska, ett fenomen som är välforskat inom bland annat psykologi och ekonomi. Teorin förklarar varför någon väljer att köpa en lyxbil framom att spara till pensionen och varför någon sen tar sagda bil till jobbet istället för en hälsosam promenad. När testobjekt ställs inför valet av en summa nu eller en större summa i framtiden, så väljer de flesta att få tillgång till pengarna direkt.
”Som individer och som samhälle så har vi en tendes att fatta dåliga beslut när det kommer till att jämföra kortsikt och långsikt. Det här är en kognitiv bias som människor har till följd av vår evolution”, säger Brian Villmoare, professor vid University of Nevada till Advanced Science News.
Människan har inte en garanterad morgondag. Det har historiskt sett ofta varit mest resonligt att ta något gott i stunden än att vänta på något lite bättre i en osäker framtid.
Men vad händer när själva morgondagen står på spel? När den framtida existensen är hotad?
Vi har sett liknande narrativ på filmduken i många versioner genom åren. Asteroider, översvämningar, zombiapokalypser …
The Times-skribenten Max Tegmark skriver att med tanke på just Hollywoods fascination för detta tema borde vi vara välförberedda för AI-domedagen.
”Tänk igen, istället har den mest inflytelserika responsen varit en mix av förnekelse, förlöjligande och uppgivenhet”, skriver han.
Jacob Coxon är långtifrån den första att höja ett varningens finger kring den snabba AI-utvecklingen, men hittills har den mesta av kritiken inte lett de säkerhetsåtgärder eller restriktioner som efterlyses.
Men såklart finns det de som tycker domedagslarmen är överdrivna. En av dem är professorn i datavetenskap, Laura Ruotsalainen, vid Helsingfors universitet som till Yle poängterar att människan lärt sig leva med andra fysiska hot, som kärnvapen i decennier.
Sedan finns det de som är måttligt oroade.
”Man kan förvänta sig riktigt kraftfulla verktyg och mycket kapabla modeller, men de verkliga hotbilderna handlar mer om människors agerande och om hur och till vad människor använder AI, än om AI:n i sig själv, säger Arno Solin, professor i maskininlärning vid Aalto-universitetet till Yle.
Tanken om möjlig utplåning är inte ett roligt tankeexperiment, men samtidigt är det fascinerande att nu få följa de reella åtgärder som tas eller inte tas.
Klippkanter i horisonten skrämmer få på riktigt, men riktigt lockande godsaker just invid en brant ravin kanske är tillräckligt för att få människan att tappa fotfästet redan imorgon.
