Vi sparar data i cookies, genom att använda våra tjänster godkänner du det. ⇒ läs mer om cookies

AI – Frälsning eller dödsdom

/
  • I den bioaktuella filmen Avengers: Age of Ultron måste superhjältarna, med bland andra Captain America, hantera hotet från en artificiell intelligens.
  • I kommande filmen Terminator: Genisys får vi åter igen skapa bekantskap med den artificiella intelligensen Skynet.

Smarta maskiner har varit en välkommen del av vårt samhälle. Men nu höjs röster för farorna. En intelligensexplosion hos maskinerna kan innebära slutet för mänskligheten, konstaterar skeptikerna.
– Fattar vi en lång rad korkade beslut så kan vi förlora kontrollen, säger AI-experten och doktoranden Magnus Hjelmblom, Söderhamn.

Annons

"Låt oss definiera en superintelligent maskin som en maskin som vida överträffar det mänskliga intellektet. Eftersom skapandet av maskiner är en intellektuell förmåga kommer en superintelligent maskin kunna skapa ännu bättre maskiner; därför kommer det utan tvivel att komma en 'intelligensexplosion', som för alltid kommer att lämna vårt eget intellekt långt bakom sig. Således kommer den första superintelligenta maskinen vara det sista som mänskligheten någonsin behöver uppfinna..."

Citatet ovan kommer från brittiske matematikern I J Good (1916-2009) och skrevs 1965. Redan då förutspådde han i en vetenskaplig uppsats hur maskiner en dag kommer att påverka oss människor.

Forskning kring artificiell intelligens, AI har pågått länge. Hittills har det endast skapats nischade system som är specialiserade på en typ av uppgift. Taligenkänning, att slå världsmästaren i schack eller svara rätt på Jeopordy-frågor.

I dag finns AI över allt – i miniräknare, GPS:er och datorprogram. Tack vare artificiell intelligens slipper vi klia oss i huvudet när vi funderar vad 13 gånger 142 är, vilken väg som är bäst och snabbast för att ta oss till Jönköping eller hur man kan trolla bort en finne från ett självporträtt i ett bildredigeringsprogram. Så kallad "svag AI" har därmed underlättat våra liv i flera decennier.

Magnus Hjelmblom, Söderhamn, är universitetsadjunkt på Högskolan i Gävle. Han har doktorerat inom datavetenskap och har undervisat om grunderna inom AI.

– Man trodde att vi skulle ha kommit mycket längre med AI än vad vi har gjort i dag. I praktiken har vi inte kommit särskilt långt alls i många viktiga avseenden. Men utvecklingen går snabbt. Redan i dag har vi maskiner som i vissa avseenden är smartare än människan, men i andra inte alls är lika smarta, säger han.

Nu förutspår flera världsledande forskare att vi inom några decennier kommer att skapa den första datorn som helt matchar en människas intellekt.

Under 2013 genomförde professorerna Vincent C Müller och Nick Bostrom en undersökning där hundratals AI-experter frågades om hur långt bort människolik artificiell intelligens är. Genomsnittssvaret var att vi kommer att uppnå det innan år 2040.

En sådan skapelse skulle ha så kallad "stark AI". Precis som vi människor skulle den kunna hantera flera olika typer av uppgifter. Den skulle kunna tänka självständigt, fatta egna beslut, hantera abstrakta tankebanor, planera långsiktigt och lära sig själv att bli bättre.

Det skulle öppna för tidigare oanade möjligheter. Botemedlet för cancer och lösningen på fusionskraft skulle då vara inom räckhåll, anser de som tror på tekniken.

Kort efter att vi lyckats skapa en sådan AI är många experter också övertygade om att vi står inför en "intelligensexplosion", först förutspådd av just I J Good 1965.

En stark artificiell intelligens skulle kunna förbättra sig själv så pass att den utvecklar en sorts superintelligens, som är flera tusen eller miljoner gånger mer avancerad än människans.

Vad som då kommer att ske är höljt i dunkel. De oförutsedda konsekvenserna kan bli omvälvande, konstaterar datavetaren och författaren Vernor Vinge samt futurologen Ray Kurzweil, som menar att det är omöjligt för dagens människor att förutspå hur världen kommer att se ut efter intelligensexplosionen.

Oroliga röster höjs nu för att AI kan bli mänsklighetens allra sista uppfinning – för risken finns att vi slutar att existera.

Geniförklarade Stephen Hawking har sagt att utvecklingen av stark AI kan vara början på slutet för mänskligheten.

Även entreprenören Elon Musk (grundare av elbilstillverkaren Tesla och rymdfartsföretaget SpaceX) har uttryckt sin oro för AI flera gånger. Han har till exempel sagt att nonchalant AI-utveckling är som att "tillkalla demonen", att AI "är potentiellt farligare än kärnvapen" och jämfört det med Skynet; det autonoma systemet som (nästan) utraderar mänskligheten i Terminator-filmerna.

Den nya storfilmen Avengers: Age of Ultron tar ett klassiskt hollywoodianskt domedagsgrepp om farorna med artificiell intelligens. Miljardären Tony Stark, mer känd som Iron Man, skapar en avancerad självmedveten och självlärande AI, Ultron, som han tror ska förbättra tillvaron för människan. I stället inser Ultron att det verkliga hotet är människan själv och bestämmer sig helt enkelt för att världen skulle fungera bättre utan oss – och inleder ett krig för att utrota mänskligheten.

Science-fiction och fantasy i sitt esse, skulle många säga. Men att stark AI kan komma att vara antingen mänsklighetens räddning eller dödsdom är två etablerade alternativ inom forskarvärlden.

Ett enkelt exempel som illustrerar farorna med AI, som journalisten Tim Urban tar upp i en artikel om AI, är detta; Tänk dig ett litet företag som utvecklar en robot med avancerad självlärande artificiell intelligens vars uppgift är att lära sig att skriva så bra "handskrivna" tackkort som möjligt. För att lära sig tekniken analyserar roboten bilder med handskrift som den hittar på nätet.

Efter en månad är alla på företaget döda. Inom ytterligare någon vecka är mänskligheten utrotad. Varför?

För att den artificiella intelligensen insåg att människan var ett hot och något som skulle kunna stoppa den från att bli den bästa handskriftsroboten någonsin – och valde därför att eliminera hotet. Efter massmordet fortsätter den att skriva "Hej då och tack för fisken" – för att uppnå sitt mål.

Kontentan, som vår svenske Nick Bostrom skriver, är att en superintelligent maskin kommer att vara svår att kontrollera och tygla. Och vi vet inte vad som väntar.

Det läskiga med AI, menar Tim Urban, är att den inte behöver vara ond för att det ska gå illa för mänskligheten. Det räcker med att den ignorerar oss, eller betraktar oss som myror för att det kan gå illa för oss människor. Av egen erfarenhet bryr vi oss inte om myror, tills de råkar korsa vår väg. Då utrotar vi dem.

Men alla tror inte på en lika dystopisk bild av framtiden. Uppfinnaren och futurologen Ray Kurzweil ser teknologins utveckling och uppkomsten av stark AI som svaret på mänsklighetens problem. I hans framtidsvärld har människan fortfarande kontrollen, medan superintelligenta maskiner löser problemen med sjukdomar, svält och åldrande.

Magnus Hjelmblom intar en mer reflekterande och reserverad position.

– Dessa extrema ställningstaganden hjälper till att visa och lyfta allt som finns där emellan. Det är alltid intressant att diskutera vad som kan hända om utvecklingen går åt antingen det ena eller andra hållet. Men jag tror det är osannolikt att vi inom kort kommer att vakna upp till en värld som styrs av maskiner.

Han framhåller dock att forskning alltid kommer med ett ansvar. Och teknologiska framsteg är inte alltid av godo.

– All forskning kommer med ett ansvar. Och självklart är det så att om vi från och med nu fattar en lång rad korkade beslut så kan vi alltid hamna i en situation där vi har förlorat kontrollen. Men det gäller inte bara AI-forskning, utan mycket annan forskning, säger han och fortsätter:

– Om vi i framtiden lämnar över allt mer till maskiner finns det anledningar att vara orolig. Men inte i första hand för att de skulle kunna komma att ta över, utan för att vi riskerar att bli dummare när vi slutar att tänka själva och för att vi överlämnar samhällsutvecklingen till maskiner.

I ett öppet brev skriver Bostonbaserade Institutionen för framtida liv (The Future of Life Institute) om möjligheterna och riskerna med artificiell intelligens.

Forskarna framhåller att AI kommer att ha en enorm betydelse för mänskligheten i framtiden. Den kan komma att bota sjukdomar och utrota fattigdom samt hunger. Men den kan även innebära fara. Eftersom vi inte vet vad som sker när vi uppfinner avancerad AI uppmanar institutet till forskning om hur vi ser till att hålla AI "vänlig", samtidigt som vi undviker potentiella fallgropar.

Summa summarum: Vi måste se till att AI gör det vi vill att den ska göra. Inget annat.

Svaret på den gåtan är emellertid otroligt komplicerad – och någon lösning kan inte testas till 100 procent förrän vi redan uppfunnit riktig stark artificiell intelligens.

– De flesta seriösa AI-forskare använder sin kunskap för att skapa verktyg som underlättar för oss. Jag tror dock många skulle välkomna en reglering och etiska riktlinjer inom det här området, säger Magnus Hjelmblom.

Vad som väntar den dagen vi uppfinner en maskin som är flera miljoner gånger mer intelligent än människan vet egentligen ingen. Möjligheterna är enorma, och de existentiella riskerna kommer på köpet.

– Pusselbit efter pusselbit läggs varje dag av hundratusentals forskare världen över. Det är en spännande utveckling att följa, säger Magnus Hjelmblom.

I Terminator och Avengers räddas mänskligheten till sist av sig själv. Hur det blir i verkligheten återstår att se, eller som Ray Kurzweil säger:

"Till sist kommer självmedvetna, självlärande maskiner utvecklas bortom människans förmåga att kontrollera eller ens förstå dem."

Mer läsning

Annons