Essay: Robotene kommer

Utviklingen av kunstig intelligens på menneskenivå kan innebære slutten på menneskeheten, skriver Aksel Braanen Sterri og Tore Wig.

Essay i Morgenbladet fredag 13. februar, skrevet i samarbeid med Tore Wig.

Avstanden i intelligens mellom det minst intelligente mennesket og Albert Einstein fremstår som kolossal for de fleste. Samtidig er den mikroskopisk sammenlignet med avstanden mellom oss og geiter, bare for å velge ett av flere eksempler på mindre intelligente pattedyr. Sammenlignet med geitene er menneskets intelligens gudommelig.

Innen science fiction har tanken om at robotene en gang vil stå i samme forhold til oss som vi står i til geitene, vært levende lenge. Filmer som The TerminatorThe Matrix og I, Robot viser dystopiske scenarioer hvor profittjag og teknologioptimisme ender med at menneskene maner frem sin egen undergang; en silikonbasert Frankenstein som går løs på sine skapere. I det siste har imidlertid slike scenarier beveget seg forbi Hollywood og inn i den seriøse offentlige samtalen.

Mens mange ser konturene av en ny industriell revolusjon med en enorm velstandsvekst som følge, mener flere og flere at kunstig intelligens kan utgjøre den største eksistensielle trusselen menneskeheten har stått overfor noensinne. I desember 2014 hevdet verdens fremste nålevende fysiker Stephen Hawking at utviklingen av reell kunstig intelligens «vil kunne bety slutten på menneskeheten». Tesla-gründer Elon Musk har beskrevet kunstig intelligens som «den største eksistensielle trusselen mot menneskearten», og 15. januar donerte han ti millioner dollar til arbeid med sikte på å gjøre utviklingen av kunstig intelligens tryggere. Universitetet i Oxfords prestisjesatsning Future of Humanity Institute, ledet av det svenske multigeniet Nick Bostrom, og Cambridges Center for the Study of Existential Risk har satt kunstig intelligens øverst på agendaen som en av de største farene i det 21. århundret.

Dommedagsscenariene kan virke både fjerne og urealistiske, spesielt med tanke på den begrensede kapasiteten til mange av dagens roboter. De fleste med en Apple-telefon har sannsynligvis stiftet bekjentskap med Siri – Apples snakkende «orakel-app» som, ifølge Apple, «forstår hva du sier og skjønner hva du mener». Du kan spørre Siri om ting som «er det noen gode vinbarer i nærheten?», eller beordre henne til å minne deg på å ringe mamma. Men Siri er enda milevis unna Samantha, operativsystemet som hovedpersonen i filmen filmen Her fra 2013 forelsker seg i. Samantha er vittig, følsom og enormt smart, en perfekt kjæreste. Siri er ingen av delene.

Det finnes imidlertid mer imponerende resultater å vise til. En milepæl innen kunstig intelligens kom i 2011 da IBMs datamaskin Watson slo menneskehetens beste i spørrespillet Jeopardy. Du kan se seansen på YouTube. I motsetning til andre spill, som for eksempel sjakk, krever Jeopardy mer «menneskelige» kognitive egenskaper: Det handler om å forstå spørsmålet, konteksten det stilles i og hva slags type svar som er adekvat og relevant.

Watson brukes nå til å stille diagnoser på sykehus, designe finanstjenester for banker og komme frem til nye matoppskrifter i samarbeid med noen av verdens beste kokker. Men også Watson er milevis unna å ha intelligens på menneskenivå. Menneskets intelligens er generell, og ikke begrenset til et gitt formål, slik som å spille Jeopardy eller være en digital tjener.

Samtidig er det flere tegn som tyder på at det er en ikke triviell sannsynlighet for å utvikle generell kunstig intelligens. I en spørreundersøkelse du kan finne i pdf her, med over 550 ledende programmerere og forskere mente halvparten at kunstig intelligens på nivå med mennesker vil utvikles i perioden 2040-2050. Antallet positive respondenter økte til 90 prosent for 2075. Google tilhører dem som satser på at denne utviklingen vil lønne seg. Firmaet har skyflet enorme summer inn i DeepMind, et datterselskap med ett eneste formål for øye: Å løse problemet med kunstig intelligens.

Men hvordan kan noen tro at det å gå fra Watson til Terminator er et sannsynlig scenario i løpet av det 21. århundret? Hemmeligheten ligger i begrepene Moores lov og eksponentiell vekst. Moores lov sier at datakraften per mikrochip ser ut til å doble seg annethvert år, altså eksponentielt. Loven har vist seg å stemme siden Gordon Moore, grunnleggeren av Intel, formulerte den i 1965. Optimistene antar at veksten fortsetter, til den når terskelen for kunstig generell intelligens.

For å forstå kraften i eksponentiell vekst er vi nødt til å gå til en gammel historie fra India i det sjette århundre om sjakkbrettets oppfinnelse, hentet fra Ray Kurzweils bok The Age of Spiritual Machines: When Computers Exceed Human Intelligence fra 2000. For å gjøre en lang historie kort ble keiseren imponert over oppfinnelsen og spurte oppfinneren hva han skulle ha for sjakkbrettet. Oppfinneren svarte at han kun ønsket et riskorn på første rute, to på andre, fire på det tredje og så videre. Beskjedent, tenkte keiseren og aksepterte umiddelbart. Det skulle vise seg som en dramatisk feilvurdering. I likhet med de fleste av oss forsto ikke keiseren betydningen av eksponentiell vekst. For hvis han skulle betale oppfinneren, ville han måtte gi mer enn 18 kvintillioner riskorn, eller 18 milliarder milliarder – mer ris enn verdens samlede produksjon gjennom historien. Med tanke på at et sjakkbrett kun har 64 ruter, viser det styrken til eksponentiell vekst.

Selv om eksperter er uenige om når eller om vi vil se kunstig intelligens på menneskenivå, er de fleste enige om at hvis det skjer, vil utviklingen deretter foregå hurtig. En maskin med intelligens på nivå med mennesker vil kunne jobbe ekstremt fort: Dag og natt, uten behov for mat, sex eller søvn. Den, og vi, vil bruke maskinens intelligens til å bryte barrierene mot videre intelligensøkning, hvorpå denne økningen vil gjøre det mulig å konstruere enda mer intelligente systemer, og så videre, noe som kan ende i det Nick Bostrom og andre har kalt en intelligenseksplosjon. En slik eksplosjon vil etter all sannsynlighet resultere i en superintelligens: En maskin som er flere ganger smartere enn oss mennesker, som står igjen som geiter i møte med jordens nye hersker. Og det er ikke gitt at vår nye hersker vil behandle oss slik vi skulle foretrekke.

Hvorfor vil en intelligenseksplosjon kunne utgjøre en trussel for oss mennesker? I den nylig utkomne boken Superintelligence: Paths, Dangers, Strategies, presenterer Bostrom flere grunner til at det mest sannsynlige scenarioet ved en intelligenseksplosjon er et dommedagsscenario.

For det første er det lite sannsynlig at intelligente maskiner vil dele menneskelige mål og verdier. Selv om vi gjorde et forsøk på å programmere et menneskelig verdisystem eller målsett inn i den kunstige intelligensen, er det lite sannsynlig at dette vil lykkes. En tungtveiende grunn er at det er vanskelig å spesifisere moralsk adferd.

Hvilke absurde konsekvenser ville det for eksempel fått hvis vi lot den kunstige intelligensen operere etter et mål om å gjøre så mange mennesker som mulig så lykkelige som mulig? Den ville kanskje finne ut at dette oppdraget best løses ved å bruke alle verdens ressurser på å dyrke frem menneskehjerner i industriell skala, som den så foret med «lykke» gjennom intens og langvarig stimulans av hjernenes dopaminnivå.

For det andre er det sannsynlig at en kunstig intelligens vil se maksimal ressursutnyttelse som et viktig delmål for å nå sitt endelige mål. Selv om vi gir en kunstig intelligens et begrenset mål, som å løse en helt bestemt ligning, eller måle et bestemt fenomen, er det fortsatt mulig at den vil se det å bruke alle jordens ressurser som et egnet middel for å nå dette målet. En kunstig intelligens med maksimal ressursutnyttelse som delmål vil være en trussel mot menneskeheten både fordi vi selv er ressurser som kan brukes av maskinene, og fordi vi trenger ressurser for å overleve. Kort sagt, vi står i veien.

Selv om vi skulle greie å stagge superintelligente maskiner fra å bruke oss som kanonføde, er det andre problemer med kunstig intelligens på menneskenivå vi er nødt til å ta på alvor. En annen potensiell effekt av intelligensrevolusjonen, som er nærmere oss enn superintelligens, er et arbeidsmarked hvor mennesker erstattes av maskiner.

Effektene av kunstig intelligens kan allerede registreres i deler av arbeidsmarkedet. Siden 1970-tallet er den økonomiske veksten blitt redusert, og de siste årenes økonomiske nedgangstider er ikke blitt fulgt av virkelige oppgangstider. Veksten har stabilisert seg, men arbeidsplassene som tapes blir ikke erstattet av nye. Mange peker på maskinene, på robotene, både som årsak til problemene og løsning på dem.

Gitt at utviklingen fortsetter, vil flere og flere arbeidsoppgaver som tidligere var drevet av menneskelig intelligens erstattes av maskinintelligens. Kapitalismens logikk tvinger bedriftseiere til å produsere til stadig lavere kostnader uten omtanke for om de ansetter mennesker eller maskiner. Hvis maskinarbeidere kan erstatte mennesker til halvparten av prisen, vil vi etter hvert se billige maskinarbeidere i flere og flere jobber.

Det er imidlertid ikke første gang maskinene er blitt pekt på som syndebukker. Siden den industrielle revolusjonen skjøt fart på slutten av 1700-tallet har skjebnen til mennesket og maskin gått hånd i hånd. Luddittene i England var en bevegelse som bokstavelig talt gikk til angrep på maskiner fordi de tok jobbene fra mennesker. Karl Marx, en av de skarpeste analytikerne av kapitalismens problemer, forsto tidlig ulempen ved maskinene. «Maskiner … erstatter kvalifisert med ukvalifisert arbeidskraft, menn med kvinner, foreldre med barn; der de nylig introduseres kaster de arbeidere på gaten i store masser og der de blir mer utviklet og mer produktive erstatter de dem ytterligere, men i mindre grad.» (Sitat fra denne 1847-artikkelen)

Disse spådommene ble imidlertid gjort til skamme i det tyvende århundre. Grunnen til det er at maskinene var utformet for spesifikke oppgaver og hverken hadde menneskets intelligens eller autonomi. Slik kunne mennesket finne jobber der maskinene kom mennesket til kort. Med kunstig intelligens på menneskenivå er den barrieren brutt. Flere er likevel av den oppfatning at vi mennesker også vil ha en rolle å spille i fremtidens arbeidsmarked. For selv om maskiner er bedre enn mennesker til å utføre rutineoppgaver og håndtere store datamengder, betyr ikke det at er i nærheten så gode som mennesker til å håndtere uforutsigbare omstendigheter. Selv de førerløse bilene, som vel er en av de mest imponerende utviklingene vi hittil har sett, vil ha problemer med å bli implementert i et vanlig trafikkbilde.

Men hva hvis dette perspektivet kun virker troverdig fordi vi fokuserer på de første rutene på sjakkbrettet? Den eksponentielle veksten vil raskt gjøre dagens vurderinger av hva maskiner kan og ikke kan, gjøre til skamme. Det har skjedd ved flere anledninger før. Senest i 2008 ble det å navigere ukjent territorium ansett for å være «en fundamental utfordring». To år etter var det en del av alle x-boxer, en spillkonsoll man kunne kjøpe til litt over en tusenlapp.

Bostrom og flere har påpekt at maskiner med generell problemløsningsevne, som Watson eller DeepMind, vil kunne erstatte mennesker uten at det åpner seg nye nisjer som kan absorbere arbeiderne som mister jobben, og dermed virkeliggjøre Marx’ tese. Skjer det, vil det skape en enorm avstand mellom de som blir erstattet og de som greier å forene sin kompetanse med maskiner og dermed vil kunne produsere og bli betalt mye mer enn i dag. Dagens økonomiske ulikheter vil bare være småtteri i sammenligning, og den rådende velferdsstatsmodellen som knytter betalinger til tidligere arbeidsdeltagelse, vil være uegnet til å svare på behovene til et stadig voksende prekariat – en klasse som befinner seg utenfor eller i randsonen av arbeidsmarkedet.

Det er nok av tekniske og økonomiske utfordringer på veien mot kunstig intelligens. Noen mener endog at vi aldri vil forstå menneskelig intelligens. De etiske utfordringene er likevel så store at det ville være risikabelt ikke å ta konsekvensene av kunstig intelligens på alvor. For når robotene først tar over, er det ingen vei tilbake.

Advertisements

Leave a comment

Filed under essay

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s