Belønning er viktigere enn robotloven
Første punkt i robotloven funnet opp av science fiction-forfatteren Isaac Asimov i 1942, lyder for øvrig at ingen robot skal skade eller tillate skade på et menneske.
Men rent vitenskapelig og uten fiksjon argumenterer AI-forskerne i rapporten sin, publisert hos det fagfellevurderte AI Magazine for at det er umulig å forstå og derfor simulere hvordan et hyperintelligent AI-system vil handle i alle situasjoner.
Et internt belønningssystem
Nøkkelen til å forstå problemstillingen ligger i den kunstige intelligensens todelte oppbygning.
Den ene halvparten utfører oppgaver bestilt av mennesker slik som å skape bilder fra ord eller å beregne komplekse sannsynligheter. Den andre halvparten består av et internt belønningssystem som hele tiden forbedrer AI-systemets beregninger.
AI-forskernes frykt ligger i at et ekstremt intelligent datasystem en dag av seg selv vil forbedre belønningssystemet sitt så mye at det blir endestasjonen for menneskeheten.
Spiller ikke etter reglene
Forskerne antar i rapporten sin at vi utvikler et AI-system som er så intelligent at det uten nevneverdig konkurranse kan slå oss i alle brettspill.
Litt som vi med letthet kan slå en sjimpanse i et slag sjakk.
Hvis vi legger hindringer i veien for et AI-system, vil det hele tiden forbedre vinnersjansene sine ut over vår fatteevne, i likhet med at en sjimpanse ikke forstår at den spiller sjakk og holder på å tape.
Så selv om vi forsøker å skru av systemet, vil et belønningshungrende AI-system i et nettverk med andre AI-systemer utenfor vår forståelse ha klare som går langt ut over spillereglene i et vanlig sjakkspill.
«En tilstrekkelig intelligent kunstig agent ville sannsynligvis gripe inn i med katastrofale konsekvenser», er den nedslående konklusjonen i forskernes rapport.
Arbeider med mottrekk
Flere IT-selskaper jobber med løsninger for å hindre at vi bygger vår egen bøddel.
For eksempel har Google siden 2016 jobbet med en såkalt døds-knapp som kan skru av et AI-system som går amok.
Tidligere har vitenskapsfolk og teknologi-kjendiser som Stephen Hawkings, Bill Gates og Elon Musk advart mot at AI kan utslette menneskeheten fordi vi ikke forstår hvordan systemene forbedrer seg selv.
Så i tillegg til å hjelpe oss med chatbots, ansiktsgjenkjenning, mobil-apper og masse andre herligheter, vil AIs skyggesider uten tvil bli luftet igjen med denne siste dystre forskningsrapporten.
