AI Robotter kunstig intelligens

Forskere slår alarm: Slik kan AI-roboter utslette menneskeheten

At kunstig intelligens en dag kan utslette menneskeheten, er ikke bare mulig, men sannsynlig, mener AI-forskere i en ny rapport.

At kunstig intelligens en dag kan utslette menneskeheten, er ikke bare mulig, men sannsynlig, mener AI-forskere i en ny rapport.

Shutterstock

Menneskehetens verste mareritt om intelligente maskiner som overtar herredømmet på planeten jorden, kan en dag bli dødsens alvor.

Det mener et forskningsteam som står bak en fersk studie av kunstig intelligens (AI) med et iboende belønningssystem der avanserte maskiner ifølge forskerne vil gjøre alt for å oppnå en høy score – også hvis det koster mennesker livet.

Forskerne som står bak det dystre utspillet, inkluderer blant andre Marcus Hutter, som i tillegg til å være professor ved det nasjonale universitetet i Australia også forsker på kunstig intelligens ved Googles AI-prosjekt DeepMind.

Belønning er viktigere enn robotloven
Første punkt i robotloven funnet opp av science fiction-forfatteren Isaac Asimov i 1942, lyder for øvrig at ingen robot skal skade eller tillate skade på et menneske.

Men rent vitenskapelig og uten fiksjon argumenterer AI-forskerne i rapporten sin, publisert hos det fagfellevurderte AI Magazine for at det er umulig å forstå og derfor simulere hvordan et hyperintelligent AI-system vil handle i alle situasjoner.

Et internt belønningssystem

Nøkkelen til å forstå problemstillingen ligger i den kunstige intelligensens todelte oppbygning.

Den ene halvparten utfører oppgaver bestilt av mennesker slik som å skape bilder fra ord eller å beregne komplekse sannsynligheter. Den andre halvparten består av et internt belønningssystem som hele tiden forbedrer AI-systemets beregninger.

AI-forskernes frykt ligger i at et ekstremt intelligent datasystem en dag av seg selv vil forbedre belønningssystemet sitt så mye at det blir endestasjonen for menneskeheten.

Spiller ikke etter reglene

Forskerne antar i rapporten sin at vi utvikler et AI-system som er så intelligent at det uten nevneverdig konkurranse kan slå oss i alle brettspill.

Litt som vi med letthet kan slå en sjimpanse i et slag sjakk.

Hvis vi legger hindringer i veien for et AI-system, vil det hele tiden forbedre vinnersjansene sine ut over vår fatteevne, i likhet med at en sjimpanse ikke forstår at den spiller sjakk og holder på å tape.

Så selv om vi forsøker å skru av systemet, vil et belønningshungrende AI-system i et nettverk med andre AI-systemer utenfor vår forståelse ha klare som går langt ut over spillereglene i et vanlig sjakkspill.

«En tilstrekkelig intelligent kunstig agent ville sannsynligvis gripe inn i med katastrofale konsekvenser», er den nedslående konklusjonen i forskernes rapport.

Arbeider med mottrekk

Flere IT-selskaper jobber med løsninger for å hindre at vi bygger vår egen bøddel.

For eksempel har Google siden 2016 jobbet med en såkalt døds-knapp som kan skru av et AI-system som går amok.

Tidligere har vitenskapsfolk og teknologi-kjendiser som Stephen Hawkings, Bill Gates og Elon Musk advart mot at AI kan utslette menneskeheten fordi vi ikke forstår hvordan systemene forbedrer seg selv.

Så i tillegg til å hjelpe oss med chatbots, ansiktsgjenkjenning, mobil-apper og masse andre herligheter, vil AIs skyggesider uten tvil bli luftet igjen med denne siste dystre forskningsrapporten.