Nå tenker de selv: Bør vi være redde for robotene?
Det kommer stadig historier om intelligente roboter som oppnår bevissthet – og nå advarer seks toneangivende robotfirmaer mot å bruke roboter til å skade andre. Men hvorfor er det i det hele tatt nødvendig – bør vi være redde for robotene? Svaret er komplisert.
I filmen «The Matrix» fra 1999 har roboter gjort menneskeheten til slaver, og i «Terminator»-filmene utspiller det seg en utslettelseskrig mellom menneskeheten og et intelligent våpensystem.
Populærkulturen er full av spektakulære kriger mellom roboter og mennesker, men ifølge forskerne lurer faren snarere blant helt vanlige, fredelige roboter.
Robotenes kunstige intelligens holder på å bli så avansert at den ikke bare kan banke oss i sjakk og styre bilene våre for oss – den kan tenke over noe så komplisert som seg selv.
Ekspertene er uenige: Tilhengerne spår et lys framtid med robothjelpere, mens kritikerne ikke nøler med å varsle om dommedag.
Hvem skal vi tro på?
Minirobot blir bevisst
Kunstig intelligens kan deles opp i fire nivåer. Roboter har så langt først og fremst befunnet seg på det mest primitive nivået: De reagerer på en bestemte input og er flinke til spesifikke oppgaver. Et eksempel er Deep Blue, IBMs datamaskin, som slo verdensmesteren i sjakk, Garri Kasparov.
På neste nivå kan robotene gjøre erfaringer; for eksempel blir stemmeassistenten Siri kjent med stemmene våre og blir flinkere til å svare på spørsmål.
Det tredje trinnet på AI-stigen er at robotene ikke bare forstå hva vi sier, men også hva vi tenker og føler – basert på for eksempel ordvalg og tone. I begynnelsen av 2023 viste en forsker ved Stanford-universitetet i USA at chatboten ChatGPT nå har en menneskeliknende «intuisjonen» på nivå med en niåring.
På det øverste nivået for kunstig intelligens kommer selvbevissthet. Det innebærer at robotene kan føre kompliserte samtaler med mennesker og samtidig reflektere over «hvem» de er i relasjon til andre ting og individer rundt seg.
Et eksemplar av miniroboten NAO ga en forsmak på selvbevissthet under et forsøk i 2015. To andre NAO-roboter ble gjort stumme av programmererne, som kalte det å gi robotene en «fordummende pille».
Alle tre roboter ble spurt hvem som hadde fått pillen.
Den uskyldig utseende NAO-roboten skapte overskrifter i 2015 da den besto en selvbevissthetstest.
To av dem kunne jo ikke ytre seg, men den tredje svarte: «Jeg vet ikke.» Men så rettet den seg selv: «Unnskyld, nå vet jeg det. Jeg kan bevise at jeg ikke har fått pillen.»
Roboten var med andre ord klar over hvem den var i relasjon til de to stumme robotene.
Robotarm er som lekende barn
I 2022 kom nyheten om en ny robotarm bygget av forskere ved Columbia-universitetet i USA.
Armen utfører oppgaver som for eksempel å gripe en ball uten at bevegelsene har blitt programmert av mennesker. Den har lært det selv.
Robotarmen beveget seg først famlende, helt fritt og uten formål mens fem kameraer tok opp bevegelsene. Den lærte ved hjelp av opptakene hvordan den kan strekke og bøye seg og svinge og så videre.
Roboten begynte å forestille seg hvor den ville flytte seg hvis den aktivisert bestemte ledd med en bestemt mengde kraft.
Den ble med andre ord bevisst på sin egen kropp – som et barn som lærer å navigere i verden.
Robot blir bevisst på sin egen kropp
Forskere ved Columbia-universitetet har utviklet en robot som er bevisst på sin egen «kropp». Uten menneskelig innblanding har roboten lært å forstå sammenhengen mellom dens bevegelser og plassen den inntar.
1 Kameraer filmer robotarmens frie lek
Robotarmen bøyer, hever og senker seg mens fem kameraer filmer bevegelsene og sender dem til et system for kunstig intelligens. Som et barn i et speilkabinett lærer roboten hvordan ulike bevegelser ser ut.
2 Roboten tegner modell av bevegelser
Robotarmens kunstige intelligens gir seg til å tegne formen på seg selv samt retningen på bevegelsene sine. For hver bevegelse blir tegningene litt mer presise, og dermed kan robotarmen styre seg selv bedre og bedre.
3 Selvbevisst AI løser oppgaver
Ut fra erfaringene har roboten dannet et selvbilde – en form for selvbevissthet – og kan nå forestille seg hvor den vil befinne seg hvis den foretar bestemte bevegelser. Nå kan roboten for eksempel gripe en ball.
Denne gryende selvbevisstheten blant roboter begeistrer noen robotingeniører, som spår at robotene vil gjøre livet vårt mye enklere på alt fra fabrikker til pleiehjem.
Hod Lipson, en av forskerne som står bak den bevisste robotarmen, mener faktisk at selvbevisste roboter vil være et større gjennombrudd enn å kurere kreft– fordi en selvbevisst robot kan klare den oppgaven og mange flere også.
Andre eksperter ser mer dystert på framtiden.
Elon Musk advarte
I 2017 signerte over tusen eksperter på teknologi og kunstig intelligens, blant annet Elon Musk, et åpent brev til verdenssamfunnet der de advarte mot tenkende roboter.
Faren er mest opplagt på slagmarken; for eksempel skjøt droner av typen Kargu-2 i 2020 på libyske opprørstropper – uten input fra mennesker. Angrepet ble det første kjente eksempelet på bruken av autonome våpen i aktiv krigføring.
Men selv om vi ser bort fra roboter bygget til militære formål, kan de bli livsfarlige.
«Når denne Pandoras eske først er åpnet, blir den vanskelig å lukke igjen.» Åpent brev fra over tusen eksperter på kunstig intelligens
Ta for eksempel de etter hvert velkjente robothundene, med Spot fra amerikanske Boston Dynamics som den mest berømte.
Hundens evner til for eksempel å gå i trapper og forsere hindringer gjør den egnet til blant annet arbeid med bomberydding eller til å hjelpe ved naturkatastrofer.
Men en sterk, rask og smidig robothund er også interessant for folk med andre hensikter. Videoer med robothunder som avfyrer maskingeværer montert på ryggen, har spredt seg på internett.
Kombinasjonen av en ultramobil robot, som kanskje snart oppnår bevissthet, og et våpen, får det til å gå kaldt nedover ryggen på mange internettbrukere, men også folk i robotbransjen.
«Kunstig intelligens kan bli enten det beste eller det verste som noen gang har skjedd for menneskeheten.» Stephen Hawking, teoretisk fysiker
Boston Dynamics var ett av seks toneangivende robotfirmaer som i 2022 kom med et samlet utspill: Roboter bør ikke gjøres om til våpen eller brukes til å skade mennesker.
Men selv om roboter ikke får geværer på ryggen, kan de fortsatt være farlige.
Selvstendighet truer
Alle datamaskiner kan hackes, og det gjelder også datamaskinene som utgjør roboters «hjerner». Ta for eksempel den lille, terrenggående Husky, som blant annet kan håndtere radioaktivt avfall.
Det fritar mennesker fra den farlige oppgaven, men roboten kan i prinsippet bli hacket og tvinges til å bruke de farlige stoffene til å skade mennesker.
Selv om robotene blir godt beskyttet mot hackere, er det fortsatt en fare for at robotene rett og slett tar feil. Det har blant annet skjedd mange ganger for de robotene som kan overta styringen av biler.
I 2018 ble en 49 år gammel fotgjenger for eksempel kjørt ned og drept av en selvkjørende Uber-bil i Arizona i USA, fordi AI-en ikke forsto at det var behov for en unnvikende manøver før det var for sent.
Og i begynnelsen av 2023 kom en rapport som dokumenterer at Teslas kunstig intelligente selvkjørende biler har hele 19 liv på samvittigheten.
Men den ultimate frykten er at roboter på det høyeste nivået av kunstig intelligens – med menneskeliknende intuisjon og bevissthet – løper løpsk slik at vi mister kontrollen over dem.
Binders kan bli vår undergang
Med avansert kunstig intelligens kan vi aldri forutsi hvordan robotene vil tenke og handle. Det mener flere eksperter, blant annet framtidsforskeren Nick Bostrom.
Når robotene blir intelligente nok, kan de nemlig bli livsfarlige – til tross for de beste intensjoner.
En selvkjørende bil fra firmaet Uber drepte i 2018 49 år gamle Elaine Herzberg da hun trillet sykkelen sin over veien i Arizona i USA.
Bostrom er særlig kjent for et tankeeksperiment: Gir vi en avansert kunstig intelligens i oppgave å produsere så mange binders som mulig, vil den kunne komme fram til at den kan produsere flere binders hvis vi mennesker ikke var i live – fordi vi kan forstyrre produksjonen, for eksempel ved å skru av roboten.
Kanskje kan den faktisk bruke kroppene våre som råvare til bindersene.
Bostrom har konstruert scenarioet for å illustrere at en selvbevisst robot er umulig å kontrollere, selv om du ber om hjelp til avgrensede, praktiske oppgaver.
Roboter kan bli våre verste fiender
1 Kunstig intelligens kan hackes
Alle datamaskiner kan hackes, for eksempel i en selvkjørende bil. Risikoen ble i 2015 demonstrert av to sikkerhetseksperter som tok kontroll over gasspedalen og bremsene i en Jeep Cherokee og kjørte bilen i en grøft.
2 Kunstig intelligens kan ta feil
I 2018 kjørte en selvkjørende bil fra firmaet Uber på en mørk vei i Arizona i USA. Da en kvinne kom trillende med sykkelen sin over veien foran bilen, forsto ikke bilen at det var en fotgjenger. Kvinnen ble drept.
3 AI vender seg mot oss
Selv «uskyldige» oppgaver kan bli fatale. Da forskere i 2015 i en simulering ba en kunstig intelligens om å redusere energiforbruket ved en flylanding, lot roboten flyet styrte fordi manøveren brukte mindre energi.
Robotfirmaene som advarer mot å bruke produktene de lager, som våpen, er optimistiske og «gleder seg til et lys framtid der mennesker og roboter jobber side om side om å løse noen av verdens problemer».
Hvis man skal tro den avdøde fysikeren Stephen Hawking, blir framtiden nettopp veldig lys – eller veldig mørk. I 2018 sa han at utviklingen av avansert kunstig intelligens kan bli:
«Enten det beste eller det verste som noen gang har skjedd for menneskeheten.»