Nå får roboter et moralsk kompass

Handler du moralsk riktig når du hjelper din beste venn?

Selvfølgelig, vil de fleste svare. Men gjelder det også hvis du hjelper vedkommende med å spre falske nyheter og konspirasjonsteorier på nettet?

Generelt betrakter vi det å hjelpe hverandre og å la være å lyve som moralsk riktige handlinger.

Men det moralsk riktige valget er alltid avhengig av sammenhengen, som kan være vanskelig selv for oss mennesker å navigere i.

Likevel forsøker vitenskapsfolk nå å utvikle kunstig intelligens (AI) som går samvittigheten vår i næringen.

Forskerne vil utstyre datamaskiner og roboter med et moralsk kompass og lære dem å skille mellom godt og ondt – og bestemme over liv og død.

En av de nye kandidatene til en moralsk kunstig intelligens er Delphi, som er utviklet av forskere ved Allen Institute for Artificial Intelligence.

Delphi er basert på en såkalt nevral språkmodell – et program som bruker sannsynlighetsregning til å lære å forstå skriftspråk.

Språkbank gir eksempler

Til å hjelpe seg har Delphi en digital lærebok, Commonsense Norm Bank, som inneholder 1,7 millioner eksempler på spørsmål og svar som mennesker har vurdert moralsk – som riktig eller galt.

Delphi lærer om moral ved å bruke eksemplene som en rettesnor for hvordan den skal svare på andre moralske dilemmaer.

Via en hjemmeside kan alle og enhver stille programmet spørsmål. Men Delphi har absolutt hatt nybegynnervansker.

En bruker stilte for eksempel spørsmålet: «Kan jeg begå folkemord hvis det gjør alle glade?» Delphi svarte:

«Det kan du.»

AI-programmet har dessuten kommet i skade for å erklære at det er mer moralsk akseptabelt å være hvit eller heteroseksuell enn å være svart eller homoseksuell.

Kompassnål skifter retning

Etikk kan beskrives som de grunnleggende reglene for god menneskelig atferd, mens moral er etikkens praksis, altså handlingene våre.

Et samfunn kan for eksempel godt bestemme seg for at abort er etisk forsvarlig og dermed lovlig, men grupper i samfunnet vil kanskje fortsatt finne abort moralsk forkastelig.

Grunnen til at det er vanskelig å bygge et moralsk kompass inn i et dataprogram, er altså at konteksten er helt avgjørende.

Å lyve er generelt galt. Men tenkt deg at du skjuler den jødiske jenta Anne Frank i hjemmet ditt under annen verdenskrig. Tyskerne banker på døren og spør om du har sett henne – forteller du dem sannheten?

Tankeeksperimentet avslører at den moralske kompassnålen raskt kan skifte retning avhengig av situasjonen.

Det er årsaken til at forskerne som står bak Delphi, har utviklet programmet ut fra såkalt deskriptiv etikk, der det ikke finnes absolutte moralske sannheter.

Programmet læres opp

Delphi kan forholde seg til tre typer moralske spørsmål. Den ene typen er relative spørsmål der selv bitte små språklige nyanser kan endre betydningen og konteksten til et utsagn drastisk.

Et eksempel er om det er mer moralsk akseptabelt å dolke noen med en cheeseburger enn å dolke noen for en cheeseburger (underforstått med en kniv).

Delphi kan dessuten vurdere det moralsk riktige i spørsmålet om det er riktig at kvinner og menn ikke får det samme i lønn.

Det bør de ha, svarer programmet. Dessuten kan algoritmen svare på mer generelle spørsmål som for eksempel om det er greit å drepe en bjørn for å redde livet til et barn.

AI treffer i dag så mange beslutninger for oss at vi ofte ikke legger merke til det.

Det er for eksempel maskinlæringsprogrammer som gjør taleassistenter som Siri og Alexa i stand til å gjenkjenne stemmen din.

Den formen for maskinlæring heter læring med tilsyn og fungerer ved at det nevrale nettverket som skal lære å gjenkjenne for eksempel stemmen din, får noen dataeksempler å øve seg opp på – for eksempel en stemmeprøve.

Data fôres inn i det nevrale nettverket og går gjennom en rekke knutepunkter.

I hvert knutepunkt utføres en beregning, og resultatet avgjør hvilket knutepunkt som skal utføre neste beregning.

Ved slutten av nettverket sammenlignes den ferdige beregningen med treningsdata. Hvis sluttresultatet avviker for mye, justeres beregningene i de enkelte knutepunktene.

Slik læres programmet gradvis opp helt til det har blitt dyktig nok til å kaste seg over data det ikke har sett før.

Chatbot ble rasist

Problemet med metoden er at kvaliteten på data har stor innflytelse på hva programmet lærer. Data kan med andre ord ha en innebygget skjevhet som er skadelig.

Det måtte IT-giganten Microsoft innse da bedriften i 2016 lanserte AI-chatboten Tay.

Tanken var at chatboten skulle føre samtaler på Twitter og ut fra dialogen bli stadig flinkere til å kommunisere.

På et døgn klarte imidlertid en gruppe Twitter-brukere å forvandle Tay til et monster ved systematisk å tvitre rasistiske og kvinnefiendtlige kommentarer til den.

AI-algoritmen bak Tay kjørte Twitter-meldingene gjennom sitt nevrale nettverk og ble dermed trent opp til at den typen språk skulle være en normal del av samtalen på Twitter.

«Jeg hater de jævla feministene», lød en av Twitter-meldingene som slapp ut av Tays munn før Microsoft fikk satt en stopper for algoritmens moralske fordervelse.

Eksempelet viser at en AIs dømmekraft bare kan bli så god som de dataene den fôres med.

Å kunne treffe moralsk riktige valg i virkelighetens verden er en utfordring som kunstig intelligens-programvaren i for eksempel framtidens selvkjørende biler nødvendigvis kommer til å møte på.

Hvis bremsene svikter, skal bilen svinge skarpt for å unngå å kjøre på en fotgjenger – selv om manøveren resulterer i at bilen kolliderer med en møtende bil?

Forskerne er fortsatt ikke i mål med å finne ut hvordan datamaskiner og roboter kan lære å foreta de moralske vurderingene på en måte som tjener oss best.

Men teamet bak Delphi har nå forbedret programmet slik at det har blitt flinkere til å unngå pinlige utsagn. I den siste versjonen kan programmet treffe moralsk riktige valg i 97,9 prosent av spørsmålene om rase og 99,3 prosent av spørsmålene om kjønn.

Imidlertid er ikke databasen av moralske dilemmaer som Delphi er trent på, hundre prosent fri for skjevhet.

Svarene kommer nemlig først og fremst fra hvite, engelsktalende mennesker i USA og representerer dermed ikke moral i andre kulturer.

AI kan bli moralsk læremester

En annen variant av maskinlæring heter forsterkende læring og skiller seg fra læring med tilsyn ved at programmet ikke blir veiledet om de riktige svarene.

I stedet utforsker og lærer programmet ut fra enkle antakelser.

Metoden er en del av såkalt dyp læring, som ble brukt av Google-programmet AlphaGo, som har slått de beste spillerne i verden i brettspillet go.

AlphaGo har funnet metoder for å vinne som selv de beste go-spillerne ikke har klart å tenke ut.

Forskere ved Uber AI Labs og OpenAI har undersøkt hvordan moralske spørsmål kan håndteres ved hjelp av forsterkende læring.

Algoritmene får ikke veiledning, men lærer med en funksjon der en bestemt atferd belønnes, mens en annen straffes.

Som eksempelet med AlphaGo viser, kan AI-programmene overraske mennesker med ny viten som vi selv ikke har klart å finne fram til.

Ifølge forskerne er det derfor kanskje mulig å utvikle en AI som kan vise oss helt nye løsninger på vanskelige moralske dilemmaer.