Googles kunstige intelligens utvikler aggressiv atferd

Google-firmaet DeepMind har skapt en kunstig intelligens som plutselig begynner å oppføre seg både aggressivt og grådig i konkurransesituasjoner.

DeepMinds kunstige intelligens angriper sine motstandere med laservåpen, noe vi har sett før – på film.
© Paramount Pictures

Publisert den 02.03.17

Av Mikkel Skovbo

Laserstrålene fyker til høyre og venstre og lammer motstanderen, slik at den kunstige intelligensen kan høste alle ressursene selv.

Det høres ut som en dommedagsscene fra Terminator-filmene, men faktisk er det virkeligheten i det spillet firmaet DeepMind har utviklet til sin kunstige intelligens.

Kunstig intelligens skyter for å vinne

DeepMind har testet et enkelt «fruktsamler-spill» 40 millioner ganger. To enheter konkurrerer mot hverandre om å samle inn flest poeng. De to spillerne var styrt av kunstig intelligens.

Forsøket viste at jo færre poeng det var igjen å spille om, jo mer aggressiv ble den kunstige intelligensen – den forsøkte å lamme motstanderen med sin laserstråle.

Det blir konflikt når kunstig intelligens opplever knapphet. De to kunstig intelligente spillerne er blå og rød, poengene grønne og laserstrålene gule.

Jo mer intelligent, jo mer aggressiv

Interessant nok var det den mest komplekse kunstige intelligensen som oftest utviklet seg aggressivt og grådig. Når DeepMind testet spillet med «dummere» kunstig intelligens, delte spillerne i stedet poengene mellom seg på et mer fredelig vis.

Den mest avanserte kunstige intelligensen klarte å lære av sine omgivelser og utvikle en aggressiv taktikk til egen fordel – et atferdsmønster man normalt forbinder med mennesker.

Forskningen er fortsatt ikke fagfellevurdert.