AI-pioner angrer på arbeidet med kunstig intelligens
Geoffrey Hinton er blant annet redd for hva et menneske som Putin kan bruke kunstig intelligens til.
Tidligere har Geoffrey Hinton uttrykt bekymring for at den kunstige intelligensen skal kunne misbrukes.
Den britisk-kanadiske kognitive psykologen og informatikeren Geoffrey Hinton angrer på at han har arbeidet med kunstig intelligens.
Det sier han i et intervju med BBC.
75 år gamle Hinton oppfattes ifølge BBC som en gudfar innen forskning på kunstig intelligens.
Hinton har jobbet for Google i mer enn ti år, men forlot selskapet mandag slik at han kan snakke fritt om farene knyttet til kunstig intelligens. Det sier han til avisen New York Times.
Ifølge avisen slutter han seg nå til det koret av kritikere som mener at selskaper tar for lite hensyn til risikoen knyttet til kunstig intelligens.
Hinton mener utviklingen av kunstig intelligens – som vinner fram i chatroboter som ChatGPT og den oppdaterte versjonen GPT-4 – er «ganske uhyggelig».
«Akkurat nå er de ikke mer intelligente enn oss. Men det tror jeg at de vil være om ikke lenge», sier Hinton til BBC.
Det er Hintons forskning på kunstig intelligens som har vært med på å bane vei for chatroboter som ChatGPT. Og han frykter at utviklingen kan gjøre at robotene snart får mer kunnskap enn mennesker.
«Akkurat nå ser vi produkter som GPT-4, som har mye mer allmennkunnskap enn et menneske», sier han.
«Og det utvikler seg raskt. Det bør vi være bekymret for.»
Hinton har også tidligere overfor New York Times uttrykt bekymring for at den kunstige intelligensen kan misbrukes.
En global sensasjon
Overfor BBC kaller han det et marerittscenario.
«For eksempel kan man forestille seg at ondsinnede aktører som Putin bestemmer seg for å gi roboter evnen til å lage sine egne delmål», sier Hinton.
Og de delmålene kan ifølge Hinton handle om å få mer makt.
Kunstig intelligens innebærer at en datamaskin kan simulere menneskelig tenkning og atferd.
ChatGPT ble en verdenssensasjon da den ble lansert i slutten av november i fjor.
ChatGPT er utviklet av selskapet OpenAI.
Senere har en oppdatert versjon – GPT-4 – begynt å gi enda bedre svar. Den oppfører seg ifølge OpenAI også mer menneskelig enn forgjengeren. Man regner med at roboten kommer til å bli enda mer intelligent i framtiden.
«Alle disse kopiene kan lære, men samtidig dele kunnskapen med en gang. Det svarer til at man har 10 000 mennesker, og at så snart et av dem lærer noe, har alle den samme kunnskapen omgående», sier Hinton.