Kan kunstig intelligens (KI) bli smartere enn oss innen utgangen av dette tiåret? En ny studie fra Google DeepMind antyder at dette scenariet ikke bare er mulig, men at det også kan utgjøre en reell fare for menneskeheten.
Ifølge studien vil såkalt Artificial General Intelligence (AGI), altså generell kunstig intelligens med evnen til å forstå, lære og anvende kunnskap like fleksibelt som mennesker, kunne bli en realitet allerede innen 2030. Dette bringer med seg potensielle risikoer som kan være katastrofale.
Alvorlige farer og samfunnets ansvar
Rapporten trekker frem risikoen for at AGI kan føre til alvorlige konsekvenser, inkludert scenarioer som kan «ødelegge menneskeheten permanent». Selv om studien ikke spesifiserer nøyaktig hvordan AGI kan føre til menneskehetens utryddelse, peker den på fire store risikoområder:
- Misbruk (for eksempel hvis AGI utnyttes av terrorgrupper eller ondsinnede aktører)
- Feiljustering (AGI-systemer som ikke handler i samsvar med menneskelige verdier og intensjoner)
- Utilsiktede feil (tekniske feil med katastrofale følger)
- Strukturelle risikoer (langvarige og uforutsette samfunnsmessige konsekvenser)
Studien understreker også at avgjørelser om hva som skal betraktes som alvorlige skader, ikke bør overlates kun til teknologiselskaper. Det er samfunnet selv, med sin kollektive forståelse av risiko og toleranse, som må styre utviklingen og bruken av AGI.
Forebyggende tiltak og globalt samarbeid
Demis Hassabis, administrerende direktør i DeepMind, har tidligere uttrykt bekymring over den raske utviklingen innen AGI. Han mener generell kunstig intelligens som er på høyde med eller overgår menneskers evner, kan dukke opp allerede om fem til ti år. Hassabis har derfor foreslått opprettelsen av en global organisasjon, lignende CERN eller FNs atomenergibyrå (IAEA), for å regulere og overvåke utviklingen av AGI.
En slik organisasjon kunne sikre internasjonalt samarbeid om forskning og samtidig overvåke prosjekter for å forebygge skadelig bruk. «Vi trenger et slags teknisk FN, spesifikt rettet mot å sikre trygg utvikling og anvendelse av AGI,» uttalte Hassabis nylig under et intervju.
Hva innebærer generell kunstig intelligens?
Mens dagens kunstige intelligens ofte spesialiserer seg på enkeltoppgaver, som ansiktsgjenkjenning eller sjakk, vil AGI kunne utføre mange ulike oppgaver på samme måte som et menneske. Tenk deg en maskin som både kan diagnostisere sykdommer, skrive romaner og føre komplekse samtaler om filosofi. Mulighetene er enorme, men det samme er utfordringene og risikoene.
Personlig merker jeg selv hvor fort teknologien beveger seg når min smarttelefon allerede nå kan lære seg mine vaner og nesten forutsi hva jeg skal gjøre i løpet av dagen. Tanken på en intelligens som langt overgår dette, får meg – og sikkert mange andre – til å reflektere over hva fremtiden kan bringe.
Det gjenstår å se om vi klarer å balansere fordelene med den generelle kunstige intelligensens potensielle farer. En ting er sikkert: Innen 2030 vil verden se ganske annerledes ut, enten vi liker det eller ikke.
