Inden for bare få årtier kan vi have udviklet kunstig intelligens på niveau med det menneskelige sind. Derfra er der ikke langt til kunstig superintelligens. Men hvad vil der ske, hvis AI en dag lykkes med at præstere over, hvad der er menneskeligt muligt?

Af Simone Okkels

“Lad os prøve at tænke fremad. Mod den fjerntliggende fremtid og den påvirkning kunstig intelligens vil have på vores samfund. Der er en fornemmelse af, at noget stort er under opsejling. Men hvad er det helt præcist? Hvor stort er det?”

Nick Boström er filosof og leder af Oxfords Future of Humanity Institute. Han er hovednavn på den finske techfestival Shift, som fokuserer på teknologiens påvirkning og samspil med mennesket. Et varmt emne i tiden. Efter en bølge af hackerangreb, Cambridge Analytica-skandalen og den nye europæiske persondataforordning er den brede befolkning ved at få øjnene op for de usynlige strukturer, som fylder mere og mere i vores hverdag. Algoritmerne og den kunstige intelligens, som med højere og højere fart ændrer på strukturerne i vores samfund. Nick Boström fortsætter:

“Man kan komme med den dristige påstand, at udviklingen af intelligente maskiner vil blive lige så skelsættende for menneskeheden som den industrielle revolution. Jeg mener, det er underdrivelse,” siger han.

I 2014 udgav han bogen ‘Superintelligence: Paths, Dangers, Strategies’. Bogen er dedikeret til den ene trussel mod menneskeheden, der overstiger klimaforandringer, multiresistente sygdomme og krig – kunstig superintelligens.

På grund af den fik Nick Böstrom et ry som “professor Dommedag”. Helt så sortseende er han ikke mere.

“Jeg ser stadig mange ting, som kan gå galt. Men der er også mange muligheder. Vi er heldige. Indtil videre ved vi meget lidt. Så længe der er uvidenhed, er der håb,” siger han.

Fra bekymring til konstruktiv handling
Håbet kommer fra den mere åbne diskussion, der nu foregår om kunstig intelligens. Der er sket et skifte, siger Nick Boström. Tidligere var der ikke nogen seriøs diskussion om, hvad der vil ske på den lange bane, hvis AI lykkes – altså bliver lige så intelligent som mennesket, eller overgår os.

“Det var noget, vi kun talte om inden for sci-fi og løs spekulation. Men nu er en tilstrækkelig mængde bekymring kanaliseret over i konstruktiv handling. Og som jeg ser det, er der tre store udfordringer – udover det rent tekniske – som vi skal over for at nå det punkt, hvor AI virkelig lykkes til fordel for menneskeheden,” siger han.

Han nævner the Paperclip Maximizer. Det er et eksempel på, at en AI med tilsyneladende harmløse mål, som at en fabrik aldrig mere må løbe tør for papirklips, ender med at omdanne hele planeter til papirklips og derved dødsdømmer menneskeheden, fordi algoritmen hele tiden tillader den at blive mere effektiv. Det er den første udfordring: Sikkerheden ved AI – at vi ikke som Kong Midas ønsker at alt, vi rører ved bliver til guld for først bagefter at tænke over de utilsigtede konsekvenser. Som at maden også bliver til guld, at dem, vi rører ved, bliver til guld.

“Eksemplet illustrerer, at vi har brug for at udvikle et skalerbart kontrolsystem. Menneskelige værdier er komplekse størrelser, som er kontekstafhængige og svære at specificere,” siger Nick Boström.

Den accelererende udvikling af kunstig intelligens har faktisk ansporet et nyt forskningsfelt netop i AI kontrolsystemer, som bliver bedre, som den kunstige intelligens udvikler sig.

Hvem skal definere, hvad der er en succes?
Når vi har både superintelligensen og kontrolsystemerne, står vi med problem nummer to – hvem der styrer den kunstige intelligens.

“Vi taler her om en usædvanlig kraftfuld teknologi, så problemet med, hvem der beslutter, hvilke mål teknologien skal bruges til at opnå, og at det sker på en fornuftig måde, bliver også usædvanligt vigtigt,” siger Nick Boström.

Algoritmer har den svaghed, at dem, som bygger algoritmerne, er dem, der definerer målene for succes. Og deres definition af succes er ikke nødvendigvis den samme som din og min.

“Hvem end, der bliver de første til at udvikle kunstig superintelligens, ønsker vi vel alle, at det er nogen, som gør det ordentligt,” siger Nick Boström.

Hvornår det bliver, er der stor uenighed om. The Future of Humanity Institute har lavet en undersøgelse blandt ledende forskere i feltet. Nogle sagde om få år. Andre sagde aldrig. Medianen landede på mellem 2040 og 2045. Og når først AI har nået et menneskeligt niveau af intelligens, er der ikke langt til kunstig super intelligens, mener Nick Boström.

Derfor er han begyndt at undersøge den tredje udfordring. Hvad vi skal gøre med alt vores fritid, når vi har løst de praktiske og økonomiske udfordringer, og den kunstige intelligens frigør os fra at skulle arbejde, overvåge hinanden og passe på hinanden.

“Hvad skal vi gøre med vores tid, når vi bor i Utopia? Når du har brugt de første par dage på at spise og drikke, hvad så?,” spørger han og fortsætter:

“Ultimativt er jeg meget optimistisk omkring vores fremtid. Hvis vi overkommer udfordringerne, åbner vi op for enorme muligheder for vores tilværelse. Foreløbig har vi kun en svag idé om, hvordan den vil se ud. Men over de kommende år vil vi kunne male et mere fuldendt billede af, hvad der vil ske, hvis transitionen til maskinintelligensens æra ender godt.”

Om Simone Okkels
Uddannet journalist fra Danmarks Medie- og Journalisthøjskole. Tidligere ansat ved Berlingske, TV2 og Trendsonline. Har de seneste år bevæget sig i og skrevet om startupmiljøet i Danmark. Arbejder i dag som selvstændig journalist, konsulent og digital nomade med fokus på tech, innovation og startups.