Hvordan kan vi sikre at kunstig intelligens kommer fellesskapet til gode?
Kunstig intelligens (KI) er ikke en monsterrobot som kommer og tar deg. Det er den usynlige infrastrukturen som retter skrivefeilene dine, sorterer e-posten din og får deg til å bruke mest mulig tid på sosiale medier. I dag har vi «smal KI», som gjør isolerte oppgaver like godt eller bedre enn mennesker. Neste skritt er generell KI, og så blir det umulig for mennesker å forstå teknologien. Dette beskriver futuristen Amy Webb i boka «The Big Nine». Tittelen refererer til verdens ledende IT-selskaper: Google, Amazon, Apple, IBM, Microsoft og Facebook, samt kinesiske Baidu, Alibaba og Tencent.
I USA er selskapene styrt av kortsiktige krav om profitt. De spyr ut nye produkter og tjenester, på bekostning av etiske og langsiktige hensyn. I Kina er selskapene prisgitt regjeringens autoritære ambisjoner, og persondata brukes til å gi folk sosial kreditt. Oppfører du deg rett, tjener du poeng, som gjør det enklere og billigere å delta i samfunnet. Er du ulydig, kan du få trøbbel med å skaffe deg jobb, boliglån, flybilletter og mye annet. Webb påpeker at Kina har større planer med KI enn å kontrollere sin egen befolkning.
Hva skjer når vi overlater fremtiden til en gjeng i Silicon Valley, eller til den kinesiske regjeringen? Hvem sikrer at KI ivaretar folk flests interesser? Allerede nå kritiseres teknologien for å spre desinformasjon, gjøre oss ukonsentrerte og avhengige av «likes». Menneskets intelligens utvikler seg sakte, siden det er vanskelig å endre hjernens struktur. Vi kan heller ikke seriekoble hjernene våre. KI lærer automatisk av andre enheter i nettverket, og maskinvare kan lett bygges ut. Systemer som utvikler seg selv trenger ikke en gang hjelp fra de smarteste av oss. Amy Webb ser for seg tre scenarier for de neste femti årene.
Det optimistiske scenariet
Den beste fremtiden krever et internasjonalt organ som holder KI i ørene. Webb kaller det GAIA (Global Alliance on Intelligence Augmentation). Her møtes forskere og andre fagfolk fra medlemslandene. De sørger for at vi eier våre egne persondata, og kan koble dem opp mot tjenester etter eget ønske. De sikrer at viktige verdier kodes inn i KIs algoritmer, og at verdiene kan oppdateres. GAIA legger også press på Kina for å følge menneskerettigheter. Kina får bli med i GAIA om de godtar reglene, og det er kostbart å stå utenfor.
Vil du vite mer om dagliglivet i det beste scenariet, må du lese boka. Stikkord: systemer som er kompatible på tvers av produsenter, som er miljøvennlige, som hjelper funksjonshemmede og demente, som lar elever lære i sitt eget tempo, digitale nyhetsagenter som informerer og diskuterer med deg, og mye forebyggende helseteknologi. Når generell kunstig intelligens er i ferd med å bli til superintelligens, i 2069, setter GAIA ned foten. For å unngå uønskede mutasjoner, begrenses tempoet KI får utvikle seg i.
Det pragmatiske scenariet
I denne fremtiden fins ikke GAIA, og ingen IT-selskaper vil skuffe aksjeeierne. Silicon Valley er ikke enige om et sett verdier og standarder, og har heller ikke tid til å jobbe for det. Hverdagen vår styres av Google-IBM og Applezon, og vi vet lite om hvordan de bruker persondata. Det er vanskelig for brukeren å bytte mellom de to selskapene, siden dataene er flettet inn i alt fra skole til helsevesen og transport.
Hjemme får du reklame på speil, vindusruter og andre smart-overflater. Det gir deg billig eller gratis teknologi. Tingene dine kommenterer alt du gjør. Når batteriet i smart-tannbørsta har gått, blir du trist fordi den ikke roser tannpussen din. Ser du på et kakestykke, får du en advarsel. Kobler du deg fra systemet som maner til sunnhet, får du dyrere helseforsikring (om du bor i USA). I bytte mot data om kroppen, blir du tidlig og gratis diagnostisert.
Folk får ulike versjoner av nyheter, og vet ikke hvem de kan stole på. Også journalister blir lurt av «deep fake»-teknologi, som lar hvem som helst legge ord i munnen på andre i videoer. Ingenting ser manipulert ut, selv om det er det. Facebook går dårlig og selges i flere deler i 2035. Kina kjøper persondataene. I Afrika bygger Kina infrastruktur, koloniserer land og implementerer sosial kreditt. De kontrollerer 75 prosent av verdens litiumressurser, som trengs for å lage batterier. Kina er verdensledende på teknologi, siden regjeringen deres hadde en langsiktig plan for KI.
I USA begynner lyset å slå seg av, smartbriller svikter og satellitter kommer ut av kurs. I 2069 blir landet digitalt okkupert av Kina. Nekter amerikanerne å følge ordre, går det galt med dingsene deres. I bytte mot persondata, lar Kina USAs infrastruktur være i fred. Det er klart for kunstig superintelligens, utviklet av et diktatur som allerede i dag underviser i KI på barneskolen.
Katastrofescenariet
Her må husholdninger velge enten Google, Apple eller Amazon, som slett ikke samarbeider. Amazon tar seg av de fattige, og erstatter offentlige boligprogrammer i USA. Beboerne tvinges til å kjøpe det meste fra selskapet, mens dataene deres kan brukes til hva som helst. De rike kan velge bort reklame og få mer fleksible produkter og tjenester. Alle vet hvilken sosial status du har, etter hvilket selskap som styrer livet ditt. Overklassen bruker Apple, middelklassen Google og resten Amazon. Apple-folk får finere bil når de bestiller taxi, mens Amazon-folk må se reklame under kjøreturen. Vi gifter oss og får barn med personer fra vår egen teknologiske kaste. Prøver vi å gjøre det på tvers, blir tingene våre uvenner, siden de ikke er teknisk kompatible.
Fysisk arbeid var vanskeligere å erstatte med roboter enn vi trodde. Det er kunnskapsarbeiderne som mister jobben. Vi mangler manuell arbeidskraft, siden vi prioriterte feil. Nerdene har programmert seg selv til ledighet. Vi injiserer nanoroboter i kroppen vår, som diagnostiserer, medisinerer og reparerer oss. De rike kan oppgradere sanser og organer, mens fattige blir biologiske tapere. Nanobotene er litt for ivrige, og aborterer fostre ved det minste tegn til noe unormalt. De er programmert for optimalisering, ikke for helhetlige hensyn.
Kina hacker huset ditt, så du ikke får åpnet kjøleskapet. De vil at du skal miste tilliten til Google, Apple og Amazon. I 2069 har de dannet et AI-dynasti, med 150 land som følger deres politikk. Til gjengjeld får landene handelsmuligheter og et stabilt finanssystem. USA utestenges fra land som er underlagt Kina. Kina trenger ikke lenger USA som handelspartner. En dag sprer en mystisk sykdom seg hos Apple-familier. Beijing har funnet ut at eneste løsning er å utslette USA og deres allierte, siden klimaendringer har skapt knapphet på ressurser.
Krever nytenkning
Amy Webb refser amerikanske myndigheter for å luke øynene for KI. De må gi teknogigantene insentiver til å samarbeide for fellesskapets beste. De må finansiere forskning og utvikling av IT, så selskapene kan tenke på mer enn profitt, og får tid til å teste at ny teknologi oppfyller gode hensikter.
Store deler av verden er nå avhengig av Kina for teknologisk og økonomisk utvikling. Samtidig tenker USA gammeldags om krig og forsvar. Webb ber myndighetene tenke slik de gjør med militæret, med gratis utdanning i kunstig intelligens, mot noen års arbeid med AI for fellesskapets beste. I dag er det vanskelig å rekruttere IT-hoder til Washington, fordi de får bedre betalt i Silicon Valley. USA må forstå at datanerder er strategiske partnere, skriver Webb, ikke bare folk som lager kule apper.
Karibua 