Slik hackes følelsene dine

Menneskets evne til å dikte opp og tro på fiksjonshistorier har gjort oss til verdens herskere. I fremtiden kan den samme evnen bli vår undergang, mener Yuval Noah Harari.

Det som lot Homo sapiens legge verden under seg var ikke først og fremst intelligensen vår. Det var fantasien, rettere sagt troen på fiktive historier. Det er hovedpoenget i «Sapiens» av Yuval Noah Harari, en bok som tok verden med storm i 2014. Sju år senere tar den israelske historikeren oss med til fremtiden, i en episode av podkasten «Your Undivided Attention». Men først litt forhistorie. 

Neanderthalerne hadde ingen religion eller nasjonalromantikk. Bare Homo sapiens tror på fortellinger om abstrakte størrelser som guder og nasjoner. Vi som tror på den samme historien, identifiserer oss med hverandre, og blir motivert til å hjelpe hverandre. Det lønner seg for alle parter, for eksempel får det oss til å betale skatt. Slik kan vi samarbeide effektivt med millioner av ukjente. Andre arter kan bare samarbeide med individer de har direkte kontakt med.

Å vekke følelser har alltid vært en smart strategi for historiefortellere, enten de lager reklame eller religioner. Aldri har de hatt større muligheter til å manipulere følelsene våre enn i dag. Nyhetsstrømmen din på Facebook tilpasser seg hva du føler mest for. Falske nyheter kan påstå hva som helst for å vekke sterke reaksjoner. Da er det ikke rart at de sprer seg raskere enn mer autentiske nyheter. For å kunne konkurrere om oppmerksomheten din, må også seriøse medier fortelle bedre historier og appellere mer til følelser. 

Før internett fikk folk i samme nasjon i større grad servert de samme historiene. Nå får vi helt ulike historier i nyhetsstrømmen vår. Noen får bare opp historier om farer ved koronavaksiner, fordi de har likt slike historier før, og fordi vennene deres liker dem. Andre får bare høre om vaksinenes velsignelser. Noen ser gråtende butikkeiere miste livsverket sitt når «Black Lives Matter»-aktivister setter bygninger i brann i Portland. Andre ser antirasister med rosa ballonger demonstrere fredelig i de samme bygatene. I USA er demokrater og republikanere blitt hverandres største fiender. Slik polarisering skjer også i mange andre land, og sosiale medier får noe av skylden. 

Du er produktet

Etter den humanistiske revolusjon, ble menneskers følelser en viktig rettesnor for etikk og politikk i demokratiske land. Guds ord var ikke lenger øverste autoritet. Misliker du karikaturtegninger av profeten Muhammed? Da kommer du ikke langt med å si at Norge må forby dem fordi islam gjør det. Vil du bli tatt seriøst i debatten, må du si at karikaturene kan såre menneskers følelser. Yuval Noah Harari vil ikke tilbake til en guddommelig autoritet, men han ser også problemet med la følelsene bestemme. Hva skjer med etikken og politikken når folks følelser kan manipuleres langt mer effektivt enn før? 

Sosiale medier oppmuntrer ikke til rasjonell refleksjon, sier lege og videoblogger Zubin Damania. På Facebook ser han sine egne kollegaer oppføre seg som fjortiser, desperate etter «likes». Det får de ved å mene det samme som de digitale vennene, og henge ut de som mener noe annet. Ideologiske bobler og tilhørende følelser forsterkes gjennom algoritmene. Jo mer vi føler for noe, jo sikrere blir vi på at vi har rett. Det gjør oss mer motivert til å like og dele, altså bruke mer tid på sosiale medier. Problemet er at disse mediene belønner våre verste sider, sier Damania. Det skyldes forretningsmodellen. Du er ikke kunden som Facebook vil hjelpe. Annonsørene er kunden, mens du er produktet som selges. Du gir fra deg data som lærer Facebook hvordan de stjeler mer av oppmerksomheten din, som de selger til annonsørene. 

Sovjetunionen prøvde også å samle inn mest mulig data om befolkningen, men det fantes ikke nok KGB-agenter. Regimet manglet også effektive metoder for å analysere dataene. Når vi alltid har med oss smarttelefonen, lærer vi algoritmene hvordan hjernen vår virker. Dermed kan følelsene våre hackes i industriell skala, med kirurgisk presisjon. I fremtiden vil biometriske data også samles inn, altså informasjon fra innsiden av kroppen. Det er vanskelig å takke nei til et system som kan diagnostisere sykdom på et tidlig stadium. Det samme systemet kan lese kroppens signaler om hva du føler. Dermed får Netflix vite nøyaktig hvordan du reagerer på en filmscene, og kan lage filmer som fenger deg enda mer.

Kjøleskapet kan forstå deg best

Ingen er immune mot fortellinger som er optimalisert for deres egne følelser. Selv ekte journalister lar seg lure av falske historier. Både Aftenposten, Dagbladet, NRK, TV 2 og VG har sitert meldinger fra den russiske «trollfabrikken» Internet Research Agency på Twitter. Yuval Noah Harari forteller hvordan teknologien kan lage nye konspirasjonsteorier helt av seg selv. Kunstig intelligens (KI) kan teste ut hvilke teorier som fenger folk mest. Basert på denne lærdommen, kan KI utvikle nye teorier som sprer seg enda raskere. Er dette fremtiden på sosiale medier? 

I science fiction ender roboter ofte opp som taperne i historien, fordi de ikke forstår menneskers følelser. Slik er det ikke i virkeligheten, sier Harari. En robotvenn kan ha bedre tilgang til hjernen din enn personen du er gift med. En kinesisk bruker av Microsofts chatbot Shaways, sa at boten reddet livet hans da han vurderte selvmord. Når du kommer frustrert hjem fra jobb i fremtiden, vil du kanskje oppleve at kjøleskapet ditt forstår deg bedre enn partneren din. Biometriske data gir den kunstige intelligensen direkte tilgang til følelsene dine. Hva er problemet med «empatisk» teknologi? Det kommer an på hva vi optimaliserer den for. Vil du at din virtuelle venn skal motivere deg til å trene og spise sunt? Eller vil du heller manipuleres til å få bedre følelser for den usunne kroppen din? Kan du i det hele tatt styre robotens verdier, eller er den låst til Googles verdier? Vil Google gi deg varme følelser for det som best tjener selskapets aksjonærer? 

Harari mener nå at det som gjorde mennesker suksessrike, troen på fiktive historier, kan bli vår undergang – eller i hvert fall endre oss drastisk. Teknologien forstår menneskers operativsystem langt bedre enn vi gjør selv. Hva du søker etter og klikker på kan forutsi alt fra spiseforstyrrelser til skilsmisser. Google vet om du er homofil før du vet det selv. Dermed kan teknologien, eller de som måtte klare å styre den, manipulere oss mye mer effektivt enn noen propagandaminister på 1900-tallet. Harari stiller et viktig spørsmål: Hva skal vi basere etikk og politikk på i fremtiden, når menneskers følelser blir stadig lettere å hacke? 

Legg igjen en kommentar

Filed under Min spalte fra =OSLO

Legg igjen en kommentar

Fyll inn i feltene under, eller klikk på et ikon for å logge inn:

WordPress.com-logo

Du kommenterer med bruk av din WordPress.com konto. Logg ut /  Endre )

Google-bilde

Du kommenterer med bruk av din Google konto. Logg ut /  Endre )

Twitter-bilde

Du kommenterer med bruk av din Twitter konto. Logg ut /  Endre )

Facebookbilde

Du kommenterer med bruk av din Facebook konto. Logg ut /  Endre )

Kobler til %s