Hur kan de stora algoritmerna manipulera samhällen på global skala?

Skandalen kring Cambridge Analytica (CA) är inte en isolerad incident med korrupta affärsmetoder. Det är ett systematiskt problem som möjliggörs av algoritmer från företag som Facebook, Google och andra. Dessa algoritmer har förvandlat reklam och nyhetsflöden till maskiner för beteendemodifikation. Detta är propaganda på en titanisk skala. Från och med andra kvartalet 2018 hade Facebook 2,23 miljarder aktiva användare varje månad, Twitter 336 miljoner och Google mer än 2 miljarder aktiva enheter varje månad. Det är tydligt från CA-skandalen att Facebook har haft en negativ effekt på politik och kvaliteten på den offentliga diskursen. Facebook var inblandat i att manipulera människor i det amerikanska presidentvalet 2016 och folkomröstningen om Brexit. För första gången i mänsklighetens historia har vi möjlighet att spionera på, rikta in oss på och manipulera hundratals miljoner människor och ändra deras beteende utan att de vet om det, och på sätt vi aldrig tidigare kunnat föreställa oss.

Lanier hävdar att vi måste bli av med denna manipulationsmaskin: "Jag tror inte att vår art kan överleva om vi inte åtgärdar detta. Vi kan inte ha ett samhälle där om två personer vill kommunicera, så kan detta bara ske om det finansieras av en tredje part som vill manipulera dem." Om vi ska möta existentiella hot som klimatförändringar, måste vårt samhälle vara sansat. Vi kan inte köra oss själva till vansinne med ett universellt system för manipulation och bedrägeri, menar han. Det var inte illvilliga beslut eller onda affärsmän som orsakade detta problem i den digitala ekonomin. Det uppstod på grund av den välmenande idén att information borde vara gratis på internet. Lanier argumenterar dock för att det inte kan vara gratis. Om tillgången till internet och sociala medier är gratis (eftersom annonsörer betalar), får vi denna övervakning och manipulationsmodell för att säkerställa att internetannonsering är effektiv. Och denna manipulerande teknologi kan sedan användas av vilken skadlig aktör som helst för digital propaganda.

Han menar att vi behöver förbjuda det kommersiella incitamentet och istället anta en ny affärsmodell, som en offentlig bibliotekmodell eller en användarbetald modell som Netflix. Genom denna dataintrångsskandal har vi fått se de inre funktionerna hos en social patologi som handlar mer om splittring än desinformation. Vi har sett hur CA:s strategi var att skapa splittring, hur strategierna för Trump och Brexit skapade splittring. Den ryska strategin gjorde detsamma, och den oavsiktliga konsekvensen av algoritmerna från Facebook och Google skapar också splittring. Psykometrisk målgruppsinriktning är en lömsk och skadlig form av propaganda som sprider sig över internet under täckmantel av anonymitet. Det är en hemlig operation som tillåter noggrant utformade budskap att tränga sig in i det offentliga medvetandet, oavsett om det handlar om att kritisera samkönade äktenskap, attackera invandringspolitik eller väcka jihadistiska tendenser.

Om någon tvivlar på kraften hos detta nya vapen, kan de läsa en nyligen genomförd studie av forskare vid University of Warwick, som undersökte 3 334 attacker mot flyktingar under en tvåårsperiod i Tyskland. De fann en gemensam nämnare: Facebook-användning. Forskarna upptäckte ett fenomen som länge misstänkts av dem som studerar Facebook: att det eldar på rasistiskt våld. De fann också att där Facebook-användningen var högre än genomsnittet, ökade attacker mot flyktingar med cirka 50 procent, en koppling som höll för alla typer av samhällen, oavsett om det var stora städer eller små byar, välbärgade eller fattiga områden, höger- eller vänsterorienterade kvarter. Ökningen av våld som endast relaterade till Facebook visade inte på något samband med användningen av internet eller webben i sig, utan en växande mängd forskning visar att sociala medier på alla typer kan påverka användarnas uppfattningar om utomstående, inte bara genom hatretorik eller uppenbar vitriol, utan genom subtila och genomgripande sätt på vilka plattformen indirekt infekterar och sedan förvränger verkligheten eller sociala normer.

Människorättsaktivister säger att Facebook också spelade en roll i Myanmars regerings kampanj för etnisk rensning, när de misslyckades med att övervaka och moderera kränkande innehåll som hetsade till våld mot rohingyamuslimerna, Myanmars muslimska minoritet. Sociala medier-analytikern Raymond Serrato, som arbetar vid FN:s kommission för mänskliga rättigheter, studerar påverkan av hatretorik och desinformation på sociala medieplattformar på utsatta samhällen och mänskliga rättigheter. Han fann att hatretorik ökade dramatiskt bland Myanmars 14 miljoner Facebook-användare innan buddhistiska mobbar och militären massakrerade tusentals rohingyamuslimer och brände byar till marken. Mer än 700 000 har flytt till Bangladesh för att undkomma mordbrand, våldtäkt och andra våldshandlingar. Civilsamhällesorganisationer har sedan dess kritiserat Facebook för att ha eldat på våldet och för att inte ha tillhandahållit det skydd och den plattformsövervakning som det erbjuder i västerländska länder.

Det är viktigt att vi alla lär oss mycket mer om var och hur detta händer, eftersom det rubbar människors verklighetsuppfattning och undergräver de normala förtroendenätverken som fungerar genom sociala mekanismer. Internets tidiga löfte om en stor och vital offentlig gemenskap där människor kunde delta i en robust demokrati har aldrig blivit verklighet. Istället har dess mörka motsats uppstått, som sprider falska övertygelser och driver politik av splittring i samhällen världen över. Det har blivit en plats för falska nyheter, konspirationsteorier, propaganda och falska debatter. Hatretorik och intolerans som sänds och sprids av Facebook och YouTube har inget att göra i ett friskt offentligt samtal. Som de största distributörerna av nyheter på planeten har Facebook, Google och Twitter ett moraliskt ansvar att vara portvakter, och precis som andra respekterade och pålitliga nyhetsmedier bör de sträva efter att sortera fakta från fiktion och förhindra spridningen av falsk, polariserande propaganda.

Hur kan vi återuppliva det offentliga samtalet i en tid av polarisering och misstro?

Det offentliga rummet – i sin mest grundläggande betydelse – är inte en fysisk plats utan ett tillstånd där människor möts för att diskutera gemensamma frågor, fatta beslut och utöva demokratiskt inflytande. Det kan vara ett kyrkorum, en nyhetssändning, ett internetforum eller en kopp kaffe vid vattenkylaren. Men i allt högre grad har detta rum förgiftats. Polarisering, propaganda, misstro och aggressiv retorik har ersatt det nyanserade samtalet. Det vi ser idag är inte längre en slumpmässig förvridning av fakta eller ett tillfälligt avbrott i dialogen – det är ett systematiskt angrepp på själva möjligheten till meningsfullt utbyte.

När det offentliga samtalet degraderas till en kamp mellan läger som talar förbi varandra, förlorar vi inte bara kontakten med varandra – vi förlorar vår förmåga att gemensamt lösa akuta kriser. Klimatförändringar, artutrotning, havsförsurning – dessa är inte bara komplexa vetenskapliga problem, utan systemutmaningar som kräver kollektiv förståelse och samverkan i en skala vi aldrig tidigare skådat. Den franske filosofen Bruno Latour påminner oss om att lösningen kräver en transformation av praktiskt taget alla aspekter av våra liv – av sju miljarder människor. Det är ingen liten begäran, och det är inte märkligt att det möts av motstånd.

Donald Trumps år vid makten må ha varit destruktiva på många sätt – från att stoppa regleringar av kolkraftens växthusgasutsläpp till att dra sig ur Parisavtalet – men han blottlade samtidigt något djupt obehagligt i samhällskroppen. Han visade hur offentliga rum stängs genom systematiskt manipulerad information, genom ett språkbruk som splittrar snarare än förbinder, genom att förenkla världen i en binär logik av "oss mot dem". Resultatet är att många slutar lyssna, eller tappar bort tråden helt. Kvar blir en offentlighet där ilskan dominerar, och där komplexa frågor reduceras till tomma slogans.

Men mitt i denna kris finns en möjlighet. När retoriken blir så extrem, så genomskinligt manipulerande, väcks också motreaktionen. Många som tidigare varit tysta börjar tala. De omprövar sina värderingar. De vill inte längre vara del av ett korrupt samtal. Medierna, hårt attackerade, tvingas vässa sina verktyg. I denna förvrängda spegelbild blir behovet av genuin dialog tydligt.

Socialforskaren Daniel Yankelovich och konsulten Steve Rosell har länge arbetat med dialog som ett verktyg för att hantera polariserade konflikter. Under ett samtal i Kalifornien reflekterade de över det offentliga samtalets sönderfall. Yankelovich var tydlig: polarisering är farlig eftersom den avbryter kommunikationens naturliga flöde. Den leder till låsningar – politiska, sociala, existentiella. Det är som ett flygplan på väg mot marken där piloterna bråkar om vad som är upp eller ner.

Rosell påpekade att det farligaste inte är att det finns en dold plan bakom detta sammanbrott. Det finns ofta ingen plan alls – bara kaos. Inkompetens, cynism och ett allmänt haveri av ansvar och nyfikenhet. Det offentliga samtalet har inte kidnappats – det har övergetts.

Och ändå. Det finns fortfarande människor som försvarar de gemensamma rummen. De som, likt invånarna i Guernica, planterar nya träd från de gamla ekollonen när de gamla träden dör. Trädet i Guernicas centrum, "frihetsträdet", överlevde bombningarna 1937. Under dess grenar hade medborgarna i sekler samlats för att svära trohet, stifta lagar, diskutera gemensamma angelägenheter. Trädet levde vidare – för att de visste vad det symboliserade. Ett offentligt rum kan överleva – om vi förstår dess betydelse, dess roll som den plats där samhället hålls samman, inte genom enighet men genom viljan att förstå varandra.

Vi måste försvara detta offentliga rum. Inte genom att tysta röster, utan genom att skapa utrymme för pluralism, komplexitet och reflektion. Vi behöver en ny form av samtal där oenighet inte är ett hot utan ett startskott. Där meningsmotståndare inte demoniseras utan lyssnas på, prövas, ifrågasätts och ibland till och med förstås.

Det räcker inte längre med information. Vi drunknar redan i den. Det vi saknar är tillit, struktur, gemensamma referensramar – och

Hur kan en berättelse skapa förändring och engagemang?

Att förstå och skapa en berättelse som inte bara påverkar intellektet, utan även känslorna, är en kraftfull metod för att få människor att förstå vikten av förändring och inspirera till handling. En berättelse som rör sig mellan hopp, rädsla och möjlighet ger oss en känsla av delaktighet, empati och mod. I sina föreläsningar förklarade Ganz att en bra berättelse inte bara får oss att förstå handlingens moraliska budskap utan även att känna det, vilket gör att vi inte bara tolkar det med vårt intellekt utan också med våra hjärtan. När en berättelse lyckas förmedla mod, rädsla eller hopp, omvandlas det från något intellektuellt till något emotionellt som vi själva kan relatera till och känna för.

Berättelser har en enastående förmåga att belysa de val vi står inför och ge oss modet att fatta dem. Ganz pekade på hur en god berättelse kan bygga på både kognitiva och känslomässiga lärdomar. Ett exempel på detta är de berättelser som sprider tro och hopp inom religiösa, familjära och kulturella traditioner, vilket gör att dessa berättelser inte bara lär oss att förstå våra värderingar utan att också internalisera dem. Genom berättelser lär vi oss att vara förändringsagenter, att göra aktiva val snarare än att passivt reagera på omvärldens utmaningar.

Ett problem som många ledare stöter på är att de ofta skapar en berättelse som fokuserar för mycket på att väcka ångest i hopp om att tvinga fram förändring. Detta kan istället leda till känslor av förtvivlan eller rädsla, vilket inte skapar handling utan tvärtom kan bromsa förändring. För att en berättelse ska vara effektiv måste den också väva in hopp, empati och människans egen värdighet. När en ledare förmedlar hopp väcker det inte bara känslor av samhörighet och kreativitet utan motverkar också rädslan som annars kan blockera handling.

Ganz nämnde exempelvis det berömda talet på Sankt Crispin-dagen från Shakespeares pjäs Henry V, där den unga kungen Henry motiverar sina trupper inför det desperata slaget vid Agincourt. Trots att hans armé är kraftigt underlägsen i antal och trötta, ger han dem inte löften om seger eller skryter om sin styrka. Istället talar han om de som väljer att stanna som en "lycklig fåtal", och lovar dem en chans till odödlighet genom att göra det rätta. Det handlar om att återuppväcka människors känsla av värde och enighet utan att nämna fienden eller själva vinsten. Talet handlar om våra egna val, om modet att agera och ge sitt bästa i svåra tider. Ganz underströk att detta tal inte bara handlar om att vinna utan om att förstå livets mening genom våra egna handlingar.

För att skapa ett starkt offentligt narrativ måste berättelsen vara kopplad till ett gemensamt problem, ett val som måste göras för att hantera denna utmaning och ett resultat som förmedlar en moral. Det handlar om att väcka känslan av att det finns en väg framåt, även när framgången verkar avlägsen. Ganz använde en enkel men kraftfull analogi för att förklara detta: Att byta en glödlampa är en sak, men att få en hel grupp att skriva på en petition och engagera sig för att byta alla lampor på en institution handlar om att ge människor en tydlig väg att gå och en konkret handling att vidta.

En berättelses kraft ligger i tre grundläggande element: handling, karaktär och moral. Handlingen måste vara fängslande och skapa spänning, det vill säga det måste finnas ett problem som behöver lösas, vilket gör oss engagerade. Vi lyssnar uppmärksamt när något överraskande händer, och vi blir intresserade av hur huvudpersonen hanterar denna utmaning. Det är genom att känna empati för karaktärens val och svårigheter som vi själva hittar modet att hantera våra egna dilemman. När berättelsen avslutas, behöver den ge oss en moral som ger oss nya insikter eller en känsla av styrka, såväl intellektuellt som emotionellt.

Genom berättelser lär vi oss inte bara om andra, utan vi lär oss också om oss själva och hur vi ska hantera våra egna liv. Vi ser hur hjältar navigerar genom svåra omständigheter, och genom deras val och handlingar får vi en möjlighet att förstå hur vi kan lösa våra egna problem. Rädsla och empati är ofta centrala teman i dessa berättelser, och de ger oss de verktyg vi behöver för att förstå världen och våra egna känslor bättre.

Alla människor har en berättelse att berätta, oavsett om de anser att deras liv har varit dramatiska eller inte. Ofta tror människor att deras egna erfarenheter är för obetydliga för att delas, men sanningen är att varje berättelse är viktig, särskilt i den offentliga sfären. Genom att berätta våra historier, oavsett om det handlar om förlust eller hopp, ger vi andra möjlighet att förstå och relatera till våra egna erfarenheter. Det är genom dessa berättelser som vi stärker vårt eget värde och lär oss att fatta bättre beslut i livet.

Berättelser handlar inte bara om att underhålla, utan om att lära oss värden och lärdomar som vi kommer att bära med oss under hela livet. Föräldrar och andra vuxna berättar för barn för att hjälpa dem att förstå världen, och genom dessa berättelser lär sig barn om mod, rättvisa och det egna ansvarstagandet. Det är en av de mest kraftfulla sätten att forma både individers och samhällens värderingar.

I en tid när mängder av information bombardera oss varje dag, finns det en risk att vi förlorar kontakten med det som verkligen är viktigt – våra känslor, våra värderingar och de berättelser som definierar våra liv. Ledarskap genom berättelse handlar om att återkoppla till dessa djupare värden, skapa empati och ge hopp, vilket i sin tur gör oss mer benägna att agera på de utmaningar vi står inför. Det är genom att dela våra berättelser som vi lär oss att skapa förändring, inte genom att enbart vara mottagare av information.

Hur kan vi övervinna polarisering och hitta gemensam grund för effektiv kommunikation?

I dagens samhälle är polarisering och misstro en växande utmaning, särskilt när det gäller kritiska frågor som klimatförändringar och globala konflikter. Alltför ofta hamnar vi i en situation där vi står på varsin sida, fast beslutna att rättfärdiga våra åsikter utan att lyssna på de andra. Men för att verkligen förstå varandra och hitta lösningar på dessa globala problem måste vi överge den ensidiga och polariserade synen och istället sträva efter en gemensam grund.

Yankelovich, en expert på kommunikation, påpekade att demokratin kräver kompromisser, och kompromisser uppnås bäst genom att erkänna de legitima bekymmer som den andra parten har. Han menar att det är viktigt att vi inte förstorar våra skillnader, utan istället fokuserar på att bygga broar mellan motsatta positioner. För om vi fortsätter att driva på för ensidiga, dogmatiska lösningar, riskerar vi att skapa en ogynnsam stämning av bitterhet och missförstånd. Denna typ av kommunikation leder inte till sanning eller lösningar, utan förhindrar oss från att komma fram till verkliga svar på de problem vi står inför.

Problemet ligger ofta i den dominerande kulturen för offentlig diskussion, som idag alltför ofta handlar om debatt, försvar och konflikt. Yankelovich påpekade att den här typen av kommunikation har sina användningsområden, särskilt när vi vill ha en underhållande diskussion eller när vi angriper särskilda intressen i ett rättssammanhang. Men när vi står inför samhällsproblem som kräver gemensamt engagemang och samarbete, är denna typ av polarisering kontraproduktiv. En kultur av konflikt förhindrar oss från att engagera oss i äkta samtal som kan leda till verklig förändring.

Det är också ett problem att dagens masskommunikation ofta präglas av misstro och ytliga presentationer. Mediernas sätt att förmedla information gör det svårt för allmänheten att förstå och engagera sig i viktiga frågor. En av de största utmaningarna är att vetenskapliga experter tenderar att kommunicera på ett sätt som inte är tillräckligt tillgängligt för gemene man. De tenderar att använda abstrakta och tekniska termer som inte bara är svåra att förstå, utan även bidrar till den misstro som finns mellan experter och allmänheten. Samtidigt bidrar medierna till att framställa dessa komplexa ämnen som kontroversiella snarare än att ge en nyanserad bild.

För att kunna kommunicera effektivt i dessa sammanhang måste vi förändra vår syn på kommunikation. Yankelovich föreslog att vi behöver börja med att erkänna den skepsis som finns, för att sedan vägleda människor till att förstå varför denna skepsis kanske inte är relevant i det aktuella sammanhanget. För att bygga förtroende måste de som kommunicerar vara transparenta, hålla sina löften och agera i enlighet med de etiska värderingar de förespråkar. Att använda enkel och rak kommunikation är också en viktig aspekt; när vi inte är tydliga riskerar vi att våra budskap misstolkas eller ignoreras.

Att förstå skillnaden mellan debatt och dialog är också centralt. I en debatt handlar det om att vinna, att försvara sina egna åsikter och attackera motståndarens synpunkter. I dialog däremot, handlar det om att lyssna, förstå och samarbeta för att hitta gemensamma lösningar. Det handlar om att erkänna att vi alla har delar av svaret, och att genom att samverka kan vi skapa en bättre lösning för alla. Detta kräver en vilja att se styrkan och värdet i andras åsikter, istället för att se svagheter som i en debatt.

När människor inte delar samma ramverk eller förståelse av en fråga, är dialog det enda sättet att verkligen kommunicera. Detta är särskilt tydligt när vi pratar om globala frågor som klimatförändringar, där vi har olika intressen, bakgrunder och utbildning. Vi måste erkänna att vi kommer från olika perspektiv, och att för att kunna nå en gemensam förståelse måste vi först bygga förtroende och respekt för varandras synpunkter.

Kommunikation mellan elitgrupper och allmänheten har blivit allt svårare. De som talar i politiska eller vetenskapliga sammanhang tenderar att använda ett språk och en terminologi som inte alltid är begriplig för den breda allmänheten. Detta skapar en barriär mellan experterna och de som behöver ta till sig informationen. Människor känner sig ofta utanför diskussionen och kan misstro de som talar, eftersom de inte förstår de komplexa termerna eller de dolda agendor som de tror kan finnas. Att tala med allmänheten kräver därför mer än bara fakta – det kräver att man bygger förtroende och använder ett språk som är tillgängligt för alla.

Yankelovich argumenterade för att för att uppnå effektiv kommunikation, måste vi alla gå bortom att vara försvarande och istället fokusera på att vara lyhörda och engagerade i en gemensam process. Och även om det ibland kan kännas som om dialog är en alltför idealistisk eller svår att genomföra metod, är det faktiskt ett praktiskt verktyg som alla kan använda. Genom att sätta oss in i andras perspektiv och kommunicera på ett sätt som är respektfullt och öppet, kan vi börja bygga de broar som behövs för att lösa de stora utmaningar vi står inför.