WhatsApp Fake News: En spilteori-løsning

Vi har alle hørt om det falske nyhedsproblem i den største Facebook-platform og dets betydelige indflydelse på valget i USA. Men et endnu større falske nyhedsproblem opstår i lande som Indien, og det også i en anden af ​​Facebooks platforme: WhatsApp.

WhatsApp er et betydeligt vanskeligere problem at løse end Facebook selv. Dette skyldes hovedsageligt dens ende-til-ende-kryptering, der er baseret på signalprotokollen. Dette forhindrer, at selv Facebook kan undersøge de meddelelser, der sendes i denne platform, og prøve at køre deres maskinlæringsalgoritmer, som de kører på hovedplatformen for at imødegå falske nyheder. Så i det væsentlige kører WhatsApp som en sort boks, der giver Facebook og den indiske regering store bekymringer.

Der foreslås i øjeblikket en række løsninger for at imødegå falske nyheder på WhatsApp. Dette spænder fra oplysningskampagner i aviser og regeringer, der sender fakta-kontrollerede nyheder til grupper i en masse. Det bedste, jeg har set indtil nu, er en professor fra Delhi, der foreslår en kundelæringsløsning for klientsiden.

Imidlertid er alle disse foreslåede løsninger bare midlertidige lettelser mod det større problem med falske nyheder og fungerer som bare duct tape for at holde det sammen.

Hvis du virkelig vil modvirke falske nyheder, skal det behandles som en kræft og angribes på det genetiske niveau på det sociale netværk. Til dette skal du forstå, hvordan sociale netværk fungerer på et grundlæggende niveau.

Jeg foreslår en sådan løsning i 2 faser.

Fase 1: Omdømme score for videresendte meddelelser

Den nemmeste ting, vi kunne gøre, er at have en Uber-lignende omdømmepoint for hver videresendt meddelelse.

Så lad os sige, at Alice videresender en besked til en gruppechat. Alle i gruppen kan score den videresendte meddelelse. En simpel opgave, de skulle have til at gøre, er at gå og google gyldigheden af ​​denne videresendelse for at se, om nyheder, billede eller video er rigtigt. De kan derefter sige score, der er fremad fra 1–10 (1 er den mindst hæderlige og 10 er den højeste hæderlige).

Når denne meddelelse videresendes gennem yderligere grupper, fortsætter folk i disse grupper også med at score den og danner en samlet score ligesom hvordan Uber Driver-ratings fungerer.

Dette i sin mest forenklede forstand drager fordel af det sociale netværk og tilskuer mængden af ​​gyldigheden af ​​enhver given videresendelse. Dette ville være en god tilføjelse oven på den aktuelle funktion ved at vise, om en given meddelelse er en videresendelse.

Nu er der to hovedproblemer, som jeg ser med kun at have denne funktion:

· Hvis du observerer det generelle Uber-datasæt for førerklassifikationer, vil du have en tendens til at se, at der er en stor bias i retning af 5-stjernede ratings. Er det fordi alle drivere er nær strålende? Jeg tror ikke det. Det har mere at gøre med menneskelig psykologi. Vi som mennesker har en tendens til at undgå konflikter. Så selvom vi havde en anstændig tur, har vi en tendens til at give en 5-stjernet vurdering, fordi vi ikke ønsker at gennemgå besværet med at udfylde en lille undersøgelse, som Uber uddeler, når vi giver en bedømmelse på 3 eller derunder. Det er bare ikke vores tid værd. Medmindre selvfølgelig, drevet var så patetisk, at vi beslutter at gå ud og ødelægge chaufføren på undersøgelsen. Hvad bemærker vi her? Vi ser, at vi kun i virkelig dårlige situationer har en tendens til at udfylde denne undersøgelse, fordi vi er stærkt motiverede til at hævne på det tidspunkt. Så hvordan simulerer vi det i alle situationer? Svaret: En incitamentstruktur !! (Jeg kommer tilbage til dette)

· Nu er det dejligt at give et omdømme score ved at google noget gyldighed. Men hvad hvis det er en begivenhed, der skete i dit lokalsamfund? Hvordan kontrollerer du dens gyldighed, da det ikke vil være tilgængeligt på Google? Svaret: Du udnytter dit lokale samfund, hvor meddelelsen kommer fra. Der vil altid være den første gruppe, som en meddelelse videresendes til. Mennesker i denne gruppe vil have en stor sandsynlighed for at kende relevansen af ​​denne fremadrettet. Så skal du give en højere vægt på deres score.

Så hvordan løser vi de to ovennævnte problemer fra det sociale netværk? En spilteoretisk løsning !!

Fase 2: Et indbygget forudsigelsesmarked

Min erfaring med sociale netværk og decentraliserede proof-of-stake-stave sætter mig i en unik position til at tale om dette. Så hvad er et forudsigelsesmarked? Nå, de er dybest set spilteoretiske systemer, der er afhængige af en incitamentstruktur for at satse penge. Nu tænker du måske, at dette lyder meget, som en spilring. Nå, du har ret! Fordi spilringe i det væsentlige kun er forudsigelsesmarkeder.

Så hvordan kan denne hypotetiske spilring hjælpe os? Dette forudsigelsesmarked vil blive bygget ind i WhatsApp-rammerne og udnytte mulighederne for, hvordan et socialt netværk i det væsentlige fungerer indefra.

Lad os komme ind på detaljerne. Så lad os sige, at Alice opretter en besked og sender den til en gruppe. Fra dette øjeblik har meddelelsen ingen vurdering. Nu er Bob medlem af denne gruppe, og han ser den meddelelse. Han har mulighed for at bedømme den fremad som binær (gyldig / ugyldig) (jeg skal tale om, hvordan dette kan udvides til en skala fra 1 til 10 senere). Men for at vurdere, er han nødt til at satse nogle penge (Lad os sige Rs 5). Nu undrer du dig måske, hvorfor i verden ville nogen gerne betale op for at bedømme noget (jeg kommer tilbage til det). Rs 5, som han stak, går i en pulje til netop den meddelelse. Tilsvarende har alle andre i gruppen mulighed for at gøre det samme. Når en person først har bedømt beskeden og sat nogle penge, er de mere end frie til at fortsætte med at videresende denne meddelelse, hvis de føler behov for det.

For at forstå, hvordan dette fungerer, skal du antage, at dette er et spilteoretisk system, hvor alle er en rationel aktør (dvs. alle handler i henhold til deres egen egeninteresse, ligesom de ville gøre i den virkelige verden). Enhver kan dog vurdere, hvad de vil, efter at de har sat nogle penge. Men det er i deres bedste interesse at vurdere i retning af sandheden. Hvorfor er det? Så lad os antage, at vi tillader, at meddelelsen videresendes et par gange gennem flere grupper, og flere uafhængige mennesker sætter deres penge på gyldigheden af ​​meddelelsens sandhed. Alle deres indsatser går til en central pool for denne meddelelse. Efter et stykke tid er der en udbetalingsfase (jeg vil tale mere om dette lidt senere).

Hvordan forudsigelsesmarkeder fungerer, er, at sandheden i ethvert system defineres af, hvad flertallet siger. Og da folket i dette flertal ikke ved noget om hinanden, er beslutningen en tendens til noget, der kaldes et Schelling-punkt. Nu er det mest rationelle Schelling-punkt sandheden, da hvis alle aktører i et system intet ved om hinanden, er det i deres bedste interesse at satse på sandheden.

Lad os nu antage, at systemet kun tillader en binær (gyldig / ugyldig) bedømmelse for meddelelsen i stedet for 1-10 skalaen af ​​enkelheds skyld. Hvis 80% satser på, at meddelelsen var ugyldig, og 20% ​​satser på, at meddelelsen var gyldig, kan vi tydeligt se, at flertallet siger, at meddelelsen er ugyldig, dvs. det er Fake News !! Så i dette tilfælde, i løbet af udbetalingsfasen, vil alle, der satser på at sige, at meddelelsen er gyldig, miste sin indsats, og at hele indsatsen vil blive omfordelt ligeligt til de andre 80%, der sagde, at en meddelelse var ugyldig. Vi ser her, at folk, der satsede i den rigtige retning, tjente penge. Derfor stimulerer dette system dig til at satse i den rigtige retning og konvergere til et beskydningspunkt.

Hvad dette system også forhindrer er massespamming eller endda Sybil-angreb, fordi du er nødt til at satse penge for hver rating + fremad. Mennesker, der prøver at fortsætte med at videregive falske nyheder, vil ende med at miste penge, fordi de vil blive besejret af flertallet, der taler sandheden. De lærer til sidst, at de bliver nødt til at google gyldigheden af ​​alle videresendte meddelelser, før de fortsætter med at videresende dem.

Nu kan du selvfølgelig udvide dette til et system med 1-10-vurdering og beregne udbetalingen ved hjælp af nogle elementære statistikker og begreber om middel- og euklidiske afstande.

En sidebesked: For folk, der tror, ​​de kan spille systemet i dette tilfælde ved blot at videresende beskeder alligevel, selv efter at have sat deres penge på vurderingen. Vi kan designe udbetalingen til at være en algoritmisk kombination af deres rating plus antallet af humle, som speditøren gik gennem netværket. Dette vil afskære folk fra at videresende alligevel, selv efter at have sat deres penge.

Hvad angår det andet problem, jeg nævnte, af hændelser, der sker i dit lokalsamfund. Dette kan løses ved at have en højere udbetaling for folk i den allerførste gruppe, som beskeden videresendes til, og eksponentielt reducere udbetalingen for hvert hop, som speditøren laver. Dette stimulerer folk i gruppen af ​​det første hop til at satse højere og kun satse i retning af sandheden, da de kan være sikre på en højere udbetaling. Hvad dette gør, er udskåret falske nyheder i knoppen og forhindrer, at den nogensinde går ud af den allerførste gruppe, den også videresendes.

En mindre justering, der kan foretages, er endvidere, at en individuel bruger ikke bør have tilladelse til at spille mere end et netto på Rs 10 pr. Dag (det endelige beløb kan tænkes på efter en omhyggelig analyse af medianindkomsten i landet) at overveje de økonomiske kapaciteter hos flertallet af indianere, der lever med små indkomster og også for at forhindre folk i at sætte hele deres livsbesparelser ind i dette.

Nu er alt dette sjovt og godt, kan du sige, men hvordan skal vi endda satse penge i første omgang i en applikation som WhatsApp?

Nå, WhatsApp har eksperimenteret med UPI-betalingssystemet i Indien for at sende penge gennem applikationen. Det er bare en simpel opgave at oprette en central bankkonto af WhatsApp, hvor puljerne kan administreres og udbetales til individuelle konti gennem UPI-systemet.

Et endnu bedre system ville være noget som en tegnebog, der er indbygget i WhatsApp. Dette forhindrer besværet med at håndtere bankkonti og gør håndteringen af ​​flere puljer endnu lettere.

Så der har du det! En løsning, der kombinerer et omdømmesystem og et forudsigelsesmarked, der hypotetisk kan besejre falske nyheder. Det eneste problem, jeg ser, er, at den indiske regering måske forbyder denne særlige tilgang, idet den siger, at det er en spilring. Men vil du hellere have folk dræbt og kommunale uroligheder tilskyndet end at forhindre noget i små skala?

Det er et spørgsmål, som Facebook og den indiske regering skal svare på.

God dag folkens!

PS: En særlig tak til Aviral Khattar for at have præsenteret mig for problemstillingen og hjulpet mig med at sprænge ideer om denne sag.