Vores online opførsel er et designproblem

Internettet er blevet mager og mindre troværdig, men der er håb.

billede: Reuters / Brendan McDermid

Uanset om vi taler om trold, seriemæssige chikanere, racister eller propagandaudbydere, ser det ud til, at ondskabsadfærd hos de værste af os har udvundet den civile diskurs om de bedste af os. Den vitriol, der ledsagede valget i USA i 2016, har især rejst smertefulde spørgsmål. Betyder Facebooks falske nyhedsproblem, at vi ikke er interesserede i sandheden mere? Betyder den aktuelle mode for digital dogpiling, at vi har glemt, hvordan man er uenig uden at være uenig? Måske er vi alle forfærdelige mennesker dybt nede, og vores tweets, indlæg og kommentarer er simpelthen et klarere vindue ind i vores mørke sjæle.

Eller måske at lægge en anonym bullhorn i alles hænder og pakke os ind i specialbyggede ekkokamre gør os mere tilbøjelige til at være forfærdelige. Ud over de ægte nynazister og misogynister, der udøver retten til at forstærke deres stemmer, er mange andre bare berusede af magten til at provosere.

Måske at lægge en anonym bullhorn i alles hænder og pakke os ind i specialbyggede ekkokamre gør os mere tilbøjelige til at være forfærdelige.

Responsen fra digitale medieplatforme, eksemplificeret ved Mark Zuckerbergs håndvask efter valget, har længe været: ”Bliv ikke skylden for os, vi er bare mediet.” Men den undskyldning er ret tynd. Ingen platform er virkelig agnostisk: De har alle deres præferencer, tilladelser og forbud, hvis ethvert aspekt er designet af mennesker.

Den aktuelle debat om sociale mediers indflydelse på det nylige valg er bare toppen af ​​isbjerget. Når vores liv bevæger sig længere online, vil den måde, vi designer digitale interaktioner på, få endnu større sociale konsekvenser. Det er ikke hyperbolisk at sige, at tankevækkende designede brugergrænseflader kan gøre os til et friere, mere humant og mere retfærdigt samfund, ligesom dårligt designede ser ud til at have gjort mange af os mindre medfølende, mindre informerede og mere antagonistiske.

Tankevækkende designede brugergrænseflader gør os til et friere, mere humant og mere retfærdigt samfund.

Twitter blev ikke et ophør af trolling og chikane, fordi det blev tvunget besat af et team af hatemongere - det viste sig på den måde på grund af en unik kombination af rækkevidde, anonymitet og manglende konsekvenser. Jeg elsker Twitter, men jeg har også været vidne til første hånd, hvordan det kan gøre vrede, utilfredse individer til supervillains, i stand til at skræmme og forstyrre liv rundt om i verden med et par tastetryk.

Facebook blev heller ikke kapret af falske nyhedsudbydere, så det skabte et system, der gjorde dem uundgåelige. Klik på lige store annonceindtægter, folk deler, hvad der styrker deres tro, og den næste foreslåede nyhed er, hvad der er populært eller populært, ikke hvad der er bekræftet eller nyhedsværdigt. Det var kun et spørgsmål om tid, før fiktion-minded folk regnede ud af dette, og indtil videre er der lidt til at overbevise dem om at stoppe.

Men folk lavede disse systemer, og folk kan rette dem. Designerne, der sveder detaljerne om, hvordan du interagerer med apps og websteder, spiller en så stor rolle i at bestemme, hvordan vi kommunikerer, som vores egne valg gør. Interaktionsdesignere er i det store og hele smarte og empatiske mennesker, der har gjort den teknologiske verden til et venligere, mere nyttigt sted ved at være nøje opmærksom på, hvordan folk bruger tingene og derefter gennemgår utallige runder med prøve og fejl, indtil disse ting fungerer bedre.

Problemet er ikke en af ​​mekanismerne, men af ​​vilje.

I de senere år har et produkt eller en service, der "fungerer bedre", betydet et, der er let at bruge, vidt brugt og rentabelt. Dette er alle beundringsværdige mål, og de er en stor del af, hvorfor vi i øjeblikket er i stand til at kommunikere, lære, shoppe, arbejde og spille på uendelige måder på verdensplan. At udforme vores apps, websteder og enheder for at gøre dette muligt var en massiv indsats udført af tusinder af dygtige mennesker - og det var ikke let.

At bringe civilitet og troværdighed tilbage til online diskussion burde være lige så muligt - men også lige så vanskeligt.

Gør den forkerte ting sværere at gøre.

Onlineforumet Nextdoor.com blev oprindeligt forestillet af grundlægger og administrerende direktør Nirav Tolia som en måde at skabe samfund gennem nabolagsspecifikke diskussionsfora. Til hans forfærdelse blev det også et utilsigtet tilflugtssted for racemæssig profilering, med bekymrede beboere postet om mistænksom aktivitet fra fremmede, som de kun identificerede ved etnicitet. Efter en appel fra den Oakland-baserede gruppe Neighbours for Racial Justice, tog Tolia det hidtil uset skridt med at få grænsefladen redesignet for at forsøge at reducere profileringen.

Det fungerede utroligt godt. Tidlig analyse af Nextdoors pilotudformning antyder, at det reducerede racistiske poster med 75% næsten øjeblikkeligt efter implementering. Mekanismen er forbløffende enkel: Hvis du specificerer en mistænkt race, når du rapporterer om en forbrydelse eller mistænksom aktivitet, beder Nextdoor nu om to andre identificerende egenskaber, såsom højde eller en beklædningsgenstand, ellers offentliggør stillingen ikke. Det viser sig, at gøre det bare en lille smule vanskeligere post racistiske kommentarer dramatisk kan reducere deres udbredelse.

At komme til denne løsning krævede sandsynligvis betydelig indsats, men at få denne slags ting rigtigt - såvel som at beslutte, hvor mange trin det tager for at logge ind, eller hvad der sker, når du stryger ned på din smartphone-skærm - er det, som interaktionsdesignere gør hele dagen. Så selvom Nextdoor interface-justering var usædvanlig med hensyn til intentioner, var den run-of-the-mølle i udførelse. Det er det, der gør det gentagne.

Hvis Facebook ønsker at bekæmpe falske nyheder, kan det være så simpelt som at lade læsere markere et emne som falske eller automatisk knytte det til et relateret Snopes-indlæg. Twitter's troldproblem er endnu mere ligetil: Chikane-ofre har allerede nogle meget specifikke anmodninger (delte blocklister, autoblokering af nye konti osv.), Og nogle brugere har endda prototype potentielle løsninger, såsom den række anti-racistiske Twitter-bots, der for nylig er udviklet af en NYU-studerende som en del af et studie i politisk adfærd. Problemet er ikke nødvendigvis en mekanisme, men af ​​vilje.

Der er ikke sådan noget som en objektiv platform.

Den primære kritik af denne form for "aktivistisk" interface er, at det udgør social engineering og hindrer ytringsfriheden. Men husk: Der er ikke sådan en objektiv platform. Hver digital interaktion opmuntrer til visse opførsler, og hver mediekanal har begrænsninger. At aktivt udforme disse parametre for at tilskynde til civil, faktuel diskussion er ikke kun forsvarlig - det er en etisk nødvendighed.

Heldigvis ser det ud til, at al vores nylige sjælsøgning bevæger os i denne retning. Både Facebook og Twitter er gået rekord i løbet af den seneste måned og løfter om at tage disse problemer mere alvorligt. Om de og andre internetbaserede virksomheder i sidste ende gør nok, afhænger af et konstant pres fra de berørte brugere. Og det vil næsten helt sikkert være genstand for lovgivning på et tidspunkt.

Interaktionsdesign har været en stærk og stort set uanerkendt kraft i udformningen af ​​vores digitale verden. Det har gjort fremmede hjem lige så tilgængelige som hotelværelser, det giver dig mulighed for at købe praktisk talt alt på jorden, mens du står i kø for kaffe, og det har givet landdistrikterne afrikanske landmænd bedre bankadgang end vores forældre gjorde. I betragtning af denne magt og i betragtning af problemets presserende karakter er vi ude af undskyldninger. Det er tid til at redesigne internettet for at holde det sikkert for civilisationen - og det er en opgave, vi er klar til at møde både som brugere og designere.

En tidligere version af denne artikel blev vist på Quartz i december 2016 under titlen “Design er det bedste våben, vi har i kampen mod falske nyheder”