Det kan hende det ikke tar slutt Facebook-skandalerNå føler jeg at det er en av verdens onde ledere, representert av Mark Zuckerberg, styrelederen. Blant de nye skandalene er avgangen til en av Facebooks ledere for å avsløre selskapets dårlige praksis på flere områder, spesielt innholdshåndtering, noe som fører til dårlige resultater og prioriterer selskapets økonomiske interesser over alt annet. Blant disse praksisene er forsømmelse av innholdshåndteringen vår i den arabiske verden eller feilaktig håndtering av den.
Hvorfor trenger vi innholdshåndtering?
Store selskaper må ofte moderere innholdet sitt for å sikre at det er i samsvar med hva som er akseptabelt. En plattform bør ikke øke engasjementet med innlegg som oppfordrer til vold, rasisme eller annen oppfordring til innhold. Derfor modererer selskaper innhold ved å bruke moderatorer for både menneskelig og kunstig intelligens (AI), der AI bærer mesteparten av ansvaret, ettersom mennesker alene ikke kan overvåke millioner av innlegg. Når AI finner et støtende innlegg og fjerner det, bekrefter mennesker det av og til for å sikre at det ikke ble gjort en feil.
Hva er problemet?
Facebook er nå til stede i mange land rundt om i verden. Faktisk mangler mange land utbredte internettjenester, men har gratis Facebook gjennom avtaler med teleselskaper. For noen innbyggere i disse landene betyr internett Facebook, men selskapet håndterer ikke innhold på samme måte i alle markeder det opererer i. Innholdshåndtering i engelsk og Nord-Amerika er langt bedre enn innholdshåndtering i den arabiske regionen. Videre finnes det afrikanske og asiatiske land der innholdshåndtering er nesten ikke-eksisterende, noe som påvirker samfunnet negativt og til og med fører til kriminalitet på plattformen, alt fra mindre problemer til større forbrytelser som menneskehandel.
Selskapet ønsker å samhandle
Facebook prioriterer innlegg med høyt engasjement og leverer dem til et stort publikum for å generere mer inntekter. Problemet med denne typen innlegg er imidlertid at mest engasjement oppnås av innlegg som inneholder avvikende meninger, argumenter eller noe polariserende, som politiske kamper. Dette har flyttet plattformen fra sin primære rolle som et kommunikasjonsmiddel mellom familie og venner til et åpent rom for argumenter og promotering av avvikende eller falske ideer. Bare hvis det får mye engasjement, enten negativt eller positivt, spiller det noen rolle. Å kommentere et innlegg, enten du er enig eller uenig i det, regnes som engasjement og fører til at det når ut til flere mennesker.
underforbruk
Facebook ønsker å være til stede i alle land i verden, men de ønsker ikke å bruke penger på å forbedre innholdsmoderering overalt, spesielt i markeder som ikke genererer like mye inntekter som i rikere land, og hvor myndighetene heller ikke bryr seg nok til å oppmuntre Facebook til å overvåke innhold effektivt. Faktisk utnytter noen myndigheter dette, slik tilfellet er i Myanmar, hvor Facebook bruker plattformen til å målrette muslimer der.
Problemet med det arabiske språket
Blant de mange problemene med Facebooks preferansepolitikk er det arabiske språket. Brukere i den arabiske regionen bruker mer tid på Facebook enn noen annen geografisk region, men selskapet investerer fortsatt ikke tilstrekkelig i det arabiske språket og innholdshåndteringen. Som et resultat blir innlegg ofte slettet, eller forfatterne anklaget for å oppfordre til hatefulle ytringer eller lignende aktiviteter, rett og slett fordi AI-en misforsto språket. Faktisk blir det noen ganger plassert advarsler på bilder av religiøse bøker, for eksempel. Utover AI-systemet er det menneskelige systemet heller ikke veldig effektivt. De fleste av Facebooks innholdsadministratorer i den arabiske verden er konsentrert i Casablanca, Marokko, og de administrerer innhold for hele regionen, inkludert de forskjellige dialektene. Derfor er det bare naturlig at det oppstår mange feil. Til tross for at disse ansatte hevder å være kjent med alle arabiske dialekter, flagget de feilaktig 77 % av innleggene de anså som «terroristiske».
Dette ble fremhevet i den nylige krisen, da ethvert innlegg som diskuterte den sionistiske okkupasjonsstaten på arabisk ble flagget som et innlegg som oppfordret til vold, terrorisme osv. Dette ble etterfulgt av en bølge av oppfordringer om å gi Facebook én stjerne i appbutikker.
Tre kategorier av land
I de lekkede dokumentene ble det funnet at Facebook klassifiserer land i tre kategorier basert på deres nivå av cybersikkerhetsbeskyttelse mot feilinformasjon og falske nyheter, spesielt under valg og politiske omveltninger. Den høyeste av disse kategoriene er «Kategori 1», som inkluderer India, USA og Brasil. Denne kategorien har store team, lik krigsrom, for å bekjempe feilinformasjon og innlegg som bryter med plattformens regler. Deretter kommer «Kategori 0», som inkluderer Tyskland, Indonesia, den sionistiske okkupasjonsstaten, Iran og Italia. Disse landene har lignende rom som kategori 2, men med mindre administrasjon året rundt. Til slutt kommer kategori 3 og XNUMX, som er landene med minst innholdsadministrasjon og investering fra Facebook. Den arabiske verden faller inn under denne kategorien.
I noen land er ikke plattformens brukervilkår engang oversatt til deres lokale språk. I Afghanistan er det for eksempel vanskelig for ikke-engelsktalende å sende inn klager fordi plattformens vilkår ikke er oversatt til landets offisielle språk.
Suspensjon
Det er vanlig at selskaper som investerer i forskjellige markeder diversifiserer investeringene sine basert på profitt eller ulike myndighetspåvirkninger. Facebooks tilfelle er imidlertid unikt, ettersom plattformen har betydelig makt som kan misbrukes og føre til negative utfall, selv på uventede måter. Derfor er det risikabelt å la selskapet fortsette sin nåværende praksis og neglisjere mange markeder. Det må også investere likt i ethvert marked det bestemmer seg for å gå inn i, ettersom ingen profitt eller ekspansjon er uten kostnad. Det er også iboende risikabelt å overlate all denne makten til et enkelt selskap styrt av investorer og et styre som opererer fra ett enkelt kontor. Hva er løsningen? Vi vet ikke, ettersom vi ikke er beslutningstakere. Men som en start vet vi at selskapet må holdes strengt ansvarlig for sine feil og granskes nøye, i stedet for å vente på at medlemmer av organisasjonen skal hoppe av og avsløre sin misligheter fra tid til annen.
Kilder:
29 kommentarer