på et tidspunkt, hvor amerikanernes tillid til nyhedsmedierne falder for at registrere nedture, rapporterede en nylig Kirkestol, at omkring en tredjedel af amerikanske voksne siger, at de regelmæssigt får deres nyhedsrettelse fra Facebooks feeds—selvom deres egen tillid til Facebook selv falder til Facebook for, åh, uanset grund. Det er overflødigt at sige, at nyhedsfeeden er et enormt følgeskab, der bærer enorm sving i utallige menneskers liv, der ruller gennem det hver dag.

mens vi stadig afdækker endnu mere forbandede beviser, der beskriver det pisse-dårlige job, som virksomheden har gjort med at håndtere sin store samfundsmæssige rolle, er der et spørgsmål, der ligger til grund for alle disse stykker, som ingen synes at kunne svare på: hvordan i helvede fungerer værktøjer som nyhedsfeed selv? Er den skyggefulde algoritme, der kan støde det mest polariserende indhold til toppen af din skærm, bare for at rodde med os? Er der noget mere uhyggeligt i spil her? Hvad giver?

selskabets mest vokale kritikere ville nok sige ja til en række grunde—og de kan være rigtige! Men en ny teori antyder, at drivkraften bag vores feeds måske gemmer sig i almindeligt syn.

ligesom de andre enormt konsekvente stykker af Facebook ‘ s økosystem, nyhedsfeeden dikteres af en række algoritmer, mystiske rangeringssystemer, der bestemmer, hvilke brugere der får søde killinger øverst i deres feed, hvilke der får potentielt tvivlsomme medicinske oplysninger, og hvilke der får endnu en bryllupsmeddelelse fra endnu en gymnasiekammerat. Skrivning om Nyhedsfeedalgoritmen i 2016 sammenlignede Atlanterhavet sin indflydelse på medierne med en traditionel nyhedsmogul som Rupert Murdoch. Men mens Murdochs dagsorden er ret let at få øje på, er en algoritme Godt En algoritme—spar for et par vagt formulerede blogindlæg gennem årene, holder virksomheden et ret stramt låg på systemets specifikationer.

hvis du spørger kritikere—inklusive et stigende antal tidligere Facebook-medarbejdere—om algoritmens dagsorden, fortsætter et ord dog med at boble op igen og igen: engagement. Som Facebook-varsleren Frances Haugen kortfattet udtrykte det i en nylig 60 minutters samtale, virksomheden “optimerer konstant for indhold, der får engagement, eller reaktion,” ud af sine brugere. Normalt er denne kritik af engagement knyttet til indhold, der er polariserende, hadefuldt og splittende.

men hvad nu hvis den måde, Facebook designer dit personlige nyhedsfeed på, ikke kun dikteres af, hvad du finder “engagerende?”Hvad hvis din slutadfærd – dine klik, dine synspunkter, dine vrede reposts—blev påvirket af virksomhedens annoncører, der betalte Facebook for at presse denne adfærd ud af dig? Det er en temmelig derude ide, der er genstand for et nyligt papir, der dykker ind i det, der er kendt som “mekanisme design”, en nobelprisvindende økonomisk teori, der synes at ligge til grund for nogle af de mest basale valgplatforme som Facebook (og Google Search og Uber og andre) synes at tage, når de designer deres produkter. I dette tilfælde foreslår forskerne, at Facebook ‘ s nyhedsfeed hovedsageligt er designet til at få brugerne til at gøre en ting: Klik på og/eller reagere på de annoncer, de ser. Hele” fremme af ekstremistisk indhold ” ting er bare en uheldig bivirkning, eller så går teorien.

“når de optimerer forargelse og engagement, den slags ting … Jeg tror, de er alle stoppunkter på vej til at optimere indtægterne, hvilket er det, de bryr sig om,” Lee McGuigan, en af papirets medforfattere, fortalte mig over telefonen i sidste uge.

“Facebook er i færd med at generere bevis for adfærd for sine annoncører først og fremmest,” fortsatte han. “Nogle gange kalder de den adfærd “opmærksomhed”, eller de kalder det “besøg på hjemmesiden “eller” klik ” eller hvad som helst.”Det sker bare så, at ekstremistisk, polariserende indhold er overraskende godt til at uddybe det adfærdsmæssige bevis, fordi—som Haugen og andre har påpeget, er det mere engagerende. Det er især mere engagerende end en slags milketoast, lige håndet indlæg øverst på dit Facebook-feed. Og i slutningen af dagen sagde McGuigan: “en ligning er ligeglad med detaljer. Engagement ligner engagement, og selvom det ikke er nøjagtigt den slags engagement, som annoncører leder efter, er det bare et biprodukt af virksomheden.”

McGuigan vil være hurtig til at bemærke, at han ikke har nogen førstehånds viden om, hvordan Facebook ‘ s algoritmer er konstrueret. (Vi nåede ud til Facebook for at kommentere undersøgelsen, men hørte ikke tilbage.) Hvad han har, er en times lang tale fra en af Facebook ‘ s econ-forskere, Eric Sodomka, tilbage i 2015 sammen med utallige uafhængige undersøgelser offentliggjort i årene siden, der fokuserer på at afsløre, hvordan virksomhedens annonceauktioner fungerer.

som papiret påpeger, er disse systemer ikke unikke for Facebook—spredte, anonyme digitale auktioner er den typiske måde, hvorpå digital annonceplads på et sted sælges til annoncører og har været i mere end et årti. Når du læser dette lige nu, er der marketingfolk, der byder på slots på kvidre, TikTok, LinkedIn og enhver anden større platform, du kan tænke på.

det, der har været usædvanligt ved Facebook’ s auktioner—i det mindste historisk—er, at det tager hensyn til organisk indhold i nærheden (som brugernes indlæg og videoer), før det besluttes, hvilken annonce der vinder auktionen og vises på en persons tidslinje. Sammenlign det med de auktioner, der dikterer, for eksempel, hvilke Google-søgeannoncer der vises øverst på skærmen; i stedet for at bekymre sig om, hvorvidt resultaterne i sig selv kan påvirke en annonces ydeevne, er Google-søgeannoncer virkelig kun interesserede i… hvilke Google-søgeannoncer det vises sammen med.

hvis Facebook forudsiger, at en given annonce (for eksempel hæmoroid creme) måske ikke spiller pænt med det organiske indhold, der er i din synsfelt (lad os bare sige, at indholdet var fra dine forældre), kan den annonce miste auktionen eller placeres et andet sted på siden for at vises i nærheden af brugerindhold, der er mere gavnligt for annoncen.

nyhedsfeeden har gennemgået sin rimelige andel af ændringer siden Sodomka ‘ s Tale blev optaget, men i sin kerne forsøger Nyhedsfeedalgoritmen, som Facebook slører på alle vores tidslinjer i 2021, at løse det samme problem, som Sodomka beskrev for seks år siden. Hvordan bestemmer du, hvilke indlæg og annoncer der bliver skubbet foran hver bruger, når de logger på Facebook, når der bogstaveligt talt er millioner (hvis ikke milliarder) af mulige kombinationer?

“Facebook’ s optimeringsproblem er, at de har en vis plads foran dig, der skal fyldes med indhold af en eller anden art,” sagde McGuigan. “Så så spørger de: hvad er den bedste måde at udfylde disse slots på for at holde folk på platformen og interagere?”

“i sidste ende er disse interaktioner, hvad virksomheden ønsker, da det genererer bevis for en bestemt adfærd,” fortsatte han og tilføjede, at over tid, jo mere adfærd du trækker ind i din nyhedsfeed—jo flere klik, likes, Aktier og så videre—jo bedre dataprofil har virksomheden potentielt på dig, og jo lettere bliver det at udfylde dit nyhedsfeed med personlig indhold—og annoncer, selvfølgelig.

Sodomka forklarede, at de specifikke annoncer, der bliver plopped, hvor på dit feed—og det indhold, der serveres omkring dem—afgøres ved at tilslutte en masse komplekse matematiske faktorer til en kompleks matematisk model, hvis detaljer straks sætter dig i seng. Heldigvis, han brød nogle af de mest grundlæggende elementer ned halvvejs gennem sin tale:

der er en vis sandsynlighed for , at du kommer til dette, og så vil det have din opmærksomhed, og da det har din opmærksomhed, er der en vis sandsynlighed for, at du vil klikke, eller at du vil gøre uanset begivenhed .

den nævnte” begivenhed ” Sodomka kan være noget som at trykke på like-knappen eller klikke på et link, gemme annoncørens indlæg eller trykke på hjerteknappen. Eller det kan være noget helt andet, afhængigt af den kampagne, som annoncøren kører. Hver anden begivenhed og hver unik annoncør bærer sin egen unikke” pris”, som Facebook vejer, når de beslutter, hvor de skal presse den ind i dit nyhedsfeed. For mange annoncer kan gøre omkostningerne for høje (og platformen for irriterende at bruge), hvilket betyder, at du risikerer at miste brugere. Skubber et højt, prangende annonce lige under et særligt følelsesladet indlæg fra din tante kan have den samme effekt. Ideen, forklarede McGuigan, er, at du vil minimere de slags icky møder, samtidig med at du maksimerer disse “begivenheder” på slutbrugerens vegne, da det er her alle annoncepenge er.

“en af de mere interessante ting ved Facebook er, at når du køber annonceplads på sin platform, forstås det, at du ikke bare køber eksponering, men du køber et bestemt resultat,” sagde han. “Og Facebook skal bare levere det.”

start i slutningen (annonceklikene) og derefter massere det omgivende indhold for at få disse klik til at ske, lyder lidt som en topsy turvy version af economics 101. “Typisk ser økonomer på et sæt omstændigheder og forsøger at forudsige, hvad resultatet vil være,” sagde McGuigan, “som” Hvad sker der med arbejdsmarkedet, hvis der er en ændring i inflationen! eller spørgsmål som det.”

men denne form for ass-baglæns metode er i sidste ende, hvad “mekanisme design” er. Selvom Facebook er en platform, hvor vi konstant har valget mellem at klikke på en annonce eller sende en vred kommentar til vores onkels seneste anti-Vaks-indlæg, er virksomhedens hele design rettet mod “at få det resultat, som annoncører vil se,” sagde han.

der er et stort antal tech kritikere (og mindst en dokumentarfilmskaber), der vil høre denne ide om en platform, der aktivt støber brugere til annoncørernes vilje, og vil straks tænke: mind control. Så cool / skræmmende som det ville være, hvad der sker her er måde, måde mindre dramatisk; det er som en nudge. Facebook ‘ s designvalg, sagde McGuigan, vil ikke få dig til at klikke på hver annonce, du ser, for eksempel eller bruge alle dine penge på produkter, som virksomheden annoncerer hos dig. Hvad de vil gøre er at gøre dig mere tilbøjelig til at klikke på den annonce eller købe det produkt, for når den smidge sker igen og igen hver dag på tværs af en platform med Facebook ‘ s størrelse og skala, vil det stadig være rentabelt.

hvis vi rent faktisk mener det alvorligt med at holde ham og Co. ansvarlig, så er vi nødt til at undersøge disse minut designvalg sammen med forskerne og regulatorerne, der i øjeblikket lyder alarmer om Facebook ‘ s mere, en, åbenlyse lovovertrædelser. Hvis vi udelukkende fokuserer på de store gynger, risikerer vi at lade de værste dele af platformen glide gennem de samme revner, der har været lige under vores næse i omtrent det sidste årti. Og ærligt, det er ikke en mulighed længere.