På en tid Da Usas tillit til nyhetsmediene faller for å registrere nedturer, rapporterte en nylig pew-meningsmåling at omtrent en tredjedel AV AMERIKANSKE voksne sier at de regelmessig får nyhetsfiksen fra Facebook-feeds—selv om deres egen tillit Til Facebook selv faller til nye nedturer for, oh, uansett grunn. Det er unødvendig å si At Nyhetsfeeden er et enormt konsekvensrom som bærer enorm sving i livene til utallige mennesker som ruller gjennom det hver dag.

Mens vi fortsatt oppdager enda mer fordømmende bevis som beskriver den piss-dårlige jobben som selskapet har gjort med å håndtere sin overdimensjonerte samfunnsmessige rolle, er det ett spørsmål som ligger til grunn for hver og en av disse stykkene som ingen synes å kunne svare på: Hvordan i helvete fungerer verktøy som News Feed selv? Er den skyggefulle algoritmen som kan støte mest polariserende innhold til toppen av skjermen gjør det bare for å rote med oss? Er det noe mer uhyggelig på spill her? Hva gir?

selskapets mest vokale kritikere vil nok si ja til en rekke grunner-og de kan være riktig! Men en ny teori tyder på at drivkraften bak våre feeds kan gjemme seg i vanlig syn.

I Likhet med De andre enormt følge stykker Av Facebook økosystem, News Feed er diktert av en rekke algoritmer, uforståelige rangeringssystemer som bestemmer hvilke brukere får søte kattunger på toppen av sin feed, hvilke som får potensielt tvilsom medisinsk informasjon, og hvilke som får enda et bryllup kunngjøring fra enda en high school kamerat. Skriver Om News Feed-algoritmen i 2016, Sammenlignet Atlanterhavet sin innflytelse på media til en tradisjonell nyhetsmogul som Rupert Murdoch. Men Mens Murdochs agenda er ganske lett å få øye på, er en algoritme, vel, en algoritme-lagre for noen få svakt formulerte blogginnlegg gjennom årene, holder selskapet et ganske tett lokk på systemets detaljer.

hvis du spør kritikere—inkludert et økende antall tidligere Facebook-ansatte-om algoritmens agenda, fortsetter ett ord å boble opp igjen og igjen: engasjement. Som facebook-varsler Frances Haugen kortfattet sa det i et nylig 60 Minutes-intervju, er selskapet hele tiden «optimalisert for innhold som får engasjement eller reaksjon» ut av brukerne. Vanligvis er denne kritikken av engasjement knyttet til innhold som er polariserende, hatefullt og splittende.

Men hva om Måten Facebook designer Din Personlige Nyhetsfeed ikke bare dikteres av det du finner » engasjerende?»Hva om din sluttadferd—klikkene dine, dine synspunkter—dine sint reposts – ble påvirket av selskapets annonsører som betalte Facebook for å presse den oppførselen ut av deg? Det er en ganske der ute ide som er gjenstand for en fersk papir hulene i det som er kjent som » mekanisme design,» En Nobelprisvinnende økonomisk teori som ser ut til å ligge til grunn for Noen av de mest grunnleggende valg plattformer Som Facebook (Og Google-Søk, Og Uber, og andre) synes å ta når du designer sine produkter. I dette tilfellet foreslår forskerne At Facebook ‘ S Nyhetsfeed hovedsakelig er designet for å få brukerne til å gjøre en ting: klikk på og/eller reagere på annonsene de ser. Hele» fremme ekstremistisk innhold » ting er bare en uheldig bivirkning, eller så går teorien.

» når de optimaliserer opprør og engasjement, de slags ting … Jeg tror de er alle stoppepunkter på vei til å optimalisere inntektene, noe som de bryr seg om,» Fortalte Lee McGuigan, En av papirets medforfattere, meg over telefonen i forrige uke.

«Facebook er i ferd med å generere bevis på atferd for sine annonsører først og fremst,» fortsatte han. «Noen ganger kaller de den oppførselen «oppmerksomhet», eller de kaller det «nettstedbesøk» eller «klikk» eller hva som helst.»Det skjer bare at ekstremistisk, polariserende innhold er overraskende godt til å mudre opp det atferdsmessige beviset, fordi-Som Haugen og andre har påpekt, er det mer engasjerende. Det er spesielt mer engasjerende enn en slags milquetoast, selvhendt innlegg øverst På Facebook-feeden din. Og På slutten av dagen Sa McGuigan: «en ligning bryr seg ikke om detaljer . Engasjement ser ut som engasjement, og selv om det ikke er akkurat den typen engasjement annonsører leter etter, er det bare et biprodukt av virksomheten.»

McGuigan vil være rask til å merke seg at Han ikke har noen førstehånds kunnskap om Hvordan Facebook algoritmer er konstruert. (Vi reiste ut Til Facebook for kommentar til studien, men hørte ikke tilbake.) Det han har, er en timelang snakk gitt av En Av Facebook ‘ s econ-forskere, Eric Sodomka, tilbake i 2015, sammen med utallige uavhengige studier publisert i årene siden det fokuserer på å avsløre hvordan selskapets annonseauksjoner opererer.

som papiret påpeker, er disse systemene ikke unike For Facebook—viltvoksende, anonyme digitale auksjoner er den typiske måten at digital annonseplass på et nettsted blir solgt til annonsører, og har vært i mer enn et tiår. Når du leser dette akkurat nå, er det markedsførere som byr på spilleautomater På Twitter, Tiktok, LinkedIn og andre store plattformer du kan tenke på.

Det som har vært uvanlig med facebook—auksjoner—i hvert fall historisk-er at Det tar hensyn til nærliggende organisk innhold (som brukernes innlegg og videoer) før du bestemmer hvilken annonse som vil vinne auksjonen og vises i en persons tidslinje. Sammenlign det med auksjonene som dikterer, for eksempel, Hvilke Google – søkeannonser som vises øverst på skjermen. I Stedet for å bekymre deg for om resultatene selv kan påvirke annonsens resultater, Bryr Google-søkeannonser seg bare om… Hvilke Google-Søkeannonser det vises ved siden av.

Hvis Facebook forutser at en gitt annonse (for eksempel hemorroide krem) kanskje ikke spiller pent med det organiske innholdet som er i sikte (la oss bare si at innholdet var fra foreldrene dine), kan den annonsen miste auksjonen eller bli plassert på et annet sted på siden for å vises nær brukerinnhold som er mer gunstig for annonsen.

Nyhetsfeeden har gått gjennom sin rettferdige andel av endringer siden Sodomkas snakk ble registrert, men i kjernen er Nyhetsfeedsalgoritmen Som Facebook blurter på alle våre tidslinjer i 2021, prøver å løse det samme problemet Som Sodomka beskrev for seks år siden. Hvordan bestemmer du hvilke innlegg og annonser som blir skjøvet foran hver bruker når De logger På Facebook når det er bokstavelig talt millioner (om ikke milliarder) mulige kombinasjoner?

«Facebook optimalisering problem er at De har en viss plass foran deg som må fylles med innhold av noe slag eller en annen,» McGuigan sa. «Så da spør de: hva er den beste måten å fylle disse sporene for å holde folk på plattformen og samhandle?»

«til Slutt er disse interaksjonene hva selskapet ønsker, siden det genererer bevis på en bestemt oppførsel,» fortsatte han og la til at over tid, jo mer oppførsel du trakter inn i nyhetsfeeden din-jo flere klikk, liker, aksjer og så videre-jo bedre dataprofil selskapet potensielt har på deg, og jo lettere blir det å fylle Nyhetsfeeden din med personlig innhold – og annonser, selvfølgelig.

Sodomka forklarte at de spesifikke annonsene blir plopped hvor på feeden din—og innholdet som serveres rundt dem-avgjøres ved å koble en rekke komplekse matematiske faktorer til en kompleks matematisk modell, hvor detaljene umiddelbart vil sette deg i dvale. Heldigvis, han brøt ned noen av de mest grunnleggende elementene omtrent halvveis gjennom sin tale:

det er en viss sannsynlighet for at du vil komme til dette , og da vil det ha din oppmerksomhet, og gitt at det har din oppmerksomhet, er det en viss sannsynlighet for at du vil klikke, eller at du vil gjøre hva som helst .

» hendelsen » Sodomka nevnt kan være noe som å trykke på like-knappen eller klikke på en lenke, lagre annonsørens innlegg eller trykke på hjerteknappen. Eller det kan være noe helt annet, avhengig av kampanjen som annonsøren kjører. Hver annen hendelse og hver unike annonsør bærer sin egen unike «kostnad» Som Facebook veier når du bestemmer hvor du skal presse Den inn I Nyhetsfeeden din. For mange annonser kan gjøre kostnadene for høye (og plattformen for irriterende å bruke), noe som betyr at du risikerer å miste brukere. Å skyve en høy, prangende annonse rett under et spesielt følelsesmessig innlegg fra tanten din, kan ha samme effekt. Ideen, Forklarte McGuigan, er at Du vil minimere de slags icky møter samtidig som du maksimerer disse «hendelsene» på sluttbrukerens vegne, siden det er der alle annonsepengene er.

«En av De mer interessante tingene Med Facebook er At Når Du kjøper annonseplass på plattformen, er det forstått at du ikke bare kjøper eksponering, men du kjøper et bestemt utfall,» sa Han. «Og Facebook skal bare levere det.»

Starter på slutten (annonseklikkene) og deretter masserer det omkringliggende innholdet for å få disse klikkene til å skje, høres litt ut som en topsy turvy versjon av economics 101. «Vanligvis ser økonomer på et sett av omstendigheter og prøver å forutsi hva utfallet vil bli, «Sa McGuigan,» Som, » hva skjer med arbeidsmarkedet hvis det er en endring i inflasjonen! eller spørsmål som dette.»

Men denne typen ass-bakover metodikk er til slutt hva «mekanisme design» er. Selv Om Facebook er en plattform der Vi hele Tiden har valget mellom å klikke på en annonse eller legge inn en sint kommentar på onkelens nyeste anti-vaxx-innlegg, er selskapets hele design rettet mot «å få resultatet som annonsørene vil se,» sa han.

Det er et stort antall tekniske kritikere (og minst en dokumentarfilmskaper) som vil høre denne ideen om en plattform som aktivt støper brukere til annonsørens vilje, og vil umiddelbart tenke: tankekontroll. Så kult / forferdelig som det ville være, hva som skjer her er måten, måten mindre dramatisk; det er som en nudge. Facebook design valg, McGuigan sa, ikke kommer til å gjøre deg klikke på hver annonse du ser, for eksempel, eller bruke alle pengene dine på produkter selskapet annonserer på deg. Det de vil gjøre er å gjøre deg til en smidge mer sannsynlig å klikke på den annonsen eller kjøpe det produktet, fordi når det smidge skjer om og om igjen hver dag over En plattform med Facebook størrelse og skala, vil det fortsatt være lønnsomt.

Hvis vi faktisk er seriøse om å holde Zuckerberg og Co. ansvarlig, da må vi undersøke disse små designvalgene sammen med forskerne og regulatorene som for tiden høres alarmer om Facebook ‘ s mer åpenbare lovbrudd. Hvis vi bare fokuserer på de store svingene, risikerer vi å la de verste delene av plattformen glide gjennom de samme sprekkene som har vært rett under nesen i omtrent det siste tiåret. Og ærlig talt, det er ikke et alternativ lenger.