i en tid då amerikanens förtroende för nyhetsmedierna sjunker för att spela in låga, rapporterade en ny Pew—undersökning att ungefär en tredjedel av amerikanska vuxna säger att de regelbundet får sin nyhetsfix från Facebook: s flöden-även om deras eget förtroende Facebook själv sjunker till nya låga för, åh, oavsett anledning. Naturligtvis är nyhetsflödet ett enormt följdutrymme som bär enorm svängning i livet för otaliga människor som rullar igenom det varje dag.

medan vi fortfarande unearthing ännu mer fördömande bevis som beskriver det pissfattiga jobbet som företaget gjort hanterar sin outsiderade samhällsroll, finns det en fråga som ligger till grund för var och en av dessa bitar som ingen verkar kunna svara på: hur i helvete fungerar verktyg som nyhetsflöde även? Är den skuggiga algoritmen som kan stöta på det mest polariserande innehållet högst upp på skärmen för att bara röra med oss? Finns det något mer olycksbådande på spel här? Vad ger?

företagets mest högljudda kritiker skulle förmodligen säga ja till ett antal skäl-och de kan ha rätt! Men en ny teori tyder på att drivkraften bakom våra flöden kan gömma sig i vanlig syn.

liksom de andra enormt följdbitarna i Facebook: s ekosystem dikteras nyhetsflödet av en serie algoritmer, arcane rankningssystem som bestämmer vilka användare som får söta kattungar högst upp i deras foder, vilka som får potentiellt tvivelaktig medicinsk information och vilka som får ännu ett bröllopsmeddelande från ännu en gymnasievän. Skriva om Nyhetsflödesalgoritmen 2016 jämförde Atlanten sitt inflytande på media med en traditionell nyhetsmogul som Rupert Murdoch. Men medan Murdochs agenda är ganska lätt att upptäcka, är en algoritm, ja, en algoritm—spara för några vagt formulerade blogginlägg genom åren, håller företaget ett ganska tätt lock på systemets detaljer.

om du frågar kritiker—inklusive ett ökande antal ex-Facebook—anställda-om algoritmens agenda, fortsätter dock ett ord att bubbla upp om och om igen: engagemang. Som Facebook-whistleblower Frances Haugen kortfattat uttryckte det i en ny 60-Minutersintervju, är företaget ständigt ”optimerat för innehåll som får engagemang eller reaktion” av sina användare. Vanligtvis är denna kritik av engagemang kopplad till innehåll som är polariserande, hatiskt och splittrande.

men vad händer om hur Facebook utformar ditt personliga nyhetsflöde inte bara dikteras av vad du tycker är ”engagerande?”Vad händer om ditt slutbeteende-dina klick, dina åsikter, dina arga reposts—påverkades av företagets annonsörer som betalade Facebook för att pressa det beteendet ur dig? Det är en ganska out-there idea som är föremål för ett nyligen publicerat papper som fördjupar sig i vad som kallas ”mechanism design”, En Nobelprisvinnande ekonomisk teori som verkar ligga till grund för några av de mest grundläggande valplattformarna som Facebook (och Google Search, och Uber, och andra) verkar ta när de utformar sina produkter. I det här fallet föreslår forskarna att Facebook: s nyhetsflöde huvudsakligen är utformat för att få användare att göra en sak: klicka på och/eller reagera på de annonser som de ser. Hela” främjande av extremistiskt innehåll ” är bara en olycklig bieffekt, eller så går teorin.

” när de optimerar upprördhet och engagemang, sådana saker … Jag tror att de är alla stopppunkter på vägen för att optimera intäkterna, vilket är vad de bryr sig om,” Lee McGuigan, en av tidningens medförfattare, berättade för mig i telefon förra veckan.

”Facebook är i branschen för att generera bevis på beteende för sina annonsörer först och främst,” fortsatte han. ”Ibland kallar de det beteendet ”uppmärksamhet” eller de kallar det ”webbplatsbesök” eller ”klick” eller vad som helst.”Det händer bara att extremistiskt, polariserande innehåll är förvånansvärt bra på att muddra upp det beteendemässiga beviset, eftersom—som Haugen och andra har påpekat är det mer engagerande. Det är särskilt mer engagerande än någon form av milquetoast, jämnt inlägg högst upp i ditt Facebook-flöde. Och i slutet av dagen sa McGuigan, ” en ekvation bryr sig inte om detaljer. Engagemang ser ut som engagemang, och även om det inte är exakt den typ av engagemang annonsörer letar efter, det är bara en biprodukt av verksamheten.”

McGuigan kommer snabbt att notera att han inte har någon förstahandskunskap om hur Facebook: s algoritmer är konstruerade. (Vi nådde ut till Facebook för att kommentera studien men hörde inte tillbaka.) Vad han har är ett timslångt samtal som ges av en av Facebook: s econ-forskare, Eric Sodomka, tillbaka i 2015, tillsammans med otaliga oberoende studier som publicerats under åren sedan det fokuserar på att avslöja hur företagets annonsauktioner fungerar.

som papperet påpekar är dessa system inte unika för Facebook—sprawling, anonyma digitala auktioner är det typiska sättet att digitalt annonsutrymme på en webbplats säljs till annonsörer och har varit i mer än ett decennium. När du läser detta just nu finns det marknadsförare som bjuder på slots på Twitter, TikTok, LinkedIn och alla andra stora plattformar du kan tänka dig.

vad har varit ovanligt med Facebook: s auktioner—åtminstone historiskt—är att det tar hänsyn till närliggande organiskt innehåll (som användarnas inlägg och videor) innan man bestämmer vilken annons som vinner auktionen och visas i en persons tidslinje. Jämför det med auktionerna som dikterar vilka Google-sökannonser som visas högst upp på skärmen; snarare än att oroa sig för om resultaten själva kan påverka annonsens prestanda, bryr sig Google-sökannonser egentligen bara om… vilka Google – sökannonser det visas bredvid.

om Facebook förutspår att en viss annons (till exempel hemorrojderkräm) kanske inte spelar snyggt med vad organiskt innehåll är i din synfält (låt oss bara säga att innehållet var från dina föräldrar), kan den annonsen förlora auktionen eller placeras på en annan plats på sidan för att visas nära Användarinnehåll som är mer fördelaktigt för annonsen.

nyhetsflödet har gått igenom sin rättvisa andel av förändringar sedan Sodomkas tal spelades in, men kärnan är Nyhetsflödesalgoritmen som Facebook blurts på alla våra tidslinjer 2021 försöker lösa samma problem som Sodomka beskrev för sex år sedan. Hur bestämmer du vilka inlägg och annonser som skjuts framför varje användare när de loggar in på Facebook när det finns bokstavligen miljoner (om inte miljarder) möjliga kombinationer?

”Facebook: s optimeringsproblem är att de har en viss mängd utrymme framför dig som måste fyllas med innehåll av något slag eller annat,” sa McGuigan. ”Så då frågar de: vad är det bästa sättet att fylla dessa slots för att hålla människor på plattformen och interagera?”

”i slutändan är dessa interaktioner vad företaget vill ha eftersom det genererar bevis på ett specifikt beteende”, fortsatte han och tillade att över tiden, ju mer beteende du trattar in i din nyhetsflöde—ju fler klick, gillar, delar och så vidare—desto bättre dataprofil har företaget potentiellt på dig, och desto lättare blir det att fylla ditt nyhetsflöde med personligt innehåll—och annonser, förstås.

Sodomka förklarade att de specifika annonserna som ploppas var på ditt flöde—och innehållet som serveras runt dem—bestäms genom att ansluta en massa komplexa matematiska faktorer till en komplex matematisk modell, vars detaljer omedelbart kommer att sova dig. Tack och lov, han bröt ner några av de mest grundläggande elementen ungefär halvvägs genom sitt föredrag:

det finns en viss sannolikhet att du kommer till detta , och då kommer det att få din uppmärksamhet, och med tanke på att det har din uppmärksamhet finns det en viss sannolikhet att du klickar, eller att du kommer att göra vilken händelse som helst .

den nämnda” händelsen ” Sodomka kan vara något som att trycka på Gilla-knappen eller klicka på en länk, spara annonsörens inlägg eller trycka på hjärtknappen. Eller det kan vara något helt annat, beroende på kampanjen som annonsören kör. Varje enskild händelse och varje unik annonsör bär sin egen unika ”kostnad” som Facebook väger när man bestämmer var man ska klämma in den i ditt nyhetsflöde. För många annonser kan göra kostnaden för hög (och plattformen för irriterande att använda), vilket innebär att du riskerar att förlora användare. Shoving en högljudd, prickig annons precis under ett särskilt känslomässigt inlägg från din moster kan ha samma effekt. Tanken, förklarade McGuigan, är att du vill minimera dessa typer av icky möten samtidigt som du maximerar dessa ”händelser” på slutanvändarens vägnar eftersom det är där alla annonspengar är.

” en av de mer intressanta sakerna med Facebook är att när du köper annonsutrymme på sin plattform är det underförstått att du inte bara köper exponering, men du köper ett visst resultat”, sa han. ”Och Facebook ska bara leverera det.”

börja i slutet (annonsen klickar) och sedan massera det omgivande innehållet för att få dessa klick att hända låter som en topsy turvy version av economics 101. ”Vanligtvis tittar ekonomer på en uppsättning omständigheter och försöker förutsäga vad resultatet kommer att bli,” sade McGuigan, ”som,” vad händer med arbetsmarknaden om det finns en förändring i inflationen! eller sådana frågor.”

men denna typ av ass-bakåt metodik är i slutändan vad ”mekanism design” är. Även om Facebook är en plattform där vi ständigt har valet att klicka på en annons eller skicka en arg kommentar till vår farbrors senaste anti-vaxx-inlägg, är företagets hela design inriktad på att ”få det resultat som annonsörer vill se”, sa han.

det finns ett stort antal tekniska kritiker (och minst en dokumentärfilmare) som kommer att höra den här tanken på en plattform som aktivt formar användare till annonsörernas testamente och kommer omedelbart att tänka: mind control. Så coolt / skrämmande som det skulle vara, vad som händer här är vägen, vägen mindre dramatisk; det är som en nudge. Facebook: s designval, McGuigan sa, kommer inte att få dig att klicka på varje annons du ser, till exempel, eller spendera alla dina pengar på produkter som företaget annonserar på dig. Vad de ska göra är att göra dig till en smidge mer sannolikt att klicka på den annonsen eller köpa den produkten, för när den smidge händer om och om igen varje dag över en plattform med Facebook: s storlek och skala, kommer det fortfarande att vara lönsamt.

om vi verkligen menar allvar med att hålla Zuckerberg och Co. ansvarig, då måste vi undersöka dessa små designval tillsammans med forskarna och tillsynsmyndigheterna som för närvarande ljuder larm om Facebook: s mer uppenbara brott. Om vi enbart fokuserar på de stora gungorna riskerar vi att låta de värsta delarna av plattformen glida genom samma sprickor som har varit rätt under våra näsor under ungefär det senaste decenniet. Och ärligt talat, det är inte ett alternativ längre.