In een tijd waarin de Amerikaanse vertrouwen in de nieuwsmedia is in vrije val naar recordhoogte dieptepunten, een recente Pew poll gemeld dat ongeveer een derde van de AMERIKAANSE volwassenen zeggen dat ze regelmatig nieuws fix van Facebook feeds—zelfs als hun eigen vertrouwen in Facebook zelf is in vrije val naar nieuwe dieptepunten voor, oh, ongeacht de reden. Onnodig te zeggen, de News Feed is een enorm consequentiële ruimte die enorme invloed draagt in het leven van talloze mensen scrollen door het elke dag.

terwijl we nog steeds nog meer belastend bewijs aan het opgraven zijn over de slechte baan die het bedrijf heeft gedaan met zijn buitenmaatse maatschappelijke rol, is er één vraag die ten grondslag ligt aan elk van deze stukken die niemand lijkt te kunnen beantwoorden: Hoe werken tools als News Feed eigenlijk? Is het schimmige algoritme dat de meest polariserende content naar de bovenkant van je scherm kan stoten om ons te pesten? Is er hier iets meer sinister aan de hand? Wat is er?

de meest vocale critici van het bedrijf zouden waarschijnlijk ja zeggen tegen een aantal redenen—en ze zouden gelijk kunnen hebben! Maar een nieuwe theorie suggereert dat de drijvende kracht achter onze feeds zich in het volle zicht kan verbergen.

net als de andere enorm belangrijke stukken van Facebook ‘ s ecosysteem, wordt de nieuwsfeed gedicteerd door een reeks algoritmen, geheimzinnige ranking systemen die beslissen welke gebruikers krijgen schattige kittens aan de top van hun feed, welke krijgen potentieel dubieuze medische informatie, en welke krijgen nog een bruiloft aankondiging van nog een andere middelbare school vriend. Het schrijven over de News Feed algoritme in 2016, de Atlantische vergeleken haar invloed op de media met een traditionele nieuws mogul als Rupert Murdoch. Maar terwijl Murdoch ‘ s agenda is vrij gemakkelijk te herkennen, een algoritme is, nou ja, een algoritme—behalve voor een paar vaag geformuleerde blog posts door de jaren heen, het bedrijf houdt een vrij strakke deksel op de details van het systeem.

als je critici—waaronder een toenemend aantal ex-Facebook—medewerkers-vraagt naar de agenda van het algoritme, blijft er echter één woord steeds weer opborrelen: engagement. Zoals Facebook-klokkenluider Frances Haugen het kort en bondig in een recent interview van 60 minuten zei, is het bedrijf voortdurend “aan het optimaliseren voor content die betrokkenheid of reactie van zijn gebruikers krijgt”. Meestal, deze kritiek op betrokkenheid is gekoppeld aan inhoud die polariserend, haatdragend,en verdeeldheid.

maar wat als de manier waarop Facebook ontwerpt uw persoonlijke nieuwsfeed is niet alleen gedicteerd door wat je vindt ” boeiende?”Wat als uw eindgedrag—uw klikken, uw standpunten, uw boze reposts—werden beïnvloed door de adverteerders van het bedrijf die Facebook betaald om dat gedrag uit je knijpen? Het is een vrij out-there idee dat is het onderwerp van een recente paper graven in wat bekend staat als “mechanisme ontwerp,” een Nobelprijs winnende economische theorie die lijkt te liggen ten grondslag aan een aantal van de meest fundamentele keuzes platforms zoals Facebook (en Google Search, en Uber, en anderen) lijken te nemen bij het ontwerpen van hun producten. In dit geval, de onderzoekers stellen voor dat Facebook ‘ s News Feed is voornamelijk ontworpen om gebruikers te krijgen om een ding te doen: klik op en/of reageren op de advertenties die ze zien. Het hele “promoten van extremistische inhoud” ding is gewoon een ongelukkige neveneffect, of zo gaat de theorie.

” When they optimize outrage and engagement, that sort of things … Ik denk dat ze allemaal stopplaatsen zijn op weg naar het optimaliseren van de inkomsten, dat is waar ze om geven,” Lee McGuigan, een van de coauteurs van de krant, vertelde me vorige week via de telefoon.

“Facebook is in de business van het genereren van bewijs van gedrag voor haar adverteerders in de eerste plaats,” ging hij verder. “Soms noemen ze dat gedrag ‘aandacht’, of ze noemen het ‘websitebezoeken’ of ‘klikken’ of wat dan ook.”Het gebeurt gewoon dat extremistische, polariserende inhoud verrassend goed is in het opvragen van dat gedragsbewijs, omdat—zoals Haugen en anderen hebben aangegeven, het boeiender is. Het is vooral boeiender dan een soort van milquetoast, zelfs handige post aan de bovenkant van uw Facebook-feed. Aan het eind van de dag zei McGuigan: “een vergelijking geeft niets om details. Betrokkenheid ziet eruit als betrokkenheid, en zelfs als het niet precies het soort betrokkenheid adverteerders zijn op zoek naar, het is gewoon een bijproduct van het bedrijf.”

McGuigan zal snel opmerken dat hij geen kennis uit de eerste hand heeft over hoe Facebook ‘ s algoritmen worden geconstrueerd. (We hebben contact opgenomen met Facebook voor commentaar op de studie, maar niet terug te horen.) Wat hij wel heeft is een uur durende talk gegeven door een van Facebook ‘ s econ onderzoekers, Eric Sodomka, terug in 2015, samen met talloze onafhankelijke studies gepubliceerd in de jaren sinds die focus op het blootleggen van hoe het bedrijf advertentieveilingen werken.

zoals het papier wijst erop, deze systemen zijn niet uniek voor Facebook—uitgestrekte, anonieme digitale veilingen zijn de typische manier waarop digitale advertentieruimte op een site wordt verkocht aan Adverteerders, en zijn al meer dan een decennium. Als je dit nu leest, zijn er marketeers bieden voor slots op Twitter, TikTok, LinkedIn, en alle andere grote platform dat je kunt bedenken.

wat ongebruikelijk is aan Facebook’ s veilingen—in ieder geval historisch—is dat het rekening houdt met nabijgelegen organische inhoud (zoals berichten en video ‘ s van gebruikers) alvorens te beslissen welke advertentie de veiling zal winnen en in de tijdlijn van een persoon zal verschijnen. Vergelijk dat met de veilingen die dicteren, laten we zeggen, die Google zoekadvertenties verschijnen aan de bovenkant van uw scherm; in plaats van zich zorgen te maken over de vraag of de resultaten zelf de prestaties van een advertentie kunnen beïnvloeden, Google zoekadvertenties echt alleen de zorg over… welke Google zoekadvertenties het verschijnt naast.

als Facebook voorspelt dat een bepaalde advertentie (voor, laten we zeggen, aambei crème) misschien niet mooi spelen met welke organische inhoud is in uw lijn van het zicht (laten we gewoon zeggen dat de inhoud was van je ouders), die advertentie kan de veiling verliezen of worden geplaatst in een andere plek op de pagina te verschijnen in de buurt van Gebruikersinhoud die is meer gunstig voor de advertentie.

de nieuwsfeed heeft een groot deel van de veranderingen ondergaan sinds Sodomka ‘ s talk werd opgenomen, maar in de kern probeert het Nieuwsfeedalgoritme dat Facebook in 2021 op al onze tijdlijnen blurt hetzelfde probleem op te lossen dat Sodomka zes jaar geleden beschreef. Hoe bepaal je welke berichten en advertenties worden geduwd in de voorkant van elke gebruiker wanneer ze inloggen op Facebook als er letterlijk miljoenen (zo niet miljarden) van mogelijke Combo ‘ s?

“Facebook’ s optimalisatie probleem is dat ze een bepaalde hoeveelheid ruimte voor je die moet worden gevuld met inhoud van een soort of een ander,” McGuigan zei. “Dus dan vragen ze: wat is de beste manier om die slots te vullen om mensen op het platform en interactie te houden?”

“uiteindelijk zijn die interacties wat het bedrijf wil, omdat dat bewijs van een specifiek gedrag genereert,” ging hij verder en voegde eraan toe dat na verloop van tijd, hoe meer gedrag je trechter in je newsfeed—hoe meer clicks, likes, shares, enzovoort—hoe beter dataprofiel het bedrijf potentieel over je heeft, en hoe gemakkelijker het zal zijn om je News Feed te vullen met gepersonaliseerde content—en advertenties, Natuurlijk.

Sodomka legde uit dat de specifieke advertenties krijgen plopt waar op uw feed—en de inhoud die wordt geserveerd om hen heen—worden besloten door het aansluiten van een hoop complexe wiskundige factoren in een complex wiskundig model, waarvan de details zal je onmiddellijk in slaap. Gelukkig brak hij halverwege zijn lezing enkele van de meest elementaire elementen af:

er is enige kans dat je dit krijgt , en dan zal het je aandacht hebben, en gegeven dat het je aandacht heeft is er enige kans dat je klikt, of dat je wat voor gebeurtenis dan ook zult doen .

de” event ” sodomka genoemd kan iets zijn als het raken van de like-knop of klikken op een link, het opslaan van de adverteerder post, of het raken van de hart-knop. Of het kan iets heel anders zijn, afhankelijk van de campagne die adverteerder runt. Elk ander evenement en elke unieke Adverteerder draagt zijn eigen unieke “kosten” die Facebook weegt bij de beslissing waar te knijpen in uw nieuwsfeed. Te veel advertenties kunnen de kosten te hoog maken (en het platform te vervelend om te gebruiken), wat betekent dat u het risico gebruikers te verliezen. Het duwen van een luide, flitsende advertentie recht onder een bijzonder emotionele post van je tante kan hetzelfde effect hebben. Het idee, McGuigan uitgelegd, is dat je wilt dat soort van icky ontmoetingen te minimaliseren, terwijl ook het maximaliseren van die “gebeurtenissen” namens de eindgebruiker, omdat dat is waar al het advertentiegeld is.

” een van de interessantere dingen over Facebook is dat wanneer je advertentieruimte op het platform koopt, het duidelijk is dat je niet alleen exposure koopt, maar dat je een bepaald resultaat koopt, ” zei hij. “En Facebook moet dat gewoon leveren.”

beginnen aan het einde (de advertentie klikken) en vervolgens masseren van de omliggende inhoud om die klikken gebeuren klinkt een beetje als een topsy turvy versie van economics 101. “Typisch, economen zijn op zoek naar een reeks van omstandigheden en proberen te voorspellen wat de uitkomst zal zijn,” McGuigan zei, “Zoals, ‘wat er gebeurt met de arbeidsmarkt als er een verandering in de inflatie! of zulke vragen.”

maar dit soort ass-backward methodologie is uiteindelijk wat “mechanism design” is. Hoewel Facebook is een platform waar we voortdurend de keuze om te klikken op een advertentie of post een boze reactie op de nieuwste anti-vaxx bericht van onze oom, het hele ontwerp van het bedrijf is gericht op “het krijgen van de uitkomst die adverteerders willen zien,” zei hij.

er is een groot aantal tech critici (en ten minste een documentairemaker) die dit idee van een platform actief molding gebruikers aan de wil van Adverteerders’ zal horen, en zal onmiddellijk denken: mind control. Hoe cool / afschuwelijk dat ook zou zijn, wat hier gebeurt is veel, veel minder dramatisch; het is als een duwtje. Facebook ‘ s design keuzes, McGuigan zei, zijn niet van plan om u te klikken op elke advertentie die u ziet, bijvoorbeeld, of besteden al uw geld op producten van het bedrijf adverteert bij u. Wat ze zullen doen is je een beetje meer kans om te klikken op die advertentie of kopen dat product, want als dat smidge gebeurt over en weer elke dag op een platform met de grootte en de schaal van Facebook, het gaat nog steeds winstgevend te zijn.

als we echt serieus zijn over het houden van Zuckerberg en Co. verantwoordelijk, dan moeten we deze minuscule ontwerpkeuzes onderzoeken samen met de onderzoekers en toezichthouders die momenteel alarmen klinken over Facebook ‘ s meer, um, voor de hand liggende overtredingen. Als we ons alleen richten op die grote schommels, riskeren we dat de ergste delen van het platform door dezelfde scheuren glippen die ongeveer de afgelopen tien jaar onder onze neus zijn geweest. En eerlijk gezegd, dat is geen optie meer.