À Facebook, alors que la confiance des Américains dans les médias d’information chute à des creux records, un récent sondage Pew a rapporté qu’environ un tiers des adultes américains disent qu’ils reçoivent régulièrement leur correctif d’actualités des flux de Facebook — même si leur propre confiance dans Facebook lui-même chute à de nouveaux creux pour, quelle qu’en soit la raison. Inutile de dire que le fil d’actualité est un espace extrêmement conséquent qui exerce une influence énorme sur la vie d’innombrables personnes qui le parcourent chaque jour.

Alors que nous sommes encore en train de déterrer des preuves encore plus accablantes détaillant le travail pauvre en pisse que l’entreprise a fait pour gérer son rôle sociétal démesuré, il y a une question sous-jacente à chacune de ces pièces à laquelle personne ne semble capable de répondre: Comment diable les outils comme le fil d’actualité fonctionnent-ils même? L’algorithme ténébreux qui peut placer le contenu le plus polarisant en haut de votre écran le fait-il juste pour nous déranger? Y a-t-il quelque chose de plus sinistre en jeu ici? Qu’est-ce qui donne?

Les critiques les plus virulents de l’entreprise diraient probablement oui à un certain nombre de raisons — et ils pourraient avoir raison! Mais une nouvelle théorie suggère que la force motrice derrière nos aliments pourrait se cacher à la vue.

Les médias G/O peuvent obtenir une commission

20% Désactivez

Sélectionnez les styles de Nuraphone

Obtenez un son personnalisé primé
Procurez-vous les écouteurs Nuratrue, les écouteurs Nuraphone ou les écouteurs NuraLoop à un rabais généreux.

Comme les autres éléments extrêmement conséquents de l’écosystème de Facebook, le fil d’actualité est dicté par une série d’algorithmes, des systèmes de classement arcaniques qui décident quels utilisateurs obtiennent des chatons mignons en haut de leur flux, lesquels obtiennent des informations médicales potentiellement douteuses et lesquels reçoivent une autre annonce de mariage d’un autre copain de lycée. En écrivant sur l’algorithme du fil d’actualité en 2016, the Atlantic a comparé son influence sur les médias à un magnat de l’information traditionnel comme Rupert Murdoch. Mais alors que l’agenda de Murdoch est assez facile à repérer, un algorithme est, eh bien, un algorithme — à l’exception de quelques articles de blog vaguement formulés au fil des ans, la société garde un couvercle assez serré sur les spécificités du système.

Si vous interrogez des critiques — y compris un nombre croissant d’ex—employés de Facebook – sur l’agenda de l’algorithme, un mot ne cesse de bouillonner encore et encore: engagement. Comme l’a brièvement dit Frances Haugen, lanceuse d’alerte de Facebook, dans une récente interview de 60 Minutes, l’entreprise « optimise constamment le contenu qui suscite l’engagement ou la réaction » de ses utilisateurs. Habituellement, cette critique de l’engagement est liée à un contenu polarisant, haineux et clivant.

Mais que se passe-t-il si la façon dont Facebook conçoit votre fil d’actualité personnel n’est pas uniquement dictée par ce que vous trouvez « engageant? »Et si votre comportement final — vos clics, vos vues, vos reposts en colère – était influencé par les annonceurs de l’entreprise qui payaient Facebook pour vous arracher ce comportement? C’est une idée assez originale qui fait l’objet d’un article récent explorant ce qu’on appelle la « conception de mécanismes », une théorie économique lauréate du prix Nobel qui semble sous-tendre certains des choix les plus élémentaires que les plateformes comme Facebook (et Google Search, et Uber, et d’autres) semblent prendre lors de la conception de leurs produits. Dans ce cas, les chercheurs proposent que le fil d’actualités de Facebook soit principalement conçu pour inciter les utilisateurs à faire une chose: cliquer et / ou réagir aux publicités qu’ils voient. Toute la « promotion du contenu extrémiste » n’est qu’un effet secondaire malheureux, ou alors la théorie va.

« Quand ils optimisent l’indignation et l’engagement, ce genre de choses… Je pense qu’ils sont tous des points d’arrêt sur la voie de l’optimisation des revenus, ce qui les intéresse « , m’a dit Lee McGuigan, l’un des co-auteurs du journal, au téléphone la semaine dernière.

 » Facebook cherche avant tout à générer des preuves de comportement pour ses annonceurs « , a-t-il poursuivi. « Parfois, ils appellent ce comportement « attention », ou ils l’appellent « visites de sites Web » ou « clics » ou autre. »Il se trouve que le contenu extrémiste et polarisant est étonnamment bon pour draguer ces preuves comportementales, car – comme Haugen et d’autres l’ont souligné, c’est plus engageant. C’est particulièrement plus engageant qu’une sorte de publication à la milquetoast, en haut de votre flux Facebook. Et à la fin de la journée, McGuigan a déclaré: « une équation ne se soucie pas des détails. L’engagement ressemble à l’engagement, et même si ce n’est pas exactement le type d’engagement que recherchent les annonceurs, il ne s’agit que d’un sous-produit de l’entreprise. »

McGuigan remarquera rapidement qu’il n’a aucune connaissance de première main sur la façon dont les algorithmes de Facebook sont construits. (Nous avons contacté Facebook pour commenter l’étude, mais nous n’avons pas eu de réponse.) Ce qu’il a, c’est une conférence d’une heure donnée par l’un des chercheurs de Facebook sur econ, Eric Sodomka, en 2015, ainsi que d’innombrables études indépendantes publiées dans les années qui ont suivi, qui se concentrent sur le fonctionnement des enchères publicitaires de l’entreprise.

Comme le souligne le document, ces systèmes ne sont pas uniques à Facebook — les enchères numériques anonymes et tentaculaires sont la façon typique de vendre l’espace publicitaire numérique sur un site aux annonceurs, et ce depuis plus d’une décennie. Au moment où vous lisez ceci en ce moment, des spécialistes du marketing enchérissent pour des machines à sous sur Twitter, TikTok, LinkedIn et toute autre plate-forme majeure à laquelle vous pouvez penser.

Ce qui est inhabituel dans les enchères de Facebook — du moins historiquement —, c’est qu’il prend en compte le contenu organique à proximité (comme les publications et les vidéos des utilisateurs) avant de décider quelle annonce remportera l’enchère et apparaîtra dans la chronologie d’une personne. Comparez cela aux enchères qui dictent, par exemple, les annonces de recherche Google qui apparaissent en haut de votre écran; plutôt que de se soucier de savoir si les résultats eux-mêmes pourraient avoir un impact sur les performances d’une annonce, les annonces de recherche Google ne se soucient vraiment que de cela… quelles annonces de recherche Google il apparaît à côté.

Si Facebook prédit qu’une annonce donnée (par exemple, une crème pour hémorroïdes) pourrait ne pas bien correspondre au contenu organique de votre ligne de mire (disons simplement que le contenu provient de vos parents), cette annonce pourrait perdre la vente aux enchères ou être placée à un endroit différent de la page pour apparaître près du contenu utilisateur plus bénéfique pour l’annonce.

Le fil d’actualités a subi sa part de changements depuis l’enregistrement de l’intervention de Sodomka, mais à la base, l’algorithme du fil d’actualités que Facebook diffuse sur toutes nos échéances en 2021 tente de résoudre le même problème que celui décrit par Sodomka il y a six ans. Comment décidez-vous quels messages et publicités sont mis en avant par chaque utilisateur lorsqu’il se connecte à Facebook alors qu’il y a littéralement des millions (voire des milliards) de combos possibles?

 » Le problème d’optimisation de Facebook est qu’ils ont un certain espace devant vous qui doit être rempli de contenu d’une sorte ou d’une autre « , a déclaré McGuigan. « Alors, ils se demandent: quelle est la meilleure façon de remplir ces créneaux horaires pour que les gens restent sur la plate-forme et interagissent? »

« En fin de compte, ces interactions sont ce que l’entreprise souhaite car cela génère des preuves d’un comportement spécifique », a—t—il poursuivi, ajoutant qu’au fil du temps, plus vous aurez de comportement dans votre fil d’actualité — plus il y aura de clics, de likes, de partages, etc. -, meilleur profil de données que l’entreprise aura potentiellement sur vous, et plus il sera facile de remplir votre fil d’actualité avec du contenu personnalisé – et des publicités, bien sûr.

Sodomka a expliqué que les publicités spécifiques diffusées sur votre flux – et le contenu qui les entoure – sont décidées en branchant une multitude de facteurs mathématiques complexes dans un modèle mathématique complexe, dont les détails vous endormiront immédiatement. Heureusement, il a décomposé certains des éléments les plus fondamentaux à mi-chemin de son discours:

Il y a une certaine probabilité que vous y arriviez, puis il aura votre attention, et étant donné qu’il a votre attention, il y a une certaine probabilité que vous cliquiez ou que vous fassiez n’importe quel événement.

L ‘ »événement » mentionné par Sodomka peut être quelque chose comme appuyer sur le bouton J’aime ou cliquer sur un lien, enregistrer le message de l’annonceur ou appuyer sur le bouton cœur. Ou cela peut être quelque chose de complètement différent, selon la campagne que l’annonceur exécute. Chaque événement différent et chaque annonceur unique a son propre « coût » que Facebook pèse pour décider où le presser dans votre fil d’actualités. Trop d’annonces peuvent rendre le coût trop élevé (et la plate-forme trop ennuyeuse à utiliser), ce qui signifie que vous risquez de perdre des utilisateurs. Pousser une annonce bruyante et flashy juste en dessous d’un message particulièrement émouvant de votre tante pourrait avoir le même effet. L’idée, a expliqué McGuigan, est que vous voulez minimiser ce genre de rencontres dégoûtantes tout en maximisant ces « événements » au nom de l’utilisateur final, car c’est là que se trouve tout l’argent publicitaire.

« L’une des choses les plus intéressantes à propos de Facebook est que lorsque vous achetez de l’espace publicitaire sur sa plate-forme, il est entendu que vous n’achetez pas seulement de l’exposition, mais vous achetez un certain résultat », a-t-il déclaré. « Et Facebook est juste censé livrer cela. »

En commençant à la fin (les clics publicitaires), puis en massant le contenu environnant pour que ces clics se produisent, cela ressemble un peu à une version topsy turvy de economics 101. « En règle générale, les économistes examinent un ensemble de circonstances et essaient de prédire quel sera le résultat », a déclaré McGuigan, « Comme: « qu’arrive-t-il au marché du travail s’il y a un changement de l’inflation! » ou des questions comme ça. »

Mais ce genre de méthodologie ass-backward est finalement ce qu’est la « conception de mécanisme ». Même si Facebook est une plate-forme où nous avons constamment le choix de cliquer sur une annonce ou de publier un commentaire en colère sur le dernier message anti-vaxx de notre oncle, l’ensemble de la conception de l’entreprise vise à « obtenir le résultat que les annonceurs veulent voir », a-t-il déclaré.

Il y a un bon nombre de critiques technologiques (et au moins un réalisateur de documentaires) qui entendront cette idée d’une plate-forme moulant activement les utilisateurs aux volontés des annonceurs, et penseront immédiatement: contrôle mental. Aussi cool / horrible que cela soit, ce qui se passe ici est beaucoup, beaucoup moins dramatique; c’est comme un coup de pouce. Les choix de conception de Facebook, a déclaré McGuigan, ne vous obligeront pas à cliquer sur chaque annonce que vous voyez, par exemple, ou à dépenser tout votre argent pour des produits que la société vous annonce. Ce qu’ils feront, c’est vous rendre plus susceptible de cliquer sur cette annonce ou d’acheter ce produit, car lorsque ce smidge se produit encore et encore chaque jour sur une plate-forme avec la taille et l’échelle de Facebook, cela sera toujours rentable.

Si nous sommes réellement sérieux au sujet de la détention de Zuckerberg and Co. responsable, alors nous devons enquêter sur ces choix de conception minutieux aux côtés des chercheurs et des régulateurs qui sonnent actuellement des alarmes sur les infractions plus évidentes de Facebook. Si nous nous concentrons uniquement sur ces grandes fluctuations, nous risquons de laisser les pires parties de la plate-forme passer à travers les mêmes fissures qui nous sont directement sous le nez depuis à peu près la dernière décennie. Et honnêtement, ce n’est plus une option.