Il y a une semaine, Les le journal Wall Street a commencé à publier une série d’histoires sur Facebook sur la base des conclusions internes des chercheurs de l’entreprise. Les fichiers Facebook, comme on les appelle, exposent un nombre vertigineux de problèmes qui se déroulent sur le plus grand réseau social du monde.
Le détail des histoires un système de gouvernement opaque et distinct pour les utilisateurs d’élite connu sous le nom de XCheck ; fournir la preuve que Instagram peut être nocif pour un pourcentage important d’adolescentes; et révèle que des partis politiques entiers ont changé leurs politiques en réponse aux changements dans l’algorithme du fil d’actualité. Les histoires aussi a découvert des inégalités massives dans la façon dont Facebook modère le contenu dans les pays étrangers par rapport à l’investissement qu’elle a fait aux États-Unis.
Les histoires ont galvanisé l’attention du public et les membres du Congrès ont annoncé une sonde. Et l’examen s’intensifie à mesure que les journalistes d’autres points de vente contribuent leur propre matériel.
Par exemple: Examen de la technologie du MIT constaté que malgré l’investissement important de Facebook dans la sécurité, d’ici octobre 2019, Les fermes à trolls d’Europe de l’Est ont atteint 140 millions de personnes par mois grâce à la propagande – et 75 % de ces utilisateurs l’ont vu non pas parce qu’ils suivaient une page, mais parce que le moteur de recommandation de Facebook la leur a servi. ProPublica enquêté sur Facebook Marketplace et trouvé des milliers de faux comptes participant à une grande variété d’escroqueries. Les New York Times a révélé que Facebook a cherché à améliorer sa réputation en partie en injectant des histoires pro-Facebook dans le fil d’actualité, un effort connu sous le nom de « Project Amplify ». (À ce jour, cela n’a été testé que dans trois villes, et il n’est pas clair si cela continuera.)
La plupart des scandales Facebook vont et viennent. Mais celui-ci est différent des scandales Facebook du passé, car il a été dirigé par la propre main-d’œuvre de Facebook.
La dernière fois que Facebook s’est retrouvé sous cette surveillance publique, c’était en 2018, quand le scandale de la confidentialité des données de Cambridge Analytica a secoué l’entreprise. C’était un scandale étrange pour de nombreuses raisons, notamment le fait que la plupart de ses détails avaient été rapportés des années auparavant. Ce qui en a fait une histoire internationale, c’est l’idée que des agents politiques avaient cherché à utiliser la vaste mine de données démographiques de Facebook dans le but de manipuler les Américains pour qu’ils votent pour Donald Trump.
Aujourd’hui, presque tout le monde s’accorde à dire que ce que Cambridge Analytica a appelé « ciblage psychographique” était un spin marketing exagéré. Mais l’idée que Facebook et d’autres réseaux sociaux sont en train de remodeler progressivement des sociétés entières avec leur collecte de données, leurs pratiques publicitaires, leurs algorithmes de classement et leurs mesures d’engagement est largement restée. Facebook est une excellente entreprise de tous les temps parce que ses publicités sont si efficaces pour amener les gens à acheter des choses. Et pourtant, l’entreprise veut nous faire croire qu’elle n’est pas aussi efficace pour amener les gens à changer leur politique ?
Il y a là une déconnexion, une que l’entreprise n’a jamais vraiment résolue.
Toujours, il a investi 13 milliards de dollars dans la sûreté et la sécurité. Il a embauché 40 000 personnes pour surveiller le réseau. Il a développé une réelle aptitude à perturber les réseaux de faux comptes. Il est devenu plus à l’aise d’insérer des informations de haute qualité dans le fil d’actualité, qu’il s’agisse de COVID-19 ou du changement climatique. À la fin de l’élection présidentielle américaine de 2020, Facebook était à peine une note de bas de page dans l’histoire.
Mais des questions fondamentales persistaient. Comment le réseau était-il surveillé, exactement ? Les différents pays sont-ils contrôlés équitablement ? Et qu’est-ce que regarder un flux personnalisé comme ça tous les jours pour faire une personne, ou un pays et sa politique ?
Comme toujours, il y a un risque d’être ici un déterministe technologique : supposer que les algorithmes de Facebook sont plus puissants qu’ils ne le sont, ou fonctionnent dans le vide. Les recherches que j’ai mises en évidence dans cette chronique ont montré que souvent, d’autres forces peuvent être encore plus puissantes – Fox News, par exemple, peut inspirer un changement beaucoup plus important dans la politique d’une personne.
Pour de nombreuses raisons, nous serions tous gagnants si nous pouvions mieux isoler l’effet de Facebook – ou YouTube, ou TikTok, ou Twitter – sur le monde dans son ensemble. Mais parce qu’ils gardent leurs données privées, pour des raisons à la fois bonnes et mauvaises, nous passons beaucoup de temps à discuter sur des sujets pour lesquels nous avons souvent peu de fondement dans l’empirisme. On parle de ce que Facebook est basé sur la façon dont Facebook nous fait ressentir. Et ainsi Facebook et le monde finissent par se parler.
Dans le même temps, et c’est tout à son honneur, Facebook a alloué des ressources pour enquêter sur certaines des questions qui nous préoccupent. Des questions comme, quoi est Instagram fait aux adolescentes?
Ce faisant, Facebook a planté les graines du moment actuel. Les questions les plus urgentes dans les rapports récents posent la même question que Cambridge Analytica a fait — que nous fait ce réseau social? Mais contrairement à cette histoire, cette fois, nous avons de vraies données à examiner – des données que Facebook lui-même a produites.
Quand je parle à certaines personnes sur Facebook à ce sujet, elles se hérissent. Ils diront : les journalistes nous en veulent depuis toujours ; les histoires récentes portent toutes plus qu’une faible trace de biais de confirmation. Ils diront : ce n’est pas parce qu’un chercheur de l’entreprise dit quelque chose que c’est vrai. Ils demanderont : pourquoi personne n’exige-t-il de voir les recherches internes de YouTube, Twitter ou TikTok ?
Cela explique peut-être la réponse généralement dédaigneuse de l’entreprise à tous ces rapports. L’émotionnel, article de blog dispersé sur Nick Clegg. Les PDG en plaisantant. Les médias grand public — les voilà repartis.
Pour moi, cependant, la semaine dernière a été un tournant.
À l’heure actuelle, la majorité des chercheurs de Facebook qui ont déjà parlé de l’entreprise en public ont profité de l’occasion pour dire que leurs recherches ont été en grande partie bloquées ou ignorées par leurs supérieurs. Et ce que nous avons lu de leurs recherches suggère que l’entreprise a souvent agi de manière irresponsable.
Parfois, cela n’est pas intentionnel – Facebook semble avoir été véritablement surpris par la découverte qu’Instagram semble être responsable de l’augmentation de l’anxiété et de la dépression chez les adolescentes.
D’autres fois, la société a agi de manière irresponsable en toute connaissance de cause, comme lorsqu’elle a alloué massivement plus de ressources pour supprimer le contenu trompeur aux États-Unis que dans le reste du monde.
Et même aux États-Unis, il a sans doute sous-investi dans la sûreté et la sécurité : comme l’a dit Samidh Chakrabarti, qui dirigeait l’équipe d’intégrité civique de Facebook jusqu’à cette année : représente environ quatre pour cent des revenus.
Malgré tout cela, bien sûr, Facebook est en plein essor. Les utilisateurs quotidiens sont en hausse sept pour cent d’une année sur l’autre. Les bénéfices sont en hausse. Le secteur de la publicité post-pandémique est si florissant que même les publicités numériques comme Pinterest et Twitter connaissent une année record. Et l’activité matérielle de Facebook est en train de devenir un succès, ouvrant potentiellement une route à partir d’ici jusqu’au métaverse.
Mais cette question persiste : que nous fait ce réseau social ? Il semble maintenant évident que personne dans l’entreprise, ou dans le monde en général, n’a vraiment mis les bras autour d’elle. C’est ainsi que la réputation de l’entreprise est à nouveau en chute libre.
Une réaction naturelle à cet état de fait, si vous dirigez l’entreprise, serait de faire moins recherche : plus d’études négatives, plus de gros titres négatifs ! Que va faire le Congrès, tenir une audience ? On s’en fout. Faire passer une loi? Pas cette année.
Quand Facebook a déménagé cette semaine pour rendre plus difficile pour les gens de donner volontairement leurs propres données de fil d’actualité à un programme de recherche externe, il a signalé que c’est la façon dont il se dirige.
Mais et si c’était l’inverse ? Et si elle investissait considérablement plus dans la recherche et faisait publiquement pression sur ses pairs pour qu’ils la rejoignent ? Et si Facebook publiait systématiquement ses conclusions et autorisait l’audit de ses données ? Et si l’entreprise facilitait considérablement l’étude indépendante de la plate-forme par des chercheurs qualifiés ?
Ce serait sans précédent dans l’histoire des affaires américaines, mais Facebook est une chose sans précédent dans le monde. L’entreprise ne peut pas rétablir la confiance avec le monde dans son ensemble à travers des articles de blog et des tempêtes de tweets. Mais cela pourrait commencer par nous aider à comprendre ses effets sur le comportement humain, la politique et la société.
Cela ne semble pas être la façon dont les choses se passent, cependant. Au lieu de cela, l’entreprise effectue différents types de recherche – des recherches telles que « que se passe-t-il si nous montrons aux gens de bonnes nouvelles sur Facebook ? » On m’a raconté une histoire qui est apparue dans le récent test a informé les utilisateurs d’un incident au cours duquel le réseau social a aidé une femme à retrouver son cheval perdu. Peut-être cette déplacera l’aiguille.
Mais je ne devrais pas plaisanter. Il y a une vraie idée intégrée dans ce test, qui est qu’au fil du temps, vous pouvez remodeler la perception par les récits que vous promouvez. Que ce qui apparaît dans le fil d’actualité peut être capable de changer l’opinion publique au fil du temps, à l’opinion de celui qui gère le fil.
C’est ce soupçon que le fil d’actualités peut entraîner de tels changements qui a motivé une grande partie des propres recherches de l’entreprise et les craintes concernant l’influence de l’entreprise, même si cette possibilité a été minimisée sans relâche par la machine de relations publiques de Facebook.
Mais maintenant, l’entreprise a décidé de voir par elle-même. Au public, il promettra qu’il ne peut pas être aussi puissant que ses chercheurs apostats le disent.
Et puis, avec Project Amplify, Facebook tentera de voir s’ils ont réellement raison.
Cette chronique a été coéditée avec Plateforme, une newsletter quotidienne sur la Big Tech et la démocratie.
