copié/collé du blog de la résistance

Une petite équipe d’ingénieurs en Californie. Un panel d’utilisateurs anonymes à travers le monde. Et, de plus en plus, vous-même.

À chaque fois que vous ouvrez Facebook, l’un des algorithmes les plus influents, controversés et incompris au monde se met à en œuvre. Il scanne et collecte tout ce qui a été posté dans la semaine passée par chacun de vos amis, chaque personne que vous suivez, chaque groupe auquel vous appartenez et chaque page Facebook que vous aimez. Pour un utilisateur standard, cela correspond à plus de 1.500 posts. Si vous avez plusieurs centaines d’amis, cela peut monter à 10.000. Ensuite, grâce à une formule jalousement gardée et en constante évolution, l’algorithme de Facebook les classe dans ce qu’il croit être l’ordre précis de l’intérêt que vous allez leur porter. La plupart des utilisateurs ne verront que les cent premiers environ.

Personne en dehors de Facebook ne sait exactement comment il fait cela et personne à l’intérieur de la société ne vous le dira. Et pourtant, les résultats de ce processus de classement automatique structurent la vie sociale et les habitudes de lecture de plus d’un milliard d’utilisateurs chaque jour (soit un cinquième des adultes du monde). Le pouvoir viral de l’algorithme a révolutionné le secteur médiatique en propulsant des startups comme BuzzFeed ou Vox au premier plan, tandis que des journaux centenaires sombrent et meurent. Il a alimenté l’essor incroyable de sociétés à un milliard de dollars comme Zynga et LivingSocial –avant de leur couper les vivres un ou deux ans plus tard en faisant seulement quelques ajustements au code, entraînant la ruine des investisseurs et le licenciement de salariés. Modifier légèrement l’algorithme du fil d’actualité de Facebook peut nous rendre plus ou moins tristes ou heureux, peut nous exposer à des idées nouvelles ou, au contraire, peut nous isoler dans des bulles idéologiques.

Et pourtant, en dépit de cette puissance, le nouvel algorithme de Facebook est étonnamment inélégant, horriblement changeant et définitivement opaque. Et il reste susceptible de nous proposer des posts que nous trouvons agaçants, énervants ou même juste ennuyeux. Facebook en a conscience. Ces derniers mois, le réseau social a organisé un test auprès de certains utilisateurs, en leur montrant le premier post de leur fil d’actualité à côté d’un autre, moins important, afin qu’ils choisissent celui qu’ils préfèreraient lire. Le résultat? Les classements effectués par l’algorithme correspondent«parfois» aux préférences de l’utilisateur, a reconnu Facebook, en refusant d’en dire plus. Lorsque les résultats ne correspondent pas, la société affirme que cela indique «un point à améliorer».

«Parfois» n’est pas le genre de taux de succès que l’on attendrait d’un bout de code aussi admiré et redouté. L’influence démesurée de l’algorithme a engendré tout un ensemble de critiques qui le traitent comme s’il possédait un esprit propre (une sorte de forme d’intelligence runique, lâchée dans le monde afin de poursuivre une mission dont les objectifs se situent bien au-delà des limites de l’entendement humain). À une époque où Facebook et les autres géants de la Silicon Valley filtrent chaque jour un peu plus nos choix et guident nos décisions au travers de logiciels d’apprentissage automatique, où des géants de la technologie comme Elon Musk et de grands scientifiques comme Stephen Hawking nous préviennent de la menace existentielle posée par l’intelligence artificielle, le mot algorithme lui-même commence à paraître inquiétant. Dans l’imaginaire populaire, les algorithmes sont des entités puissantes et mystérieuses qui désignent toutes les manières par lesquelles la technologie et la modernité peuvent à la fois assouvir tous nos désirs et menacer les valeurs qui nous sont chères.

Redoutables modifications

La réalité de l’algorithme de Facebook est quelque peu moins fantastique, mais non moins fascinante. J’ai eu le rare privilège de pouvoir passer un peu de temps avec l’équipe de Facebook en charge du fil d’actualité dans leurs bureaux de Menlo Park, en Californie, afin de voir de quelle manière se font ces redoutables tweaks(<wbr>modifications) de l’algorithme –comment ils sont décidés, comment ils sont faits et comment l’on juge si cela a fonctionné ou non. Un aperçu de son fonctionnement interne devrait mettre en lumière non seulement les mécanismes du fil d’actualité de Facebook, mais aussi les limitations de l’apprentissage automatique, les pièges de la prise de décision à partir de données et les mesures prises de plus en plus par Facebook pour avoir (et tenir compte) des retours des utilisateurs individuels, notamment d’un panel grandissant de testeurs qui sont en train de devenir pour Facebook une sorte d’équivalent à 60 millions de consommateurs.</wbr>

<wbr>

L’algorithme de Facebook, ai-je appris, n’est pas imparfait en raison d’un problème quelconque dans le système. Il est imparfait parce que, à l’inverse de ce qui se passe avec les algorithmes savants et idéaux de nos rêves les plus fous, l’intelligence à la base du logiciel de Facebook est fondamentalement humaine. Ce sont des humains qui décident quelles données doivent entrer, ce que le logiciel peut en faire et ce qui doit en ressortir au final. Si l’algorithme se trompe, la faute en incombe à des humains. Lorsque l’algorithme évolue, c’est parce qu’un groupe d’humains a analysé tout un tas de tableaux, organisé tout un tas de réunions, conduit tout un tas de tests et décidé de l’améliorer. Et s’il s’améliore, c’est parce qu’un autre groupe d’humains, nous, leur signale ses défauts.

À mon arrivée dans les vastes bureaux, conçus par Frank Gehry, de Facebook, j’ai été accueilli par un grand type élancé de 37 ans, à l’allure juvénile et dont le visage ne cessait d’alterner entre sourire sincère et expression de concentration intense. Tom Alison est le directeur de l’ingénierie pour le fil d’actualité; il est à la tête des humains qui s’occupent de l’algorithme.

<wbr></wbr>

Il me guide à travers un dédale de bureaux et de minicuisines ouvertes vers une petite salle de conférence, où il me promet de démystifier la véritable nature de l’algorithme de Facebook. En chemin, je me rends compte qu’il faut que j’aille aux toilettes et je lui en demande la direction. Une grimace involontaire traverse son visage, puis il s’excuse, sourit et me dit «Je vais vous accompagner». Au début, je me dis que c’est parce qu’il a peur que je me perde. Mais lorsque je ressors, je me rends compte qu’il m’a attendu dehors et qu’il n’est, en fait, sans doute pas autorisé à me laisser seul.