Frances Haugen a forcé une remise en question sur Facebook

Frances Haugen a forcé une remise en question sur Facebook

L’équipe d’intégration civique de Frances Haugen a toujours été différente de toutes les autres équipes employées par la société de médias sociaux pour combattre la désinformation et les discours de haine. Pour commencer, chaque membre de l’équipe a souscrit à un serment informel, s’engageant à « servir d’abord l’intérêt du peuple, pas celui de Facebook ».

Ce « serment civique », selon cinq anciens employés, chargeait les membres de l’équipe de comprendre l’impact de Facebook sur le monde, d’assurer la sécurité des personnes et de désamorcer la polarisation de la colère. Selon ces sources, Samidh Chakrabarti, le chef de l’équipe, faisait régulièrement référence à ce serment – qui n’a jamais été signalé auparavant – comme à un ensemble de principes directeurs sous-tendant le travail de l’équipe.

L’équipe de Chakrabarti a réussi à résoudre certains des problèmes endémiques de la plateforme, selon d’anciens employés et Facebook lui-même.

Mais, un mois seulement après les élections américaines de 2020, Facebook a dissous l’équipe chargée de l’intégrité civique, et Chakrabarti a pris un congé. Facebook a déclaré que les employés ont été affectés à d’autres équipes pour aider à partager l’expérience du groupe dans toute l’entreprise. Mais pour de nombreux employés de Facebook qui avaient travaillé dans l’équipe, notamment une chef de produit chevronnée de l’Iowa nommée Frances Haugen, le message était clair : Facebook ne voulait plus concentrer le pouvoir dans une équipe dont la priorité était de faire passer les gens avant les profits.
Cinq semaines plus tard, les partisans de Donald Trump ont pris d’assaut le Capitole des États-Unis, après que certains d’entre eux se soient organisés sur Facebook et aient utilisé la plateforme pour répandre le mensonge selon lequel l’élection avait été volée. La dissolution de l’équipe chargée de l’intégrité civique a rendu plus difficile pour la plateforme de répondre efficacement au 6 janvier, a déclaré à TIME un ancien membre de l’équipe, qui a quitté Facebook cette année. « Beaucoup de gens ont quitté l’entreprise. Les équipes qui sont restées avaient beaucoup moins de pouvoir pour mettre en œuvre le changement, et cette perte de concentration était assez importante », a déclaré cette personne. « Facebook a effectivement perdu de vue la question en dissolvant l’équipe, en termes de capacité à répondre réellement à ce qui s’est passé le 6 janvier. » L’ancien employé, ainsi que plusieurs autres personnes interrogées par TIME, ont parlé sous le couvert de l’anonymat, de peur que le fait d’être nommé ne ruine leur carrière.

Voici Frances Haugen

Frances Haugen a révélé son identité le 3 octobre en tant que dénonciatrice à l’origine de la plus importante fuite de recherches internes en 17 ans d’histoire de l’entreprise. Lors d’un témoignage retentissant devant la sous-commission sénatoriale chargée de la protection des consommateurs, de la sécurité des produits et des données, deux jours plus tard, Mme Haugen a déclaré que la dissolution de l’équipe d’intégrité civique était le dernier événement d’une longue série qui l’a convaincue de la nécessité de dénoncer la situation. « Je pense que le moment où j’ai compris que nous devions obtenir de l’aide de l’extérieur – que la seule façon de résoudre ces problèmes était de les résoudre ensemble, et non de les résoudre seuls – a été la dissolution de civic-integrity après l’élection de 2020 », a-t-elle déclaré. « Cela a vraiment été ressenti comme une trahison des promesses que Facebook avait faites aux personnes qui avaient fait de grands sacrifices pour assurer la sécurité des élections, en dissolvant fondamentalement notre communauté. »
Dans une déclaration fournie au TIME, le vice-président de l’intégrité de Facebook, Guy Rosen, a nié que l’équipe d’intégrité civique ait été dissoute. « Nous n’avons pas dissous Civic Integrity », a déclaré Rosen. « Nous l’avons intégrée dans une plus grande équipe d’intégrité centrale afin que l’incroyable travail de pionnier pour les élections puisse être appliqué encore plus loin, par exemple sur des questions liées à la santé. Leur travail se poursuit encore aujourd’hui. » (Facebook n’a pas rendu Rosen disponible pour une interview pour cette histoire).

Mme Haugen a quitté l’entreprise en mai. Avant son départ, elle a parcouru le forum interne des employés de Facebook à la recherche de documents publiés par les chercheurs en intégrité sur leur travail. La plupart de ces recherches n’étaient pas liées à son travail, mais étaient accessibles à tous les employés de Facebook. Ce qu’elle a trouvé l’a surprise.

Certains documents décrivaient en détail une étude interne qui a révélé qu’Instagram, l’application de partage de photos, faisait que 32 % des adolescentes se sentaient moins bien dans leur peau. D’autres ont montré comment un changement apporté à l’algorithme de Facebook en 2018, présenté comme un moyen d’augmenter les « interactions sociales significatives » sur la plateforme, a en fait encouragé les posts diviseurs et la désinformation. Ils ont également révélé que Facebook consacre la quasi-totalité de son budget destiné à assurer la sécurité de la plateforme uniquement au contenu en langue anglaise. En septembre, le Wall Street Journal a publié une série d’articles accablants basés sur certains des documents que Haugen avait divulgués au journal. Haugen a également remis des copies de ces documents au Congrès et à la Securities and Exchange Commission (SEC).

Les documents de Mme HAUGEN

Ces documents, a déclaré Mme Haugen le 5 octobre, « prouvent que Facebook a trompé le public à plusieurs reprises sur ce que ses propres recherches révèlent sur la sécurité des enfants, l’efficacité de ses systèmes d’intelligence artificielle et son rôle dans la diffusion de messages extrémistes et diviseurs ». Elle a déclaré aux sénateurs que les manquements révélés par les documents étaient tous liés par une vérité profonde et sous-jacente sur le fonctionnement de l’entreprise. « Il ne s’agit pas simplement d’une question de certains utilisateurs de médias sociaux qui sont dans l’erreur.

Les documents, a déclaré Mme Haugen le 5 octobre, « prouvent que Facebook a trompé le public à plusieurs reprises sur ce que ses propres recherches révèlent sur la sécurité des enfants, l’efficacité de ses systèmes d’intelligence artificielle et son rôle dans la diffusion de messages extrêmes et diviseurs ». Elle a déclaré aux sénateurs que les manquements révélés par les documents étaient tous liés par une vérité profonde et sous-jacente sur le fonctionnement de l’entreprise. « Il ne s’agit pas simplement de la colère ou de l’instabilité de certains utilisateurs de médias sociaux, ou de la radicalisation d’un camp contre l’autre ; il s’agit du choix de Facebook de se développer à tout prix, de devenir une entreprise de près de mille milliards de dollars en achetant ses profits avec notre sécurité », a-t-elle déclaré.

L’accent mis par Facebook sur l’augmentation de l’engagement des utilisateurs, qui génère en fin de compte des recettes publicitaires et évite la concurrence, peut inciter les utilisateurs à revenir sur le site jour après jour, mais il favorise aussi systématiquement les contenus polarisants, désinformateurs et colériques, qui peuvent entraîner les utilisateurs dans les méandres de l’extrémisme politique ou, dans le cas des adolescentes, dans la dysmorphie corporelle et les troubles alimentaires. « Les dirigeants de l’entreprise savent comment rendre Facebook et Instagram plus sûrs, mais ne feront pas les changements nécessaires parce qu’ils ont fait passer leurs profits astronomiques avant les gens », a déclaré Haugen. (En 2020, l’entreprise a déclaré un revenu net de 29 milliards de dollars, soit 58 % de plus qu’un an auparavant. Cette année, elle a brièvement dépassé les 1 000 milliards de dollars de valeur boursière totale, bien que les fuites de Haugen aient depuis fait chuter la société à environ 940 milliards de dollars).

À la question de savoir si les cadres adhéraient au même ensemble de valeurs que l’équipe chargée de l’intégrité civique, notamment en faisant passer les intérêts du public avant ceux de Facebook, un porte-parole de la société a répondu au TIME qu’il était « sûr de dire que tout le monde chez Facebook s’engage à comprendre notre impact, à assurer la sécurité des personnes et à réduire la polarisation ».

La semaine même où une panne de système sans rapport a mis les services de Facebook hors service pendant des heures et a révélé à quel point le monde dépend de la gamme de produits de l’entreprise, y compris WhatsApp et Instagram, les révélations ont déclenché un nouveau cycle d’introspection nationale. Elles ont conduit certains à se demander comment une entreprise peut avoir un impact aussi profond sur la démocratie et la santé mentale de centaines de millions de personnes. Les documents de Haugen sont à la base d’au moins huit nouvelles enquêtes de la SEC sur la société pour avoir potentiellement trompé ses investisseurs. Et ils ont incité des législateurs de premier plan des deux partis à réclamer de nouvelles réglementations strictes.

Mme Haugen a exhorté le Congrès à adopter des lois qui rendraient Facebook et d’autres plateformes de médias sociaux légalement responsables des décisions relatives au classement des contenus dans les flux des utilisateurs, et qui obligeraient les entreprises à mettre leurs données internes à la disposition de chercheurs indépendants. Elle a également exhorté les législateurs à trouver des moyens de desserrer la main de fer du PDG Mark Zuckerberg sur Facebook ; il contrôle plus de la moitié des actions avec droit de vote au sein du conseil d’administration, ce qui signifie qu’il peut opposer son veto à toute proposition de changement venant de l’intérieur. « Je me suis présentée au péril de ma vie parce que je crois que nous avons encore le temps d’agir », a déclaré Mme Haugen aux législateurs. « Mais nous devons agir maintenant ».

Potentiellement encore plus inquiétant pour Facebook, d’autres experts qu’il a engagés pour assurer la sécurité de la plateforme, maintenant aliénés par les actions de l’entreprise, deviennent de plus en plus critiques envers leur ancien employeur. Ils ont fait l’expérience directe de la réticence de Facebook à changer, et ils savent où les corps sont enterrés. Aujourd’hui, à l’extérieur, certains d’entre eux continuent à honorer leur promesse de faire passer les intérêts du public avant ceux de Facebook.

Au sein de l’équipe d’intégration civique de Facebook

Chakrabarti, le chef de l’équipe chargée de l’intégration civique, a été embauché par Facebook en 2015. Il venait de Google, où il avait travaillé à l’amélioration de la manière dont le moteur de recherche communiquait à ses utilisateurs des informations sur les législateurs et les élections. Polymathe décrit par une personne ayant travaillé sous ses ordres comme un « homme de la Renaissance », Chakrabarti est titulaire de maîtrises du MIT, d’Oxford et de Cambridge, respectivement en ingénierie de l’intelligence artificielle, en histoire moderne et en politique publique, selon son profil LinkedIn.

Bien qu’il n’ait pas été en charge des efforts d' »intégrité » de Facebook à l’échelle de l’entreprise (dirigés par Rosen), Chakrabarti, qui n’a pas répondu aux demandes de commentaires pour cet article, était largement considéré par les employés comme le chef spirituel de la poussée visant à s’assurer que la plateforme avait une influence positive sur la démocratie et la sécurité des utilisateurs, selon de multiples anciens employés. « Il était une figure très inspirante pour nous, et il incarnait vraiment ces valeurs [inscrites dans le serment civique] et les prenait très au sérieux », a déclaré un ancien membre de l’équipe au TIME. « L’équipe donnait la priorité au bien de la société sur le bien de Facebook. C’était une équipe qui se souciait vraiment des moyens de résoudre les problèmes sociétaux avant tout. Ce n’était pas une équipe qui se consacrait à la contribution aux résultats financiers de Facebook. »

Selon plusieurs de ses anciens collègues, M. Chakrabarti a commencé à travailler au sein de l’équipe en se demandant comment Facebook pourrait encourager les gens à s’engager davantage auprès de leurs représentants élus sur la plateforme. Il a commencé par suggérer des modifications à la fonction « d’autres pages que vous pourriez aimer » de Facebook qui, selon l’équipe, pourraient donner aux utilisateurs l’impression d’avoir un impact sur la politique.

Après le chaos de l’élection de 2016, qui a poussé Mark Zuckerberg lui-même à admettre que Facebook ne faisait pas assez pour mettre fin à la désinformation, l’équipe a évolué. Elle a intégré le groupe de produits « intégrité » plus large de Facebook, qui emploie des milliers de chercheurs et d’ingénieurs pour se concentrer sur la résolution des problèmes de désinformation, de discours haineux, d’ingérence étrangère et de harcèlement de Facebook. Il a changé de nom, passant de « engagement civique » à « intégrité civique », et a commencé à s’attaquer de front aux problèmes les plus difficiles de la plateforme.

Peu avant les élections de mi-mandat en 2018, Chakrabarti a donné une conférence dans laquelle il a déclaré qu’on ne lui avait « jamais dit de sacrifier la sécurité des gens pour courir après un profit. » Son équipe a travaillé dur pour s’assurer que les élections de mi-mandat ne subissent pas les mêmes échecs qu’en 2016, dans un effort qui a été généralement considéré comme un succès, tant à l’intérieur de l’entreprise qu’à l’extérieur. « Voir la façon dont l’entreprise s’est mobilisée pour que cela se produise m’a permis de me sentir très bien dans ce que nous faisons ici », a déclaré Chakrabarti aux journalistes à l’époque. Mais derrière des portes closes, les employés intègres de l’équipe de Chakrabarti et d’autres avaient de plus en plus de désaccords avec la direction de Facebook, selon d’anciens employés. C’était le début du processus qui allait finalement motiver Haugen à donner l’alerte.

En 2019, l’année où Haugen a rejoint l’entreprise, des chercheurs de l’équipe d’intégration civique ont proposé de mettre fin à l’utilisation d’une liste approuvée de milliers de comptes politiques qui étaient exemptés du programme de vérification des faits de Facebook, selon le site d’informations technologiques The Information. Leurs recherches avaient révélé que les exemptions aggravaient le problème de désinformation du site, car les utilisateurs étaient plus susceptibles de croire une fausse information si elle était partagée par un politicien. Mais les dirigeants de Facebook ont rejeté la proposition.

Ce schéma s’est répété à maintes reprises, les propositions visant à modifier la plateforme pour réduire le classement des fausses informations ou des abus étant rejetées ou édulcorées par des dirigeants soucieux de l’engagement des utilisateurs ou inquiets que les changements puissent avoir un impact disproportionné sur un parti politique plutôt qu’un autre, selon de nombreux rapports publiés dans la presse et plusieurs anciens employés. Une blague cynique parmi les membres de l’équipe d’intégration civique était qu’ils passaient 10% de leur temps à coder et les 90% restants à argumenter pour que le code qu’ils avaient écrit soit autorisé à fonctionner, a déclaré un ancien employé au TIME. « Vous écrivez du code qui fait exactement ce qu’il est censé faire, puis vous devez vous disputer avec des cadres qui ne veulent pas penser à l’intégrité, n’ont aucune formation dans ce domaine et sont furieux que vous nuisiez à leur produit, alors ils vous ferment », a déclaré cette personne.

Parfois, l’équipe chargée de l’intégrité civique entrait également en conflit avec les équipes chargées de la politique de Facebook, qui partagent le double rôle de définir les règles de la plateforme et de faire pression sur les politiciens au nom de Facebook. J’ai souvent constaté qu’il y avait des tensions [dans les réunions] parce que l’équipe chargée de l’intégration civique disait : « Nous fonctionnons sur la base de ce serment ; c’est notre mission et notre objectif », explique Katie Harbath, directrice des politiques publiques au bureau de Washington de l’entreprise, qui a démissionné en mars 2021. « Et puis vous arrivez dans les réunions de prise de décision, et tout d’un coup, les choses vont dans un autre sens, parce que le reste de l’entreprise et la direction ne fondent pas leurs décisions sur ces principes. »

Harbath a admis ne pas toujours être d’accord avec Chakrabarti sur les questions de politique d’entreprise, mais a fait l’éloge de son caractère. « Samidh est un homme intègre, pour utiliser ce terme », a-t-elle déclaré au TIME. « J’ai personnellement vu des moments où il se disait : « Comment puis-je diriger une équipe d’intégrité si je ne respecte pas l’intégrité en tant que personne ? ».

Des années avant l’élection de 2020, des recherches menées par des équipes d’intégrité avaient montré que la fonction de recommandations de groupe de Facebook radicalisait les utilisateurs en les poussant vers des groupes politiques polarisants, selon le Journal. La société a refusé les demandes des équipes d’intégrité de désactiver la fonction, a rapporté BuzzFeed News. Puis, quelques semaines avant le vote, les dirigeants de Facebook ont changé d’avis et ont accepté de geler les recommandations de groupes politiques. L’entreprise a également modifié son fil d’actualité afin que les utilisateurs aient moins de chances de voir les contenus signalés par les algorithmes comme étant des informations potentiellement erronées, dans le cadre des mesures d’urgence temporaires de type « bris de glace » conçues par les équipes chargées de l’intégrité à l’approche du vote. « Facebook a modifié ces paramètres de sécurité par défaut à l’approche de l’élection parce qu’il savait qu’ils étaient dangereux », a déclaré Mme Haugen aux sénateurs mardi. Mais ils n’ont pas gardé ces mesures de sécurité en place longtemps, a-t-elle ajouté. « Parce qu’ils voulaient retrouver cette croissance, ils voulaient retrouver l’accélération de la plateforme après l’élection, ils sont revenus à leurs défauts d’origine. Et le fait qu’ils aient dû briser la vitre le 6 janvier, et les remettre en marche, je pense que c’est profondément problématique. »

Dans une déclaration, Tom Reynolds, porte-parole de Facebook, a rejeté l’idée que les actions de l’entreprise ont contribué aux événements du 6 janvier. « En introduisant progressivement puis en ajustant des mesures supplémentaires avant, pendant et après l’élection, nous avons pris en compte des signaux spécifiques sur les plateformes et des informations provenant de notre engagement continu et régulier avec les forces de l’ordre », a-t-il déclaré. « Lorsque ces signaux ont changé, les mesures ont suivi. Il est faux de prétendre que ces mesures sont à l’origine du 6 janvier – les mesures dont nous avions besoin sont restées en place jusqu’en février, et certaines, comme l’interdiction de recommander de nouveaux groupes civiques ou politiques, sont toujours en place aujourd’hui. Ces mesures faisaient toutes partie d’une stratégie beaucoup plus longue et plus vaste visant à protéger l’élection sur notre plate-forme – et nous sommes fiers de ce travail. »

Peu après la dissolution de l’équipe d’intégrité civique en décembre 2020, Chakrabarti a pris un congé de Facebook. En août, il a annoncé qu’il partait pour de bon. D’autres employés qui avaient passé des années à travailler sur les questions de sécurité de la plateforme ont également commencé à partir. Dans son témoignage, Mme Haugen a déclaré que plusieurs de ses collègues de l’intégrité civique ont quitté Facebook au cours de la même période de six semaines qu’elle, après avoir perdu confiance dans la promesse de l’entreprise d’étendre leur influence dans l’entreprise. « Six mois après la réorganisation, nous avions clairement perdu confiance dans l’arrivée de ces changements », a-t-elle déclaré.

Après le témoignage de Haugen au Sénat, la directrice de la communication politique de Facebook, Lena Pietsch, a suggéré que les critiques de Haugen n’étaient pas valables parce qu’elle « a travaillé dans l’entreprise pendant moins de deux ans, n’avait pas de rapports directs, n’a jamais assisté à une réunion de prise de décision avec des cadres de niveau C – et a témoigné plus de six fois qu’elle ne travaillait pas sur le sujet en question. » Sur Twitter, Chakrabarti a déclaré qu’il ne soutenait pas les fuites de l’entreprise, mais s’est prononcé en faveur des points soulevés par Haugen lors de l’audience. « J’étais là pendant plus de 6 ans, j’avais de nombreux rapports directs et j’ai dirigé de nombreuses réunions de décision avec des cadres de niveau C, et je trouve que les perspectives partagées sur la nécessité d’une réglementation algorithmique, la transparence de la recherche et la surveillance indépendante sont tout à fait valables pour le débat », a-t-il écrit. « Le public mérite mieux. »

Les dernières mesures prises par Facebook peuvent-elles protéger l’entreprise ?

Deux mois après avoir dissous l’équipe chargée de l’intégrité civique, Facebook a annoncé un changement de direction radical : il commencerait à tester des moyens de réduire complètement la quantité de contenu politique dans les fils d’actualité des utilisateurs. En août, la société a déclaré que les premiers essais d’un tel changement parmi un petit pourcentage d’utilisateurs américains ont été couronnés de succès, et qu’elle allait étendre les essais à plusieurs autres pays. Facebook a refusé de fournir à TIME de plus amples informations sur le fonctionnement de son système de déclassement du contenu politique.

De nombreux anciens employés qui ont travaillé sur les questions d’intégrité au sein de l’entreprise sont sceptiques quant à cette idée. « Vous dites que vous allez définir pour les gens ce qu’est le contenu politique, et ce qu’il n’est pas », a déclaré James Barnes, un ancien chef de produit de l’équipe d’intégrité civique, dans une interview. « Je ne peux même pas commencer à imaginer toutes les conséquences en aval que personne ne comprend en faisant cela ».

Un autre ancien membre de l’équipe d’intégration civique a déclaré que la quantité de travail nécessaire pour concevoir des algorithmes capables de détecter tout contenu politique dans toutes les langues et tous les pays du monde – et pour maintenir ces algorithmes à jour afin de cartographier avec précision les marées changeantes du débat politique – serait une tâche que même Facebook n’a pas les ressources nécessaires pour accomplir de manière juste et équitable. Tenter de le faire aboutirait presque certainement à ce que certains contenus jugés politiques soient rétrogradés tandis que d’autres prospéreraient, a averti l’ancien employé. Cela pourrait également inciter certains groupes à essayer de déjouer ces algorithmes en parlant de politique dans un langage non politique, créant ainsi une course à l’engagement qui privilégierait les acteurs disposant de suffisamment de ressources pour trouver le moyen de gagner, a ajouté la même personne.

Lorsque Zuckerberg a été traîné pour témoigner devant les législateurs après le scandale des données de Cambridge Analytica en 2018, les sénateurs ont été copieusement moqués sur les médias sociaux pour avoir posé des questions de base telles que la façon dont Facebook gagne de l’argent si ses services sont gratuits pour les utilisateurs. (« Sénateur, nous diffusons des publicités » a été la réponse de Zuckerberg.) En 2021, cette dynamique a changé. « Les questions posées sont beaucoup plus informées », explique Sophie Zhang, une ancienne employée de Facebook qui a été licenciée en 2020 après avoir critiqué Facebook pour avoir fermé les yeux sur la manipulation des plateformes par des acteurs politiques du monde entier.

« Le sentiment est de plus en plus bipartisan » au Congrès, ajoute Sophie Zhang. Dans le passé, les audiences sur Facebook ont été utilisées par les législateurs pour faire de l’esbroufe sur des sujets polarisants, comme la question de savoir si les plateformes de médias sociaux censurent les conservateurs, mais cette semaine, ils étaient unis dans leur condamnation de l’entreprise. « Facebook doit cesser de dissimuler ce qu’il sait, et doit changer ses pratiques, mais il doit y avoir une responsabilité gouvernementale parce qu’on ne peut plus faire confiance à Facebook », a déclaré à TIME le sénateur Richard Blumenthal du Connecticut, président du sous-comité de la protection des consommateurs, avant l’audience. Son homologue républicain Marsha Blackburn a abondé dans le même sens, déclarant au cours de l’audition que la réglementation arriverait « plus tôt que tard » et que les législateurs étaient « proches d’un accord bipartisan ».

Alors que Facebook est ébranlé par les révélations de ces derniers jours, il semble déjà réévaluer les décisions relatives aux produits. Elle a commencé à mener des examens de réputation des nouveaux produits pour évaluer si l’entreprise pourrait être critiquée ou si ses fonctionnalités pourraient avoir un effet négatif sur les enfants, a rapporté le Journal mercredi. La semaine dernière, elle a mis en pause son produit Instagram Kids au milieu de la fureur.

Quelle que soit l’orientation future de Facebook, il est clair que le mécontentement couve en interne. La fuite de documents et le témoignage de Mme Haugen ont déjà suscité des appels à une réglementation plus stricte et amélioré la qualité du débat public sur l’influence des médias sociaux. Dans un message adressé au personnel de Facebook mercredi, M. Zuckerberg a demandé aux législateurs d’actualiser la réglementation de l’internet, notamment en ce qui concerne « les élections, les contenus préjudiciables, la vie privée et la concurrence ». Mais les véritables moteurs du changement pourraient être les employés actuels et anciens, qui ont une meilleure compréhension des rouages de l’entreprise que quiconque – et le plus grand potentiel pour nuire à l’entreprise. -Avec la collaboration d’Eloise Barry à Londres et de Chad de Guzman à Hong Kong.

%d blogueurs aiment cette page :