« How to fix SOCIAL MEDIA before it’s too late »

an early investor on how FACEBOOK lost its way – by Roger McNamee.

Traduction du magazine TIME – january 28, 2019

« Facebook me rend vraiment triste.

Je me suis impliqué dans cette société il y a plus de 10 ans et son succès m’a rempli de joie et de fierté… mais cela a cessé il y a quelques mois. Maintenant je suis déçu. Je suis gêné. J’ai honte. Avec plus d’1.7 milliards de membres, Facebook est parmi les business les plus influents du globe. Que ça leur plaise ou non – que Facebook soit une entreprise technologique ou une entreprise de média – l’entreprise a un impact considérable sur la politique et l’égalité des chances. Chaque décision du management peut influencer la vie réel des gens. Le management est responsable de chaque action. De la même manière qu’ils se créditent de leur réussite, ils ont besoin d’être pointé du doigt pour leurs échecs. Récemment, Facebook a fait des choses qui sont réellement horribles, et je ne trouve plus d’excuses pour ce comportement. »

Neuf jour avant l’élection de nomvembre 2016, j’ai envoyé le mail ci-dessus à Marc Zuckerberg, fondateur de Facebook, et à son CEO Sheryl Sandberg. Cet email reprend mot pour mot l’éditorial que je prévoyais de publier concernant les problèmes qui se développaient chez Facebook. Plus tôt dans l’année, j’avais remarqué une émergence d’images violentes et dérangeantes, partagées par des amis, et publiées initialement dans des Facebook Groups ostensiblement associés avec la campagne de Bernie Sanders, mais c’était impossible d’imaginer qu’elles viennent de sa propre campagne politique. Je voulais partager avec Sandberg et Zuckerberg ma peur que des gens malsains exploitent l’architecture et le business model de Facebook pour blesser leurs comparses.

Je suis un investisseur en technologie de longue date ainsi qu’un évangéliste. J’ai consacré toute ma carrière à la tech’, c’est ma passion. J’ai été un des premiers conseiller de Zuckerberg -Zuck, pour de nombreux collègues et amis- et l’un des premiers investisseurs dans Facebook. J’en ai été un ferveux défenseur pendant plus d’une décennie. Mes premiers RDV avec Zuck se passaient toujours dans son bureau, généralement en tête à tête, donc j’ai une image assez partielle de ce dernier, mais il a toujours été très direct avec moi. J’aimais bien Zuck. J’aimais son équipe. J’étais un gros fan de Facebook. J’étais le genre de gars à qui il faisait appel en cas de coup dur ou de litige. Le tutorat est une activité ludique, et Zuck était le meilleur des tutorés. Nous parlions des choses qui étaient importantes pour Zuck, des choses pour lesquelles j’étais expérimenté, et le plus souvent il suivait mes conseils.

Quand j’ai envoyé cet email à Zuck et Sheryl, je considérais que Facebook était une victime. Mais ce que j’appris plus tard – à propos des élections de 2016, à propos des fausses rumeurs sur le Brexit, à propos des données personnelles des utilisateurs qui étaient revendues à d’autres – cela m’a choqué et profondément déçu. Cela m’a pris beaucoup de temps avant de comprendre que le succès était monté à la tête de Zuck et Sheryl et qu’ils ne voyaient plus du tout la conséquence de leurs actes. Pourtant je n’ai jamais eu de raison valable pour les attaquer publiquement. Même au moment où j’écris cet article, j’ai toujours des actions Facebook. Mes critiques contre cette entreprise sont une question de principe, et posséder des actions n’explique pas tout. Je suis devenu un activiste parce que j’étais parmi les premiers qui ont vu la catastrophe arriver, et mon historique en tant qu’entrepreneur me rend d’autant plus crédible.

Ce qui suit est le récit de mon histoire avec Facebook. C’est un récit qui parle du pouvoir, du privilège, de la confiance et comment on peut être trahi.

Le succès massif de Facebook a peut-être conduit à cette catastrophe. Le business model est d’abord basé sur la pub, sur sa régie publicitaire, qui repose elle-même sur le temps de cerveau disponible de l’internaute. Plus l’internaute passe de tempq sur Facebook , plus il ingère de pub. Le meilleur moyen de retenir l’attention d’un spectateur est de déclencher des émotions fortes, comme l’indignation ou la peur. Quand ces émotions apparaissent chez le spectateur, elles le garde en ligne, c’est ce qui s’appelle « l’engagement ». Les algorithmes de Facebook délivre à l’utilisateur ce qui le fait le plus réagir, le fl d’actualité de chaque utilisateur est donc totalement personnalisé en fonction de ses réactions antérieures, une sorte de bulle filtrante qui le berce dans l’illusion que tous les autres utilisateurs voient et croient la même chose que lui. Montrer uniquement à l’utilisateur des posts qui lui plaisent était dans les principes de Facebook, mais des chercheurs ont montré que cette pratique contribuait à la création de réaction frontale, et qu’elle était à terme nuisible pour la démocratie

Pour nourrir ses algorithmes, Facebook ramasse des données partout où il peut en trouver. Jusqu’à peu, Facebook espionnait tout le monde, même ceux qui n’utilisait pas Facebook. Malheureusement pour eux, Facebook échoua à protéger leurs données. Parfois, Facebook revendait ses données pour obtenir des meilleurs deals publicitaires. Ce genre de pratique augmentait toujours p lus le nombre d’utilisateur et le temps passé sur le site, mais il a fallu une nouvelle innovation pour que Facebook devienne la régie publicitaire géante que l’on connait.

Depuis fin 2012 jusqu’à 2017 Facebook a perfectionné un nouveau concept – le growth hacking – concept basé à la fois sur l’expérimentation constante de nouveaux algo, sur l’arrivée de nouveaux types de données, sur les modifications de l’interface, et sur le monitoring permanent des réactions de l’utilisateur. Le growth hacking a permis à Facebook de monétiser radicalement l’énorme quantité de données personnelles en sa possession, à telle point que cette nouvelle métrique a effacé toute autre considération. Dans le monde du growth hacking, l’utilisateur est une métrique, pas une personne a proprement parlé. Chaque action, chaque clic, que fait l’utilisateur est enregistré par Facebook pour l’aider à mieux le comprendre – lui et ses amis- ce qui permet à Facebook d' »améliorer » perpétuellement l’expérience quotidienne de l’utilisateur, ou plutôt réussir à maintenir de plus en plus longtemps l’utilisateur sur le réseau. N’importe quel annonceur peut accéder à ce temps de cerveau disponible. Les Russes en ont pris pleinement conscience. Est-ce que la question de la responsabilité civique est un jour été évoqué en interne chez Facebook ? Je n’en ai à ce jour aucune preuve.

Les gens sur Facebook vivent dans leur propre bulle. Zuck a toujours pensé qu’il devait réussir à toucher la planète entière, que cette mission était tellement importante qu’il devait déployer tout les moyens possibles pour y arriver. Convaincu de la noblesse de sa mission, Zuck et ses employés ont pris les critiques à la légère, sans rien changer à leur comportement. Leur réponse à presque tous les problèmes est justement la cause de tout ces problèmes : plus d’intelligence artificielle (IA), plus de code, plsu de correction de bugs à court terme. Ils ne l’ont pas fait parce qu’ils étaient foncièrement mauvais. Ils ne pouvaient pas imaginer que les problèmes récents pouvait être directement relier à leur interface ou à leurs décisions. Ecouter les critiques ne leur ait jamais venu à l’idée -combien de gens ont été un jour réunis par les critiques ?- bien moins pour se remettre en question. Par conséquent, lorsqu’ils étaient confrontés aux preuves de désinformation et de fake news qui ont été diffusées sur Facebook, et qui ont pu influencer le référendum britannique ou la dernière élection présidentielle américaine, Facebook a fait comme à ses débuts : jouer le déni, jouer la montre, sortir le parapluie, puis dissimuler (lit. dany, delay, deflect, dissemble). Facebook a fait amende honorable uniquement lorsqu’il en a été forcé, et a révélé le minimum syndical. Il y a eu alors le Plan B : présenter ses excuses et promettre d’être un jour meilleur.

Grâce au succès phénoménal de Facebook, la marque créée par Zuck dans le monde de la tech’ est un mix de culte de la personnalité et de rock star. Il est profondément dévoué aux produits, mais pas tant que ça aux affaires, qu’il laisse volontiers à Sandberg. D’après plusieurs sources, Zuckest connu pour un management très bref et très ferme. C’est la caricature du chef incontesté. Ses subalternes l’étudie et ont développé des techniques pour l’influencer. Sheryl Sandberg est très douée, ambitieuse et parfaitement organisée. Etant donné le statut de fondateur de Zuck, l’équipe de Facebook ne le contredit que très rarement, et ne le font jamais aux pires moments (un porte-parole dira que « les gens contredise tout le temps Mark »).

Vous pourriez penser que les utilisateurs de Facebook seraient scandaliser par la manière dont la plateforme était utilisée pour mettre à mal la démocratie, les droits citoyens, la confidentialité, la santé publique et l’innovation. Il y en a, mais Facebook affiche tout de même 1.5 milliard d’utilisateurs quotidien. Ils l’utilisent pour rester en contact avec leurs proches perdus de vue et leurs amis. Ils aiment partager leurs photos et leurs pensées. Ils ne veulent pas croire que cette plateforme, qui s’est transformée en habitude quotidienne, pouvait faire autant de dommages. Facebook a utilisé notre confiance en la famille et nos amis pour créer l’une des plus grosse capitalisation boursière de la planète, mais, en cours de route, il a fait l’impasse sur la protection des données personnelles et aggravées les points faibles de notre démocratie en empêchant les citoyens de penser par eux-même, savoir en qui avoir confiance, ou agir dans leur propre intérêt. Les pire parties prenantes ont eu leur grand jour en exploitant Facebook et Google, démultipliant la confiance de l’utilisateur pour répondre la désinformation et les discours haineux, pour supprimer le droit de vote et pour polariser les citoyens dans de nombreux pays. Ils vont continuer à faire de même jusqu’à ce que nous, dans notre rôle de citoyen, réclamons nos droits de plein droit pour l’auto-détermination.

Nous avons donc besoin de réformer Facebook et la Big Tech dans les domains qui suivent :

Democraty

La démocratie nécessite sur un partage de l’information et des valeurs communes. Elle nécessite des débats et des lois. Elle nécessite une liberté de la presse et des contre-pouvoirs pour responsabiliser les puissants. Facebook (ainsi que Google et Twitter) ont saboté le marché de la presse libre de deux manières : ils ont d’abord contribué à diminué ses sources de revenus, puis ils l’ont submergé par la désinformation. Sur Facebook, l’information et la désinformation prennent une forme similaire : la seule différence c’est que la désinformation est plus lucrative, donc elle est traitée avec plus de considération. Pour Facebook, les news ne sont pas une réalité absolue ; elles représentent un choix laissé initialement aux utilisateurs et à leurs amis, puis sont ensuite amplifiées par les algorithms pour augmenter l’engagement. Dans la même veine, les algorithmes de Facebook privilégient toujours les publications aggressives aux les publications neutres émotionnellement, ce qui privilégie encore la désinformation par rapport à l’information, et les théories conspirationnistes sur les faits bruts. Les utilisateurs de mêmes opinions peuvent partager leur point de vue, mais ils peuvent aussi toutes les informations qui vont à l’encontre de leurs croyances.

A l’échelle de Facebook, ou de Google, il n’y a aucune de raison de cesser d’influencer la vies des utilisateurs ou celui des démocraties. Pourtant l’histoire récente montre que les menaces sur les démocraties sont réelles. Les efforts déployés par Facebook, Google et Twitter pour protéger les élections futures peuvent être sincères, mais il n’y a aucune raison de penser que ce ne se transformera pas en jeu de quilles pour ceux qui veulent interférer. Seul une modification profonde de leur business model pourrait réduire les risques contre la démocratie. Facebook reste une menaces pour les populations défavorisées du globe. Le service Free Basics a permis aux plus démunis d’être connecté à Internet dans plus de 60 pays, mais au prix d’une perturbation sociale considérable. Par l’absence de maîtrise des langues et l’ignorance des cultures locales, Facebook est devenu dans certains pays un outil nuisible aux minorités les plus faibles. Cela s’est manifesté par des issues parfois mortelles au Sri Lanka et en Birmanie.

Privacy

Facebook reste une menace pour la confidentialité. Sur le papier, les engagements pris pour assurer la surveillance ferait la fierté de n’importe quelle agence de renseignement, mais il en est tout autre de la manipulation des données utilisateurs. Il y a un besoin de soustraire les fils d’actualité et les résultats de recherche de toute manipulation de données. L’utilisateur a besoin d’avoir un droit de regard sur les données le concernant, et un besoin de contrôler la manière dont ses données sont utilisées. Les utilisateurs ont le droit de connaître le nom de chaque organisation ou personne qui achète ces données. Ceci ne s’applique pas qu’aux réseaux sociaux, mais égalelement aux opérateurs télécom et aux tiers qui ont accès à ces données. Une autre opportunité de régulation est la portabilité des données, c’est à dire la possibilité pour un utilisateur de déplacer ses données personnelles d’un réseau social à un autre. Cela permettrait notamment au startup de passer cette barrière à l’entrée sur le marché des réseaux sociaux. Les réseaux sociaux devraient également être plus transparentes pour les utilisateurs, les annonceurs et les entités de régulation.

Control Your Data

Les utilisateurs devraient toujours garder la propriété de leurs données personnelles – et la compensation financière attenante devrait être considérablement augmenter. Personne ne devrait avoir le droit d’utiliser les données d’autri sans son consentement explicite. Les algorithmes devraient être auditables par des tiers, à la manière de ce qui est fait dans la finance, pour créer la transparence nécessaire. Des limites devraient exister sur le type de données qui peut faire l’objet d’une collecte, certaines devraient rester confiedentielles si l’utilisateur le désire. Ceci doit être fait immédiatement, avant que les nouveaux produits développés par Alexa et Google Home ne se propagent massivement. La frontière de la confidentialité pour les objets connectés est pour l’instant extrêment floue, avec un potentiel considérable d’abus en tout genre. Enfin, je voudrais éviter le déploiement de technologies telles que l’Intelligence Artificielle et les robots automatisés avant que preuve soit faite que leur but soit avant tout de servir l’humain plutôt que de l’exploiter. Cela pourrait être réaliser par une instance équivalente de la FDA (Food and Drug Administration), en version technologique.

Regulate

D’un point de vue investisseur, je ne peux qu’être impressioné par la manière dont Facebook, Anamzon et Google ont déroulé leur business plan. Les conséquences imprévues sont en revanche problématiques, et elles sont plus nombreuses et plus graves que ce que l’on croit. Ainsi, Google et Facebook générent du profit mais de manière artificielle, car les dommages qu’ils créent ne sont pas comptabilisés.

Historiquement, l’économie américaine a été beaucoup plus dépendantes des start-ups du web que d’autres secteurs. Si mon hypothèse est juste, le pays vient de lancer une expérimentation grandeur nature sur la dépendance monopolistique à l’innovation, la croissance et la création d’emploi.

Google, Amazon et Facebook ont suivi à la lettre les régles pour obtenir leur statut de monopole, et ont ainsi interdit tout accès à leur coeur de métier. Leur succès a considérablement relever le niveau de compétitivité des startups, en réduisant leur champ d’action, en forçant leurs dirigeants à revendre leurs parts de manière anticipée, ou en les déroutant sur des marchés à faible potentiel de croissance. A travers l’acquisition de startups, ils ont jalousement protéger leur marché pour maintenir le monopole. Ces entreprises n’ont pas besoin d’étouffer de cette manière les startups, mais elles n’en peuvent tout simplement pas s’en empêcher. That’s what monopolists do.

En terme de politique économique, je veux imposer des limites sur les marchés des acteurs monopolistes comme Facebook, Google et Amazon. L’économie bénéficierait grandement d’un démantelement de ces groupes. Un premier pas serait l’impossibilité de réaliser de nouvelles acquisitions, ainsi que la mise en commun des données personnelles issues de différents produits d’une même plateforme. Je suis en faveur de la régulation pour réduire le risque de comportement prédateur. Une régulation efficace imposerait forcément des changement dans leur business model.

Par rapport aux législations actuelles, ces recommandations peuvent paraître extrèmes, mais il n’y a aucune autre manière de protéger les populations, la démocratie et l’économie. Nos parents et arrière-parents ont eu la même réaction avec l’industrie du tabac. Maintenant c’est notre tour, mais cette fois contre les géants du web.

Make It Human

D’un point de vue purement technologique, la voie la plus prometteuse reste l’innovation, chose sur laquelle les plateformes ont beaucoup trop d’influence aujourd’hui. L’application des lois anti-trust est bénéfique à l’innovation, mais reste insuffisante. Je propose que la Silicon Valley adopte une technologie centrée sur l’humain pour le Next Big Thing. En Amérique, si vous souhaitez résoudre un problème, il est important d’intégrer la volonté de générer du profit, et ceci peut être accompli par une transition progressive, d’une technologie basée sur l’exploitation des mécanismes humains, vers une réelle volonté de responsabiliser les utilisateurs.

A quoi ressemblerait une technologie centrée sur l’utilisateur ? Elle responsabiliserait les utilisateurs plutôt que de les exploiter. Les réseaux sociaux orientés sur l’intérêt de l’Humain permettrait le partage entre amis, mais s’affranchirait d’une surveillance massive, des fitres et de l’absence de confidentialité liée aux données. En échange de ce nouveau business model, basé éventuellement sur des frais d’abonnement, les startups recevraient une protections des géants du web. Etant donné que les médias sociaux sont pratiquement d’utilité publique, je pense qu’il est utilile d’aborder des stratégies plus agressives, qui intégrent notamment des subventions d’état. Le gouvernement subventionne déjà l’exploration des nouveaux gisements énergétiques, l’agriculture, ainsi que d’autres domaines que l’économie considère être une priorité, et il n’est pas absurde de penser que les réseaux sociaux deviennent essentiels à l’avenir du pays. Les suventions pourraient prendre la forme de financement de la recherche, d’apport en capitaux pour les startups, ou de réduction de taxes

Le Next Big Thing offre des opportunités pour repenser l’architecture de notre Internet. Par exemple, je voudrais traiter la confidentialité grâce à un nouveau modèle d’authentification sécurisée qui permettraient aux sites concernés de n’obtenir que le minimum de données nécessaires à chaque transaction. Ce modèle fonctionnerait comme un gestionnaire de mot de passe, avec plusieurs améliorations : il irait au-delà de la simple mémorisation de mots de passe pour s’identifier, et il stockerait ces données directement sur l’appareil de l’utilisateur, et non dans le cloud. Apple a déjà adopté ce modèle, offrant ainsi à ses utilisateurs une meilleure confidentialité et d’avantage de sécurité par rapport à Androïd.

Addiction

Les menaces de santé publique engendrée par les plateformes Internet dérivent directement des choix réalisés au niveau du design de l’interface. La technologie est une force de persuasion, et les motivations financières des business models basés sur la pub assurent que cette persuasion soit toujours le but ultime de chaque design. Chaque pixel de chaque écran de chaque application a été précisément pensé pour influencer le comportement de l’utilisateur. Il est impossible de manipuler tous les utilisateurs tout le temps, mais il est tout à fait possible de manipuler temporairement tous les utilisateurs. Dans certains cas extrêmes, les utilisateurs peuvent développer un comportement addictif préjudiciable à leur qualité de vie, à leur famille, collègues et amis proches. Nous ne connaissons pas la prévalence des comportements addictifs à Internet, mais ils semblent assez répandus. La première chose que font des millions de personnes au levé du lit, c’est d’allumer leur téléphone et de vérifier leurs notifications. Pour la majorité la question est de savoir s’ils font cette vérification avant ou après le pissou matinal. Trop de gens font état de difficulté d’endormissement dû à un usage tardif de leur tablette ou de leur téléphone. Il est possible que la plupart des utilisateurs Facebook aient des comportement addictifs. Le problème de cet addiction est qu’il prive la victime d’initiative. En effet, même lorsqu’un utilisateur comprend le caractère nocif d’un comportement, il reste incapable d’y mettre un terme. Un changement nécessiterait plus que de nouvelles lois, il nécessiterait un investissement en R&D et des services de santé publique visant à la prévention de cette addition à Internet.

Protect Children

Un pourcentage en constante augmentation d’enfants affiche désormais une nette préférence pour les expériences virtuelles face au monde réel. Des produits comme Instagram donnent l’avantage aux tyrans des réseaux sociaux (trad. bullies). L’envoi de textos a remplacé la parole pour de nomobreux enfants. Il est défficile d’anticiper l’évolution de ce mode de communication , mais des chercheurs ont tiré la sonnette d’alarme, en pointant du doigt ces expériences socio-psychologiques sur des millions d’utilisateurs, ce sans aucune études antérieures. La recherche médicale soutient la régulation. En plus des limites d’âge imposées avant l’exposition aux écrans, il y a déjà des éléments de preuves comme quoi les ordinateurs mis à disposition dans les salles de classe génèrent des troubles de l’attention.

Les nuisances de santé publique, la démocratie, la confidentialité et la compétition engendrés par Facebook et les autres plateformes résultent de leurs choix de business model, et ceux-ci doivent être modifiés. En tant qu’utilisateurs, nous avons beaucoup plus d’influence sur ce changement que nous l’imaginons. Nous pouvons changer de comportement. Nous pouvons créer un mouvement politique. Nous pouvons insister sur l’intervention gouvernementale pour promouvoir des technologies centrées sur l’Humain, et non sur des technologies d’extortion de données personnelles. D’un autre côté, le gouvernement doit prendre la mesure des dommages causés par ces plateformes. Nous avons besoin de reconstruire des insitutions, de trouver à terrain d’entente avec nos opposants, et de recommencer à vivre l’unité de notre pays. La force politique et sociale de Facebook et des autres géants des plateformes Internet est désormais malsaine et innapropriée pour une société comme la nôtre. Nous devons les mettre devant leurs actes et insister pour la mise en place de solutions palpables, et non des bouts de codes informatiques additionnels.

source : article original

Catégories
Share on facebook
Share on twitter
Share on whatsapp
Share on email
Share on print

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.