Democracy

Ce n’est pas que nous n’avons pas réussi à tenir Facebook et Google en laisse. Nous n’avons même pas essayé

22/11/2019

Par Shoshana Zuboff
Mardi 2 Juillet 2019

Les géants de la technologie utilisent nos données non seulement pour anticiper notre comportement, mais aussi pour le changer. Mais nous pouvons résister à cette attaque contre la démocratie

Dans une interview accordée la semaine dernière à la BBC, Nick Clegg, vice-président de Facebook, a surpris les téléspectateurs en appelant à de nouvelles « règles de conduite » concernant la vie privée, la collecte de données et autres pratiques de la société qui ont suscité de vives critiques au cours de l’année écoulée. « Ce n’est pas aux entreprises privées… d’établir ces règles », a-t-il insisté. « C’est aux politiciens démocratiques du monde démocratique de le faire ».

La réponse de Facebook serait d’adopter une « attitude », et non pas de « fuir », mais de « défendre » les nouvelles règles. Pour une entreprise qui a farouchement résisté aux nouvelles lois, le message de Clegg visait à nous persuader que la page était tournée. Pourtant, ses remarques ressemblaient à du langage journalistique, comme si il s’agissait de masquer des faits inavouables.

Quelques semaines plus tôt, les dirigeants de Facebook, Mark Zuckerberg et Sheryl Sandberg, avaient dédaigné une assignation à comparaître devant le Parlement canadien. Clegg a ensuite présenté la défense standard de la Silicon Valley contre la primauté du droit – avertissant que toute restriction résultant d’un « coup de fouet technologique » risquait de rendre « presque impossible toute innovation réelle de la technologie », et évoquant le spectre de l’ascendant chinois. « Je peux prédire que … nous serons technologiquement dominés par un pays dont les valeurs sont aux antipodes des nôtres ».

Tant Facebook que Google comptent depuis longtemps sur cette formulation mal inspirée pour les protéger de la loi. En 2011, l’ancien PDG de Google, Eric Schmidt, a averti qu’un excès d’emprise du gouvernement entraverait stupidement l’innovation, « Nous irons beaucoup plus vite que n’importe quel gouvernement ». Puis, en 2013, Larry Page, cofondateur de Google, s’est plaint que « les vieilles institutions comme les lois » entravent la liberté de la société à « vraiment construire de grandes choses ». Cette rhétorique est un héritage d’une autre époque quand les barons de l’« âge d’or » des États-Unis de la fin du XIX^e siècle, insistaient sur le fait qu’il n’y avait pas besoin de loi quand on avait la « loi de l’évolution », les « lois du capital » et les « lois de la société industrielle ». Comme l’historien David Nasaw l’a exprimé, les millionnaires prêchaient que « la démocratie a ses limites, au-delà desquelles les électeurs et leurs représentants élus n’osent pas s’aventurer, de peur que la calamité économique ne frappe la nation ».

Le capitalisme de surveillance est une logique économique qui a détourné le numérique à ses propres fins.

Pendant de nombreuses années, cette rhétorique de l’innovation brandie par les entreprises de la technologie a efficacement aveuglé les utilisateurs et les législateurs. On considérait Facebook et Google comme des entreprises innovantes qui commettaient parfois de terribles erreurs au détriment de notre vie privée. Depuis lors, le tableau s’est précisé. Il est plus facile de voir que ce que nous considérions comme des erreurs étaient en fait des innovations – Google Glass, Facebook communiquant des informations privées aux développeurs, et plus encore. Chacune de ces erreurs était l’expression d’une innovation plus importante: l’invention de ce que j’appelle le capitalisme de surveillance.

Le capitalisme de surveillance n’est pas la même chose que la technologie numérique. C’est une logique économique qui a détourné le numérique à ses propres fins. La logique du capitalisme de surveillance commence par une revendication unilatérale, l’expérience humaine privée est une matière première gratuite qu’on peut produire et vendre. Il veut tout savoir de votre promenade dans le parc, de votre navigation en ligne et vos communications, votre chasse pour trouver une place de parking, la voix que vous écoutez à la table du petit déjeuner…

Ces expériences personnelles sont traduites en données comportementales. Certaines de ces données peuvent être affectées à l’amélioration de produits ou de services, et le reste est valorisé pour sa puissance prédictive. Ces flux de données prédictives sont introduits dans des produits informatiques qui anticipent le comportement humain. Une fuite de document de Facebook de 2018 décrit son système d’apprentissage automatique qui « avale des milliards de points de données chaque jour » et produit « plus de 6 millions de prévisions par seconde ». Enfin, ces produits de prévisions sont vendus à des clients professionnels au sein de marchés qui font commerce de l’avenir humain.

C’est Google qui, le premier, a inventé cette logique économique par le biais des annonces ciblées en ligne où le « taux de clics » était devenu le premier produit de prévision rencontrant un succès mondial, et les marchés publicitaires ciblés sont devenus les premiers marchés à faire de l’avenir humain leur spécialité. Au cours des premières années de découverte et d’invention, de 2000 à 2004, les revenus de Google ont augmenté de 3.590%. Dès le départ, il a été entendu que la seule façon de protéger ces revenus était de cacher les opérations qui les produisaient, en laissant les « utilisateurs » dans l’ignorance en utilisant des pratiques conçues pour être indétectables et indéchiffrables.

Le capitalisme de surveillance a migré vers Facebook, Microsoft et Amazon – et est devenu l’option par défaut de la plupart des secteurs technologiques. Il progresse aujourd’hui dans l’ensemble du secteur de l’économie, depuis les assurances jusqu’à la distribution, en passant par la finance, la santé, l’éducation et plus encore, sans oublier tous les produits « intelligents » et services « personnalisés ».

Les marchés de l’avenir humain rivalisent quant à la qualité des prévisions. Cette concurrence pour vendre des certitudes engendre les impératifs économiques qui régissent les pratiques commerciales. En fin de compte, il est devenu évident que les données les plus prédictives découlent de l’intervention dans nos vies visant à ajuster et conduire nos comportements vers les résultats les plus rentables. Les spécialistes dans le domaine des données décrivent ce phénomène comme un passage de la surveillance à l’activation. L’idée n’est pas seulement de connaître notre comportement, mais aussi de le façonner de manière à transformer les prédictions en garanties. Il ne suffit plus d’automatiser la circulation de l’information à notre sujet ; le but est maintenant de nous automatiser. Comme me l’a expliqué un spécialiste des données : « Nous pouvons modifier le contexte autour d’un comportement particulier et forcer le changement de cette façon… Nous apprenons à écrire la musique, et puis nous laissons la musique les faire danser ».

Ces impératifs économiques érodent la démocratie depuis le bas et aussi depuis le haut. Sur le terrain, les systèmes sont conçus pour échapper à la conscience individuelle, miner l’action humaine, éliminer les droits à la décision, diminuer l’autonomie et nous priver du droit de lutter. Le tableau d’ensemble révèle des concentrations extrêmes de connaissances et de pouvoir. Les capitalistes de la surveillance savent tout de nous, mais nous en savons peu sur eux. Leurs connaissances sont utilisées pour les intérêts des autres, pas pour les nôtres. Le capitalisme de surveillance prospère en l’absence de loi. En un sens, c’est une bonne nouvelle. Nous n’avons pas réussi à tenir en laisse ce capitalisme voyou ; nous n’avons pas encore essayé. Autre bonne nouvelle: nos sociétés ont réussi à affronter avec succès les formes destructrices du capitalisme dans le passé, imposant des nouvelles lois qui ancraient le capitalisme dans les besoins réels des gens. La démocratie a mis fin à l’âge d’or. Nous avons toutes les raisons de croire que nous pouvons à nouveau réussir.

La prochaine grande vision réglementaire sera sans doute élaborée par des guerriers d’une démocratie menacée: législateurs, citoyens et spécialistes, alliés dans la conscience que seule la démocratie peut faire prévaloir les intérêts du peuple par la loi et la réglementation. La question est de savoir, quel type de réglementation ? Les approches actuelles en matière de protection de la vie privée et les lois sur la concurrence sont-elles la réponse ? Les deux sont cruciales, mais ni l’un ni l’autre ne sont satisfaisantes.

On en trouve un exemple dans la loi qui appelle à la protection de la vie privée en raison de la « propriété des données ». C’est une notion trompeuse parce qu’elle rend légitime la prédation unilatérale d’expérience humaine – votre visage, votre téléphone, votre réfrigérateur, vos émotions – pour les transformer en données en toute légitimité. Même si nous devenons « propriétaires » des données que nous fournissons à une entreprise comme Facebook, nous ne serons pas pour autant « propriétaires » des anticipations qui en sont tirées, ni du destin des produits dérivant de ses marchés prédictifs. La propriété des données est une solution individuelle alors même que des solutions collectives sont nécessaires. Nous ne posséderons jamais ces 6 millions de prédictions produites à chaque seconde. Les capitalistes de la surveillance le comprennent. Nick Clegg le sait bien. Voilà pourquoi ils peuvent accepter des débats quant à la « propriété des données » et inviter publiquement à une réglementation sur la protection de la vie privée.