Par Matthieu Hug, Tilkal.com
Ces derniers mois ont été chargés en actualité technico-éthique chez diverses plateformes du numérique.
Lorsqu’on utilise une plateforme, on s’intéresse naturellement en priorité au service rendu : pourtant on ne devrait pas oublier de s’interroger sur l’intention et l’éthique des opérateurs de cette plateforme, intention et éthique qui transparaissent notamment dans la manière dont le service est rendu. Ainsi observer et consolider de simples anecdotes techniques isolées, permet de donner du relief aux tentatives récentes ou aux jeux d’influence d’acteurs tels que TikTok, Facebook et quelques autres.
Avec 1 milliard d’utilisateurs et une croissance très rapide, TikTok est le parangon de la culture selfie, en particulier chez les ados. Par son service, TikTok dispose d’une immense base de données de micro-vidéos de gosses du monde entier. ByteDance, entreprise chinoise maison mère de TikTok, revendique d’immenses investissements en intelligence artificielle[1], il y a donc assez peu de doutes que ces vidéos sont analysées à des fins de ciblage personnalisé : localisation et domicile, profil sociologique et psychologique, goûts, religion, sexualité, opinions, etc. D’ailleurs, tous les réseaux sociaux et tous les acteurs du ciblage font peu ou prou cela. Compte tenu de la valeur commerciale et politique de ce type d’informations sur 1 milliard d’individus dans le monde, on ne peut pas raisonnablement croire qu’une loi française ou même européenne ait une quelconque influence sur le choix d’une entreprise chinoise comme ByteDance / TikTok de constituer un fichier de profils socio-politico-économique de ses 1 milliard d’utilisateurs, dont 10% de la population française.
En mars 2020, quelques développeurs ont mis en évidence que TikTok accédait en permanence au presse-papier de l’utilisateur…
En mars 2020, quelques développeurs ont mis en évidence que TikTok accédait en permanence au presse-papier de l’utilisateur, y compris quand l’application n’est pas active. TikTok promet bien sûr d’arrêter, mais le sujet fait finalement peu de bruit sur les réseaux sociaux, et donc TikTok n’arrête pas. En juin 2020 lors d’une pre-release de iOS 14, plusieurs utilisateurs observent le phénomène, cette fois de manière assez frappante grâce à de nouvelles notifications intégrées à iOS 14. Le buzz circule bien cette fois, donc TikTok réagit et supprime la fonctionnalité en quelques jours. Ladite fonctionnalité a bien sûr une explication officielle, particulièrement bidon (lutte contre les spams), inutile de s’appesantir dessus.
TikTok, éthique en Toc ?
Mais est-ce grave ? Qu’est-ce qui peut passer par le presse-papier ? Dans une vidéo, on voit par exemple TikTok intercepter tout ce que l’utilisateur écrit dans Instagram (propriété de Facebook) [2]. En fait, tout ce que vous écrivez sur votre smartphone dans une appli quelconque est susceptible d’être intercepté par TikTok et envoyé sur ses serveurs pour analyse. Y compris donc tous les logins et mots de passe qui transitent entre un gestionnaire de mot de passe et un site ou une app.
En août 2020, il a aussi été mis en évidence que TikTok enregistrait secrètement depuis plus d’un an l’adresse MAC de tous les smartphones Android sur lesquels l’application est installée : c’est-à-dire l’identifiant unique et non modifiable du smartphone, idéal pour une identification fine des utilisateurs[3]. Ce qui est, au passage, une violation délibérée de la politique de respect de la vie privée imposée par Google sur Android. Enfin « imposée »… TikTok n’a pas non plus été banni par Google pour si peu.
TikTok assure bien évidemment de son engagement au respect de la vie privée, ce qui est flagrant, il faut en convenir. « We are committed to protecting and respecting your privacy. » affirme la politique de confidentialité [4], relayée partout dans le monde par une communication corporate bien huilée mais vide de sens. Ça ne mange pas de pain, et ça n’engage que ceux qui préfèrent y croire que regarder la réalité.
D’étranges conditions dans les CGU
Je pourrais aussi parler de ma lecture des CGU de TikTok avec un ami avocat lorsque c’était encore Musically, il y a 3 ans : ma fille voulait absolument l’installer, en regardant de quoi il s’agissait, j’ai bizarrement eu un doute sur cette entreprise qui se plaçait sous la législation des îles Caïman. De fait, Musically y affirmait avec une désarmante transparence son droit entier et complet à toute forme d’utilisation, vente, modification, arrangement, publication ou exploitation des vidéos des utilisateurs, que ce soit des vidéos initialement privées ou publiques. Pour faire bonne mesure, en février 2019 TikTok a été condamné à une amende par la Federal Trade Commission américaine pour violation d’une loi sur la protection de l’enfance (COPPA). Plus récemment, d’importants phénomènes de harcèlement, de menaces, de chantages, etc, ont été mis en lumière dans le monde entier. Ce sont ces gens-là à qui des centaines de millions de parents dans le monde permettent d’acquérir des vidéos de leurs gamins, et de construire sans l’ombre d’un doute des profils psychologiques complets pour une exploitation certainement publicitaire, et non moins certainement politique dans le contexte chinois.
Contenu, login, mots de passe… L’éthique, ou plutôt son absence, n’est l’apanage de personne.
Pour être équilibré, LinkedIn (Microsoft donc) a aussi essayé d’enregistrer le presse-papier des smartphones [5]. Vous écrivez quelque chose sur votre smartphone ou votre tablette, dans une application quelconque, si ça passe dans le presse-papier l’appli LinkedIn le récupère et va donc l’analyser. Contenu, login, mots de passe… L’éthique, ou plutôt son absence, n’est l’apanage de personne. Ce qui amène à Facebook.
Le rôle et l’attitude de TikTok l’ont mis au cœur d’une tourmente géopolitique, allant de son interdiction formelle en Inde à son expulsion programmée des Etats-Unis, ordonnée par Donal Trump. Cette expulsion a suscité l’inquiétude et l’émoi de Mark Zuckerberg, le patron fondateur de Facebook y voyant début août 2020 « un précédent réellement fâcheux pour les Etats-Unis et le monde »[6]. C’est d’autant plus vertueux de la part de Zuckerberg de défendre la liberté d’établissement et d’opérations de TikTok aux US, que moins d’un an auparavant il alertait sur la participation de TikTok à de la censure en Chine et son danger pour la liberté d’expression [7]. Alors Zuckerberg, hérault de la liberté d’expression comme de la liberté concurrentielle ? La réalité apporterait un contrepoint risible à cette idée si le sujet n’était si dangereux.
Facebook, mieux que TikTok ?
Depuis au moins un an, Mark Zuckerberg ferait en fait du lobbying auprès de l’administration Trump pour le bannissement des Etats-Unis de TikTok, concurrent bien gênant[8][9]. Notamment via Peter Thiel, tycoon de la Silicon Valley, actionnaire du début et board member de Facebook, conseiller, financeur et fervent supporter de Trump, activiste de longue date de la destruction de la démocratie au nom de sa conception de la liberté[10]. Mais il y a plus important que l’éventualité d’un double langage sur TikTok.
En effet, depuis 2006 Facebook est sujet à des problèmes récurrents liés au respect de la vie privée, à la protection de ses utilisateurs et à la liberté d’expression [11] : des problèmes variés, qui, loin d’être techniques, sont largement de nature éthique. Il s’agit des plus de 80 millions de profils psychologiques d’utilisateurs laissés accessibles ou rendus accessibles à Cambridge Analytica pour de la manipulation politique à grande échelle en faveur de Donald Trump (on se souvient du lien avec Peter Thiel évoqué plus haut…) lors des élections américaines de 2016. On parle aussi de dissimulation avérée par la direction de Facebook de vols massifs de données privées d’utilisateurs en mars 2018[12][13], ou encore de tentatives de manipulation de l’humeur des utilisateurs en 2014.
Récemment, en novembre 2019, Facebook activait la caméra des smartphones filmant ainsi ses utilisateurs à leur insu[14] : Facebook parlait alors de « bug », explication rarement questionnée mais qui doit laisser rêveur quiconque a écrit plus de 3 lignes de code dans sa vie. Enfin, en juin 2020, Facebook présentait avec fierté une nouvelle fonctionnalité de Workplace, son réseau social d’entreprise : la possibilité d’y surveiller et censurer les échanges autour d’idées comme « se syndiquer » (« unionize » en anglais)[15]. Bref, sur ses produits grand public comme entreprise, on voit que la vision concrète de Facebook sur l’éthique, le respect de la vie privée, le respect de la liberté d’expression, est finalement très similaire à celle de TikTok : c’est très accessoire sauf pour faire de belles phrases médiatiquement acceptables.
Big Google is watching You
Si la Stasi ou le KGB avaient été plus ouverts au capitalisme, ils auraient vendu leurs micros au lieu de les cacher et nous nous serions tous rués dessus pour Noël…
Pour faire bonne mesure, un autre bel exemple de nos enjeux éthiques face au numérique a été fourni début août par Google. Google a activé le micro sur des Google Home, écoutant et analysant ainsi tous les sons ambiants chez les personnes concernées[16]. Google parle bien évidemment d’un « bug », celui-ci activant le micro en miroir du « bug » activant la caméra chez Facebook. Il y une propension peu commune des « bugs » chez ces acteurs à déclencher opportunément des fonctionnalités violant la vie privée de leurs utilisateurs : pour un peu on soupçonnerait que ce n’est pas le code informatique mais la bonne foi qui a un bug. En fait Google a démontré une évidence dont le risque politique est insuffisamment considéré : « enceinte connectée » est un joli terme marketing pour un micro qui permet à un tiers, n’importe quand, sans vous prévenir, d’écouter chez vous et d’analyser ce qui s’y passe. Si la Stasi ou le KGB avaient été plus ouverts au capitalisme, ils auraient vendu leurs micros au lieu de les cacher et nous nous serions tous rués dessus pour Noël…
Que nous enseigne tout ceci ? D’abord que l’intention de certaines grandes plateformes numériques met en cause notre liberté d’expression et les limites de notre vie privée : le numérique est de fait un objet politique nouveau, propre au XXIè siècle. Ensuite que, pour nous européens, TikTok ou Facebook, c’est Charybde et Scylla : la confiance possible est également nulle. Enfin, que le cadre législatif et éthique de ce nouvel objet politique est forgé à Washington et à Pékin, avec une portée extraterritoriale qui s’impose à nous comme l’illustre le Cloud Act US. Le numérique a été le grand impensé de la politique française et européenne : nous sommes seuls responsables de cette erreur grave et de la perte d’indépendance qui en résulte.
À nous donc, européens, de construire ensemble, de manière volontariste et proactive, un numérique dont nous pourrons définir les valeurs. Cela prendra sans doute 10 ans, autant dire presque rien puisqu’il en va de la maîtrise de notre devenir.
Entrepreneur passionné par tout ce qui est “numérique” dès qu’il change les règles … Actuellement, mon objectif est de permettre la traçabilité des produits de bout en bout à travers les chaînes d’approvisionnement mondialisées, un énorme défi que les registres décentralisés (par exemple les technologies blockchain) peuvent aider à aborder en profondeur et durablement. Cela changerait les règles en termes de sécurité des consommateurs, de production éthique et de croissance durable.
Je suis également investisseur et conseiller dans plusieurs start-ups innovantes abordant des sujets passionnants avec les technologies numériques (marketing digital, cloud personnel, desktop as a service, plateforme API, jouets éducatifs nouvelle génération).
[1] https://algorithmxlab.com/blog/ai-startup-bytedance-to-raise-nearly-1-45b-for-ai-investments/
[2] https://www.theverge.com/platform/amp/2020/6/26/21304228/tiktok-security-ios-clipboard-access-ios14-beta-feature
[3] https://www.wsj.com/articles/tiktok-tracked-user-data-using-tactic-banned-by-google-11597176738
[4] https://www.tiktok.com/legal/privacy-policy?lang=en
[5] https://www.theverge.com/2020/7/3/21312821/linkedin-app-ios-14-clipboard-copying-fix
[6] https://www.businessinsider.fr/us/mark-zuckerberg-facebook-tiktok-ban-all-hands-meeting-report-2020-8
[7] https://www.theverge.com/2019/10/17/20919464/mark-zuckerberg-facebook-china-free-speech-georgetown-tiktok-bytedance
[8] https://nypost.com/2020/08/24/facebooks-mark-zuckerberg-lobbied-against-tiktok-last-fall/
[9] https://www.digitaltrends.com/social-media/facebook-mark-zuckerberg-washington-lobbying-tiktok-ban/
[10] https://www.cato-unbound.org/2009/04/13/peter-thiel/education-libertarian
[11] https://www.nbcnews.com/tech/social-media/timeline-facebook-s-privacy-issues-its-responses-n859651
[12] https://www.cnbc.com/2018/09/28/facebook-says-it-has-discovered-security-issue-affecting-nearly-50-million-accounts-investigation-in-early-stages.html
[13] https://www.telegraph.co.uk/technology/2020/02/09/facebook-repeatedly-warned-security-flaw-led-biggest-data-breach/
[14] https://www.cnet.com/news/facebook-bug-has-camera-activated-while-people-are-using-the-app/
[15] https://theintercept.com/2020/06/11/facebook-workplace-unionize/
[16] https://www.independent.co.uk/life-style/gadgets-and-tech/news/google-home-smart-speakers-listen-switch-on-smoke-detector-glass-breaking-a9652991.html
|||
