Notations sociales : faites attention à ce que vous publiez

Il est déjà difficile d’imaginer nos vies sans les réseaux sociaux !  Nous les utilisons pour chatter, communiquer, partager nos créations, discuter des dernières nouvelles, et bien plus encore. Il faut cependant garder à l’esprit que les gens peuvent utiliser vos profils sur les médias sociaux pour évaluer, par exemple, votre capacité à rembourser un prêt bancaire. Ou pour décider si vous êtes apte à occuper un emploi particulier.

La mesure du potentiel d’une personne basée sur ses actions passées, son cercle social, etc., est appelée notation sociale. La notation sociale d’une personne est, d’une certaine façon, similaire à la notation de crédit que les banques utilisent lorsqu’elles accordent des prêts, mais elle peut inclure un éventail d’informations beaucoup plus large.

De nombreux pays utilisent déjà les notations sociales dans différents domaines. Les assureurs de New York sont par exemple officiellement autorisés à fixer leurs primes en analysant les données des réseaux sociaux.

Quant à la Chine, elle développe un système de crédit social que certains décrivent comme digne du roman 1984. Cependant, tout le monde ne trouve pas que ces systèmes font froid dans le dos ; certains pensent qu’ils sont utiles et affirment qu’ils contribuent à un monde plus sûr. Les personnes et la technologie sont-elles prêtes pour ce qui arrive ?

Notations sociales : ce que pensent les gens

Pour évaluer l’opinion des utilisateurs au sujet des notations sociales, nous avons interrogé plus de 10 000 personnes à travers le monde. Voici les résultats de ce sondage.

Un peu moins de la moitié (46 %) en avait déjà entendu parler. Le phénomène est mieux connu en Asie. Par exemple, en Chine, où les notations sont diffusées au niveau national, 71 % des répondants connaissent les notations sociales, contre seulement 13 % en Autriche et en Allemagne. En outre, près de la moitié (45 %) des répondants ont admis avoir des difficultés à comprendre comment les notations étaient calculées. Seule une personne sur cinq (21 %) les a déjà rencontrées dans la vie réelle (bien qu’il soit possible que certaines personnes ignorent tout simplement que les notations sociales jouent un rôle dans l’obtention d’un prêt ou d’une hypothèque).

Néanmoins, beaucoup sont généralement d’accord avec l’idée sous-jacente des notations sociales : 70 % d’entre eux estiment qu’il est juste et équitable de limiter l’accès aux ressources publiques (transports, éducation, logement, etc.) en fonction du comportement des gens.

Beaucoup de personnes ne s’opposent pas à être surveillées s’il y a une bonne raison. Par exemple, pour améliorer la sécurité, près de la moitié des répondants seraient prêts à autoriser le gouvernement à surveiller les réseaux sociaux, et deux personnes sur cinq partageraient leurs données avec une entreprise en échange de réductions et d’autres avantages. Seulement 20 % environ des personnes interrogées ont exprimé un malaise à l’idée que des organisations privées et publiques s’intéressent à leurs informations personnelles.

Notations sociales : la technologie

De nombreuses personnes interrogées soutiennent l’idée des notations sociales, probablement parce qu’elles pensent que, dans l’ensemble, elles fourniront une évaluation juste et impartiale. Hélas, avec la technologie actuelle, c’est quelque chose de peu probable.

D’une part, il est difficile de détecter les erreurs. Les systèmes actuels sont basés sur des réseaux de neurones, dont les principes de fonctionnement sont opaques même pour les développeurs, sans parler des opérateurs ou du grand public. Lorsqu’il abaisse ou augmente la note d’une personne, le réseau neuronal ne divulgue pas les informations sur lesquelles se fonde cette décision. Si l’ordinateur dit que vous n’avez pas droit à un prêt, vous n’en obtiendrez pas – même si vous êtes une personne convenable avec un bon revenu.

Dans le langage des tests médicaux et de la sécurité informatique, cela s’appelle un « faux positif », comme quand une solution de sécurité signale qu’un fichier propre est infecté, ou qu’un test médical identifie par erreur une maladie dans l’échantillon d’un patient.

En ce qui concerne notre domaine favori, les antivirus, le niveau de faux positifs varie grandement d’un produit à l’autre. Certains produits donnent de faux verdicts plus souvent que la moyenne, et d’autres moins (nos solutions de sécurité sont celles qui donnent le moins de faux positifs). Ce que nous voulons dire, c’est qu’il est impossible d’éliminer la totalité des erreurs. Cependant, dans le cas de notations qui affectent les droits de l’Homme et des vies entières, le prix de ce genre d’erreurs peut être très élevé.

Outre les erreurs causées par des algorithmes imprécis ou des données imparfaites, les systèmes peuvent également être piratés intentionnellement. Nos experts ont identifié trois types d’attaques potentielles pour les notations sociales à niveau national.

1. Attaques des dispositifs de collecte de données

Pour évaluer avec précision la note d’une personne, le système a besoin de beaucoup d’informations à son sujet. Il reçoit des données non seulement des réseaux sociaux, mais aussi de plusieurs caméras et capteurs, qui font partie de l’Internet des Objets. Ces appareils sont souvent vulnérables et subissent des attaques à répétition. Rien que pendant la première moitié de l’année 2019, nous avons détecté 105 millions de tentatives de piratage.

2. Attaques des implémentations de logiciels

Pour vous attribuer une notation sociale, il ne suffit pas que le système recueille des informations sur vous, il doit aussi les traiter et les interpréter. Le mécanisme qui gère cela peut aussi être vulnérable, que ce soit aux tentatives d’infection par des logiciels malveillants et aux attaques non standard.

Par exemple, un agresseur peut porter des lunettes de couleur. Un être humain sera facilement capable de reconnaître la personne, mais une caméra intelligente peut la prendre pour quelqu’un d’autre. Dans ce cas, tout ce que l’agresseur a fait devant la caméra pourrait être attribué à une autre personne.

3. Attaques de la logique du système

Enfin, un pirate informatique peut identifier des actions qui, si elles sont répétées plusieurs fois, modifient la note au-delà de toute reconnaissance – que ce soit de manière positive ou négative. Par exemple, en exploitant les lacunes de la logique du système ; il peut être possible de renforcer sa propre note ou, à l’inverse, de saboter celle d’une victime potentielle.

Se préparer au monde des notations sociales

En résumé, les notations sociales peuvent ne pas être aussi justes et impartiales que nous le voudrions ou le supposons. Néanmoins, de tels systèmes sont déjà déployés dans certains domaines et prendront probablement encore plus d’importance au fil du temps. Même si vous ne pouvez pas vous protéger totalement de leurs défaillances, vous pouvez tenter de minimiser les risques.

• Réfléchissez à deux (ou trois) fois avant de publier des photos ambiguës de vous-même, ou d’autres informations potentiellement compromettantes sur les réseaux sociaux. Il est préférable de garder certaines choses privées, ou au moins, de ne pas les rendre accessibles au public.
• Protégez vos comptes afin que les cybercriminels ne puissent pas les pirater et les utiliser contre vous. Créez des mots de passe uniques et forts, activez l’authentification à deux facteurs, et ne saisissez pas vos identifiants de connexion sur des sites suspicieux.
• Protégez votre vie privée. Pour que la banque ne vous refuse pas un prêt parce qu’elle sait, par exemple, que vous recherchez un emploi, protégez-vous contre la collecte de données en ligne. Nous vous expliquons comment faire dans cet article.