in

Qu’est-ce que la «confidentialité différentielle» et comment garde-t-elle mes données anonymes?

Apple mise sur sa réputation en veillant à ce que les données qu’elle recueille auprès de vous restent privées. Comment? En utilisant quelque chose appelé «Confidentialité différentielle».

Qu’est-ce que la confidentialité différentielle?

Pomme l’explique comme tel:

Apple utilise la technologie de confidentialité différentielle pour aider à découvrir les modèles d’utilisation d’un grand nombre d’utilisateurs sans compromettre la confidentialité individuelle. Pour masquer l’identité d’un individu, la confidentialité différentielle ajoute du bruit mathématique à un petit échantillon du modèle d’utilisation de l’individu. Comme de plus en plus de personnes partagent le même modèle, des modèles généraux commencent à émerger, ce qui peut informer et améliorer l’expérience utilisateur.

La philosophie derrière la confidentialité différentielle est la suivante: tout utilisateur dont l’appareil, qu’il s’agisse d’un iPhone, d’un iPad ou d’un Mac, ajoute un calcul à un plus grand pool de données agrégées (une grande image formée de différentes images plus petites), ne devrait pas être révélé comme la source, sans parler des données qu’ils ont fournies.

Apple n’est pas la seule entreprise à faire cela non plus – Google et Microsoft l’utilisaient encore plus tôt. Mais Apple l’a popularisé en en parlant en détail à sa Keynote de la WWDC 2016.

Alors, en quoi est-ce différent des autres données anonymisées, demandez-vous? Eh bien, les données anonymisées peuvent toujours être utilisées pour déduire des informations personnelles si vous en savez suffisamment sur une personne.

Disons qu’un pirate informatique peut accéder à une base de données anonyme qui révèle la paie d’une entreprise. Disons qu’ils savent également que l’employé X déménage dans une autre zone. Le pirate informatique pourrait alors simplement interroger la base de données avant et après le déplacement de l’employé X et en déduire facilement ses revenus.

Afin de protéger les informations sensibles de l’employé X, la confidentialité différentielle modifie les données avec du «bruit» mathématique et d’autres techniques de sorte que si vous interrogez la base de données, vous ne recevrez qu’un montant (ou quelqu’un d’autre) payé par l’employé X.

Par conséquent, sa vie privée est préservée en raison de la «différence» entre les données fournies et le bruit qui y est ajouté, il est donc suffisamment vague pour qu’il soit pratiquement impossible de savoir si les données que vous regardez sont réellement celles d’un individu particulier.

Comment fonctionne la confidentialité différentielle d’Apple?

La confidentialité différentielle est un concept relativement nouveau, mais l’idée est qu’elle peut donner à une entreprise des informations pertinentes basées sur les données de ses utilisateurs, sans savoir ce que ces données disent ou d’où elles proviennent.

Apple, par exemple, s’appuie sur trois composants pour faire fonctionner sa vision de la confidentialité différentielle sur votre appareil Mac ou iOS: le hachage, le sous-échantillonnage et l’injection de bruit.

Le hachage prend une chaîne de texte et la transforme en une valeur plus courte avec une longueur fixe et mélange ces clés en chaînes irréversiblement aléatoires de caractères uniques ou «hash». Cela obscurcit vos données afin que l’appareil ne les stocke pas dans sa forme d’origine.

Le sous-échantillonnage signifie qu’au lieu de collecter chaque mot saisi par une personne, Apple n’en utilisera qu’un plus petit échantillon. Par exemple, disons que vous avez une longue conversation textuelle avec un ami en utilisant généreusement des emoji. Au lieu de collecter toute cette conversation, le sous-échantillonnage pourrait utiliser uniquement les parties qui intéressent Apple, telles que les emoji.

Enfin, votre appareil injecte du bruit, ajoutant des données aléatoires dans l’ensemble de données d’origine afin de le rendre plus vague. Cela signifie qu’Apple obtient un résultat qui a été légèrement masqué et qui n’est donc pas tout à fait exact.

Tout cela se produit sur votre appareil, il a donc déjà été raccourci, mélangé, échantillonné et flouté avant même d’être envoyé dans le cloud pour qu’Apple analyse.

Où la confidentialité différentielle d’Apple est-elle utilisée?

Il existe une variété de cas où Apple souhaite collecter des données pour améliorer ses applications et ses services. Pour le moment, cependant, Apple n’utilise la confidentialité différentielle que dans quatre domaines spécifiques.

  • Quand suffisamment de personnes remplacent un mot par un emoji particulier, cela deviendra une suggestion pour tout le monde.
  • Lorsque de nouveaux mots sont ajoutés à suffisamment de dictionnaires locaux pour être considérés comme banals, Apple l’ajoutera également au dictionnaire de tous les autres.
  • Vous pouvez utiliser un terme de recherche dans Spotlight, puis il fournira des suggestions d’application et ouvrira ce lien dans ladite application ou vous permettra de l’installer à partir de l’App Store. Par exemple, disons que vous recherchez «Star Trek», qui suggère l’application IMDB. Plus les gens ouvrent ou installent l’application IMDB, plus elle apparaîtra dans les résultats de recherche de tout le monde.
  • Il fournira des résultats plus précis pour les conseils de recherche dans les notes. Par exemple, supposons que vous ayez une note contenant le mot «pomme». Vous effectuez une recherche et vous obtenez des résultats non seulement pour la définition du dictionnaire, mais également pour le site Web d’Apple, les emplacements des Apple Store, etc. Vraisemblablement, plus les gens tapotent sur certains résultats, plus ils apparaîtront dans la recherche pour tous les autres et plus souvent.

Prenons les emojis comme exemple. Dans iOS 10, Apple introduit une nouvelle fonctionnalité de remplacement des emojis sur iMessage. Tapez le mot «amour» et vous pouvez le remplacer par un emoji en forme de cœur. tapez le mot «chien» et, vous l’avez deviné, vous pouvez le remplacer par un emoji de chien.

De même, il est possible pour votre iPhone de prédire quel emoji vous voulez de telle sorte que, si vous tapez un message «Je vais promener le chien», votre iPhone suggérera utilement l’emoji de chien.

Ainsi, Apple prend tous ces petits morceaux de données iMessage qu’il collecte, les examine dans leur ensemble et peut déduire des modèles de ce que les gens tapent et dans quel contexte. Cela signifie que votre iPhone peut vous offrir des choix plus intelligents, car il bénéficie de toutes ces conversations textuelles que d’autres créent et pensent: « C’est probablement l’emoji que vous voulez. »

Il faut un village (d’Emoji)

L’inconvénient de la confidentialité différentielle est qu’elle ne fournit pas de résultats précis dans de petits échantillons. Son pouvoir réside dans le fait de rendre des données spécifiques vagues afin qu’elles ne puissent être attribuées à aucun utilisateur. Pour que cela fonctionne et fonctionne correctement, de nombreux utilisateurs doivent participer.

C’est un peu comme regarder une photo bitmap de très près. Vous ne pourrez pas voir ce que c’est si vous ne regardez que quelques bits, mais en prenant du recul et en regardant le tout, l’image devient plus claire et plus définie, même si elle n’est pas très haute résolution.

Ainsi, afin d’améliorer le remplacement et la prédiction des emojis (entre autres), Apple doit collecter des données iPhone et Mac du monde entier pour lui donner une image de plus en plus claire de ce que font les gens et ainsi améliorer ses applications et services. Il se tourne vers toutes ces données aléatoires, bruyantes et issues du crowdsourcing, et les exploite à la recherche de modèles, tels que le nombre d’utilisateurs qui utilisent l’emoji pêche à la place de « bout ».

Ainsi, la puissance de la confidentialité différentielle repose sur la capacité d’Apple d’examiner de grandes quantités de données agrégées, tout en s’assurant qu’il n’est pas plus sage de savoir qui leur envoie ces données.

Comment désactiver la confidentialité différentielle dans iOS et macOS

Si vous n’êtes toujours pas convaincu que la confidentialité différentielle vous convient, vous avez de la chance. Vous pouvez vous désinscrire directement dans les paramètres de votre appareil.

Sur votre appareil iOS, appuyez sur « Paramètres » puis sur « Confidentialité ».

Sur l’écran Confidentialité, appuyez sur «Diagnostics et utilisation».

Enfin, sur l’écran Diagnostics et utilisation, appuyez sur «Ne pas envoyer».

Sous macOS, ouvrez les Préférences Système et cliquez sur «Sécurité et confidentialité».

Dans les préférences Sécurité et confidentialité, cliquez sur l’onglet «Confidentialité», puis assurez-vous que «Envoyer les données de diagnostic et d’utilisation à Apple» n’est pas coché. Notez que vous devrez cliquer sur l’icône de verrouillage dans le coin inférieur gauche et entrer votre mot de passe système avant de pouvoir effectuer cette modification.

Évidemment, il y a beaucoup plus à la confidentialité différentielle, à la fois en théorie et en application, que cette explication simplifiée. La viande et les pommes de terre dépendent fortement de mathématiques sérieuses et, en tant que telles, elles peuvent devenir assez lourdes et compliquées.

Espérons cependant que cela vous donne une idée de son fonctionnement et que vous vous sentez plus confiant quant aux entreprises collectant certaines données sans craindre d’être identifiées.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Comment utiliser la commande grep sous Linux

Comment utiliser la commande grep sous Linux

Xbox Series X vs Xbox Series S: que devriez-vous acheter?

Xbox Series X vs Xbox Series S: que devriez-vous acheter?