La vie privée est-elle morte? | Financial Times

Il y a quelques années, un informaticien du nom de Chris Carson en a pris conscience. Bientôt, les rues seraient remplies de voitures autonomes, utilisant des caméras de haute qualité pour naviguer. Et si ces caméras pouvaient également être formées à reconnaître les plaques d'immatriculation et à détecter les infractions au code de la route? Ce serait comme avoir un policier de la circulation hyper efficace à chaque coin de rue.

«Nous continuons à intercepter des personnes pour des infractions au code de la route et à leur écrire des contraventions», explique Carson. "C'est tellement il y a 20 ans."

La jeune entreprise de Carson, Hayden AI, tente maintenant de créer un réseau de yeux qui n’est plus un réseau de vidéosurveillance, suralimenté par les réseaux mobiles 5G et l’intelligence artificielle. Les images peuvent provenir de presque n'importe où: les chauffeurs de taxi peuvent placer un smartphone sur leurs tableaux de bord; si le métrage donnait à un autre automobiliste une amende de stationnement, le chauffeur de taxi pouvait recevoir une part du produit.

«C’est l’idée – mettre le plus d’œil possible sur la route», se réjouit Carson. "Je pense que cela va créer un changement radical de comportement dans le comportement." Une fois que ce réseau sans précédent de caméras intelligentes existe, il n’ya aucune raison pour qu’il cesse d’identifier les violations de la circulation. Le film pourrait aider à résoudre n'importe quel crime, informer la planification de la ville et la publicité ciblée.

Il n’est pas nécessaire d’être luddite pour sentir que quelque chose de fondamental est en train de changer dans l’expérience humaine. Nous devenons des entités connues. Ce n'est pas simplement que l'information est collectée sur nous; Ces informations sont désormais souvent des fichiers audio et vidéo de haute qualité, qui permettent d'identifier précisément chacun de nos mouvements.

Aux États-Unis, les forces de police ont sonné les sonnettes intelligentes d’Amazon, qui filment la rue environnante. Une partie de la séquence est ensuite diffusée sur une application, Neighbours. La période des enquêteurs privés assis dans des voitures pourrait être révolue: ils peuvent désormais garer la voiture avec une caméra sur le tableau de bord et regarder les images de leur salon.

Pendant ce temps, les employeurs peuvent suivre nos habitudes de sommeil, les détaillants peuvent nous suivre dans les allées, les fournisseurs de pièces automobiles nous disent qu’ils peuvent identifier les émotions des conducteurs. Les données résultantes forment des algorithmes complexes, qui nous poussent ensuite vers certains comportements. «Nous passons de l'ère numérique à l'ère de la prévision», a déclaré Pam Dixon, directrice du World Privacy Forum, un groupe de réflexion.

Votre smartphone aspire à savoir ce que vous voulez avant de le faire. J'ai récemment rencontré un entrepreneur en technologie qui ne comprenait pas pourquoi Google Maps lui suggérait de se rendre à un certain endroit. Puis il réalisa qu'il était temps de se couper les cheveux toutes les six semaines. Au moins ce n'était qu'une suggestion.

Comment traitons-nous avec ce nouveau monde? En 2010, lorsqu'il était directeur général de Google, Eric Schmidt a déclaré que la politique de la société était de "se mettre à la pointe de la panique et de ne pas la franchir". Il a ajouté que les implants cérébraux étaient au-delà de la ligne terrifiante «du moins pour le moment, jusqu'à ce que la technologie s'améliore». Il reste l’un des meilleurs résumés de la manière dont nous traitons les technologies: la ligne de chair de poule existe, la ligne de peau de chair se déplace.

Il y a vingt ans, si un supermarché avait demandé à installer un microphone dans nos maisons, ou un propriétaire avait demandé à installer une caméra, ou si une compagnie de train nous avait demandé où nous étions dans la gare, nous aurions dit non. Maintenant, nous achetons Amazon Alexas, louons Airbnbs et utilisons le WiFi gratuit de London Underground. Et puis on croise les doigts. Amazon et Google reconnaissent désormais que chaque employé écoute certains enregistrements à partir de ses haut-parleurs intelligents. Facebook affirme que ses utilisateurs ne s'attendent pas à la confidentialité de leurs publications.

Cela a mis en place une confrontation. D'un côté, il y a ceux qui essaient de transformer la ligne effrayante en une tranchée infranchissable. En mai, la ville de San Francisco a interdit à la police d’utiliser un logiciel de reconnaissance faciale, destinée à étouffer la technologie dans l’œuf. Ce mois-ci, un nouveau service de messagerie appelé Superhuman a désactivé la possibilité pour les utilisateurs de savoir où et quand un destinataire avait ouvert leur message, à la suite du tollé en ligne.

De l’autre côté, il ya ceux qui ont l’intention de repousser la ligne effrayante en habituant les gens aux nouvelles technologies. Cela inclut Carson, l'informaticien qui planifie un réseau de surveillance. «Si nous pouvons vivre dans une société où vous pouvez marcher en toute sécurité dans une ruelle, je pense que cette ligne effrayante disparaît», dit-il. Pendant ce temps, Google a appris la leçon de Google Glass, la caméra portable lancée en 2013 qui a été rejetée par les citoyens. Il introduit la reconnaissance faciale de manière délibérément timide – comme moyen rapide de se connecter à son assistant à domicile.

Historiquement, on pouvait s'attendre à la confidentialité dans une boîte téléphonique ou chez un médecin. Mais quel genre de vie privée pouvez-vous attendre d'un opérateur de téléphonie mobile ou d'une montre de sport? Nous ne savons pas assez pour avoir des attentes.

En 1998, alors que Google était basé Dans un garage et où Kodak dominait toujours le marché des appareils photo, l'écrivain de science-fiction David Brin a prédit la fin de la vie privée telle que nous la connaissions. Brin a fait valoir que les caméras et les capteurs devenaient tellement bon marché qu'ils deviendraient inévitablement omniprésents.

Les actions des personnes seraient enregistrées et leurs déclarations de revenus publiées. Mais cela, a déclaré Brin, créerait une nouvelle forme de vie privée. Une «surveillance mutuellement assurée» ferait en sorte que les gens ne se conduisent pas mal, que chaque citoyen soit laissé seul. Il n'y aurait plus de chauffeurs de hit-and-run ou de corruption politique.

«C’était amusant de vivre dans les rues de la ville au milieu d’innombrables êtres inconnus», écrit Brin dans son livre. La société transparente. "C'était aussi une solitude." L'anonymat n'était qu'une phase de l'existence humaine, dont la fin était désormais inévitable. Après tout, qu'aurait voulu dire l'anonymat pour un habitant des cavernes? Quelle intimité les adolescents victoriens avaient-ils de leurs parents?

Brin pense que sa vision est en train de devenir réalité – que "des pouvoirs divins de vision et de surveillance presque omniscient" se répandent. Cela ne se limite pas aux puissants. La faute professionnelle de la police est maintenant filmée. Aux États-Unis, des sites Web sur l’histoire de la famille, sur lesquels des millions de personnes ont soumis des échantillons d’ADN par curiosité, sont utilisés pour identifier les suspects (les premières poursuites judiciaires ayant abouti ont eu lieu dans l’État de Washington le mois dernier).

Il existe également un autre argument selon lequel la surveillance est inévitable. En Chine, la surveillance devient omniprésente et des algorithmes notent les citoyens sur leur comportement. Si l’Ouest promulgue des lois sur la protection de la vie privée, il disposera de moins de données – une matière première essentielle pour l’intelligence artificielle – et se mettra donc en désavantage concurrentiel. Les démocraties devront collecter des données afin de se protéger contre les cyberattaques, tel est le cas.

Le responsable de l’association du personnel de la police métropolitaine a récemment qualifié l’utilisation de la reconnaissance faciale en Chine «absolument correcte». Pour la plupart d'entre nous, cependant, une transparence totale ou une surveillance serait une dystopie. Nous craignons les atteintes à la sécurité des données, le vol d’identité et simplement l’embarras des vieilles photos en ligne, mais il nous faut souvent une expérience amère pour agir. «La protection de la vie privée est un problème de recul – vous regardez en arrière et vous voyez ce qui s’est passé», explique Jason Schultz, professeur de droit à l’Université de New York.

Vous devriez toujours avoir le contrôle de ce que vous partagez et avec qui vous le partagez.

Cela n'aide pas que la vie privée soit un concept abstrait glissant. Cela n’a pas été mentionné explicitement dans la constitution des États-Unis ni dans le droit anglais il ya quelques décennies. Son essence est qu’il est contextuel: nous voulons certaines informations limitées à certaines personnes. Avez-vous déjà remarqué à quel point il est facile de partager un secret avec un inconnu, qui ne pourra jamais le relier à aucune autre information vous concernant? La protection de la vie privée concerne aussi souvent le pouvoir: moins les autres connaissances sur vous sont connues, moins ils peuvent facilement s’immiscer dans votre vie. Une transparence totale ne satisferait aucun de ces critères.

Les grandes entreprises technologiques ont différentes approches pour répondre à nos préoccupations. Premièrement, ils peuvent créer une certaine confidentialité: Apple, un pionnier, bloque certains services de suivi en ligne (son directeur général, Tim Cook, a déclaré l'année dernière que «les stocks de données à caractère personnel ne servent qu'à enrichir les entreprises qui les collectent»). Facebook, un retardataire en matière de protection de la vie privée, prédit désormais que les «principaux moyens» par lesquels les gens communiqueront sur sa plate-forme seront via des services de messagerie cryptés, Messenger et WhatsApp.

Deuxièmement, les entreprises de technologie proposent de nous mettre en contrôle. Google et Apple offrent désormais plus d'options pour masquer notre emplacement, par exemple. En mai, lors d’une journée sans nuages ​​dans la Silicon Valley, j’ai écouté l’un des responsables de Google noter la quantité d’informations personnelles stockées sur nos téléphones. «Vous devriez toujours avoir le contrôle de ce que vous partagez et avec qui vous le partagez», a-t-elle déclaré. Facebook promet que les informations des utilisateurs «ne seront vues que par ceux qu’ils veulent voir». En d’autres termes, nous pouvons maintenant choisir où placer la ligne lugubre.

La troisième manière dont les entreprises de technologie nous offrent la confidentialité consiste à protéger et à rendre anonyme nos données. Google saura que vous avez recherché des remèdes contre la gonorrhée et que vous êtes allé au cinéma un jour de maladie, mais personne d'autre ne le fera. De même, que se passe-t-il si un employé d'Amazon que vous ne rencontrez jamais écoute un enregistrement de votre vie domestique? Le risque que des données anonymisées soient retracées jusqu'à des personnes ne peut jamais être éliminé – en particulier parce que de nouveaux ensembles de données pourraient être disponibles et peuvent être comparés -, mais ils peuvent être réduits au minimum.

Il y a cependant des défauts notables dans cette vision. Facebook et Google doivent continuer à nous suivre, car c'est sur cela que repose leur activité de publicité. Ils peuvent donner leur consentement sans offrir de vrais choix. Aujourd'hui, moins de 10% des utilisateurs de Google, probablement plus de 1%, modifient leurs paramètres de confidentialité. Avec les services de nombreuses entreprises, vous pouvez soit vous inscrire à une déclaration rapide, soit vous ne pouvez pas utiliser le service du tout. Presque tout le temps, nous ne savons pas ce que signifie cliquer sur «accepter».

"Quand vous consultez votre médecin, ils ne disent pas simplement que je peux effectuer tout type d'opération chirurgicale si vous signez ce formulaire", a déclaré Schultz de l'Université de New York. Dans le monde actuel, nous sommes comme des patients drogués, qui se soumettent à une anesthésie générale, sachant que leur corps sera utilisé pour la recherche médicale tant que nous serons inconscients.

À l'avenir, les individus pourraient recevoir plus de détails sur l'utilisation de leurs données; une option permettant de refuser aux applications l'accès aux informations clés tout en utilisant le service; et des moyens plus faciles d'effacer leurs données après coup.

Mais peut-être devrions-nous aller plus loin encore et dire que même le consentement éclairé ne garantit pas la vie privée. Les gouvernements ne nous permettent pas d’économiser de l’argent en achetant une voiture sans ceinture de sécurité ou de gagner de l’argent en vendant nos organes. La vie privée appartient-elle à la même catégorie que la sécurité ou l'éthique médicale? Si un certain degré de protection de la vie privée est un droit – une partie essentielle de la condition humaine, plutôt qu'une marchandise -, nous ne devrions pas être en mesure de l'échanger. «C’est un problème classique de protection des consommateurs», a déclaré Viktor Mayer-Schönberger, professeur à l’Internet Institute de l’Université d’Oxford.

Le principe d'agence individuelle – la promesse de Google selon laquelle "Vous devez toujours garder le contrôle" – comporte d'autres limitations. Comment s’applique-t-il à la surveillance dans les lieux publics: reconnaissance faciale par la police ou même par les voitures intelligentes d’autres personnes? Vous ne pouvez pas signer de formulaire chaque fois que vous quittez la maison. Et même si, en tant qu’individus, nous choisissons de ne pas participer, notre comportement peut être déduit de l’énorme base de données sur le comportement des autres.

C’est la nouvelle frontière: pour protéger notre propre confidentialité contre des algorithmes intrusifs, il peut être nécessaire de bloquer la collecte des données d’autres personnes et donc de ralentir les services qu’elles pourraient juger utiles. Comment trouvons-nous l'équilibre?

Quayside est un quatre hectares, ancien secteur industriel du secteur riverain de l’est de Toronto. L’une des sociétés sœurs de Google veut en faire le «district le plus innovant au monde».

Dans une proposition publiée le mois dernier, Sidewalk Labs a présenté une vision de l'avenir. Comme toujours avec les rêves de la Silicon Valley, il y a quelque chose à aimer. Les bâtiments seraient presque tous en bois; ils pourraient transformer les déchets alimentaires en énergie; les émissions de gaz à effet de serre seraient à peine un dixième de la moyenne actuelle de la ville.

Les données sont au cœur de la vision de Sidewalk Labs. Les capteurs collecteraient des informations dans les bâtiments et ajusteraient les paramètres. Les thermostats peuvent être ajustés automatiquement. Les marques de rue pourraient fluctuer, donnant plus de place aux piétons à certains moments de la journée et davantage aux voitures à d'autres moments. Les données seraient rendues accessibles au public pour d'autres biens publics – pas la publicité. La vie des gens serait suivie, mesurée et «optimisée». Et comme dans un roman de Kafka ou l'émission de télévision Miroir noir, les résidents peuvent se sentir sujets à des processus opaques hors de leur contrôle direct.

Tout le monde veut des données personnellement identifiables, c’est le trésor

De nombreux services échangent une intrusion marginale contre un avantage marginal (une application de commande de repas m'a récemment demandé une photo pour faciliter la collecte de ma commande). Sidewalk Labs promet une intrusion importante pour un bénéfice significatif. En tant que tel, il est comparable aux services de santé qui veulent avoir accès à des données sensibles, en échange d’une aide à la recherche d’une maladie grave.

Le destin de Sidewalk Toronto est intéressant, car c’est un exemple rare où des entreprises de technologie ont dû soumettre leur innovation au préalable à une inspection. Les critiques se sont concentrées sur la manière dont les données de Quayside seront traitées. Un trust, proposé par Sidewalk Labs, recommande que toutes les données collectées soient désidentifiées. Mais il n’y insisterait pas.

«Dès qu'ils ont dit cela, j'ai su que je devais démissionner», déclare Ann Cavoukian, ancienne commissaire à la protection de la vie privée de l'Ontario, conseillère de la société l'an dernier. «À la minute où vous le faites volontairement, vous n’aurez plus aucune intimité. Tout le monde veut des données personnellement identifiables, c’est le trésor. »

Cavoukian le compare à la surveillance en Chine et à Dubaï. "Pas du tout, ce n’est pas la direction que nous prenons ici à Toronto." Elle ajoute que des problèmes de confidentialité pourraient encore amener le Waterfront Toronto, l’agence de développement, à tout annuler. "Ce n'est pas une affaire faite", dit-elle.

Waterfront Toronto et ses citoyens sont toutefois confrontés à une décision presque impossible: évaluer les avantages imprévisibles par rapport aux avantages imprévisibles. Qui sait à quel point la collecte de données massive, mais probablement anonymisée, affectera Toronto? Qui savait comment YouTube, Facebook et Twitter affecterait le monde?

En tout état de cause, personne ne pense sérieusement que les sociétés de technologie disposeront de moins de données sur nous dans 10 ans qu'aujourd'hui. Nous pouvons interdire l'utilisation de la reconnaissance faciale par la police, mais la technologie risque de se répandre ailleurs, tout comme la reconnaissance de la démarche, le balayage de l'iris et la biométrie. Woodrow Hartzog, spécialiste de la protection de la vie privée, affirme qu'il est utile de simplifier simplement la collecte de données et de générer des coûts de transaction. Mais les parents utilisent des caméras pour regarder leurs enfants, les propriétaires les utilisent pour regarder leurs portes; le passage de la commodité à la surveillance est facile.

Lorsque la réglementation s'est concentrée sur des domaines particuliers, comme dans le cas d'une loi de l'Illinois sur la biométrie, elle s'est révélée efficace. Les informations peuvent être la nouvelle huile, mais pour certaines start-up, elle est également connue sous le nom de «nouvelle Kryptonite», en raison des amendes imposées pour violation de données.

Les politiciens aiment parler de législation «complète» en matière de protection de la vie privée. Pourtant, la vie privée est tellement contextuelle que chaque secteur a besoin de normes différentes, affirme Dixon du World Privacy Forum. L'Institut AI Now, un groupe de réflexion travaillant sur la prise en compte des algorithmes, soutient que différentes instances devraient être mises en place et dotées d'une expertise dans différents secteurs: santé, éducation, protection sociale, etc.

Il n'y a pas une ligne effrayante, il y en a des centaines. «Vous devez toujours contrôler ce que vous partagez et avec qui, vous le partagez», déclare Google. Mais après près de deux décennies dans l’économie de données, nous avons appris que la meilleure façon de tracer ces lignes inquiétantes n’est pas celle des individus qui se précipitent dans les formulaires de consentement en ligne, mais celle des communautés dotées du pouvoir du nombre. Depuis 20 ans, les entreprises de technologie supposent avoir le droit de violer notre vie privée. nous devrions maintenant leur demander de se justifier en premier.

Henry Mance est le principal scénariste de FT.

Quelles formes de surveillance trouveriez-vous inacceptables? Partagez vos pensées ci-dessous. Nous chercherons à publier une sélection des meilleurs sur FT.com

Suivre @FTLifeArts sur Twitter pour découvrir d’abord nos dernières nouvelles. Écoutez et abonnez-vous à Everything Else, le podcast de la culture FT, sur ft.com/everything-else ou sur les podcasts Apple.