Navigation – Plan du site
Chroniques

Société de l’information

Traitement algorithmique des activités humaines : le sempiternel face-à-face homme/machine
Céline Castets-Renard
p. 239-255

Texte intégral

  • 1 A. Rouvroy, La « digitalisation de la vie même » : enjeux épistémologiques et politiques de la mémo (...)
  • 2 E. Scherer, Logiciels, algorithmes, robots : journalisme sous influence, http://meta-media.fr/2014/ (...)
  • 3 Il ne s’agit pas ici uniquement des données personnelles car la notion telle que définie par la loi (...)
  • 4 Voir Cahiers Droit, Sciences et technologies, Dossier Statistiques et normes : croiser les regards (...)
  • 5 A. Supiot, La gouvernance par les nombres, Cours au Collège de France (2012-2014), Fayard, coll. Po (...)
  • 6 Créé par la loi no 2013-660 du 22 juillet 2013 relative à l’enseignement supérieur et à la recherch (...)
  • 7 Voir D. Pontille et D. Torny, La manufacture de l’évaluation scientifique : algorithmes, jeux de do (...)
  • 8 D. Cardon, Dans l’esprit du PageRank. Une enquête sur l’algorithme de Google, in Politique des algo (...)
  • 9 A. Supiot, La gouvernance par les nombres, op. cit., spéc. p. 23.
  • 10 A. Supiot, La gouvernance par les nombres, op. cit., spéc. p. 23.
  • 11 Pour un exemple récent, voir les débats autour de la construction de l’aéroport de Notre Dame des L (...)

1La gouvernance par les nombres. – Dans notre monde hyperconnecté, toutes les informations, données, traces de nos vies, comportements, habitudes, opinions, sont enregistrées, stockées, compilées, triées, croisées, réutilisées et surtout chiffrées. Ce phénomène de « digitalisation de la vie »1 ou « datafication des individus »2 s’inscrit dans le contexte du big data, traitement massif d’informations mises en nombre, pour prendre la forme de données3. Les hommes ont toujours été friands de chiffres, pour ne pas dire fétichistes, comme en témoigne leur attirance pour les statistiques, la probabilité4. Mais le chiffre fait la norme lorsque cette dernière est directement issue de comparaison, calcul d’efficacité, d’utilité. D’aucuns évoquent alors une « gouvernance par les nombres »5. Il n’est qu’à penser à la place laissée à l’évaluation des établissements d’enseignement supérieur et de recherche par l’AERES puis par le HCERES6 ou encore à l’usage massif des outils bibliométriques7 pour s’en convaincre. Sans parler de l’incontournable PageRank de Google8 qui organise l’accès à l’information sur l’internet. La loi elle-même est comparée, « produit législatif en compétition sur un marché mondial des normes »9, comme n’importe quel autre produit de marché. Selon Alain Supiot, « le renversement du règne de la loi au profit de la gouvernance par les normes s’inscrit dans l’histoire longue du rêve de l’harmonie par le calcul, dont le dernier avatar – la révolution numérique – domine l’imaginaire contemporain. Cet imaginaire cybernétique conduit à penser la normativité non plus en termes de législation mais en termes de programmation »10. Il faut dire que la force du chiffre est remarquable. On lui accorde toutes les vertus : la neutralité, l’objectivité, l’exhaustivité. Un résultat chiffré ne saurait mentir ni être faussé et devient, dès lors, difficilement contestable. Pourtant, les exemples de tricherie et autres résultats biaisés sont nombreux11.

  • 12 A. Rouvroy, Des données et des hommes, Droits et libertés fondamentaux dans un monde de données mas (...)
  • 13 E. Morozov, Le mirage numérique : pour une politique du big data, Les prairies ordinaires, 2015, p. (...)

2La quantification par le big data. – L’ère du numérique et le big data parachèvent cette toute-puissance du nombre. Plus encore, on constate un changement d’échelle du rôle joué par le chiffrage, en raison de l’ampleur de la quantification (volume, vélocité, variété, vitesse, véracité des données). Même les données anonymes à très faible densité d’information, dites données triviales ou a-signifiantes, gagnent en utilité lorsque leur quantité croît12. Le « big » data a pour caractéristique non seulement de tout quantifier mais aussi de stocker et conserver des données qui ne sont a priori plus utiles ou dont on ignore l’utilité future, laquelle se dévoilera ultérieurement à la faveur de corrélations postérieures de données décontextualisées. L’humain perd le sens, la machine se préoccupant de « faire parler » des informations, à l’origine éclatées et non reliées. Toutes les données sont utilisées, qu’il s’agisse de simples traces triviales (soft data) ou au contraire d’informations directes et précises sur les individus (hard data), en passant par les activités de connexion sur l’internet (métadonnées). Ce phénomène s’amplifie encore par l’arrivée massive des objets connectés de toutes sortes. Une « smartification »13 de la vie quotidienne est en marche, par laquelle un nombre colossal de nouvelles données va encore être collectées. Elles ne se limiteront pas à rendre compte de l’activité des objets et concerneront aussi les individus eux-mêmes, directement (telles les pulsations cardiaques des montres connectées) ou indirectement (informations des compteurs électriques connectés par exemple). La distinction personnes/biens est ici bousculée et la législation sur la protection des données personnelles a naturellement vocation pour protéger l’usager de ces objets.

3Le traitement algorithmique des données. – Au-delà de la masse d’informations, leur traitement algorithmique doit nous interroger. Un algorithme est une suite finie et non ambiguë d’opérations ou d’instructions permettant de résoudre un problème ou d’obtenir un résultat donné14. Il est une méthode générale pour résoudre un ensemble de problèmes. On retrouve aujourd’hui des algorithmes dans de nombreuses applications, telles que le fonctionnement des ordinateurs, la cryptographie, le routage d’informations, la planification et l’utilisation optimale des ressources, le traitement d’images, le traitement de texte, la bio-informatique, etc.15 Un algorithme va donc résoudre un problème particulier dont on est sûr qu’il trouve toujours une réponse en un temps d’exécution fini16. Les procédés algorithmiques (data mining ou fouilles de données, machine learning, Social Network Analysis, Predictive Analytics, Natural Language Processing, Visualization) permettent de trier ou de mettre en corrélation statistique des données, dans le but d’agréger des informations sur les individus et de les profiler selon des structures de comportement. Dès lors, on peut se réjouir de la puissance de calcul des algorithmes, en pensant aux améliorations qu’ils peuvent procurer à l’homme pour une objectivation et optimisation des décisions « dans une multitude de secteurs : sécurité et prévention du terrorisme, optimisation et distribution de la présence policière, soins de santé, politiques énergétiques, gestion du trafic et optimisation des transports en commun, prévention des fraudes, marketing […] »17. Sur internet, les algorithmes classent ainsi les informations, font des recommandations (par exemple d’objets à acheter ou de livres à lire) ou encore mettent en contact les personnes entre elles. Mais si les avantages des traitements algorithmiques sont incontestables, les risques qu’ils génèrent sont loin d’être négligeables et doivent être clairement identifiés (I) pour s’interroger sur la réponse donnée par le droit. Elle s’avère à l’heure actuelle insuffisante (II).

I. Les risques inhérents à une gouvernementalité algorithmique

4La puissance des algorithmes engendre des risques (A) de nature à donner naissance à une gouvernementalité algorithmique (B).

A. Les risques générés par les traitements algorithmiques

  • 18 https://fr.wikipedia.org/wiki/Algorithme. Consulté le 9 février 2016.
  • 19 D. Cardon, À quoi rêvent les algorithmes ?, op. cit., p. 83.
  • 20 A. Rouvroy et Th. Berns, Gouvernementalité algorithmique et perspectives d’émancipation : le dispar (...)

5La fausse neutralité et objectivité des algorithmes. – Un algorithme est une méthode générale pour résoudre un ensemble de problèmes. Il est dit correct lorsque, pour chaque instance du problème, il se termine en produisant la bonne sortie, c’est-à-dire s’il résout le problème posé. On mesure son efficacité notamment par sa durée de calcul, par sa consommation de mémoire RAM (en partant du principe que chaque instruction a un temps d’exécution constant), par la précision des résultats obtenus18. Autrement dit, l’algorithme poursuivra la finalité qui lui aura été donnée. Ainsi, « les mesures fixent des règles pour calculer les événements qu’elles enregistrent »19. La méthode retenue sera la plus performante possible au regard de l’objectif donné et ne saurait donc être neutre ou objective en soi puisque tout dépendra précisément de l’objectif fixé. Au demeurant, l’algorithme fait des calculs à partir des données collectées, sans aucune vérification de leur véracité, exactitude, pertinence, adéquation au regard du but recherché. Bien au contraire, les données sont décontextualisées, « nettoyées », afin d’être rendues le plus « brut » possible20. Mises en corrélation, l’ensemble de ces traces est-il capable de faire sens ? Par ailleurs, contrairement à la statistique, les procédés utilisés font émerger a posterori les corrélations et catégorisations et non a priori. Au final, le responsable du traitement des données lui-même ne sait pas comment la recherche est menée et par quelle méthode le profilage a été réalisé. Il perd prise sur les résultats et leur contrôle. Seul l’objectif poursuivi est connu sans qu’un cadre et les étapes du raisonnement soient fixés à l’avance.

  • 21 J. Burrell, How the machine ‘thinks’ : understanding opacity in machine learning algorithms, Big Da (...)
  • 22 D. Cardon, À quoi rêvent les algorithmes ? : nos vies à l’heure des big data, Seuil, coll. La Répub (...)
  • 23 F. Pasquale, The black box society, op. cit., spéc. p. 3 : « knowledge is power […] Firms seek out (...)
  • 24 A. Rouvroy, Des données et des hommes, op. cit. : Or l’une des « valeurs ajoutées » du droit fondam (...)
  • 25 J. Burrell, op. cit. : « when a computer learns and consequently buids its own representation of a (...)

6L’opacité des traitements algorithmiques. – Les méthodes algorithmiques utilisées sont opaques, si bien que le profilage en résultant peut être source d’abus et de discriminations. Trois formes d’opacité ont ainsi été identifiées21 : l’opacité liée à une volonté commerciale ou à un secret d’État ; l’opacité comme un analphabétisme technique ; l’opacité provenant des caractéristiques des algorithmes d’apprentissage automatique. Pire encore, la compréhension des techniques de traitement des données étant peu accessible au citoyen moyen, ce dernier ignore la plupart du temps qu’il fait l’objet d’un profilage et ses effets. En effet, « le fonctionnement des algorithmes est un secret bien gardé »22 et le « pouvoir du secret »23 risque de s’exercer au détriment des citoyens. Le défaut de transparence engendre une asymétrie d’information et donc une asymétrie de pouvoir des individus, « sujets » des traitements algorithmiques24. Quatre niveaux d’ignorance mettent ces derniers en situation de vulnérabilité. Un premier niveau d’ignorance touche d’abord à la nature des données. Quelles informations sont-elles collectées ? Le sont-elles directement ou par l’intermédiaire de liens sociaux ? Le sont-elles à partir de métadonnées, de traces laissées, consciemment ou non ? Un deuxième niveau d’ignorance porte ensuite sur le point de savoir quels traitements algorithmiques sont mis en œuvre, afin d’agréger et nettoyer des données éparses, néanmoins corrélées, en vue de fournir de l’information décontextualisée dans le temps et l’espace. Comment les croisements de données sont-ils effectués ? Quelles informations sont-elles rapprochées pour donner du sens ? Un troisième niveau d’ignorance touche aux algorithmes eux-mêmes, définis comme des méthodes pour résoudre un problème donné. Quel problème s’agit-il de résoudre lorsqu’un traitement algorithmique est lancé ? Quelles instructions sont-elles données ? Pour quoi faire ? Quelles finalités doivent-elles être atteintes ? Cette commande est inconnue des personnes dont les informations sont collectées. Enfin, un quatrième niveau d’ignorance porte sur la méthode elle-même de l’algorithme qui échappe à la connaissance des individus mais aussi à la rationalité. Les procédés mis en œuvre peuvent-être des procédés d’intelligence artificielle dont les modes de fonctionnement sont différents de l’intelligence humaine qu’il ne s’agit pas d’imiter25. Comment contrôler la machine si son raisonnement échappe à l’homme ?

  • 26 CJUE, 13 mai 2014, aff. C-131/12, Costeja c/ Google Spain.

7La censure et le profilage par une politique des algorithmes. – Si on prend l’exemple du moteur de recherche de Google, dans l’hypothèse où cette société voudrait mettre en avant ses propres services par décision algorithmique de son moteur, l’internaute n’obtiendra pas une réponse « neutre ». A fortiori quand a été exercé le droit au déréférencement (droit à l’oubli) dans le souci de protéger la vie privée et les données personnelles des individus26. Si un tel motif est légitime et reconnu en justice, il n’en demeure pas moins qu’il a pour effet d’ignorer certains résultats de recherche, lesquels ne sont donc plus exhaustifs et ne sauraient être « objectifs ». En outre, d’autres actes de censure sont notables. Certains trouvent une légitimité en droit, lorsqu’il s’agit en particulier de lutter contre un contenu raciste, pédophile ou encore d’incitation au terrorisme ou à la haine raciale (par exemple les comptes Twitter pro-Daech), mais d’autres ne trouvent pas de fondement légal (contenu jugé impudique par Facebook par exemple). Ces suppressions de contenus peuvent inquiéter si elles sont le fait de pratiques marketing ou induisent des atteintes à la liberté d’expression. Mais que dire encore s’il s’agit pour les services de renseignement de l’État

8d’utiliser des traitements algorithmiques, afin de repérer les comportements à risque et profiler de « potentiels criminels » dans le souci d’anticiper le passage à l’acte répréhensible ? Les conséquences sociales que l’on en tire pourraient s’avérer très graves et attentatoires aux droits fondamentaux, aussi la fiabilité du savoir et de la catégorisation (modèles, patterns, profils) devrait-elle être particulièrement contrôlée. À l’heure actuelle, force est de constater que les mesures mises en œuvre par la loi no 2015-912 du 24 juillet 2015 relative au renseignement ne permettent pas l’exercice d’un tel contrôle. L’article 851-3-I. du Code de la sécurité intérieure prévoit désormais que pour les seuls besoins de la prévention du terrorisme, il peut être imposé aux opérateurs et aux fournisseurs d’accès à l’internet, la mise en œuvre sur leurs réseaux de traitements automatisés destinés, en fonction de paramètres précisés dans l’autorisation, à détecter des connexions susceptibles de révéler une menace terroriste. L’installation de telles « boîtes noires » a suscité de nombreuses critiques lors de l’adoption de la loi. Le ministre de l’intérieur a, certes, donné l’exemple d’un algorithme qui permettrait de repérer les premières connexions à une vidéo de décapitation, postée sur Internet et émanant de France. L’idée serait de repérer des Français complices de la publication de cette vidéo qui s’assureraient dès la mise en ligne que les images soient correctement accessibles. L’opacité du procédé algorithmique mis en œuvre, potentiellement sur toutes les connexions internet, est inquiétante.

  • 27 A. Rouvroy, Des données et des hommes, op. cit.

9L’intelligence artificielle des algorithmes. – Par ailleurs, les algorithmes se complexifient grâce aux progrès réalisés en intelligence artificielle et au fur et à mesure de leur fonctionnement. Ils se développent empiriquement et apprennent par l’agglomération massive de données dans un but décisionnel. Mais les décisions ainsi prises sont complexes et ne sont évidemment pas explicitées ni justifiées, si bien que les calculs et raisonnement menés échappent à leurs concepteurs. Les décisions sont en outre volatiles car prises instantanément et par amoncellement des données. Elles se modifient en permanence et se caractérisent par l’immédiateté. Dès lors, comment réaliser un contrôle social et vérifier la loyauté et non-discrimination des décisions prises sur de tels fondements ? Le contrôle technique de la machine par l’homme est d’autant plus difficile que les modes de fonctionnement en intelligence artificielle ne sont pas ceux de l’intelligence humaine. Il y a là une « perte de contrôle des agencements, de la trajectoire et des codes d’intelligibilité (de l’interprétation qui sera faite) »27. La norme technique échappe au contrôle social et la mouvance décisionnelle accentue ce phénomène.

10Les risques d’abus. – En résumé, l’activité humaine est chiffrée pour être catégorisée voire orientée, sans conscience des individus concernés. Les acteurs publics et privés à l’origine des traitements algorithmiques sont aussi variés (États, entreprises commerciales) que leurs finalités (lutter contre la criminalité, améliorer la connaissance des individus pour mieux les inciter à consommer…). En tout état de cause, l’ignorance des individus laisse libre cours aux abus, manipulations, discriminations sociales, ethniques, raciales…). Dès 2001, Lawrence Lessig lançait un avertissement dans son ouvrage par la célèbre formule « Code is law » (« code fait la loi »). Cet auteur nous invitait à voir la politique dans le logiciel. Quinze ans après, ses craintes pourraient se confirmer, à la faveur de la place croissante des algorithmes dans la vie économique et sociale.

B. Vers une gouvernementalité algorithmique ?

  • 28 E. Morozov, op. cit., p. 114.
  • 29 A. Rouvroy et Th. Berns, Gouvernementalité algorithmique et perspectives d’émancipation, op. cit. V (...)
  • 30 Ibid.
  • 31 E. Morozov, op. cit., p. 113.
  • 32 Ibid.

11La définition de la gouvernementalité algorithmique. – La domination technologique de la machine sur l’homme dans la prise de décision traduit une « régulation algorithmique »28 ou « gouvernementalité algorithmique »29. Cette dernière se matérialise en trois temps : la récolte de quantité massive de donnée et constitution de datawarehouses (big data) ; le traitement des données et production de connaissance (data mining) ; l’action sur les comportements. « Ce troisième temps est celui de l’usage de ces savoirs probabilistes statistiques à des fins d’anticipation des comportements individuels, qui sont rapportés à des profils définis sur la base de corrélations découvertes par datamining. La norme technique s’applique alors aux comportements humains »30. Cette troisième étape est naturellement la plus préoccupante et traduit les risques que font encourir les procédés algorithmiques. En effet, le data mining permet d’agréger des connaissances sur les individus et de les profiler, pour conditionner par exemple l’obtention d’un certain crédit, la tarification d’un contrat d’assurance, la suggestion d’achats ciblés sur des sites de vente en ligne, etc… Une telle différenciation des individus risque de porter atteinte aux droits fondamentaux, d’être source de discriminations qui resteraient ignorées et donc non sanctionnées. En outre, ces procédés sont en mesure d’influencer notre prise de décision, tels nos comportements d’achats. Mais, plus encore, nos opinions seraient facilement orientables selon ce que l’on nous laisse voir sur internet, principale source d’information aujourd’hui, spécialement pour la jeunesse. N’y a-t-il pas là un risque de perdre tout libre arbitre et, partant, d’abandonner notre capacité à maîtriser nos décisions individuelles et collectives ? Ne risque-t-on pas de subir un système décisionnel orienté par des techniques de nature à nous faire perdre tout pouvoir ? De plus en plus, la machine décide à la place de l’homme. Mais comment s’assurer de la pertinence et surtout de la loyauté de la décision ainsi prise ? Ne va-t-on pas subir des décisions que nul ne saura plus ni vérifier ni justifier ? Quel contrôle social garantir en cas de processus décisionnel fondé sur l’intelligence artificielle ? Si on n’y prend garde, les algorithmes pourraient devenir les nouveaux décideurs voire les seuls décideurs. En outre, grâce aux capteurs et à la connectivité des objets (brosse à dent, frigidaire, chaussures…), « les objets les plus banals acquièrent un énorme pouvoir de régulation du comportement »31. Mais, « outre qu’il rend nos vies plus efficaces, ce monde intelligent nous met devant un choix politique exaltant : puisqu’une grande partie de nos comportements sont déjà captés, analysés et « nudgés » (incités), pourquoi s’en tenir à des approches non empiriques de la régulation ? Pourquoi s’en remettre à des lois quand on dispose de capteurs et de mécanismes de rétroaction ? »32. Au mieux, la régulation algorithmique accompagnera la loi pour appliquer les règles avec plus d’efficacité. Au pire elle la remplacera. Là est bien l’enjeu : la norme technique se substituerait alors purement et simplement à la norme sociale. La supérieure efficacité que l’on prête à la première conduirait à un déficit démocratique alarmant. Mais même à supposer que les algorithmes soient utilisés simplement pour aider à l’application de la loi, encore faut-il s’interroger sur la manière dont les contrôles sur les individus sont ainsi réalisés. Les moyens sont tout aussi importants que les fins. Telle est bien la difficulté à encadrer les algorithmes et exprimer une vision critique sur les résultats obtenus.

  • 33 V. F. Pasquale, op. cit., spéc. p. 4. Voir aussi E. Morozov, Le mirage numérique, op. cit. Cet aute (...)

12La domination de la connaissance et de l’information par les algorithmes. – Les algorithmes sont de puissants moyens de contrôler tout particulièrement l’argent et l’information33. D’ores et déjà, l’accès direct au public des informations est de plus en plus filtré par des biais automatiques liés aux goûts, habitudes et consultations précédentes des internautes. La dépendance des citoyens à l’égard de ces filtrages augmente dangereusement : les informations sont choisies par des algorithmes, censés savoir ce que les internautes veulent lire, écouter et regarder. Le filtrage est ici justifié, d’une part, par la masse d’informations disponibles sur internet qu’il convient de trier et hiérarchiser et, d’autre part, par l’intérêt que peut présenter une information personnalisée. Mais si confiance est faite aux machines, applications mobiles et autres notifications instantanées d’information, les procédés de traitement vont acquérir un nouveau pouvoir quasi-souverain en lieu et place des éditeurs. Plus encore, la génération Y fait majoritairement confiance aux médias sur l’internet et en particulier aux réseaux sociaux pour être informés. Dès lors, nos connaissances et, partant, nos opinions, sont faciles à orienter. Les dictatures ont compris depuis longtemps le pouvoir de manipulation des foules, en usant des outils de communication désormais numériques. Il suffit d’orienter les traitements algorithmiques en fonction des résultats que l’on souhaite obtenir.

  • 34 A. Rouvroy, Des données et des hommes, op. cit.

13L’algorithme et le renforcement des fractures économiques et sociales. – Les entreprises de l’économie numérique subliment l’innovation, facteur de progrès économique et social. Mais le discours consistant à présenter « les enjeux du numérique en termes d’innovation, de compétitivité, d’intérêts individuels des consommateurs ou des utilisateurs occulte bien souvent les enjeux éthiques, juridiques, politiques, de la révolution numérique au risque de porter atteinte à la prééminence du droit ainsi que des droits de l’homme et des libertés fondamentales, et d’empêcher la recherche d’un juste équilibre entre intérêts privés et publics d’une part, et entre ces intérêts et les droits et libertés en jeu d’autre part »34. Les traitements algorithmiques se nourrissent en outre de données en continu et conduisent à une surveillance permanente des individus pour améliorer leurs performances ou expériences, au risque de porter atteinte à leurs libertés individuelles, en particulier leur vie privée. Ces outils génèrent aussi des inégalités profondes entre les individus, entre ceux dont les mesures en tous genres seront considérées comme positives (les bons élèves) et les autres (les mauvais élèves) qu’il va falloir sanctionner. Ainsi, les inégalités sociales vont se trouver renforcées par la prise en compte de paramètres de santé, d’activités physiques, de revenus, de choix de produits et services… Les clivages s’accentuant, le pacte social entre les individus, les entreprises et les États sera mis à mal.

  • 35 V. A. A. Casilli, Les liaisons numériques, Seuil, La couleur des idées, 2010, spéc. p. 55.

14L’individualisation de l’internet. – Au demeurant, la collecte massive de données relatives aux individus permet leur profilage précis et détaillé pour une personnalisation des services proposés, au point que les événements sociaux auxquels chacun aura accès seront de moins en moins communs à tous. Le partage se limitera à un cercle social, au travers d’échanges via les réseaux sociaux au sein de groupes limités. Cet « entre soi » social des goûts, habitudes, opinions, niveaux de revenu nie toute idée de société, de diversité sociale et culturelle. Les médias numériques et réseaux sociaux, à force d’individualisation ou socialisation fine par groupes sociaux, deviennent des désynchronisateurs sociaux. La désynchronisation est d’abord temporelle, puisque l’accès aux médias se fait au moment choisi par chacun, hors de contraintes temporelles traditionnelles. Finis le traditionnel journal télévisé de 20 heures suivi par une grande majorité de français dans toute la France et dans le même temps. La désynchronisation est aussi matérielle puisqu’il est montré à chacun ce qui est susceptible de l’intéresser individuellement. L’information personnalisée et géo-localisée nous confine dans des bulles réconfortantes d’un horizon connu et compris, au risque de nous conforter dans nos certitudes sans possibilité d’être atteint par la différence des autres et la diversité d’opinion. On assiste alors à un paradoxe : lors même que l’on croît tout savoir et avoir accès à tout dans ce monde hyperconnecté, l’information et la culture sont de moins en moins communément partagées. En revanche, les expériences individuelles au sein de communautés d’intérêts et d’amitié le sont de plus en plus et de mieux en mieux, avec plus d’acuité et de pertinence. De nouvelles communautés transfrontalières se créent par ces nouvelles « liaisons numériques »35. Le traitement de l’information est de plus en plus vu sous le prisme de l’expérience individuelle, de ceux qui « y étaient » et qui témoignent sur leurs murs, de ceux qui rassurent leur réseau d’amis sur Facebook pour dire « qu’ils n’étaient pas » sur les lieux d’actes de terrorisme… Le service individualisé n’est pas seulement celui qui propose le produit correspondant aux besoins individuels, ni même celui qui va susciter le besoin que l’on ne ressentait pourtant pas. Il est aussi celui qui va informer et aider à forger une opinion, en occultant certaines informations. Ce service même pourra évidemment donner une information radicalement différente d’un internaute à un autre. Dans cette individualisation extrême comment les citoyens peuvent-ils se retrouver sinon par catégories de personnes et de profils ? Certes, on n’ignore pas que les clivages et fractures sociales ont toujours existé, bien avant l’arrivée de l’internet et de l’interactivité expérimentale des internautes au travers du Web 2.0. Néanmoins, ces nouveaux outils les exacerbent, sans même que l’on ait aisément conscience de l’individualisation de l’expérience numérique vécue par chacun.

15À n’en pas douter, les usages du numérique et traitements algorithmiques posent un important défi démocratique. Le droit tente de le relever, sans encore y parvenir véritablement.

II. La réponse du droit face à la puissance algorithmique

16L’insuffisance du droit positif (A) invite à s’interroger sur la portée des réformes en cours ou de celles qui pourraient être envisagées (B).

A. L’insuffisance du droit positif

  • 36 E. Scherer, op. cit.
  • 37 Voir A. Rouvroy, Des données sans personne, op. cit.

17L’insuffisance de la législation sur les données à caractère personnel. – Aucune procédure, aucun garde-fou, aucune loi n’existe à l’heure actuelle pour contrôler spécifiquement l’usage des algorithmes. La confiance souvent aveugle dont l’homme fait preuve à l’égard du résultat chiffré est en parfait décalage avec les risques générés « de nouvelles formes de discriminations, censures, impasses, erreurs, artefacts, normes sociales non choisies, fausses informations et prédictions »36. La législation la plus apte a priori à encadrer la collecte de données est la loi no 78-17 dite informatique et libertés relative à la protection des données personnelles. Mais cette législation montre rapidement ses limites, puisque les données massivement collectées par les différents outils numériques touchent aux personnes, sans pour autant qu’il s’agisse nécessairement de données à caractère personnel, c’est-à-dire de données permettant d’identifier ou de rendre identifiables directement ou indirectement les personnes. Pour mettre en œuvre des procédés de profilage, nul besoin en effet d’utiliser des données à caractère personnel, dans la mesure où il suffit de caractériser les personnes sans pour autant les identifier. Dès lors, les principes de nécessité et de finalité qui encadrent l’utilisation des données à caractère personnel risquent tout simplement de ne pas être applicables, en l’absence d’une définition des données personnelles tenant compte des différentes « traces » numériques et informations individuelles non identifiantes. En réalité, si on s’attache à la notion de données personnelles, on risque de manquer la cible. De plus en plus de données sans personne sont traitées37, sans considération d’un quelconque sujet que l’on ne cherche pas à identifier, soit pour ne pas tomber sous le coup de la loi de 1978, soit en raison de l’inutilité d’une information identifiante pour mener un traitement algorithmique. L’identité de la personne n’est plus aujourd’hui l’information utile que l’on cherche à obtenir. Ses goûts, habitudes, connaissances, réseaux, achats, niveaux de revenus ou encore sa santé sont des informations bien plus utiles et valorisables. Au demeurant, on sait que la distinction traditionnellement faite entre les données anonymes et les données personnelles n’est plus performante. De nombreuses études ont en effet montré les possibilités de réidentifier les personnes à partir de plusieurs jeux de données anonymisées. Dès lors, les techniques d’anonymat ne sont plus suffisamment fiables, en présence de techniques de croisement de données par lesquelles on cherche précisément des corrélations et cumuls d’informations, de nature à obtenir la réidentification les personnes. Au final, si la loi du 6 janvier 1978 confère des droits aux personnes concernées, ces dernières sont en réalité dépourvues de pouvoir. Ces droits ne peuvent pas être effectivement exercés ni ne peuvent permettre de compenser l’asymétrie d’information entre les responsables de traitement et les individus. Les grands principes de la loi 1978 ne sont pas forcément dépassés en eux-mêmes mais la définition des données personnelles ne correspond pas aux données massivement collectées par des opérations de big data et traitements algorithmiques.

  • 38 Décisions individuelles automatisées. Article 15§1 : « Les États membres reconnaissent à toute pers (...)
  • 39 Cass. Crim., 11 juin 2002, pourvoi no 01-85.559 : « Vu l’article 427 du Code de procédure pénale ; (...)

18L’encadrement des décisions prises sur le fondement d’un traitement de données à caractère personnel. – L’article 10 al. 1er de la loi du 6 janvier 1978 mérite toutefois l’attention. Il prévoit qu’« aucune décision de justice impliquant une appréciation sur le comportement d’une personne ne peut avoir pour fondement un traitement automatisé de données à caractère personnel destiné à évaluer certains aspects de sa personnalité ». L’alinéa 2 dispose plus largement qu’« aucune autre décision produisant des effets juridiques à l’égard d’une personne ne peut être prise sur le seul fondement d’un traitement automatisé de données destiné à définir le profil de l’intéressé ou à évaluer certains aspects de sa personnalité ». Une mesure équivalente est posée à l’article 15§1 de la directive 95/46/CE38 et reprise dans la proposition de règlement (art. 20) qui la réforme. Cette règle est essentielle au plan des principes pour éviter tout risque de discrimination. Mais dans les faits, cette interdiction risque de se heurter à un problème de preuve : comment prouver que le profilage des individus fondé sur les données massivement collectées grâce à des outils numériques conduit à des traitements différenciés ? Pour surmonter cette difficulté probatoire, des tests pourraient être organisés, afin de déceler une situation réellement discriminante, par exemple une tarification différenciée de produits identiques, selon le niveau de revenu supposé des potentiels acquéreurs. Si le testing est reconnu comme mode de preuve devant les tribunaux français pour prouver la discrimination raciale39, rien n’empêche de le mettre en œuvre pour démontrer une discrimination sociale ou économique dans l’environnement numérique.

19Le défaut de pertinence de la distinction selon les finalités commerciales ou de sécurité. – Il faut relever par ailleurs une autre faiblesse de la législation actuelle, tenant à la traditionnelle distinction selon les finalités de la collecte des données personnelles. La norme est plus permissive s’il s’agit d’obtenir des informations à des fins de sécurité nationale. Or, l’affaire Snowden a révélé que les liens entre les acteurs publics et privés sont forts, pour le moins aux États-Unis, et une certaine coopération entre les géants américains de l’internet et les services d’intelligence nationale en particulier la National Surveillance Agency (NSA) est désormais avérée. Cette proximité entre les responsables de traitement et les services publics de renseignement affaiblit encore les personnes concernées qui ignorent a fortiori l’usage fait de leurs données et sont même dépourvues d’un droit de recours. Tel fut d’ailleurs le problème relevé par la Cour de justice dans l’affaire Schrems ayant conduit à l’invalidation du Safe Habor40. En dépit de la décision d’adéquation du niveau de protection rendue par la Commission européenne en 200041, sur le fondement de l’article 25 de la directive 95/46/CE relatif aux flux transfrontaliers de données, la Cour dénonce l’insuffisance de la protection effective, précisément en raison de l’accès aux données réservé aux services de sécurité nationale. La recherche d’un nouvel accord, le Privacy Shield, tend à interdire la surveillance massive des citoyens européens et à leur octroyer un droit de recours par la saisine d’un médiateur (Ombusdman), membre du Département d’État42. Le médiateur serait indépendant de l’Office of the Director of National Intelligence (ONDI) mais membre de l’administration fédérale. L’accès à un juge aurait apporté plus de garanties. En résumé, si la réglementation relative au traitement des données personnelles diffère selon si l’usage est commercial ou à des fins de sécurité nationale, on voit bien qu’une telle distinction se brouille aujourd’hui. Les entreprises du numérique sont en mesure de collecter un nombre considérable de données très utiles et signifiantes pour les services de renseignement, lesquels peuvent parvenir à y avoir accès par différents moyens, avec ou sans la coopération des opérateurs. Cet état de fait ne fera que croître par la facilité avec laquelle les données issues des objets connectés pourront être récupérées. Pour d’aucuns, le danger est direct et imminent : « la NSA peut savoir où vous êtes en localisant votre téléphone mobile, et demain elle obtiendra ces données de vos chaussures intelligentes ou de votre parapluie intelligent »43. Dès lors, le droit doit s’adapter pour mieux protéger les citoyens.

B. À la recherche de solutions juridiques plus efficaces

20Les réformes en cours. – À l’évidence, la réponse du droit est aujourd’hui insuffisante et à parfaire. Si on analyse d’abord le futur règlement sur les données à caractère personnel, force est de constater qu’il ne pourra pallier les faiblesses précédemment relevées, tenant à la définition peu pertinente des données personnelles, puisque la définition actuelle est conservée. On relèvera toutefois que l’extension du champ d’application territorial par l’article 3.2 de la proposition de règlement va dans le sens d’une amélioration de la protection des citoyens européens à l’égard des géants américains de l’internet qui pratiquent à outrance le big data et le data mining. Le règlement s’appliquera au traitement de données personnelles dont les personnes concernées sont établies dans l’Union européenne, alors que les responsables de traitement ne le sont pas, dès lors que les activités de traitement sont relatives à l’offre aux personnes concernées de biens et services, même à titre gratuit, ou encore que l’analyse de leur comportement trouve sa place dans l’Union européenne. Mais l’applicabilité du règlement ne résout pas en tant que tel le problème de l’encadrement des traitements algorithmiques, dans la mesure où ce texte est muet sur ce point. En revanche, le projet de loi Lemaire, tel que voté par l’Assemblée nationale en première lecture au mois de janvier 2016, prévoit à l’article 2 que : « lorsqu’une décision individuelle est prise sur le fondement d’un traitement algorithmique, les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande » (nouvel article L. 311-3-1 du code des relations entre le public et l’administration). Un décret en Conseil d’État doit permettre d’en fixer les conditions d’application. Cette obligation de transparence des traitements algorithmiques utilisés va dans le bon sens mais on peut toutefois regretter qu’elle se limite aux décisions prises par l’administration. Il aurait été plus judicieux et ambitieux de l’imposer à tous les responsables de traitements algorithmiques.

21Les obligations de transparence et de rendre compte des procédés algorithmiques utilisés. De lege ferenda, on peut s’interroger sur l’opportunité de créer une obligation de transparence, de loyauté des traitements algorithmiques mis en œuvre. Une obligation de rendre compte (accountability) des procédés utilisés est certainement une mesure utile qu’il faudrait imposer. Mais elle ne pourra avoir de sens et d’efficacité que s’il est techniquement possible de contrôler les règles de traitement ainsi révélées, lors même que les règles mises en œuvre par des procédés d’intelligence artificielle peuvent aisément échapper à la compréhension humaine. Il faut donc vérifier les ordres donnés (les priorités) et les résultats obtenus (contrôles en interne), en intégrant des moyens de garantir que les résultats ne sont pas truqués. Une réflexion doit être également menée sur la façon la plus efficace de prévenir les risques en amont par des obligations liées à la conception des algorithmes (privacy by design) et à leur contexte d’utilisation, finalité et proportionnalité (contrôle en aval). Autrement dit, les obligations issues de la réglementation des données personnelles pourraient être étendues aux traitements algorithmiques.

  • 44 E. Morozov, op. cit.

22L’application de la législation sur les données personnelles et système d’information aux objets connectés. – « Si l’on ne prend pas en compte ces nouveaux appareils sur le plan juridique, il ne servira pas à grandchose de construire la messagerie électronique ou le réseau de téléphonie mobile les plus sûrs du monde : la NSA continuera d’obtenir les données qui lui sont nécessaires ; elle le fera seulement par des moyens plus créatifs »44. Deux principales atteintes à la protection des individus sont aujourd’hui notables dans l’utilisation des objets connectés : d’une part, la plupart de ces objets n’intègrent pas de dispositifs de sécurité des systèmes d’information ; d’autre part, ils ne prévoient pas non plus de protection de la confidentialité et sécurité des données personnelles. Autrement dit, les obligations issues de la législation sur les données à caractère personnel ne sont pas prises en compte, ni même celles touchant aux systèmes de traitement automatisé de données prévues par le Code pénal (art. 323-1 à 323-8). Or, il faut bien comprendre la puissance de ces objets qui, comme nous l’avons vu, ne sont pas de simples objets intelligents donnant des informations les concernant. Au contraire, ils renseignent sur leur environnement et donc également sur l’activité de leurs usagers et collectent des données personnelles. Les gestionnaires de ces objets récupérant l’information doivent sans conteste être considérés comme des responsables de traitement de données personnelles et soumis aux obligations afférentes. Également, ces objets interagissent avec des réseaux de communication électronique. Ils constituent de véritables systèmes d’information et doivent intégrer des moyens de sécurité comme des antivirus par exemple, pour satisfaire aux obligations de sécurité. En résumé, la législation actuelle doit leur être appliquée.

23La circulation et le courtage des données. – Par ailleurs, l’une des difficultés majeures du big data est la revente et la réutilisation des données, en particulier des données personnelles, ayant pour effet de réduire à néant les principes de proportionnalité et finalité. Les procédés de data mining sont par essence contraire à cette finalité puisque l’on va chercher à « faire dire » le plus de choses possibles aux données, au-delà des buts initiaux de leur collecte. Les données sont des biens non rivaux dupliqués à l’infini et utilisables pour de multiples traitements inconnus des personnes concernées. Comment s’organisent le marché des données et l’activité de courtage ? Les données sont revendues sur des places de marché opaques dont on ignore le mode de fonctionnement. Les personnes concernées sont dépourvues d’un droit à la traçabilité de leurs données qui leur permettraient de savoir ce que leurs informations deviennent. Dans ce contexte d’ignorance totale et de perte de pouvoir, il semble difficile de reconnaître aux individus une « autonomie informationnelle », telle que prônée en particulier par le Conseil d’État45. Notons que les États-Unis préparent une loi fédérale sur le courtage de données46 et sans doute faut-il se préoccuper d’envisager la pertinence de le faire aussi en Europe. Est-il utile et réaliste d’imposer une obligation de rendre compte de la nature des données vendues, de leur origine, des conditions d’obtention, des traitements algorithmiques déjà pratiqués (méthodes, critères de tri, sélection, conditions de décontextualisation, de « nettoyage » des données), de la circulation de la donnée (traçabilité), des croisements, accumulation de données pour constituer des bases ? Au contraire, peut-on se contenter d’appliquer les règles du droit de la concurrence ? Dans ce cas, comment définir le marché pertinent ? Toutes ces questions émergentes méritent que l’on s’y attarde.

24Quels régimes de responsabilité ? – Naturellement, par souci d’efficacité, les obligations nouvelles, auxquelles les responsables des traitements algorithmes seraient soumis, doivent s’accompagner de règles de responsabilité délictuelle et contractuelle. Les traitements algorithmiques peuvent être vus comme des activités génératrices de risques à l’égard des tiers, de nature à leur causer un préjudice, et pourraient relever d’un régime spécial de responsabilité délictuelle. Ce régime porterait tant sur la conception du traitement algorithmique que sur son usage et pourrait être partiellement calqué sur les obligations imposées au responsable de traitement de données à caractère personnel par la loi du 6 janvier 1978. Pourraient être prévues en outre des obligations de transparence sur les méthodes de traitement utilisées et les usages envisagés. Une autre option serait d’appliquer le régime de responsabilité délictuelle de droit commun mais le recours aux articles 1382 (devenu art. 1240) et 1383 (devenu art. 1241) obligerait à prouver un comportement fautif ou une simple imprudence, ainsi qu’un préjudice. Ces exigences probatoires risqueraient d’être insurmontables pour les simples individus totalement ignorants des subtilités techniques des procédés algorithmiques. Par ailleurs, la responsabilité contractuelle pourrait aussi avoir vocation à s’appliquer, lorsque la mise en œuvre du traitement algorithmique peut trouver son origine dans la vente ou la location d’un matériel (objet connecté) ou d’un logiciel servant de support à la collecte des données et la mise en œuvre du traitement. Les contrats pourraient prévoir des obligations de loyauté et transparence dans la collecte des données, ainsi que des restrictions de finalité et de mise en œuvre des traitements algorithmiques, tant à la charge du concepteur que de l’utilisateur, afin de protéger les personnes concernées. De telles obligations contractuelles devraient être légalement imposées dans les contrats de consommation, lorsqu’il s’agit de traiter directement les données des consommateurs mais aussi, plus largement, des profanes.

  • 47 D. Cardon, À quoi rêvent les algorithmes, op. cit., spéc. p. 83.

25Les contrôles et sanctions. – Enfin, les règles de responsabilité n’auront aucune portée si le système de contrôle et sanction est insuffisant. Si on peut avoir des doutes sur la possibilité même d’un contrôle et sur les moyens réels de vérifier, il n’en demeure pas moins qu’il est nécessaire de prévoir des procédures de contrôles indépendants. « C’est en soumettant les modèles à des audits indépendants qu’il est à la fois possible de prendre de la distance à l’égard du verdict des algorithmes et de leur opposer des calculs alternatifs »47. Évidemment, le choix des organismes de contrôle et les moyens accordés sont déterminants pour espérer une efficacité. Les sanctions doivent en outre être suffisamment élevées pour être dissuasives. On doute de l’efficacité parfaite d’une régulation algorithmique mais le but serait d’empêcher les abus les plus graves.

  • 48 Ibid.

26En dehors du droit : l’éducation au numérique des citoyens. – Dans un monde de plus en plus organisé par des machines intelligentes qui prennent la place de l’homme et agissent parfois mieux que lui, il est enfin essentiel d’apprendre à ne pas désapprendre. On ne peut contrôler la machine si on perd le contrôle intellectuel de ce que l’on savait faire. Mais il paraît aussi utile que les citoyens puissent se familiariser avec le langage de la machine. On doute qu’apprendre à coder soit la réponse à tout mais il est probablement pertinent de comprendre un tant soit peu la façon dont la machine « raisonne » et reçoit les ordres, de même que la manière dont les processus d’auto-apprentissage sont mis en œuvre. D’aucuns considèrent enfin que les usages de l’internet sont complexes et réflexifs et impliquent une certaine « socialisation » des calculateurs48. Une domestication peut apparaître, permettant à l’homme de mieux dompter et comprendre la machine. Il y a bien là un défi pour l’homme de savoir tirer le meilleur parti des algorithmes. Engager un meilleur couplage homme/machine plutôt que de n’y voir qu’un affrontement est un défi à relever. La dépendance envers des technologies que nous ne comprenons ni ne contrôlons est déjà en marche mais n’est peut-être pas encore irréversible.

Conclusion

  • 49 https://fr.wikipedia.org (consulté le 4 mars 2016) : La chaîne de blocs est une base de données dis (...)

27La norme technique tend aujourd’hui à échapper à la norme sociale. Ce phénomène n’est pas nouveau mais s’intensifie. Outre les traitements algorithmiques, les systèmes de blockchain (chaînes de blocs)49 font non seulement la norme mais remplacent les institutions et la confiance garantie par l’État. Un contrat authentifié par un dispositif de blockchain plutôt que par un notaire oblige le juriste à s’intéresser à ces technologies nouvelles mêlant plus que jamais droit et technique.

Haut de page

Notes

1 A. Rouvroy, La « digitalisation de la vie même » : enjeux épistémologiques et politiques de la mémoire digitale, Documentaliste – Sciences de l’information, 2010, vol. 47 no 1, p. 63.

2 E. Scherer, Logiciels, algorithmes, robots : journalisme sous influence, http://meta-media.fr/2014/11/09/logiciels-algorithmes-robots-journalisme-sous-influence.html. Consulté le 9 février 2016.

3 Il ne s’agit pas ici uniquement des données personnelles car la notion telle que définie par la loi no 78-17 du 6 janvier 1978 ou la directive 95/46/CE ne rend pas compte de l’usage massif de données portant sur les personnes, sans pour autant les identifier. Voir A. Rouvroy, Des données sans personne : le fétichisme de la donnée à caractère personnel à l’épreuve de l’idéologie des Big Data, in Étude du Conseil d’État, 2014, La Documentation française.

4 Voir Cahiers Droit, Sciences et technologies, Dossier Statistiques et normes : croiser les regards sur la formation du droit et la formation des connaissances, 2014, no 4, PUAM.

5 A. Supiot, La gouvernance par les nombres, Cours au Collège de France (2012-2014), Fayard, coll. Poids et mesures du monde, 2015.

6 Créé par la loi no 2013-660 du 22 juillet 2013 relative à l’enseignement supérieur et à la recherche, le Haut Conseil de l’évaluation de la recherche et de l’enseignement supérieur (HCERES) se substitue à l’Agence d’évaluation de la recherche et de l’enseignement supérieur (AERES). Cette disposition prend effet le 17 novembre 2014, au lendemain de la publication du décret no 2014-1365 du 14 novembre 2014 relatif à l’organisation et au fonctionnement du HCERES.

7 Voir D. Pontille et D. Torny, La manufacture de l’évaluation scientifique : algorithmes, jeux de données et outils bibliométriques, in Politique des algorithmes : les métriques du web, Réseaux, La Découverte, févr.-avr. 2013, spéc. p. 25-61.

8 D. Cardon, Dans l’esprit du PageRank. Une enquête sur l’algorithme de Google, in Politique des algorithmes : les métriques du web, op. cit., spéc. p. 63-93.

9 A. Supiot, La gouvernance par les nombres, op. cit., spéc. p. 23.

10 A. Supiot, La gouvernance par les nombres, op. cit., spéc. p. 23.

11 Pour un exemple récent, voir les débats autour de la construction de l’aéroport de Notre Dame des Landes et les divergences chiffrées entre rapports d’expertise.

12 A. Rouvroy, Des données et des hommes, Droits et libertés fondamentaux dans un monde de données massives, Rapport au Conseil de l’Europe, janv. 2016.

13 E. Morozov, Le mirage numérique : pour une politique du big data, Les prairies ordinaires, 2015, p. 113.

14 https://fr.wikipedia.org/wiki/Algorithme. Consulté le 9 février 2016.

15 Ibid.

16 http://dept-info.labri.fr/ENSEIGNEMENT/INITINFO/initinfo/supports/book/node41.html.

17 A. Rouvroy, Des données et des hommes, op. cit.

18 https://fr.wikipedia.org/wiki/Algorithme. Consulté le 9 février 2016.

19 D. Cardon, À quoi rêvent les algorithmes ?, op. cit., p. 83.

20 A. Rouvroy et Th. Berns, Gouvernementalité algorithmique et perspectives d’émancipation : le disparate comme condition d’individuation par la relation ?

http://www.cairn.info/resume.php?ID_ARTICLE=RES_177_0163: « chaque élément est ramené à sa nature la plus brute, c’est-à-dire être tout à la fois abstrait du contexte dans lequel il est survenu et réduit à “de la donnée” ».

21 J. Burrell, How the machine ‘thinks’ : understanding opacity in machine learning algorithms, Big Data & Society, January-June 2016 : 1-12.

22 D. Cardon, À quoi rêvent les algorithmes ? : nos vies à l’heure des big data, Seuil, coll. La République des idées, 2015 p. 79. Voir aussi, F. Pasquale, The black box society. The secret algorithms that controls money and information, Cambridge, Harvard University Press, 2015.

23 F. Pasquale, The black box society, op. cit., spéc. p. 3 : « knowledge is power […] Firms seek out intimate details of potential customers’ and employees’ lives, but give regulators as little information as they possibly can about their own statistics and procedures ».

24 A. Rouvroy, Des données et des hommes, op. cit. : Or l’une des « valeurs ajoutées » du droit fondamental à la protection des données à caractère personnel, par rapport au droit fondamental à la protection de la vie privée est précisément d’avoir parmi ses objectifs de réduire les asymétries de pouvoir et les asymétries d’information entre les individus et les personnes physiques ou morales qui collectent, conservent et traitent les données qui leur sont relatives ».

25 J. Burrell, op. cit. : « when a computer learns and consequently buids its own representation of a classification decision, it does so without regard for human comprehension ».

26 CJUE, 13 mai 2014, aff. C-131/12, Costeja c/ Google Spain.

27 A. Rouvroy, Des données et des hommes, op. cit.

28 E. Morozov, op. cit., p. 114.

29 A. Rouvroy et Th. Berns, Gouvernementalité algorithmique et perspectives d’émancipation, op. cit. Voir aussi B. Stiegler, La société automatique : l’avenir du travail (tome 1), Fayard, 2015, spéc. p. 179.

30 Ibid.

31 E. Morozov, op. cit., p. 113.

32 Ibid.

33 V. F. Pasquale, op. cit., spéc. p. 4. Voir aussi E. Morozov, Le mirage numérique, op. cit. Cet auteur compare l’influence des opérateurs de la finance (Wall Street) avec ceux de l’économie numérique (Silicon Valley).

34 A. Rouvroy, Des données et des hommes, op. cit.

35 V. A. A. Casilli, Les liaisons numériques, Seuil, La couleur des idées, 2010, spéc. p. 55.

36 E. Scherer, op. cit.

37 Voir A. Rouvroy, Des données sans personne, op. cit.

38 Décisions individuelles automatisées. Article 15§1 : « Les États membres reconnaissent à toute personne le droit de ne pas être soumise à une décision produisant des effets juridiques à son égard ou l’affectant de manière significative, prise sur le seul fondement d’un traitement automatisé de données destiné à évaluer certains aspects de sa personnalité, tels que son rendement professionnel, son crédit, sa fiabilité, son comportement, etc. ».

39 Cass. Crim., 11 juin 2002, pourvoi no 01-85.559 : « Vu l’article 427 du Code de procédure pénale ; Attendu qu’aucune disposition légale ne permet aux juges répressifs d’écarter les moyens de preuve produits par les parties au seul motif qu’ils auraient été obtenus de façon illicite ou déloyale ; qu’il leur appartient seulement, en application du texte susvisé, d’en apprécier la valeur probante après les avoir soumis à la discussion contradictoire ».

40 CJUE, 6 oct. 2015, Schrems, aff. C-362/14.

41 Décision de la Commission 2000/520/CE du 26 juillet 2000.

42 Voir les documents de l’accord : http://ec.europa.eu/justice/newsroom/data-protection/news/160229_en.htm.

43 E. Morozov, op. cit.

44 E. Morozov, op. cit.

45 Voir son étude annuelle de 2014 sur « Le numérique et les droits fondamentaux ».

46 The Data Broker Accountability and Transparency Act : http://www.markey.senate.gov/imo/media/doc/2015-03-04-Data-Brokers-Bill-Text-Markey%20.pdf.

47 D. Cardon, À quoi rêvent les algorithmes, op. cit., spéc. p. 83.

48 Ibid.

49 https://fr.wikipedia.org (consulté le 4 mars 2016) : La chaîne de blocs est une base de données distribuée qui gère une liste d’enregistrements protégés contre la falsification ou la modification par les nœuds de stockage. À proprement parler, une blockchain est un historique décentralisé des transactions effectuées depuis le démarrage du système réparti. La blockchain permet à la « confiance » de s’établir entre des parties distinctes.

Haut de page

Pour citer cet article

Référence papier

Céline Castets-Renard, « Société de l’information », Cahiers Droit, Sciences & Technologies, 6 | 2016, 239-255.

Référence électronique

Céline Castets-Renard, « Société de l’information », Cahiers Droit, Sciences & Technologies [En ligne], 6 | 2016, mis en ligne le 20 février 2017, consulté le 26 juin 2017. URL : http://cdst.revues.org/509

Haut de page

Auteur

Céline Castets-Renard

Membre de l’Institut Universitaire de France (IUF), Professeur, Université Toulouse 1 Capitole, Directrice du Master 2 Droit et Informatique, Directrice adjointe de l’IRDEIC – Centre d’Excellence Jean Monnet

Articles du même auteur

  • Surveillance, gouvernance et régulation de l’Internet : quelques observations sur l’actualité
    Paru dans Cahiers Droit, Sciences & Technologies, 4 | 2014
Haut de page

Droits d’auteur

Tous droits réservés

Haut de page
  • Logo Réseau Droit, Scences et techniques
  • Logo CNRS
  • Logo AMU
  • Revues.org