La vie privée dans le monde numérique

Journée pédagogique portant sur le numérique au CEGEP Levis-Lauzon
2018-01-16
Daniel Pascot, daniel@pascot.ca

https://wiki.linuq.org/conferences/

Licence

• La société de l'oral
• La société de l'écrit (il y a 5500 ans)
• La société de l'imprimé (il y a 550 ans)
• La société numérique (il y a 75 ans, mais moins de 30 ans pour internet [WWW : 1990])
  • Deux fois 1 heure pour aborder en quoi la société numérique est nouvelle
    • https://www.youtube.com/watch?v=ZCBB0QEmT5g
    • autre version https://www.youtube.com/watch?time_continue=1938&v=l4QlKXROtbA

• Un nouvel espace topologique au delà de l'espace cartésien physique
• Un nouvel espace de droit à construire
• Une nouvelle extériorisation des nos capacités : les capacités cognitives
• Un nouvel espace des pouvoirs à instaurer
• Un basculement de l'économie
• Elle évolue et est adoptée TRÈS RAPIDEMENT : on est bousculé par ceux qui foncent

Utopies réalistes de Rutger Bergman, Seuil, 2017

• Je n'ai rien à cacher
  • Faux
    • intrusion dans ta maison : le principal traumatisme c'est le viol de son espace privé
  • Quand on se sent surveillé on change (adapte) notre comportement
  • Livre de Tristan Nitot Surveillance : impact de la surveillance sur la société
    • http://standblog.org/blog/pages/Surveillance
    • https://socialcooling.fr/
      • À regarder et à montrer à vos étudiant

Edward Snowden : in Philosophie magazine, hors série consacré à Hannah Arendt, février-avril 2016, Document Edward snowden face à un responsable des services secrets américains et traduction partielle de l'entretien avec Edward Snowdem

Le site original de la conférence (en anglais) http://hac.bard.edu/conference-fall15

Enregistrement de l'entretien avec Edward Snowdem (en anglais, mais à écouter si vous le pouvez) https://vimeo.com/149510880

Quelques citations

• Edgard Snowden nous rappelle que plus on se protègera, plus on rendra difficile l'espionnage généralisé
  • C'est normal, on ferme à clé sa maison ou sa voiture
  • Mais en numérique, c'est plus difficile et complexe
    • une copie est comme un vol : c'est plus discret qu'une effraction de sa maison
    • dans l'espace numérique on laisse des traces sans s'en rendre compte
    • on n'a pas contrôle sur l'émetteur d'un message reçu
    • on ne contrôle pas ce que l'on visite
  • Il y a cependant des comportements à adopter, il existe de solutions techniques
    • mot de passe
    • chiffrement
    • proxy

• Voici des références de qualité utiles : on peut limiter les risques d'atteinte à la vie privée.
  • https://www.laquadrature.net/fr/Vie_privee
  • https://controle-tes-donnees.net/
  • https://framabook.org/libertes-numeriques/
  • https://emailselfdefense.fsf.org/fr/
  • https://framablog.org/2016/08/25/non-je-ne-veux-pas-telecharger-votre-%c2%b5-dapplication/
  • https://www.torproject.org/

• Surveillance généralisée
• Pollution, épuisement des ressources de la planète
• Réchauffement climatique
• Croissance des inégalités
  • économique
  • numérique
• Crise identitaire ou morale

https://www.youtube.com/watch?v=yHUacCtGQzM

• Épuisement de la planète : au delà du recyclage, l'économie circulaire
  • Penser globalement, agir localement
  • approches
    • L'économie circulaire est un nouveau moyen pour faire de l'argent dans l'économie libérale actuelle
    • la recherche d'un mieux vivre et une remise en cause de l'économie libérale actuelle
  • https://theconversation.com/podcast-economie-circulaire-la-nouvelle-economie-88402
  • pour une économie circulaire Xavier P.-Laberge, À babord, n0 71, p40-41

• Le mouvement bio a émergé suite à la prise de conscience progressive des dégats de l'alimentation industrielle. Ses promoteurs revendiquent que produire et manger bio c'est :
  • Bon pour nous
  • Bon pour la planète
  • Bon pour le commerce
• Un éventail de réponses
  • végane
  • ne veut que du bio
  • recherche les produits bio
  • “fan de la malbouffe”, il ne veut pas changer et s'en fout

https://cefrio.qc.ca/publications/internet-medias-sociaux-mobilite/visionnement-connecte-par-les-jeunes-au-quebec/

• On est loin de connaître et contrôler les conséquences
• On assiste à l'émergence d'une dimension éthique
• De plus en plus de personnes, surtout les jeunes, cherchent à donner ou redonner un sens à leur vie

Ce qui nous manque dans un monde qui ne sait plus où aller : d'après Rudger Bregman auteur de Utopies réalistes :https://www.youtube.com/watch?v=sjyP7IOoxDU

• Initialement des individus plus ou moins isolés : émergence
  • Défricheurs
  • Alerteurs
  • Penseurs
• La diffusion
  • On en parle dans les media
  • Une offre émerge
• L'acceptation
  • Marché se structure
  • Politique s'en empare
  • Le commerce s'organise

On se doute bien de quelque chose de gros, mais on ne sait pas quoi

• Internet : un réseau d'ordinateurs, on y accède via un fournisseur d'accès qui nous fournit une adresse IP
  • quand on parle de neutralité du net, cela consiste à traiter tous les serveurs de la même manière
  • une application dans un cellulaire utilise internet, mais pas le web, et l'utilisateur ne contrôle pas l'application c'est le fournisseur de l'application qui en a le contrôle

• Web : un service parmi d'autres qui utilise internet. Il permet de mettre en relation des pages dans des serveurs via des liens.
  • On accède aux serveurs de pages (http) par un fureteur
  • On peut contrôler (dans une certaine mesure) les échanges entre le fureteur et les serveurs
    • https://framablog.org/2010/11/22/longue-vie-au-web-par-tim-berners-lee/
    • https://framablog.org/2016/08/25/non-je-ne-veux-pas-telecharger-votre-%c2%b5-dapplication/
    • https://zestedesavoir.com/tutoriels/662/debutez-en-informatique-avec-windows-8/621_internet-et-le-web/2971_courte-introduction-a-internet/

• Big data : cela concerne les bases de données qui peuvent être gigantesques, contenir des données de toutes sortes (nombres, textes, images, sons, vidéos) et à hautes fréquences de collecte (les 3 V Volume, Variety, Velocity)
  • https://zestedesavoir.com/articles/30/a-la-decouverte-de-lunivers-du-big-data/
• Algorithme et Intelligence Artificielle : maintenant utilisé pour désigner les techniques de l'intelligence artificielle qui permettent de faire ressortir des “connaissances” tapies dans de grande masses de données, d'où son association à big data

http://standblog.org/blog/pages/Surveillance

https://www.youtube.com/watch?time_continue=106&v=sxReNJ6jejU

• Fitbit : Combien de temps avant que cela ne se généralise et que les assureurs ne fassent payer plus cher les clients qui refusent de porter un tel mouchard connecté ou ceux qui font moins de 10 000 pas par jour ?
• il est intéressant d’imaginer ce qui pourrait arriver si on combinait ces données… avec celles d’autres personnes. Ainsi, on pourrait savoir qui est le partenaire de qui, juste en regardant quelles coordonnées GPS et quels indicateurs de relations sexuelles correspondent
• Uber sait quels sont les clients qui ont découché suite à une soirée

• Ce que nous devons craindre n'est pas ce que l'intelligence artificielle fera seule, mais comment les gens au pouvoir utiliseront l'intelligence artificielle pour nous contrôler et nous manipuler de façons nouvelles, parfois cachées, subtiles et inattendues.

https://www.ted.com/talks/zeynep_tufekci_we_re_building_a_dystopia_just_to_make_people_click_on_ads

• La capitalisation du marché de Facebook approche le demi milliard de dollars. C'est parce que c'est une très bonne architecture de persuasion.
• Beaucoup de ces plateformes financées par les pubs se proclament gratuites. Dans ce contexte, ça signifie que nous sommes le produit qui est vendu. Nous avons besoin d'une économie numérique où nos données et notre attention ne sont pas à vendre à l'autoritariste ou au démagogue le plus offrant.
• Des expériences montrent que ce que l'algorithme choisit de vous montrer peut influencer vos émotions. Mais ce n'est pas tout. Ça influence aussi votre comportement politique.

• Aujourd'hui, les informaticiens construisent des plateformes qui contrôlent chaque jour ce que voient un milliard de personnes.
• Il y a de l'éthique partout.
• Pour compliquer encore les choses, nos logiciels gagnent en puissance mais sont aussi moins transparents et plus complexes.

https://www.ted.com/talks/zeynep_tufekci_machine_intelligence_makes_human_morals_more_important#t-85578

• Beaucoup de ces progrès découlent d'une méthode : « l'apprentissage de la machine ». L'avantage est que cette méthode est très puissante. L'inconvénient est : nous ne comprenons pas vraiment ce que le système a appris.
• Nous ignorons ce que pense cette chose.
• Non seulement vous ignorez ce que votre système utilise pour choisir, mais vous ignorez où chercher. C'est une boîte noire. Elle a un pouvoir prédictif mais vous ne le comprenez pas.
• L'intelligence artificielle est arrivée. Cela signifie que nous devons nous accrocher encore plus aux valeurs et éthiques humaines.

Responsable politique d'un rapport sur l'IA

• à partir de min 21 avec l'IA statistique le résultat dépend de la qualité des données initiales
• autour de 28 min il faut des fournisseurs de confiance et a proximité
• min 36 : au canada belle approche avec un soucis semblable à l'Europe (exemple à suivre)

https://theconversation.com/que-doit-on-craindre-davantage-lintelligence-artificielle-ou-la-betise-humaine-89471

• Globalement
  • on ne peut pas échapper à l'IA
  • l'Europe a des soucis éthiques
  • souci du long terme
  • ne pas oublier l'humain et son bonheur

• Ce n'est pas la technologie en elle-même, mais
• l'amoncellement gigantesque des données insignifiantes à notre sujet mais qui une fois rapprochées ne le sont plus
• le non contrôle des algorithmes
• le modèle d'affaires des maîtres des données
• le vide politique

https://fr.wikipedia.org/wiki/Octet

https://www.datasciencecentral.com/profiles/blogs/structured-vs-unstructured-data-the-rise-of-data-anarchy

https://www.ghostery.com/lp/study/

Exemples de pistage détectés par privacy badger

http://crackedlabs.org/dl/CrackedLabs_Christl_CorporateSurveillance.pdf

https://framablog.org/2017/10/25/comment-les-entreprises-surveillent-notre-quotidien/

• La création de données s'accompagne de la création de métadonnées
  • date, lieu de création, machine, expéditeur, destinataire, caractéristiques du logiciel et appareil utilisé
  • sites consultés (navigation, clics, loke, …)
  • opérations (effacements)
• Un accord sur le contenu peut exclure les métadonnées
• Les métadonnées sont très révélatrices

• Le modèle d'affaire qui supporte la gratuité est basé sur la publicité, il repose sur la collecte des métadonnées et données ce qui équivaut à la surveillance des communications numériques
  • collecter l'information de profilage par attraction (moteur de recherche, réseau d'amis, analyse traffic, analyse usage des interfaces, …)
  • profiler
  • vendre des profils

La Silicon Valley est la version moderne du système colonial d’exploitation bâti par la Compagnie des Indes Orientales, mais elle n’est ni assez vulgaire, ni assez stupide pour entraver les individus avec des chaînes en fer. Elle ne veut pas être propriétaire de votre corps, elle se contente d’être propriétaire de votre avatar. Et maintenant, (…) plus ces entreprises ont de données sur vous, plus votre avatar est ressemblant, plus elles sont proches d’être votre propriétaire.

https://framablog.org/2018/01/04/les-nouveaux-leviathans-iv-la-surveillance-qui-vient/

https://framablog.org/2017/11/24/le-nouveau-servage/

Le but de tout ce que nous faisons est de modifier le comportement des gens à grande échelle. Lorsqu’ils utilisent nos applications, nous pouvons enregistrer leurs comportements, identifier les bons et les mauvais comportements, et développer des moyens de récompenser les bons et pénaliser les mauvais.

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2594754

https://fr.statista.com/infographie/10465/les-gafam-plus-riches-que-la-france/

https://www.youtube.com/watch?time_continue=17&v=fehOriS1yeM

Grâce à son moteur de recherche, Google connaît les questions que nous nous posons. Avec l’outil de mesure d’audience Google Analytics, le leader du secteur, Google sait quels sites nous visitons. Grâce aux téléphones Android (de marque Samsung, LG, Sony, HTC, etc.), il connaît nos déplacements. Grâce à Google Maps, il sait quels endroits nous envisageons de visiter. Grâce à Google Calendar, il sait avec qui nous avons rendez-vous, quand, et pourquoi. Grâce à Google Docs, il sait sur quoi nous travaillons. Grâce à Google Chrome, le navigateur, il sait quels sites nous visitons et le temps que nous y passons. Il a aussi accès à nos mots de passe, qui sont envoyés aux serveurs Google.

Surveillance:

autres statistiques

• But de l'entreprise : vendre de plus en plus, pour être de plus en plus riche
• Produit principal: publicité
  • les cerveaux et yeux qui lisent la publicité
  • le service de création et de diffusion
• clients : les publicistes qui payent
• matière première : les données fournies par les services attractifs
• outil : bigdata + Algorithmes

• Penser globalement, agir localement
  • S'assurer du contrôle de l'usage des logiciels
  • Exiger un comportement éthique du fournisseur de service
  • Payer le juste prix
• Construire les solutions alternatives, car elles existent
• Informer, informer, informer

• La plus grande dépense informatique du capitalisme de surveillance est la surveillance
• Le coût du service offert en échange des données est faible
  • il existe des logiciels libres
  • l'usage des serveurs est léger

https://framasoft.org/

https://chatons.org/

https://framabook.org/numerique-reprendre-le-controle/

• https://www.declarationmontreal-iaresponsable.com/la-declaration
• https://framablog.org/2017/09/19/createurs-du-numerique-parlons-un-peu-ethique/
• https://framablog.org/2017/11/17/le-chemin-vers-une-informatique-ethique/
• On peut-on lire en conclusion d'un article sur le numérique et l'enseignement de la gestion “En formant aux enjeux éthiques et de responsabilités liées à ces pratiques en développement”.https://theconversation.com/levolution-du-metier-denseignant-chercheur-liee-au-numerique-lexemple-des-sciences-de-gestion-87690

Les utopies réalistes, Rutger Bregman, Seuil, 2017
https://framablog.org/2017/11/17/le-chemin-vers-une-informatique-ethique/

Une approche éthique

https://piafs.org/

https://rea.portall.ca/

• COMMENT PERMETTRE À L’HOMME DE GARDER LA MAIN ? : https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
• PREPARING FOR THE FUTURE OF ARTIFICIAL INTELLIGENCE : https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf
• FRANCE INTELLIGENCE ARTIFICIELL : https://www.economie.gouv.fr/files/files/PDF/2017/Rapport_synthese_France_IA_.pdf
• Des chercheurs parlent de leur “intelligence artificielle” :https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/intelligence-artificielle-ou-en-est-on-vraiment_115887
• Intelligence artificielle et intelligence humaine, Laurent Alexandre (l'intelligence est la source de tous les pouvoirs, vers la min 12 de l'entretien) : https://www.youtube.com/watch?time_continue=781&v=QS951xiGGvI
• Apprentissage machine : https://zestedesavoir.com/tutoriels/1760/un-peu-de-machine-learning-avec-les-svm/

https://framablog.org/2018/01/11/quand-lactu-singe-black-mirror/