Vos actions : Créer un document, voir la page générale.

Cultures numériques

Cours de Bachelor 1
Home /

Critical digital

Quelques pistes de réflexion

L’accélération des flux est à la fois ce qui a déterminé l’évolution du numérique, et une de ses conséquences les plus incalculables. Il est donc normal que chaque jour qui passe amène son flot d’anecdotes, de pensées et d’études sur ce sujet qui désormais chacun de nous, même ceux qui s’en croient éloignés.

La disruption fait irruption dans le quotidien

Alexa aime la fête, Amazon couvre les frais

Alexa (l’assistant personnel commercialisé par Amazon) a allumé un samedi soir de novembre 2017, à 1h50 du matin, les enceintes intelligentes de Oliver Haberstroh, un habitant à Pinneberg (Allemagne), et a joué avec un volume sonore de boite de nuit une playlist Spotify. Les voisins sont descendu pour arrêter ce qu’ils croyaient être une fête, mais comme personne ne répondait ils ont fini par appeler la police, qui a défoncé la porte pour trouver un appartement vide. Oliver Haberstroh a eu la mauvaise surprise de trouver sa serrure changée. La police lui a donné une clé en échange d’une facture d’intervention salée. Il s’est retourné sur Amazon, qui après avoir assuré, log à l’appui, que c’est une erreur faite par le smartphone du client probablement par erreur par celui-ci, est intervenu pour éponger la facture.
C’est ce dernier point qui nous intéresse. Amazon comme d’autres acteurs industriels sont en train de tenter de faire adopter le concept d’assistant personnel informatique. Pour que cette technologie productrice de données personnelles riches en retombées économique soit acceptée par la population, il lui faut une image d’utilité, de fun, et certainement pas l’accompagner du risque d’effets pervers comme cette anecdote. C’est probablement la raison pour laquelle malgré sa possibilité juridique de nier sa responsabilité, la compagnie Amazon est intervenue financièrement à hauteur de 500 euros.
Alexa sur Amazon
Un article sur l’anecdote

Un logiciel pour prédire les récidives moins efficace que des quidams

Compas (Correctional Offender Management Profiling for Alternative Sanctions) est un logiciel dont les concepteurs vantent et vendent la capacité à aider les juges en prédisant si un condamné commettra une récidive dans les deux ans. Il se base pour ça sur des données comme le genre, l’âge et les antécédents judiciaires, et plus de 120 autres indicateurs obscurs. Compas est déjà en usage dans plusieurs juridictions aux Etats-Unis et gagne des marché tant l’idée d’un regard "neutre" et "objectif" séduit les juges attaqués régulièrement pour leur jugement biaisé par des clichés et leur subjectivité.

Julia Dressel et Hany Farid, professeurs d’informatique au Dartmouth College, ont recruté des personnes sans formation spécifique sur internet, leur ont donné quelques information sur le genre, l’age et les antécédents et on posé la question « Pensez-vous que cette personne commettra un autre crime d’ici deux ans ? ». Leur résultat se sont avérés être fiables à 67% deux ans plus tard, contre 65,2% pour le logiciel vendu à des juridictions locales à foison.

De plus, le logiciel a été passé au crible d’autres études qui montrent qu’il surévalue les risques de récidives des afro-américains. Un étrange biais.

http://www.lemonde.fr/pixels/article/2018/01/17/l-efficacite-d-un-logiciel-cense-predire-la-recidive-a-nouveau-critiquee_5243218_4408996.html

Cartographie numérique

Google maps en double tracé
En Inde et en Chine ou Google souhaite garder ses parts de marché, la vision locale des frontières avec le Cachemire diffère de la version internationale. Un indien connecté sur Google maps voit le Cachemire comme intégré au territoire indien. En se connectant depuis la Chine par contre l’utilisateur voit le Cachemire divisé en 3 parties avec une zone appartenant à la Chine, une autre au Pakistan et une dernière à l’Inde. Google ajuste localement le dessin de ses frontières en fonction des lois des États régissant le tracés des frontières nationales mais prend aussi des initiatives à des endroits ou il n’est pas contraint légalement.
https://www.youtube.com/watch?v=YFKGp0EbnmA

Réfugié numérique

Tests biométriques et data deal de camps
Des sociétés high tech privées proposent leurs services au HCR (Haut-Commissariat des Nations unies pour les réfugiés). Pour elles les camps de réfugiés sont un excellent terrain d’essai pour leur applications d’autant que cela associe leurs images à de l’humanitaire.
Dans ce supermarché implanté au milieu du camp de Zaatari, en Jordanie, chacun doit dorénavant faire scanner son œil à la caisse pour payer ses achats...
https://www.monde-diplomatique.fr/2017/05/A/57443

Musique Artificielle Intelligente

Les procédés d’Intelligence Artificielle (IA) s’appliquent de plus en plus aux domaines créatifs : la confection de sites web avec The Grid, et dernièrement la musique avec Flow Machines. Sur quoi repose cette fameuse intelligence, sur quelles connaissances, sur quelles cultures ? Comment se nourrir de nouvelles expériences ? Comment se réinventer ?

Ici, deux articles relatant Flow Machines avec screencast à l’appui du logiciel, et les hits encore chauds sortis de ses bandes passantes.

http://www.lemonde.fr/pixels/article/2018/02/02/effet-de-mode-ou-revolution-comment-l-intelligence-artificielle-s-invite-dans-la-musique_5250726_4408996.html
http://www.huffingtonpost.fr/2017/12/01/ecoutez-ce-morceau-compose-par-stromae-et-une-intelligence-artificielle_a_23293981/

Deep fake et le chipotage vidéo

Des vidéos intégrant des visages de célébrités dans des films X pullulent en ligne à cause d’un programme accessible à tous et font débat.
En se basant notamment sur une technologie d’IA mise à disposition gratuitement par Google, nommée Tensorflow, un développeur se faisant appeler Deepfakes a créé un logiciel qui permet d’intégrer avec un résultat pas professionnel mais convaincant. Comme souvent, c’est la haute technologie puis la pornographie qui sont les têtes de proue de la recherche en la matière, mais le conséquence de cette technologie sur la capacité à faire circuler du faux sont incalculables.
Un article de Morgane Tual sur le site du Monde

Par , 4 février 2018