Connaître, Surveiller, Contrôler
Thomas Le Bonniec a été présenté comme lanceur d’alerte après avoir fait part de son expérience de travail chez Apple comme entraineur d’intelligence artificielle. Mais c’est avant tout un chercheur diplômé en sociologie, intéressé par l’impact des technologies sur la société.
Vous êtes amenés dans ce cours à des CultureS numériqueS, au pluriel ; je suis donc venu vous parler d’une facette spécifique du numérique, et comment elle détermine nos comportements quotidiens, sans doute l’aspect le plus décourageant et effrayant du numérique. Il s’agit donc de la surveillance et de l’intelligence artificielle telles que mises en application aujourd’hui par les grandes corporations et les gouvernements qui sont à la pointe de ces techniques.
Je vous parlerai en particulier, mais pas seulement, de reconnaissance vocale, car c’est l’expérience que j’ai connue. Il est beaucoup question de reconnaissance faciale et de vidéosurveillance ces temps-ci ; or, si on peut vous identifier et vous pister, on ne peut pas forcément vous connaître et vous comprendre autant que si l’on capte tout ce que vous dites, comment vous le dites, à qui, et en quelles circonstances.
La clé de voûte de la compréhension du monde est le langage ; c’est ce qui détermine ce que vous pouvez nommer et comment.
Vous connaissez peut-être le terme de « novlangue », conçu par George Orwell en 1984. Dans la nation totalitaire qu’il imagine, les mots sont refaçonnés pour interdire, à terme, la possibilité même d’envisager de penser en dehors de l’idéologie du parti.
Je vais donc partir de la fiction, et vous montrer comment elle est rattrapée par la réalité, en faisant une gradation du projet le plus abouti en termes de contrôle et de surveillance, à celui qui nous est le plus proche.
Et j’inclurai, car c’est essentiel, la notion que tout ceci n’est pas un processus froid, net, précis et lointain, comme une certaine esthétique voudrait vous faire croire que fonctionne le numérique. Non, l’ Intelligence artificielle n’est pas « propre » et automatisée, elle consomme du travail humain, un labeur répétitif qui permet à la machine d’absorber les données. Un labeur qui implique d’écouter des choses, parfois grotesques, parfois ridicules, parfois drôles, mais surtout des enregistrements réels, de personnes vivantes, dont vous pouvez percevoir toute l’existence à travers ces fragments de voix volés, puis triturés et digérés.
Thomas Le Bonniec