Under The Calculative Gaze

Les excès de l’Intelligence Artificielle comme la surveillance numérique ont longtemps été romancés, sujets des plus célèbres ouvrages dystopiques de science fiction, comme un avertissement de ce que notre société pourrait subir. Aujourd’hui, il n'y a plus de doute. Nous avons bel et bien passé un cap, si bien, que la réglementation de l’utilisation d'algorithmes dans le cadre de recrutements professionnels sera au programme des prochaines élections européennes en juin 2024. Concrètement, cela veut dire que les dispositifs ont déjà été développés et mis en place par les institutions publiques. Dans ces conditions, il ne s’agit plus d’établir les limites de ce qu’une IA peut accomplir ni comment, mais plutôt de savoir ce que sommes-nous prêt.e.s à accepter individuellement et collectivement. Quelle sera la norme demain ? C’est une question que l’artiste Sanela Jahic se pose depuis un moment. Son projet Under the Calculative Gaze montre la façon dont les systèmes algorithmiques contribuent à creuser les fossés sociaux déjà existants et représentent un danger pour nos droits civiques et libertés individuelles. Quelque part entre sociologie, art et activisme, Sanela nous raconte des histoires bien réelles.

Pour l’artiste, rien de nouveau ; l’application de l’IA dans diverses sphères publiques et son impact sont des chevaux de bataille. Alors qu'elle poursuit ses recherches, un jour de 2020, elle reçoit un e-mail d'un jeune chercheur qui développe un algorithme censé aider les chômeur.se.s, pour le compte d'un institut dans le cadre d'un projet européen portant sur le marché du travail. En réalité, il n'en est rien : il se contente de prédire qui pourrait trouver un emploi plus tôt et de classer les candidats. Mais les problèmes liés au chômage sont multiples, complexes, et nécessitent une restructuration sociale. Alors quand les institutions publiques et privées confient le pouvoir de décision sur l’avenir d’êtres humains à une machine, en réalité, elles se dédouanent de toute responsabilité.

La création de ces systèmes peut émaner du gouvernement ou bien d’entreprises, mais généralement, public et privé travaillent main dans la main. Le pouvoir politique s’aligne sur les mesures à mettre en place, souvent avec l’idée sous-jacente d’assurer la sécurité des citoyen.ne.s, et détermine ce qu’il considère comme représentant une menace. Les entreprises, elles, fournissent le conseil et l’expertise. Mais leur fonctionnement et les critères applicables ne sont pas clairs, ce qui rend la tâche d’identifier l’injustice plus difficile. Ce qui est néanmoins certain, c’est que les minorités et groupes marginalisés sont très souvent les cobayes de ces systèmes à leur insu. La chercheuse en sciences politiques Virginia Eubanks est familière à ces pratiques ; elle décrivait et nous alertait déjà des dangers de leur normalisation pour les populations considérées “à risque” par l'État américain dans un article de 2014. Son interlocutrice de l’époque, une jeune mère au chômage, prévenait “..vous devriez faire attention à ce qui nous arrive. Vous êtes les prochain.e.s.”

Ces questions préoccupent beaucoup Sanela ; elle est profondément opposée à l'idée de construire un système qui renforce les dynamiques de pouvoir existantes et creuse les fossés sociétaux sur la base de valeurs d'exclusion et de critères d'attribution issus d'une idéologie. Secouée dans ses convictions, elle décide de lancer son projet. En 2021, elle est contactée par Aksioma - Institute of Contemporary Art à Ljubljana avec qui elle a déjà collaboré par le passé et leur présente son projet. Ils.elles vont soutenir la production via konS ≡ Platform for Contemporary Investigative Art, une plateforme de financement créée à l’initiative d’organisations indépendantes culturelles slovènes, dédiée à la recherche artistique et la création interdisciplinaire. La collaboration avec Aksioma est à son habitude fluide, l’artiste se sent encouragée et épaulée à travers tout le processus, et est reconnaissante envers leur équipe.

Elle contacte d’abord Dan McQuillan, dont l'article Mental Health and Artificial Intelligence: Losing your voice touche exactement sa corde sensible. À ce moment-là, l’expert en informatique créative et sociale est en train de rédiger Resisting AI, ce qui ne l’empêche pas de répondre à Sanela. Il accepte de collaborer sur une vidéo qui fera partie de l’installation artistique finale. Elle se rend à Londres pour enregistrer Dan et prend spontanément contact avec 56a infoshop, un centre social DIY qu'elle considère comme un espace de résistance et dont elle fait des scans en 3D. Plus tard, elle entrera également en contact avec Extinction Rebellion, qui l'autorisera à utiliser certains de leurs contenus vidéo pour son projet.

Puis l’artiste se met sur la piste de communautés actives dans la lutte contre les injustices dans le monde du travail. Elle tombe sur un travailleur syndiqué d’un entrepôt Amazon basé à Chicago qu’elle contacte, non pas en tant qu’artiste, mais en tant que travailleuse de l’industrie créative qui fait face à des difficultés dans son pays. Il lui partage ses expériences d’organisation collective, ses propres difficultés, mais aussi la nécessité de synchroniser les mouvements syndicalistes à travers le monde. Sanela est inspirée ; au-delà des lois, des mesures sociales, des différences géographiques et culturelles, tous ces individus, partout dans le monde, ont en commun qu’ils.elles se battent pour de meilleures conditions de travail. Elle relit son interview une dizaine de fois, elle ressent la puissance derrière ses idées et ses mots qui renforcent ses propres croyances, pas seulement dans cette lutte, mais dans la capacité de changer sa propre situation.

Lorsqu'elle recherche des actions similaires dans d'autres pays, elle trouve Magda Malinowska, qui a été illégalement licenciée par Amazon pour avoir dénoncé le décès d'un collègue dû à de mauvaises conditions de travail. Membre du syndicat polonais Inicjatywa Pracownicza, elle a pris position en portant l'affaire devant les tribunaux et en encourageant les travailleurs à faire valoir leurs droits. Ce n’est pas l'entreprise en elle-même qui intéresse Sanela, Amazon est d’ailleurs ici une coïncidence, mais plutôt de savoir quels sont les principes de base d’une telle organisation, et comment rétablir la confiance et la croyance d’un meilleur avenir chez les travailleur.e.s. Alors l’artiste, à l’écoute, filme les témoignages des expériences et les histoires ; la façon dont on sépare les ouvrier.e.s, le contrôle de leur temps de conversation, de leur temps de pause et de leur localisation dans l’entrepôt, le glissement vers l’automatisation du corps mais aussi et surtout leurs actions de résistance.

En 2023, l’installation prend la forme de plusieurs vidéos, une série de posters et des structures qui s’apparentent à des hamacs. La vidéo No to AI, Yes to a Non-fascist Apparatus est une alternance d’extraits d’Extinction Rebellion lors d’une manifestation sur un site Amazon pendant Black Friday et de photogrammétries de lieux où la résistance s’organise. C’est une technique de mesure d’un objet ou d’une scène à partir de photographies depuis plusieurs points de vue, ressemblant à un scan 3D. Ici, il y a des imperfections, voulues par Sanela pour contrer l’idée de perfection générée par la machine. La vidéo est narrée par Dan McQuillan qui a écrit le texte spécifiquement pour l'œuvre, et décrit les tendances fascistes de l’IA. Les autres vidéos présentent des interviews réalisées par l'artiste et des séquences collectées dans divers entrepôts d'Amazon par des travailleu.se.s syndiqué.e.s qui ont secrètement filmé leur lieu de travail avant le projet. Elle crée également un environnement hautement systématisé et informatif avec une série d'affiches intitulées, 1s and 0s, haves and have-nots, créés à partir de Carbon Design System, une plateforme open source de design de produits lancée par IBM. Celles-ci renvoient à un modèle marketing classique ; l’image d’un.e client.e satisfait.e, souriant.e, accompagné d’un texte qui témoigne de leur expérience. Ici, Sanela utilise ces codes, mais brise l'illusion en présentant une brève description d'un exemple concret de comment et où l'application d'algorithmes probabilistes a conduit à des pratiques discriminatoires et préjudiciables. Bien que l’artiste ait collecté plus de 200 exemples, sa sélection doit permettre au public de s’identifier, elle diversifie alors les contextes sociaux, professionnels, géographiques, l'apparence physique, le genre, etc, faisant du système le point commun de tou.te.s les visiteur.se.s.

Enfin, les structures visibles dans l’installation sont basées sur le design des tours de protestation en bambou utilisées par Extinction Rebellion lors de leurs manifestations ; Il s'agit de structures de tenségrité, une structure autoportante composée d'éléments isolés au sein d'un réseau de cordes soumis à une tension continue. Créées à partir de matériaux très légers, leur transport et montage sont simples et rapides. Elles servent à bloquer une entrée ou bien à se réfugier en hauteur lors de descentes de police sur les sites d’intervention. Dans l’installation de Sanela, elles permettent au public de connecter avec les autres éléments en y prenant place tout en contrebalançant l’omniprésence numérique.

Quand elle reçoit une invitation à exposer à la biennale Art Meets Radical Openness, Sanela n’hésite pas. L’évènement est dédié à la résistance au monopole économique, social et idéologique des géants du numérique, en créant des espaces d’expression artistiques, de partage et d’apprentissage, en toute bienveillance. Le thème de cette année, Dancing at the Crossroads, nous invite à imaginer les alternatives pour un future souhaitable où décolonisation technologique, résilience citoyenne et défense de la nature sont de mise.
Le projet est à découvrir entre le 8 et 11 mai 2024 à la galerie MAERZ de Linz.

Les auteur.e.s de science fiction nous dépeignaient des sociétés futuristes déjà bien ancrées dans la dictature technologique, mais ne donnaient que peu d’éléments sur l’acheminement vers celle-ci. Les artistes engagé.e.s tel.le.s que Sanela Jahić nous montrent une voie concrète et nous mettent en garde contre le glissement progressif de la politique.

Under the Calculative Gaze constate : l'indiscrétion du regard que pose l’IA sur nos vies et que nous subissons d’une part, et d’autre part, le potentiel changement de nos comportements pour répondre à la future nouvelle norme qu’elle finira par nous imposer. Mais n’oublions pas d’avoir confiance en notre capacité de nous organiser collectivement et d’agir contre l’injustice.