Under the Calculative Gaze

Projet

Les excès de l’Intelligence Artificielle comme la surveillance numérique ont longtemps été romancés, sujets des plus célèbres ouvrages dystopiques de science fiction, comme un avertissement de ce que notre société pourrait subir. Aujourd’hui, il n'y a plus de doute. Nous avons bel et bien passé un cap, si bien, que la réglementation de l’utilisation d'algorithmes dans le cadre de recrutements professionnels sera au programme des prochaines élections européennes en juin 2024. Concrètement, cela veut dire que les dispositifs ont déjà été développés et mis en place par les institutions publiques. Dans ces conditions, il ne s’agit plus d’établir les limites de ce qu’une IA peut accomplir ni comment, mais plutôt de savoir ce que sommes-nous prêt.e.s à accepter individuellement et collectivement. Quelle sera la norme demain ? C’est une question que l’artiste Sanela Jahic se pose depuis un moment. Son projet Under the Calculative Gaze montre la façon dont les systèmes algorithmiques contribuent à creuser les fossés sociaux déjà existants et représentent un danger pour nos droits civiques et libertés individuelles. Quelque part entre sociologie, art et activisme, Sanela nous raconte des histoires bien réelles.

Pour l’artiste, rien de nouveau ; l’application de l’IA dans diverses sphères publiques et son impact sont des chevaux de bataille. Alors qu'elle poursuit ses recherches, un jour de 2020, elle reçoit un e-mail d'un jeune chercheur qui développe un algorithme censé aider les chômeur.se.s, pour le compte d'un institut dans le cadre d'un projet européen portant sur le marché du travail. En réalité,il n'en est rien : il se contente de prédire qui pourrait trouver un emploi plus tôt et de classer les candidats. Mais les problèmes liés au chômage sont multiples, complexes, et nécessitent une restructuration sociale. Alors quand les institutions publiques et privées confient le pouvoir de décision sur l’avenir d’êtres humains à une machine, en réalité, elles se dédouanent de toute responsabilité. 

La création de ces systèmes peut émaner du gouvernement ou bien d’entreprises, mais généralement, public et privé travaillent main dans la main. Le pouvoir politique s’aligne sur les mesures à mettre en place, souvent avec l’idée sous-jacente d’assurer la sécurité des citoyen.ne.s, et détermine ce qu’il considère comme représentant une menace. Les entreprises, elles, fournissent le conseil et l’expertise. Mais leur fonctionnement et les critères applicables ne sont pas clairs, ce qui rend la tâche d’identifier l’injustice plus difficile. Ce qui est néanmoins certain, c’est que les minorités et groupes marginalisés sont très souvent les cobayes de ces systèmes à leur insu. La chercheuse en sciences politiques Virginia Eubanks est familière à ces pratiques ; elle décrivait et nous alertait déjà des dangers de leur normalisation pour les populations considérées “à risque” par l'État américain dans un article de 2014. Son interlocutrice de l’époque, une jeune mère au chômage, prévenait “..vous devriez faire attention à ce qui nous arrive. Vous êtes les prochain.e.s.”

Ces questions préoccupent beaucoup Sanela ; elle est profondément opposée à l'idée de construire un système qui renforce les dynamiques de pouvoir existantes et creuse les fossés sociétaux sur la base de valeurs d'exclusion et de critères d'attribution issus d'une idéologie. Secouée dans ses convictions, elle décide de lancer son projet. En 2021, elle est contactée par Aksioma – Institute of Contemporary Art à Ljubljana avec qui elle a déjà collaboré par le passé et leur présente son projet. Ils.elles vont soutenir la production via konS ≡ Platform for Contemporary Investigative Art, une plateforme de financement créée à l’initiative d’organisations indépendantes culturelles slovènes, dédiée à la recherche artistique et la création interdisciplinaire. La collaboration avec Aksioma est à son habitude fluide, l’artiste se sent encouragée et épaulée à travers tout le processus, et est reconnaissante envers leur équipe.

Elle contacte d’abord Dan McQuillan, dont l' article Mental Health and Artificial Intelligence: Losing your voice touche exactement sa corde sensible. À ce moment-là, l’expert en informatique créative et sociale est en train de rédiger Resisting AI, ce qui ne l’empêche pas de répondre à Sanela. Il accepte de collaborer sur une vidéo qui fera partie de l’installation artistique finale. Elle se rend à Londres pour enregistrer Dan et prend spontanément contact avec 56a infoshop, un centre social DIY qu'elle considère comme un espace de résistance et dont elle fait des scans en 3D. Plus tard, elle entrera également en contact avec Extinction Rebellion, qui l'autorisera à utiliser certains de leurs contenus vidéo pour son projet.

Puis l’artiste se met sur la piste de communautés actives dans la lutte contre les injustices dans le monde du travail. Elle tombe sur un travailleur syndiqué d’un entrepôt Amazon basé à Chicago qu’elle contacte, non pas en tant qu’artiste, mais en tant que travailleuse de l’industrie créative qui fait face à des difficultés dans son pays. Il lui partage ses expériences d’organisation collective, ses propres difficultés, mais aussi la nécessité de synchroniser les mouvements syndicalistes à travers le monde. Sanela est inspirée ; au-delà des lois, des mesures sociales, des différences géographiques et culturelles, tous ces individus, partout dans le monde, ont en commun qu’ils.elles se battent pour de meilleures conditions de travail. Elle relit son interview une dizaine de fois, elle ressent la puissance derrière ses idées et ses mots qui renforcent ses propres croyances, pas seulement dans cette lutte, mais dans la capacité de changer sa propre situation.

Lorsqu'elle recherche des actions similaires dans d'autres pays, elle trouve Magda Malinowska, qui a été illégalement licenciée par Amazon pour avoir dénoncé le décès d'un collègue dû à de mauvaises conditions de travail. Membre du syndicat polonais Inicjatywa Pracownicza, elle a pris position en portant l'affaire devant les tribunaux et en encourageant les travailleurs à faire valoir leurs droits. Ce n’est pas l'entreprise en elle-même qui intéresse Sanela, Amazon est d’ailleurs ici une coïncidence, mais plutôt de savoir quels sont les principes de base d’une telle organisation, et comment rétablir la confiance et la croyance d’un meilleur avenir chez les travailleur.e.s. Alors l’artiste, à l’écoute, filme les témoignages des expériences et les histoires ; la façon dont on sépare les ouvrier.e.s, le contrôle de leur temps de conversation, de leur temps de pause et de leur localisation dans l’entrepôt, le glissement vers l’automatisation du corps mais aussi et surtout leurs actions de résistance.

En 2023, l’installation prend la forme de plusieurs vidéos, une série de posters et des structures qui s’apparentent à des hamacs. La vidéo No to AI, Yes to a Non-fascist Apparatus est une alternance d’extraits d’Extinction Rebellion lors d’une manifestation sur un site Amazon pendant Black Friday et de photogrammétries de lieux où la résistance s’organise. C’est une technique de mesure d’un objet ou d’une scène à partir de photographies depuis plusieurs points de vue, ressemblant à un scan 3D. Ici, il y a des imperfections, voulues par Sanela pour contrer l’idée de perfection générée par la machine. La vidéo est narrée par Dan McQuillan qui a écrit le texte spécifiquement pour l'œuvre, et décrit les tendances fascistes de l’IA. Les autres vidéos présentent des interviews réalisées par l'artiste et des séquences collectées dans divers entrepôts d'Amazon par des travailleu.se.s syndiqué.e.s qui ont secrètement filmé leur lieu de travail avant le projet. Elle crée également un environnement hautement systématisé et informatif avec une série d'affiches intitulées, 1s and 0s, haves and have-nots, créés à partir de Carbon Design System, une plateforme open source de design de produits lancée par IBM. Celles-ci renvoient à un modèle marketing classique ; l’image d’un.e client.e satisfait.e, souriant.e, accompagné d’un texte qui témoigne de leur expérience. Ici, Sanela utilise ces codes, mais brise l'illusion en présentant une brève description d'un exemple concret de comment et où l'application d'algorithmes probabilistes a conduit à des pratiques discriminatoires et préjudiciables. Bien que l’artiste ait collecté plus de 200 exemples, sa sélection doit permettre au public de s’identifier, elle diversifie alors les contextes sociaux, professionnels, géographiques, l'apparence physique, le genre, etc, faisant du système le point commun de tou.te.s les visiteur.se.s. 

Enfin, les structures visibles dans l’installation sont basées sur le design des tours de protestation en bambou utilisées par Extinction Rebellion lors de leurs manifestations ; Il s'agit de structures de tenségrité, une structure autoportante composée d'éléments isolés au sein d'un réseau de cordes soumis à une tension continue. Créées à partir de matériaux très légers, leur transport et montage sont simples et rapides. Elles servent à bloquer une entrée ou bien à se réfugier en hauteur lors de descentes de police sur les sites d’intervention. Dans l’installation de Sanela, elles permettent au public de connecter avec les autres éléments en y prenant place tout en contrebalançant l’omniprésence numérique.

Quand elle reçoit une invitation à exposer à la biennale Art Meets Radical Openness, Sanela n’hésite pas. L’évènement est dédié à la résistance au monopole économique, social et idéologique des géants du numérique, en créant des espaces d’expression artistiques, de partage et d’apprentissage, en toute bienveillance. Le thème de cette année, Dancing at the Crossroads, nous invite à imaginer les alternatives pour un future souhaitable où décolonisation technologique, résilience citoyenne et défense de la nature sont de mise. Le projet est à découvrir entre le 8 et 11 mai 2024 à la galerie MAERZ de Linz.

Les auteur.e.s de science fiction nous dépeignaient des sociétés futuristes déjà bien ancrées dans la dictature technologique, mais ne donnaient que peu d’éléments sur l’acheminement vers celle-ci. Les artistes engagé.e.s tel.le.s que Sanela Jahić nous montrent une voie concrète et nous mettent en garde contre le glissement progressif de la politique. 

Under the Calculative Gaze constate : l'indiscrétion du regard que pose l’IA sur nos vies et que nous subissons d’une part, et d’autre part, le potentiel changement de nos comportements pour répondre à la future nouvelle norme qu’elle finira par nous imposer. Mais n’oublions pas d’avoir confiance en notre capacité de nous organiser collectivement et d’agir contre l’injustice.

Artiste : 
Sanela Jahić
Under the Calculative Gaze

Collaborations : 
Directeur technique : Andrej Primožič
Auteur de l'essai : ‘No to AI, Yes to a Non-fascist Apparatus’: Dan McQuillan
Visuel et design graphique : Jaka Neon
Animation 3D : Toni Mlakar
Post-production audio : Julij Zornik
Post-production image : Art Rebel 9
Production: Aksioma – Institute for Contemporary Art / konS ≡ Platform for Contemporary Investigative Art

Artiste

« Je tends la main parce que je veux apprendre, je veux voir d'autres perspectives, je veux inclure d'autres histoires. Le processus de collaboration me tient particulièrement à cœur. Il me permet d'entrer en contact avec des personnes, de connaître et de pénétrer dans différents environnements de travail, d'intégrer des connaissances provenant d'autres domaines professionnels, de faire l'expérience de l'interaction et de la fusion des disciplines et de la manière dont elles peuvent se défier mutuellement. [...] Cela me motive ». L’idée reçue que les artistes travaillent cloîtré.e.s dans leur atelier a encore aujourd’hui la peau dure auprès du grand public. Pourtant, les pratiques collaboratives sont largement répandues dans le milieu, avec ou sans interdisciplinarité. Nombre d’artistes puisent l’inspiration dans le dialogue avec des communautés d’individus ce qui implique la construction de relations de confiance et un travail de recherche basé sur l’endurance. L'œuvre d’art devient alors un message puissant porté par un témoignage collectif. Sanela Jahić place l’individu et la communauté au centre de sa pratique ; avec sa propre histoire pour point de départ, elle nous donne un aperçu de celle des autres.

Née en Slovénie, Sanela grandit dans une double culture. Ses parents viennent d’une petite ville de Bosnie qu’ils.elles ont quitté, sont issu.e.s de la classe ouvrière et sont de confession musulmane. Elle se souvient se sentir perçue différemment étant petite, notamment dans le système scolaire. À l’école primaire, elle a de bonnes notes et remarque déjà la différence de ton des enseignant.e.s vis-à-vis de ceux et celles qui ont de bonnes et de mauvaises notes. Les bonnes notes étant synonyme de réussite, elle étonne tout le monde quand elle décide de se tourner vers des études d’art plus tard, peut-être par esprit de rébellion. C’est pourtant là qu’elle sent pour la première fois qu’elle commence à se rattacher à ses origines. Elle est entourée d’individus venant de partout avec différentes histoires et comprend que ces histoires et origines sont la source d'expériences personnelles variées. Elles donnent forme à nos idées, et des indices sur la manière dont nous fonctionnons et ce qui nous intéresse. Et ce qui provoque Sanela, ce sont les injustices résultant de rapports de pouvoir. 

Elle étudie la peinture dans un premier temps, puis commence à questionner la notion même de peinture et de ses limitations. Alors elle se met à construire des machines et, assez vite, intègre la technologie dans son travail. Elle collabore avec des spécialistes en programmation et en électronique, s’intéresse à l’automatisation, mais aussi ouvre des conversations avec ces personnes à propos de leur travail pour réaliser que ces discussions sont aussi importantes que le travail en soi. Elle souhaite mettre ces points de vue en valeur dans ses œuvres. Elle recherche des informations sur les lieux de travail, sur la façon dont la technologie y est utilisée, et la manière dont les travailleur.se.s sont traité.e.s. Sanela se sert de son art pour se connecter aux autres et révéler leurs histoires, c’est pour elle le moteur de sa motivation.

Photo credit : Tanja Kanazir – Drugo more

De plus, elle n’est pas étrangère à la vie d’ouvrier.e, déjà par le contexte familial, mais aussi par ses jobs d’été réguliers. Et certaines de ses expériences là-bas restent avec elle ; alors qu’elle travaille dans une usine de l’industrie textile, elle doit placer les fils dans une machine qui fonctionne en continu. Il est difficile de synchroniser les composants avec la machine, et parfois, la fragilité de certains fils mettent en péril son bon fonctionnement, et la machine s’arrête. Sanela se souvient alors de son stress, tellement, qu'elle en rêve la nuit. Nous connaissons tou.te.s cette sensation.. Alors, pour mettre fin au cauchemar, elle développe une stratégie et arrête de prendre des pauses. Mais ce n’est pas ce stress qu’elle retient de cette expérience ; ce sont d’abord les ouvrier.e.s qui laissent leur machines pour lui venir en aide, puis la conversation avec cette collègue : si la direction réalise qu’une jeune étudiante est capable de travailler aussi vite que les ouvrier.e.s qui sont ici depuis plusieurs années, ils.elles élèveront le standard de travail pour tout le monde. Il est de l’intérêt collectif de prendre des pauses et d’arrêter de se focaliser sur la machine. 

Des histoires comme celles-ci, Sanela en collecte beaucoup au fil du temps, et non seulement elle les intègre dans son art, mais elle en tire des leçons. Elle va à la rencontre de communautés de travailleur.se.s en tant que personne et non en tant qu’artiste, et établit des relations de confiance. Pour elle, c’est une priorité ; à la manière d’une journaliste, elle invite des personnes à partager leurs histoires, recherche les informations annexes pour les contextualiser, prend position, puis réfléchit à la meilleure manière de communiquer son message au public à travers une installation. Jusque là, ses propres constats et celui des autres ne semblent pas très optimistes ; on projette les individus dès leur plus jeune âge dans un système standardisé à travers des grilles d’évaluation inadéquates, et brise leur croyance en l’idée de pouvoir dépasser ce système, pour mieux restreindre la place à la pensée individuelle et à l’autonomie plus tard au travail.

Pour les travailleur.se.s d’usine, le problème suivant se pose: personne n’est irremplaçable. Et cela empire avec l’intégration croissante et rapide des nouvelles technologies dans les processus de travail. Sous le regard critique de Sanela, le sujet prend de plus en plus de place dans ses œuvres pour venir souligner le besoin essentiel d’humanité. En 2018, son projet Uncertainty in the Loop dénonce la généralisation de l’automatisation dans l’organisation du travail, l’utilisation d'algorithmes prédictifs et leurs risques, et l’élimination progressive de qualités humaines essentielles pour certains domaines, telles que la créativité ou l’empathie. La systématisation des tâches est vieille de 120 ans (ou du moins la théorisation du Taylorisme), les patron.ne.s ont toujours modifié les normes de travail en poussant les capacités physiques et psychologiques des ouvrier.e.s au nom de la productivité. Mais que se passe-t-il lorsque l'algorithme de la machine est appliqué à la production d'œuvres d'art ? Sanela explore la capacité de la machine à produire des œuvres d’art après avoir intégré les processus de création de l’artiste. Comme pour As with Under the Calculative Gaze, elle met ici en évidence son inquiétude quant au glissement progressif vers les prises de décision lié aux travailleur.se.s par la machine, guidées par des algorithmes. Elle n’hésite pas à mettre en parallèle l’avantage des institutions en position de pouvoir et le cadre législatif suffisamment imprécis, qui pousse les travailleur.se.s à créer leur propres organisations légales pour se protéger. 

Mais comme à l’usine textile, Sanela voit de l’humanité, de la solidarité et de la résilience, et cherche à les mettre en valeur. Elle milite aussi pour de meilleures conditions de travail, et, rejoint Zasuk (dont elle ne fait plus partie aujourd’hui) une organisation slovène pour les travailleur.se.s indépendants des diverses industries du secteur culturel et créatif. En déterminant l’orientation de l’organisation et en établissant les liens entre les différents problèmes rencontrés par les travailleur.se.s, ils.elles pourront mieux se soutenir. Et ils.elles n’hésitent pas à connecter avec d’autres syndicats basés dans d’autre pays européens. Car le secteur culturel rencontre des problèmes spécifiques, bien que communs à tous les secteurs culturels à un niveau global ; les artistes sont continuellement payé.e.s à la visibilité, les organisations sont mises en compétition dans la course aux subventions publiques, et souvent, ce n’est qu’à un certain point de nos carrières que nous commençons à nous considérer comme des travailleur.se.s, du fait de notre passion pour le métier qui finit par nous épuiser. Pourtant, nous savons pertinemment que la passion et la visibilité n’ont jamais payé les factures de qui que ce soit. 

Alors quand il s’agit de choisir où elle présente son travail, Sanela regarde les organisations qu’elle juge en phase avec son éthique et ses valeurs, indépendamment de l’envergure ou de la réputation de celles-ci, et il en va de même pour ses publications. Cette année, Under the Calculative Gaze a été exposé par Drugo More en Croatie, puis fera l’objet d’une exposition personnelle dans le cadre du festival Art Meets Radical Openness à Linz (8-11 mai 2024) auquel l’artiste participera. L’exposition ouvre le 7 mai au soir à la galerie MAERZ , et sera visible jusqu’au 29 mai, avant de repartir à Vérone en Italie, à la Fondazione Spazio Vitale.

Photo credit : Katja Goljat & Matjaž Rušt – konS

Sanela Jahić se sent profondément concernée par la situation des travailleur.se.s et nous propose une vision de l’avenir qui nous attend si nous ne réagissons pas dès maintenant.

Mais elle prend soin aussi d’inclure beaucoup d’espoir dans le message de ses œuvres, un espoir viscéral et résolument humain.