Lors de sa création, le Forum MUTEK se tenait 6 mois avant le festival. En 2018, les deux évènements se sont greffés l’un à l’autre, offrant une perspective unique sur la créativité numérique. Programmée par Sarah Mackenzie et animée par Claudine Hubert, la 9e édition s’intitule « Courants d’avenir » et se tiendra toute la semaine aux 7 doigts de la main. MUTEK nous propose de plonger dans des thèmes diversifiés et dans l’air du temps : la relation entre culture, technologie et la crise climatique ; l’accessibilité, l’inclusion au sein des technologies immersives ; le pouvoir de la tech ; l’art, la gouvernance et l’intelligence artificielle et le futur des festivals. Voici un compte rendu de la conférence principale de la deuxième journée qui portait sur l’intelligence artificielle.
Crédits photos : Maryse Boyce
Conférence
Les discours changeants de l’IA : faire face au pouvoir
Sarah Myers West – AI Now Institute
« Nous sommes à un moment où le travail critique ne doit pas être réduit au pire des scénarios, mais où il peut être fermement enraciné dans ses origines, dans la possibilité d’une vision alternative d’un monde où la démocratie à petite échelle est possible. »
Les propos de Sarah Myers West ont touché par leur justesse. Son message est clair : les artistes et les travailleurs créatifs ont un rôle essentiel à jouer face aux enjeux soulevés par l’intelligence artificielle (IA) et dans le façonnage du monde dans lequel nous souhaitons vivre.
L’IA est un sujet chaud et le terme devient galvaudé, comme nous le rappelle la chercheuse, qui a commencé par remettre en question l’appellation même. Le terme intelligence artificielle est souvent utilisé comme un outil marketing. C’est un « signifiant flottant » que l’on remplit d’idées et de visions, détaché d’une réalité matérielle et surtout technique. Autrement dit, on prête à l’IA des pouvoirs qu’elle n’a pas forcément. Car autour d’elle s’est créée tout un imaginaire, largement nourri par les grandes œuvres de science-fiction.
L’intelligence artificielle, c’est aussi un terme utilisé parfois pour parler de statistiques appliquées, de régression linéaire. Puis, Sarah Myers West cite la définition de l’IA donnée par la chercheuse américaine spécialiste de l’éthique de l’IA Meredith Whittaker. Cette technologie, puisque nourrie par des données d’usagers et utilisée commercialement, peut aussi être définie comme une forme de produit dérivé de la surveillance. À ce sujet, il est important de souligner que non seulement les compagnies manquent de transparence sur la provenance des données qu’elles utilisent pour entraîner les modèles d’intelligence artificielle, faisant fi des questions de droit d’auteur et de propriété intellectuelle.
Face à la montée en puissance de l’IA et surtout à la volonté des compagnies de développer ces modèles à grande échelle – ce qui cause des problèmes environnementaux, discriminatoires et affecte les travailleurs – Sarah Myers West nous rappelle qu’il existe d’autres trajectoires possibles.
Pour un changement significatif, il faut s’attaquer à différentes formes d’avantage :
- L’avantage des données : l’asymétrie d’information entre les entreprises et le public
- L’avantage computationnel : la dépendance aux infrastructures, hardware et software
- L’avantage géopolitique : encadré par (l’absence ?) de régulation, et des gouvernements qui soutiennent le développement de l’IA comme un atout stratégique et économique
Aller au-delà du cadre réglementaire des politiques publiques
Les négociations pour la régulation de l’IA aux États-Unis, Canada et dans l’Union Européenne sont en cours mais posent pour l’instant la sécurité comme une priorité, plutôt que la question des biais algorithmique et de la discrimination. À ce jour, nous manquons toujours d’informations sur les données utilisées pour entraîner les modèles comme GPT-4 et Sarah Myers West nous rappelle qu’on ne peut pas croire les compagnies sur parole lorsqu’elles nous disent qu’elles savent ce qu’elles font. Jusqu’ici elles ont prouvé qu’elles étaient prêtes à commercialiser leurs technologies même si celles-ci ne sont pas prêtes.
Il faut donc instaurer des mécanismes pour que les compagnies soient tenues responsables de leurs actions. Et le Frontier Model Forum, « un nouvel organisme industriel pour promouvoir le développement sûr et responsable des systèmes d’IA d’avant-garde » lancé par Anthropic, Google, Microsoft et OpenAI, ne suffit pas.
Comment peut-on agir et faire entendre sa voix ? Il faut confronter la concentration du pouvoir des entreprises et s’organiser nous dit Sarah Myers West. Travailleurs, travailleurs créatifs, artistes sont au cœur de la résistance face à ces géants de la tech. Ils sont en mesure, collectivement, de créer un effet de levier pour s’assurer que l’IA n’est pas utilisée pour dévaloriser leur travail. La plus récente grève des auteurs WGA est un exemple de cette lutte.
Ne pas vouloir entendre parler de l’IA est une chose, mais ce qui est sûr, c’est que le train a quitté la gare et qu’il vaut mieux être prêt à le prendre en marche, pour être en mesure d’agir collectivement.
