BLOG DES LECTRICES ET LECTEURS. Le 24 avril à l’Agora des Savoirs, Asma Mhalla, politologue, spécialiste des enjeux politiques liés à la technologie a développé une approche critique sur l’intelligence artificielle en nous invitant à réagir politiquement et à “penser loin”.

L’intelligence Artificielle influence-t-elle déjà la formation de l’opinion publique ? Interagit-elle déjà avec nos fondements démocratiques ? La découverte des IA génératives de textes et d’images (ChatGPT, MidJourney, etc.) ont bouleversé le rapport du citoyen à la technologie, en soulevant de nouveaux enjeux sur la véracité des contenus. Que dire face à la fausse image du Pape en doudoune ou encore de Donald Trump arrêté par des policiers ? Aux biais algorithmiques qui sélectionnent les actualités que nous consultons en ligne ?

La convention citoyenne : “une bonne chose”

Tels étaient les vastes questions soumises aux deux invités d’un Agora des Savoirs de haute volée (*). Asma Mahlla a entamé la conférence en valorisant de concert le fait qu’il était essentiel de se saisir du débat sur l’IA dans la sphère publique. Elle a d’emblée souligné que l’initiative de la métropole de Montpellier, d’instaurer “une convention citoyenne de l’IA”, était une excellente initiative. Les idées proposées sont “de qualité“, et les débats “constructifs” : “la question est de savoir“, a souligné Asma Mahlla, comment ce processus pourrait être “industrialisé” à l’échelle nationale, et si cela produirait des résultats “d’un niveau équivalent“.

Le piège du solutionnisme technologique

L’universitaire invitée un peu partout sur les chaînes de télé a ramené le débat sur la nécessité de dire ce qui se trame derrière les IA et nous parvient par les grandes annonces par voix de presse. Derrière les titres ronflants et les promesses extraordinaires, “se cache“, d’après elle, “un projet“. “Il faut déplacer le débat de la technologie vers l’intention, explique-t-elle en évitant de tomber dans le piège du solutionnisme technologique“. Si l’expression est récente, l’idée selon laquelle l’innovation technologique serait capable de résoudre les crises sociales ou écologiques est née avec la révolution industrielle. En occultant les causes, elle dépolitise le débat. “L’IA seule ne sera rien, sans une gouvernance politique derrière. Aujourd’hui, ce sont les grands groupes et leurs dirigeant qui œuvrent derrière les IA. Il est inimaginable que ce système puisse à lui seul remplacer les système politiques auquel nous sommes habitués d’autant que ces technologies n’ont pas uniquement un aspect civil. Ils ont des visées militaires que les citoyens perçoivent moins. La technologie n’est, en général, pas un soutien très actif de la démocratie, elle a même tendance à vouloir s’en protéger“, a-t-elle développé. Face à la médiocratie et la désinformation : revenir à l’humain. “Malgré cette prédominance de la technologie dans l’IA, ne pas oublier que l’humain se trouve à chaque extrémité de la chaîne“.

Le réel comme refuge

Un autre concept développé par Asma Mahlla : les liens entre virtuel et réel. “Cette nouvelle norme qu’est le virtuel a fait du réel une sorte de refuge pour nos existences. Ces nouveaux aspects de nos vies ont tendance à nous isoler les uns des autres par une hyper personnalisation des réponses. Une nouvelle culture qui nous amène à une vision court-termiste de nos actions, alors que nous devons penser loin“. Sans éluder les “pertes cognitives dans la population causées par ces nouveaux outils“.

Comment dès lors penser l’avenir ? “En matière de nouvelles technologies, il n’est pas concevable d’imaginer un déséquilibre : la construction de notre avenir doit se faire de façon équilibrée entre le public et le privé. L’un est en complément de l’autre. Si une “super intelligence” devait apparaître, elle ne doit surtout pas être en dépendance unique des grands groupes. Si, comme c’est le cas actuellement, il n’y a aucun projet politique, nous allons vers une application stricte du monde économique qui va tenter de se passer d’employés partout où cela devient possible“.

Un contrôle politique ?

On comprend que c’est une course contre la montre qui s’est engagée et c’est un des aspects les plus anxiogènes peut-être de l’émergence de l’intelligence artificielle : “Dans le domaine économique mais aussi militaire, tout va vite. On a vu apparaître la notion d’hypervitesse comme moyen de gagner la compétition. Mais au milieu de ces actions inhumaines en accéléré, que se passera-t-il si ces outils sont autonomes et hors de contrôle ?” Une telle accélération impose une “surveillance accrue des ressources énergétiques. Quelque chose de crucial par ces temps de dérèglement climatique. Il n’est pas concevable d’aller vers une technophilie exclusive dans tous les domaines au détriment de la planète qui nous porte“.

“De grand bouleversements sont devant nous“, a conclu Asma Mahlla non sans un certain angélisme. “Les citoyens sont une force pour trouver des moyens et des solutions pour adapter la société. Il faut retrouver le liant qui fonde la société et s’appuyer sur tout le monde, sans cela nous allons à l’échec. Si cette technologie suit la route tracée par la politique cela pourra s’accompagner d’un changement de modèle accueilli favorablement par la société“. Reste à savoir comment…

Jean-Christophe Penalva, ingénieur, membre de la commission citoyenne sur l’IA de Montpellier

Asma Mhalla est spécialiste des enjeux politiques et géopolitiques de la Tech, membre du LAP (Laboratoire d’Anthropologie Politique) de l’EHESS/CNRS, et enseigne à Columbia, Sciences Po et Polytechnique. Mathématicien de renom, Cédric Villani était également présent à cette rencontre mais à distance.