Bonjour Dr. Derian, en tant que co-fondateur de Technoréalisme.org, pouvez-vous nous expliquer comment cette initiative a vu le jour et quel rôle elle joue dans la promotion de l'éthique en matière d'IA et de technologie?
Bonjour, Technoréalisme.org est le fruit d'une réflexion collective née d'une longue discussion téléphonique entre Arnaud Billion et moi-même (Maxime Derian), peu après la parution de son livre Sous le règne des machines à gouverner" (ed. Larcier 2022). Lors de cet échange, Arnaud a proposé de réunir un collectif composé de professionnels, experts, praticiens de l’intelligence artificielle, mais aussi de simples curieux désireux de coopérer autour d’une démarche critique, réflexive et constructive. C’est dans cet esprit que nous avons rédigé notre manifeste technoréaliste, qui pose les bases d’un dialogue ouvert sur l’IA et ses enjeux.
Notre objectif est d’aller à l’encontre des discours simplistes et parfois fantaisistes autour de l’IA, en mobilisant une approche fondée sur une compréhension rigoureuse des subtilités techniques, mais aussi des impacts sociaux, économiques et environnementaux. Nous défendons l’idée que l’IA n’est pas une magie autonome, mais bien un logiciel qui s’inscrit dans des systèmes complexes et interconnectés, nécessitant des garde-fous pour garantir une utilisation responsable.
Technoréalisme.org se veut un espace de conversation, de réfutation et d’action, où experts et citoyens peuvent contribuer à définir ce que devrait être une intelligence artificielle de qualité, au service des valeurs humaines et de la durabilité. Nous avons travaillé avec enthousiasme et rigueur pour poser les bases de cette réflexion, en mobilisant des compétences variées et une volonté commune de dépasser les illusions technophiles ou technophobes.
L'éthique est avant tout une réflexion argumentée en vue du bien agir, et non un simple ensemble de valeurs ou de principes fixes. Elle consiste à analyser les impacts des technologies, comme l'intelligence artificielle, sur les dimensions sociales, environnementales et humaines.
Technoréalisme est une démarche éthique car elle propose un débat avec tout le monde ayant la lucidité comme boussole.
Le débat est véritablement au cœur du processus technoréaliste. Accepter l'avis de l'autre et la réfutation est essentiel : c'est la condition sine qua non pour avancer sur un sujet aussi complexe et aux ramifications multiples que l'intelligence artificielle. L'IA soulève en effet d'innombrables questions qui touchent à la technique, à la philosophie, à l'éthique, et même à notre rapport au monde.
Vous combinez anthropologie, science-fiction et innovation dans votre approche. Comment ces disciplines se complètent-elles pour analyser les transformations sociales induites par l'IA?
L'IA est avant tout un logiciel, mais cela soulève une interrogation fondamentale : est-ce un simple outil ou bien autre chose ? Avec Arnaud Billion et Anaëlle Martin, nous avons longuement réfléchi à la possibilité que l'humanité soit en train de mettre en place une sorte de Léviathan numérique machiniste, une entité qui pourrait échapper à son propre contrôle. Pourtant, il est tout aussi évident que l'IA, lorsqu'elle est bien pensée et bien utilisée, peut être un outil avancé et extrêmement utile.
L'anthropologie, la science-fiction (mais aussi le droit, l'histoire et la science informatique) se complètent en offrant une vision multidimensionnelle au regard des innovations techniques des transformations sociales induites par l'IA.
L'anthropologie analyse les usages et impacts sociaux des technologies, tandis que la science-fiction permet d'explorer des futurs possibles en imaginant des scénarios spéculatifs.
Ces récits stimulent l'innovation en inspirant de nouvelles idées tout en alertant sur les dérives potentielles.
Il est judicieux de se poser la question de savoir si les récits (y compris dystopiques) deviennent parfois des prophéties autoréalisatrices tout autant que les nouveautés technologiques génératrices de nouveaux récits.
La combinaison des dusciplines et la confrontation des points de vue favorise une réflexion critique et interdisciplinaire, essentielle pour anticiper les changements sociétaux et concevoir des solutions éthiques et durables.
Lewis Mumford est une référencecommune de la plupartdes Technoréalismtes avec sa thèse sur le « machinisme »qui analyse comment les technologies façonnent les sociétés humaines.
Cela dit, reste une question très importante : celle de la consommation des ressources. L'IA frugal est presque hors d'atteinte car les progrès en efficacité énergétique sont compensés par l'effet rebond de la massification des usages.
L'IA s'inscrit dans un contexte technologique (IoT, 5G, Blockchainq...) qui voudrait ignorer les limites physiques de notre planète, qui est sphérique et aux ressources finies, contrairement à notre appétit collectif insatiable pour les technologies numériques.
En tant que consultant ayant travaillé dans divers secteurs comme la santé et l'éducation, quels sont les défis éthiques les plus pressants que vous avez rencontrés dans l'intégration de l'IA dans ces domaines?
En tant que consultant, les défis éthiques rencontrés dans l’intégration de l’IA, notamment avec Heruka-AI Consulting et RAG.lu sont fréquents voire systématique.
Dans le domaine médical, les projets utilisant l’IA pour améliorer les pratiques hospitalières nécessitnt de concilier performance technologique, respect de la confidentialité et souveraineté notamment face au grands acteurs américains de la tech.
Ces outils, bien que efficaces, risquent de poser des problèmes car proposer nos données sensibles pour entraîner les IA d'une "société ruche" de plus en plus concurrente notamment sous la nouvelle présidence Trump pose df grandes questions.
Je propose bien souvent (mais pas systématiquement) à clients des solutions d'IA en local ou en cloud souverain luxembourgeois avec des model open-source pour se conformer à mes principes éthiques cardinaux.
Ensuiteau cas par cas l'éthique et l'informatique fonctionnent ensemble pour se confirmer à la régulation européenne et anticiper les régulations à venir.
Dans le secteur éducatif, l’IA peut personnaliser l’apprentissage, mais elle peux poser des problèmes. Nos projets comme ceux pour la Moldavie avec Haptilica ont inclus des modules pédagogiques ia pour favoriser l'engagement des élèves sans verser dans la "surludification" des enseignements ou les faire se substituer aux tacjhes cognitives d'apprentissage des élèves. https://haptilica.com/
Cependant, une vigilance s’impose face à la centralisation des données qui peut engendrer une concentration de pouvoir et ce potentiel « Léviathan numérique », risquant de réduire la liberté individuelle au profit d’une gouvernance algorithmique.
Encore unf fois le défi récurrent reste la consommation énergétique de l’IA, qui compromet souvent les objectifs de durabilité. Bien que nous ayons travaillé à optimiser l'efficacité énergétique des infrastructures, l’effet rebond lié à la massification des usages limite ces efforts. Je pense toujours au contexte de raréfaction de ressources énergétiques poussant les autorités Européenne dans le futur à favoriser les modèles moins gourmands ( contrairement aux USA et à la Chine qui semblent faire feu de tout bois).
Je propose souveraineté des ateliers prospectifs ou des conférences inspirés de l’anthropologie et de la science-fiction, afin de sensibiliser aux impacts sociaux et environnementaux des technologies numériques.
Ces réflexions interdisciplinaires, ancrées dans des réalités économiques et sociales tangibles, aidentà concevoir des solutions technisues les plus responsables possibles.
Chez Heruka-AI Consulting, comment abordez-vous la question de la transparence algorithmique avec vos clients, et pourquoi est-ce si crucial selon vous?
Chez Heruka-AI Consulting, la co-construction est centrale pour aborder la transparence algorithmique avec tous les clients. Cela implique une collaboration étroite pour rendre les algorithmes compréhensibles et alignés sur les besoins spécifiques des parties prenantes. La transparence du travail de design de l'architecture de RAG.lu instaure la confiance.
Il sagit de minimiser les biais et les effets indesires dans les décisions automatisées.
Cette démarche inclut un ou des audits, des outils ou formation d’explicabilité et une communication claire sur le fonctionnement et l’impact des algorithmes employés.
Le tout en conformité avec le RGPD et les règles des comités sectorielle (ex: medicaux) d'éthique bien sûr.
Selon vous, quelle est la responsabilité des entreprises dans la formation de leurs employés à l'éthique de l'IA, et quel rôle pourriez-vous jouer en tant que consultant pour faciliter cette formation?
Je forme des salariés au enjeu de l'IA en général et en entreprise en particulier.
L'idée est d'expliquer ce qu'est l'IA son histoire son fonctionnement et son actualité puis expliquer les usages utiles en entreprise, les risques du Shadow AI pour la propriété industrielle et la "souveraineté européenne".
Des formations de 2 fois une heure sont un bon début (1 heure de théorie et 1 heure de pratique).
Vous avez une expérience significative dans le partage de connaissances à travers des conférences. Quel message essentiel espérez-vous transmettre aux décideurs lors de vos interventions sur l'éthique de l'IA?
Ne pas regarder le train passer. À un moment il devient difficile de le rattraper.
J'ai 7 enjeux et 4 limites à énoncer pour résumer les lignes qui orientent les choix (Et oui le retour sur investissement en fait partie).
En projetant l'avenir, comment envisagez-vous l'évolution des débats éthiques autour de l'IA dans la société, et quel rôle les consultants en éthique et IA peuvent-ils jouer dans cette évolution?
L'évolution des débats éthiques autour de l'intelligence artificielle (IA) est marquée par une attention croissante aux questions de transparence, d'équité et de responsabilité. Alors que l'IA continue de transformer divers aspects de la société, des préoccupations émergent concernant les biais algorithmiques, les discriminations potentielles et les atteintes aux droits fondamentaux.
Les consultants en éthique et en IA jouent un rôle essentiel pour aider les entreprises et les institutions à naviguer dans ces défis. Leurs missions incluent :
Identification des risques : Réaliser des audits réguliers pour détecter les biais et les discriminations dans les systèmes d'IA.
Élaboration de politiques éthiques : Intégrer des principes tels que la transparence, la responsabilité et l'équité dès la phase de conception des technologies.
Formation et sensibilisation : Accompagner les équipes dans une compréhension approfondie des enjeux éthiques liés à l'IA.
Collaboration avec les parties prenantes : Faciliter le dialogue entre les entreprises, les citoyens et les régulateurs pour garantir une IA bénéfique à tous.
Ces experts contribuent à établir des cadres éthiques robustes, soutenus par des normes internationales, pour promouvoir une IA responsable et alignée sur les valeurs humaines.
Je suis particulièrement enthousiaste à l'idée de participer au AI Action Summit en février 2025 où j'aurai l'opportunité d'écouter les dernières pensées etd'échanger avec des figures majeures du domaine, telles que Yann LeCun, Yoshua Bengio et Stuart Russell, ainsi qu'avec les amis du technoréalisme sue sont les californiens de Everyone.AI qui travaillent sur l'impact de lia sur les enfants. https://everyone.ai/open-letter/ Il y aura certains chefs d'états et d'autres experts lors de la Plénière prevue au Grand Palais. C'est stimulant.
Il faut discuter des meilleures pratiques et des approches visant à intégrer l'éthique dans le développement et le déploiement de l'IA.
Le colloque juridique :"Décoder l'IA en 2025 : actualités d'une technologie en voie de banalisation", prévu le 23 janvier 2025 à l'Université de Strasbourg, sera une occasion importante pour approfondir ces discussions.
Cet événement imlinent réunira praticiens, chercheurs et étudiants pour interroger les enjeux techniques, sociaux et juridiques liés à la généralisation de l'usage des technologies d'IA.
Ces initiatives illustrent l'importance d'une approche collaborative et interdisciplinaire dans le domaine de l'IA pour que son développement et son utilisation soient en harmonie avec les valeurs et les droits fondamentaux de la société. www.technorealisme.org
C'est maintenant que cela doit être fait car ensuite les pratiques existantes de fait vont s'ancrer et s'instituer dans la pérennité.
-teaser.webp)
