La Macif a décidé de ne pas ignorer l'IA, déjà intégrée par de nombreux acteurs du secteur de l'assurance. Cependant, elle affirme que cette technologie ne doit pas être considérée comme un simple outil, car elle met en jeu des valeurs essentielles. Lors du Sommet pour l'action sur l'IA à Paris, la mutuelle a partagé ses inquiétudes sur les dangers que l'IA pourrait représenter pour ses valeurs, notamment en matière de discrimination et d'exclusion. En réponse, elle a élaboré un cadre éthique pour intégrer l'IA dans ses pratiques tout en préservant son identité mutualiste.
Pour concrétiser ses ambitions, la Macif a mis en place une gouvernance dédiée, composée de plusieurs instances : un comité de direction, une commission mixte sur la gouvernance numérique, et un groupe de travail spécifiquement dédié à l'IA. Ce dernier a pour mission de recueillir et d'analyser les besoins des utilisateurs, tout en s'assurant que les préoccupations éthiques soient prises en compte dès la conception des systèmes.
La mutuelle a également développé un processus itératif en cinq étapes pour le développement de ses systèmes d'IA : évaluation des risques, conception, développement et test, déploiement, et contrôle post-déploiement. Ce cadre permet d'assurer que chaque aspect de l'IA soit examiné de manière rigoureuse, notamment en ce qui concerne son impact sociétal, environnemental et social. Par exemple, elle demande à ses équipes de réfléchir aux objectifs des systèmes d'IA, à leurs utilisateurs cibles, ainsi qu'aux effets indésirables potentiels.
La Macif n'hésite pas à aborder les questions de biais et d'explicabilité des algorithmes. Elle est consciente que les biais, qu'ils soient conscients ou inconscients, peuvent avoir des conséquences désastreuses sur l'équité des décisions prises par les systèmes d'IA. C'est pourquoi elle envisage d'explorer des technologies d'IA plus interprétables pour garantir la transparence et la responsabilité dans l'utilisation de l'IA.
Dans un secteur d'assurance en pleine mutation, la Macif redouble d'efforts pour préserver son engagement envers la justice sociale. Elle craint que l'IA puisse mener à des pratiques discriminatoires, telles que des tarifs d'assurance inaccessibles pour les plus vulnérables. Cependant, elle voit aussi des opportunités dans l'IA pour mieux comprendre les risques et ainsi prévenir les sinistres.
Mais alors, comment la Macif réussira-t-elle à allier une réflexion éthique approfondie avec la nécessité d'innover face à une concurrence accrue ? Les défis sont nombreux, et il reste à voir comment elle va naviguer entre ces enjeux complexes.
En fin de compte, l'initiative de la Macif pour une IA éthique soulève des questions cruciales sur l'avenir de l'assurance et sur la manière dont les valeurs mutualistes peuvent coexister avec les avancées technologiques. Quelles autres organisations suivront cet exemple, et comment l'IA pourrait-elle remodeler nos principes éthiques ?
Source : Article original disponible sur Le Monde Informatique.
-thumb.webp)
-teaser.webp)
