Comment anticiper les risques liés à l'intelligence artificielle

C'est devant une salle pleine à craquer que la Fédération des associations européennes de gestion des risques (Ferma) a dévoilé, mardi 19 novembre à Berlin, lors de son forum annuel, un document sur les implications de l'intelligence artificielle (IA) en matière de gestion des risques, « AI applied to risk management » (« L'intelligence artificielle appliquée au management des risques »). « Il y a une réelle curiosité des risk managers : on entend beaucoup de choses sur l'IA, mais le sujet est encore mal appréhendé », explique Philippe Cotelle, risk manager d'Airbus Defense & Space, administrateur de Ferma et de l'Amrae, et membre du groupe de travail mobilisé, depuis mars dernier, sur le document, désormais proposé en accès libre sur le site Internet de Ferma.

La première ambition du projet ? « Permettre aux risk managers de ne pas rater le train de l'intelligence artificielle, résume Philippe Cotelle. Les responsables des risques doivent comprendre les enjeux sous-jacents des nouveaux projets reposant sur l'IA pour être en mesure d'alerter en amont les dirigeants sur les risques entraînés par ces nouveaux développements technologiques ». « Les gestionnaires de risques peuvent être des acteurs clefs pour mettre en évidence les opportunités et les défis des technologies liées à l'IA », abonde Ferma. Avec un enjeu, voire une urgence temporelle : les projets démarrent dès maintenant.

Fondamentaux

Le document pose tout d'abord les fondamentaux de l'IA. « On entend beaucoup de choses fausses sur l'intelligence artificielle. Certains y mettent de l'émotionnel et du ressenti. Or, ce n'est que des mathématiques : les données entrées sont soumises à un calcul, qui donne un résultat, souvent associé à une probabilité. Il n'y a pas d'émotion, mais au contraire, une rationalité bien supérieure à celles des décisions humaines », explique Bénédicte Huot de Luze, CEO de AI Risk Services, également membre du groupe de travail de Ferma. « Il ne s'agissait pas d'écrire LA bible de l'IA, mais de rendre le sujet compréhensible et accessible par les responsables des risques, de poser des bases fiables pour qu'ils puissent ensuite discuter avec les spécialistes du sujet dans l'entreprise », précise, de son côté, le risk manager d'Airbus Defense & Space.

Le document donne aussi les clefs d'une cartographie des risques potentiels inhérents à la mise en place d'une intelligence artificielle. « Si les process du management des risques sont classiques, il faut avoir en tête des éléments propres à l'IA », poursuit Philippe Cotelle. Parmi eux ? Les sujets liés à l'éthique, mais pas seulement. « L'IA est une boîte noire qui peut donner des résultats erronés. D'autant que ces derniers résultent d'un apprentissage qui dépend de la qualité des informations entrées. Si les informations sont erronées, les résultats le seront aussi. Il y a donc des questions majeures de gouvernance et de contrôle, avec des impacts potentiels qui peuvent être stratégiques, graves, voire vitaux, que l'on parle de voitures connectées, d'aide au diagnostic médical ou encore de maintenance prédictive, » ajoute-t-il. Il faut donc se pencher tout particulièrement sur les données entrées, et sur les algorithmes utilisés. « Les compétences du risk management comme de l'audit vont devoir évoluer pour être en mesure de vérifier et challenger les algorithmes utilisés. Certains se spécialisent aujourd'hui dans ces audits », remarque Bénédicte Huot de Luze.

Enfin, l'ouvrage traite, dans une troisième partie, de l'utilisation qui peut être faite de l'intelligence artificielle dans la gestion des risques . « Le mariage des données et du risque peut être une vraie réussite : la data peut aider les responsables de risques tant au niveau de l'identification que de la cartographie des risques, mais aussi dans l'analyse ou encore la couverture d'assurance », estime Bénédicte Huot de Luze. Pour que les professionnels du risque aient conscience des apports potentiels, le document de Ferma liste ainsi nombre de cas d'usage, en réflexion ou déjà mis en oeuvre dans des entreprises. « Il y a une véritable opportunité pour les responsables des risques : ils doivent réfléchir à des projets utilisant l'IA et qui pourraient les aider à améliorer leur métier. Il y a une page blanche à écrire : chaque risk manager peut être l'architecte de nouvelles solutions de gestion des risques ou de nouvelles assurances », conclut Philippe Cotelle. A chacun donc de trouver ses « use cases ».