Intelligence Artificielle : quelles solutions éthiques pour les collectivités ?
Il y a de ça plus d’un an et demi, Emmanuel Macron annonçait vouloir faire de la France un pays leader de l’intelligence artificielle. La vision et la stratégie qu’il présentait s’appuyait en grande partie sur le rapport de Cédric Villani pour une « IA au service de l’humain ». Pour rappel, ce rapport visait à :
- Donner un sens et un cap aux politiques françaises actuelles et futures ;
- Proposer une signification de l’IA et des questions éthiques qui en découlent ;
- Expliquer le développement et la place de l’IA à travers différentes échelles.
Suite à ce rapport, Cepheïd Consulting avait mené, avec l’aide de MFG Lab, une étude pour le compte de la Banque des territoires avec un prisme orienté vers les collectivités locales. Cette étude avait ensuite amené la Banque des territoires à publier un guide à destination de ces acteurs.
Ce guide mettait en exergue le contexte technico-économique favorable. En effet, les vecteurs de développement primordiaux à l’IA tels que la puissance de calcul, le nombre de données, leur qualité mais aussi la possibilité d’alimenter de manière exponentielle des modèles mathématiques (ouvrant les portes à « l’auto-apprentissage ») ont permis à l’IA de se développer considérablement ces dernières années.
Ce guide soulignait par ailleurs que les attentes nationales mais aussi plus globalement européennes soutenaient une avancée positive. Le développement de l’IA était alors favorisé par de multiples facteurs : l’intérêt accru des politiques pour ce sujet, la disponibilité des données favorisée par la loi pour une république numérique, les initiatives comme l’AI4EU pour inciter les PME à se lancer en facilitant leurs accès au données et réseaux experts via la mise en place de « plateformes d’IA à la demande ».
Néanmoins certaines barrières restaient bien présentes sur notre territoire. Bien qu’il ait été montré que les usages du privé pouvaient être transposés dans le secteur public, ce dernier possédait un certain retard qui se dénotait à l’époque principalement par la timidité des initiatives.
Mais alors comment les territoires pourraient-ils profiter du contexte actuel pour relancer plus d’initiatives ? Comment répondre à des problématiques et enjeux de plus en plus brûlants dans notre société tout en gardant nos principes éthiques tant mis en avant dans le rapport AI for Humanity ? Finalement, comment concilier l’intelligence artificielle, l’efficacité des solutions proposées et le respect de nos libertés à travers des usages nécessitant le traitement de données de masse ?
Ces questions peuvent être abordées sous le prisme de la sécurité. En effet, le débat éternel entre sécurité et liberté est une équation très dure à résoudre. Ce focus permet d’aborder des sujets d’actualité qui concernent les territoires et qui permettent de mettre en avant des initiatives qui sont ou pourraient être reprises par les acteurs des collectivités territoriales.
I. La Cybersécurité du territoire
Aujourd’hui la sécurité des territoires se joue autant dans l’espace physique que dans l’espace numérique. En France, c’est plus de 1200 collectivités qui ont été la cible d’attaques en 2019, selon Cybermalveillance.gouv.fr. Le manque de moyens humains et une mauvaise gestion des départs ou changement de poste explique souvent la vulnérabilité des collectivités.
Mais alors comment répondre à ce problème de cybersécurité grâce à l’IA ?
Aujourd’hui, l’IA est déjà intégrée dans certains outils comme les anti-virus, les passerelles mails ou web ou bien encore les firewalls. Cependant elle ne permet pas de réaliser des tâches que des humains ont du mal à comprendre. La cybersécurité en fait partie. En effet, les cyber-attaques sont aujourd’hui de plus en plus variées et il est donc difficile de s’y adapter.
Il existe néanmoins plusieurs méthodes de sécurisation des systèmes d’information n’utilisant pas des données intrusives. Une des pistes explorées est l’IA comme solution d’assistance dans des scénarios de réponse sur incident. Certaines plateformes proposent des scénarios de réponse, automatiques ou semi-automatiques, afin de faciliter la sélection, l’exécution et l’enchainement des tâches. Cela permet d’effectuer de nombreuses tâches automatisables : réinstallation d’anti-virus, vérification de clés de registre, modification de règles dans les firewalls, etc. et donc de réallouer le temps de certaines équipes.
II. La sécurité physique du territoire
Ce sujet fait souvent débat car les craintes de voir l’Etat se transformer en « Big Brother » par des procédés de surveillance de masse omniprésents comme on le voit apparaître chez certains pays comme la Chine sont présentes chez beaucoup de citoyens.
L’idée n’est donc pas d’opposer la sécurité aux libertés individuelles mais de proposer des solutions valorisant des données totalement anonymes. En effet, beaucoup de données peuvent servir au pilotage de la sécurité comme par exemple face aux phénomènes de vols sur zone d’activité ou zone industrielle. Ces vols sont souvent effectués tard dans la nuit ou bien durant les jours fériés. L’éclairage intelligent peut être couplé à de l’IA pour disposer en temps réel des mouvements sur l’ensemble de la voie équipée.
III. Sécurité sanitaire
Des réticences peuvent exister pour utiliser l’Intelligence artificielle dans certains domaines de la santé tels que l’aide à la décision ou le suivi des patients par exemple. En effet, elle soulève de nombreux problèmes éthiques que ce soit à la fois au niveau du traitement des données mais aussi de la responsabilité. La mathématicienne Cathy O’Neil va jusqu’à évoquer la nécessité d’un « Serment d’Hippocrate pour la datascience 2 ».
Néanmoins l’IA s’est depuis quelques années beaucoup illustrée dans d’autres domaines de la santé comme la recherche, la médecine prédictive, la détection de maladies, la chirurgie assistée par ordinateur ou bien les robots compagnons pour personnes en difficultés. L’IA a su progressivement faire sa place et permettre des solutions assez révolutionnaires améliorant la qualité des soins.
L’IA peut aussi être d’une grande utilité dans des domaines comme la prévention en population générale et aider à traiter des sujets comme la pharmacovigilance (activité consistant à enregistrer et évaluer les effets secondaires, en particulier les effets indésirables, résultant de l'utilisation de médicaments) ou bien encore l’anticipation des épidémies. On voit d’ailleurs, dans le contexte actuel de la COVID-19, que l’IA peut être nécessaire pour soutenir la recherche mais aussi proposer des méthodes de détections non intrusives comme vient de le publier le journal du MIT avec une solution capable de détecter les cas asymptomatiques3 :
« L’équipe a entrainé le modèle en lui soumettant des enregistrements de toux forcée envoyés par plusieurs dizaines de milliers d’internautes. Le modèle est parvenu à identifier avec précision 98,5 % des toux des personnes dont la présence de Covid-19 avait été confirmée. L’expérience a surtout permis d’identifier 100 % des cas asymptomatiques, des personnes qui ont déclaré ne pas avoir de symptômes mais dont les dépistages à la COVID-19 se sont révélés positifs. »
De nombreuses solutions existent donc pour utiliser l’IA de façon éthique, pour la sécurité (cyber, sanitaire…) comme dans de nombreux autres domaines. pour tirer avantages de données anonymes et continuer de proposer des solutions efficaces, durables et bienveillantes tirant le meilleur de l’intelligence artificielle. C’est à travers une utilisation équilibrée de l’IA que les acteurs des territoires, comme les collectivités, peuvent travailler pour proposer plus d’initiatives dans leurs domaines de compétences.
Sources :