Liliane Maury Pasquier : ‘La digitalisation de nos sociétés touche au cœur même du fonctionnement démocratique’

« La digitalisation croissante et certains aspects de l’intelligence artificielle touchent au cœur même du fonctionnement démocratique, de l’Etat de droit et des droits humains au sein de nos sociétés », a déclaré Liliane Maury Pasquier, Présidente de l'Assemblée parlementaire du Conseil de l’Europe, soulignant les dangers existants pour certains groupes de personnes et l’importance de disposer d’un cadre juridique uniforme.

S’exprimant à l’ouverture d’une conférence ministérielle à Strasbourg sur « La justice en Europe face aux défis du numérique », la Présidente Maury Pasquier a indiqué que la digitalisation de nos sociétés posait des défis éthiques, sociétaux et juridiques considérables tant pour l’accès au droit que pour la justice pénale. Evoquant le risque de discrimination dans l’utilisation de l’intelligence artificielle, elle a souligné le danger de reproduire des préjugés humains dans les données qui alimentaient les algorithmes, par exemple sur le genre, la race ou l’appartenance ethnique ou religieuse d’une personne, « leur donnant une autorité quasi-scientifique ». Il est significatif que « le domaine de l’intelligence artificielle reste un secteur majoritairement masculin » a-t-elle ajouté : moins d’un quart des personnes travaillant dans ce domaine sont des femmes.

Parmi les risques, la Présidente a également cité le cas de la justice ‘prédictive’ et des systèmes d’intelligence artificielle conçus à des fins de prévention de la criminalité, ainsi que l’utilisation croissante d’algorithmes permettant d’évaluer le risque de fuite ou la probabilité de récidive, conçus pour les juges afin de prendre des décisions comme la suspension d’une peine de prison ou la libération conditionnelle.

Mme Maury Pasquier a conclu en rappelant que l’Assemblée préparait actuellement plusieurs rapports sur les effets de l’intelligence artificielle sur les droits humains, dans le domaine de la justice, du marché de travail, de la santé ou de la prévention des discriminations.

Un débat joint sur ces questions est prévu en session plénière de l’Assemblée courant 2020.