Imprimer
Autres documents liés
Recommandation 2102 (2017)
La convergence technologique, l’intelligence artificielle et les droits de l’homme
1. La convergence entre les nanotechnologies,
les biotechnologies, les technologies de l’information et les sciences
cognitives, et la vitesse à laquelle les applications des nouvelles
technologies sont mises sur le marché ont des incidences non seulement
sur les droits de l’homme et la façon dont ils peuvent être exercés, mais
aussi sur la notion fondamentale de ce qui caractérise l’être humain.
2. L’omniprésence des nouvelles technologies et de leurs applications
estompe la distinction entre l’homme et la machine, entre les activités
en ligne et hors ligne, entre le monde physique et le monde virtuel, entre
le naturel et l’artificiel, entre la réalité et la virtualité. L’homme
augmente ses capacités en les dopant grâce aux apports de machines,
de robots, de logiciels. On sait aujourd’hui créer des interfaces
cerveau/ordinateur fonctionnelles. De l’homme «soigné» à l’homme
«réparé», un changement s’est opéré et, aujourd’hui, se profile
à l’horizon l’homme «augmenté».
3. L’Assemblée parlementaire note avec préoccupation que le législateur
a de plus en plus de mal à s’adapter à l’évolution de la science
et des technologies, et à élaborer les textes réglementaires et
les normes qui s’imposent; elle est fermement convaincue que la
préservation de la dignité humaine au XXIe siècle suppose
le développement de nouvelles formes de gouvernance et de débat
public ouvert, éclairé et contradictoire, de nouveaux mécanismes
législatifs et surtout l’instauration d’une coopération internationale permettant
de relever ces nouveaux défis de la manière la plus efficace.
4. L’Assemblée rappelle le principe consacré à l’article 2 de
la Convention pour la protection des droits de l'homme et de la
dignité de l'être humain à l'égard des applications de la biologie
et de la médecine: Convention sur les droits de l'homme et la biomédecine
(STE no 164, «Convention d’Oviedo»),
qui affirme la primauté de l’être humain, en déclarant que «l'intérêt
et le bien de l'être humain doivent prévaloir sur le seul intérêt
de la société ou de la science».
5. À ce sujet, l’Assemblée se félicite de l’initiative du Comité
de bioéthique du Conseil de l’Europe qui organise en octobre 2017,
à l’occasion du 20e anniversaire de la
Convention du Conseil de l'Europe sur les droits de l’homme et la
biomédecine, une conférence internationale pour examiner l’émergence
de ces nouvelles technologies et leurs conséquences sur les droits
de l’homme, en vue d’élaborer un plan d’action stratégique au cours
du prochain biennium 2018‑2019.
6. Par ailleurs, l’Assemblée considère qu’il est nécessaire de
mettre en œuvre une véritable gouvernance mondiale de l’internet
qui ne dépende pas de groupes d’intérêts privés ni de quelques États.
7. L’Assemblée invite le Comité des Ministres:
7.1. à achever sans plus tarder la
modernisation de la Convention pour la protection des personnes à
l’égard du traitement automatisé des données à caractère personnel
(STE no 108) afin d’avoir de nouvelles
dispositions permettant la mise en place rapide d’une protection
mieux adaptée;
7.2. à définir le cadre de l’utilisation de robots de soins
et de technologies d’assistance dans la Stratégie du Conseil de
l'Europe sur le handicap 2017‑2023 dont l’un des objectifs est d’assurer
aux personnes handicapées l’égalité, la dignité et l’égalité des
chances.
8. Compte tenu de ce qui précède, l’Assemblée invite instamment
le Comité des Ministres à charger les organes compétents du Conseil
de l'Europe d’examiner la manière dont les produits intelligents
et/ou les objets connectés, et plus généralement la convergence
technologique, et ses conséquences sociales et éthiques dans les
domaines de la génétique et de la génomique, des neurosciences et
des mégadonnées (big data) remettent
en question les différentes dimensions des droits de l’homme.
9. Par ailleurs, l’Assemblée propose que des lignes directrices
soient développées sur les questions suivantes:
9.1. le renforcement de la transparence,
de la réglementation des pouvoirs publics et de la responsabilité
des opérateurs concernant:
9.1.1. le fait que la responsabilité
d’un acte et l’obligation de rendre des comptes à son sujet incombent
à un être humain, indépendamment des circonstances dans lesquelles
cet acte a été commis. La mention d’une prise de décision indépendante
par des systèmes d’intelligence artificielle ne saurait exonérer
les créateurs, les propriétaires et les gestionnaires de ces systèmes
de leur obligation de rendre des comptes pour les violations des
droits de l’homme commises lors de l’utilisation de ces systèmes,
même lorsque l’acte qui a causé le préjudice n’a pas été directement
ordonné par un opérateur humain responsable;
9.1.2. les opérations de traitements automatisés visant à collecter,
à traiter et à utiliser les données à caractère personnel;
9.1.3. l’information du public sur la valeur des données qu’ils
produisent, le consentement sur leur utilisation et la fixation
de la durée de conservation de ces données;
9.1.4. l’information de toute personne sur le traitement de données
personnelles dont elle est la source ainsi que sur les modèles mathématiques
et statistiques qui permettent le profilage;
9.1.5. la conception et l’utilisation de logiciels persuasifs
et de technologies de l’information et de la communication (TIC)
ou d’algorithmes d’intelligence artificielle respectant pleinement
la dignité et les droits fondamentaux de tous les utilisateurs,
en particulier les plus vulnérables, dont les personnes âgées et
les personnes handicapées;
9.2. un cadre commun de normes à respecter lorsqu’une juridiction
a recours à l’intelligence artificielle;
9.3. la nécessité pour toute machine, tout robot ou tout produit
doté d’intelligence artificielle de rester sous le contrôle de l’homme;
dans la mesure où toute machine n’est intelligente que grâce à son
logiciel, tout pouvoir qui lui a été donné doit pouvoir lui être
retiré;
9.4. la reconnaissance de nouveaux droits concernant le respect
de la vie privée et familiale, le pouvoir de refuser de faire l’objet
de profilage, d’être géolocalisé, d’être manipulé ou influencé par
un «coach» et d’avoir la possibilité, dans le cadre des soins et
de l’assistance octroyés aux personnes âgées et aux personnes handicapées,
de choisir le contact humain plutôt que le robot.
10. L’Assemblée réitère l’appel qu’elle avait lancé dans la Résolution 2051 (2015) «Drones
et exécutions ciblées: la nécessité de veiller au respect des droits
de l’homme et du droit international» à l’ensemble des États membres
et des États observateurs, ainsi qu’aux États dont les parlements
jouissent du statut d’observateur auprès de l’Assemblée, pour qu’ils
s’abstiennent de recourir à toute procédure automatique (robotique)
visant à choisir des personnes pour procéder à leur exécution ciblée
ou leur causer quelque dommage que ce soit sur la base de leurs
modes de communication ou d’autres données collectées par des techniques
de surveillance de masse. Cela vaut non seulement pour les drones,
mais également pour les autres types de matériel de combat doté
de systèmes d’intelligence artificielle, ainsi que pour les autres
formes de matériel et/ou de logiciels susceptibles de causer un
préjudice aux personnes, aux biens et aux bases de données qui comportent
des données à caractère personnel ou des informations, ou de constituer
une ingérence dans le droit au respect de la vie privée, le droit
à la liberté d’expression ou le droit à l’égalité et à l’absence
de discrimination.
11. L’Assemblée préconise une coopération étroite avec les institutions
de l’Union européenne et l’Organisation des Nations Unies pour l’éducation,
la science et la culture (UNESCO) pour garantir un cadre juridique
cohérent et des mécanismes de supervision efficaces au niveau international.