Imprimer

Rapport | Doc. 14217 | 13 décembre 2016

Mettre fin à la cyberdiscrimination et aux propos haineux en ligne

Commission sur l'égalité et la non-discrimination

Rapporteure : Mme Marit MAIJ, Pays-Bas, SOC

Origine - Renvoi en commission: Doc. 13828, Renvoi 4144 du 28 septembre 2015. 2017 - Première partie de session

Résumé

Internet est une ressource et un outil exceptionnel qui fait désormais partie intégrante de notre vie quotidienne.

La liberté d’expression est l’un des fondements de nos sociétés démocratiques et il est crucial de la préserver en ligne comme ailleurs. Cela ne doit toutefois pas nous conduire à banaliser les propos haineux en ligne.

Le discours de haine, l'intimidation, le harcèlement, les menaces et la traque constituent des infractions lorsqu’ils sont commis hors ligne. Leur impact sur leurs cibles est tout aussi réel et exige des réponses tout aussi sérieuses et efficaces lorsqu’ils sont commis en ligne. Or, souvent, les mesures prises pour lutter contre de telles infractions ne reconnaissent pas les spécificités des communications en ligne et ne couvrent pas toutes les formes de propos haineux en ligne – qui visent des individus pour des motifs aussi variés que leur sexe, couleur, origine ethnique, nationalité, religion, statut migratoire, orientation sexuelle, identité de genre, convictions politiques ou autres, handicap ou autre condition.

Les propos haineux en ligne ne sont pas une simple affaire privée mais un problème qui concerne la société dans son ensemble. Personne ne devrait être contraint de se retirer d’une discussion en raison de propos haineux en ligne. Les Etats membres doivent œuvrer tant pour améliorer les normes internationales dans ce domaine que pour renforcer les dispositions et l’application de leur législation nationale. Ils doivent convaincre les intermédiaires internet de déployer davantage d’efforts pour prévenir et supprimer les propos haineux en ligne. Ils doivent en outre investir, de toute urgence et de manière durable, dans la promotion de l’utilisation responsable des technologies et des forums en ligne et dans la construction de sociétés sans haine.

A. Projet de résolution

(open)

1. Internet est une ressource et un outil exceptionnel qui a révolutionné de nombreux aspects de notre vie et a créé de formidables nouvelles possibilités d’expression. La liberté d’expression est l’un des fondements les plus importants des sociétés démocratiques et il est crucial de la préserver, y compris sur internet. Internet ne doit en aucun cas devenir un espace dans lequel la censure étouffe les voix discordantes, ou dans lequel les sociétés privées dictent quelles opinions et quelles personnes on peut écouter.

2. Cependant, des personnes en nombre incalculable sont chaque jour la cible de propos haineux en ligne. Sexe réel ou supposé, couleur, origine ethnique, nationalité, religion, statut migratoire, orientation sexuelle, identité de genre, convictions politiques ou autres, handicap ou autre condition sont autant de prétextes pour tenir des propos incendiaires et haineux, harceler et agresser une cible, voire la traquer, proférer des menaces ou inciter à la violence psychologique ou physique à son encontre. Le discours de haine ne se limite pas au racisme et à la xénophobie: il peut également se manifester sous forme de sexisme, d’antisémitisme, d’islamophobie, de misogynie, d’homophobie ou d’autres formes de propos haineux visant des groupes ou individus spécifiques. De telles formes de comportement, qui ne sont pas acceptées hors ligne, sont tout aussi inacceptables en ligne. Tout comme dans les relations face-à-face, l’internet doit permettre d’exprimer des critiques sans pour autant laisser de place au discours de haine.

3. La Cour européenne des droits de l'homme a estimé que la protection de la liberté d'expression garantie par la Convention européenne des droits de l'homme (STE no 5) ne s’étend pas au discours raciste ou xénophobe. D'autres instruments internationaux visent également le discours raciste et xénophobe sans pour autant couvrir toutes les formes de discours de haine. En outre, toutes les normes internationales n’ont pas été universellement acceptées. Toutefois, et bien qu’il n’y existe pas de définition unique et harmonisée du discours de haine applicable dans l’ensemble des Etats membres du Conseil de l’Europe, ceux-ci ont tous prévu au niveau du droit interne une définition du discours de haine et de la discrimination. Ainsi, la législation nationale permet déjà de prendre des mesures efficaces contre certaines formes de propos haineux en ligne, même si elle ne couvre pas toujours tous ces comportements ou ne reconnaît pas toujours concrètement les nouvelles formes de communication. Ces lacunes législatives doivent être corrigées afin d'assurer une protection efficace contre toute manifestation de haine en ligne.

4. Les propos haineux en ligne reflètent la haine présente dans nos sociétés. Il est donc crucial que les stratégies d’élimination des manifestations de haine dans l’environnement en ligne identifient et s’attaquent à l’hostilité et l’intolérance contenues dans le cœur et l’esprit des individus. En parallèle, cependant, ces stratégies doivent également prendre en compte et traiter les spécificités de cet environnement en ligne et du comportement des personnes connectées, telles que la diffusion large et instantanée de contenus internet, l'anonymat éventuel et les interactions désinhibées que cela peut favoriser, ainsi que les difficultés rencontrées pour intenter une action en justice, si cela est nécessaire, dans des cas qui sont souvent de nature transfrontière.

5. Les stratégies visant à prévenir et combattre les propos haineux en ligne doivent aussi reconnaître qu’internet est devenu un outil de communication omniprésent et indispensable que ses utilisateurs ne peuvent pas tout simplement abandonner afin d'éviter les abus, surtout lorsque la nature de leur travail les oblige à jouer un rôle public.

6. Il est également nécessaire de clarifier la responsabilité et le rôle des intermédiaires internet qui fournissent les outils, les forums et les plateformes sur lesquels les échanges se produisent, en ce qui concerne la prévention et la lutte contre les propos haineux en ligne.

7. A la lumière de ce qui précède, et compte tenu des recommandations pertinentes formulées dans sa Résolution 2069 (2015) «Reconnaître et prévenir le néo-racisme», l'Assemblée invite les Etats membres du Conseil de l'Europe:

7.1. au vu de la dimension internationale des communications en ligne:

7.1.1. à ratifier, s’ils ne l'ont pas encore fait, la Convention sur la cybercriminalité (STE no 185) et son Protocole additionnel relatif à l'incrimination d'actes de nature raciste et xénophobe commis par le biais de systèmes informatiques (STE no 189);

7.1.2. à travailler ensemble pour veiller à ce que des définitions harmonisées et complètes du discours de haine soient appliquées en cas de propos haineux en ligne, et s’inspirer à cet égard des recommandations de la Commission européenne contre le racisme et l'intolérance (ECRI) dans sa Recommandation de politique générale no 15 sur la lutte contre le discours de haine;

7.2. en ce qui concerne la législation nationale:

7.2.1. à veiller, en conformité avec la jurisprudence de la Cour européenne des droits de l'homme, à ce que la législation nationale permette la poursuite effective des propos haineux en ligne, tout en respectant pleinement la liberté d'expression et en particulier la liberté de critiquer les actions des pouvoirs publics;

7.2.2. à veiller à ce que la législation nationale couvre toutes les formes d'intimidation, de harcèlement, de menace et de traque en ligne, de sorte que ces comportements puissent être effectivement poursuivis en vertu du droit national;

7.2.3. à modifier la législation nationale ou les lignes directrices pertinentes à chaque fois que cela est nécessaire afin de veiller à ce que l’éventail des caractéristiques considérées comme des motifs de protection au titre de la loi contre la discrimination soient prises en compte dans les cas de propos haineux en ligne, notamment le sexe, la couleur, l'origine ethnique, la nationalité, la religion, l'orientation sexuelle, l'identité de genre, l’opinion politique ou toute autre opinion, le handicap ou toute autre condition;

7.3. en ce qui concerne l’application de la législation nationale:

7.3.1. à donner une formation aux services de police, aux procureurs et aux juges sur la gravité de toutes les formes de propos haineux en ligne, notamment le discours de haine, l'intimidation, le harcèlement, les menaces et la traque en ligne;

7.3.2. à donner une formation et des lignes directrices claires aux services de police sur la nécessité d'enregistrer tous les incidents signalés dans ce domaine et d'enquêter sur ces incidents rapidement et efficacement, et sur comment procéder dans de tels cas; cette formation et ces lignes directrices devraient également expliciter les moyens qui sont à la disposition de la police lorsque celle-ci n’a pas les capacités techniques d’enquêter elle-même;

7.3.3. à donner une formation et des lignes directrices claires également aux procureurs et aux juges sur la façon dont la loi en vigueur peut être appliquée en cas de propos haineux en ligne;

7.3.4. à veiller à ce que les plaintes des victimes de propos haineux en ligne soient prises au sérieux et que les personnes concernées bénéficient de tout l’appui qui leur permettra de faire face aux conséquences;

7.3.5. à fournir des instruments pour signaler les propos haineux en ligne et encourager leur retrait;

7.4. en ce qui concerne la prévention, l’éducation et la sensibilisation:

7.4.1. à sensibiliser davantage la société à l’étendue et à l’impact des propos haineux en ligne;

7.4.2. à faire en sorte de former très tôt les enfants et les jeunes tant aux potentialités exceptionnelles des communications en ligne qu’aux défis posés qu’elles posent; faire en sorte également d’inclure les compétences en matière de communications en ligne en tant qu’élément essentiel des programmes scolaires;

7.4.3. à lancer des programmes et soutenir les initiatives de la société civile et d’autres acteurs concernés afin d’encourager une utilisation responsable d’internet, de lutter contre la cyber-intimidation, mais aussi d’aider les victimes à y faire face, de donner aux individus les moyens d’élaborer des contre-discours et des discours alternatifs contre le discours de haine, de rétablir le dialogue et de désamorcer des conflits en ligne, de mobiliser des réseaux d’acteurs de la lutte contre les propos haineux en ligne et de former des alliances entre eux;

7.4.4. à faire en sorte que ces initiatives et programmes soient financés à long terme et conçus pour avoir un impact durable sur l’attitude des individus à l’égard des propos haineux en ligne;

7.4.5. à organiser des événements périodiques pour souligner la nécessité de combattre en permanence les manifestations de haine, par exemple en déclarant le 22 juillet «Journée européenne des victimes de crimes de haine», comme demandé par l’Assemblée dans sa Recommandation 2052 (2014) «Faire barrage aux manifestations de néonazisme et d'extrémisme de droite»;

7.5. en ce qui concerne les intermédiaires internet:

7.5.1. à veiller à ce que les normes en matière de liberté d’expression établies en vertu de la Convention européenne des droits de l’homme soient appliquées aux communications en ligne dans les Etats membres;

7.5.2. à encourager les efforts déployés par ces intermédiaires pour faire en sorte que les contenus que l’on peut assimiler à des propos haineux, de l'intimidation, du harcèlement, des menaces et de la traque en ligne et qui sont visés par les motifs mentionnés au paragraphe [7.2.3] ci-dessus, soient rapidement éliminés, sans préjudice de la possibilité d’engager une action en justice contre leur auteur;

7.5.3. à encourager ces intermédiaires à prendre au sérieux les propos haineux en ligne et à coopérer étroitement avec les autorités policières tout en respectant les obligations de protection des données telles que définies par la loi, dans les affaires concernant les manifestations de haine en ligne;

7.5.4. à définir dans la loi, si cela n'a pas déjà été fait, la responsabilité et le rôle des intermédiaires internet concernant le retrait des contenus en ligne motivés par la haine, en utilisant, autant que possible, une approche de retrait sur notification.

8. Enfin, l'Assemblée invite les parlements nationaux à se mobiliser contre les discours de haine et toutes les formes de racisme et d'intolérance, notamment en participant à des initiatives telles que l'Alliance parlementaire contre la haine, élaborée par l’Assemblée elle-même.

B. Projet de recommandation

(open)

1. L'Assemblée parlementaire renvoie à sa Résolution... (2017) «Mettre fin à la cyber-discrimination et aux propos haineux en ligne», dans laquelle elle invite les Etats membres à prendre un certain nombre de mesures pour lutter contre le déferlement croissant de propos haineux en ligne, notamment en tenant compte des divers motifs pour lesquels les individus sont aujourd'hui visés par un discours de haine, et de l'évolution rapide des formes de propos haineux en ligne et des médias qui leur servent de moyens de diffusion.

2. L’Assemblée observe que les propos haineux en ligne ne sont pas un phénomène isolé propre à certains Etats membres du Conseil de l'Europe, mais un problème aux dimensions paneuropéennes qu’il sera plus facile de traiter si les Etats membres partagent leurs expériences et leurs bonnes pratiques.

3. L'Assemblée invite par conséquent le Comité des Ministres:

3.1. à revoir et mettre à jour sa Recommandation No R (97) 20 sur le «discours de haine», afin de veiller à ce qu'elle continue de fournir une base efficace pour lutter contre toutes les formes de ce phénomène, y compris les propos haineux en ligne, et qu'elle couvre tous les motifs pour lesquels les victimes peuvent être des cibles de discours de haine;

3.2. à réexaminer la possibilité de déclarer le 22 juillet «Journée européenne des victimes de crimes de haine», en commémoration des attentats terroristes d'Oslo et de l'île d'Utøya (Norvège);

3.3. à porter la Résolution … (2017) à l’attention des gouvernements des Etats membres.

C. Exposé des motifs, par Mme Marit Maij, rapporteure

(open)

1. Introduction

1. Internet est une ressource et un outil exceptionnel qui a révolutionné et amélioré de nombreux aspects de notre vie. Il a créé de formidables nouvelles possibilités d’expression. Cependant, internet est aussi un forum où des personnes en nombre incalculable sont chaque jour la cible de propos haineux. Sexe réel ou supposé, couleur, origine ethnique, nationalité, religion, statut migratoire, orientation sexuelle, identité de genre, convictions politiques ou autres, handicap ou autre condition sont autant de prétextes pour tenir des propos incendiaires et haineux, harceler et agresser une cible, voire la traquer, proférer des menaces ou inciter à la violence physique à son encontre. Dans le pire des cas, ces menaces ou ces incitations se doublent de la publication de l’adresse ou d’autres informations personnelles de la personne visée, ce qui la rend vulnérable aux agressions de n’importe quel membre du public.

2. Nous ne pouvons tolérer ces formes d’intimidation et de menaces «virtuelles», pas plus que nous ne pouvons tolérer les formes «classiques» de discrimination dans la vie de tous les jours, les intimidations, le harcèlement, les discours de haine ou les infractions motivées par la haine. D’autant plus que les propos haineux en ligne peuvent avoir des conséquences hors ligne. Premièrement, la peur ressentie par les personnes qui font l’objet d’intimidation, de harcèlement, d’une traque ou de menaces d’autre nature sur internet est tout aussi réelle que celle des personnes confrontées aux mêmes types de comportement hors ligne. Deuxièmement, les enfants, adolescents ou adultes cibles d’insultes racistes, sexistes, homophobes ou d’autres propos haineux en ligne ne peuvent pas simplement oublier cette haine ni la peur qu’elle engendre après avoir remis leur smartphone dans leur poche ou éteint leur ordinateur; ce sentiment les accompagne et gagne d’autres aspects de leur vie. De plus, les manifestions de haine dans le cyberespace sont parfois suivies d’agressions physiques sur des personnes. Le nombre de personnes assassinées après avoir reçu des menaces de mort via internet est tragiquement en augmentation. De même que le nombre de personnes (souvent des adolescents) qui mettent fin à leurs jours après avoir été la cible de cyber-harcèlement.

3. Le présent rapport porte sur la façon dont nous pouvons mettre fin aux propos haineux en ligne. Il vise à prendre la mesure du problème et à identifier les dispositions que doivent prendre différents acteurs en vue de l’éradiquer. Quelles formes revêtent les propos haineux en ligne? Qui touchent-ils, et quels préjudices causent-ils? Que se passe-t-il quand les mesures prises pour y faire face ne suffisent pas? Qui doit faire quoi pour arrêter ce déferlement?

4. Je ne saurais trop insister, dans ce contexte, sur l'importance de la liberté d'expression pour les sociétés démocratiques dans lesquelles nous vivons. Nous devons la défendre, la protéger et nous en servir si nous voulons que nos démocraties restent fortes et en bonne santé. Le but du présent rapport n’est donc pas de fixer de nouvelles limites à la liberté d'expression dans l'environnement en ligne. Il est, au contraire, de faire en sorte que la liberté d'expression – en particulier telle qu’elle est énoncée dans la Convention européenne des droits de l'homme (STE no 5) et interprétée par la Cour européenne des droits de l'homme dans sa jurisprudence – bénéficie à chacun, tant hors ligne qu’en ligne.

2. Pourquoi agir contre les propos haineux en ligne?

5. Lorsqu’il fonctionne dans des conditions optimales, internet est un espace de libre expression où les informations peuvent être échangées librement et largement, dans l’intérêt de tous. Comme il a été souligné ci-dessus, la liberté d’expression est l’un des fondements les plus importants des sociétés démocratiques et il est crucial de la préserver, y compris sur internet. Internet ne doit en aucun cas devenir un espace dans lequel la censure et la propagande des gouvernements étouffent les voix discordantes, ou dans lequel les sociétés privées dictent quelles opinions (et quelles personnes) on peut écouter.

6. Cela étant, en ligne tout comme dans le monde réel, la liberté d’expression ne peut véritablement s’exercer que dans un environnement où tous les utilisateurs se sentent libres d’exprimer leur avis sans danger. Dans la vie réelle, les affaires montrent que les propos haineux en ligne peuvent avoir un impact dévastateur pour leurs victimes, les forcent à changer de comportement à la fois en ligne et hors ligne, les obligent parfois à cesser leurs principales activités professionnelles, les mènent parfois au suicide J’examinerai ces questions de façon plus approfondie ci-après. En outre, comme dans n’importe quel autre environnement, la banalisation des discours de haine en ligne crée un climat d’intimidation inacceptable – et qui de fait n’est pas accepté dans le monde physique. C’est pour toutes ces raisons qu’il est essentiel de combattre les propos haineux en ligne.

2.1. Qu'est-ce on entend par discours de haine en ligne dans le cadre de ce rapport?

7. La définition du discours de haine (qu’il soit en ligne ou hors ligne) varie grandement d’un système juridique national à un autre. Dans le présent rapport, ainsi que je l’ai précisé dès le début de mes travaux, j’ai volontairement adopté une perspective élargie. J’ai décidé de couvrir un large éventail de comportements ayant trait non seulement aux formes d’expression qui correspondent clairement aux définitions nationales du discours de haine mais aussi à l’utilisation abusive de voies de communication en ligne par certains individus ou groupes en vue d’en discriminer, stigmatiser, intimider et/ou menacer d’autres. Ces comportements préjudiciables vont d’actes isolés commis par des individus qui diffusent des commentaires destinés à humilier ou à insulter des personnes ou des groupes en raison de leurs caractéristiques personnelles aux formes les plus graves de brimades ou de harcèlement en ligne

8. Je m’attache ici à étudier les propos haineux et les menaces adressés en ligne à des personnes en raison de leurs caractéristiques individuelles, et la manière dont nous pouvons réagir à ce phénomène, le combattre et l’éradiquer. Cependant, en raison de l'importance particulière de la protection de la liberté d'expression, j'ai constamment cherché à garder à l'esprit, en particulier lorsque j’ai examiné les normes juridiques qui peuvent être appliquées aux propos haineux en ligne, les conséquences que ces normes pourraient avoir si elles sont appliquées dans d'autres contextes tels que les cas de diffamation, le travail des journalistes ou la promotion de l'extrémisme ou du terrorisme.

9. Je ne souhaite toutefois pas étudier dans le cadre du présent rapport la façon dont des groupes terroristes utilisent internet dans le but de promouvoir leurs activités et de recruter de nouveaux agents; je ne compte pas non plus évoquer la neutralité du réseau

, les piratages de comptes (l’usurpation d’identités) ou d’autres questions semblables. Ce rapport n’a également pas pour but d’examiner des questions liées à la diffamation ou à la réputation personnelle et d’étudier les droits et les responsabilités des journalistes dans la société de l'information d'aujourd'hui. Ces dernières questions, qui ne sont pas directement liées à l'égalité et la non-discrimination, relèvent de la compétence de la commission de la culture, de la science, de l'éducation et des médias de l’Assemblée parlementaire, qui est d'ailleurs en train de préparer un rapport intitulé «Médias en ligne et journalisme: défis et responsabilités» qui sera examiné, avec ce rapport, à l’occasion d’un débat commun.

2.2. Quelles sont les particularités des propos haineux en ligne?

10. Sur internet, la communication diffère très sensiblement des contacts établis en personne. Il est nécessaire de comprendre ces différences pour s’attaquer efficacement aux propos haineux en ligne.

11. Premièrement, la communication en ligne permet d’entrer facilement en relation avec des individus que l’on ne rencontrerait très probablement pas en personne. Grâce à internet, chacun peut contacter voire attaquer de façon directe quelqu’un qui n’aurait auparavant pas été à sa portée. En outre, il est aujourd’hui bien plus simple et rapide de contacter quelqu’un directement et donc de lui adresser des propos haineux sur des réseaux sociaux comme Twitter, qu’il ne l’était par le passé d’envoyer des lettres haineuses par la poste.

12. Deuxièmement, la communication en ligne permet de partager des contenus des milliers de fois. Les contenus en ligne peuvent devenir viraux en une fraction de seconde. Ce qui avant aurait été invisible pour un large public peut à présent être vu instantanément par des centaines ou des milliers de personnes (ou plus). Le retrait d’un contenu de son site d'origine aura peu d'impact s’il a déjà été partagé des dizaines, des centaines, voire des milliers de fois. Le sentiment d’humiliation que la cible peut ressentir (notamment dans les cas de vengeance pornographique ou de cyber-harcèlement) s’en trouve amplifié. De plus, il est alors facile pour un grand nombre d’internautes de se liguer très rapidement contre un individu («mobbing»).

13. Troisièmement, internet engendre un sentiment d’anonymat, même pour ceux qui ne cherchent pas activement à cacher leur identité. Par ailleurs, on constate que l’environnement de «solitude interactive» sans contrainte dans lequel les personnes publient des messages sur internet et les réseaux sociaux favorise l’indifférence à l’égard des sentiments des autres, et permet au discours de haine en ligne de devenir banal

14. Quatrièmement, internet facilite les rencontres entre des personnes exprimant des opinions tranchées similaires. Or, les points de vue véhéments s’alimentent mutuellement, en raison aussi des algorithmes utilisés dans les moteurs de recherche et les médias sociaux, et virent rapidement à l’extrême, en particulier lorsque des opinions contradictoires sont diffusées. Lorsque des discussions face à face s’enflamment, l'intervention d'une voix calme et l'utilisation d'un ton et d’un langage plus mesurés sont souvent appréciées et permettent aux débats de se poursuivre sur une base plus constructive. Dans les échanges écrits sur internet, cependant, les points de vue modérés sont souvent étouffés.

15. Cinquièmement, le problème est tel que certaines victimes sont contraintes de renoncer à tenir un blog et à intervenir en public alors que ces activités constituent pour elles une source de revenus indispensable dans la mesure où elles rendent leur travail accessible à un large public. D’autres (notamment un nombre croissant de personnalités politiques) cessent de se servir des réseaux sociaux car le flot incessant de haine est ingérable. D’autres encore perdent leur réputation et avec elle, des possibilités d’emploi, les campagnes haineuses faisant figurer des messages préjudiciables et souvent faux parmi les premiers résultats des recherches associées à leur nom sur leur navigateur.

16. En tout cela, la communication en ligne est très différente de la communication hors ligne et ses effets sont aussi radicalement différents. C’est pourquoi des mesures spécifiques sont nécessaires pour faire face aux propos haineux sur internet. Il faut cesser de minimiser le discours de haine sur internet en l’assimilant à une affaire privée et, au contraire, le considérer comme un problème concernant la société dans son ensemble

2.3. Pourquoi les mesures actuelles ne sont-elles pas efficaces? La banalisation des propos haineux en ligne

17. Une réponse couramment faite aux victimes de propos haineux en ligne est que les règles et les attentes «ordinaires» ne s’appliquent pas au cyberespace; internet, c’est le «Far West», et ceux qui n’arrivent pas à le gérer devraient arrêter de se plaindre et partir. Les auteurs de provocations intentionnelles et malveillantes (trolls) tendent à banaliser ainsi leur propre comportement agressif, à faire comme s’il s’agissait d’une plaisanterie ou à arguer que leurs victimes ne sont pas capables de jouer le jeu, que c’est donc leur problème et qu’elles «méritent» ce qui leur arrive

18. Cet argument nie le rôle essentiel qu’internet joue aujourd’hui dans notre vie; «partir» n’est pas envisageable pour les personnalités publiques qui comptent sur internet pour communiquer avec leurs électeurs, ou pour les professionnels qui comptent dessus pour promouvoir leur travail. «Partir» n’est pas plus réaliste pour ceux (de plus en plus nombreux) qui utilisent internet pour consulter les actualités, communiquer avec des membres éloignés de la famille ou des amis, ou faire des achats.

19. L’argument du «Far West», est aussi une des façons d’ignorer le préjudice subi par les victimes. Les victimes s’entendent dire qu’elles réagissent de manière excessive, et ce même si elles sont la cible de menaces explicites et violentes de viol ou de mort. Il leur est reproché d’être incapables de réagir à ce type de comportement, d’avoir choisi de traiter de sujets controversés ou (dans les cas de vengeance pornographique) d’avoir partagé des photos avec une personne en qui elles avaient confiance. Cela revient quelque peu à dire à une femme victime de harcèlement dans la rue qu’elle a eu tort de «provoquer» son agresseur.

20. Ces différentes attitudes constituent autant d’obstacles à l’efficacité des réponses juridiques et sociétales aux abus en ligne. Un comportement généralement jugé insignifiant par la société ne sera pas traité en priorité par la police, dont les ressources pour lutter contre la criminalité demeurent limitées

21. Un autre argument tendant à être utilisé par les fournisseurs de services internet et les opérateurs de réseaux sociaux ou d’autres forums et plateformes en ligne est que «les propos haineux en ligne reflètent la haine présente dans nos sociétés». C’est assurément vrai et, comme je l’examinerai ci-après, les stratégies d’élimination des manifestations de haine dans l’environnement en ligne doivent aussi s’attaquer à l’hostilité contenue dans le cœur et l’esprit des individus. Cela étant, cette réalité ne dispense pas les sociétés qui rendent les réseaux sociaux et autres forums ou plateformes d’échanges accessibles en ligne de s’occuper des problèmes réels qui se posent sur leurs services.

2.4. Comment lutter contre les propos haineux en ligne sans porter atteinte à la liberté d’expression?

22. Comme indiqué plus haut, la liberté d’expression est cruciale pour nos sociétés démocratiques, et il faut la préserver sur internet. La censure, les mécanismes généraux et le filtrage intensif ne sont pas de bonnes solutions, et les organisations œuvrant à défendre et à promouvoir la liberté d’expression ont raison de souligner que quand les gouvernements pressent des plateformes internet de supprimer du contenu, cette suppression devrait se faire sous réserve d’une décision de justice. Lors de notre audition qui a eu lieu en septembre 2016, Brittany Smith, analyste principale des politiques chez Google, a cité en exemple les vidéos d’un prêcheur extrémiste publiées sur YouTube dans l’intention d’en dénoncer le contenu, pas de le cautionner. Cet exemple illustre les subtilités en jeu et le soin avec lequel il convient de décider si une suppression est nécessaire ou non.

23. D’un point de vue législatif, il faut concilier, d’une part, le droit de chacun à s’exprimer librement et, d’autre part, le droit de chacun à ne pas être la cible de propos haineux. En matière de droit pénal, en particulier, des définitions étroites de ce qui constitue un comportement criminel peuvent sembler essentielles pour éviter de tomber dans deux pièges: empiéter sur la liberté d’expression ou jeter les bases d’une censure débridée. La conclusion, lorsque la question se pose en ces termes, est souvent que «la seule réponse au discours de haine est le contre-discours».

24. Cette conclusion est toutefois bien trop simpliste. Les campagnes répétées à coup de contenus misogynes en ligne par exemple, souvent assortis d’autres phénomènes comme la traque et les menaces de viol ou de mort, ont conduit de nombreuses femmes à suspendre temporairement ou définitivement leurs activités sur des blogs ou sur Twitter. Comme le montrent notamment les affaires Kathy Sierra

, Caroline Criado-Perez

et Stella Creasy

, le fait de laisser les discours de haine se multiplier en ligne ne favorise pas la liberté d’expression: au contraire, cela force les cibles à se retirer des conversations. Prévenir le discours de haine n’est pas une façon de limiter la liberté d’expression: c’est permettre à chacun de participer au débat sur un pied d’égalité.

25. Les menaces et les discours de haine misogyne en ligne ont été suivis dans certains cas par des violences physiques. Il s’agit également donc, en prévenant et en combattant les propos haineux en ligne, de reconnaître que les manifestations de haine en ligne peuvent être directement liées à des actes d’hostilité violents dans le monde réel.

26. En notre qualité de législateurs et de décideurs politiques, notre tâche est de trouver les outils adéquats pour faire face aux propos haineux en ligne, et d’atteindre l’équilibre approprié entre les dispositifs législatifs et autres, de sorte que les conversations continuent de se dérouler en toute liberté, sécurité et égalité dans l’environnement en ligne.

3. Réponses juridiques

27. De nombreuses lois de lutte contre le discours de haine, l’intimidation et le harcèlement dans le monde «réel» existent déjà La question est de savoir si elles sont efficaces face aux spécificités des propos haineux en ligne et si elles peuvent réellement s’appliquer dans ces cas – et si ce n’est pas le cas, ce qu’il faut faire pour y remédier.

3.1. L’intimidation, le harcèlement, la traque et les menaces

28. En ce qui concerne l’intimidation, le harcèlement, la traque et les menaces dirigés contre des individus sur internet et fondés sur des caractéristiques supposées ou réelles comme le sexe, la couleur, l’orientation sexuelle, la religion, les opinions politiques ou autres, l’identité de genre, l’origine ethnique, le handicap ou une autre situation, un grand nombre de ces formes de comportement sont déjà interdits par la loi lorsqu'ils sont commis en personne. Des menaces proférées en face à face contre une ou des personnes sont ainsi punissables en vertu du droit pénal; la traque peut aussi être un délit pénal et le harcèlement est interdit au titre de nombreuses lois nationales contre la discrimination ou de la législation pénale. Il doit également être possible d'engager des poursuites judiciaires contre les auteurs de tels actes lorsqu'ils sont commis en ligne.

29. La difficulté n’est pas tant de définir quels types de comportement sont interdits par la loi – bien que cela doive être fait si ce n’est pas déjà le cas – mais de garantir que la loi s’applique effectivement à ces mêmes comportements lorsqu’ils sont commis non seulement hors ligne mais aussi en ligne.

30. Publiées en juin 2013 et récemment révisées, les Crown Prosecution Guidelines sur la poursuite des affaires en Angleterre et aux Pays de Galles concernant des communications diffusées via les réseaux sociaux constituent à cet égard un bon exemple. Ces lignes directrices définissent clairement quels comportements tenus sur les réseaux sociaux peuvent constituer des infractions pénales au regard de la loi existante – tels que des menaces crédibles de violence envers une personne ou une propriété, visant spécifiquement une personne ou un groupe de personnes (harcèlement ou traque), ou des communications extrêmement injurieuses, indécentes, obscènes ou fausses. Elles expliquent comment les procureurs doivent tenir compte du contexte et de l’approche, comment traiter les cas de vengeance pornographique, comment déterminer s’il est nécessaire d’engager des poursuites dans l’intérêt public (une analyse qui doit être effectuée dans le système juridique du Royaume-Uni avant d'intenter une poursuite), ce qu’il faut garder à l’esprit lorsque les auteurs de ces communications sont des enfants ou de jeunes adultes, etc. Ces lignes directrices sont un outil précieux pour veiller à ce que la façon dont la loi est appliquée dans la juridiction concernée soit cohérente et claire. Elles peuvent être particulièrement utiles lorsque la loi est énoncée en termes généraux ou ne reflète pas directement les évolutions de la technologie, qui devancent souvent la législation.

3.2. Le discours de haine

31. Comme indiqué plus haut, la définition du discours de haine (qu’il soit proféré en ligne ou hors ligne) varie grandement d’un système juridique national à l’autre. Ces différences existaient déjà bien avant que le mode d’expression en ligne ne devienne omniprésent, mais elles ne sont plus, désormais, de simples curiosités juridiques dans un monde où des millions de communications internet traversent les frontières à chaque minute qui passe. Dans un environnement en ligne où les frontières sont facilement et couramment traversées et dans lequel les internautes peuvent utiliser activement les différents forums à leur profit, ces différences peuvent rendre l’application de la loi pénale très difficile. Il conviendrait donc d’harmoniser les normes au niveau international pour disposer d’un outil très puissant permettant de lutter contre ces phénomènes de manière plus efficace.

32. Les types de discours qui peuvent être interdits en vertu du droit pénal dans le cadre de l’incitation à la haine font généralement l’objet d’une définition étroite. Le terme «incitation à la haine» désigne en général des remarques visant des groupes dans leur ensemble, qui sont identifiés en fonction de caractéristiques précises, comme le sexe, la couleur, l’orientation sexuelle, la religion, les opinions politiques ou autres, l’identité de genre, l’origine ethnique, le handicap ou une autre situation. En Angleterre et au Pays de Galles, le discours de haine en ligne est visé par des dispositions sur les communications extrêmement injurieuses, indécentes, obscènes ou fausses figurant dans la législation qui couvre expressément les communications électroniques

. Au cours de ma visite d’information à Londres en novembre 2016, un certain nombre de mes interlocuteurs ont déclaré en toute franchise que le seuil qui doit être respecté pour engager des poursuites pour ce type de communications est actuellement trop élevé et qu’une modification de la loi dans ce domaine devrait être inscrite en priorité dans le prochain programme de réforme de la législation de la Commission du Droit de l'Angleterre et du Pays de Galles.

33. J'ai déjà fourni, lors de mes travaux précédents sur ce rapport, un compte rendu détaillé de plusieurs instruments européens qui peuvent être utiles ici et je considère qu'il n’est pas nécessaire de le reproduire dans son intégralité. Je tiens cependant à attirer l'attention sur quelques points clés qui doivent être retenus en ce qui concerne la Convention européenne des droits de l'homme et d'autres instruments européens.

Convention européenne des droits de l'homme.

34. L’article 10 de la Convention européenne des droits de l’homme garantit le droit à la liberté d’expression. Il a été élaboré en particulier pour protéger les individus contre l'ingérence de l'Etat dans la liberté d'expression, et cette protection reste absolument cruciale. Il convient de rappeler ici qu’il est de jurisprudence constante de la Cour européenne des droits de l’homme que la liberté d'expression «vaut non seulement pour les “informations” ou “idées” accueillies avec faveur ou considérées comme inoffensives ou indifférentes, mais aussi pour celles qui heurtent, choquent ou inquiètent l'Etat ou une fraction quelconque de la population. Ainsi le veulent le pluralisme, la tolérance et l’esprit d’ouverture sans lesquels il n’est pas de “société démocratique”

». Cette protection s’étend à la critique et à la satire. Cependant, le discours de haine ne bénéficie pas de la protection de l'article 10

. La Cour a constaté que la tolérance et le pluralisme doivent être assurés dans les sociétés démocratiques mais qu’on «peut juger nécessaire, dans les sociétés démocratiques, de sanctionner voire de prévenir toutes les formes d’expression qui propagent, incitent à, promeuvent ou justifient la haine fondée sur l’intolérance

». Dans sa jurisprudence, la Cour a mis l'accent sur le discours raciste comme une forme d'expression à laquelle la garantie de la liberté d'expression ne s’étend pas. Elle a également précisé que l'article 10 de la Convention est applicable à internet comme un moyen de communication, et a observé que «[bien que] les sites internet contribuent grandement à améliorer l’accès du public à l’actualité et, de manière générale, à faciliter la communication de l’information ... le risque de préjudice posé par le contenu et les communications sur internet à l'exercice et la jouissance des droits de l’homme et des libertés fondamentales, notamment le droit au respect de la vie privée, est certes plus élevé que celui posé par la presse

».

35. Je tiens également à souligner que certaines requêtes ont été déclarées irrecevables par la Cour sur la base de l'article 17 de la Convention, qui interdit l'abus de droit

. Je considère qu'il est important d'attirer l'attention sur ces affaires parce que ces formes extrêmes de discours telles que celles qui sont en jeu dans ces affaires, notamment le recours à des images et à des slogans incendiaires, sont courantes sur internet. Cependant, et malgré le fait que la Cour ait constaté qu’il s’agit d’abus de droit qui ne sont donc pas protégés par la Convention, je ne suis pas au courant de beaucoup d’exemples de manifestations de haine dans l'environnement en ligne qui ont fait l'objet d'une procédure judiciaire au niveau national.

36. La vengeance pornographique n’est pas l'objet principal du présent rapport mais il convient également de noter que la possibilité expressément fournie par l’article 10 de la Convention de prescrire par la loi les formalités, les conditions, les restrictions ou les sanctions qui sont nécessaires dans une société démocratique pour protéger la réputation ou les droits d’autrui, ou pour empêcher la divulgation d’informations confidentielles, semblerait permettre aux Etats d’adopter une législation interdisant la vengeance pornographique sans enfreindre l’article 10.

37. J’examinerai ci-après, dans la section portant sur le rôle des intermédiaires internet, les obligations que doivent respecter les plateformes de médias sociaux tels que Facebook, Google et Twitter ainsi que d'autres forums en ligne au titre de la Convention.

Protocole additionnel à la Convention sur la cybercriminalité, relatif à l’incrimination d’actes de nature raciste et xénophobe commis par le biais de systèmes informatiques (STE no 189)

38. Ce protocole à la Convention du Conseil de l'Europe sur la cybercriminalité (STE no 185) vise à harmoniser le droit pénal matériel dans la lutte contre le racisme et la xénophobie sur internet et à améliorer la coopération internationale dans ce domaine

. Dans ce contexte, il invite les parties à prévoir dans leur droit interne un certain nombre d'infractions pénales commises intentionnellement et sans droit au moyen de systèmes informatiques. Les Parties au protocole doivent incriminer les menaces racistes ou xénophobes commises par le biais de systèmes informatiques et le fait d’aider à perpétrer une telle infraction, conformément aux conditions prévues dans les articles 4 à 7 du protocole. La diffusion publique de matériel raciste et xénophobe, d’insultes racistes et xénophobes ainsi que la banalisation ou la négation du génocide ou de crimes contre l'humanité, lorsqu'elles sont commises par le biais de systèmes informatiques, sont également érigées en infractions (articles 3, 5 et 6 respectivement). Cependant, les trois dernières dispositions permettent aux Etats de se réserver le droit d’appliquer une interprétation restrictive de ces infractions ou de ne pas les appliquer intégralement. Près de la moitié des Etats qui ont ratifié le protocole ont utilisé cette possibilité pour au moins l’un de ces articles

39. Bien que la Convention sur la cybercriminalité soit désormais en vigueur dans 40 Etats membres du Conseil de l'Europe et 9 Etats non-membres, le Protocole additionnel ne s’applique que dans 24 Etats membres et n’a été signé que par 2 Etats non-membres, malgré la souplesse inhérente au texte, évoquée ci-dessus

40. Il convient de noter par ailleurs que le protocole s’applique uniquement au matériel raciste et xénophobe. Même dans les Etats qui l’ont ratifié, il ne fournit aucune protection aux victimes des propos haineux en ligne reposant sur d’autres motivations, comme le genre, l’orientation sexuelle ou l’identité de genre, le handicap, l’âge ou d’autres critères.

Recommandations de politique générale no 6 de l’ECRI sur la lutte contre la diffusion de matériels racistes, xénophobes et antisémites par internet et no 15 sur la lutte contre le discours de haine

41. Le 21 mars 2016, la Commission européenne contre le racisme et l’intolérance (ECRI) a publié sa Recommandation de politique générale no 15 sur la lutte contre le discours de haine. Ses dispositions sont envisagées de sorte à être applicables à toutes les formes de discours de haine, notamment celles qui sont fondées sur des motifs tels que la «race», la couleur, l’ascendance, l’origine nationale ou ethnique, l’âge, le handicap, la langue, la religion ou la croyance, le sexe, l’identité de genre ou l’orientation sexuelle et d'autres caractéristiques personnelles ou situations

. L'ECRI soulignait que, dans de nombreux cas, l’on peut et doit faire face au discours de haine sans restreindre la liberté d’expression.

42. S’agissant du droit pénal, l’ECRI soulignait qu’il convient de définir clairement les infractions pénales, en veillant toutefois à ce que leur application permette de suivre les évolutions technologiques; que les poursuites ne doivent pas être menées de manière abusive pour réprimer toute critique visant des politiques officielles; que les personnes visées par le discours de haine doivent pouvoir réellement participer aux procédures judiciaires; et que la loi doit prévoir des sanctions efficaces mais proportionnées.

43. L’ECRI invitait aussi les Etats à clarifier l’étendue et l’applicabilité de la responsabilité en droit civil et administratif lorsque le discours de haine est utilisé dans le but d’inciter à commettre des actes de violence, d’intimidation, d’hostilité ou de discrimination à l’encontre des personnes visées, ou dont on peut raisonnablement s’attendre à ce qu’il ait cet effet. Elle recommandait aux Etats de déterminer les responsabilités particulières des auteurs de discours de haine, des prestataires de services internet, des forums en ligne et des hébergeurs de sites, des intermédiaires en ligne, des plateformes de médias sociaux, des modérateurs de blogs et d’autres intervenants jouant des rôles analogues. Les Etats doivent veiller à ce qu’il soit possible, sous réserve de l’autorisation ou de l’approbation d’un tribunal, d’ordonner la suppression du discours de haine dans les informations accessibles en ligne et de bloquer les sites y ayant recours; d’ordonner aux éditeurs de médias (dont les fournisseurs d’accès à internet, les intermédiaires en ligne et les plateformes de médias sociaux) de publier un avis reconnaissant qu’un message publié par eux constituait un discours de haine; d’interdire la diffusion du discours de haine et d’ordonner la divulgation de l’identité de ceux qui y participent. L’ECRI a également recommandé que les organisations non gouvernementales (ONG) compétentes et d'autres organes soient autorisés à saisir la justice, même en l’absence d’un plaignant.

44. L’ECRI a également insisté sur l'autorégulation et les codes de conduite qui peuvent être appliqués par les institutions publiques et privées, ainsi que les médias, notamment les fournisseurs d'accès internet, les intermédiaires en ligne et les médias sociaux. Ils seront examinés de manière plus approfondie ci-dessous, dans la section portant sur le rôle des intermédiaires en ligne.

45. Dans sa Recommandation de politique générale no 6, adoptée en 2000, l’ECRI avait alors déjà reconnu l’importance de lutter contre la diffusion de matériels racistes, xénophobes et antisémites par internet. Elle y préconisait notamment que les Etats intègrent cette question à tous les travaux entrepris au plan international tendant à réprimer les contenus illégaux sur internet; développent la coopération internationale dans ce domaine; s’assurent que la législation nationale sur les propos racistes, xénophobes ou antisémites s’applique aussi aux infractions commises sur internet et poursuivent les auteurs de ces infractions; forment les représentants des forces de l’ordre à ce sujet; clarifient les responsabilités des hébergeurs de contenus, des fournisseurs de services et des éditeurs de sites; et soutiennent les mesures d’autoréglementation prises par le secteur d’internet.

3.3. Questions générales concernant les réponses juridiques aux propos haineux en ligne

46. Les éléments ci-dessus mettent en lumière une série de questions qui peuvent influer sur la mesure dans laquelle la loi est ou peut être utilisée pour traiter des manifestations de haine dans l’environnement en ligne

47. Premièrement, un large éventail d’infractions motivées par la haine peut être commis en ligne. Comme indiqué ci-dessus, les dispositions du droit pénal ou civil existantes, y compris la législation antidiscrimination, qui ne sont pas propres à internet peuvent parfaitement offrir des voies de recours aux victimes. C’est le cas par exemple des dispositions de droit pénal concernant les menaces ou le harcèlement, ou les dispositions relatives au harcèlement des lois de lutte contre la discrimination. Il est toutefois indispensable que ces dispositions s’appliquent clairement aux infractions commises en ligne et qu’elles puissent couvrir les types de communication par lesquels ces infractions sont commises en ligne. L’une des inquiétudes en la matière porte par exemple sur le fait que certaines lois stipulent que les menaces ou le discours agressif doivent être adressés directement aux personnes visées. Cette disposition ne tient pas compte du mode de fonctionnement d’internet. Une personne peut réellement et à juste titre se sentir menacée en raison de déclarations publiées sur des messageries ou des forums auxquels elle participe régulièrement, ou en raison de déclarations postées sur Twitter avec des hashtags qu’elle utilise régulièrement, même si elle n’a pas reçu de menace dans sa boîte électronique personnelle. Ces modes de communication peuvent avoir un effet dissuasif sur la liberté d’expression des personnes visées et doivent être pris en compte par la loi.

48. Deuxièmement, le harcèlement ne prend pas la même forme sur internet que dans la vie réelle. Il est très facile, par exemple, de se liguer contre un individu sur internet. La persécution collective (mobbing) est une réalité. Les lois contre le harcèlement ou la traque qui demandent aux plaignants d’identifier un comportement impliquant plusieurs actes perpétrés par une personne risquent de ne pas couvrir correctement les affaires comprenant un déferlement de messages de haine envoyés par des centaines ou des milliers de personnes qui ne se manifestent qu’une fois. Ces affaires peuvent aussi avoir un effet dévastateur sur les personnes visées et doivent être traitées avec efficacité.

49. Troisièmement, il peut se révéler extrêmement difficile d’identifier les auteurs de discours de haine sur internet, notamment les harceleurs ou les personnes prenant part à une persécution collective. Certaines personnes participent de manière anonyme et savent très bien masquer leur identité, d’autres utilisent un ordinateur public ou en réseau, ce qui rend le poste utilisé pour envoyer le message de haine particulièrement difficile à repérer. Les fournisseurs de services internet ne conservent pas toujours le journal des activités des utilisateurs sur de longues périodes. Il est par conséquent essentiel d’intervenir rapidement et de disposer de moyens efficaces pour obtenir des preuves afin de maximiser les chances d’identifier les auteurs.

50. Quatrièmement, ainsi que cela a été indiqué plus haut, les comportements sociaux qui banalisent la haine en ligne constituent un obstacle à la mise en œuvre de réponses juridiques efficaces aux abus commis en ligne. Un comportement communément perçu par la société comme étant sans importance, voire comme étant en partie de la faute des victimes, sera rarement traité en priorité par la police, dont les ressources pour lutter contre la criminalité sont limitées. Il est par conséquent crucial de sensibiliser davantage la société à l’étendue et à l’impact des propos haineux en ligne afin de garantir que les organes de répression y apportent une réponse efficace. De même, il est impératif de veiller à ce que les poursuites ne servent pas à réprimer toute critique visant des politiques officielles

51. Cinquièmement, les représentants des forces de l’ordre doivent bénéficier d’une formation complète dans ce domaine. Les policiers, les procureurs et les juges doivent être formés à reconnaître la gravité des propos haineux en ligne et à appliquer la loi de manière effective. La police manque souvent des capacités techniques nécessaires aux enquêtes et ne sait pas à qui demander de l’aide. Il lui faut savoir quels mécanismes peuvent servir à identifier des internautes anonymes, comment contacter les réseaux sociaux et d’autres plateformes pertinentes dans les affaires de propos haineux en ligne, et comment coopérer avec les victimes de crimes de haine en ligne. Les procureurs peuvent qualifier les infractions de délits mineurs alors qu’ils pourraient appliquer des dispositions plus sévères. Les juges n’échappent pas à la perception des propos haineux qu’a la société, considérés comme un phénomène inhérent au paysage internet, dont il faut s’accommoder plutôt que de le sanctionner.

52. Sixièmement, les affaires internationales nécessitent une coopération efficace et une compréhension commune. Enfin, différentes définitions juridiques des infractions motivées par la haine existent dans différents Etats. Il en résulte une mosaïque très semblable à celle des paradis fiscaux, permettant aux internautes qui s’y connaissent un peu de rechercher la juridiction la plus favorable et d’échapper aux poursuites pour propos haineux en ligne. L’harmonisation des définitions et des pratiques favoriserait assurément le renforcement des réponses juridiques opposées aux propos haineux en ligne. Le Protocole additionnel à la Convention sur la cybercriminalité, relatif à l’incrimination des actes de nature raciste et xénophobe commis par le biais de systèmes informatiques, offre une base de coopération qui peut être appliquée dans l’espace du Conseil de l’Europe et au-delà, mais ce protocole n’est pas encore aussi largement ratifié qu’il pourrait l’être.

53. Septièmement, et il s’agit d’un point capital, de nombreuses normes internationales applicables aux propos haineux en ligne concernent uniquement les discours racistes et xénophobes, ainsi que les discours antisémites. Or les propos misogynes et les discours de haine fondés sur l’orientation sexuelle, l’identité de genre ou le handicap sont également fréquents et leurs cibles nécessitent la même protection que les victimes de discours racistes. Cette question doit être abordée de toute urgence. A cet égard, je tiens à évoquer une initiative positive qui m’a été signalée au cours de ma visite d'information à Londres et qui a été prise au cours de cette année par la police de Nottinghamshire (Angleterre). L’initiative a consisté à inclure les incidents à caractère misogyne dans la liste des catégories d'incidents pouvant faire l’objet d’une enquête dans le cadre des crimes de haine

. Il s’agit d’une première étape, importante, pour donner aux forces de l’ordre la possibilité d'enquêter efficacement sur toutes les formes de haine en tant que telles.

4. Le rôle des intermédiaires en ligne

54. Une grande partie des abus en ligne se produisant sur des plateformes de médias sociaux tels que Facebook, Google et Twitter ou sur des sites internet communautaires ou de partage de favoris tels que Reddit ou 4chan, la tentation est forte de conclure que ce sont ces structures qui doivent assumer la responsabilité de tout le contenu publié sur leurs plateformes. Je suis assurément convaincue que ces sociétés doivent adopter une approche éthique à l’égard de leurs produits et être attentives à leurs effets sur nos sociétés. Je pense cependant qu’elles ne doivent pas être tenues entièrement responsables de l’élimination des propos haineux en ligne, car une telle approche évite de répondre aux questions plus générales posées par la lutte contre la haine dans nos sociétés. Néanmoins, les contre-arguments tels que «ce ne sont que des outils; les outils sont neutres; c’est la façon dont ils sont utilisés qui compte» sont tout aussi simplistes. Cette section examine la façon de s’orienter dans ces questions et le rôle que doivent jouer les intermédiaires en ligne dans la prévention et la lutte contre les propos haineux en ligne.

4.1. L'autorégulation et les normes ou codes de conduite communautaires

55. Facebook, Twitter et d’autres réseaux sociaux ont déjà mis en place des normes communautaires ou des codes de conduite similaires, qui précisent de façon informelle les types de communication qu’elles soutiennent et quels contenus sont susceptibles d’être supprimés s’ils sont portés à leur attention (nudité, menaces directes, etc.). Ces systèmes fonctionnent sur la base de plaintes ou de signalements. Ainsi, l’utilisateur qui considère que le contenu affiché par un autre utilisateur ne respecte pas les normes communautaires pertinentes peut signaler le contenu et demander qu'il soit retiré. Les sociétés disposent d’équipes travaillant 24 heures sur 24 à traiter ces plaintes. Les tâches sont hiérarchisées en fonction de la raison du signalement du contenu. Toutefois, Facebook est fréquemment critiqué notamment du fait que sa politique intransigeante envers la nudité est appliquée plus rapidement et plus systématiquement que son interdiction des menaces directes.

56. En somme, ce que font les réseaux sociaux basés aux Etats-Unis, c’est d’appliquer à l’ensemble de leurs plateformes, partout dans le monde, les normes de ce pays relatives à la liberté d’expression. Dans la mesure où cette approche fournit un rempart contre la censure gouvernementale, elle est bienvenue à mes yeux et je l’encourage. Toutefois, pour ce qui est des discours de haine, de l’intimidation, du harcèlement, de la traque ou des menaces en ligne, il semble que ces sociétés n’aient pas encore identifié de méthodes efficaces pour fournir une protection contre les communications racistes, sexistes, homophobes ou similaires les visant des individus.

57. Il convient de noter que ces sociétés semblent de plus en plus reconnaître qu’elles ont tout intérêt à proposer des services sûrs et accueillants à tous leurs utilisateurs. Bien qu’il ne s’applique qu’au racisme et à la xénophobie, le Code de conduite pour la lutte contre la diffusion en ligne de discours de haine illégaux récemment adopté par Facebook, Twitter, YouTube et Microsoft, en collaboration avec la Commission européenne, en est une manifestation, tout comme, par exemple, la création par Twitter d’un Conseil «Confiance et sécurité» en février 2016. En outre, les communications croissantes de ces sociétés au sujet de ces enjeux, la participation de représentants de Facebook et de Google à l’audition de la commission sur l'égalité et la non-discrimination du 9 septembre 2016, ainsi que ma rencontre avec Twitter pendant ma visite d’information à Londres, sont autant de signes encourageants.

58. Cependant, il est clair que les défis posés par la technologie mise à disposition des internautes par ces sociétés sont énormes. A titre d’exemple, environ 400 heures de vidéo sont publiées chaque minute sur YouTube (soit un chiffre bien supérieur à 500 000 heures de vidéo par jour). Si la grande majorité des matériels publiés en ligne sont inoffensifs, la quantité d’informations en jeu est colossale, et il n’est pas certain que les équipes chargées de traiter les plaintes (signalements) soient de taille suffisante, ce qui signifie que les discours de haine peuvent rester en ligne longtemps. En l’absence d’algorithmes capables d’identifier les discours de haine de manière fiable, toutes les plaintes doivent être examinées manuellement. De plus, les systèmes comme la certification du contenu ne sont pas équipés pour faire face aux avancées comme la diffusion en direct. Veiller à ce que les propos haineux en ligne sous toutes leurs formes soient repérés et éliminés rapidement constitue un véritable défi pour les intermédiaires internet, et rien ne prouve pour le moment qu’ils seront capables de le relever.

59. A cet égard, je tiens à mentionner une récente initiative du quotidien britannique The Guardian, qui a publié une série d’articles autour du thème «The Web We Want» (Le Web que nous voulons). L’analyse des données relatives aux 70 millions de commentaires postés sur son site web depuis janvier 1999, et notamment ceux qui ont été bloqués parce qu'ils ne correspondaient pas à ses normes communautaires

, a permis au Guardian de mettre en évidence des données quantitatives qui montrent clairement que, quel que soit le sujet, les articles écrits par des femmes sont l’objet de beaucoup plus de provocations intentionnelles et malveillantes que ceux écrits par des hommes, et que les femmes et les minorités ethniques sont victimes d’agressions de façon disproportionnée

. Le Guardian, qui met en œuvre une modération a posteriori de son espace de commentaires

, applique une approche rigoureuse ayant pour objectif de permettre à ses lecteurs de participer à un dialogue varié et de qualité concernant le cœur du sujet journalistique, considérant qu’il s’agit d’un choix éditorial dans un paysage médiatique vaste et varié. Lorsqu’un sujet qui est couvert simultanément dans plusieurs articles a déjà suscité d’après l’expérience du Guardian un grand nombre de propos offensants, le quotidien limite le nombre de ces articles ouverts aux commentaires afin d'être en mesure de maintenir ses normes communautaires. Si, tout comme des sociétés gérant des réseaux sociaux tels que Facebook, Twitter et Google, le Guardian a constaté que la grande majorité des contenus ajoutés par ses utilisateurs respecte ses normes communautaires, le projet «The Web We Want» l’a conduit à se pencher sur comment améliorer encore ses systèmes de modération et ses normes communautaires, afin d’identifier des dispositifs plus efficaces pour permettre aux lecteurs de continuer à ajouter leurs commentaires aux articles tout en préservant un environnement respectueux pour ce faire.

60. Enfin, je tiens à souligner que les sociétés informatiques commencent à investir dans des initiatives de la société civile visant à enseigner aux enfants à utiliser leurs plateformes en toute sécurité, ainsi que dans des initiatives visant à donner aux ONG les moyens de communiquer efficacement en ligne et ainsi de renforcer les contre-discours et les discours alternatifs. De telles initiatives sont essentielles et doivent être encouragées et soutenues. Je les examinerai plus en détail ci-après.

4.2. Les dispositifs pour bloquer et masquer d'autres utilisateurs, et outils similaires

61. Ce rapport ne serait pas complet si je ne mentionnais pas les différents outils mis en place par les plateformes de médias sociaux pour donner aux utilisateurs la possibilité de bloquer ou de masquer d'autres utilisateurs, par exemple ceux qui envoient des commentaires offensants ou haineux. Ces outils répondent à une demande des utilisateurs de médias sociaux et sont utiles dans la mesure où ils leur permettent d'évoluer dans un environnement plus confortable qui n’est pas déstabilisé par des contenus perturbants. Il faut cependant garder à l’esprit que ces outils ne traitent pas la source du problème et qu’ils ne suppriment pas les propos haineux en tant que tels. Ils les empêchent simplement d’être vus ou entendus par l'utilisateur concerné.

62. Cette réalité met à nouveau en évidence l’importance de traiter de la même façon les menaces crédibles reçues en ligne et les menaces reçues personnellement. Les utilisateurs qui reçoivent des menaces en ligne crédibles doivent impérativement comprendre qu’ils doivent s’adresser à la police pour qu’une enquête soit menée à ce sujet. La police peut alors collaborer avec la société informatique concernée afin d’identifier l’origine des menaces. Il faut une nouvelle fois souligner qu'il est important de veiller à ce que la police soit correctement formée pour intervenir dans de telles affaires.

4.3. Les obligations légales

63. La Cour européenne des droits de l’homme a commencé à examiner dans quelle mesure les fournisseurs de services et les plateformes internet devraient être tenus responsables du contenu des publications mises en ligne par d’autres sur les sites qu’ils hébergent. Elle a été appelée à examiner cette question dans deux affaires récentes qui ont eu un grand retentissement. Ces affaires ne concernent pas des forums tels que les groupes de discussion sur internet, les sites d’échange ou les plateformes de médias sociaux, mais plutôt la responsabilité des sociétés qui exploitent un portail d’actualités sur internet à l’égard des commentaires publiés par des utilisateurs en relation avec un article publié sur le portail. La Cour a défini une série de critères pertinents permettant d’évaluer concrètement s’il y a eu ingérence dans la liberté d'expression dans les affaires concernant des intermédiaires en ligne: le contexte des propos litigieux, les mesures appliquées par la société concernée pour prévenir ou supprimer des commentaires nuisibles, la responsabilité des auteurs des commentaires comme alternative à la responsabilité de l'intermédiaire, et les conséquences des procédures juridiques internes pour la société concernée

64. Dans l’affaire Delfi AS c. Estonie, les commentaires en cause étaient manifestement des propos haineux illicites proférés en réaction à un article publié sur un portail d’actualités géré par une société (Delfi) et exploité à des fins commerciales. La société, qui n’obligeait pas les utilisateurs à s’enregistrer ou à s'identifier, n’a retiré les commentaires injurieux que six semaines après leur publication. Delfi a été jugé responsable des commentaires en vertu du droit national et condamnée à payer une amende (modérée) de € 320. La Cour européenne des droits de l’homme a estimé que la décision de la cour estonienne de tenir la société responsable avait été justifiée et ne constituait pas une ingérence disproportionnée dans sa liberté d'expression

65. La Cour a appliqué les mêmes critères dans une affaire plus récente, Magyar Tartalomszolgáltatók Egyesülete et Index.hu Zrt c. Hongrie

, qui concernait des commentaires injurieux et grossiers qui n’étaient pas assimilables à un discours de haine et que les plaignants avaient retiré immédiatement après en avoir été notifiés. Les juridictions internes avaient cependant imposé une responsabilité objective aux sociétés concernées uniquement parce qu’elles avaient fourni un espace à des commentaires injurieux et dégradants sans examiner le comportement du requérant ou du plaignant. La Cour a accordé une attention particulière à la façon dont la société pouvait être tenue responsable des commentaires publiés par des tiers. Un résultat qui aurait contraint ces sociétés à supprimer totalement l’espace de commentaires risquait d’avoir un effet dissuasif sur la liberté d’expression sur internet. En revanche, des procédures de retrait sur notification, si elles sont accompagnées de procédures effectives favorisant une réaction rapide, pourraient fonctionner dans de nombreux cas et constituer un outil approprié pour trouver un juste équilibre entre les droits et les intérêts de toutes les parties concernées

66. Une étude comparative détaillée sur le blocage, le filtrage et le retrait de contenus illégaux sur internet a récemment indiqué que le recours à l'autorégulation n’était pas une base juridique suffisamment solide pour l’élimination de contenus, et la crainte d’être poursuivis pouvait conduire des hébergeurs à se livrer à des suppressions excessives

. Un second modèle, dit «coauteur», indique que les règles traditionnelles en droit civil, pénal et administratif peuvent servir de base légale pour ordonner le retrait d’un contenu internet par un hébergeur. Ce modèle va généralement de pair avec l’idée du privilège de l’hébergeur, selon laquelle un prestataire de services ne saurait être tenu responsable des informations stockées sur ses services s’il n'a pas réellement connaissance de l’activité ou du contenu illégal et s’il réagit rapidement pour supprimer ou désactiver l'accès à ces informations dès lors qu’il en a connaissance

. Ce type de raisonnement est présent dans la plupart des systèmes juridiques nationaux mais il manque peut-être, une fois de plus, des règles juridiques précises, notamment lorsqu'il existe des normes et des procédures différentes entre les pays pour faire face aux discours de haine. C’est pour cette raison que cette étude a conclu que, du point de vue des droits de l’homme, les procédures de retrait sur notification sont le modèle le plus apte à traiter la question de la suppression de contenus illicites par un hébergeur internet.

67. Enfin, je tiens à souligner que nous devrions refuser la sous-traitance de l’exécution de la loi aux entreprises privées. Les décisions concernant l’application de la loi doivent être prises par des tribunaux et non par des entreprises privées. Par ailleurs, il est important d’être clair sur le fait que les réseaux sociaux et les forums et plateformes internet ne devraient pas être chargés de mener des enquêtes pénales. Ces enquêtes doivent être menées par les autorités de répression, en pleine conformité avec la loi.

5. L’éducation et les réponses de la société civile

68. Mon travail sur le présent rapport m'a convaincue plus que jamais que la haine et l'intolérance doivent être combattues à tous les niveaux. Il est vrai que les propos haineux en ligne d'aujourd'hui reflètent ce qui se passe dans les cœurs et l’esprit des individus, mais il est également vrai que plus nos sociétés sont ouvertes et accueillantes, plus cette ouverture pourra se refléter dans le monde en ligne.

69. Aujourd’hui, internet fait partie intégrante de notre vie quotidienne et les enfants doivent apprendre dès leur première utilisation comment interagir avec les autres de façon respectueuse dans cet environnement, et comment appréhender des situations dans lesquelles ils sont la cible de propos haineux. Les jeunes eux-mêmes sont de plus en plus conscients de leur rôle dans l’instauration d’un environnement hostile, neutre ou bienveillant sur internet. A cet égard, les initiatives individuelles d’adolescents, comme une vidéo contre le cyber-harcèlement

et une application pour smartphone gratuite détectant des messages offensants avant qu’ils ne soient envoyés et donnant à leur auteur la possibilité d’y réfléchir à deux fois

, sont des exemples encourageants de la manière dont les adolescents prennent l’initiative de transformer l’environnement dans lequel ils opèrent.

70. Les parents et les écoles ont bien sûr un rôle central à jouer dans l'éducation des enfants et des jeunes au respect des autres, tant hors ligne qu’en ligne, et à la manière d'utiliser les interactions sur internet de façon responsable. Les écoles devraient aussi s’emparer de cette question dans le cadre de leur action dans le domaine de l’éducation à la citoyenneté démocratique. Je tiens ici à attirer l'attention sur le manuel renommé du Conseil de l'Europe, Connexions, qui vise à lutter contre les discours de haine en ligne à travers l'éducation aux droits de l'homme et qui est un excellent outil dans ce contexte.

71. Les initiatives de la société civile comme le Mouvement contre le discours de haine du Conseil de l’Europe sont aussi essentielles pour mobiliser les jeunes dans la lutte contre les propos haineux en ligne. Cette campagne vise à pousser les jeunes à défendre les droits de l’homme sur internet par le biais de campagnes nationales de lutte contre les propos haineux en ligne. Elle suppose principalement d’acquérir et de partager des compétences en vue de créer un effet multiplicateur, et d’autonomiser les jeunes pour qu’ils luttent ensemble et deviennent beaucoup plus efficaces contre la haine qu’en agissant chacun de son côté.

72. L’élaboration de contre-discours (contre le discours de haine) et de discours alternatifs est cruciale et requiert un investissement permanent. Il existe aujourd’hui des initiatives et des groupes en ligne qui ont justement cet objectif. Des initiatives comme Renaissance Numérique

, qui ont conscience des dommages causés par le déferlement de haine sur internet et du fait que des personnes isolées ne peuvent pas faire grand-chose pour l’arrêter, cherchent à créer une plateforme de lutte contre la montée du discours de haine qui diffuse des idées constructives. Leur but est de donner aux utilisateurs qui rencontrent des propos haineux en ligne des moyens d’action en mettant à leur disposition une plateforme où ils trouveront des contenus soigneusement vérifiés qui leur permettront de ramener les échanges houleux et à forte charge émotionnelle sur le terrain d’une réalité concrète. Un autre objectif est de contribuer au renforcement des capacités des individus à communiquer de façon à rétablir le dialogue, à désamorcer des situations tendues et à désarmer efficacement les auteurs de provocations intentionnelles et malveillantes.

73. Nous devons prêter une attention particulière aux initiatives telles que celles qui sont décrites ci-dessus, qui renforcent les aptitudes des sociétés à élaborer et diffuser des contre-discours et des discours alternatifs, à former des alliances, à encourager les individus à travailler ensemble et à chercher à mettre au point des outils efficaces facilement accessibles à tous. Nous devons également attirer l'attention sur les initiatives qui peuvent s’appuyer sur un effet multiplicateur durable. Les campagnes qui font l’actualité avant de disparaître rapidement sont peu susceptibles d'avoir un impact durable sur les comportements des individus. Des manifestations organisées à intervalles réguliers qui nous rappellent qu’il faut redoubler d’efforts, à grande échelle et de façon inclusive, pour lutter contre la haine peuvent être plus efficaces. La journée du 22 juillet, qui pourrait être déclarée «Journée européenne des victimes de crimes de haine» (l’Assemblée a déjà invité les Etats à le faire en appuyant une initiative de jeunes militants engagés dans le Mouvement contre le discours de haine), serait une occasion appropriée à cet égard. En donnant une visibilité accrue à l’incidence des infractions motivées par la haine, une telle journée pourrait non seulement être une occasion précieuse de renforcer le message «Non à la haine» mais aussi d’encourager d’autres victimes ou témoins de telles infractions à signaler ces incidents et obtenir le soutien dont ils ont besoin, s’ils ne l'ont pas encore fait.

74. Comme je l’ai mentionné précédemment, internet facilite les rencontres dans lesquelles des opinions peuvent s’enrichir mutuellement et devenir rapidement extrêmes, surtout en cas d’avis divergents. Contrairement aux discussions directes, en face à face, dans lesquelles une intervention calme contribue souvent à désamorcer un débat houleux et lui permet de se poursuivre plus sereinement, les avis modérés sont souvent étouffés et noyés dans la masse des échanges internet.

75. Il en ressort qu’il faudra déployer des efforts incessants et concertés pour combattre les propos haineux en ligne. Les gouvernements doivent être tout à fait conscients que s’ils n’agissent pas pour lutter contre les attitudes et les croyances qui conduisent les individus à proférer des propos haineux en ligne, leur passivité permettra à ces propos de proliférer voire encouragera leurs auteurs à poursuivre dans cette voie. Connaître l’«autre» est le premier pas vers la compréhension et l’acceptation d’autrui. Les gouvernements devraient par conséquent appuyer les initiatives visant à favoriser la communication entre les différents groupes aussi bien hors ligne qu’en ligne. Il est crucial de briser les schémas dans lesquels des individus communiquent toujours avec les mêmes groupes (là encore en ligne ou hors ligne) et ne sont jamais incités à élargir leurs horizons. Une telle ouverture doit se produire aussi bien dans le monde «réel» que dans le monde «virtuel».

6. Conclusions

76. Personne ne devrait être obligé d'accepter de faire l’objet de propos haineux en ligne, sous quelque forme que ce soit, quelles que soient les circonstances. Il est urgent de trouver le moyen de changer notre propre comportement et attitude en ligne, et de convaincre les autres à faire de même, afin qu’internet devienne le lieu accueillant, ouvert, équitable et humain que la plupart d'entre nous aimeraient qu'il soit. Au niveau individuel, nous pouvons commencer par appliquer systématiquement une règle simple: ne jamais dire à quelqu’un en ligne ce que nous ne lui dirions pas en face. Mais de telles initiatives doivent faire partie d'un projet plus ambitieux et plus global visant à rendre l'environnement internet positif pour tous ses usagers.

77. Dans ce rapport, je me suis efforcée d’exposer clairement les préjudices que peuvent provoquer les propos haineux en ligne et la cyber-discrimination. Les propos haineux en ligne sont trop facilement considérés comme une question de «libre expression», qui doit être protégée à tout prix, alors que leur effet dissuasif sur la liberté d’expression des personnes visées reste ignoré. Pouvoir exprimer des critiques est crucial et bienvenu, mais mêmes les critiques véhémentes ne doivent jamais dégénérer en propos haineux. Tout discours qui est utilisé pour faire taire les autres est l'antithèse de la liberté d'expression, et toute contribution que le discours de haine apporte à un véritable débat public est négligeable. Plus on laisse la haine proliférer, plus elle est perçue comme normale et inévitable. C’est pourquoi ces comportements nécessitent que les autorités interviennent, et qu’elles le fassent maintenant.

78. Lorsque des mesures juridiques sont conçues soigneusement et appliquées correctement, elles constituent un instrument efficace de l’arsenal à la disposition des Etats pour lutter contre les propos haineux en ligne. La loi doit définir clairement ce que doit être un discours de haine interdit qui peut exposer son auteur et/ou son éditeur à des poursuites judiciaires. Ce point est particulièrement important dans le contexte du droit pénal, où une infraction peut être passible de la privation de liberté. Une définition trop étroite du discours de haine ne permettra pas de protéger les victimes. Si, au contraire, elle est trop large, elle risque d’enfreindre la liberté d’expression et/ou d’ouvrir la voie à une censure incontrôlée. Aucune de ces éventualités n’est acceptable dans une société démocratique. Dans ce contexte, l'article 10 de la Convention européenne des droits de l'homme et la jurisprudence pertinente de la Cour européenne des droits de l'homme devraient nous guider. Il faudrait également examiner les approches du droit civil et du droit administratif. L’objectif et le résultat de ces mesures doivent être de favoriser la libre expression de tous. Les dispositions interdisant l'intimidation, le harcèlement, la traque et les menaces doivent également être clairement applicables à de tels actes lorsqu’ils sont commis en ligne.

79. L’éducation a un rôle évident à jouer dans la promotion de l’utilisation responsable des technologies et des forums en ligne. Nos sociétés doivent investir dans cette éducation. Les parents doivent comprendre à quel point il est important d’apprendre à leurs enfants à communiquer en ligne de façon à être en sécurité et à toujours être respectueux des autres. Ces compétences en matière de communications en ligne doivent également faire partie intégrante des programmes scolaires. Nous devrions aussi soutenir les initiatives de la société civile visant à prévenir la haine et à y faire face, et à apprendre aux personnes (en particulier aux jeunes, mais pas seulement) comment appréhender les propos haineux en ligne quand ils surgissent. Nous devrions concentrer nos efforts en particulier sur les initiatives qui auront un effet multiplicateur durable.

80. Les réseaux sociaux et d’autres forums ou plateformes semblables ne devraient pas être chargés d’exécuter la loi, mais ils doivent déployer davantage d’efforts pour prévenir et supprimer les propos haineux en ligne.

81. Enfin, en tant qu’hommes et femmes politiques, nous nous devons de prendre l’initiative et de montrer l’exemple, tant en ligne que hors ligne. Nous devons bien sûr capitaliser sur notre position de chefs de file pour élaborer et soutenir des moyens efficaces pour prévenir et lutter contre les propos haineux en ligne. Nous devons également garder notre sang-froid dans les débats publics et politiques. Même si nous sommes (en particulier les femmes politiques) visé(e)s par des propos haineux en ligne, nous devons, plus que jamais, nous abstenir de proférer des menaces et des propos haineux nous-mêmes, tout en préservant pleinement notre droit à la liberté d’expression et en conservant notre respect pour les opinions des autres. Nous façonnons les sociétés dans lesquelles nos enfants grandiront et il est de notre devoir de faire en sorte que ces sociétés demeurent pluralistes et ouvertes.

Assembl�e parlementaire

Mettre fin à la cyberdiscrimination et aux propos haineux en ligne

Résumé

A. Projet de résolution

B. Projet de recommandation

C. Exposé des motifs, par Mme Marit Maij, rapporteure

1. Introduction

2. Pourquoi agir contre les propos haineux en ligne?

2.1. Qu'est-ce on entend par discours de haine en ligne dans le cadre de ce rapport?

2.2. Quelles sont les particularités des propos haineux en ligne?

2.3. Pourquoi les mesures actuelles ne sont-elles pas efficaces? La banalisation des propos haineux en ligne

2.4. Comment lutter contre les propos haineux en ligne sans porter atteinte à la liberté d’expression?

3. Réponses juridiques

3.1. L’intimidation, le harcèlement, la traque et les menaces

3.2. Le discours de haine

3.3. Questions générales concernant les réponses juridiques aux propos haineux en ligne

4. Le rôle des intermédiaires en ligne

4.1. L'autorégulation et les normes ou codes de conduite communautaires

4.2. Les dispositifs pour bloquer et masquer d'autres utilisateurs, et outils similaires

4.3. Les obligations légales

5. L’éducation et les réponses de la société civile

6. Conclusions