{"id":62060,"date":"2019-09-23T07:35:55","date_gmt":"2019-09-23T11:35:55","guid":{"rendered":"https:\/\/linitiative.ca\/International\/traquer-la-haine-sur-les-reseaux-sociaux-exige-bien-plus-quun-algorithme\/"},"modified":"2019-09-23T07:35:55","modified_gmt":"2019-09-23T11:35:55","slug":"traquer-la-haine-sur-les-reseaux-sociaux-exige-bien-plus-quun-algorithme","status":"publish","type":"post","link":"https:\/\/linitiative.ca\/International\/traquer-la-haine-sur-les-reseaux-sociaux-exige-bien-plus-quun-algorithme\/","title":{"rendered":"Traquer la haine sur les r\u00e9seaux sociaux exige bien plus qu\u2019un algorithme"},"content":{"rendered":"

Analyse publi\u00e9e dans le m\u00e9dia d\u00e9di\u00e9 \u00e0 la communaut\u00e9 universitaire \u00ab\u00a0The Conversation\u00a0\u00bb<\/span><\/a>.<\/strong><\/p>\n

Pour le Dr Mohamed Benabid, le tout technologique n\u2019est pas non plus une garantie de r\u00e9sultat dans la lutte contre la cyberhaine. Les approches mobilis\u00e9es peuvent contribuer \u00e0 amplifier des biais, signalant par erreur des messages comme \u00e9tant offensants ou haineux.\u200b<\/strong><\/p>\n

\"cyberhaine_trt_trt.jpg\"<\/div>\n

Qui a dit que la lutte contre les contenus haineux sur les r\u00e9seaux sociaux \u00e9tait un combat d\u00e9sesp\u00e9r\u00e9 ? Facebook compte \u00e9quiper \u00e0 partir du mois prochain des policiers en cam\u00e9ras pour mieux pister les tueries en ligne. Il y a deux mois, Twitter introduisait de nouvelles r\u00e8gles pour freiner les attaques contre les groupes religieux, allant m\u00eame jusqu\u2019\u00e0 d\u00e9tailler le type de posts qui s\u2019exposent \u00e0 des interdictions :<\/p>\n

\u00ab Nous devons exterminer les rats. Les [Groupe religieux] sont d\u00e9go\u00fbtants, [Groupe religieux] devraient \u00eatre punis. Nous ne faisons pas assez pour nous d\u00e9barrasser de ces sales b\u00eates. \u00bb<\/em><\/p>\n

D\u00e9but septembre, YouTube dressait un bilan d\u2019\u00e9tape prometteur, annon\u00e7ant le retrait sur trois mois (entre avril et juin 2019) de plus de 100 000 vid\u00e9os et 17 000 cha\u00eenes et plus de 500 millions de commentaires compromettants.<\/p>\n

Les deux plates-formes embo\u00eetaient le pas \u00e0 Facebook qui avait supprim\u00e9 une ann\u00e9e auparavant, apr\u00e8s une alerte du blog consacr\u00e9 \u00e0 la s\u00e9curit\u00e9 en ligne, KrebsOnSecurity, pr\u00e8s de 120 groupes de discussion priv\u00e9s rassemblant plus de 300 000 membres faisant l\u2019apologie d\u2019activit\u00e9s illicites.<\/p>\n

Les r\u00e9seaux sociaux tiennent manifestement \u00e0 donner des gages de bonne volont\u00e9 pour contrebalancer les effets d\u2019une des faces les plus hideuses du cyberespace. En sont-ils seulement capables ?<\/p>\n

Prise de conscience<\/strong>
R\u00e9cemment, on a vu une multiplication de pressions institutionnelles et r\u00e9glementaires visant \u00e0 lutter contre la haine en ligne, comme pour la loi Avia en France, dont la proposition a \u00e9t\u00e9 adopt\u00e9e par l\u2019Assembl\u00e9e nationale en juillet dernier (sans pour autant faire l\u2019unanimit\u00e9). Cette derni\u00e8re impose aux plates-formes de retirer un contenu en 24 heures. En Allemagne, la loi NetzDG qui soumet les r\u00e9seaux sociaux aux m\u00eames d\u00e9lais sous peine d\u2019amendes pouvant atteindre jusqu\u2019\u00e0 50 millions d\u2019euros.<\/p>\n

Ces mesures ne sont sans doute pas \u00e9trang\u00e8res \u00e0 la prise de conscience des propri\u00e9taires des r\u00e9seaux sociaux face \u00e0 ces mont\u00e9es haineuses.<\/p>\n

Mais cela peut-il endiguer un ph\u00e9nom\u00e8ne de plus en plus accru ? Plus de la moiti\u00e9 des Am\u00e9ricains ont d\u00e9clar\u00e9 avoir \u00e9t\u00e9 victimes de discours haineux et de harc\u00e8lement en 2018. En Europe, 75 % des personnes qui suivent ou participent \u00e0 des d\u00e9bats en ligne ont \u00e9t\u00e9 t\u00e9moins ou ont \u00e9t\u00e9 victimes d\u2019abus, de menaces ou de contenu haineux.<\/p>\n

L\u2019IA \u00e0 la rescousse ?<\/strong>
Si de nombreux pays commencent \u00e0 s\u2019en pr\u00e9occuper, c\u2019est que le processus de cyberviolence a chang\u00e9 de temporalit\u00e9 et d\u2019espace aussi. Au d\u00e9but de l\u2019aventure Internet, la diffusion des discours haineux \u00e9tait \u00e0 sens unique, transpos\u00e9e exclusivement de la vie r\u00e9elle vers le num\u00e9rique.<\/p>\n

Aujourd\u2019hui, sans pour autant faire dispara\u00eetre la premi\u00e8re, c\u2019est la tendance inverse qui est constat\u00e9e, souvent avec des prolongements tragiques, comme pour les attentats de Christchurch o\u00f9 un supr\u00e9matiste blanc filmait en direct sa tuerie ou pour le meurtre de la d\u00e9put\u00e9e britannique Jo Cox : 50 000 tweets c\u00e9l\u00e9braient sa mort.<\/p>\n

Cette avalanche de chiffres communiqu\u00e9s par les r\u00e9seaux sociaux traduit aussi les spectaculaires avanc\u00e9es permises par l\u2019intelligence artificielle (IA) et le champ de la linguistique informatique (comme pour le traitement automatique du langage naturel, connu sous l\u2019acronyme TALN).<\/p>\n

De mani\u00e8re op\u00e9rationnelle, celles-ci s\u2019expriment \u00e0 travers le d\u00e9ploiement d\u2019une logistique d\u2019apprentissage par la machine (machine learning) pour la traque de messages haineux en mobilisant des algorithmes comme les \u00ab K plus proche voisin \u00bb, qui vont m\u00eame jusqu\u2019\u00e0 pr\u00e9dire, en fonctionnant sur le mod\u00e8le des pr\u00e9dicteurs textuels de nos smartphones, l\u2019orientation de futurs contenus, ou encore ceux de la \u00ab reconnaissance d\u2019entit\u00e9s nomm\u00e9es \u00bb (Named Entity Recognition, NER), programmes qui permettent d\u2019identifier et de classer plus efficacement l\u2019information textuelle : le processus va consister, dans une cha\u00eene de texte par exemple \u00e0 identifier un certain nombre de mots clefs pertinents : lieux, personnes, organisations.. Un arsenal pour lequel les GAFA se livrent \u00e0 de f\u00e9roces batailles de supr\u00e9matie<\/p>\n

Traiter la masse de renseignements sur chaque profil<\/strong>
Les donn\u00e9es sur Internet renvoient \u00e0 une pl\u00e9thore de renseignements qui peuvent aider \u00e0 mieux cerner le profil : contributions des internautes, mais aussi les donn\u00e9es de navigation ou journaux d\u2019activit\u00e9s (appel\u00e9s logs dans le jargon), ou encore les gisements du web s\u00e9mantique, une extension du World Wide Web qui a ouvert de nouvelles perspectives pour Internet et ses nombreuses applications, en am\u00e9liorant par rapport \u00e0 l\u2019architecture originelle invent\u00e9e par Tim Berners-Lee, la qualit\u00e9 des donn\u00e9es interpr\u00e9tables par les machines.<\/p>\n

Intens\u00e9ment investi par la recherche ces derni\u00e8res ann\u00e9es, le d\u00e9veloppement d\u2019outils capables de pr\u00e9dire et d\u2019identifier ce type de contenu commence pr\u00e9sentement \u00e0 porter ses fruits. La puissance des syst\u00e8mes automatis\u00e9s a permis \u00e0 YouTube par exemple de d\u00e9tecter puis de supprimer plus de 87 % des 9 millions de vid\u00e9os au cours du deuxi\u00e8me trimestre 2019.<\/p>\n

Les limites de l\u2019\u00e9thique num\u00e9rique<\/strong>
Tout n\u2019est pas gagn\u00e9 pour autant. Les efforts de d\u00e9ploiement d\u2019une \u00e9thique num\u00e9rique continuent de se heurter \u00e0 de nombreux \u00e9cueils.<\/p>\n

Une partie des difficult\u00e9s tient aux discussions interminables sur le caract\u00e8re priv\u00e9 Vs public des donn\u00e9es personnelles ou \u00e0 l\u2019\u00e9quilibre introuvable entre la lutte contre les discours haineux et la pr\u00e9servation de la libert\u00e9 d\u2019expression comme s\u2019en d\u00e9fendait fin ao\u00fbt 2019, la PDG de YouTube dans une lettre \u00e0 son audience.<\/p>\n

C\u2019est d\u2019ailleurs l\u2019alibi brandi par la filiale de Google pour justifier son refus de bloquer la vid\u00e9o intitul\u00e9e \u00ab Les Juifs admettent avoir organis\u00e9 le g\u00e9nocide blanc \u00bb post\u00e9e par David Duke, militant d\u2019extr\u00eame droite am\u00e9ricain et proche un moment du KKK ou encore la r\u00e9ouverture de deux comptes qui auraient inspir\u00e9 le terroriste de Christchurch.<\/p>\n

Un anonymat opportun<\/strong>
Mi-aout 2019, la ligue anti-diffamation, une ONG de lutte contre l\u2019antis\u00e9mitisme, constatait que 29 cha\u00eenes au moins sur YouTube relevaient de la cat\u00e9gorie antis\u00e9mites et supr\u00e9macistes blancs. L\u2019anonymat permis par de nombreuses plates-formes complique \u00e9galement la traque.<\/p>\n

Il constitue un environnement favorable dans ce que les travaux en sociologie et\/ou en psychologie d\u00e9crivent en tant que propension \u00e0 s\u2019autoriser en ligne des comportements qu\u2019on n\u2019accepterait pas dans la vie r\u00e9elle ou ce que John Suler nomme l\u2019\u00ab effet de d\u00e9sinhibition \u00bb.<\/p>\n

La plate-forme \u00ab Secret \u00bb cr\u00e9\u00e9e en 2013 par des anciens cadres de Google, et dont le mod\u00e8le \u00e9conomique s\u2019appuyait en grande partie sur l\u2019anonymat des messages, en a fait les frais, ferm\u00e9e au bout de deux ans d\u2019activit\u00e9 car accus\u00e9e de favoriser la cyberintimidation ou de ne rien faire pour pr\u00e9venir le risque suicidaire chez les adolescents en d\u00e9pit de la multiplication des demandes d\u2019aide des victimes.<\/p>\n

Les risques du tout technologique<\/strong>
Le tout technologique n\u2019est pas non plus une garantie de r\u00e9sultat dans la lutte contre la cyberhaine. Les approches mobilis\u00e9es peuvent contribuer \u00e0 amplifier des biais, signalant par erreur des messages comme \u00e9tant offensants ou haineux. Une nouvelle recherche montre d\u2019ailleurs que les principaux mod\u00e8les d\u2019intelligence artificielle avaient 1,5 fois plus de risques de qualifier \u00ab d\u2019offensants \u00bb les tweets r\u00e9dig\u00e9s par des Africains-Am\u00e9ricains !<\/p>\n

Les imp\u00e9ratifs de contextualisation, les vocabulaires pouvant concerner des situations non li\u00e9es \u00e0 la haine, tiennent avant tout \u00e0 la qualit\u00e9 des r\u00e9pertoires de mots ou des cat\u00e9gorisations de donn\u00e9es \u00e9tablis, lesquels ne sont jamais suffisamment exhaustifs.<\/p>\n

Twitter a par exemple a accidentellement suspendu un compte parce que son algorithme a bugg\u00e9 sur une photo de profil o\u00f9 Captain America frappait un nazi.<\/p>\n

Plus pr\u00e9occupant, la r\u00e9cente recherche men\u00e9e par l\u2019\u00e9quipe du professeur Neil Johnson, du d\u00e9partement de physique de l\u2019universit\u00e9 George Washington, et dont les r\u00e9sultats ont \u00e9t\u00e9 publi\u00e9s en ao\u00fbt dans la revue Nature, confirme bien l\u2019existence d\u2019autoroutes de la haine en ligne et des grappes ou clusters solides, hautement interconnect\u00e9s et auto organis\u00e9es \u00e0 travers diff\u00e9rents plates-formes (Facebook, Twitter, VKontakte), pays et langues.<\/p>\n

Ces r\u00e9seaux peuvent associer une vari\u00e9t\u00e9 de th\u00e8mes haineux (antis\u00e9mitisme, anti-immigr\u00e9s, anti-LGBT+).<\/p>\n

Lorsqu\u2019ils se sentent menac\u00e9s, ces syst\u00e8mes ou grappes font preuve d\u2019une surprenante r\u00e9silience face aux attaques. Toute strat\u00e9gie tentant d\u2019interdire un groupe haineux en une zone A, par exemple, est vou\u00e9e \u00e0 l\u2019\u00e9chec dans la mesure ou la grappe se reconstitue rapidement dans une Zone B. Paradoxalement, cette \u00ab r\u00e9incarnation \u00bb intervient alors m\u00eames que les deux zones peuvent correspondre \u00e0 des plates-formes non seulement ind\u00e9pendantes mais concurrentes (Facebook Vs VKontakte dans le cas d\u2019esp\u00e8ce), et que les groupes de la haine peuvent \u00eatre \u00e9loign\u00e9s g\u00e9ographiquement, linguistiquement et culturellement.<\/p>\n

Quelle m\u00e9thode face aux grappes de la haine<\/strong>
Compte tenu de leurs complexit\u00e9, Johnson et son \u00e9quipe pr\u00e9conisent d\u2019ailleurs entre autres approches d\u2019interdire, au hasard, de petits \u00e9chantillons de la grappe au lieu de cibler une grappe tout enti\u00e8re sous peine d\u2019\u00e9chec.<\/p>\n

Cette solution tranche avec celles adopt\u00e9es actuellement par les plates-formes, lesquelles consistent soit \u00e0 exclure individuellement les contrevenants soit \u00e0 bannir des groupes entiers de comptes haineux. On l\u2019a bien compris, dans ce d\u00e9bat la question est de savoir si la m\u00e9thode est la bonne.<\/p>\n

Mais, au-del\u00e0 il s\u2019agit aussi de s\u2019interroger sur l\u2019ensemble des valeurs v\u00e9hicul\u00e9es sur ces plates-formes.<\/p>\n

En effet, ce sont les nouvelles perceptions des notions m\u00eames de d\u00e9mocratie qui paraissent d\u00e9sormais en jeu. Aux \u00c9tats-Unis, par exemple, quatre jeunes sur dix seulement consid\u00e8rent que le gouvernement devrait s\u00e9vir contre des contenus offensants \u00e0 l\u2019\u00e9gard des minorit\u00e9s.<\/p>\n

Comment alors \u00e9valuer les strat\u00e9gies de lutte sans les croiser avec les transformations, pour le meilleur et malheureusement pour le pire aussi, de nos soci\u00e9t\u00e9s contemporaines ?<\/p>\n

Auteur: hgueye
\nCliquez ici pour lire l’article depuis sa source.<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Analyse publi\u00e9e dans le m\u00e9dia d\u00e9di\u00e9 \u00e0 la communaut\u00e9 universitaire \u00ab\u00a0The Conversation\u00a0\u00bb. Pour le Dr Mohamed Benabid, le tout technologique n\u2019est pas non plus une garantie de r\u00e9sultat dans la lutte contre la cyberhaine. Les approches mobilis\u00e9es peuvent contribuer \u00e0 amplifier des biais, signalant par erreur des messages comme \u00e9tant offensants ou haineux.\u200b Qui a […]<\/p>\n","protected":false},"author":1763,"featured_media":62061,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"","fifu_image_alt":"","footnotes":""},"categories":[78,54],"tags":[],"class_list":["post-62060","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-economie","category-maroc"],"_links":{"self":[{"href":"https:\/\/linitiative.ca\/International\/wp-json\/wp\/v2\/posts\/62060","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/linitiative.ca\/International\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/linitiative.ca\/International\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/linitiative.ca\/International\/wp-json\/wp\/v2\/users\/1763"}],"replies":[{"embeddable":true,"href":"https:\/\/linitiative.ca\/International\/wp-json\/wp\/v2\/comments?post=62060"}],"version-history":[{"count":0,"href":"https:\/\/linitiative.ca\/International\/wp-json\/wp\/v2\/posts\/62060\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/linitiative.ca\/International\/wp-json\/"}],"wp:attachment":[{"href":"https:\/\/linitiative.ca\/International\/wp-json\/wp\/v2\/media?parent=62060"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/linitiative.ca\/International\/wp-json\/wp\/v2\/categories?post=62060"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/linitiative.ca\/International\/wp-json\/wp\/v2\/tags?post=62060"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}