Vidéos haineuses : la police britannique à la rescousse de l'IA de Facebook

Les attentats de Christchurch continuent à hanter Facebook. Lors de l'audition, mercredi 18 septembre, des principales plateformes Internet parr les sénateurs américains, le réseau social tenait le rôle de principal accusé.

En effet, Facebook avait été vivement critiqué en mars, lors des tueries pour avoir tardé à bloquer la retransmission en direct des tueries dans les deux mosquées en Nouvelle-Zelande par leur auteur présumé. Le massacre avait fait 51 victimes.

Le sénateurs ont pressé le groupe californien d'expliquer quelles efforts supplémentaires avaient été entrepris à l'aune de la multiplication des attentats et des tueries de masses imputés à des à des extrémistes de la mouvance suprémaciste.

Le précédent Christchurch

Devant les élus, les responsables de Facebook ont assuré avoir pris des mesures d’urgence, comme la fermeture de 200 pages d’organisation suprémacistes, et souligné que leurs algorithmes étaient déjà devenus bien plus rapides pour détecter les retransmissions en direct d’actes de violence. “Nous avons réduit à 12 secondes, en moyenne, le temps qu’il faut à notre intelligence artificielle (IA) pour identifier de tels contenus. C’est une baisse de 90 % du temps de réaction par rapport à il y a quelques mois”, a souligné Monika Bickert, responsable de la politique mondiale de Facebook.

La veille de l’audition, le groupe avait cependant reconnu devoir encore “améliorer sa détection”. À ce jour, il ne dispose pas de suffisamment de séquences vidéos de tirs, filmées en vue subjective, pour apprendre à ses algorithmes à les reconnaître.

C’est dorénavant sur ce point que le réseau social veut mettre l’accent. Il a annoncé, mardi 17 septembre, son intention de travailler avec les polices britanniques et américaines pour obtenir les images nécessaires.

Des caméras à fixer sur le torse des policiers

Au Royaume-Uni, Facebook est d’ailleurs à quelques semaines seulement de mettre son plan à exécution. À partir de début octobre, le réseau social va fournir à des centres d’entraînement de la police de Londres des caméras à accrocher au torse des agents, rapportent les médias britanniques. Les enregistrements des séances de tirs seront ensuite transmis au groupe californien afin de nourrir la base de données de son IA.

La mise à disposition de vidéos issues de situations réelles devraient notamment permettre aux algorithmes de Facebook de faire la différence entre un terroriste qui décide de diffuser ses actes sur Internet et une séquence de film ou des images de jeux vidéo.

“Nous sommes heureux de pouvoir travailler avec Facebook sur ce projet”, a déclaré Neil Basu, le patron de la section antiterroriste de la police britannique. Le géant américain a assuré qu’il envisageait de partager sa technologie avec d’autres plateformes et organisations, afin d’aider à mieux identifier rapidement les mises en ligne de vidéos violentes. Si ces contenus sont détectés rapidement, “cela peut potentiellement permettre à la police d’intervenir plus vite”, a résumé Neil Basu.

Depuis les attentats de Christchurch, les experts en lutte contre le terrorisme d’extrême droite mettent en garde contre le danger de laisser ce type de vidéos se propager sur Internet. Elles participent à une “gamification” des attentats : en empruntant les codes des jeux de tirs en vue subjective (FPS - First Person Shooter), elle déshumanise le massacre, qui peut alors être réduit à “un score à battre”, écrit le site d’investigation Bellingcat.

“Cette ‘gamification’ sert à célébrer les tueries en ligne, à entretenir le souvenir de l’attentat”, décryptait cet été pour France 24 Bharath Ganesh, professeur assistant d’études des médias à l’Université de Groningue (Pays-Bas) et spécialiste de l’extrême droite sur Internet. Ces vidéos deviennent ainsi des outils très efficaces de motivation ou de recrutement pour inspirer d’autres aspirants terroristes de la sphère suprémaciste.