Recevez chaque jour toute l'actualité du numérique

x

Microsoft publie un outil de détection des pédophiles sur les services de messagerie instantanée

Microsoft vient de publier un outil pour détecter les prédateurs sexuels en ligne qui tentent d'attirer les enfants sur les messageries en ligne. Baptisé "Projet Artemis", le dispositif est capable de déterminer automatiquement le degré de dangerosité d'un contenu textuel pour qu'un modérateur humain puisse ensuite avertir les autorités compétentes.
Twitter Facebook Linkedin Flipboard Email
×

Microsoft publie un outil de détection des pédophiles sur les services de messagerie instantanée
Microsoft publie un outil de détection des pédophiles sur les services de messagerie instantanée © Unsplash/Jay Wennington

Les géants technologiques sont souvent accusés de ne pas être assez actifs sur la protection des enfants en ligne. Microsoft veut rompre avec cette idée. Pour détecter les prédateurs sexuels, la firme américaine a conçu un outil de détection applicable aux services de messagerie instantanée qu'il présente dans un billet de blog publié le 9 janvier 2020.

 

En recherchant les schémas de communication traditionnels des pédophiles, le système va attribuer un degré de dangerosité à la conversation en question. Si la "note" est élevée, un modérateur humain intervient pour alerter le plus rapidement possible les forces de l'ordre et les services de protection de l'enfance. Dans un premier temps, Microsoft a testé le dispositif sur sa plate-forme de jeux vidéo Xbox Live et devrait bientôt l'intégrer à sa messagerie Skype.

 

L'association Thorn attribuera les licences

Baptisé " Projet Artemis", le système est mis à disposition librement et gratuitement "aux sociétés qualifiées offrant une fonctionnalité de chat" à partir du 10 janvier 2020. C'est l'association américaine de protection des enfants Thorn qui veillera à l'attribution des licences du programme. "Nous rendons l'outil disponible à ce stade pour favoriser les contributions et l'engagement des sociétés technologiques dans le but d'une amélioration continue", est-il écrit dans le billet.

 

Le projet a débuté en novembre 2018 lors du "360 Cross-Industry Hackathon", événement proposé par Microsoft pour améliorer la protection des enfants en ligne. L'outil présenté aujourd'hui est donc l'aboutissement de 14 mois de recherche effectuée en collaboration avec The Meet Group, Roblox, Kik et Thorn.

 

L'équipe de scientifiques était dirigée par Hany Faid du Darthmouth College, chercheur déjà à l'origine de la technologie PhotoDNA. Celle-ci, créée en collaboration avec Microsoft en 2009, permet de créer une signature unique (hash) d'une image et de la comparer automatiquement avec une base de données maintenue par le National Center for Missing & Exploited Children (NCMEC), organisme chargé de lutter contre la pédophilie et des images pédophiles en circulation. Microsoft a fait don de PhotoDNA au NCMEC après sa création, et elle est utilisée depuis des années par la plupart des géants d'Internet, Microsoft évidemment mais aussi Facebook, Google, Twitter et même Adobe. Elle sert aussi depuis 2016 à identifier des images en rapport avec le terrorisme.

 

Apple scanne les photos d'iCloud pour détecter les contenus à problèmes

Lors d'une conférence tenue au CES 2020, Jane Horvath, directrice de la vie privée chez Apple, a révélé que l'entreprise scannait les photos envoyés sur iCloud pour détecter d'éventuelles traces de maltraitance ou d'abus sexuels sur mineurs. Les comptes qui contiennent ce type de contenu sont désactivés et signalés aux autorités compétentes. Elle n'a pas précisé quelle technologie est utilisée mais selon toute vraisemblance il s'agit là aussi de PhotoDNA.

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.

 
media