Actualité web & High tech sur Usine Digitale

Quand des robots s'inspirent de vrais avis clients pour en produire des faux

Twitter Facebook Linkedin Google + Email
×

Les progrès de l'apprentissage automatique permettent à des robots de s'inspirer de vrais avis clients pour en fabriquer des faux. Face à ce phénomène, les sites de e-commerce doivent redoubler de vigilance et adopter des procédures de vérification strictes et diversifiées.

Quand des robots s'inspirent de vrais avis clients pour en produire des faux
Quand des robots s'inspirent de vrais avis clients pour en produire des faux © Yelp

Payer des humains pour créer de toutes pièces de faux avis sur un restaurant, une boutique, c'est relativement simple – mais pas forcément très efficace. Entraîner des robots pour générer des avis convaincants pourrait être plus facile, et même moins cher. Des chercheurs de l'université de Chicago ont mené une étude inquiétante sur le phénomène.

 

du deep learning textuel

Ils ont créé un réseau neuronal profond (deep neuronal network) et l'ont entraîné à rédiger de faux avis particulièrement convaincants. Ces robots ont appris comment rédiger un commentaire en s'inspirant des milliers publiés sur la plate-forme d'avis en ligne Yelp. Grâce aux progrès du deep learning, les avis fabriqués par les machines paraîtraient même plus "utiles" et crédibles que de vrais avis, selon l'évaluation d'un panel de consommateurs réuni par les chercheurs. Les robots ont d'autant moins de mal que les avis clients sont souvent courts, écrits avec un vocabulaire simple ; leur rédaction est parfois dirigée par les sites à l'aide de questions.

Ces faux avis de synthèse seraient indétectables par les outils d'analyse sémantique déployés par les sites d'avis pour tenter de repérer des avis fabriqués, constatent les chercheurs américains. Ce qui ne veut pas dire qu'ils passeraient forcément entre les mailles du filet, car d'autres filtres existent. Les chercheurs invitent les professionnels du secteur à s'emparer du sujet et à imaginer de nouveaux modes de défense, face à ce nouveau type d'attaques, qui pourraient se propager à d'autres secteurs (partout ou du contenu textuel est généré).

 

Se doter de défenses plus solides

Ce phénomène naissant illustre une nouvelle fois la nécessité, pour les business se basant sur des avis clients (et ils sont de plus en plus nombreux) de se doter d'un processus de vérification rigoureux, combinant plusieurs techniques (croisement des données de géolocalisation, du fichier clients...). Et pas seulement pour contrer les faux avis, mais aussi pour éviter tout biais dans la collecte, le traitement, la publication des avis. C'est justement l'objet d'une norme internationale, ISO 20488, basée sur la norme française NF Z74-501, en cours d'élaboration.

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.

1 commentaire

Plus que PRO

22/09/2017 12h04 - Plus que PRO

Des milliers d’entreprises françaises n’ont pas attendu la publication de cette étude alarmante pour prendre le taureau par les cornes. Elles ont déjà fait le choix de faire contrôler la véracité de leurs avis clients pour justement éviter d’être touchées par ce genre de phénomène. Le contrôle méticuleux et systématique des avis clients des entreprises est « LA » base de la solution Plus que PRO qui propose ce service à ses clients depuis 2014. Ainsi, plus de 3000 sociétés issues des secteurs du bâtiment, de l’habitat et de la prestation de services ont déjà recours à ce procédé certifié ISO 20252 par Afnor Certification afin d’être certaines de bâtir leur e-réputation sur des bases saines et d’éviter que leurs prospects ne soient induits en erreur.

Répondre au commentaire | Signaler un abus

media

Les cookies assurent le bon fonctionnement de nos sites et services. En utilisant ces derniers, vous acceptez l'utilisation des cookies.OK

En savoir plus
Suivez-nous Suivre l'Usine Digitale sur twitter Suivre l'Usine Digitale sur facebook Suivre l'Usine Digitale sur Linked In RSS Usine Digitale