Apple lance de nouvelles fonctionnalités pour détecter les contenus pédopornographiques

Apple souhaite davantage lutter contre les contenus pédopornographiques grâce à de nouvelles fonctionnalités qui seront disponibles plus tard cette année dans la mise à jour iOS 15, iPadOS 15, watchOS 8 et macOS Monterey.

Tout d'abord, l'application Messages va avertir les enfants et leurs parents lors de l'envoi ou de la réception de "photos sexuellement explicites". Lors de la réception de ce type de contenu, la photo sera floue et l'enfant sera averti par un message qui lui expliquera également qu'il n'est pas obligé de regarder le contenu. Des protections similaires sont disponibles si un enfant tente d'envoyer de tel contenu. Les parents pourront recevoir un message si l'enfant choisit finalement de l'envoyer.



Cette technologie repose sur un algorithme d'apprentissage automatique capable d'analyser les images jointes et de déterminer si la photo est sexuellement explicite. En revanche, Apple promet de ne pas pouvoir accéder aux messages.

Un détecteur dans iCloud Photos
Apple lance également un détecteur de matériel pédopornographique connu dans iCloud Photos. La technologie développée effectue une correspondance sur l'appareil à l'aide d'une base de données d'images pédopornographiques connues fournies par le National Center for Missing and Exploited Children (NCMEC), une organisation privée créée par le Congrès des Etats-Unis qui traite les cas d'enfants disparus ou exploités de la petite enfance aux jeunes adultes jusqu'à 20 ans.

Ce processus de correspondance est alimenté par une technologie de chiffrement qui permet de déterminer s'il existe une correspondance sans révéler le résultat. L'appareil créé ensuite "un ticket" qui code le résultat de la correspondance ainsi que les données chiffrées sur l'image. C'est ce ticket qui est téléchargé sur l'iCloud avec l'image. Si un utilisateur estime que son compte a été signalé par erreur, il peut faire appel. Cependant, Apple promet qu'il y a moins d'une chance sur 1000 milliards qu'un compte soit signalé à tort.

Enfin, Siri et Search disposeront de nouveaux services pour aider les enfants et leur parents à obtenir de l'aide. Par exemple, les utilisateurs qui demandent à l'assistant vocal comment ils peuvent signaler la diffusion de matériel pédopornographiques ou d'exploitation d'enfants seront diriger vers les informations pertinentes.

Des risques pour la vie privée ?
Le Center for democraty and technolgy (CDT), une organisation à but non lucratif américaine qui promeut les libertés individuelles, a argué dans un communiqué que ces nouvelles fonctionnalités menaçaient "la sécurité et la confidentialité des utilisateurs". "Apple remplace son système de messagerie chiffrée de bout en bout par une infrastructure de surveillance et de censure, qui sera vulnérable aux abus et aux dérives non seulement aux Etats-Unis, mais dans le monde entier", a commenté Greg Nojeim , co-directeur du projet Sécurité & Surveillance du CDT. Il appelle l'entreprise à abandonner ces changements.

Sélectionné pour vous

Téléphonie d’entreprise : Ringover lève 20 millions d’euros pour conquérir le marché américain

Comment PhotoRoom, Priceline, Mayo Clinic et GA Telesis utilisent les outils d’IA générative de Google

La pépite grenobloise Kalray creuse son sillon dans les processeurs de nouvelle génération