Les utilisateurs d'Android constatent de plus en plus souvent qu'une application appelée SafetyCore est installée sur leur appareil mobile. Il s'agit - pour simplifier - d'un scanner de nudité qui a été lancé plus ou moins à l'insu de tous par une mise à jour de sécurité en octobre 2024.
Vous apprendrez ici comment désactiver l'application. Et pourquoi il s'agit d'un problème fondamental, qui fait également mauvaise figure pour Apple.
Une application appelée «SafetyCore» installée sur de nombreux smartphones Android suscite l'inquiétude. Il s'agirait d'un scanner de photos de nus. Sur la plate-forme X, des messages alarmants ont fait le tour de la toile, soulevant pas mal de questions.
Manifestement, la plupart des utilisateurs d'Android ne sont pas conscients qu'ils sont concernés. Le portail américain ZDNet constate que «la plupart des gens ne sont pas conscients de ce qu'ils font»:
L'un des aspects les plus controversés de SafetyCore est qu'il est installé en arrière-plan sans consentement explicite. Cette pratique a suscité des inquiétudes chez de nombreux utilisateurs quant à la confidentialité et au contrôle de leurs propres appareils et données.
Google assure que tout est en ordre et qu'il n'y a pas lieu de s'inquiéter: il s'agit de composants du système d'exploitation mobile destinés à renforcer la sécurité et qui sont optionnels.
Il est également précisé que les utilisateurs gardent le contrôle, qu'ils peuvent désactiver ou désinstaller SafetyCore et qu'ils n'ont pas besoin d'activer l'analyse sur l'appareil lors de son lancement officiel.
Il est intéressant de noter qu'il n'y a pas si longtemps, le rival de Google, Apple, était déjà sous le feu des critiques pour la même procédure douteuse. Il s’agit essentiellement d’entreprises technologiques dominantes sur le marché qui installent des fonctions d’IA étendues sur les appareils de leurs clients. Mais il y a manifestement un manque de transparence.
Le 5 octobre 2024, Google a publié une mise à jour de sécurité pour Android 9 et les versions plus récentes du système d'exploitation mobile largement répandu. Et cette mise à jour, à première vue anodine, comprenait une application appelée «Android System SafetyCore».
Comme nous le savons désormais, avec le nouveau composant système Android, Google crée les conditions techniques permettant aux applications d'effectuer des vérifications d'images sur l'appareil lui-même (et non dans le cloud).
La description de l'application dans le Google Play Store explique:
Dans le service de messagerie interne «Google Messages», le service «SafetyCore» permet de détecter automatiquement les photos (et les vidéos) de nudité reçues sur l'appareil et de les rendre illisibles.
Le déploiement de la nouvelle fonction se fera de manière échelonnée. Le manque de communication de la part du groupe technologique américain a probablement causé une certaine confusion:
Google assure que le filtrage a lieu sur l'appareil et qu'aucune donnée n'est envoyée à des serveurs externes, résume futurezone.at. Mais cela ne signifie pas nécessairement que le service ne communique pas avec d'autres serveurs Google - et il serait peut-être ainsi possible de signaler qu'un utilisateur prend des photos sensibles, ce qu'on y voit et peut-être même quelles personnes sont représentées.
Les développeurs du système d'exploitation Android indépendant GrapheneOS, considéré comme particulièrement sûr, se sont montré critiques dans une prise de position, car le code du programme de Google n'est pas librement consultable:
Parallèlement, les développeurs indépendants soulignent que SafetyCore de Google n'est pas comme le système d'analyse très controversé qu'Apple voulait introduire pour l'iPhone en 2021. Projet qui a été abandonné suite à des protestations massives dans le monde entier.
Cependant, Apple semble avoir presque oublié les leçons de ce gâchis, comme nous le verrons ci-dessous...
SafetyCore ne semble pas avoir sa propre icône d'application et n'apparaît pas non plus dans la liste habituelle des applications en cours d'exécution. Pourtant, la désinstallation devrait être assez simple dans le meilleur des cas.
Futurezone.at explique à ce sujet:
Mais: selon ZDNet, des utilisateurs rapportent que SafetyCore se réinstalle pendant les mises à jour du système ou via Google Play Services, même après la désinstallation du service. Dans ce cas, il faut désinstaller SafetyCore à nouveau (manuellement), ce qui est ennuyeux.
Apple poursuit des plans comparables pour son propre service de messagerie «Messages» (anciennement «iMessage»): les contrôles d'images doivent être effectués de manière sûre et respectueuse de la vie privée sur les appareils des utilisateurs.
Pour les utilisateurs en Australie, une mise à jour correspondante a été publiée en octobre 2024. La version 18.2 du système d'exploitation iOS comprend une nouvelle fonction de sécurité qui masque automatiquement les photos de nus envoyées ou les désamorce en les floutant («blurring»).
Comme l'a rapporté le Guardian, il s'agit d'une extension des mesures dites de «sécurité des communications», activées par défaut depuis iOS 17 pour les utilisateurs mineurs d'Apple (moins de 13 ans), mais disponibles pour tous les utilisateurs.
Grâce aux fonctions de sécurité, un iPhone détecte automatiquement les images et les vidéos de nudité que les enfants peuvent recevoir ou tenter d'envoyer dans iMessage, AirDrop, FaceTime et Photos. La détection de tels contenus se fait par des algorithmes de machine learning sur l'appareil lui-même. La protection des données est garantie, aucune donnée sensible n'est transmise aux serveurs d'Apple.
Le lancement en Australie a coïncidé avec un renforcement de la législation nationale. Depuis fin 2024, Apple et d'autres groupes tech devraient surveiller les services de stockage et de messagerie dans le cloud qu'ils exploitent: pour y détecter des représentations d'abus sexuels sur des enfants et des «contenus terroristes».
Un regard sur le Royaume-Uni montre que les efforts de surveillance de l'Etat se poursuivent sans relâche. Dans ce pays, Apple se voit contraint de stopper le cryptage de bout en bout des sauvegardes iCloud.
Le chroniqueur de Forbes Zak Doffman commente à propos d'Apple et de Google:
Il semble tout à fait logique que les clients exigent la transparence de la part des grands groupes technologiques. Après tout, ils confient à leurs appareils mobiles des données extrêmement sensibles (comme des photos, des informations personnelles ou professionnelles) et doivent être sûrs qu'elles sont protégées.
Avec iOS 18.2 et macOS 15.2, l'entreprise a introduit une nouvelle fonction d'IA appelée «Recherche visuelle avancée». Celle-ci est intégrée dans l'application «Photos» et, contrairement aux autres fonctions d'intelligence d'Apple qui fonctionnent sur l'appareil lui-même, elle nécessite un échange de données avec les serveurs d'Apple.
Certes, seules des données cryptées sont transmises et aucune information personnelle n'est transmise, mais des informations anonymes, une sorte de représentation mathématique du contenu des images. Ce procédé respectueux de la protection des données n'a pas suffi à apaiser les esprits. En effet, Apple a lancé cette fonction sans l'accord explicite des utilisateurs. Elle a été activée par défaut avec la mise à jour et doit être désactivée manuellement dans les réglages de l'appareil concerné (iPhone, iPad, Mac) en cas de doute.
(Traduit et adapté par Chiara Lecca)
