Apple vient de retirer une dizaine d’applications de son magasin, en raison du danger qu’elles pourraient représenter pour leurs utilisateurs.
Des apps potentiellement dangereuses ?
En effet, le New York Times met en lumière la réaction de la firme californienne après que le site Web App Danger Project a publié une liste d’applications dangereuses à priori pour les enfants. Précisons que ce dernier utilise un algorithme dédié et des techniques de machine learning pour établir cette liste.
Derrière ce projet, on trouve un père de famille, Brian Levine (informaticien à l'Université du Massachusetts Amherst), qui s'est interrogé sur certaines apps et leur accès par des mineurs. Avec d'autres, il a ainsi conçu un modèle informatique qui évalue les avis des clients sur les applications. En utilisant l'intelligence artificielle pour évaluer le contexte et l'examen de certains mots clefs, ils ont construit un site Web consultable -App Danger Project- qui fournit des conseils clairs sur la sécurité des applications vis-à-vis des enfants.
Celui-ci répertorie actuellement 182 applications répondant à ses propres critères, qui se trouvent à la fois sur l'App Store d'Apple et le Play Store de Google. Sur le site, on trouve un listing complet avec diverses informations et options, dont la possibilité d'ajouter un filtre (Apple / Google).
Parmi les sources d'information utilisées pour évaluer la dangerosité d’une app, le site utilise également les avis publiés dans les magasins d'applications, notamment ceux qui soulèvent des préoccupations concernant l'exploitation des enfants voire même des soupçons de pédo-pornographie.
Une réaction immédiate d'Apple
Après la publication, Cupertino a mené l'enquête et a supprimé 10 applications listées. Dans un communiqué, elle précise avoir ouvert des investigations complémentaires concernant les autres, sans toutefois explicité les raisons de cette décision. Après tout Snapchat y est aussi signalé à plusieurs reprises (comme Tumblr ou Reddit) en raison de certains sujets sensibles (comme le harcèlement ou les troubles alimentaires par exemple),ce n'est pas pour autant qu'il en sera retiré.
Notre équipe d'examen des applications travaille 24 heures sur 24, 7 jours sur 7 pour examiner attentivement chaque nouvelle application et mise à jour d'application afin de s'assurer qu'elle répond aux normes d'Apple, a précisé un représentant de la firme.
Un système à plusieurs vitesses ?
Outre les problèmes de sécurité et de protection de l'enfance (le déploiement très contesté du système CSAM), le fonctionnement de l'App Store est régulièrement critiqué sur la question de la surveillance et de la validation (ou son contraire) de certaines applications. On se souvient des derniers scandales quant au comportement assez contradictoire d'Apple.
Dans un tout autre registre, Apple a introduit de nouveaux encarts publicitaires dans l'App Store, avant de faire marche arrière. En effet, certains développeurs étaient particulièrement furieux que leur applications servent de tremplin publicitaire à des applications sans aucun lien avec eux ou la nature de leur programme, notamment des jeux de style casino, qui pourraient aussi s'avérer tout aussi dangereux pour les moins de 18 ans. On a en effet recensé plusieurs cas où les mineurs se prenaient à utiliser des jeux d'argent (et le portefeuille des parents).
