L’essor des applications « nudify », capables de générer des images intimes modifiées sans consentement, place Apple et Google face à une pression inédite. Saisie par la ville de San Francisco, l’industrie numérique se retrouve confrontée à d’importants enjeux éthiques et à une forte urgence réglementaire.
Une nouvelle vague de deepfakes ciblant l’intimité
Les outils baptisés « nudify » exploitent les avancées récentes de l’intelligence artificielle pour modifier des photos personnelles et produire des représentations sexualisées. Ce phénomène touche de plein fouet les femmes et les mineurs, souvent exposés sans leur approbation à une technologie détournée de ses usages premiers. Très rapidement, la ville de San Francisco a interpellé Apple et Google, estimant qu’ils offraient une vitrine à ces programmes au sein même de leurs plateformes officielles.
La portée du dossier est considérable : selon plusieurs ONG et autorités locales, ces applications sont restées disponibles de longs mois sur les stores, malgré des alertes répétées. Les systèmes de paiement intégrés facilitent en outre la monétisation de ce marché parallèle, intensifiant les critiques relatives à la responsabilité directe ou indirecte des distributeurs.
Les réponses d’Apple et Google sous le feu des critiques
Sous le regard attentif du public et des pouvoirs locaux, Apple et Google multiplient les annonces correctives. Sur l’App Store, un porte-parole indique que plusieurs applications « nudify » ont été supprimées, avec suspension immédiate des comptes développeurs concernés. Du côté de Google Play, des centaines d’applications similaires auraient été retirées, accompagnées de restrictions sur certains mots-clés utilisés lors des recherches.
Cependant, ces réactions sont jugées insuffisantes par les autorités municipales qui dénoncent le manque de prévention et la lenteur d’intervention. Les courriers officiels adressés aux directions rappellent que la ville avait prévenu Apple et Google concernant le traitement illicite de paiements liés à ces produits. Au-delà du bannissement ponctuel, la discussion s’oriente désormais vers la capacité des algorithmes à détecter proactivement les contenus dangereux et vers une exigence de diligence renforcée imposée aux grandes plateformes numériques.
Quels risques pour l’industrie technologique et la société ?
Un défi juridique inédit face à la prolifération des deepfakes
La réglementation actuelle peine à suivre la vitesse d’expansion des technologies d’IA générative. La diffusion d’images intimes non sollicitées demeure interdite dans de nombreux pays, mais les mécanismes d’anonymisation fournis par les applications « nudify » compliquent les enquêtes et rendent l’identification des responsables plus difficile. Pour Apple et Google, cela accroît les risques de litiges et expose à des sanctions civiles évoquées explicitement dans les sommations envoyées par la municipalité.
Les analyses publiées par des entités telles que Tech Transparency Project révèlent que le problème dépasse largement le cadre anecdotique : il s’agit d’un modèle économique viral, dont bénéficient aussi les plateformes via les commissions perçues sur chaque transaction.
Enjeux éthiques et limites de la régulation automatisée
L’apparition de ces applications « nudify » relance le débat sur l’efficacité du filtrage automatique et la surveillance des boutiques applicatives. Si Apple et Google revendiquent des efforts pour enrayer ces pratiques, leurs outils de contrôle restent contestés. L’interdiction de termes spécifiques ne suffit pas toujours à empêcher l’émergence de services équivalents sous d’autres noms, ni la multiplication de versions web échappant à toute supervision.
Derrière les aspects techniques et juridiques, la sensibilisation du public et le soutien aux victimes apparaissent comme des axes essentiels. Sous la pression exercée par San Francisco, une prise de conscience plus large pourrait voir le jour, obligeant les acteurs majeurs à revoir en profondeur leurs politiques de publication et de modération. Les prochaines semaines permettront de mesurer si cet avertissement entraînera une évolution structurelle dans la gouvernance des principaux stores numériques.
