Même si le phénomène des applications capables de déshabiller n’importe quelle femme comme par « magie » n’est pas tout à fait nouveau, il ne fait aucun doute que la popularisation de l’IA générative a aggravé ce problème. Il n’est pas rare de trouver des applications qui non seulement permettent de « déshabiller » une personne grâce à l’IA, mais il y en a même qui la présentent comme leur principal avantage sur les autres. Et à l’avenir, il sera possible de créer des vidéos de personnes nues.
En réalité, la seule chose que font ces applications est de créer de fausses images à partir d’une base de données de photographies de femmes nues. Mais les résultats sont de plus en plus réalistes et donc de plus en plus populaires ; au point qu’ils sont déjà utilisés dans des cas de « harcèlement » de mineurs en Espagne dans lesquels sont partagés des nus non consensuels créés à partir de photographies innocentes.
La technologie de l’IA générative a le potentiel d’aggraver les choses, grâce à sa capacité exceptionnelle à créer des images réalistes avec une simple commande. Le pire, c’est que l’application n’a pas besoin d’être conçue spécifiquement pour cela ; Depuis le début, les services de génération d’images ont été utilisés pour créer des nus de célébrités comme Taylor Swift, jusqu’à ce que les créateurs mettent en place des limitations.
Désormais, imposer ces limitations sera obligatoire avant de lancer une application Android via Google Play, le plus grand magasin d’applications et celui qui est présent par défaut sur presque tous les téléphones Android vendus en Espagne. Google a publié de nouvelles directives à l’intention des développeurs, les obligeant à empêcher la génération de contenu « restreint »c’est ainsi qu’il qualifie entre autres les contenus sexuels et violents.
Plus précisément, Google prévient les développeurs d’applications qui utilisent l’IA qu’ils devront « vérifier rigoureusement » que leurs modèles respectent la vie privée et la sécurité des utilisateurs, y compris la création de nudité non consensuelle. Toutes les applications qui génèrent du contenu via l’IA devront restreindre la création de ce type de contenu ; et doit offrir aux utilisateurs un moyen de marquer ce contenu pour suppression. Les développeurs doivent surveiller ces avis et les hiérarchiser pour éliminer ce type de contenu.
L’autre grand changement concerne plus directement les applications de nudité. Les développeurs ne pourront pas annoncer leurs applications comme Ils sont capables de retirer les vêtements d’une personne ou la déshabiller complètement. Un détail très important est que peu importe si l’application peut réellement faire cela ; Même s’il s’agit d’un mensonge, Google peut expulser le développeur s’il prétend le pouvoir.