Nous assistons à la prolifération de vidéos avec des images et du son modifiés par l’intelligence artificielle. Il est de plus en plus difficile de faire la distinction entre une vidéo réelle et une vidéo manipulée. Ce qui met en danger la sécurité et la confidentialité des utilisateurs.
Créez votre voix avec l’IA
TikTok est un réseau social aujourd’hui largement utilisé pour le divertissement. Son utilisation est massive car les vidéos sont généralement très courtes, favorisant un défilement rapide. L’application dispose actuellement déjà d’un grand nombre de filtres, d’effets et d’éléments supplémentaires pour créer des vidéos. C’est un autre des facteurs qui ont permis à ce réseau social de se développer autant en si peu de temps.
Bientôt, l’application ajoutera une fonction d’IA qui nous permettra de cloner facilement notre voix. La nouvelle fonctionnalité n’est pas encore terminée, mais elle semble être à un stade très avancé.
Les images divulguées où cette fonction est ajoutée ne rendent pas le nom clair. Il existe une référence qui dit « Créez votre voix avec l’IA » et une autre qui est « Bibliothèque vocale TikTok ».
Il est possible que les deux éléments finissent par être ajoutés. La fonction « Créez votre voix avec l’IA » nous permettra de répliquer notre voix pour nos vidéos et ensuite, la « Bibliothèque vocale TikTok » pourrait être une compilation des voix disponibles. Quelque chose comme les sons actuellement disponibles sur le réseau social.
Selon des fuites, l’écran d’utilisation de cette fonction indique que l’IA peut cloner notre voix en seulement 10 secondes. Ensuite, pour générer du nouveau contenu, nous pouvons télécharger n’importe quelle vidéo et rédiger le texte. Cette fonction le lira, générant de l’audio que nous pourrons utiliser dans la vidéo que nous allons télécharger. Pour générer cette voix, il suffit de s’enregistrer en train de parler pendant quelques instants et c’est tout.
Concernant la confidentialité, l’un des gros problèmes de cette fonction est ce qui va se passer avec cette solution. Selon les « Conditions de la bibliothèque vocale TikTok », la voix générée par l’IA sera privée et pourra être supprimée à tout moment.
Comment les voix seront-elles générées avec l’IA ?
Nous parlons d’un processus assez simple. TikTok nous montrera un petit texte sur l’écran que nous devrons lire en appuyant sur le bouton du microphone. Actuellement, ce texte n’est pas encore connu, car il ne semble pas être prêt au moment de la fuite du texte.
Il faut savoir qu’il s’agira d’un texte très spécifique qui cherchera à obtenir les phonèmes les plus importants pour la génération suivante. Ceci est assez courant dans les enquêtes policières, avec différents textes spécifiques disponibles pour trouver des correspondances vocales. Comme on pouvait s’y attendre, TikTok aura quelque chose de similaire qui aura été soigneusement étudié et analysé, et qui changera en fonction de la langue.
Actuellement, nous ne savons pas quand cette fonctionnalité sera disponible et comment elle sera accueillie par les régulateurs. Vous devez déjà savoir que les États-Unis sont sur le point d’interdire TikTok dans le pays et que l’Union européenne travaille à leur couper les ailes. Actuellement, l’UE examine TikTok Lite, l’application sœur qui permet de gagner de l’argent simplement en regardant des vidéos.