Il y a quelques jours, le géant de la technologie a fourni des détails sur les erreurs commises pour créer une IA « raciste » en générant des images d’une femme asiatique lorsque Gemini a été consulté par un « soldat allemand de 1943 ». L’émoi a été tel que Sundar Pichai, PDG de Google, a dû envoyer une lettre interne à ses travailleurs.
La semaine dernière, Google a dû désactiver Gemini (sa nouvelle IA désormais disponible sur Android) afin que les images puissent être générées après certaines des réponses contenant un homme noir sont devenues virales lorsqu’on lui a demandé d’illustrer un « soldat allemand de 1943 ».
Dans la lettre écrite, Pichai prévient que Google a toujours été lié à une précision correcte dans les résultats de recherche aux requêtes effectuées par des millions de personnes depuis leur moteur de recherche. Le simple fait qu’une requête d’IA aboutisse à une image incorrecte pourrait ruiner la renommée de l’entreprise.
Images du Pape créées par Gemini de Google
Le dicton selon lequel se précipiter n’est pas un bon conseiller s’inscrit parfaitement ici, et depuis la popularité du ChatGPT d’OpenAI, Google n’a pas arrêté en accélérant tous les processus pour lancer votre alternative; et encore plus lorsqu’elle développe ce type de technologie depuis longtemps.
Cette ruée pour lancer ses différentes alternatives et ainsi se rapprocher de ChatGPT s’est traduite par des images générées par l’IA qui ont fait grand bruit médiatique avec tout ce que cela implique. Et depuis des semaines, les images générées par Gemini se sont développés grâce aux réseaux sociaux si bien qu’à la fin ils sont devenus viraux.
Dans la note interne, Pichai indique que Google a travaillé 24 heures sur 24 pour résoudre les problèmes dés, et d’expliquer qu’aucune intelligence artificielle n’est parfaite. Une action menée par le PDG de Google pour apaiser les tensions de ces jours-ci ; surtout à l’heure où plusieurs acteurs s’empressent d’apporter ces expériences et ainsi ne pas laisser OpenAI avec ChatGPT s’éloigner trop.
Parmi ces acteurs se trouve Elon Musk avec sa propre IA, qui Il n’a pas tardé à profiter de l’occasion pour critiquer ouvertement à Google. Les intérêts sont très importants, et tout revers est l’occasion pour les entreprises d’en profiter pour tenter de prendre de l’avance dans cette course à l’intelligence artificielle générative.
UN désastre assez important pour les intérêts de Google et cela envoie aussi un message : la grande responsabilité de développer une technologie qui peut avoir des résultats inattendus, et plus encore à un moment aussi crucial que celui que vit actuellement le monde.
Ce La responsabilité incombe aux géants technologiques.et du moins, d’après les propos de Pichai dans sa note interne recueillie par 9to5Googlesuggère qu’ils sont parfaitement conscients de l’usage abusif qui peut être fait de l’intelligence artificielle et de la manière dont ce type d’images constitue un terrain fertile pour tout type de conflit dans un monde de plus en plus polarisé.
Cela peut vous intéresser
Suivez les sujets qui vous intéressent