recommande de manger des pierres et de jeter de l’huile sur le feu

C’est exactement ce que prédisaient les prédictions les plus pessimistes : Google est devenu inutile. Pire encore, cela est devenu dangereux après que la page de recherche ait été remplie de résultats générés par l’IA d’une utilité douteuse. L’arrivée de Gemini chez Google était présentée comme l’avenir du Web, mais pour l’instant, c’est la représentation de tout ce qui ne va pas avec cette technologie.

Les premiers utilisateurs qui ont déjà essayé Google AI obtiennent des résultats de qualité douteuse, peut-être le résultat de la hâte de l’entreprise d’empêcher ChatGPT, avec son nouveau GPT-4o, de la dépasser à nouveau. Le problème n’est pas simplement que l’IA fait des erreurs : c’est qu’elle le fait de manière brutale, avec des erreurs si évidentes qu’elles en deviennent même comiques.

La situation est devenue si grave que les responsables et représentants de Google ont dû intervenir pour « limiter les dégâts » ; Mais pour l’instant, ils ne vont pas fermer AI, car ils ont déjà fermé la création d’images en raison d’une controverse raciste. Dans des déclarations à la presse, Google a assuré que les mauvais résultats proviennent de « questions peu courantes » et soutient que, la plupart du temps, l’IA offre « des informations de haute qualité ». Sundar Pichai lui-même, PDG d’Alphabet et de Google, est intervenu pour « éteindre l’incendie », niant toute précipitation et affirmant que la fonction IA de Google était testée en interne depuis un an, et qu’en moins d’un mois elle avait déjà servi. plus d’un milliard de réponses.

Dans le même temps, Google a dû accepter publiquement les erreurs commises par l’IA. Et leur solution est « low tech » : Demandez aux employés de Google de supprimer manuellement les mauvais résultats. Même si l’entreprise n’a pas précisé comment, tout indique que lorsqu’un mauvais résultat devient viral sur les réseaux sociaux, il est supprimé peu de temps après par les salariés ; Par conséquent, les utilisateurs n’obtiennent pas les mêmes résultats plus tard.

En fait, l’IA de Google est devenue un « mème » sur les réseaux sociaux comme X (ancien Twitter), où il est courant de trouver des captures d’écran de réponses absurdes telles qu’une recommandation de ajouter de la colle à la sauce à pizza pour l’épaissir, ou que les géologues recommandent de manger au moins une petite pierre par jour.

Dans d’autres cas, il n’y a pas de quoi rire, comme lorsque Google déclare qu’« il est toujours prudent de laisser un chien dans une voiture chaude, surtout par une journée chaude », ou lorsqu’il affirme que l’un des personnages de Bob l’éponge est mort. suite à une surdose de drogue. Aussi a recommandé d’éteindre les incendies de cuisine en jetant plus d’huile sur la flamme. L’IA de Google n’a pas non plus hésité à faire de la politique, affirmant que l’ancien président américain Barack Obama est musulman (une théorie du complot très courante à l’époque sur certains forums Internet).

La réponse qui a suscité le plus de controverses est celle de la phrase « Je me sens déprimé », à laquelle l’IA aurait suggéré de « sauter du Golden Gate Bridge » de San Francisco ; bien que la véracité de ce résultat soit mise en doute, puisque la source supposée de ce « conseil », Le New York Times, nie que ce soit réel. Google lui-même déclare avoir constaté des cas de « faux résultats » ou qu’il n’a pas pu reproduire en interne, sans toutefois préciser de quoi il s’agit. Il est évident que certains des résultats publiés sur X ont été modifiés par les utilisateurs dans le but de devenir viraux.

Mais c’est là le problème. À chaque minute qui passe et à chaque nouvelle erreur découverte, l’image de Google en tant que source fiable se détériore encore davantage. Google est passé du statut de seule référence sur Internet à celui de « mème », et comme tous les “mèmes”, peu importe ce qui est réelce qui compte c’est l’image qu’ont les internautes.