“Nous ne saurons pas ce qui est vrai et ce qui ne l’est pas”

La course entre les entreprises technologiques pour développer la meilleure Intelligence Artificielle a commencé ; le problème est que cela peut être une “course au danger”. C’est la crainte exprimée par Geoffrey Hinton, qui ironiquement est l’une des personnes qui ont rendu ces avancées possibles.

La peur du “parrain de l’IA”

Geoffrey Hinton a remporté le prix Turing en 2018 pour son travail révolutionnaire sur les réseaux de neurones artificiels et l’apprentissage automatique, la base sur laquelle reposent toutes les dernières avancées de l’intelligence artificielle ; mais l’informaticien qui essaierait tout ce qui était “techniquement génial” maintenant il regrette avoir aidé à établir cette fondation. Sa seule consolation, selon ses mots, est que s’il ne l’avait pas fait, quelqu’un d’autre l’aurait fait.

C’est le message inquiétant que Hinton a envoyé dans une interview avec le Le New York Times, dans lequel il annonce sa démission de son poste chez Google, qu’il a mis fin après que le géant de la technologie a acquis sa société pour 44 millions de dollars. Cependant, il a précisé qu’il n’avait pas abandonné Google pour critiquer l’entreprise, dont il n’a que de bons mots pour l’instant ; sa peur vient plutôt de la “course” que le secteur a lancée après la sortie publique de nouveaux outils basés sur l’IA comme ChatGPT ou Midjourney.

Hinton pense qu’il devait cesser d’être associé à Google afin que ses avertissements ne soient pas rejetés comme ceux d’un concurrent contrarié par le fait que la concurrence gagne. Il a probablement vu le faible succès de la lettre publique appelant à une “pause” dans le développement de l’IA, signée en partie par les concurrents actuels et futurs de ChatGPT tels qu’Elon Musk, et voulait éviter cela.

Bien que Hinton affirme que Google a agi de manière “responsable” Jusqu’à présent dans ses recherches sur l’IA, il craint que les dernières versions ne déclenchent une compétition “impossible à arrêter”, avec des conséquences désastreuses pour l’humanité. C’est quelque chose que nous voyons déjà, avec le lancement de Google Bard, une alternative à ChatGPT, malgré le fait qu’il ne soit pas à la hauteur et ait fait de graves erreurs même dans sa présentation.

Le problème est que l’internaute moyen peut très facilement croire ces fausses créations, au point que plus personne ne sait “ce qui est vrai”. Il avertit également que l’IA supprimera des emplois, tels que des traducteurs, des assistants personnels ou des avocats.

Hinton est conscient que d’autres ont dit la même chose et avoue que Je pensais qu’il restait encore 30 ou 50 ans pour que l’IA déjoue les gens ; mais qu’il a changé d’avis et regrette le travail qui a défini sa vie.

En réponse, Google a cherché à calmer les choses, dans une réponse publique déclarant qu’il reste attaché à une recherche responsable sur l’IA.

Cela peut vous intéresser

Suivez les sujets qui vous intéressent