Mettre en pause l’entraînement de l’IA de type GPT-4, le souhait de Musk et de ceux qui sont en retard dans cette course

L’IA générative dessine un avenir tout simplement incertain et c’est maintenant que 1 000 personnalités du monde technologique demandent l’arrêt de leur formation en raison de la effets que cela pourrait avoir sur l’histoire de la planète. Il est curieux que certains de ceux qui sont en retard dans cette technologie signent cette lettre.

[Europol hace saltar las alarmas por ChatGPT: la IA ya está siendo usada para cometer crímenes]

Un changement disruptif pour l’humanité

Nous sommes actuellement confrontés à une course technologique dans laquelle Microsoft a parcouru un long chemin sur ses concurrents directs, dont Google lui-même avec son Bard, son IA générative de type ChatGPT.

Depuis des décennies, les grandes entreprises technologiques se sont battues et ont investi d’énormes capitaux dans des projets qui les placeraient comme le pilier au niveau technologique. Et en ce moment il ne fait que surfer “la grande vague” OpenAI avec son GPT-4 suivi de Bard de Google qui a encore du mal à monter sur la planche de surf, que l’on pourrait dire comme celle des le grand mercredi (film de 1978 centré sur le monde du surf en Californie).

En passant en revue les noms de la lettre qui a été envoyée et signée par des éminences du monde de la technologie, il est tout simplement curieux que ceux qui sont un peu en retard en matière d’IA générative soient après leur signature. Ce qui nous fait nous demander, c’est si l’un d’entre eux, y compris Elon Musk, appartenant à OpenAIFeraient-ils une pause dans l’entraînement de leur IA ?

La réponse peut presque être facilement trouvée afin que nous puissions passer directement aux risques que les systèmes d’IA qui rivalisent presque face à face avec l’intelligence humaine pourraient produire pour la société et l’humanité.

Interrompre l’entraînement pendant 6 mois

D’ici, quoi passer un appel général à tous les laboratoires d’IA de suspendre immédiatement pendant au moins 6 mois la formation des systèmes d’IA plus puissants que GPT-4.

Dans cette folie que le progrès technologique est devenu dans toutes ses branches, dire stop que le train à grande vitesse ressemble presque plus à un cri, puisqu’il s’agit d’entreprises importantes qui, les années précédentes, ont été dépassées par d’autres. Même si Microsoft a toujours été là, jusqu’à l’arrivée de Nadella, son PDG actuel, il n’a pas connu ses meilleurs moments, autant dire que maintenant ils arrêtent leur machine, ça peut être presque anecdotique.

Et c’est que même cette lettre soutient que cette pause devrait être rendue publique et vérifiable et inclure tous les principaux acteurs. Ce qui est curieux, c’est qu’ils somment aussi les gouvernements d’entrer en jeu et de pouvoir institutionnaliser un moratoire.

Ce moratoire serait utilisé pour s’assurer que les systèmes adhérant à l’IA avancée sont sécurisés et hors de tout doute raisonnable. Ils indiquent qu’ils n’appellent pas à une pause dans le développement de l’IA en général, mais plutôt à un recul par rapport à cette course périlleuse actuelle.

[La IA de ChatGPT revoluciona la ofimática: todo lo que has de saber sobre Microsoft 365 Copilot]

Les machines devraient-elles être autorisées à contrôler les canaux d’information ?

Comme toutes les irruptions technologiques dans tous les aspects de la vie humaine, elles ont toujours généré de nombreuses peurs et dans ce cas, elles peuvent être encore plus grandes en raison de la vaste capacité de l’IA générative à collecter des informations ; si tout ce que vous fournissez vous-même, comme des millions en ce moment même à travers le monde.

UN apprentissage presque infini dans lequel sa capacité est inconnue et qui déclenche des alarmes sur toute la planète. Les signataires de la lettre posent une question au grand public : devons-nous laisser les machines inonder nos canaux d’information de propagande et de mensonges ?

La lettre dicte que l’IA avancée pourrait représentent un changement profond dans l’histoire de la vie sur Terre, et doit être planifiée et gérée avec soin et avec les ressources appropriées.

En fait, ils affirment que ce niveau de planification et de gestion ne se produit pas pour le moment, même ces derniers mois où les laboratoires d’IA sont dans une course effrénée pour développer et déployer des “esprits numériques” encore plus puissants que même leurs créateurs ne peuvent pas. comprendre, prédire ou contrôler en toute sécurité.

La lettre indique que les systèmes d’IA doivent être développés une fois que nous sommes sûrs que leurs effets seront positifs et que leurs risques pourront être gérés.

un est fait mention des propres mots d’OpenAI Dans une déclaration dans laquelle ils soutiennent, les créateurs de ChatGPT, qu’à un moment donné, il serait important de recevoir une analyse indépendante avant de commencer à former de futurs systèmes, et même de limiter le taux de croissance du calcul utilisé pour créer de nouveaux modèles.

C’est là que des signataires comme Elon Musk, PDG de SpaceX, Tesla et Twitter, Steve Wozniak, co-fondateur d’Apple, Jaan Tallinn, co-fondateur de Skype ou encore Stuart Russell, professeur d’informatique et co-auteur du livre Intelligence artificielle : une approche moderne.

Le but, via xataka et comme source de futureoflife.orgCe qui est souhaité, c’est que ces systèmes d’IA puissent vraiment être bénéfiques pour l’humanité dans son ensemble et puissent ainsi être optimisés et affinés afin que la société puisse s’y adapter. Mais revenons au début, que les PDG des grandes entreprises technologiques réclament à grands cris d’arrêter ce train à grande vitesse pour lequel ils sont arrivés en retard, c’est y penser mais bon.

Cela peut vous intéresser

Suivez les sujets qui vous intéressent