Meta AI a présenté Llama 2, son modèle d’IA le plus récent et le plus avancé. Ce robot de haute technologie est conçu pour fonctionner avec de nombreuses applications intéressantes, comme Bing Chat et ChatGPT d’OpenAI. Il est également destiné à être posé sur une étagère. Faites attention lorsque nous parlons de la façon d’utiliser Llama 2. Llama 2 a beaucoup appris de tous les différents types de données disponibles à la vue de tous.
Meta est sûre que ce nouveau groupe de modèles de lamas est bien meilleur que les premiers puisqu’ils ont été formés de plusieurs manières. Avec ces changements, il y a un grand pas en avant pour les chatbots. Ils représentent un grand pas en avant vers la façon dont l’IA communiquera avec les gens à l’avenir.
Après qu’OpenAI ait publié GPT, de nombreuses entreprises se sont précipitées pour créer leurs propres modèles de langage génératifs puissants. Pour créer votre propre IA générative, vous devrez peut-être consacrer beaucoup de temps et faire beaucoup de recherches et d’essais et d’erreurs.
Soyez également très prudent lorsque vous choisissez un ensemble de données, car il a un impact important sur le fonctionnement des grands modèles linguistiques. Enfin et surtout, de nombreuses entreprises ne disposent pas des ordinateurs dont elles ont besoin pour former ces modèles. À l’heure actuelle, OpenAI, Google et quelques autres sociétés sont les seules à pouvoir réaliser ces LLM. Depuis la sortie de LlaMA, Meta a enfin rejoint la course.
Qu’est-ce que Lama 2 ?
Modèle d’IA qui génère. Son nom complet est « Large Language Model Meta AI ». De nombreux modèles de langage étendus simples sont créés par Meta AI, une société appartenant à Meta (anciennement Facebook). Meta a parlé de Llama à tout le monde en février 2023.
Meta a rendu Llama disponible en quatre tailles, chacune basée sur le nombre de paramètres : 7, 13, 33 et 65 milliards de paramètres avec une longueur de contexte de 2 000 jetons. Il vise à aider les personnes qui étudient l’IA à s’améliorer dans ce qu’elles font. Les chercheurs qui ne disposent pas de beaucoup de puissance informatique peuvent utiliser les petits modèles 7B pour examiner ces modèles.
Le GPT d’OpenAI et le PaLM de Google sont les seuls modèles LLM avec lesquels Meta est actuellement en concurrence. Meta estime qu’avec peu de puissance de calcul, les petits modèles peuvent être recyclés ou affinés pour obtenir des résultats comparables à ceux des meilleurs modèles dans leur domaine. Le LLM et le LlaMa de Meta AI ne sont pas les mêmes.
Ces modèles sont open source, ce qui signifie que tout le monde peut les utiliser gratuitement. Les chercheurs ont même pu utiliser les poids LlaMA gratuitement grâce à Meta AI.
Il a été publié par Meta en juillet 2023. Le niveau 1 de LlaMA n’est pas aussi bon que le niveau 2. Celui-ci est disponible en trois tailles : 7B, 13B et 70B. Lors de sa première sortie, Hugging Face lui a attribué la note la plus élevée. Il existe un modèle nouveau ou modifié sur ce site qui est meilleur que celui de LlaMA 2. Il fonctionne bien pour les trois groupes (7B, 13B et 70B).
Deux quadrillions de jetons de pré-entraînement ont été utilisés pour entraîner Llama 2. Tout le monde dans Llama 2 a une longueur de contexte de 4 000 k, soit deux fois plus longue que Llama 1. De nombreux tests ont montré que les nouveaux modèles open source comme Falcon et MPT ne fonctionnaient pas aussi bien. comme Llama 2. Certains de ces tests étaient MMLU, TriviaQA, Natural Question, HumanEval et autres.
Sur le site Web de Meta AI, vous pouvez trouver la liste complète des scores de référence. Llama 2 a également été amélioré pour une utilisation dans le chat, et plus d’un million d’annotations faites par des personnes ont été utilisées pour l’entraîner. Sur les sites Hugging Face, ces modèles de chat sont faciles à trouver et à utiliser.
Vous pouvez trouver le code source de ce projet sur GitHub. Sinon, vous pouvez utiliser les premiers poids, mais vous devrez donner aux Meta AI votre nom et votre adresse e-mail pour ce faire.
Ce lien vous mènera à Meta AI. Pour y accéder, cliquez simplement dessus et entrez votre nom, votre adresse e-mail et votre organisation (étudiant si vous ne travaillez pas). Pour continuer, faites défiler vers le bas et cliquez sur « Accepter et continuer ». Vous recevrez bientôt un message vous indiquant que vous pouvez obtenir les poids du modèle. Voilà à quoi cela ressemblera.
Vous pouvez désormais utiliser votre modèle de deux manières différentes. Il existe un moyen délicat de télécharger le modèle immédiatement : suivez les étapes et cliquez sur le lien dans l’e-mail. Cela ne fonctionnera que si votre GPU est puissant. Vous pouvez également utiliser Google Colab et Hugging Face.
Je vais vous montrer la méthode simple que tout le monde peut utiliser dans ce guide. Tout d’abord, nous devons créer un compte pour HuggingFace et une API d’inférence. Après cela, nous pouvons accéder à Google Coat. Ensuite, nous devons donner au site Web Meta AI l’adresse e-mail que vous leur avez fournie. Pour cela, cliquez ici et rendez-vous sur le modèle Llama 2 dans Hugging Face. Après cela, vous serez vérifié et verrez ceci.
Comment utiliser le chatbot LLAma 2 dès maintenant ?
Étape 1 : Visitez le site Web de démonstration
- À l’heure actuelle, Meta’s Llama 2 ne peut être acheté que sur Amazon Web Services et HuggingFace. Cette leçon utilisera la seconde. Faites ces choses.
- Pour le trouver sur le site de démonstration de HuggingFace Llama 2, rendez-vous sur la page Démo et faites défiler jusqu’en bas.
- Pour accéder à la page d’accueil, cliquez sur le mot « cet espace » à côté de « Démo ».
Étape 2 : saisir la requête et obtenir une réponse
- La boîte de discussion principale apparaîtra maintenant. Tapez votre question et cliquez sur « Soumettre » pour obtenir des réponses. La question peut être quelque chose d’aussi simple que « Bonjour » ou d’aussi compliqué qu’une invite de code HTML.
- Cela peut prendre une minute à Llama 2 pour répondre ; ce n’est pas le plus rapide en ce moment. En effet, à mesure que de plus en plus de personnes essaient, la charge augmente lentement.
- Lorsque le modèle d’IA de Meta aura fini de trouver des idées, une réponse apparaîtra.
Ils ont dit que le Llama 2 LLM à vendre est le plus important car son cerveau possède plus de 70 milliards de paramètres. Cela permet au modèle de faire beaucoup de choses. Pour moi, il était simple pour le chatbot IA de répondre. Il pouvait écrire du code et parler aux gens. De plus, Llama 2 dit qu’il ne peut pas se connecter au Web. Vous pouvez lui donner des liens et lui demander de décrire ou de parler de ce qu’il dit.
Ce n’est pas parfait car il ajoute des éléments qui ne figurent pas dans l’article, mais le travail est fait. Quoi qu’il en soit, ce nouveau modèle de langage est toujours intéressant. Cela me fait me demander comment cela pourrait se comparer aux autres LLM, open source ou non.
Conclusion
Nous devons nous rappeler que la sécurité est la chose la plus importante à propos de Llama 2 alors que nous apprécions le début. La promesse de Meta de donner des résultats corrects et de mettre fin aux abus était l’une des principales idées qui ont présidé à la création de Llama 2. Les personnes qui ont suivi les premiers LLM, comme GPT, étaient connues pour avoir des problèmes d’« hallucinations », de fausses informations et de points de vue injustes. . Meta a fait beaucoup pour s’assurer que ces problèmes ne se produisent pas.
C’est plus facile à gérer pour Llama 2 maintenant que Meta lui a appris davantage sur la « véracité », la « toxicité » et les « préjugés ». Certaines personnes disent que Llama 2 Chat peut être honnête et avoir plus de bonnes intentions que la version déjà formée.
Le nombre de générations venimeuses tombe à presque zéro pour toutes les tailles de Llama 2-Chat. Lorsque tous les modèles ont été examinés, celui-ci présentait le moins de dégâts. Le Llama 2-Chat affiné est meilleur que Falcon et MPT pour être toxique et dire la vérité.