Avec Llama 3 et son nouvel assistant, Meta veut s'imposer face à OpenAI

Sa sortie était attendue depuis des semaines. Meta a (enfin) dévoilé Llama 3, dernière itération de sa famille de modèles Llama en open source. Deux modèles pré-entraînés et fine-tuned avec des paramètres de 8B et 70B ont été publiés avec la capacité à prendre en charge un large éventail de cas d’usage. "Les modèles textuels que nous publions aujourd'hui sont les premiers de la collection de modèles Llama 3. Notre objectif dans un avenir proche est de rendre Llama 3 multilingue et multimodal, d'avoir un contexte plus long et de continuer à améliorer les performances globales dans les fonctionnalités de base du LLM telles que le raisonnement et le codage", précise Meta.

Meta n'hésite d'ailleurs pas à se vanter des performances de ses deux modèles, précisant que ce sont "les meilleurs modèles existants aujourd'hui à l'échelle des paramètres 8B et 70B. Les améliorations apportées à nos procédures post-entraînement ont considérablement réduit les taux de faux refus, amélioré l'alignement et accru la diversité des réponses des modèles. Nous avons également constaté des performances considérablement améliorées telles que le raisonnement, la génération de code et les instructions suivantes, rendant Llama 3 plus maniable".

Des performances qui surpassent celles des modèles de Mistral AI et Google

Pour juger de ses performances, le géant s'est basé sur un ensemble d'évaluation qui contient 1 800 invites qui couvrent 12 cas d'utilisation clés : demande de conseil, brainstorming, classification, réponse à des questions fermées, codage, écriture créative, extraction, habiter un personnage/persona, réponse à des questions ouvertes, raisonnement, réécriture et résumé. Meta a fait le choix de comparer la version Instruct de son modèle Llama 3 8B à Gemma 7B-It et à Mistral 7B Instruct. La version de Meta explose les compteurs avec des scores largement au-dessus de ses concurrents dans tous les tests.

Concernant Llama 3 70B Instruct, le choix a été fait de le comparer à Gemini Pro 1.5 et à Claude 3 Sonnet. Il apparaît que le modèle développé par Google dépasse celui de Meta sur deux tests, à savoir GPQA et MATH. La version pré-entraînée creuse davantage l'écart avec les modèles d'Anthropic et de Google.

Meta attribue cela au fait d'avoir pré-entraîné Llama 3 sur plus de 15 mille milliards de jetons collectés à partir de sources accessibles au public. "Notre ensemble de données d'ntraînement est sept fois plus volumineux que celui utilisé pour Llama 2 et comprend quatre fois plus de code".

Llama 3 bientôt multilingue et disponible sur les différentes plateformes

Meta prévoit d'ailleurs d'orienter son LLM vers des cas d'utilisation multilingues. Pour cela, plus de 5 % de l'ensemble de données de pré-entraînement de Llama 3 est constitué de données non anglaises de haute qualité couvrant plus de 30 langues. La firme admet toutefois ne pas s'attendre au "même niveau de performance dans ces langues qu’en anglais".

Ses ambitions ne s'arrêtent pas là puisque dans les mois à venir, Meta prévoit d’introduire d'autres fonctions, incluant des fenêtres contextuelles plus longues, des tailles de modèles supplémentaires et des performances améliorées. Parallèlement, l’entraînement de Llama 3 sur un modèle de 400 B a débuté.

Notons que les modèles Llama 3 seront bientôt disponibles sur AWS, Google Vertex AI, Hugging Face, Kaggle, IBM WatsonX, Microsoft Azure, Nvidia et Snowflake, avec le soutien de plateformes hardware proposées par AMD, AWS, Dell, Intel, NVIDIA et Qualcomm.

Avec Llama 3, Meta pousse son assistant IA dans tous ses réseaux sociaux

Facebook, Instagram, Messenger, WhatsApp. Aucun réseau social n'échappera à l'intégration de l'assistant IA, Meta AI, basé sur Llama 3. Entièrement gratuit, Meta AI est déjà disponible aux Etats-Unis et la firme prévoit de le pousser dans davantage de pays, à travers ses applications : Australie, Canada, Ghana, Jamaïque, Malawi, Nouvelle-Zélande, Nigéria, Ouganda, Pakistan, Singapour, Afrique du Sud, Zambie et Zimbabwe. Si Meta est encore loin de toucher l'ensemble de ses utilisateurs, le géant se rapproche toutefois de son objectif, à savoir atteindre à terme ses plus de 3 milliards d'utilisateurs quotidiens.

Dans le détail, Meta AI est disponible dans les fils, les conversations ou encore les barres de recherche des différentes applications – identifié par @MetaAI – pour accomplir ses tâches et accéder à des informations en temps réel, sans avoir à quitter son application. Par exemple, l'assistant peut être utilisé pour planifier un dîner avec les ingrédients disponibles dans son réfrigérateur, pour réviser un examen ou encore planifier un week-end.

En parallèle, la firme propose même de générer des images avec son assistant IA. Il est à présent possible de créer des pochettes d’album, des inspirations décoration ou encore des GIF animés personnalisés.

Meta met à l'amende OpenAI

Si un doute persistait encore quant à la capacité à Meta à se renouveler et à faire évoluer l'ensemble de ses applications, celui-ci est désormais levé. Avec son assistant Meta AI, la firme franchit une étape majeure dans le développement de son empire technologique et met à l'amende OpenAI et son outil phare ChatGPT.

L'assistant intègre même les résultats de recherche de Bing et de Google, preuve de la capacité de l'outil à répondre à toutes les demandes de ses utilisateurs. Ces derniers n'ont donc plus besoin de passer d'une application à une autre et encore moins d'ouvrir un navigateur, toutes leurs réponses se trouvant désormais sur les applications de Meta.

Vous souhaitez être en veille sur l’actualité du secteur de l’intelligence artificielle ? Inscrivez-vous gratuitement à la newsletter IA Insider.

Sélectionné pour vous

Nvidia signe pour 6,3 milliards de dollars de commandes auprès de CoreWeave

ChatGPT entre les mains du grand public, ça donne quoi ?

Plus de 20% des TPE-PME ont désormais recours à des outils d'IA générative