La maison mère de Facebook vient présenter la dernière itération de son LLM Open Source capable de gérer jusqu’à 405 milliards de paramètres avec en prime un nouveau support multilingues du Français.
La dernière version de Llama arrive avec la prise en charge du français. Meta vient ainsi de présenter Llama 3.1 405B, dernière itération en date de son LLM Open Source qui prend enfin en charge la langue de molière (mais aussi l’allemand, l’hindi, l’italien, le portugais et l’espagnole) et doit exceller dans des domaines de pointe tels que les connaissances générales, les mathématiques, l'utilisation d'outils et la traduction multilingue. La maison mère de Facebook assure même qu’il rivalise déjà avec les modèles privés d’OpenAI et Anthropic PBC.
Llama 3.1 est une mise à jour de Llama 3 que l'entreprise avait dévoilé en avril 2024. Dans sa nouvelle version, il peut prendre en charge 405 milliards de paramètres. Llama 3.1 dispose d'une fenêtre contextuelle de 128 000 jetons, ce qui lui permet de lire des livres de taille moyenne, des transcriptions longues et d'autres documents volumineux. Llama 8B et 70B devraient également profiter de cette nouvelle fenêtre contextuelle et aussi de la prise en charge multilingue.