.jpg)
La compétition autour des LLMs continue de s'intensifier, et fait émerger de nouveaux enjeux. Le lancement récent de Llama 2 soulève une question cruciale : doit-on opter pour des modèles privés ou open-source ? Quels sont les avantages de chaque approche à l'heure actuelle ?Voici quelques éléments pour vous aider à y voir plus clair.
Qu'est ce que les LLMs privés ? Ce sont les modèles détenus par des entreprises, qu'il faut rétribuer à chaque utilisation, et sur lesquels l'utilisateur n'a pas de contrôle. Vous les connaissez bien car ce sont les plus connus du grand public. Il s'agit par exemple de chat-GPT, de BARD (le LLM de Google) ou encore de Claude (de la société Anthropic). Ils sont souvent les plus performants sur de nombreux aspects tels que la synthèse, la rédaction ou la réflexion inductive/déductive. Cependant, comme leur nom l'indique, ils sont payants et le prix peut vite gonfler pour des systèmes un peu perfectionnés. De plus, l'opacité de ces modèles inquiète sur la sécurisation des données. Ce type de LLM envoie en effet à l’heure actuelle toutes les informations renseignées dans la commande au propriétaire du LLM.
De l'autre côté se trouvent les LLM Open-source. Vous les connaissez moins car ils sont moins médiatiques. Le plus célèbre d'entre eux, LLama est paru en V2 la semaine dernière.Un LLM open-source est un modèle dont le code est disponible à tous, et que chacun peut utiliser à sa manière. Il existe aujourd'hui différents modèles aux noms burlesques, souvent construits autour du modèle LLaMa : Falcon, RedPajama….L'avantage de cette approche réside dans le fait que les modèles peuvent fonctionner en local (sur votre machine), ou sur des clouds privés, ce qui garantit la sécurité des informations. Ces LLMs sont par ailleurs personnalisables : il est possible de les "Fine-Tuner", c'est-à-dire de les adapter et de les entraîner pour répondre à des besoins spécifiques pour lesquels ils deviennent très performants : résumé de texte, extraction d'information ciblée...Financièrement, ils peuvent aussi être plus intéressants car le coût d'entrainement est souvent très faible. Reste les frais d'hébergement et de maintenance, et la comparaison avec les LLMs privés dépend alors de l'usage.Notons cependant qu'ils restent généralement moins performants que les LLMs privés.Si vous souhaitez mieux comprendre cette problématique, parcourez nos services.
