SLM
Signifie « Small Language Model ».
Un SLM est un système d’IA conçu pour les tâches liées au langage naturel, comme comprendre, générer et traiter des textes. Il est similaire à un LLM (Large Language Model), mais possède beaucoup moins de paramètres.
Alors que les LLM peuvent comporter des centaines de milliards, voire des milliers de milliards de paramètres, les SLM en possèdent généralement de quelques millions à quelques milliards. Ils nécessitent moins de puissance de calcul, de mémoire et d’infrastructure, ce qui les rend idéaux pour le traitement sur l’appareil et l’utilisation hors ligne.
Les SLM et les LLM utilisent souvent des architectures de réseaux neuronaux basées sur des transformateurs pour le traitement du langage naturel, mais les SLM sont plus petits et leur domaine d’application est plus ciblé. Le tableau compare plusieurs caractéristiques :
| Caractéristique | SLM | LLM |
|---|---|---|
| Paramètres | De quelques millions à quelques milliards | Des centaines de milliards ou des milliers de milliards |
| Configuration matérielle requise | Faible puissance de calcul ; fonctionne sur des appareils grand public ou périphériques | Nécessite des GPU puissants ; souvent hébergé dans le cloud |
| Données d’entraînement | Jeux de données ciblés ou propres à une tâche | Jeux de données vastes, variés et polyvalents |
| Coût et efficacité | Économique à entraîner et à déployer | Coûteux et gourmand en ressources |
| Vitesse et latence | Réponses rapides ; faible latence | Plus lent en raison de la taille du modèle |
| Précision et raisonnement | Suffisant pour les tâches courantes ; moins efficace pour les requêtes complexes ou nuancées | Grande précision ; raisonnement avancé |
| Adaptabilité | Facile à ajuster pour des domaines précis | Généralisation efficace dans de nombreux domaines |
Applications concrètes
Les SLM sont particulièrement performants dans les situations où l’efficacité, la confidentialité et le coût sont plus importants que la généralisation étendue et le raisonnement approfondi. Parmi les applications courantes figurent :
- IA sur l’appareil et informatique périphérique - Les SLM fonctionnent sur les smartphones, les appareils IoT et les serveurs périphériques, et alimentent des services comme les assistants vocaux, la domotique, la saisie prédictive et la traduction hors ligne.
- Assistance client et chatbots - Les SLM peuvent fournir des réponses rapides et fiables aux requêtes courantes, en alimentant des robots FAQ et des services d’assistance automatisés.
- Automatisation des entreprises - Les SLM peuvent résumer des e-mails et des rapports, générer des contenus courts et effectuer des recherches dans des bases de connaissances propriétaires.
- Cybersécurité et gestion des risques - Les SLM peuvent effectuer régulièrement des tests de sécurité et des contrôles de conformité sur plusieurs systèmes.
Alors que les LLM constituent la base de services d’IA dans le cloud, comme ChatGPT, Gemini et Perplexity, les SLM deviennent de plus en plus importants. Les PC modernes étant suffisamment puissants pour traiter les modèles localement, les SLM offrent un moyen sécurisé et efficace d’utiliser l’IA sans envoyer de données sur Internet.
Testez vos connaissances