SLM
「Small Language Model」の略です。
SLMは、テキストの理解、生成、応答などの自然言語タスク向けに設計されたAIシステムです。LLM（Large Language Model）に似ていますが、パラメーター数ははるかに少なくなっています。
LLMには数千億、場合によっては数兆個のパラメーターが含まれることがありますが、SLMのパラメーター数は通常、数百万個から数十億個です。必要な計算能力、メモリ、インフラストラクチャが少ないため、デバイス上での処理やオフラインでの利用に適しています。
SLMとLLMはどちらも、自然言語処理にトランスフォーマーベースのニューラルネットワークアーキテクチャを使用することが多い一方、SLMはより小規模で、対象範囲がより限定されています。次の表では、いくつかの特徴を比較しています。
| 特徴 | SLM | LLM |
|---|---|---|
| パラメーター | 数百万個から数十億個 | 数千億個または数兆個 |
| ハードウェア要件 | 低い計算能力で動作。一般消費者向けデバイスまたはエッジデバイスで実行可能 | 高性能なGPUが必要。多くの場合、クラウドでホストされる |
| 学習データ | 狭い範囲または特定のタスク向けのデータセット | 膨大で多様な汎用データセット |
| コストと効率 | 学習と導入にかかる費用が少ない | 高コストで、多くのリソースを必要とする |
| 速度と遅延 | 応答が速く、遅延が小さい | モデルのサイズが大きいため、より遅い |
| 正確性と推論 | 通常のタスクには十分。複雑な質問や微妙なニュアンスを含む質問への対応能力は低い | 高い正確性。高度な推論 |
| 適応性 | 特定の分野向けに簡単にファインチューニングできる | 多くの分野にわたって高い汎化性能を持つ |
実世界での用途
SLMは、幅広い汎化性能や深い推論能力よりも、効率、プライバシー、コストが重視される場面で力を発揮します。一般的な用途には次のようなものがあります。
- デバイス上のAIとエッジコンピューティング - SLMはスマートフォン、IoTデバイス、エッジサーバーで動作し、音声アシスタント、スマートホームの自動化、予測入力、オフライン翻訳などのサービスを支えます。
- カスタマーサポートとチャットボット - SLMは通常の質問に対して、速く信頼性の高い応答を提供でき、FAQボットや自動ヘルプデスクを支えます。
- 企業の自動化 - SLMはメールやレポートを要約したり、短い形式のコンテンツを生成したり、企業独自のナレッジベースを検索したりできます。
- サイバーセキュリティとリスク管理 - SLMは複数のシステムに対して、定期的なセキュリティテストやコンプライアンスチェックを実行できます。
LLMがChatGPT、Gemini、PerplexityなどのクラウドベースAIサービスの基盤である一方、SLMの重要性もますます高まっています。最新のPCはモデルをローカルで処理できるほど高性能になっているため、SLMを使えば、データをインターネット経由で送信せずに、安全かつ効率的にAIを利用できます。
知識をテストする