1.基本を理解
読み方・用語解説- 読み方
- エルエルエム(大規模言語モデル)
- 英語名
- Large Language Model(LLM)
- 提唱者・年代
- 2020年頃からGPT-3などで注目が拡大(現在も主流)
💡 豆知識——L=Large。言語モデルの“超大型版”。
【セットで覚えたい関連用語】
2.意味(定義)と例え話
Transformerアーキテクチャで、膨大なテキストデータで事前学習された大規模言語モデル。文書生成・翻訳・要約・質問応答など多くのNLPタスクに利用。ファインチューニングで追加の調整が可能。小規模データで学習される、という記述は誤り。
2020年以降、Transformer+大量データ+計算力の充足で、パラメータが莫大になったモデルが登場し、「規模だけで翻訳・要約などの能力が“創発”する」ことが実証された。
“図書館の全冊を暗記した超優秀な実習生”に似てる。なんにでも対応できるけど、指示(プロンプト)と監督(事実確認)は必要。
ChatGPT・Gemini・Claudeなど。生成AIの基盤。
「Transformer/膨大なテキストで事前学習/ファインチューニング可能」が得点セット。「小規模データで学習」=罠。
3.直前に理解(Q&A)
8問Q1. LLMとは?最頻出
Transformerアーキテクチャで、膨大なテキストデータで事前学習された大規模言語モデル。
Q2. 何に使える?最頻出
文書生成、翻訳、要約、質問応答など、多くのNLPタスク。
Q3. どう調整する?頻出
ファインチューニングで、特定の業界・目的に合わせた追加調整が可能。
Q4. 基盤のアーキテクチャは?頻出
Transformer。
Q5. どう学習する?頻出
膨大なテキストデータで事前学習(プレトレーニング)。
Q6. 「LLMは小規模データで学習される」は正しい?ひっかけ
誤り。膨大なデータで事前学習される——罠の記述。
Q7. LLMと言語モデルの違いは?混同注意
LM=総称。LLM=超大型の言語モデル(膨大なデータ+Transformer)。
Q8. 位置づけは?親と子
NLP ⊃ 言語モデル ⊃ LLM。生成AIの基盤。
4. まとめ
LLMは、Transformerで膨大なテキストを事前学習した大規模言語モデル。ChatGPTや生成AIの心臓部。