1．基本を理解
読み方・用語解説- 読み方
- ハルシネーション
- 英語名
- Hallucination
- 提唱者・年代
- LLMの文脈で広く使われるようになった（現在も使用）
💡 豆知識——もともと医学で“幻覚”（ないものをありのように見たり聞いたりする状態）を指す言葉。
【セットで覚えたい関連用語】
2．意味（定義）と例え話
AIが学習データにない内容をもっともらしく（事実ではないのに）作り出してしまう現象。出力の事実確認は人間が行う必要がある。
LLMは“もっとも可能性の高い次の単語”を生成するため、“もっともらしくデタラメ（または「ウソ・虚偽」）を作り出す”ことがあり、この特性が注目された。
“超自信家だけど、たまにうそをつく同僚”に似てる。言い方が自信満満だから信じてしまう——だからこそ、自分で事実に当たる必要が出る。
生成AI実利用の最大のリスク。人間による事実確認が必須。
重要な内容は複数ソースで検証する。“自信満満＝正しい”としないのが良い使い方。
3．直前に理解（Q&A）
8問Q1. ハルシネーションとは？最頻出
AIが学習データにない内容をもっともらしく（事実ではないのに）作り出してしまう現象。
Q2. どう対応する？最頻出
出力の事実確認は人間が行う必要がある。
Q3. なぜ起きる？頻出
“もっとも可能性の高い次の単語”を生成する仕組みだから、根拠のない内容をもっともらしく生成しうる。
Q4. 何が起きやすい？頻出
珍しいトピック、最近の出来事、固有名詞・数字など、具体的事実。
Q5. 利用のコツは？頻出
事実の検証、複数ソース、出典の確認。そのまま信用しない。
Q6. 「出力が自信満満なら正しい」は正しい？ひっかけ
誤り。もっともらしさ≠真実。
Q7. ハルシネーションと単純な誤答の区別は？混同注意
単純な誤答＝既知の事実を間違える。ハルシネーション＝根拠のない内容をもっともらしく“生成”する。
Q8. 位置づけは？親と子
生成AIのリスク ⊃ ハルシネーション。「人間が最終確認」が必須な理由。
4. まとめ
ハルシネーションは、事実ではない内容をもっともらしく生成する現象。人間の事実確認が必須。