便利なAIですが、業務で使うならぜひ知っておいてほしい落とし穴があります。それが「ハルシネーション」です。
ハルシネーションって？
ハルシネーション（hallucination）とは、AIが事実でないことを、まるで本当のことのように、もっともらしく答えてしまう現象のことです。
やっかいなのは、自分がよく知らない分野ほど見抜きにくいこと。AIの回答はいつも自信たっぷりで、文章も整っているため、「それっぽい」だけで信じてしまいがちなのです。
実際にあった話：「実在しない判例」
たとえば、ハラスメントの研修資料を作ろうと、AIに「過去に問題になった判例と、そこから導ける注意点を教えて」とお願いしたとします。
すると、AIはいくつもの判例らしきものを、それらしく挙げてくれます。「これは使えそう」と思って、念のため裏取り（出典の確認）をしようとすると――どこを探しても、その判例が見つからない。
AIに「本当にこの判例はありますか？」と問い直すと、「ごめんなさい、誤りでした」と返ってくる。つまり、最初から存在しない判例だったのです。
判例や法律のように「正確さが命」の情報ほど、ハルシネーションは危険です。
業務で安全に使う3つのコツ
| コツ | 内容 |
|---|---|
| ① 事実は必ず一次情報で確認 | 法律・判例・数字などは、官公庁サイトなど元の情報源で裏取りする |
| ② 「たたき台」として使う | AIの回答は下書き。そのまま使わず、必ず人間が内容をチェックする |
| ③ 聞き方を工夫する | 「事実だけで答えて」「出典（URL）も示して」と指示すると精度が上がりやすい |
まとめ
AIは、使い方さえ間違えなければ、業務を大きく助けてくれる頼もしいパートナーです。大切なのは、AIを「物知りな新人」くらいに思って付き合うこと。仕事は任せても、最後のチェックは必ず人間が行う――この一線を守れば、ハルシネーションは怖くありません。
やえざき事務所では、AIを業務で使う際の社内ルールづくりや、就業規則の見直しなどのご相談を、スポット（単発）でもお受けしています。お気軽にお問い合わせください。