アドバイス3：AIは意図的に嘘をつくわけではありません
時々「AIは嘘をつく」という言葉を耳にすることがあります。
確かに、生成AIを活用する上では「ハルシネーション」を避けることはできません。そして、ハルシネーションは客観的に見れば「正確ではない情報」「存在しない情報」「論理的に筋が通らない情報」といった内容のため、ユーザー側からしてみれば「嘘をつかれた」と考えてしまうのも理解できます。
ハルシネーションのメカニズムを改めて説明
生成AIがテキストを出力する時は、次の単語や文字を「確率的に」予想して、それを高速で繰り返すことによってテキストを完成させています。
少々乱暴な言い方をしますが、生成AI側は自分が出力しようとしている文章が「正確なのか」「存在する情報なのか」「論理的に筋が通るのか」といったことを考慮しながらテキストを生成しているわけではなく、今まで学習してきたデータや与えられた知識をもとに、「確率的に、最も確からしい内容」を構築しているに過ぎません。
ゆえに、生成AIは嘘をつこうとしているわけでもなく、知識がないわけでもありません。
ハルシネーションが生じるということは、ある意味、生成AIが正常に機能している状態と言えます。
ハルシネーションを少しでも減らすには？
ハルシネーションをゼロにすることは不可能ですが、頻度を減らすことは可能です。
ハルシネーションも「確率的に生成された」結果であることを考えると、「正確な回答が出力される確率」を上げるためのアプローチを取ると良いでしょう。
1. 指示を明確にする
こちらの投稿にも書いてある通りなのですが、曖昧な指示はハルシネーションのリスクを上げてしまう可能性があります。
人間相手の場合でも同じことが言えますが、基本的に「相手がわかってくれているだろう」ということを前提にした曖昧な指示は、意図しない結果を招く恐れがあります。
「クラリスロマイシンとタダラフィルの相互作用について教えてください」ではなく、「クラリスロマイシンとタダラフィルは併用禁忌に該当しますか？情報収集の際は、必ずクラリス®︎錠の添付文書および各タダラフィル製剤の添付文書の内容を参照してください」といった形で、「併用禁忌」「情報源の指定」を具体的にすることで、回答の方向性を絞ることができ、ハルシネーションのリスクを減らすことも可能です。
2. NotebookLM等のツールを活用する
NotebookLMは、あらかじめ信頼できる情報源（文書や画像、Webサイト、Youtube動画など）をアップロードしておくことで、その資料の内容をもとに質問に回答してくれるツールです。
先ほどの 1. のように、情報源を絞ることによって、ハルシネーションのリスクを減らすことが可能です。ただし、情報源の内容がそもそも誤っていたり、情報が古かったりすると、NotebookLMの回答の質も低下してしまいますので、定期的な情報源のチェックは欠かさないようにしましょう。
また、通常の生成AIを活用する場合でも、資料をチャット欄にアップロードして「資料の内容のみから回答を出力」するように指示すれば、同様の効果が得られます。
出力の内容は、自分で責任を持って確認しましょう
これらの工夫で、ハルシネーションのリスクを減らすことは可能ですが、ゼロにすることはできません。
出力された内容は、必ず自分の責任のもと確認するようにしましょう。
今回のアドバイスのまとめ
生成AIは意図的に「嘘をついている」わけではありません。
次の単語や文字を「確率的に」予想してテキストを生成するというメカニズムのため、どうしても正確ではない情報が出力される可能性があります。これはある意味、生成AIの「仕様」と言えます。
ハルシネーションは、「正確な指示」や「情報源の指定」といった工夫によってリスクを減らすことが可能です。
それでもゼロにすることはできませんから、出力内容は必ず自分の目で確認しましょう。
