LLMの「感情系・分析系」の処理から学ぶ、服薬指導の対応
Decomposing Theory of Mind: How Emotional Processing Mediates ToM Abilities in LLMs
人間は、他者に自分とは異なる心が存在することを理解しており、相手の気持ちや考えていることを推測する能力を持っています。
これは心理学の領域では心の理論（Theory of Mind, ToM）と呼ばれているようですが、生成AIに搭載されている大規模言語モデル（LLM）が同じような推測を行うとき、内部でどんな処理が働いているのでしょうか。
この研究は、その「内部メカニズム」を探る内容となっています。
研究者は、心の理論を構成する内部の思考プロセスを45種類に分け、そのどれが働いているかを分析しています。
実験の内容
この研究では、まず「LLMが他者の信念や意図、および感情を理解できるか（＝ToMの能力）」を扱っています。先行研究 [1] では、LLM内部の活性化を操作することでToMの能力が改善することが分かっていたものの、「どのような思考・処理が内部で変化しているのか」は明らかではありませんでした。
そこで今回の研究では、モデルに対して「ステアリング（活性化の操作）」を施した場合と施さない場合とで内部の活性化パターンを比較し、どの種類の思考・処理がより活性化 or 抑制されているかを観察しています。
モデルは「Gemma-3-4B」が採用され、タスクとしてはBigToMのforward beliefというタイプの「信念帰属問題（登場人物が持っている信念が誤っている or 正しいかを問うもの）」が1000件用いられています。
それに加え、「認知アクション（cognitive actions）」という枠組みを用いて、モデル内部の活性化がどのような「思考・処理タイプ」に対応しているかを探っています。ここでは45種類の思考アクション（論文中Appendixに掲載されています）を定義し、それぞれがモデルの活性化にどの程度現れているかを「線形プローブ（linear probes）」という簡易な判別器を使って測定しました。
結果
まず、BigToMのforward belief（の信念帰属問題）に関しては、以下のような結果となりました。
- ベースライン（通常のGemma-3-4Bモデル）の精度：32.5%
- ステアリング後のモデルの精度：46.7%
結果として、+14.2ポイントの性能向上が確認されました。
また、内部活性化スコア（認知アクション）の変化は、Figure 1 のようになっています。
以下は、ステアリング後にモデル内部でどのような処理が増減したかを示す数値です。プラスは活性化の増加、マイナスは抑制を表します。
増加した処理（感情系）
- Emotion Perception（感情の知覚）：+2.23
- Emotion Valuing（感情の評価）：+2.20
減少した処理（分析系）
- Convergent Thinking（収束的思考）：-1.59
- Questioning（疑問・懐疑）：-0.78
ざっくり言うと、ステアリングありモデルでは「感情系の処理」に対応する活性化が増え、一方で「分析系の処理」に対応する活性化はむしろ減少するというパターンが確認されました。
言い換えると、登場人物が持っている信念が誤っている or 正しいかを問う信念帰属問題に成功した場面では、「論理的な分析よりも、感情に関わる処理がより強く働いていた」ことが示唆されました。
注意点
今回の論文中で、著者が「主張していないこと」を列挙します。
- 推論能力（論理的思考力）が低下したとは主張していない
「思考力が弱くなった」わけではなく、「信念帰属問題の正解時には、感情的処理の方が頻繁に使われていた」という結論です。
同時に、「信念帰属問題では感情系がより役立ったものの、それが分析系を否定する理由にはならず、別のタスクでは分析系が必要になる可能性がある」と明言しています。 - 「本物の感情」を理解しているとは主張していない
研究で示される「emotion perception」などは、あくまでモデル内部の「活性パターン」に名前を付けているだけです。 - モデルに「人間のような心の理論がある」とは主張していない
著者は、“We do not claim LLMs possess human-like ToM（LLMが人間のような心の理論を持つと主張したいわけではない）.”と明記しており、「それらしく振る舞う」能力が向上したという意味合いに留めています。 - 感情処理を増やせば確実に理解力が上がるとは主張していない
この研究は、信念帰属問題に限定した実験です。別の種類の問題でも同じ結論が得られるとは主張していません。あくまで、特定タスクにおける「内部処理の使われ方の違い」を示したものになります。 - 明確な因果関係を証明したとは主張していない
この論文からわかるのは、信念帰属問題に正解した時、感情系が高く見える「傾向があった」という事実です。
服薬指導のシーンを考えてみます
例えば、以下のようなケースを考えてみましょう。
服薬指導中、患者さんが「こないだ追加になった血圧の薬、ちゃんと飲んでますよ」と話しているものの、表情は硬く、目線が泳いでいる。
残薬を確認させてもらうと、30日前に30日分処方されたのに、15日分余っていた。
論理的な分析
理論上残薬はゼロのはずだが、明らかに残薬の数が多い。
→飲めていない、もしくは飲み忘れた可能性が高い
感情面からの分析
患者さんの表情が硬く、目線が泳いでいる
→新しく追加になった薬に対して、何か不安があるのでは？
結果
薬剤師が「新しいお薬でしたが、何か気になることがありましたか？」と尋ねると、患者さんが「効きすぎてふらつきのが怖くて飲めなかった」と本音を話してくれた。
考察
「感情的な理解」が、患者さんの本音を引き出すカギになった例と言えます。こういった共感や寄り添いの態度から、患者さんのアドヒアランス向上につながっていくかもしれません。
では仮に、このような場面で以下の指導をした場合はどうでしょうか。
「ちゃんと飲めていたら15日分余ってるはずないですよね？
血圧が高い状態が続くから薬が追加になったんですよ？
血圧が高いままの状態は動脈硬化のリスクを上げますよ？
脳や心臓や腎臓にも負担がかかりますよ？
指示通り飲めていないと、先生が意図した治療効果が得られませんよ？
きちんと飲んでくださいね。」
自分で書いていて心が痛くなりましたが、おそらくこの患者さんの心に残るのは「薬局でボロクソに言われた…」という感情だけでしょう。
服薬の必要性を説明するのは大事なことですが、論理的に正しいことを主張するだけでは、本質的な解決にならないことも多いのです。
以前私は、薬剤師の業務を「コンテキストを読む仕事」と表現しましたが、服薬指導は適切な薬剤の管理に必要なアドバイスをするだけでなく、患者さんの「心を読む業務」とも言えるかもしれません。
論理的な正論だけでは、信頼関係の構築は難しい
この論文は、LLMが「心を読むようなタスク」に成功するとき、どんな内部処理が働いていたかを細かく分解した研究といえます。
そして、心を読むようなタスクに成功した時は「感情系の処理」に対応する活性化が優位となったという点は、ある意味、先ほど例に挙げた服薬指導の「感情面からの分析が優位な状況」とも言えるかもしれません。
私は、服薬指導において「論理的な分析よりも、感情に関わる処理がより強く働く」ほうが、双方にとってメリットになる可能性があると考えています。
もちろん、先ほどの注意点にも「信念帰属問題では感情系がより役立ったものの、それが分析系を否定する理由にはならず、別のタスクでは分析系が必要になる可能性がある」と記載したように、服薬指導にも客観的な視点からの論理的な分析は必要です。
しかし、それが感情に関わる処理より強く働いてしまうと、極端な話「正論だけを振りかざす薬剤師」になってしまい、患者さんとのよりよい信頼関係の構築には至りにくいのではないでしょうか。
（もちろん、感情だけで話をするのも良くないですが…。）
個人的に今回の論文は、自分の仕事の内容を省みるという意味で良い示唆をくれました。
感情に関わる処理と論理的な分析をバランスよく組み合わせた服薬指導を心がけたいと思います。
参考資料
[1] Gandhi, K., Lesage, E., Trakunov, A., Levy, R., & Andreas, J. (2024). Language models represent beliefs of self and others.
arXiv:2402.18496.
