人間不信が、AIへの信頼を生む？
Trust in AI emerges from distrust in humans: A machine learning study on decision-making guidance
「AIを信頼できるか」という議論はよく耳にしますが、「人間が信頼できないから、消去法でAIを信頼しているのではないか」という視点で考えたことがある方もいらっしゃるかもしれません。
今回紹介する論文は、その心理メカニズムに切り込んだ内容です。
著者らは、「人間が信頼できないから消去法でAIを信頼する」という状態を「Deferred Trust（保留状態の信頼）」と呼び、人間への不信感がどのような形でAIへの信頼（依存）につながるのかを調査しました。
研究の具体的な方法・手順
この仮説を検証するため、研究チームは55人の大学生を対象に、以下の実験を行いました。
1. 30の意思決定シナリオを提示
参加者に、「事実確認（Factual）」「感情的判断（Emotional）」「道徳的判断（Moral）」の3つのカテゴリーに分かれた、30個の悩みや質問を提示しました。
2. 相談相手の選択
それぞれのシナリオについて、誰にアドバイスを求めるかを選んでもらいました。選択肢は以下の通りです。
- 生成AI（ChatGPTなど）
- 音声アシスタント
- 友人（Peers）
- 大人（Adults）
- 聖職者（Priests）
3. データの分析
参加者の属性（年齢、性別、社会的・経済的地位、一般的なデジタル技術・サービスの利用頻度など）や、事前に測定した人間への信頼度と、実際に選択した行動との関連性を分析しました。
ちなみに、人間への信頼度は「社会経済・技術利用などを含むソシオデモグラフィック質問票」と呼ばれるものでデータを収集・測定しているようです。
結果
実験の結果、全体で最も多く選ばれたのは「大人（35.05%）」で、次いで「AI（28.29%）」でした。
AIはすでに、友人や聖職者よりも頼られる存在になりつつあるようです。
相談内容による使い分けの傾向は、以下のとおりです。
- 事実確認（Factual）：AIが選ばれる傾向が高かった
- 感情・道徳（Emotional/Moral）：人間（特に大人や友人）が選ばれる傾向が高かった
また、「人間（聖職者、友人、大人）への信頼度が低い人」ほど、AIを選択する確率が一貫して高くなりました。
これは「AIが好きだから選ぶ」というよりも、「人間が信じられないからAIを選ぶ」というDeferred Trust（保留状態の信頼）が起きていることを示唆しています。
加えて、AIを信頼しやすい人のプロファイルとして、以下の特徴が浮かび上がりました。
- 人間への信頼度が低い
- 普段のテクノロジー利用頻度は低め
- 社会経済的地位（SES）が高め
注意点
- この研究の参加者は55名の大学生です。デジタル技術に比較的抵抗のない世代が中心であり、高齢者や子供が含まれていません。
- 同じ大学の学生という似た環境にいる人たちのデータであるため、異なる職業、文化、社会的背景を持つ人々にも同じ結果が当てはまるとは限りません。
- この研究は機械学習（XGBoost）を用いて「人間不信」と「AIの選択」の間に強い相関があることを見出しましたが、「人間不信だからAIを選んだ」という因果関係を完全に証明したわけではありません。
「うちのChatGPTがこう言ってるけど？」という患者さんの心理も…
少々拡大解釈になるかもしれませんが、今回の研究結果を踏まえると、服薬指導中に「うちのChatGPT（他、生成AI）がこう言ってるけど？」と言う患者さんがいらっしゃった場合、薬剤師に対して「十分に話を聞いてくれない」「中立的なアドバイスをくれない」といった、無意識の不信感（あるいは不安）を抱いている可能性が考えられます。
また、「事実確認」の分野で（生成）AIが好まれるという結果が出ていたことも考えると、今後医薬品に関連した客観的な「事実」を求める質問においては、生成AIに積極的に質問する人が増える可能性があります。
ただ、「感情」や「道徳」の分野の相談では、人間（特に友人や大人）が多く選ばれたという結果も得られていました。
これも若干拡大解釈になりますが、「私のつらさをわかってほしい」「どうすべきか一緒に悩んでほしい」という人間的な共感や判断は、比較的人間の方が相談しやすいと推測でき、薬剤師と患者さんとの信頼関係も、こういった「薬に関する説明以外の部分」から構築されていくのかもしれません。
AI時代の「信頼される薬剤師」の役割
現代は、患者さんが生成AIに薬に関する質問をすれば、すぐさま返答してくれる時代です。しかし、その返答が正確である保証はありませんし、患者さんの現在の状態を考慮していない不適切な返答である可能性もあります。そしてそういった内容を鵜呑みにしてしまうと、重大な健康被害にもつながりかねません。
ですから、医薬品に関連した専門的かつ高度な内容を、客観的な視点から精査できる能力を有した薬剤師が必要なのです。
しかし、知識を有しているだけでは不十分です。このような驚異的な性能の生成AIを誰でも使える時代だからこそ、私たち薬剤師は、患者さんから気軽に相談してもらえる「信頼される人間」でなければなりません。
今回の研究の示唆を考慮すると、患者さんが「生成AIによるハルシネーション」を鵜呑みにする前に（もっと言うと、生成AIより先に）相談してもらえる薬剤師であるためには、「この人なら私のことを親身に考えてくれる」と思ってもらえるような、共感的かつ誠実なコミュニケーションを大事にする必要があるでしょう。
服薬指導は「医薬品の正しい知識をお伝えすること」ですが、それはあくまでその先にある「QOLの維持・向上」の手段であることを認識し、薬の説明だけにとどまらない、患者さんのQOLの維持・向上につながるコミュニケーションを取れるようにしたいですね。
