XAI（説明可能なAI）
ディープラーニングによる予測はしばしば「ブラックボックス」と呼ばれ、「どのような根拠で、どのように予測しているのか」が不明瞭であることが指摘されており、その不明瞭な部分を説明できるようにする技術である「XAI（説明可能なAI）」が重要視されています。
調剤薬局に限らず、医療の現場はEBM（根拠に基づく医療）を実践する場であり、かつ間違いが許されない現場です。
そのため、AIを使ったシステムを導入する際は、現場で信用できる情報源のみから回答を生成するRAGの活用に加え、その出力の根拠がXAIによって透明化されることが望ましいのです。
このような回答の信頼性を向上させる技術によって、活用する側としても安心してAIを活用することができるようになります。
EBMとXAIの共通点
異なる分野の考え方ではありますが、EBMとXAIには以下のような共通点があります。
1. 透明性・再現性を重視
EBM：医療関連の判断は臨床研究やエビデンスに基づくべきで、「なぜその選択をしたのか」という根拠が明確であることが求められる。
XAI：AIの判断理由を可視化し、「なぜその予測をしたのか」を説明する。
2. 判断プロセスの可視化
EBM：ガイドラインやRCT（ランダム化比較試験）の結果など、「エビデンス」を積み重ねて治療方針を立てる。
XAI：特徴量の重要度（SHAP値など）を用い、AIの「思考プロセス」を人間に分かる形で示す。
3. 利用者の納得感・信頼
EBM：患者さんや医療従事者が「その治療法が妥当である」と理解できる。
XAI：AIの提案に対して使用者が納得し、安心して活用できる。
医療の現場で活躍する、XAIを搭載したAIの具体例
1. MedWise Risk Score（Tabula Rasa HealthCare、アメリカ）
アメリカの薬局向けプラットフォームに統合され、処方全体のリスクを点数化し、薬剤師の介入を補助する仕組みとして、実際に運用されています。それぞれのスコアがどの要因で上昇しているかという根拠を薬剤師が把握できる点が、XAIに相当します。
上記情報元では、MedWise Risk Scoreは「抗コリン負荷」「鎮静負荷」「薬物動態相互作用」「QT延長リスク」「レジメン全体に基づくADE相対オッズ」の5要素で構成されると明記されています。
2. FDB Targeted Medication Warnings（First Databank、アメリカ）
https://www.fdbhealth.com/solutions/targeted-medication-warnings-drug-database
FDBのアラートは「患者さん情報に依存した、意味のあるガイダンス」を標榜しており、なぜその患者さんでアラートが発生するのかを、根拠とともに表示する設計です。
アラートの根拠や条件を人が理解できる形で提示する点は、薬局で求められる説明可能性の要件に合致し、XAIの具体例と言えます。アメリカの多くの薬歴システムや院外処方支援にFDBの知識ベースが組み込まれており、広く実運用されています。
今後日本国内でも、XAIを重視した薬歴などが登場するかもしれません
今回はアメリカの例を紹介しましたが、AI支援薬歴が次々とリリースされる中、XAIの観点から明確な根拠を提示してくれる薬歴も、いずれ日本国内で登場するかもしれません。
AI支援薬歴を活用する場合に、その出力内容を人間が確認することはもちろん重要なのですが、「なぜその出力に至ったのか」という観点が透明化されると、より信頼できる薬歴になるでしょう。
