第2回先進的AI利活用アドバイザリーボードの内容を読む
情報元：https://www.digital.go.jp/councils/ai-advisory-board/eb376409-664f-4f47-8bc9-cc95447908e4
こちらは、デジタル庁が主催する「第2回先進的AI利活用アドバイザリーボード」の議事要旨となっています。これはデジタル庁が設置した有識者会議で、政府全体での生成AIの活用方針を議論・審議する場となっています。
今回はこの内容を踏まえて、調剤薬局の薬剤師が知っておくべきことをお伝えしたいと思います。
ハルシネーションへの警戒
コミュニケーションとハルシネーションの問題については全面的に同意する。ハルシネーションを分類すると、誤った情報を提示するケースと、関連情報が存在するにもかかわらず言及されないいわゆる「見落とし」のケースの2つがある。個人的に、過去の確定申告において不動産売却にかかる内容を申告する必要があった際、特例が多く理解しきれず、結果的に税理士に依頼した経験がある。税務分野は特例が多いため、AIがこれらを「見落と」すリスクへの配慮が必要である。
デジタル庁「第2回先進的AI利活用アドバイザリーボード」
https://www.digital.go.jp/councils/ai-advisory-board/eb376409-664f-4f47-8bc9-cc95447908e4 より一部抜粋
会議では確定申告が例として挙がっており、「税務分野は特例が多く、AIがこれらを見落とすリスクへの配慮が必要」と述べられています。税務分野も間違いが許されない分野ですから、ハルシネーションの問題は避けて通ることはできません。
調剤薬局の業務も、患者さんの健康に影響を及ぼす領域はリスクが高いため、ハルシネーションを含む回答をそのまま活用することがないよう注意しなければなりません。
一見すると、処方内容の確認や相互作用のチェック、服薬指導で確認すべきポイントなどはマニュアル化できそうに見えるので、ハルシネーションの頻度自体は少ないのではないかと思うかもしれませんが、実際のところ以下のような懸念もあります。
- AIに与える情報の不足
患者さんから十分情報が聞き取れていなかったり、適切に記録できていなかったりした場合、その限られた情報から導かれたAIの判断自体は客観的に見て正しくても、実際の患者さんに適応するにあたっては不適切な内容となってしまう。 - AIの判断の十分な検証ができない
なぜAIがそのような判断に至ったのかを検証する際、「情報元の確認ができない」「検証する側の薬剤師の知識が乏しい」といった要因により、薬剤師が十分に理解・検証できない可能性がある。 - 学習データが古くなる
学習データはリアルタイムにアップデートされるわけではないため、次第に提供される情報が古くなっていき、回答の質が低下する。
そして、仮に情報が正確に出力できたとしても、十人十色性格が異なる患者さんに対してどのように伝えるか（伝え方、伝える情報の選択など）に関しては明確なマニュアルがないうえ、それを考慮する上で必要な情報を言語化（数値化）してAIに提供することも困難です。
ゆえに、この部分はAIに判断させるのはリスクが高いと考えられるため、人間の薬剤師が自分の責任のもと判断しなければならないでしょう。
法改正に追いつかないAI
「論点1 国民一般に広く生成AIチャットボットを利用してもらうにあたってのリスク管理、リスク低減の観点」にて、今後の方向性として示されている、定期的に法令が改正される分野については、特にリスクが高い観点であると考えるため、引き続きアドバイザリーボードでも情報の共有を行っていただきたい。
デジタル庁「第2回先進的AI利活用アドバイザリーボード」https://www.digital.go.jp/councils/ai-advisory-board/eb376409-664f-4f47-8bc9-cc95447908e4 より一部抜粋
調剤薬局界隈に限定しても、以下のような変化がありました。
- 要指導医薬品制度（薬機法）
- オンライン服薬指導（薬機法）
- 服薬フォローアップの義務化（薬機法）
- 報酬改定（療養担当規則）
生成AIの学習データには、ナレッジカットオフ（学習の締め切り日）が存在します。最近の生成AIは指示をしなくてもWeb検索を併用して最新の情報を反映した（ように見える）回答を生成してくれますが、場合によっては最新の情報を知らないままもっともらしい回答を返す可能性もあります。
ゆえに、薬剤師がAI（特に生成AI）を使う際は、提示された情報がいつの時点のものかを意識しながら活用する必要があるでしょう。
高リスク業務へのAI適用ルール
ガイドラインの対象AIの拡大について反対意見はなく、技術進展の速い分野においてスコープを固定したままでは、民間と政府の間にかい離が生じる懸念があるため、拡大は必要との意見が多かった。また、ベストプラクティスが未確立であっても、その時点で最善と考えられる内容を反映し、アジャイルに更新していくことの重要性が指摘された。共通原則を先行適用し、高リスク用途から段階的に対象を拡大する考え方についても賛同が得られた。高リスク判定基準については、4つの軸は分かりやすいとの評価が大勢であった一方、「過失が重大な影響を及ぼす可能性のある業務」について、具体的事例の提示を求める意見があった。
デジタル庁「第2回先進的AI利活用アドバイザリーボード」
https://www.digital.go.jp/councils/ai-advisory-board/eb376409-664f-4f47-8bc9-cc95447908e4 より一部抜粋
ここでいう「高リスク」な業務の定義として、資料中に以下のような記述がありました。
国民の基本的権利や安全に大きな影響を及ぼす業務、機微な政策分野に関する業務、人間の生命・身体・財産に影響を及ぼす業務、資格が求められる業務、高い説明可能性が求められる業務等
デジタル庁「第2回先進的AI利活用アドバイザリーボード」
https://www.digital.go.jp/councils/ai-advisory-board/eb376409-664f-4f47-8bc9-cc95447908e4
資料5「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン充実に向けた改定方針案」より一部抜粋
調剤薬局の業務は、「国民の基本的権利や安全に大きな影響を及ぼす業務」「人間の生命・身体・財産に影響を及ぼす業務」に該当します。さらに、薬剤師に関して言えば「資格が求められる業務」でもありますし、「高い説明可能性」も求められます。
資料で言うところの「高リスク」の業務に、十分該当すると言って良いでしょう。
また、議事要旨には「ベストプラクティスが未確立であっても、その時点で最善と考えられる内容を反映し、アジャイルに更新していくことの重要性が指摘された」という記述もあることから、一度決めて終了ではなく、生成AIを取り巻く状況に対応しつつ、継続的にルールが変わることも示唆されています。
医療の現場においてAIを活用する際に、情報をどのように扱って保存するのか、出力の質を担保するためにどのような措置を講じる必要があるのか、加えてどこまでをAIが自律的にこなして良いのか…といった議論が、今後活発になることが予想されます。
そしてこれは私の想像ですが、調剤薬局でAIシステムを本格的に導入する際は、将来的に国が定めたガイドラインに準拠するよう求められるかもしれません。そうなると、「どのAIをどんな用途に使っているか」の説明が求められる可能性もあるため、調剤薬局内でAIシステムの具体的な用途を記録しておき、対外的に説明できるようにしておいた方が良いでしょう。
AI生成コンテンツの著作権リスク
「知的財産権等対策参考シート」については、現在作成中との認識であるが、非常に重要な取組である一方、著作権等に関するリスクを完全にゼロとすることは困難である。生成AIの出力物について、必ず著作権侵害がないかを確認することは現実的ではないため、侵害有無の確認に重きを置くよりも、リスクの低い領域での活用を推進する方が、利活用効果は高いのではないかと考える。
デジタル庁「第2回先進的AI利活用アドバイザリーボード」
https://www.digital.go.jp/councils/ai-advisory-board/eb376409-664f-4f47-8bc9-cc95447908e4 より一部抜粋
例えば、患者さん向けの説明用資料や広報誌の作成に生成AIを使うケースを考えてみます。前提として、これらの生成物は薬局外部に対して公開することになるため、それが既存のコンテンツと類似していた場合は著作権の侵害であると指摘される可能性があります。
一方で、外部に公開しないことを前提に社内の勉強会の資料を作成したり、自分の文章を整理する用途で生成AIを活用したりする分には、先ほどの例と比較してリスクが低いと考えられます。
今回の議事要旨では、このようなリスクの低い領域において、生成AIによるコンテンツ生成を推進した方が良いのではないか、と提案されています。
いずれにせよ、生成AIはあくまで補助にとどめ、最終的に自分の責任のもと内容をチェックしてから活用するという姿勢が重要です。
今回のまとめ
今回の会議が示しているのは、政府も含めて社会全体がAIを本格的に活用する時代に突入した、ということです。
このような時代において、薬剤師がAIと協働するためには、
- 最新の法令の改正・通知などを把握しており、説明できる
- 患者さんごとの状況を踏まえて、客観的に情報を判断できる
- AIの出力が正しいかどうかを検証できるレベルの専門知識がある
- 対話を通じて患者さんの不安を解消できる
このようなスキルが必要になるでしょう。
