シャドーAI

シャドーAI

「シャドーAI」とは、組織や企業の承認や監督を受けずに、従業員が独自にAIツール（特に生成AI）を業務目的で使っている状態を指す言葉です。これは従来の「シャドーIT（未承認のIT利用）」がAI版に進化したイメージといえます。

調剤薬局で例えると、処方監査の時に個人のスマートフォンを取り出して生成AIに質問したり、広報誌などの作成にあたって、自分のスマートフォン経由で画像を生成したりするようなケースが該当します。スマートフォンとインターネット環境があれば簡単に活用できる気軽さから、自己判断で自分の端末を使って生成AIを利用する…という可能性は十分考えられます。

どのようなリスクがあるのか

シャドーAIによって、具体的に以下のようなトラブルが生じる可能性があります。

1. 情報漏洩

個人アカウントの生成AIに社内データ（機密情報、個人情報等）を入力すると、外部サーバーにデータが送信され、意図せず情報が流出する可能性があります。

時々「学習に利用されないように設定しておけばOK」という意見を耳にしますが、そもそも個人の端末に機密情報や個人情報がある時点で問題ですし、仮に社内のAIシステムであったとしても、外部サーバーに情報を送信した時点で情報漏洩です。悪用されるかどうかが基準ではありません。

2. 品質（正確さ）の問題

個人アカウントで活用している生成AIの場合、各ユーザーがパーソナライズ設定をしていたり、生成AI側が過去の会話のやり取りを参照したりすることがあるため、何らかの形でバイアスがかかる可能性も考えられます。

それに加え、調剤薬局では絶対に間違いが許されない場面もあります。仮にそのような場面で生成AIを活用する場合は、本来であればその内容を客観的に検証するためのルールを定めた上で活用する必要がありますが、個人の端末で生成AIを使われた場合、そのルールをかいくぐって回答内容が利用されてしまう可能性があります。

結果的に、薬局として回答の質が担保できないという状況に陥るリスクもあります。そうなると、外部からの信頼を損なう可能性もありますし、患者さんへの健康被害に発展する可能性もあります。

シャドーAIによるリスクを減らすために

具体的にリスクを減らすための手段として、薬局内の生成AI活用に関するポリシーを明確にしておく必要があります。

アクセスできる端末、どのサービスを使うか、そしてどのような用途で活用するかを明確に決めておき、調剤薬局内で明文化しておきましょう。

こちらのページにポリシーの案（ひな形）を掲載していますので、もし必要であればご利用ください。ただし、再配布は禁止です。