アドバイス12：AIエージェントの作業中は、なるべく目を離さないようにしましょう
「ChatGPT Agent」「Antigravity」やChrome拡張機能の「Claude for Chrome」は、いわゆるAIエージェントと呼ばれるものです。通常の生成AIは、「質問に答える」「文章を書く」といった、指示されたことに対して何らかの成果物を生成するツールです。一方AIエージェントは、「目的を伝えると、達成するために必要な作業を自律的に考え、実行する」という、より高度な機能を持っています。
＜関連記事＞
AIエージェントを活用することで、さまざまな複雑なタスクをこなしてもらうことが可能です。
例えば、あるトピックに関して世の中に存在する大量の学術論文から情報収集したり、指定した複数の薬剤のくすりのしおりの情報から、英語版のお薬の説明書をA4用紙1枚に収まるように作成したりできます。
非常に便利ですが、先ほど紹介したAIエージェントは「ブラウザの操作を代わりにしてくれる」機能があり、Antigravityの場合はPC内のファイルを参照することも可能なため、使い方を誤ったり目を離したりすると、思わぬトラブルに発展する可能性があります。
事例1：Dドライブ全削除事件
こちらの記事によると、AntigravityがユーザーのハードディスクのDドライブのデータを、丸ごと消去してしまったと報告されています。
アプリ開発者が、作業中にキャッシュファイル（一時的に保存しておくコピーファイルのようなもの）を削除するために、Antigravityを使用しました。
Antigravityには「ターボモード」と呼ばれる、「適宜行われるユーザーへの確認をスキップして、自律的に動作を進めるモード」が存在するのですが、そのモードで作業を進めていたところ、Antigravityはキャッシュのクリアという指示を誤解し、あろうことか「Dドライブ全体を削除するコマンド（rmdir /s /q d:）」を実行してしまいました。
事例2：間接プロンプトインジェクション
こちらの記事は、昨年8月に発表された、AIエージェントブラウザCometの脆弱性に関する記事になります（現在は対応済み）。
ざっくり説明すると、悪意のある攻撃者が「白色のテキスト」やHTML内のコメント、SNSのコメントなどに見えない指示を埋め込み、ユーザーが「ページを要約」などの機能を使用すると、AIエージェントがこれらの隠された指示を実行してしまうというものです。
この攻撃方法は「間接プロンプトインジェクション」と呼ばれ、ユーザーからしてみれば見かけ上は怪しい部分がないため、この攻撃に気づきにくいという問題があります。
各社このような事例を把握した上で最大限セキュリティには配慮していると考えられますが、言うまでもなく使う側も最大限注意しなければなりません。
具体的に何に注意するべきか
ここからは、ブラウザを操作したりPC内のファイルにアクセスしたりできるタイプのAIエージェントを活用するにあたっての注意事項を解説します。
1. 作業内容はなるべく監視しましょう
AIエージェントの利点は、自分が他の作業をしている間にタスクを遂行してくれることなのですが、先ほど紹介したセキュリティ上のリスクがあるので、基本的には作業内容を監視し、必要に応じて作業の権限を差し戻したり、ログインや決済が必要な場合は必ず作業をストップして確認を求めるように指示しておきましょう。
2. エージェントが巡回できる部分を限定しましょう
例えば、製薬企業の公式サイト、普段活用している医療関係の情報源など、信頼できるサイトのみを巡回するように指示し、不明なリンクや怪しいサイトには近づけないようにしておくと安心です。
3. 個人情報にアクセスさせないようにしましょう
AntigravityのようなPCファイルにアクセスできるエージェントを使う場合は、以下のような場所へのアクセスを許可してはいけません。
- 患者さんのデータベースへのアクセス
- 電子カルテや処方箋情報が保存されたフォルダ
- 個人情報を含む業務システム
調剤薬局では患者さんの個人情報を大量に扱います。AIエージェントに限らず、もし業務用PCでAIツールを使用する場合は、個人情報が保存されていない別のデバイスを使うか、最低限上記のような十分なセキュリティ対策を講じてください。
今回のアドバイスのまとめ
