OpenAIのレポートから、学ぶこと
【注意】
今回の記事は、生成AIの悪用によって起こりうる詐欺等の被害から身を守るための啓発を目的としています。
情報元：https://openai.com/index/disrupting-malicious-ai-uses/
こちらは、OpenAIが2026年2月25日に公開したレポートになります。
このレポートは、ChatGPTをはじめとする生成AIが、詐欺師・工作員・国家機関によってどのように悪用されているのかを、実際の事例をもとに詳細に解説した文書となっています。
実際の事例
ここからは、実際にレポートで紹介されている具体的な事例を紹介していきます。
1. 医療関係者の男性が詐欺の標的となった事例
「pig butchering詐欺（ロマンス詐欺と投資詐欺を組み合わせた詐欺）」では、40代の医療関係者の男性が標的となりました。詐欺師はゴルフ関連のSNSの投稿に返信する形で接触し、徐々に親密な関係を築き、「実は投資で大きな利益を得ているの。あなたにも教えてあげたい」というメッセージをやりとりする流れで資金を騙し取ろうとしました。
生成AIを使えば、たとえ詐欺師自身が相手の言語を扱えなかったとしても、相手の投稿内容に合わせた「人間らしい」コメントが大量生成できます。従来の詐欺メールのような機械翻訳丸出しの不自然な文章ではなく、自然なやりとりから始められてしまうため、違和感に気づきにくいと考えられます。
2. 詐欺の被害者がさらに騙された事例
一度詐欺に遭った方が「被害の回復サービス」と称した別の詐欺に引っかかるケースが急増しており、特に高齢者が集中的に被害を受けています。
この事例も巧妙で、まず生成AIを使って少なくとも6つの架空の法律事務所を作り上げ、「詐欺被害を回収します」という広告をSNS上に掲載します。
これらの偽サイトには弁護士の登録の証拠がなかったり、住所が存在しなかったり、弁護士へのコンタクトはすべてTelegramやWhatsAppなどのメッセージアプリ経由だったりと違和感がある内容となっていますが、こうした違和感を生成AIによる「プロらしい文章」が隠してしまいます。
3. 日本の首相がサイバー工作のターゲットに
中国の法執行機関に関連するとみられるアカウントが、高市早苗氏を標的にしたサイバー工作の計画の作成をChatGPTに依頼しました。高市氏が内モンゴルの人権状況を公に批判したことへの報復と見られています。
ChatGPTはこの計画への協力を拒否しましたが、しばらく後に同じユーザーが「計画の進捗報告書の文章を整えてほしい」という依頼をChatGPTに送ってきました。ゆえに、ChatGPTなしで工作はすでに実行に移されていたと考えられます。
私たちは何を気をつければ良い？
先ほど紹介した事例をもとに、ポイントを整理しましょう。
1. SNSに脈絡なく親密に絡んでくる特定のアカウントには警戒する
もちろん例外はあります。もともと社交的な方がSNS上でアクションを起こすことはよくある話なので、いきなり親密に絡んできたからといって「詐欺師だ」と結論づけるのは、少々乱暴です。
なので、脈絡なくやけに親密に絡んでくる相手がいたとして、以下のような特徴に多く当てはまる時は一度警戒した方が良いかもしれません。
【注意】
以下の特徴に当てはまるアカウント全てが詐欺師であると言いたいわけではありません。
- 過度に魅力的なプロフィール（写真も含めて）
写真がモデル級の美男美女、投資家・金融関係などの金銭面における信頼を高める職業、豪華な生活のアピールといった、非常に魅力的に見えるプロフィールを前面に押し出している場合は注意が必要です。
特に、写真に関しては生成AIで作られている可能性もありますし、逆検索すると海外のストック写真だった、ということもあります。 - アカウント履歴が浅い
投稿が数ヶ月以内のみ、写真が急にまとめて投稿されている、フォロワー数といいね数があまりにも不自然といったアカウント（フォロワーがフォロー数に比べて圧倒的に多いのに、反応が少ない）の場合は、様子を見た方が良いかもしれません。 - ダイレクトメッセージの内容が不自然
「あなたの文章に深く心を打たれた」「日本文化に興味があります」「誠実な人を探しています」といったメッセージを送ってきたり、SNS外の他のメッセージアプリ（LINE等）に誘導したりしてくるアカウントは、要注意です。 - 文章が整いすぎている
やけに丁寧な説明口調で、投稿の内容に風景や食事の画像が添付されていても、「画像の内容を日本語で解説してください」といったプロンプトを打ち込んで生成されたようなポエムっぽい文章であった場合は、機械翻訳か生成AIかによって作られた日本語の文章の可能性があります。
もちろん例外はありますが、このようなアカウントからダイレクトメッセージ等で接触を受けた場合は、安易に反応せず、一度立ち止まって様子を見た方が良いでしょう。
また、このような特徴に該当しなかった場合でも、やり取りを進めているうちに「お金」「投資」「商品」といった話題に発展するようなら、警戒すべきです。
実際に何らかの被害が出た場合は、警察もしくは消費者ホットライン（188番）に速やかに相談するようにしましょう。
2. 「バズっている」「炎上している」投稿の評価は慎重に
今回のレポートの内容を考慮すると、多くの方がSNSで見ている「炎上」や「ハッシュタグ運動」の中には、人工的に作られた情報操作が介入している可能性を想定しておかなければなりません。それに加えて、今回はたまたま政治的な話題でしたが、このような情報操作は健康情報や医薬品（ワクチン含む）・医薬部外品・化粧品に関連する情報においても起こりうることです。
参考までに、私がバズっている投稿を見るときは、以下のような点に注意しています。
- バズっている投稿が別の投稿の引用なのであれば、元の情報源を辿る
一次ソースを確認するのは、情報を客観的に評価する上で必要不可欠です。 - バズっている投稿をした投稿者と、存在する場合は元の情報源の投稿者の背景情報を確認する
特に炎上している場合は徹底しています。評価にあたって必要な情報が欠けた状態で炎上している可能性があるからです。 - 投稿の中に書かれている特定の人物や会社等が存在するかを確かめる
意外と重要です。実際、実在しない「Dr. Manuel Godsin」という架空の研究者名義の記事がアフリカのニュースサイトに掲載されていたという事例がレポートで紹介されています。 - 返信や関連投稿を読む
可能な限り読んでいます。特に自分の考えと異なる意見は、自分の見落としに気づくこともあるので、なるべく目を通します。
薬局でも、患者さんからそのような相談があるかもしれません
人にもよりますが、調剤薬局の服薬指導では「先月こんなことがあった」とか「最近こんなニュースが多いね」みたいな世間話が混ざることもあります。
なので、今回のような詐欺の事例の相談が、世間話の中にポロッと出てくる可能性もゼロではありません。
詐欺に関する相談は調剤薬局の管轄外の内容にはなりますが、それでも注意喚起をしたり相談先を教えたりすることはできます。
例えば、「私も最近聞いたんですけどね、そういった手口の相談が増えているみたいなんです…いちど消費者ホットライン（188番）に確認してみると良いかもしれませんよ。」みたいな言い回しをすることで、本人の尊厳を傷つけずに行動してもらえるかもしれません。
また、こちらは比較的されやすい相談になりますが、SNSやテレビ、週刊誌等で拡散されている健康情報への対応も適切にこなさなければなりません。
薬剤師がこのような情報を見たら、まずEBMの観点からその情報を分析・評価し、実際に患者さんから質問されたときに適切に回答できるよう準備しておく必要があるでしょう。
