もし、生成AIが4日間使えなくなったら…

もし、生成AIが4日間使えなくなったら…

元論文：“Oops! ChatGPT is Temporarily Unavailable!”: A Diary Study on Knowledge Workers’ Experiences of LLM Withdrawal

今回の研究は、生成AIを高い頻度で使用している労働者に、4日間だけ生成AIを使わない生活をしてもらい、その間の体験を日記とインタビューで追跡したものになります。

研究の方法

1. 参加者

参加者は韓国のオンライン上で募られ、生成AIを自身の仕事に深いレベルで組み込んでいる人が11人集まりました（最終解析対象は10名）。
生成AIへの依存の傾向のスクリーニングには、生成AIへの依存傾向を測るための専用の質問票（LLM-D12）が使われましたが、今回の研究では、仕事や作業の道具として手放せなくなるタイプの依存に関する項目のみが対象となりました。

2. 4日間、生成AIを断つ

参加者は4日間にわたって生成AIの利用を控え、「使いたい」と感じた瞬間ごとにウェブ上の記録フォームに記録を残しました。日記は1日最低5件書く必要があり、加えて毎日の終わりに振り返り（その日の感想や気づきを記録する）も実施しています。

研究全体では200件の日記、40件のふりかえり、8時間51分のインタビュー音声が集められました。分析にはテーマ分析が用いられ、インタビューを主な分析データとしつつ、日記や振り返りを補足として活用しています。

結果

1. 生成AIが使えないことにより、非常に不便になった

まず、参加者は生成AIなしの仕事を、食洗機やロボット掃除機がない生活、コンビニがない生活、車がない生活、あるいはGoogleやWordがない状態に例えながら、非常に不便になったことを主張する傾向がありました。

具体的には、参加者から以下のような報告がされています。

• 人に助けを求めることが負担に感じた
  参加者は、生成AIには気軽に質問できても、人に尋ねる場合は「相手の負担になる」という心理的抵抗を感じていました。
  実際、参加者P10は簡単に検索できることを人に聞く人を指す韓国語スラング「finger prince / princess」を引き合いに出し、他人に聞くことを避けていたと述べています。
  一方で、生成AIを使えないことで人に相談した結果、人間のほうが有用だと感じた参加者もいたと報告されています。
• Web検索のキーワード処理を面倒と感じた
  従来の検索エンジンでは、キーワードを組み立てて検索し直す作業が必要になります。参加者は、生成AIに慣れた後ではその作業を「煩雑」「過剰」と感じていました。
  参加者P10は、ChatGPTなら一度で求めているものが返ってくるのに、通常検索では少ない回数で結果にたどり着くために頭を使う必要があったと述べています。
• 読む・書く行為における基準が下がった
  生成AIが使えなくなったことにより、参加者は文章の理解や文章の改善に追加で時間をかける意欲が低下し、「完璧でなくてもよい」という方向に基準を下げてしまう傾向がありました。
  たとえば参加者P1は「教授への英語のメールでは普段必ずChatGPTで推敲するが、この4日間は完璧な英語でなくてもよいと考えた」と述べています。
• 即時の支援がなくなることで、課題の延期や「回避」が起きた
  参加者P1は「研究が終わったら始めようと思って、物事を先延ばしにしていた」と語り、参加者P3は「普段なら生成AIに頼む、情報の整理を諦めた」と述べています。
• 仕事のペースの変化に適応しづらかった
  参加者は、生成AIがない状態で仕事にどれだけ時間がかかるのかを見誤って（過小評価して）いました。つまり、自分でも気づかないうちに、作業速度の前提が生成AI依存型に変わっていたことが示唆されます。
  参加者P8は、生成AIがないことで教材探しに時間がかかり、予定の変更や残業につながったと述べています。

2. 自力で作業することで、仕事上の価値が再び意識された

著者らは、生成AIが使えないという状況が、逆に失われかけていた自分の仕事の価値を再発見させたと述べています。

具体的には、参加者から以下のような報告がされています。

• 仕事の「明瞭さ」
  参加者は、自分で筋道を立てて考えることで、内容がより明確に理解できるようになったと報告しています。生成AIを使うと、途中の推論を十分に分解・深堀りしないまま出力を受け入れてしまうことがあり、参加者P3は「違う、そういう意味じゃない」と何度も修正を要求するストレスがあったと語っています。
• 成果物に対して、「自分が作ったもの」だと感じるようになった
  参加者P1、P3、P7は、生成AIを用いてできた成果物は「自分のものではない」と感じることがあると述べています。
  一方、自力で課題を完結させたときには、成果への所有感や誇りが高まったと報告されています。参加者P1は「今回は生成AIなしでアイデア出しをしたので、本当に自分のものだと感じた」と記録しています。
• 自分にとっての業務の優先順位が明確になった
  生成AIなしでは一度にこなせる業務量が減るため、参加者は「何に時間を使うべきか」を再評価しました。
  参加者P1、P5、P6、P7は、「自分の職業にとって何が『核』なのかを再確認した」と述べています。

3. 生成AIへの依存からは、社会的要因も関連して逃れがたい

著者らは、生成AIへの依存は単に本人の意識の問題ではなく、生成AIの使用を当然と位置づける職場環境・社会の雰囲気の中で強化されていると述べています。

• 依存しすぎて、生成AIなしで仕事ができない感覚
  全参加者が、生成AIの使用が自身のスキルの形成を妨げていると報告しています。特に参加者P6は、自分を「バグすら取れない開発者」と表現し、コードの中身を十分理解しないまま生成AIとのコピーペーストを繰り返していたと述べています。参加者P3も、ChatGPTなしではコーディング課題ができないし、学ぶ意欲もあまり湧かないと話しています。
• 社会的にLLM使用が避けがたい
  参加者P3は「みんなChatGPTを使っている」と述べ、参加者P9は「使わないと自分だけ損をする」と語っています。さらに参加者P7は、研究室の教授からも「その書類は生成AIを使ってさっと済ませろ」と言われると述べています。

注意点

• 参加者は全員韓国在住であることと、韓国はChatGPT有料利用者数が非常に多い国の一つであることから、文化的・社会的背景が結果に大きく影響している可能性があります。ゆえに、他国で同様の研究をした場合、異なる結果が得られる可能性があります。
• 普段軽く生成AIを使用している人には、当てはまらない可能性があります。
• 著者らは、例えば1か月以上の長期にわたる研究なら、さらに異なる知見が得られる可能性があると述べています。

---

仕事に自分の責任を残す

最近はAI搭載薬歴の登場によって、薬歴やトレーシングレポートの草稿を作成してもらえるだけでなく、これから実施しようとしている服薬指導の内容まで提案してくれる時代になりました [1] [2] [3] 。

しかしながら、生成AIが提案した通りに服薬指導をして、生成AIが出力した通りの薬歴を確定するだけでは、自分の責任のもと指導・記録したとはいえませんし、今回の論文で指摘されていた「生成AIを用いてできた成果物を、自分のものではないと感じてしまう」ということにもつながるでしょう。

自分のものではないと感じることの何が悪いのかと思われるかもしれませんが、服薬指導や薬歴の内容を確定した薬剤師が「自分のものではない」と感じるということは、薬剤師がプロセスに関与しなかった、もしくは責任を果たさなかったということと、ほぼ同義なのです。

患者さんの健康に影響を与える可能性があるこれらの業務においては、薬剤師による確認・監査が必須です。自分の責任のもと遂行した、自分の仕事であると自信を持って言える状態でなければなりません。
ゆえに、AI搭載薬歴の支援を受けるにしても、以下の点は人間の薬剤師主導で確認する必要があります。

• AI薬歴が出力した服薬指導案を理解し、対象の患者さんに対して適切な内容かを評価する
• 服薬指導案を、対象の患者さんに伝わるように翻訳する
• 翻訳した内容をもとに服薬指導する
• 薬歴の草稿の内容を理解し、対象の患者さんに対して適切な内容かを評価する
• 適切な内容であることを確認して、薬歴を確定する

これらを責任を持って遂行し、自信を持って自分の仕事と言える状態にしておかなければなりません。

もし、生成AIがなくなったら？

実際に起こりうるかどうかは別として、急に生成AIが使えなくなったら、皆さんはどの程度困るでしょうか？

私の場合は、まさに今回の論文で触れられていたような状況になるかもしれません。本業（薬剤師）のほうはあまり生成AIに依存していないので問題ないですが、noteのほうは大きな影響が出そうです。

まず、今の内容で毎日更新するのは難しくなるでしょう。おそらく、論文を読むのに今の10倍は時間がかかるようになります。
なので、更新頻度を落とすか、テーマをもっとカジュアルにするかのどちらかになると思われます。

加えて、記事のトップ画像が私の手書き画像に置き換わることになるでしょう。

一方で、論文では「自力で課題を完結させたときには、成果への所有感や誇りが高まった」と述べられていましたが、おそらく生成AIなしで1つの論文解説記事を完成させたら、私も同じ気持ちになると思います。
多分、記事ができるたびに「ついにやった…完成した…！」などと言うようになるでしょう。

…いずれにせよ、仮に生成AIが使えなくなったとしても、noteの記事の更新や薬剤師のためのAIノートの運営が滞りなく継続できるように、今から対策を考えておく必要があると思いました。
よほどの非常事態でない限りは従来通り更新を続けてまいりますので、今後とも宜しくお願いいたします。

---

参考資料

[1] MEDIXS公式 AIアシスト機能ページ
https://medixs.jp/product/history/ai/

[2] EMシステムズ公式 MAPs for PHARMACY 機能紹介
https://service.emsystems.co.jp/maps_series/for_pharmacy/kinou/

[3] ウィーメックス プレスリリース
https://prtimes.jp/main/html/rd/p/000000139.000107062.html