薬局内で生成AIを育てる時代が来る？

薬局内で生成AIを育てる時代が来る？

MobileFineTuner: A Unified End-to-End Framework for Fine-Tuning LLMs on Mobile Phones

現在のところ、高性能なLLMの学習に必要とされるインターネット上の公開データは2026年から2032年の間に枯渇すると予測されており、「質の高いデータ」の確保が課題となっています。

論文では、この「データの壁」と、スマートフォン上に存在する膨大な「個人データ（プライベートデータ）」の活用という2点に触れていますが、そもそも個人のチャット履歴やメモなどのデータは、プライバシー保護の観点から、クラウドに送信することは色々な意味で困難です。

しかし、インターネットに接続することなく、手元のスマートフォンだけでLLMが学習して賢くなっていくことが可能だとしたら、どうでしょうか。今回の論文には、スマートフォン上でLLMをファインチューニングさせるための新しいフレームワーク「MobileFineTuner」について記述されています。

MobileFineTunerとは

これまでもスマートフォン上でLLMを動かす（推論する）ことは可能でしたが、「学習させる」ことは困難でした。というのも、既存の学習フレームワーク（PyTorchなど）はPythonベースであり、スマートフォン上で動かすには重すぎたり、メモリやバッテリーが不足したりしたからです。

そこで、MobileFineTunerには、以下のような工夫を施されています。

• 完全C++実装による軽量化
  Pythonや仮想マシンを使わず、全てC++で構築することで、スマートフォンの限られたリソースでも、効率的に動作するように設計されています。
• ストレージをメモリの代わりに使う（パラメータ・シャーディング）
  スマートフォンのメモリ（RAM）は通常8〜16GB程度しかなく、長期間データを保持しない揮発性メモリであることも考慮すると、LLMのような大規模モデルを学習する用途としては不十分です。
  一方、スマートフォンのストレージ（スペック上では「ROM」と表記されることも）は、写真や動画、アプリ本体といったデータを長期的に保存する領域で、64GB〜1TB程度と比較的大きな容量が搭載されています。
  MobileFineTunerでは、計算に使わないパラメータをこまめにストレージへ退避させることで、少ないメモリでも巨大なモデルを学習できるようにしました。
• バッテリーに優しい設計
  LLMの学習は、言うまでもなくバッテリーを激しく消耗します。MobileFineTunerは、バッテリー残量が減る（例：60%以下）と、自動的に計算スピードを落として休憩を挟むような機能が搭載されています。

非常に簡潔にまとめると、

• 「重い」仕組みを使わず、スマートフォンが直接理解できる言葉で指令を出すことで、軽快な動作を実現した。
• 狭い「作業机（メモリ）」の代わりに、広い「倉庫（写真などの保存場所）」を一時的に使うことで、本来ならスマートフォンに入りきらない巨大なLLMを学習できるようにした。
• バッテリー残量が減ると自動的に作業ペースを落として休憩を挟み、スマートフォンのバッテリー切れを防ぐ。

ということになります。

結果

著者らは、Google Pixel 8、Pixel 7 Pro、Pixel 8 Pro、およびMacBook Air 2023を用いて、Full-FT（全パラメータ学習）とPEFT（パラメータ効率の高いファインチューニング：LoRA）の評価を行いました。

【補足】
LoRA：ざっくり言うと、ファインチューニングの一種。元のモデルは固定し、小さな追加パラメータだけを学習させる方法。

1. 精度

スマートフォン上で学習させたLLM（GPT-2やGemma 3など）の回答の精度や学習の状況を検証したところ、高性能なクラウドサーバ上で学習させた場合と、ほぼ同等の結果になりました。

2. メモリ不足を解消

「Gradient Accumulation（勾配の蓄積）」というテクニックを使うことで、学習時のメモリ使用量を約半分（9GB→4.8GB）に抑えることに成功しました。これにより、これまでは「メモリ不足でアプリが落ちる」ような状況でも、安定して学習できるようになりました。

3. バッテリー保護も正常に機能

バッテリー残量が60%を切ると、自動的に計算スピードを落とす機能が正常に作動することも確認されました。

注意点

• メモリ8GBのGoogle Pixel 8で約5億パラメータのモデル（Qwen2.5-0.5B）を学習させようとしたところ、容量不足で失敗しました。
  「少々昔のスマートフォン」で学習させるのは、難しいと思われます。
• 現在MobileFineTunerで学習できるのは、パラメータ数が1B（10億）程度までの小型モデルに限られます。最近主流のさらに巨大なモデルを学習させるには、スマートフォンのスペックが足りないと思われます。

---

薬局内で生成AIを育てる時代が来る？

学習目的でクラウドサーバ上にアップロードするのは望ましくない情報（個人情報・機密情報）は、誤解を恐れずに申し上げると、LLMの学習という観点から言うと非常に有用な情報です。そしてそのような情報が大量に眠っている調剤薬局というのは、まさに「宝の山」と言えるでしょう。

仮に、オフライン環境かつ薬局内の端末（スマートフォン等）だけで十分に学習（オンデバイス学習）が進むのであれば、調剤薬局に眠るデータを使って「専用のモデルを使った生成AI」を構築することが可能になるかもしれません。

一方で、そこにはバイアスも存在します。
近隣の医療機関（いわゆる門前）の集中率が高い薬局であれば、処方データはその医療機関のデータに偏りますし、同時に患者さんの層（年齢・性別）も偏ってくる可能性があります。
例えば、処方箋の95％以上が小児科からである調剤薬局であれば、いわゆる「慢性疾患」の方のデータがほとんどない状態といえますし、患者さんのほとんどは子供のため、高齢者の方のデータも不足していると言えます。

「薬局特化」のメリットとデメリット

しかし、このバイアスは強みにもなり得ます。ある意味、この偏りこそが「その薬局専用の強み」になる可能性を秘めているからです。

先ほどの小児科の例を挙げると、その生成AIは小児用量の監査や、散剤・液剤の配合変化、あるいは近隣の医師特有の「処方意図」を誰よりも深く理解したスペシャリストへと成長します。
一般的な回答を出力する「汎用生成AI」よりも、現場の薬剤師にとっては、こうした「バイアスを取り込んだ（＝特化した）生成AI」の方が、日々の業務における頼れる相棒になる可能性もあります。

もちろん、リスクもあります。 その生成AIは、あくまで「その環境に過剰適応した」モデルを搭載しているため、普段受け付けないような医療機関の処方箋を見た時に、生成AIは見当違いな助言をする可能性があります。
これは、オンデバイス学習によって成長する生成AIの限界とも言えます。

バイアスを解消し、賢さを手に入れることは可能か

プライバシー（個人情報）を保護しながら、バイアスを解消して「汎用的な賢さ」も手に入れる方法として提案されているのが、今回の論文の「今後の展望」でも触れられている「Federated Learning」という技術です。これは、学習は各端末で行い、結果だけを中央に集約する仕組みです。

今回のMobileFineTunerは、モデルの種類やスマートフォンのスペックなどの制限はあるものの、スマートフォン上でLLMの学習ができる可能性を示しました。つまり、MobileFineTunerの技術により、Federated Learningのステップである「学習を各端末で行う」という部分が、今後実現できる可能性を秘めていると言えます。

まだ研究段階ではありますが、MobileFineTunerのような技術により、今後は医療分野に特化した実用的なLLMが「施設ごとに」構築できる時代がやってくるかもしれません。
そしてそのような時代において、人間の薬剤師は「薬局特化の生成AI」の回答を、きちんと分析・監査できる知識とスキルを身につける必要があるでしょう。