永遠に葬られぬ声─AI時代のグリーフケアと倫理
Towards Postmortem Data Management Principles for Generative AIFoundation models, large language models (LLMs), and agenticarxiv.org
「故人のデータを使い、故人そっくりの見た目のアバター、同じような話し方をするチャットボットを作成する」という事例が報告されています。生前の姿を見て悲しみを軽減する目的で使用されたり、本人の意向とは無関係の主張をさせる目的で使用されたりしており、問題となっているようです。
こういった事例に関連して、こちらの論文では、生成AIが社会に浸透するなかで、「故人のデータをどう扱うべきか」という課題について論じられています。
以下、論文の要約です。
故人のデータに関する３つの原則
論文中では、以下の3つの原則が提案されています。
- 忘れられる権利／データ削除
単にサーバーから削除するだけでなく、モデルに学習された影響を抹消する「機械アンラーニング」まで徹底する。 - データの相続・所有
データそのものを「削除する」、「承継する」、あるいは「価値だけを分配する」という、3種類の道筋を提示。 - 使用目的の限定と被害の回避
研究や公共目的でデータを寄贈する際には、透明性の確保・関係者（家族など）の同意・情報の保護を徹底する。
この3本柱は、故人の情報が個人データ保護の枠外にあるという規制の空白を埋めようとする試みです。
海外における規制はあるものの
- EU AI Act は、ディープフェイク作品にウォーターマーク（透かし）表示等を義務づけていますが、故人の模倣までは十分にカバーしていません。
- カリフォルニアのSB 942（2026年施行予定） は透明性規制を強化しますが、対象は音声・画像・動画のみ。テキストベースの「偽の追悼記事」には効力を発揮しません。
- 実際に、Character.AIでは「遺族非同意の追悼ボット」が作られ、遺族に心理的被害を与えた事例も報道されています。
つまり「死者の声や顔を勝手に模倣する」ケースは、現行の法律や制度だけでは防ぎきれない部分が多いのです。
これからの可能性
論文内では、以下のような内容に触れられています。
- 透明性から「影響の除去」へ
ウォーターマーク等の表示義務は整いつつありますが、次のステップとして、学習済みモデルから特定データの影響を消す「アンラーニング」と、その効果の検証が焦点となるでしょう。 - データの相続
データを財産のように扱うのは難しいですが、「アクセス権」「価値のみ」「完全に削除」など、遺言や相続と結びつけた制度の設計が必要になるでしょう。 - 「追悼ボット」の両義性
一時的には慰めになるかもしれませんが、長期的には「亡霊化」してしまったり、誤情報拡散につながったりするリスクもあります。
事後のデータ削除だけでなく、事前の検知・オプトアウト（データのモデル学習への利用を明確に拒否すること）が求められます。 - データ寄贈の制度化・遺族への配慮
研究用に死後データを寄贈する場合でも、倫理審査や遺族への配慮が不可欠です。
モデルやシステムの設計者が押さえるべき点
- モデルから影響が消えたことを、第三者が確認できる仕組みを整える必要があります。
- 「アクセス権の承継」、「価値の承継」、および「代理で完全削除」の三択を制度として用意すべきです。
- その他、死亡確認や遺言との照合、30日以内にデータ削除と外部への影響が除去された旨の報告、さらに広告や政治利用など、二次使用の禁止などにも言及されています。
論文内容のまとめ
この論文は、「死者のデータ権」という未整備の領域に実務的な三原則を提示しています。
今後必要なのは、
- 監査可能な「アンラーニング」システムの実装
- 相続・評価・分配の仕組みの整備
- データ寄贈に関する同意および遺族の再同意プロセス
- 同意が得られていない「クローン」の検知・情報遮断の技術
といった具体的な仕組みづくりです。
論文の要約は以上です。
「グリーフケア」という観点から
（参考Webサイト：日本グリーフケア協会 グリーフケアとは “https://www.grief-care.org/about.html“）
皆さんは「グリーフケア」という言葉を耳にしたことがあるでしょうか。
グリーフケア（Grief Care）は、家族や親しい人との死別など「喪失」を経験した人が感じる深い悲しみ（Grief）に対して、そっと寄り添い、心理的・社会的な孤立を防ぎながら回復を支援する取り組みです。
もう少し具体的に説明すると、
- 深い悲しみ（Grief）の時期には「自分とは何か」「死とは何か」などの問いが生まれるため、安心して心を開ける場や人の存在が重要です。
- グリーフケアにおいては、悲しみの中にある人にさりげなく寄り添い、話を聴き、必要なサポートを提供します。
- 遺族が孤立しないように支援体制を整えて混乱や苦しみを整理し、人生の意義や前向きな気持ちを取り戻すきっかけも作ります。
これらの適切なケアを受けることで、悲しみのプロセスを経て、人生の新たな意味や価値観を見出すことができます。また、苦しい時期を「人生の転機」として乗り越える力を育むことにもつながります。
さて、冒頭で言及した「故人のデータを使い、故人そっくりの見た目のアバター、同じような話し方をするチャットボットを作成する」ことについて考えてみます。
実際にこのようなチャットボットを作成することは、残された家族が悲しみを乗り越えるための一助になるでしょうか。
「故人を再現したAI」の重大なリスク
あくまで個人的な意見になりますが、この方法には重大なリスクが存在します。
- 本来必要な「死の受容」を妨げ、悲嘆のプロセスを長引かせる。
- AIに依存し、現実の人間関係や社会復帰を阻害する。
- ハルシネーションにより、「裏切られた」「偽物だ」という新たな苦しみを生むリスク。
- 遺族の中でも「救われる人」と「傷つく人」に分かれ、対立の火種になる可能性もある。
目の前の画面にいるのは、自分の大切な人ではなく、自分の大切な人の情報をもとに構築されたAIに過ぎません。一見従来と同じようなコミュニケーションが取れているように錯覚しますが、実際行われているのは、アルゴリズムに基づいた回答内容の生成です。
これらの事実から目を背けてAIチャットボットに依存してしまった場合、一時的に悲しみが癒えたように感じるかもしれませんが、本当の意味での「癒し」に永遠に辿り着くことができません。「大切な人を失った悲しみ」が、永遠に整理されることがないからです。
また、生命倫理の観点からも推奨されるべきではないでしょう。
この点に関してはうまく言葉にできませんが、「生命への冒涜」にあたると私は考えます。
よって、これらの理由から、私は故人の同意なく「故人を再現したAI」を作成することに関しては、反対の立場です。
実は、このようなAIチャットボットは、比較的簡単に作れてしまう
「故人の見た目を再現したアバターと会話するためのチャットボット」を作成するのはハードルが高そうに思うかもしれませんが、実はプログラミングの知識がなくても、データが揃っていれば比較的短時間で作れてしまうのです。
そのハードルの低さゆえ、「故人のデータの取り扱い」に関する論文が執筆されるくらい大きな問題となっているのです。
いちおう誤解のないようにお伝えしておくと、「アバター付きチャットボット」を作成して楽しむことに関しては、私はそこまで問題視していません。むしろ、使い方によっては会社のキャラクターを模したチャットボットとして活用できたり、宣伝に使うことができたりと、メリットも存在します。
ただ、今回取り上げたケースに関しては、先述の理由により明確に反対の立場をとります。
さいごに
色々と書いてきましたが、言いたかったことを簡潔にまとめます。
- 「故人を再現したAIチャットボット」は、本当の意味での「癒し」にはなり得ない
- むしろ、「死の受容を妨げる」「AIに依存する」「新たな苦しみが生み出される」というリスクが先行するので、このようなチャットボットは作るべきではない
論文の内容は「故人のデータの取り扱い」がメインでしたが、いち医療の担い手として思うところがあったので、あえてこういう内容にしました。
誰でも簡単にAIを活用できる時代だからこそ、こういったセンシティブな部分にも、最大限配慮していかなければなりません。
