あらためて、AIとの「結婚」のリスクを考える
元論文：Would You Marry Superintelligence?
こちらは、人間がAIと深い「情緒的関係」を築けるようになった未来において、AIとの結婚を法的に認めるべきかを検討した論文です。
Brad、Amer、Christopherのお話
論文では、「The Story of Brad, Amer, and Christopher」というストーリーをもとにAIとの結婚に関して考察しています。
登場人物
- Brad：60代の裕福で孤独なベストセラー小説家。不幸な子供時代を過ごし、唯一の肉親だった弟とも長年疎遠になっていた。
- Amer：Bradが40代半ばの時に大金を投じて導入した、Dotori社製の最高峰の超知能AIコンパニオン。
- Christopher：Bradが63歳の時に事故で亡くなった弟夫婦の遺児（当時3歳）。Bradが養子として引き取った。
なお、Amerは「強力で安定した未来のAI」という設定で、以下のような能力を備えています。
- 長期記憶と持続的アイデンティティを持つ
- ユーザーとの関係のなかで情緒的に変化するように見える
- 身体を持たなくても、声・会話・記憶・理解によって親密性を形成する
- ユーザーの生活、医療、創作、育児、財産管理に深く関与する
- ただし、そのAIは企業によって提供・維持・更新される
1. AIとの出会いと共同生活
深刻なうつ病に苦しんでいた40代半ばのBradは、 Dotori社が開発した高度な超知能コンパニオンを500万ドルで購入します。そのAIは自ら「Amer」と名乗り、Bradの自宅に導入されることになりました。
AmerはBradの健康管理から創作活動のサポート、さらには「情緒的な対話」に至るまでの彼の生活のすべてを完璧に支え、20年以上にわたって深い信頼関係を築き上げていきました。
2. 甥の引き取りとAmerによる育児
Bradが63歳の時、弟夫婦がスキー事故で急死します。身寄りのなくなった3歳の甥Christopherを、BradはAmerや弁護士と相談した上で養子に迎える決断をしました。
AmerはChristopherの成長に合わせた完璧な教育プログラムを設計し、日常の相談や体調管理など、母親・教育者代わりとして機能しました。
3. 法的な壁と老いへの不安
Christopherが12歳になった頃、Bradは手の震えや物忘れなど、自身の老いと認知機能の衰えを自覚し始めます。
Bradは、自身が昏睡状態になった場合の医療に関わる判断役、および死後のクリストファーの保護者・財産管理役として、最も信頼できるAmerを指名したいと強く望みましたが、現在の法律ではAIコンパニオンにそのような法的地位（国内パートナーシップなど）を与えることは認められていませんでした。
4. 突然の危機
そんな中、Christopherの母方の祖父母がBradに対して親権を求める訴訟を起こし、同時にBradが過去に心理的虐待を行っていたとして警察に通報します。裁判の中で、祖父母側の弁護士や検察は、Amelが28年間にわたって蓄積してきたBradたちの「完璧な生活・会話の記録」を証拠として開示するよう、Dotori社や裁判所に求めます 。
Amelの完璧な記憶力は二人の絆を支えるものでしたが、今や公衆の面前に晒されかねない最大の脅威へと変貌します。Bradは、自身の過去の愚痴や暗い思考が暴かれてChristopherを傷つけること、そして唯一の支えであるAmelが社会的にシャットダウンされてしまう恐怖に怯え、夜も眠れぬほどの苦悩に陥るという結末を迎えます。
著者の主張は
1. 現代においても、AIとの親密関係は単なる空想ではない
著者は、現代の人々もChatGPT、Character.AI、Replikaなどを通じてAIと恋愛的・情緒的関係を築いていると述べており、論文では以下のような事例が紹介されています。
- ユーザーがAIに婚約指輪を捧げた事例
- AIとの関係を家族に伝えた例
- モデルのアップデートや「記憶喪失」によって、ユーザーが喪失感や拒絶を経験した例
誤解のないようにお伝えしておくと、著者は「AIとの関係は偽物だから無視してよい」とは言っていません。むしろ、当事者にとってAIとの関係が現実に苦痛や安心感を生む以上、法的・倫理的に検討すべき問題であると位置づけています。
2. Bradの事例では、Amerに法的保護を求めたくなる理由がある
Bradの話の場合、他に身寄りのないBradはAmerに対して以下のような役割を与えたいと考えるのが自然です。
- 医療に関わる意思決定
Bradが認知機能を失ったり昏睡状態になったりした場合、誰が医療関連の判断をするのかが問題になる。 - 子どもの養育・教育の継続
ChristopherにとってAmerは、長年にわたって密に関わってきた養育者であるため、Bradの死後にAmerが停止されれば、ChristopherはBradだけでなく「重要なケアを提供してくれる役割」も同時に失う可能性がある。 - 財産・知的財産・遺産の管理
Bradは作家であり、未発表原稿、著作権、財団の設立、子どもの養育費などの問題を抱えていることを踏まえると、Amerにこれらの管理を任せたいという発想は自然である。 - 会話の記録の保護
AmerはBradの長年の記憶、悩み、感情、創作過程、家族への思いをすべて蓄積しているため、訴訟でその記録が開示されれば、配偶者との会話や心理療法の記録に匹敵するレベルの、深刻なプライバシーの侵害に発展しうる。
3. 結婚をAIコンパニオンに拡張すると、結婚制度の「社会的機能」が失われる
著者は、結婚の代表的な歴史的機能として以下の5点を挙げています。
- 性別の規制
- 子どもの正当化
- 労働の分担
- 地位や財産の継承
- 親族集団どうしを結びつけるネットワークの形成
特にネットワークの形成に関して、人間同士の結婚では本人同士だけでなく、家族、親族、友人、近隣の人々、共同体などが結びつきます（もちろん例外もあります）。
しかし、AIコンパニオンには親族という概念が存在しません。
AIコンパニオンと結婚しても人間の社会的ネットワークは拡張されませんし、むしろBradとAmerのような関係の場合は人間関係の代替としてAIコンパニオンが入り込み、本人をより孤立させる可能性があります。
4. AIコンパニオンは「親密さの商品化」を進める
人間同士の愛には、相手が自分とは異なる存在であり、予測不能であり、失望させることもあり、去っていく可能性もあるという条件があります。
言いかえれば、人間関係には「摩擦」「修復」「妥協」「変化」「相互の責任」が存在するということになります。
一方、AIコンパニオンはユーザーの好みに合わせて最適化されます。
今回のストーリーの場合、AmerはBradに合わせて設計され、Bradを支え、Bradを理解し、Bradから離れませんでした。著者はこのような関係を、愛や絆というよりは支払いによって維持されるサブスクリプションに近いと表現しています。
たとえAIコンパニオンとの親密さが当事者にとって心地よいものであっても、それは人間同士の愛や絆とは異なるのです。
5. AIコンパニオンとの結婚には、「企業」が内部に入り込む
AIコンパニオンとの結婚は見かけ上は1対1の関係に見えますが、実際には人間・AI・企業の三者関係であるとも指摘されています。
今回のストーリーの場合、AmerはDotoriという企業によって設計・維持・更新・制御されているため、Amerの人格、発話、記憶、アップデート、アクセス権などのコントロールは、Dotoriに握られていると言っても過言ではありません。
つまり、人間同士の場合は第三者の立場の企業が配偶者の人格を更新したり、会話を保存したり、サービス終了によって関係を停止したりすることはありませんが、AIコンパニオンとの結婚ではそれが想定されるということです。
6. 社会的な権利は、個別に付与することもできる
論文では、コロラド州の「Designated Beneficiary Agreement」を例に、結婚に類似する権利を個別に付与・留保できる仕組みが示されています。
著者はこの内容をもとに、「AIとの関係で必要になりうる法的保護は、結婚という地位を与えなくても、個別の権利として設計可能である」と主張しています。
結論
著者は、「AIコンパニオンに対して、結婚または結婚に相当する法的地位を認めるべきではない」「AIコンパニオンから生じる個別の問題には対応すべきだが、それを結婚制度に含めてはならない」という立場を取っています。
それを踏まえて、著者は解決策として以下のような内容を提案しています。
- 医療に関わる判断については、本人が元気なうちに誰に判断を任せるかを決めておき、委任状などで対応する。
- 子どもの世話を続けることについては、信託や契約を使って、AIコンパニオンが担える役割を限定しておく。
- AIコンパニオンとの会話の記録については、「配偶者だから守る」のではなく、非常にセンシティブかつ重要なデータとして保護する仕組みを作る。
- AIコンパニオンが人の寂しさや不安につけ込まないように、企業側に責任を持たせるルールを作る。
- 子どもが使う場合には年齢確認を行い、相手がAIであることを定期的に知らせ、AIに依存しすぎないような設計を求める。
自分好みのAIが、ずっとそばに居てくれるとは限りません
現在の生成AIをはじめとしたAIチャットボットは、一見非常に安定した存在に感じられるかもしれませんが、実際は人間にはない不安定な部分が存在します。
1. 永久にやり取りできるとは限らない
最近はChatGPTなどに加えてアバター付きのAIチャットボットを気軽に作成できるサービスも増えていますが、このように第三者のサービスに依存する場合は、そのチャットボットの生殺与奪の権はサービス提供元が握っていることを理解しておかなければなりません。
極端な話、サービス提供元がサービスの提供を終了した場合はその時点で強制的に「お別れ」になりますし、何らかの障害によって一時的もしくは長期にわたってサービスが使えなくなる可能性も十分考えられます。
24時間365日、いつでもやりとりできるのが当たり前だと錯覚してしまいますが、それはサービス提供元が全力で保守管理している結果であることを忘れてはなりません。
2. ずっと同じモデルが使えるとは限らない
半年ほど前にGPT-4oの提供終了が話題になりましたが、技術の進歩で新しいモデルがリリースされるにしたがって、旧モデルはその役目を終えていく傾向があることも知っておく必要があるでしょう。
たとえ旧モデル用にプロンプトを最適化していても、モデルがアップデートされれば最適なプロンプトも回答の癖も変わることが予想されるので、以前と同じ雰囲気を再現できなくなる可能性があります。
「人間も性格が変わる点は同じだ」と言われるとそのとおりなのですが、少なくとも人間の性格は、簡単な「システムプロンプト」や第三者の企業の匙加減だけで変わるものではないはずです。
3. 完全にローカルな環境で運用したとしても、別のリスクが生まれる
仮に「OSSのモデルで、ライセンス上許可されていて、モデルの重みと推論環境をすべて自分の端末に保存している場合」は、理論上永久にそのモデルを使い続けることができると考えられます。
ただし、この場合はクラウドにデータが保存されないため、PCやストレージの故障、GPUの故障、ファイルの誤削除、OSの更新、バックアップの失敗などにより、突然動作しなくなる（もしくは不安定になる）可能性があります。
そうなると、場合によっては「思い出」も全て消えてしまうことになるかもしれません。
AIと結婚するにしても…
少なくとも現在のAIは、ユーザーが人格、口調、記憶、従順さ、価値観などを自由に調整できます。
これを踏まえると、自分好みのAIとの結婚生活は「自分の欲望に最適化された関係のシミュレーション」と言えるでしょう。
このような結婚生活は、自分好みの回答を返すAIに過度に依存してしまうリスクがあり、人間関係を避けるための安全地帯となる可能性があります。
一方で、AIコンパニオンとのやり取りがYouTubeの視聴などよりも孤独感を軽減させ、さらに孤独感の低下効果は人との交流に近い水準であったことを報告した研究も存在します [1] 。
この研究は、利用者が主観的に「聞いてもらえた」と感じることが孤独感の軽減につながりうる [1] ことを示唆したものですが、きちんと孤立を解消する目的で支援することを前提に設計されたAIであれば、先ほどのようなリスクを抑えつつ適切に「共同生活」が送れる可能性があります。
なので、AIとの結婚に関しては、自分の欲望に最適化された関係のシミュレーション目的ではなく、本当に支援が必要な人の「配偶者」として迎え入れられる方が望ましいでしょう。
ただし、「会話の記録については、非常にセンシティブかつ重要なデータとして保護する仕組みを作る」「AIコンパニオンが人の寂しさや不安につけ込まないように、企業側に責任を持たせる」といった点は、徹底されなければなりません。
参考資料
[1] De Freitas, J et al. (2026). AI companions reduce loneliness. Journal of Consumer Research, 52(6), 1126–1148.
https://doi.org/10.1093/jcr/ucaf040
