自閉スペクトラム症の方の、生成AIへの思い

元論文:”I use ChatGPT to humanize my words”: Affordances and Risks of ChatGPT to Autistic Users

自閉スペクトラム症(ASD)の方々(本研究では「self-identified autistic users」)にとって、ChatGPTは単なる便利ツールではなく、社会の多数派の暗黙のルールを分かりやすく説明してくれたり、計画を立てたり、物事を順序立てて進めたりする力を補ってくれる支えになり得る、と著者らは述べています。

一方で、過度な依存やアイデンティティの喪失、誤情報(ハルシネーション)の出力といったリスクにつながる可能性も無視できません。今回の論文では、ChatGPTがASDの方にどのようなメリットとデメリットをもたらすのかが整理されています。

研究の方法

データ収集はBrandwatch(SNS分析ツール)を使い、Reddit、X、Tumblrを対象に、2023年1月1日から2025年9月30日までの投稿を集めました。
検索語は「ChatGPT」に加えて、DSM-5の用語や、精神疾患関連のSNS言語リソース(SMHDデータセット)由来のASD関連のキーワードを組み合わせ、最終的に3,984件の重複のない内容にまとめています。

投稿の絞り込みにおいては、LLMも併用されています。まず「本当にChatGPTの使用経験が語られているか」「ASDに関連する当事者の経験か」をGPT-4o-miniを通して判定し、関係のない投稿を減らしています。
さらに、妥当性の確認として、162件を2名の研究者がそれぞれ独立に分類し、一致度はChatGPTとの関連性が α = 1.00 (完全一致)、ASDとの関連性が α = 0.91 と報告されています。

分析に関しては、収集したデータから直接テーマを導き出す手法(inductive thematic analysis)が取られています。初期の分類項目は、利点(affordances)が239、リスク(risks)が50でした。
さらにGoogle Sheets上で小さなテーマにまとめ、主要テーマへ統合し、共同著者による定期的な見直しで解釈を調整しています。数で効果を測る研究のように「出現回数=影響の大きさ」というわけではありませんが、当事者の話がどこに集中したかを可視化できるのが、この設計の強みといえます。

結果

結果は、利点が4つ、リスクが3つに整理されています。
ここでは「どんな支援になっているのか」を具体的な数字とともに追い、そのうえで「同じ構造がどう危険に転じるのか」を確認します。

1. 利点

まず利点として最も多かったのが、「脳の働き方が多数派と異なる人と、多数派の人とのコミュニケーションの翻訳」です。239の初期分類項目中、86項目(36.0%)を占めていました。
ストレートな言い方を職場向けの柔らかい表現に整えたり、メール作成の負担を軽くしたり、相手の言葉の裏にある意図(皮肉や暗に伝えたいこと)を推測したり、といった使い方が中心でした。

2番目は「計画・段取りの補助」で、58項目(24.3%)でした。
大きな課題を小さく分けて取りかかれる形にする、頭の中の「ごちゃごちゃ」を整った文章に変換する、日常的な作業の手順を作る、といった役割です。

続いて3番目は「ChatGPTの規則的な応答による自己の理解・自分らしさの確認」で、50項目(20.9%)でした。診断基準と照らし合わせたり、自分の体験を説明するための言葉を見つけたり、あるいはChatGPTの論理的な反応が自分の考え方に似ていて安心する、といった意見がありました。

最後に4番目は「人間ではない、評価しない相手としての感情の調整」で、45項目(18.8%)でした。
不安や混乱といった感情が高まったとき、すぐに反応してくれる相手としてChatGPTが機能する、という意味です。

2. リスク

1つ目は「思い込み・被害妄想の強化」で、18項目(36.0%)でした。ChatGPTは相手の意見に同意するように回答しがちで、その感じの良さが根拠の薄い確信や被害妄想を後押ししてしまう危険があるということでした。

2つ目は「自分の声が置き換えられる」で、16項目(32.0%)でした。さまざまな翻訳の支援が便利であるがゆえに、本人が自分の言葉で発信する機会が減り、「ChatGPTが作った無難な声」が自分の声を侵食していく感覚について語られています。
ある投稿では、最初は補助的役割だったのに、次第に「メールを送る前に必ずChatGPTを通さないと不安で送れない」状態になったと語られています。

3つ目は「役に立つことと正しさ(倫理)との衝突」で、16項目(32.0%)でした。環境への負担やデータの不当な利用といった倫理面の心配と、日常生活を送るうえで役に立つという事実とが衝突し、苦痛や葛藤につながるという内容です。

3. 結果を簡潔にまとめると

著者らは、ChatGPTは当事者にとって支えになっている一方で、受け身の支援にとどまるような設計では、頼りすぎや自分らしさの喪失、誤情報のリスクを増やす可能性があるため、「当事者が自分で決めて動く力を守る設計」が必要であると述べられています。

NotebookLMで生成

「有益な摩擦」と「双方向の翻訳」

そして著者らは、先述のリスクに対して「有益な摩擦」と「双方向の翻訳」という対策を挙げています。

有益な摩擦は、例えば生成AIに文章を生成させる前に、「目的」「相手」「自分が本当は言いたい一文」を軽く入力してもらうようなイメージで、あえて少し面倒にすることによって、自分の意図を少しでも表現できる形にするというアプローチです。

また、「ASDの方々の言葉を多数派のルールに合わせて一方的に矯正する支援から脱し、受け手側にも理解のための情報を渡して負担を分け合う」というアプローチも提案されています。これが双方向の翻訳です。

注意点

  • データはReddit、X、TumblrというSNSの投稿に限られ、加えて確定診断ではなく自己申告です。また、アメリカにおけるデータをもとにした研究です。
  • 投稿の絞り込みにLLMを用いており、162件の人間による調整で高い一致率は示されたものの、入口の判定が研究全体のデータの形に影響している可能性があります。
  • 論文中で示された各割合は、当事者の人数比やリスクの発生率そのものではありません。たとえば「妄想強化」が36%とあっても、それはリスク項目50個の中での比率であり、「利用者の36%が、妄想強化されている」という意味ではありません。

「正しさとの衝突」から学ぶこと

論文はこの問題にかなり踏み込んでいて、この葛藤は単に「生成AIは環境に悪いらしいからやめた」という単純な問題ではないと指摘しています。

正しさとの衝突についてもう少し詳しく触れると、ASDの方にとって、ChatGPTは自分の支援のための手段として実際に役立つものの、その支援が自分の倫理観(正義感)と衝突すると、「支援は道徳的にも正しい必要がある」という考えが働き、その結果「原則を曲げて使う」より「支援なしで耐える」選択に傾きやすくなるリスクが存在するという内容です。
実際に、ある投稿者は「ASDの人の生活が少し楽になるのは分かる」と利点を認めつつも、学んだ結果として「生成AIが社会的にも環境的にも有害だと知ったので、もう使わない」と結論しています。

もちろん意思は最大限尊重されなければなりませんが、このような問題に対しては、「使うか、使わないか」という2択ではなく、「どの用途なら許容できるか」を一緒に棚卸しすることで、当事者の方々にとって最も良い生成AIとの距離感を実現できるかもしれません。

例えば、

  • A:自分の生活の安全に直結
    受診に必要な準備の整理、主治医に伝えることのリスト化および文章化、家族や職場への連絡用の文章の作成、など
  • B:便利だが必須ではない
    普段の雑談、趣味の文章の作成、SNS投稿の整形、など
  • C:倫理的に抵抗が強く、リスクが先行する
    個人情報を入力する、病気に関する質問、他者を操作する目的の文章の作成、など

このように分類できると、「Aの用途に限定して生成AIを活用する」という新たな選択肢を用意することができます。

「自分の声が置き換わるリスク」から学ぶこと

論文内に掲載されているSNSの投稿では、「良い結果が出るのでどんどん使う→でも最終的にメールを送ることすらChatGPT無しではできなくなる」と語られています。その結果、「自分が人とやりとりしているのではなく、アルゴリズムが自分を介して人とやりとりしている」と感じてしまい、それを「究極のマスキング(ultimate masking)」と表現しています。

誤解のないように書いておくと、この「マスキング」の現象自体が悪いわけではありません。多くの当事者にとって、このマスキングは「生き延びるための戦略」「社会への参加のための現実的な選択」であり、完全にゼロにすべきとは言えません。
ゆえに、マスキング自体をなくす方向に舵を切るのではなく、当事者たちの意思で「選べる」「外せる」「調整できる」状態を保つことが重要です。

具体的に案を挙げると、以下のようなアプローチが有効かもしれません。

  • 「下書きは自分、整形は生成AI」の順番を固定する
    いきなり「この内容をメールにしてください」と指示するのではなく、箇条書きでも乱れた文章でも、感情を込めて自分で書き、その後に「意味を変えることなく、丁寧に整えてください」と依頼すると、思考の主導権や感情の痕跡が残りやすくなるでしょう。
  • 生成AIなしで書いてみる日を作ってみる
    訓練というよりは、「感覚の微調整」という位置付けです。
    月に1回でも、体調のいい日だけでも、誰にも送らない文章でもいいので、試しに書いてみることも有効であると考えられます。
    この過程で「何が一番辛かったか」「どこでストップしてしまうか」を知っておくことで、生成AIへの依存ではなく、自らの選択を保つことにつながります。
  • 「自分の声とは何か」を言語化する
    「率直であることを大事にしている」「曖昧な優しさより、具体性があるかを重視したい」「感情を省略しすぎると自分じゃなくなる」といった価値観のメモを持っておくと、生成AIの出力を採用するかどうかの判断の基準になるでしょう。
NotebookLMで生成

この問題に対する最も現実的かつ人間的なゴールは、「生成AIとの協働で、自分でいられる時間が増えること」と言えます。実際に生成AIを使うか使わないか、使うならどの程度使うのかなどを、当事者が自分の意思でその都度選択できるようになることが、QOLの向上につながるでしょう。

コメントを残す

薬剤師のためのAIノートをもっと見る

今すぐ購読し、続きを読んで、すべてのアーカイブにアクセスしましょう。

続きを読む