# BERT を用いた孤独体験テキストからの孤独感推定

岩井律子 ${ }^{1}$ 熊田孝恒 ${ }^{1,2}$
${ }^{1}$ 理化学研究所ガーディアンロボットプロジェクト ${ }^{2}$ 京都大学大学院情報学研究科
ritsuko.iwai@riken.jp kumada. takatsune.7w@kyoto-u. ac.jp

## 概要

本研究では，記憶された過去の体験等を想起し，記述したテキストには，書き手の孤独感が反映され ると考え, BERT を用いてテキストから書き手の自己評価孤独感が推定できるか検討する. ウェブ調查 を実施し, 2,947 名分(女性 $=1,507$ 名, $M_{\text {age }}=50.3$, $S D=16.1,20$ 歳 78 歳)の寂しさや孤独についての記述（孤独体験テキスト）を収集し，同時に書き手自身の自己評価孤独感を収集した。また, 孤独体験テ キストについて, クラウドソーシングを通じて読み 手が評価した他者評価孤独感も収集した. それぞれ のデータ（孤独体験テキスト・自己評価孤独感・他者評価孤独感）についての解析や BERT の正解率,分類結果に基づく孤独感スコアについて報告する.

## 1 はじめに

孤独感は心理学研究において古くから重要なテー マの一つである. 孤独感とは, 孤立等によって社会的つながりに関する期待と現実の間に質的，または 量的に乘離が認知され, またその認知された乘離に 満足できないことにより生じるネガティブな情動と 定義される(Cacioppo \& Patrick, 2008). 従って, 友人 が多い（量的に満足している）が質的にはもつと満 たされるべきだと認識し, それが満たされないこと に孤独を感じる人もいるが，一方，友人は少ないが 本人はその量と質に満足しており，孤独を感じない 人もいる.このように孤独感は, 同じような状況で も, その個人が有する心理特性によって, その感じ る程度は異なる。 心理特性は, 個人の中では比較的一貫しており,さまざまな行動や認知に反映される。心理学では, 自らの過去の体験を想起し, 記述す る過程で個人の心理特性が反映されるという理論が 提案されている.この理論では, 記憶された過去の 体験等を想起し記述したテキストには，書き手の心理特性が反映されると考える．このことを検証する ために，本研究では，孤独感を取り上げ，書き手の孤独体験に関わる記述から，書き手の自己評価孤独感が推定可能か検証する，具体的には，自らの孤独体験を記述したテキストから，BERT (Bidirectional Encoder Representations from Transformers; Delvin et al.,2019)を用いて孤独感が推定できるかを検証する。 また, 同じテキストに対して他者が評価した孤独感 の BERT による推定も行う．BERT が，他者が評価 するのと同じような文脈を学習しているのであれば，他者評価についても推定可能であると考えられる. そこで，孤独体験テキストと書き手の自己評価孤独感と，そのテキストを読んだ他者（クラウドワーカ 一）による他者評価孤独感を収集し，検討を行う．

## 2 関連研究

孤独感に関わる自然言語処理に関連した先行研究 は, 英語によるものではいくつか存在する. Guntuku et al. (2019)は, alone または loneliness の語を含むツ イートを収集してその出現頻度によって群分けを行 い，言語的特徴などの比較を行った。また， Kiritchenko et al. (2020)は, 1 人でいることのポジテ イブな側面(solitude)とネガティブな側面(loneliness) とにツイートを区別し，言語に表れるその特徴の違 いについて検討した. Andy et al. (2022)は, 年齢群・性別群ごとにツイートを分析し, 自己評価孤独感に 基づいて群分けされた高孤独感群の特徴を検討した。 Liu et al. (2022)は, Facebookへの投稿について類似 の分析を行った。これらはいずれも, Twitter・ Facebook などのソーシャルネットワークサービス の言語データを使用したものである.これらはに必 ずしも自己評価孤独感が付与されておらず, 他者評価孤独感はいずれにも付与されていない。

孤独感に関わる自然言語処理に関する日本語の研究としては, Nakai et al. (2022)の食事体験に関する研究が唯一である. Nakai et al. は, クラウドソーシン グを通じて食事体験に関するテキストと同時に自己評価孤独感スコアを収集し, 解析した。一方, 他者評価については, テストデータの BERT の自己評価
分類結果と比較するために, テストデータのみに対 して書き手の孤独感評価を行っているが，他者評価 に関する実験は行なっていない。

同じテキストに対して, 自己評価と他者評価を付与して解析する試みは宮内ら(2022)が行っている. クラウドソーシングを通じて募集した注釈者が，自身の過去の投稿に対して感情とその強度, また感情極性を付与している. 加えて, 別途募集した注釈者 が同様の評価を行った. しかし, 孤独感に関する自己評価と他者評価と比較した研究は英語にも日本語 にも存在しない。

## 3 孤独体験テキストと評価の収集

## 3.1 孤独体験テキストと自己評価の収集

2020 年 3 月に 2,947 名(女性 $=1,507$ 名, Mage $=50.3$, $S D=16.1,20$ 歳 78 歳)に対してウェブ調查 (クロス マーケティング社）を実施し，孤独体験に関するテ キストと自己評価孤独感を収集した。

孤独体験テキスト 以下のような教示をもとに，自らの孤独体験に関する自由記述を求めた。 『女な たが，この３ヶ月で「さみしさ」や「孤独」を最近感じたのはどんな状況ですか. いつ, 誰と, または 一人で, 何をしているとき, どんなきっかけで感じ ましたか. また，そのときの心の状態はどうでした か. できるだけ詳しく具体的にその時の状況や気持 ち，心情などを記述してください.』

自己評価孤独感 日頃の孤独感について日本語版 UCLA 孤独感尺度（第 3 版）(外田ら, 2012)の 20 項目について，「まれに，あるいは，なかった(1 日未満)」「いくらか (1 2 日)」「たまに, あるいは, ある程度の時間(3 4 日)」「ほとんど, あるいは, 全 ての時間(5 7 日)」の 4 件法で回答した.

収集した孤独体験テキストの例として，「いつも さみしさがまとわりついて仕方がない。」「1 人で 部屋にいて面白くもないテレビを見ているとき。」

「離れて住んでいる母の自律神経がおかしくなり，何を言っても話が通じなくなった時. 姉が面倒をみ てくれていたが，姉の体調も心配だったし，なぜこ ういうことになるのかという憤りもあった. 」など がある，なお，「過去 3 か月で孤独感を実感したこ とはない.」という孤独体験を否定する回答や, 「特 にないけど・・・強いて言えば仕事が早く終わつ
^{i}$ https://github.com/ku-nlp/jumanpp
}

ちやって一人で帰る時くらい。」という否定しなが らも何かしらの体験が追記されている回答など，孤独体験であるかの判別が難しいものも含まれている.本研究の目的は記憶から想起され記述されたテキス 卜に本人の孤独感が反映されるかを検証することで あり, 孤独体験の内容に限定するものではない. そ のため，記述内容によってデータを排除することは 行わなかった。

## 3.2 他者評価の収集

クラウドソーシング（Yahoo!クラウドソーシング 社）を実施し， ウェブ調查で収集した各孤独体験テ キストについて, クラウドワーカーが書き手の孤独感の評価を行った $(N=1,075) .1$ タスクは, 14 名分の 孤独体験テキスト（一部のテキストは重複）から成 り，1タスクあたり 5 名のクラウドワーカーが 4 件法で評価を行った. クラウドワーカーが孤独体験テ キストを評価する際に提示された教示は以下のもの である. 『以下の「孤独やさみしさを感じた経験」 についての文章を記述している人が, どの程度普段孤独感を感じているのか推定して, 4 つの選択肢（高 い・どちらかといえば高い・どちらかといえば低い。低い)から最も適切だと思うものを選んでください.』

他者評価孤独感収集したクラウドワーカーの 回答をテキストごとに合計し, 他者評価孤独感スコ アとした.

## 4 孤独体験テキストの分析

## 4. 1 孤独感評価の分析

自己評価孤独感と他者評価孤独感のピアソンの積率相関係数を計算したところ, $r=.23(\mathrm{p}<.001)$ であっ た。高い相関であるとは言い難いが，テキストから その書き手の自己評価孤独感をある程度は推定でき ると言える。この結果は，書き手に対する情報が各 テキストのみに限定されていることを鑑みると，か なり高いと考えられる。

## 4.2 孤独体験テキストの記述統計

孤独体験テキストを形態素解析器 JUMAN++i及 び構文・格解析器 KNPiiを用いて分析した（表 1).

ii https://github.com/ku-nlp/knp/
表 1 孤独体験テキストの記述統計

## 4. 3 孤独体験テキストの特徴

孤独体験テキストの単語頻度の特徴を検証すべく,自己評価孤独感スコアの平均值に基づき高孤独感群・低孤独感群に群分けし, 単語出現頻度の差分を 計算し, 図示した (図 $1 \cdot 2$ ).

高孤独感群では, 日本語では省略されやすい「自分」「私」などの自己に関する表現が多く, 低孤独感群では，「子供」「友達」「夫」「仲間」など人間関係を示す表現が多い, 加えて, 「孤独だ」や「孤独感」は高孤独感群でより用いられており, 「寂し い」は低孤独感群でより用いられていた。このこと から，高群と低群の間で記述に用いられる単語に違 いがあることが確認できた。

図 1 高孤独感群のワードクラウド

図 2 低孤独感群のワードクラウド


## 5 孤独感分類の実験

孤独体験テキストを用いて，BERTにより自己評価孤独感，他者評価孤独感それぞれの高低の 2 值分類を推定する評価実験を行う。

## 5. 1 ラベル付与

自己評価孤独感，他者評価孤独感ともに，中央値以上を高，未満を低とラベル付けした（自己評価孤独感：中央値 48 ,他者評価孤独感：中央値 14)

## 5.2 実験設定

孤独体験テキストは，2,356 名分の訓練用デー タ，295 名分の検証用データ，296 名分のテストデ 一夕に重複なしで分割して実験を行い，正解率によ って比較を行う，表 2 に，各データの自己評価孤独感・他者評価孤独感の高低ラベルの分布を示す.

表 2 データ分割の内訳

} & 高 & 1,148 & 144 & 144 & 1,436 \\

本実験では，Wikipediaを用いて事前訓練された 日本語 BERTiiiを本タスク用にファインチューニン グする．BERTの実装には，Transformersivを使用す る. 最終 4 層の隠れ層からそれぞれ[CLS]トークン のベクトルを結合し，全結合層を最終層に追加して クラス分類を行う. 損失関数には負の対数尤度損失 を使用し, 事前学習済みの箇所における学習率は 5e-5, 最後の全結合層における学習率は 1e-4 とし た. 最適化は Adam として 20 エポックの earlydropping を適用する。

## 5.3 実験結果と考察

## 5.3. 1 正解率と混同行列

実験の正解率は自己評価孤独感が.56, 他者評価孤独感が. 72 であり, 他者評価孤独感のモデルの方 が性能が高かった。

iv https://github.com/huggingface/transformers

図 3 自己評価推定実験結果の混同行列

図 4 他者評価推定実験結果の混同行列

正規化した混同行列（図 3-4）によると, 低群内の推定については, 自己評価孤独感, 他者評価孤独感の分類結果はそれぞれ.70，.82といずれも高い 性能を示した。一方, 高群の推定については, 自己評価孤独感の分類結果は. 41 , 他者評価孤独感の正解率は. 59 と反転していた。つまり, 両方のモデル 共に, 低群の孤独感はある程度の精度で推定できる ものの，高群の孤独感を推定するのが困難であつ た. 自己評価孤独感が高い書き手を高いと判断する のと，低い書き手を低いと判断するのは異なる特徴 が用いられていることを示唆する. 特に, 孤独感の 高い書き手を推定することを可能とする特徴を見つ けるのは, BERTにも, 人間の評価者にも難しい課題であると考えられる。

## 5.3.2 分類結果と孤独感スコアの比較

モデルの分類と, 実際の評価スコアがどの程度反映されているのか検討を行った。

まず, 各分類結果に基づく群ごとの自己評価孤独感のスコアを比較した（図 5）．自己評価に基づく 高群・低群の自己評価孤独感スコアの平均は, 当然 のことながら明確に異なる。一方で, 他者評価群分 けに基づく平均値を比較したところ, 高群の自己評価スコアの平均がやや高かった. しかし, 自己評価推定に基づく分類の場合は低群の平均値スコアの方 が高い結果であった.

次に，各分類結果に基づく群ごとの他者評価孤独感のスコアを比較した（図6）. 他者評価に基づ く高群・低群の他者評価孤独感スコアの平均は,

図 5 分類結果と自己評価スコア

図 6 分類結果と他者評価スコア

当然のことながら明確に異なる。また，他者評価群分けに基づく平均值を比較したところ, 高群の他者評価スコアの平均が高かった。これらの結果は， BERT が孤独感を推定するのに十分な言語的な特徴 を学習できていない可能性を示す.

## 6 おわりに

本研究では，記憶された過去の体験等を想起し，記述する際に書かれたテキストに，書き手の孤独感 が反映されているのであれば，BERT による自己評価孤独感が推定可能だと考え検討を行った. 自己評価モデルの正解率と分類結果に基づく自己評価孤独感スコアの比較を詳細に検討したところ, 自己評価孤独感の推定は依然として困難であった。一方で,他者評価については, 正解率と分類結果に基づく他者評価孤独感スコアの結果ともに精度がよいことが 示された. また, 本研究では, 日本語で自己評価・他者評価孤独感の両方を検討できる初めてデータセ ットを収集した. 今後は, 心理学的な観点からの詳細な分析を進める予定である. 本研究は, 心理学的 な問題に BERT を利用した初めての研究である. 今後, 心理学分野への自然言語処理手法の適用が拡大 していくことが期待される.

## 参考文献

Andy, A., Sherman, G., \& Guntuku, S. C. (2022).

Understanding the expression of loneliness on Twitter across age groups and genders. PLOS ONE

17(9): e0273636.

doi:10.1371/journal.pone. 0273636

Cacioppo, J. T., \& Patrick, W. (2008). Loneliness:

Human Nature and the Need for Social Connection. W W Norton \& Co.

Devlin, J., Chang, M., Lee, K. et al. (2019). BERT: Pretraining of deep bidirectional transformers for language understanding. In the Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1, pp. 4171-4186. doi: 10.18653/v1/N19-1423

Guntuku SC, Schneider R, Pelullo A, et al. (2019). Studying expressions of loneliness in individuals using twitter: an observational study. BMJ Open, 9:e030355. doi: 10.1136/bmjopen-2019-030355

Kiritchenko, S., Hipson, W., Coplan, R. et al. (2020). SOLO: A Corpus of Tweets for Examining the State of Being Alone. In the Proceedings of the Twelfth Language Resources and Evaluation Conference, pp. 1567-1577.

Liu, T., Ungar, L.H., Curtis, B. et al. (2022). Head versus heart: social media reveals differential language of loneliness from depression. Npj Mental Health Research, 1, 16. doi: 10.1038/s44184-022-00014-7

多田ゆづり・田高悦子・臺 桂. (2012). 高齢者におけ る日本語版 UCLA 孤独感尺度(第 3 版)の開発と その信頼性・妥当性の検討. 日本地域看護学会誌, 15(1), 25-32.

宮内裕人・鈴木陽也・秋山和輝他. (2022). 主観と客観の感情極性分類のための日本語データセッ 卜. 言語処理学会第 28 回年次大会発表論文集, pp. 1495-1499.

Nakai, K., Iwai, R., \& Kumada, T. (2022). An examination of eating experiences in relation to psychological states, loneliness, and depression using BERT. In the Proceedings of the $36^{\text {th }}$ Annual Conference of the Japanese Society for Artificial Intelligence, 1S1-IS-3-05.
 岩井律子 ${ }^{1}$ 熊田孝恒 ${ }^{1,2}$ ${ }^{1}$ 理化学研究所ガーディアンロボットプロジェクト ${ }^{2}$ 京都大学大学院情報学研究科 ritsuko.iwai@riken.jp kumada. takatsune.7w@kyoto-u. ac.jp  