# 誰に向けた発言か？：ツイートの指向性推定

清基英則 ${ }^{1}$ 劉康明 ${ }^{1}$ 矢田竣太郎 ${ }^{1}$ 若宮翔子 1 荒牧英治 ${ }^{1}$
1 奈良先端科学技術大学院大学
\{kiyomoto.hidenori.kj5, liew.kongmeng, s-yada, wakamiya, aramaki\}@is.naist.jp

## 概要

新型コロナウイルスの拡大に伴い，政府や自治体 はソーシャルメディアを用いた正確かつ迅速な情報発信が求められている. そのためには, 特定の対象 （年代や性別など）に向けて発信された情報を，そ の対象が自分に向けて発信されていると理解できる かどうか，すなわち「指向性」が重要である．情報発信者の属性を特定する研究は多いが，情報が対象 とする受信者の属性を特定する研究は見受けられな い. 本研究では, Twitter における雑誌の公式アカウ ントが発信するツイートは読者層向けに最適化され ていると仮定し, 各雑誌の対象年齢と性別をラベル 付けした指向性ツイートデータセットを用いて，ツ イートがどの年齢, どの性別に向けられているもの なのか機械学習モデルで分類した.この実験結果を 分析し，指向性の定量的測定がもたらす価值を考察 した.

## 1 はじめに

今や情報発信のインフラとしてソーシャルメディ アはなくてはならないものとなっている. 日本にお いては東日本大震災を契機として，SNS を活用した 情報発信が大きく注目され始めた. その後も，2017 年 7 月九州北部豪雨災害や 2018 年西日本豪雨災害 でも救助を要請するツイートが多数投稿され, 政府 と市民間での情報発信の有効な手段として利用さ れた [1]. このように，リアルタイム性と拡散性に 優れた SNS を用いた情報発信は重要性を増してお り, その動きは新型コロナウイルスの流行に伴い, さらに加速的に進んだ。例えば，厚生労働省により 組織されたクラスター対策班は，分かりやすい情報 を一般市民に届けるために，Twitter アカウントを開設し，情報発信を行った. さらに他の自治体も相次 いて，SNS を通じた情報配信を活発化した。従来， SNS に消極的であった公的期間でさえも，SNS を重要なインフラとして捉え始めている.

図 1 ツイートの指向性推定. 政府の発信のツイートには 多方面への無指向性が，男子学生が好む話題のツイート には 10 代男性への超指向性が推定される.

一方で，情報発信における問題点も浮き彫りに なっている. 2020 年 6 月に報告された新型コロナ ウイルス感染症に関する情報流通調査 [2] において，政府が正しい情報を届けるための工夫を適切に行っ ていないと評価した人が多かった. その後, 新型コ ロナウイルス感染症対策分科会は，情報の受信者側 が関心をもち，理解を深め，行動を変容させるよう な “対話ある情報発信” の実現に向けて，情報発信 の強化を迅速に進めるよう政府に提言した [3]. し かし, 不特定多数に向けた情報発信では，受信者側 にうまく伝わらない傾向にあり，様々な年齢・性別・状況の人への情報発信は難しい [4].

このような背景のもと, リスクコミュニケーショ ンに配慮した情報配信を実現するために，本研究で は，ツイートがどの対象（年代や性別など）に向け て発信されているか，この発信者が想定する受信者像を，本研究では「指向性」と呼び，ツイートの「指向性」に着目する。指向性とは，音響学的に，空中 に出力された音や電波の伝わる強さが，方向によっ て異なる性質を意味する [5]. マイクやスピーカー の指向性の種類には，全方向に対して発信される無指向性や特定の限られた範囲に発信される超指向性 などがある。このアナロジーを情報発信に当てはめ ると，例えば政府の発表などは広い範囲の無指向性 が，敬老会の予定などは高齢者に対する指向性が， カードゲームのイベント情報は若年層の男性に向け
表 1 雑誌の公式アカウントが発信するツイートの例対象属性 ツイート

10 代女性みんなどんな夏休みを過ごしてたのかな？

20 代女性韓国で盛んなハズせないファッション

30 代女性 季節の変わり目をおしゃれに乗り切るっっ!

40 代女性 皆さんの興味を引く記事はありますでしょうか？

50 代女性みなさん、足元にお気をつけください。

60 代女性ひざ痛は今日みたいに「急な寒さ」で悪化します

10 代男性 シンオウ地方で出会えるポケモンを大紹介！

20 代男性このチェキ、カッコいいですよね

30 代男性 「0 円マイカー」というサービスをご存知でしょう

40 代男性この柄に見覚えありますか？

50 代男性 100 年以上にわたって愛され続ける作品の魅力とは

60 代男性たかがねこ背だなんて軽視してると危険ですよ。

られた超指向性があると考えることができる.

我々は，誰に向けたツイートであるかを言語的特徵で捉え，定量的に推定できるようになることで，情報発信者はより迅速かつ効果的に必要な情報を 多くの人に届けることができると考えた. 本研究で は，対象としている層を公開している雑誌の公式ア カウントが発信するツイートは指向性を持つと仮定 し, 雑誌の対象層をラベル付けしたデータセットを 用いてツイートの指向性を推定するモデルを構築し た. ツイートには 30 代から 40 代の男性向けといっ た複数が対象層となっているものが含まれるため, マルチラベル分類タスクとして解き，指向性のある 文章の定量的解析を行なった.

## 2 関連研究

メッセージ送受信に関わる者の属性（年齢，性別，職業など）を推定する場合，これまでよく研究 されてきたのは送信者の属性である。 Burger ら [6] は，1850万人のユーザが発信した約 2 億 1300 万件 の多言語ツイートコーパスを構築し，ツイート発信者の性別を分類した. この研究で構築した Balanced Winnow2 アルゴリズムがベースの機械学習モデル は，66.5\%の精度で性別を分類することができた。 またこのモデルが髪や愛に関連する単語，感嘆符や 顔文字などの女性がよく用いる用語に強い影響を 受けたことを示した. Morgan-Lopez ら [7] は Twitter ユーザの年齢を推定する際の言語的特徴を捉える 研究を行った. ユーザを 18 から 24 歳の若年層, 13 から 17 歳の若者層, 25 歳以上の成人層と三つの年齢層に分け，最近発信した 200 件のツイートを収集 し, 学習データとして利用した. この研究で構築し たロジスティック回帰モデルは $\mathrm{F}$ 值 0.72 で分類する
ことができた．若年層は“学校”や“大学”などの用語を特徴として捉えることができたため，高い精度 での分類を行うことができたが，成人層の発信する ツイートの言語的特徴を捉えることは困難で，低い 精度での分類となったことを示した. Abdul-Mageed ら [8] は，約 160 万件のアラビア語のツイートから なるデータセットを構築し，書き手の性別（男性 または女性) と年齢グループ (25 未満, $25-34,35$ 以上）の合計 6 ラベルの分類を行った. 彼らは BERT を用いて，年齢層を $51.42 \%$ ，性別を $65.30 \%$ の精度 で分類できることを示した. さらに，"they ask me", “you dear", "good evening” などの語句を分類の根拠 としていたことから，性別間で書き方に明確な違い があることを述べた.

これらの研究に対して本研究の指向性推定は,発信者が想定する受信者像を推定する点で新規で ある。

表 2 指向性ツイートデータセットの統計量

## 3 データセット

本稿では，指向性を定量的に推定するために，指向性ツイートデータセット [9]を用いた. 指向性ツ イートデータセットは，特定の対象に向けて発信さ れた，すなわち，指向性を持つツイートを収集して 構築された. 特定の対象に向けて発信された，すな わち，指向性を持つツイートを収集し，データセッ トの構築を行った. 指向性を持つツイートとして，雑誌の公式アカウントが発信するツイートは読者層 （年齢と性別）向けに最適化されているとみなし，収集対象とした. 具体的には，対象年齢と性別ごと
表 33 つの提案モデルによる分類結果 (太字がモデル間の中での最も高い値)

に雑誌をまとめたウェブサイト 1)2)3)を参考に， 10 代から 60 代までの男女別の雑誌リストを作成し, Twitterにおける公式アカウント名を取得した.この 結果, 女性向けと男性向け雑誌のアカウント数はそ れぞれ 71 と 35 であった. なお，対象とする性別が 示されていない雑誌は, 男性と女性の両方を対象と する雑誌アカウントとして，幅広い年齢層を対象と する雑誌は, 複数の年齢層を対象とする雑誌アカウ ントとして扱った. 例えば，“@safari_online”という アカウントは 20-30 代の男性向けの雑誌の公式アカ ウントであるため, 20 代男性と 30 代男性の両方に 含まれる. ツイート取得方法やノイズ除去処理など の詳細については [9]を参照されたい。 データセッ トにおけるツイートの総数は 187199 であり，その 概要は表 2 に示す.

## 4 提案手法

本研究では，ツイートがどの年齢や性別に向け て発信されているのかを，マルチラベル分類タス クとして解く．そのために指向性ツイートデータ セットを用いて，文章分類モデルを構築する. 分類 モデルには Bidirectional Encoder Representations from Transformers (BERT) [10]を日本語コーパスで事前学習したモデル゙吕採用し，指向性ツイートデータ


セットでファインチューニングした.このモデルは 12 層のエンコーダ, 768 次元の隠れ層, 12 個のアテ ンションヘッドから構成される. 学習条件として，最適化手法は AdamW，学習率は $1.0 \times 10^{-5}$, エポッ ク数は 5 ，バッチサイズは 32 である。各ツイートに は複数のラベルが付与されうるため，マルチラベル 分類モデルを構築した． BERT の最終層の出力を全 てのトークンに渡って平均化，その値を線形変換し たものを分類スコアとし，スコアが正の値の場合に 該当ラベルとした.

さらに，ツイートの話題ではなく，語尾や文体と いった言語的特徴を考慮した分類のために，固有名詞と名詞をそれぞれ特殊トークンとして学習させた 2 のモデル（BERT MASKEd ProPer Noun と BERT MASKED NOUN）を構築した. 固有名詞と名詞の判定 には，形態素解析器 MeCab [11]を用いた. 特殊トー クンに置き換えることで，BERT の学習に影響を与 える単語を意図的に制限することができる [12].

## 5 結果

指向性ツイートデータセットを 9 （訓練）：1（評価）の割合で分割し，BERT，BERT MASKEd PROPER Noun，BERT Masked Noun の 3 つのモデルによる ツイートの分類精度を評価した。評価指標には， Macro-F1 と各ラベルの F 値を用いた。表 3 に結果を 示す.

各モデルの $\mathrm{F}$ 值の平均はそれぞれ $0.87,0.82,0.70$ と高い精度となった。2 節で述べたツイート文から

（1）[CLS]こん\#\#にち\#\#は今日から3月がスタート!!そしてニコラ発売日今\#\#月は中3で思い出づくりしたよぜ\#\#ひチェックしてみてね\#\#ー!

（2）[CLS]こん\#\#にち\#\#は今日から3月がス夕ート!!そして[Proper noun]発売日今\#\#月は[Proper noun]で[Proper noun]したよぜ\#\#ひチェックしてみてね\#\#ー

（3）[CLS]こん\#\#にち\#\#は[Noun]から[Noun]が[Noun]!!そして[Noun][Noun][Noun]は[Noun]で[Noun]したよぜ\#\#ひ[Noun]してみてね\#\#ー!

（4）[CLS]まもなくあの3.11から10年です。月刊4月号に寄稿しました。よろ\#\#し\#\#ければお手に取ってみて下さい。

（5）[CLS]まもなくあの[Proper noun]から10年です。月刊4月号を寄稿しました。よろ\#\#し\#ければお手に取ってみて下さい。

（6）[CLS]まもなくあの[Noun]から[Noun]です。[Noun][Noun][Noun]を[Noun]しました。よろ\#\#し\#\#けね゙[Noun][Noun]に取ってみて下さい。

図 2 Attention weight の可視化結果.(1)(2)(3) はF10に，(4)(5)(6) は F60と M60 に BERT, BERT Masked Proper Noun, BERT MASKED NOUN でそれぞれ正しく分類された例，マスキングにより，文末や文体の表現に重み付けされている.

書き手の年齢層を推定するモデル [7] の $\mathrm{F}$ 値が 0.72 で，一定の有用性を評価しているため，今回の我々 の結果もある一定の精度を示したと判断した.

モデルごとに確認すると，BERT の $\mathrm{F}$ 值の平均が 0.87 であり，F40から F60，M30から M60の F 値が 突出して高い結果となった. ほぼ全てのラベルが $\mathrm{F}$値が 0.8 を超えていることから，高精度での分類結果となった. BERT MASKEd PROPER NOUN について は, $\mathrm{F}$ 値の平均值は 0.82 であり, BERT に比べてや や低い精度となった，F40から F60，M30 から M60 の F 值が依然として高いままであったが，他のラべ ルは下がる結果となった. BERT MASKING Noun の F 値の平均値は 0.70 となり, 他の 2 つのモデルと比べ $\tau$, 適合率, 再現率, $\mathrm{F}$ 値の全てが下がった. M40 の $\mathrm{F}$ 值のみ 0.85 と高いままであるが，他のラベルは BERT に比べて大きく精度が下がった.

## 6 考察

本節では，分類結果と各モデルの Attention weight の可視化結果をもとに，各モデルの結果と 分類の判断根拠について考察する. まず F30 から F60，M30 から M60 のラベルの精度がモデルを問 わずに高かった. これは先行研究 [9] では, 低い精度であったラベルであり，マルチクラスからマル チラベルにタスクを変更したことで，複数のラベ ルが付いたツイートの分類精度が大幅に向上した ことがわかる. モデルごとに確認すると，通常の BERT の精度が最も高いことから, 固有名詞と名詞 を含んだ方が分類精度が高くなることがわかった.図 2 は BERT の Attention weight の可視化結果であ る. 図 2 の(1)と (4)より, BERT は, “ニコラ”, “中 3 ”, “思い出づくり”, “3.11” などの特徴的な言葉を根拠に分類を行っていることがわかる．BERT MASKED PROPER NOUN は，どのラベルも高い精度で 推定することができており, 固有名詞をマスキング しても，高い精度で分類されていることがわかる.図 2 の (2) と (5) より，“スタート”，“チェック”，“寄稿” という特徴的な単語を根拠に分類している一方，“みてね一！”，“みて下さい”といった文末の表現により重み付けされていることから，対象となる 属性に向けた文体が学習されていることがわかる. BERT MASKED NOUN の精度は他のモデルと比べると 下がるが，依然として高い精度で分類ができてお り, 図2の (3)と (6)を見ると, “こんにちは”, “し たよ”，“ければ”，“みて下さい。”といった文体の 表現を根拠としており，より文体的特徴を学習して いることが推測される.

## 7 おわりに

本研究では，特定の年代性別のユーザに向けて発信されたツイートは指向性を持つと仮定し，それを 定量的に推定するために，雑誌の公式アカウントに よるツイートを収集し，BERT による分類モデルを 構築した. 実験では，通常の BERT モデルにより一定の精度で推定できることを示し, さらに固有名詞 と名詞を特殊トークン化したモデルとの比較によ り，指向性を持つツイートの言語的特徴を考察し た. マルチラベル分類タスクとして解くことで，ど のラベルも高い精度で分類することができた.

今後の課題としては，雑誌の公式アカウント以外 の指向性ツイートの取得と実用的なツールの開発で ある. 現在，インフルエンサーが発信するツイート を対象として検討している。これにより指向性を雑誌の公式アカウント以外の発信するツイートで確認することができる。また現在，試験的に開発した システム VOICE2PeOple（付録の図 3) $)^{5}$ を公開してい る. VoICE2PEOPLe は今回の実験で用いたモデルを組 み込んだ Web アプリケーションで，入力したテキス 卜の指向性を推定することができる．今後，ユーザ による評価実験を行い，指向性の定量的評価の有用性や拡張性について検証する予定である。


## 謝辞

本研究は AMED の課題番号 JP22mk0101229，JSPS

科研費 JP20K19932, JP19H01118, JP22K12041，Yahoo 株式会社共同研究費の支援を受けたものです.

## 参考文献

[1] 佐藤翔輔, 今村文彦. 2018 年西日本豪雨災害におけ る「井救助」ツイートの実態:2017 年 7 月九州北部豪雨災害との比較分析. 自然災害科学, Vol. 37, No. 4, pp. 383-396, 2019.

[2] 総務省. 新型コロナウイルス感染症に関する情報流通調査報告書, 2020. https://www.soumu.go.jp/ menu_news/s-news/01kiban18_01000082.html.

[3] 新型コロナウイルス感染症対策分科会. “対話ある 情報発信” の実現に向けた分科会から政府への提言令和 2 年 11 月 12 日 (木), 2020. https://www.cas.go. jp/jp/seisaku/ful/bunkakai/seifu_teigen_15.pdf.

[4] 公益財団法人東京市町村自治調査会. 誰にも伝わる 情報発信に関する調査研究 報告書. 2017. https:// www. tama-100.or.jp/cmsfiles/contents/0000000/ 672/0. darenimotutawarujouhouhassin.pdf.

[5] コトバンク. 第 2 版, 世界大百科事典内言及日本大百科全書 (ニッポニカ), “指向性とは”, 2022. https://kotobank.jp/word/\%E6\%8C\%87\%E5\%90\% $91 \%$ E6\%80\%A7-73018.

[6] John D. Burger, John Henderson, George Kim, and Guido Zarrella. Discriminating gender on Twitter. In Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing, pp. 1301-1309, Edinburgh, Scotland, UK., July 2011. Association for Computational Linguistics.

[7] Antonio A Morgan-Lopez, Annice E Kim, Robert F Chew, and Paul Ruddle. Predicting age groups of twitter users based on language and metadata features. PloS one, Vol. 12, No. 8, p. e0183537, 2017.

[8] Muhammad Abdul-Mageed, Chiyu Zhang, Arun Rajendran, AbdelRahim Elmadany, Michael Przystupa, and Lyle Ungar. Sentence-level bert and multi-task learning of age and gender in social media. arXiv preprint arXiv:1911.00637, 2019.

[9] 清基英則, 劉康明, 矢田竣太郎, 若宮翔子, 荒牧英治.言語的特徵を用いたツイートの指向性推定. 信学技報, Vol. 122, No. 88, pp. 19-24, 2022.

[10] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4171-4186. Association for Computational Linguistics, 2019.

[11] Taku Kudo. Mecab: Yet another part-of-speech and morphological analyzer. http://mecab. sourceforge. jp, 2006.

[12] Thomas Wolf, Lysandre Debut, Victor Sanh, Julien Chaumond, Clement Delangue, Anthony Moi, Pierric Cistac,
Tim Rault, Rémi Louf, Morgan Funtowicz, et al. Huggingface's transformers: State-of-the-art natural language processing. arXiv preprint arXiv:1910.03771, 2019.

## A 参考情報

表 4 各ラベルの重要語 (TF-IDF 値)

新宿に...フォートナイト!?

これはチャプター3のヒントなのか???

みんな解読してくれ!

## 分析結果

図 3 Voice2People の画面
 清基英則 ${ }^{1}$ 劉康明 ${ }^{1}$ 矢田竣太郎 ${ }^{1}$ 若宮翔子 1 荒牧英治 ${ }^{1}$ 1 奈良先端科学技術大学院大学 \{kiyomoto.hidenori.kj5, liew.kongmeng, s-yada, wakamiya, aramaki\}@is.naist.jp  