# 共学習によるレビュー文書からのネガティブな意見文の抽出

三戸尚樹 ${ }^{1}$ 古宮嘉那子 ${ }^{2}$ 佐々木稔 ${ }^{3}$
${ }^{1}$ 東京農工大学 工学部 ${ }^{2}$ 東京農工大学 工学研究院 ${ }^{3}$ 茨城大学 工学部
s202436r@st.go.tuat.ac.jp, kkomiya@go.tuat.ac.jp, minoru. sasaki.01@vc. ibaraki.ac.jp

## 概要

本研究では，評点のみが付与された一般的なレビ ユーを用いて，文レベルのネガティブな意見の抽出 を行う。具体的にはレビューを文単位に分割しても ともとのレビュー全体の評点を付与し，それらのデ 一夕を利用して共学習を行うことでデータ不足を補 い，ネガティブなレビューを抽出する．分類器には BERT を利用し, 対象商品には工具を用いた. 本研究 では，文単位の共学習を利用することにより，より 性能の高い抽出を行うことがでることを示す.

## 1 はじめに

評判分析とは，テキスト情報をテキストマイニン グや機械学習の技術を用いて，肯定的な評価をして いる記述と否定的な評価をしている記述に分類する 技術である. SNS やブログ，EC サイトの普及によ り，ユーザーの生の声を企業が把握することができ る評判分析は多くの企業や研究者から注目を集めて いる.

Amazon や楽天で商品を販売している企業にとつ て，購入者のレビューは商品改良の重要な手掛かり であるため，レビュー本文からネガティブな意見を 抽出する事が求められる。ところが，(1) 評点は悪く ないレビューの中にネガティブな意見が含まれてい る場合があり，そのような意見抽出は従来の評点の 予測による評判分析の技術では抽出できない. また， (2) ネガティブなレビューの割合はポジティブなレ ビューに比べて少ないことが多いため, 二値分類の 単純な分類器では抽出が難しい, という問題がある.

そのため本研究では, 評点のみが付与された一般的なレビューを用いて，文レベルのネガティブな意見の抽出を行う. 本研究では, まずレビューを文単位に分割してもともとのレビュー全体の評点を付与 して疑似的な訓練事例とすることで，文単位のネガ ティブな意見抽出を行う。また，共学習を利用して データ不足を補い，ネガティブなレビューを抽出す
る.

共学習とは, 教師-生徒のように一方が指導し一方 が学習するのではなく，自律した個同士が教え・教 わる関係を同時に成立させている状態を表すモデル である。一方の知識レベル向上が他方の知識レベル の向上を促進することで相乗的な学習効果が期待で きる[1].

本研究では, Amazon と楽天の工機ホールディン グスの製品のレビューデータからネガティブなデー 夕の抽出を行った. Amazon のレビューデータのみ で作成したモデルと楽天のレビューデータのみで作成したモデルを共学習させる事により，一つの分類器で学習したモデルでの精度よりもネガティブなデ 一夕の抽出の精度が高くなる事を示す。

## 2 関連研究

Bidirectional Encoder Representations from Transformers (BERT) (Devlin et al., 2019)[1]とは, 2018 年 10 月に Google の Jacob Devlin らの論文で発表された事前学習モデルである。BERT は

Transformer[2]の Encoder を使ったモデルである．文章の文脈を読むことが可能なモデルであり，文書分類や質問応答など，言語処理の多種多様なタスクに おいて当時の最高スコアを吒き出した．GRUと

BERT を使用し, 略語やスラング，スペルミス等の データとしてノイズが多い Twitter の評判分析を行 っている研究もある[3].

## 3 共学習によるデータ選別を利用し た評判分析

本研究では，評点のみが与えられたレビューの文集合から，ネガティブな意見抽出を行う。そのた め，まずレビューを文単位に区切り，それぞれの文 に暫定的にレビューの評点を付与する。この際, 評点が 1 と 2 についてはネガティブ，評点が $3 ， 4$ ， 5 についてはポジティブ（非ネガティブ）とした.

これにより文ごとにおおまかに正しいポジティブ/ ネガティブの評点のついたデータが生成できるが，評点は悪くないレビューの中にネガティブな意見が 含まれている場合や，その逆の場合には不正確なデ 一タが混じった状態になる. また, ネガティブな意見は全体のレビューの中で少ない傾向があり, 二値分類の単純な分類器では抽出が難しい。そこで本研究では, 共学習を用いてデータ不足を解消しつつ, より正しいと思われる評点のついた文データを訓練事例に足してゆくことで，これらの問題を解決する ことを試みる。

本研究では Amazon のレビューデータ[5]から作成した BERT モデルと楽天のレビューデータ[6]か ら作成した BERT モデルの 2 つのモデルで使って 共学習を行った。

本研究では, Amazon のレビューデータからのみ 訓練させた BERT モデルと楽天のレビューデータ のみで訓練された BERT モデルの 2 つのモデルで 共学習を行った。共学習は以下の手順によって行 う.

(1)Amazon データと楽天データを訓練データとテ ストデータに分ける

(2)モデルを二つ作成する．この際，一つ目のモデ ルは Amazon の訓練データのみ，ふたつ目のモデル は楽天の訓練データのみで学習を行う。また，ハイ パーパラメータの調整には，一つ目のモデルには楽天の訓練データを，ふたつ目のモデルには Amazon の訓練データを利用する.

（3）モデルにテストデータを適用する。この際，一つ目のモデルには楽天のテストデータを，ふたつ 目のモデルには Amazon のテストデータを適用す る.

(4) テストデータのうち, 高い確信度でネガティ ブであると判定されたデータを抽出する

(5) (4)で抽出したネガティブなデータをネガティ ブな訓練データとしてもともとの訓練データに追加 する。また，この際に，ポジティブな訓練データを ランダムに選択して同時に訓練データに追加する。 この際，ポジティブなデータは推論結果ではなく， レビューの評点を利用して追加した

(6) これらのデータを訓練データとして，次のモ デルを学習する

(7) (3)-(6)を繰り返す
(8) ふたつのモデルの最終的な訓練データを合計 して，新しいモデルを学習し，これを最終的なモデ ルとする

## 4 データ

本研究は，ネガティブな意見を文単位で抽出する ことを目的とする．実験に際して，文ごとのアノテ ーションつきデータを含む対象商品のレビューと文 ごとのアノテーションのない別商品のレビューデー 夕の二つを使用した。

まず，対象商品のデータは工機ホールディングス の商品と工機ホールディングスの競合企業の商品の Amazon と楽天のレビューデータである. 工機ホー ルディングスの Amazon データ 515 件，楽天データ 234 件, 競合企業の Amazon データ 770 件, 楽天デ 一夕 820 件から成る. その中でも極性とレビュー本文のセットが 1,963 件，極性とレビュー本文，工機 ホールディングスが抽出したいと考えているネガテ イブな文がアノテーションされているデータが 376 件である。極性ごとのデータ件数を表 1 に示す。ア ノテーションは工機ホールディングスの社員によっ て行われた。

表 1 対象商品データの極性の分布

表 2 レビューデータの極性の分布

次に，文ごとのアノテーションのないレビューデ 一夕は，ランダムに抽出した Amazon データ 5,000 件と工機ホールディングスが販売している製品と同

じジャンルの工具の楽天データ 46,617 件である. Amazon データのジャンルについては, ベビー用品 など多岐にわたる．極性ごとのデータ件数を，表 2 に示す.

## 5 実験

BERT の訓練には, 最適化関数は SGD, 損失関数 はクロスエントロピー誤差を用いた。

Amazon のレビューデータは，訓練データを 1,165 件，テストデータを 3,001 件に分けた。楽天データ は，訓練データ 2,000 件，テストデータを 1,730 件 に分けた，そのうえで，レビューデータを文レベル に分割し，レビューの評点を文に付与した。 ベース ラインの文レベルの評点の分布およびポジティブと ネガティブのデータ件数を表 3 に示す. なお，a は アノテーションでネガティブとラベル付けしたデー タである. また, 列を示す 1 から 5 は五分割交差検定のテストデータを示す. レビューごとに評点を付与した後, データ件数が均等になるように五分割交差検定のデータセットを分けたため，アノテーショ ンでネガティブとラベル付けしたデータには偏りが 生じている. なお, 訓練データのネガティブの割合 は，5.52\%から $8.86 \%$ になる.

表 3 ベースラインの文レベルの評点の分布

また，提案手法において，データを追加する前の 文レベルの評点の分布とポジティブとネガティブの データ件数を表 4 に示す. このデータを 1 回目のモ デルの訓練事例とした. なお, 訓練データのネガテ イブの割合は, Amazonデータは $15.98 \%$, 楽天デー

表 4 共学習の 1 回目のモデルの訓練データに使用した文レベルの評点の分布

共学習を行う上でポジティブなデータの足し方と して，以下の 2 つの手法で実験を行った.

(1) 事前確率の割合でデータを足す手法

(2) 同数のデータを足す手法

(1)事前確率の割合でデータを足す手法では, 例 えば Amazon のみで訓練を行った BERT モデルがネ ガティブであると推論した件数が 100 件だった場合，事前に訓練させた楽天の BERT モデルと同じ 割合（1:9）を保つために， 900 件のポジティブの データを追加した. (2)同数のデータを足す手法で は，例えば Amazon のみで訓練を行った BERT モデ ルがネガティブであると推論した件数が 100 件だっ た場合， 100 件のポジティブのデータを追加し た. モデルの作成は三回繰り返した。つまり, デー タの追加は二度行った。

推論時の確信度は, softmax 関数のネガティブの值 が 0.8 以上のデータを抽出した.

提案手法の訓練には, 評点のみ付与された

Amazon および楽天のレビューデータを用い, 評価 する時のみ, 対象商品のデータを用いた。これに対 し, 本研究のベースラインには, 対象商品のデータ で五分割交差検定を行ったものを用いる。まず，文 に分割し，文にはレビューの評点を付与した. さら に， 376 件のアノテーションつきデータについて は，レビューの評点にかかわらずネガティブなデー タとして使用した。

また，モデルにはベースラインを含めて，どれも

BERT を fine-tuning して利用した. ベースラインお よび共学習を行った全てのモデルのハイパーパラメ 一夕は, 0.0001 となった.

## 6 結果

ベースラインの結果を表 5 に，事前確率の割合で データを足した手法の結果を表 6 に，また，同数の データを足した手法の結果を表 7 に示す. 表の $\mathrm{EPOCH}$ は 30 エポック回した中の $\mathrm{F}$ 値が最高だっ たときのエポック数である. またその時点での精度，再現率， $\mathrm{F}$ 值を表に示した。表 5-7から， ふ たつの提案手法の精度, $\mathrm{F}$ 值がベースラインを超え る事を確認できた。また，同数のデータを足した場合には再現率もべースラインを上回った.

表 5 ベースラインの結果

表 6 事前確率の割合で足した場合の結果

表 7 同数のデータを足した場合の結果

## 7 考察

提案手法では, 文レベルでアノテーションされた テストデータの情報は一切用いていないのに対し， ベースラインではこれらの用例を五分割交差検定に用いている。それにもかかわらず，提案手法の $\mathrm{F}$值はベースラインを上回った。このことから，評点 のみが付与されているレビューデータからのネガテ イブな意見抽出のタスクに共学習を用いた提案手法 が有効であると分かる。また，事前確率の割合でポ ジティブなデータを追加した場合より，ネガティブ なデータと同数のポジティブなデータを追加した場合の方が $\mathrm{F}$ 值が高かった. これは, 偏りのある事前確率の割合でポジティブデータを足したため，ネ ガティブなデータの割合が非常に低くなった結果,再現率が低くなったためであると考えられる。一般 に，精度と再現率はトレードオフの関係にあるが，今回の実験ではこの偏りの影響をうまく回避できた ため, 同数のデータを足した場合の $\mathrm{F}$ 值が他手法 を上回ったと考えられる。

共学習を終えた時の事前学習の割合でデータを足 した場合と同数のデータを足した場合のデータのネ ガティブとポジティブの分布を表 8 に示す. 同数の データを足した場合にはネガティブなデータの割合 が高まっているのが見て取れる.レビューの評点を 文に付与した「おおよそ正しいデータ」をもとに，信頼性の高いネガティブデータを抽出し，なおかつ 同数のポジティブデータを足すことで共学習におい て正解率を高めることができたと考えられる。

表 8 共学習を終えた時のネガ/ポジの分布

 &  \\

## 8 おわりに

本研究では, Amazon と楽天のレビューデータから 工機ホールディングスが抽出したいネガティブなデ 一夕の抽出を行った. その結果, 共学習を利用した BERT モデルは， ベースラインを超える精度でデー 夕抽出を行える事が明らかになった。今後は, 精度 の向上とポジティブのデータ抽出方法について検討 する必要がある.

## 謝辞

工機ホールディングスの西河智雅様, 吉嵪陽祐様 には, 本研究のベースライン, 評価データで使用す るデータを準備していただきました。また，楽天デ 一タにつきましては, 国立情報学研究所の楽天市場 データを利用させていただきました。この場を借り て御礼申し上げます. 本研究は JSPS 科研費 17H00917，17KK0002，18K11421の助成を受けた ものです.

## 参考文献

1. Anders Sogaard, Semi-Supervised Learning and Domain Adaptation in Natural Language Processing (Synthesis Lectures on Human Language Technologies), Morgan \& Claypool Publishers, 2013

2. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding, Jacob
Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova, Computation and Language 2018

3. Transformers for Language Understanding, Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova, In Proceedings of NAACL-HLT 2019, pp. 4171-4186, (2019)

4. GRUBERT A GRU-Based Method to Fuse BERT Hidden Layers for Twitter Sentiment Analysis, Leo Horne, Matthias Matti, Pouya Pourjafar, Zuowen Wang, Association for Computational Linguistics 2020, pp. 130-138, (2020)

https://s3. console. aws. amazon. com/s3/buckets/a mazon-reviews-ml?region=us-west-

2\&prefix=json/\&showversions=false

6. 楽天グループ株式会社 (2021)：楽天市場デー タ. 国立情報学研究所情報学研究データリポジトリ.

https://doi.org/10.32130/idr. 2.1
 三戸尚樹 ${ }^{1}$ 古宮嘉那子 ${ }^{2}$ 佐々木稔 ${ }^{3}$ ${ }^{1}$ 東京農工大学 工学部 ${ }^{2}$ 東京農工大学 工学研究院 ${ }^{3}$ 茨城大学 工学部 s202436r@st.go.tuat.ac.jp, kkomiya@go.tuat.ac.jp, minoru. sasaki.01@vc. ibaraki.ac.jp  