# 複数人議論における発話間の関係を対象とした関係分類

姫野拓未
九州工業大学大学院情報工学府
t_himeno@pluto.ai.kyutech.ac.jp

## 1 はじめに

研究室や会社では，新しい研究のアイデアや経営戦略を打ち出すために会議が日々行われている。そ こで行われた会議内容を会議に参加していない人に 共有するためには，議事録が不可欠である．会議に 参加していない人が議事録を読み返すことは議論全体の論点を把握することには適しているが，会議で 結論に達するまでの流れを把握することは難しい. そこで，会議の議事録を議論構造として表すことが できれば，発話間の関係を捉えることができ，結論 に達するまでの議論の流れや議論全体の論点を素早 く把握することができる. また，その発話間の関係 の役割を捉えることができれば，発話の意図を捉え ることができ，議事録理解の支援ができると考えら れる。

文章を構造化するタスクの一つとして議論マイ ニングがある [1]. 議論マイニングとは，例えば小論文のような文章を入力文として，主張を表してい る文と，その主張を支持したり反論したりする文を 自動的に判別するタスクである。他にも，文書要約 [2] や自動採点 [3], 論文執筆支援 [4] など数多くの 自然言語処理タスクで取り組まれている。一般に議論マイニングは要素分類, 要素抽出, 関係抽出, 関係分類の 4 つのサブタスクから構成されている.

我々は以前の研究において，複数人議論を対象に 議論マイニングのサブタスクの中でも議論構造の構築のために重要なタスクである発話間の関係抽出に 焦点を当てて研究を行った [5]. 関係抽出は議論構造に関連する文や節から成り立つ 2 つの論理要素に 対して関係の有無を推定するタスクである. 発話間 の関係抽出を行うことによって，議論構造において 議論の流れを把握を支援できる. しかし, 以前の研究だけでは議論構造における発話間の関係の役割を 捉えることができない. そこで本研究では，複数人議論を対象に関係抽出後のタスクである発話間の関係分類に焦点を当てる. 関係分類は論理要素のペア

\author{
嶋田和孝 \\ 九州工業大学情報工学部 \\ shimada@pluto.ai.kyutech.ac.jp
}

を対象に，主張に対する支持や反論のような関係を 持つ役割のラベルを割り当てるタスクである。例え ば Stab らは学生が書いたエッセイを対象に関係分類を取り組んでいる [6]. Stab らはエッセイの特徵 を捉えた素性を作成し，論理要素の関係分類を行っ ている。対象としている関係では主張を支持する関係と反論する関係の 2 種類のみである。一方で，本研究で対象とする複数人議論では主張を支持・反論 する関係だけでなく，選択肢のある質問から回答を 選択する関係などエッセイには存在しない関係が多 く存在する。

本研究では，複数人議論を対象に Self-Attentionを 用いて発話内容に着目したモデルを構築し関係分類 を行う。本研究の貢献は次の 2 点である.

・様々な言語の分散表現や Self-Attention を用いて 関係分類モデルを構築した。

・BERT [7] に基づく関係分類結果より本研究で 作成したモデルの方が高精度であることを確認 した.

## 2 データセット

本研究では複数人議論コーパスの一つである AMI corpus を用いる [8]. AMI corpus はあらかじめ議題 が与えられている状態で行われるシナリオ会議を収録したコーパスであり，書き起こしデータが公開さ れている1). 議題の設定として，架空の家電企業に 勤める異なる役職の 4 人の従業員が，市場に出回っ ている古いデザインのテレビリモコンの代わりとな る新しいテレビリモコンを開発するという議題で計 4 回行われる.

また本研究では発話間の関係分類タスクのための データセットとして, Twente Argument Schema (TAS) を用いる [9]. TAS は AMI corpus のシナリオ会議の 議論で生じる議論構造を明らかにするために作成さ れたアノテーションスキーマである. TASにおける

1) http://groups.inf.ed.ac.uk/ami/download/
表 1 Relation Label とその説明

 \\

回答を選択する関係

議論構造は 2 つの要素から成り立っている. ある話者の発話全体，また発話の一部，複数の発話から成 り立っているノードとそのノード間を結ぶエッジか ら成り立っている. また，エッジにはノード間にど のような役割であるかを示す Relation Label が付与 されている. Relation Label の詳細を表 1 に示す. あ る主張に対して支持する関係である「Positive」や， より多くの情報を求めたりもう一度促したりするよ うな関係である「Request」など計 9 種類のタグが付与されている。 さらに，TAS では一つの会議 (ダイ アログ) の中である議題が挙げられてから，その議題が結論に達した時やその議題を途中で中断した り放棄したりするまでをディスカッションと定義 している. 各ディスカッションは一つのダイアログ 中に一つまたは複数存在し，各ノードは一つのディ スカッションに複数存在する. 本研究では各ディス カッション内のノード間を結ぶエッジに付与された Relation Labelを分類する実験を行う。

## 3 手法

本研究で用いたモデルの概要図を図 1 に示す. ディスカッション内で関係がある二つのノードペ アをそれぞれ Bi-LSTMを用いて隠れ層を算出する。次に，それぞれの隠れ層に対して Self-Attention を用 いて隠れ層を更新する. Self-Attentionによって得ら れた隠れ層を連結し，最終層が作成される。その 層をSoftmax 関数に入力することによって Relation Label を分類する.

## 3.1 入力層

AMI corpus のディスカッション内で関係を持つ 任意のノードペア node $_{i}=\left(w_{1}, w_{2}, \ldots, w_{k}\right)$, node $_{j}=($ $\left.w_{1}, w_{2}, \ldots, w_{l}\right)$ を入力とする. ここでの $w$ はノード 内の単語を表しており, $k$ と $l$ はノードの単語長を表 している。次に，ノード内の単語を 4 種類の分散表現の中から 1 つまたは複数の分散表現を連結してべ クトル $V_{i}=\left(v_{1}, v_{2}, \ldots, v_{k}\right), V_{j}=\left(v_{1}, v_{2}, \ldots, v_{l}\right)$ に変換 する. 4 種類の分散表現は Word2 $\mathrm{Vec}^{2}$ ) (図 1 におけ る W), $\mathrm{GLoVe}^{3)}(\mathrm{G}), \mathrm{ELMo}^{4)}(\mathrm{E})$, Transformer ${ }^{5)}(\mathrm{T})$ で あり， $v_{x}$ は $w_{x}$ の単語ベクトルを表す. Transformer

## $3.2 \mathrm{Bi$-LSTM}

本研究では Bi-LSTM [10] を用いてノード全体の ベクトルを獲得する。それぞれのべクトル変換した ノードの単語ベクトルを Bi-LSTM で以下のように 算出する。

$
\begin{aligned}
\overrightarrow{h_{x}} & =\overrightarrow{L S T M}\left(v_{x}, \vec{h}_{x-1}\right)(\text { 順方向 }) \\
\overleftarrow{h_{x}} & =\overleftarrow{L S T M}\left(v_{x}, \overleftarrow{h}_{x+1}\right)(\text { 逆方向 }) \\
h_{x} & =\left[\overrightarrow{h_{x}} ; \overleftarrow{h_{x}}\right]
\end{aligned}
$

$h_{x}$ は Bi-LSTM モデルの隠れ層のベクトルであり， $[\cdot ; \cdot]$ は二つのべクトルの連結を表す。それぞれ の Bi-LSTM から出力された隠れ層全体のベクトル $H_{i}, H_{j}$ は以下のようになる.

$
\left.\{\begin{array}{l}
H_{i}=\left(h_{1}, h_{2}, \ldots, h_{k}\right) \\
H_{j}=\left(h_{1}, h_{2}, \ldots, h_{l}\right)
\end{array}\right.
$

## 3.3 Self-Attention

Bi-LSTM の出力層を基に Self-Attention を算出す る. Lin ら [11] が提案した Self-Attention を使用し，重みを以下のように算出する。

$
\alpha_{x}=\operatorname{softmax}\left(\omega^{T} \tanh \left(H_{x}\right)\right)
$
$\omega$ は学習可能なパラメータのベクトルである. そし て，この重みを利用して以下のようにそれぞれの Bi-LSTM の最終的な隠れ層を算出する。

$
\left.\{\begin{array}{l}
H_{i_{\alpha}}=\alpha_{i} H_{i} \\
H_{j_{\alpha}}=\alpha_{j} H_{j}
\end{array}\right.
$


図 $1 \mathrm{Bi}$-LSTM を用いたモデルの概要図

## 3.4 出力層

それぞれの Bi-LSTM の出力層を連結してクラス ラベルに対応するインデックスを出力する. まず， それぞれの Self-Attention の出力層を以下のように連結する.

$
H^{*}=\left[H_{i_{\alpha}} ; H_{j_{\alpha}}\right]
$

連結した層を用いて，クラスラベル $r$ を以下のよう に算出する.

$
\begin{array}{r}
\hat{y}_{r}=\operatorname{softmax}\left(W H^{*}+b\right) \\
r=\underset{r \in R}{\arg \max } \hat{y}_{r}
\end{array}
$

$W, b$ は学習可能なパラメータであり,$\hat{y}_{r}$ はクラスラ ベルに対応する確率値, $R$ は Relation Label である.

## 3.5 訓練

モデルの訓練について説明する．損失関数には NLLLoss を利用し, 最適化手法には Adam [12]を利用する。学習率は 0.001 に設定し，バッチサイズは 128，隠れ層の次元は 300 に設定する。

## 4 実験

本節では，4.1 節において 2 節で述べた複数人議論コーパスを用いた実験設定について説明する。 4.2 節において，分類結果について説明する。

## 4.1 実験設定

本研究で用いた実験データの詳細について説明す る. 実験データは, AMI corpus のダイアログ 92 対話から作成された 219 個のディスカッションを用 いて実験を行った。訓練データ，開発データ，評価 データに AMI corpusをダイアログ単位で 84 対話, 4 対話， 4 対話と分割した. また，それぞれのディス カッションの数は 201 個，13 個，12 個，関係分類で 用いるノードペアの数は 4001 個， 241 個，242 個と なっている. データ分布の詳細を表 2 に示す. 表 2 より，各データにおいて「Positive」の数が多く，偏 りがあるデータ分布となっている.

本研究の比較対象として，BERT [7] を baseline と して利用する。 BERT は大規模なテキストコーパ スを用いて事前学習を行った後，タスクごとに fine-tuning する汎用言語モデルである.

## 4.2 実験結果

表 3 に各モデルの分類結果を示す. 評価値を適合率 (Precision), 再現率 (Recall), F1 值 (F-score) で評価 した. 表 3 では利用した分散表現を示したBi-LSTM のみのモデルとそのモデルに対して Self-Attention を 組み込んだモデル (各行の“+ Self-Attention”) それぞ れで評価している。表 3 より，分散表現のみのモデ ルより Self-Attentionを用いたモデルの分類結果が良
表 2 データ分布の詳細

表 3 発話間の関係分類を行った実験結果

いことが確認できた. このことより，Self-Attention が複数人議論の関係分類においても有効であるこ とが確認できる。また特に，Transformerを分散表現 に使用し Self-Attention を利用したモデルと， ELMo と Transformer を分散表現に使用し Self-Attention を 利用したモデルは, fine-tuning した BERT より F1 值 が高いことを確認できた。

次に fine-tuning したBERT と $B i-L S T M_{E+T}$ の各 Relation Label の F1 值の詳細を表 4 に示す7). 表 4 よ り, fine-tuning した BERT と比較して Bi-LSTM $M_{E+T}$ は少数ラベル (例えば事例数が 7 である Sep など) で あっても少なくともいくつかは正しく分類できるモ デルであることを確認できた. しかし，「Uncertain」 のような Positive か Negative か曖昧な関係ラベルで は fine-tuning した BERT より F1 値が劣っている. これは本手法がノード自身に Self-Attention を付与し た後それぞれのノードを連結して分類するモデルで あることに起因すると考えられる。 つまり，それぞ れのノードが独立でもう一つのノードに対してノー

7） Option exclusion は評価データの中に存在しなかったため表 から除く.表 42 つのモデルの詳細なラベルの実験結果の比較

ド情報を全く与えていないことが問題となってい る. 一方で BERT はノードペアを同一のモデルに入力するためそれぞれのノードが相互にノード情報を 与え分類することができる．このことから，それぞ れのノードに対して相互にノード情報を与えるモデ ルの構築が今後の課題となる.

## 5 おわりに

本研究では, 複数人議論コーパスを対象に発話間の関係を対象とした関係分類を行った。複数人議論コーパスには AMI corpus を用いた。次に，発話間の関係分類を行うために複数の分散表現を組 み合わせ，Self-Attention を用いたモデルを構築し 関係分類実験を行った. その結果, Bi-LSTM $M_{E+T}+$ Self-Attention モデルの推定精度が最も高くなること を確認した。また，fine-tuning したBERT の分類結果より構築したモデルの分類結果の方がよいことを 確認した. さらに，構築したモデルでは fine-tuning した BERT より少数ラベルであっても少なくともい くつかは分類できることを確認した. 今後の課題と しては，「Uncertain」のような提案したモデルで分類することが難しいラベルに対応するため，ノード の情報を相互に組み込んだモデルを構築することが 挙げられる.

## 謝辞

本研究は科研費 $20 K 12110$ の助成を受けたものです.

## 参考文献

[1] Christian Stab and Iryna Gurevych. Parsing argumentation structures in persuasive essays. Computational Linguistics, Vol. 43, No. 3, pp. 619-659, 2017.

[2] Emma Barker and Robert Gaizauskas. Summarizing multiparty argumentative conversations in reader comment on news. In Proceedings of the Third Workshop on Argument Mining (ArgMining2016), pp. 12-20, 2016.

[3] Debanjan Ghosh, Aquila Khanam, Yubo Han, and Smaranda Muresan. Coarse-grained argumentation features for scoring persuasive essays. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers), pp. 549-554, 2016.

[4] Christian Stab and Iryna Gurevych. Training argumentation skills with argumentative writing support. In Proceeding of SEMDIAL 2017 (SemDial) Workshop on the Semantics and Pragmatics of Dialogue, pp. 166-167, 2017.

[5] Takumi Himeno and Kazutaka Shimada. Relation identification using dialogical features in multi-party conversation. In Proceedings of the 8th International Symposium on Applied Engineering and Sciences, 2020.

[6] Christian Stab and Iryna Gurevych. Identifying argumentative discourse structures in persuasive essays. In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 46-56, 2014.

[7] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. Bert: Pre-training of deep bidirectional transformers for language understanding. arXiv preprint arXiv:1810.04805, pp. 1-16, 2018.

[8] Jean Carletta, Simone Ashby, Sebastien Bourban, Mike Flynn, Mael Guillemot, Thomas Hain, Jaroslav Kadlec, Vasilis Karaiskos, Wessel Kraaij, Melissa Kronenthal, et al. The ami meeting corpus: A pre-announcement. In Proceedings of International workshop on machine learning for multimodal interaction, pp. 28-39. Springer, 2005.

[9] Rutger Rienks, Dirk Heylen, and Erik van der Weijden. Argument diagramming of meeting conversations. In In Proceedings of Multimodal Multiparty Meeting, Workshop at the 7th International Conference on Multimodal Interfaces, pp. 85-92, 2005.

[10] Mike Schuster and Kuldip K Paliwal. Bidirectional recurrent neural networks. IEEE transactions on Signal Processing, Vol. 45, No. 11, pp. 2673-2681, 1997.

[11] Zhouhan Lin, Minwei Feng, Cicero Nogueira dos Santos, Mo Yu, Bing Xiang, Bowen Zhou, and Yoshua Bengio. A structured self-attentive sentence embedding. arXiv preprint arXiv:1703.03130, 2017.

[12] Diederik P Kingma and Jimmy Ba. Adam: A method for stochastic optimization. arXiv preprint arXiv:1412.6980, 2014.
 姫野拓未 九州工業大学大学院情報工学府 t_himeno@pluto.ai.kyutech.ac.jp  