# 含意関係と感情極性は対立的談話関係を捉えられるか

佐藤 拓真 ${ }^{1}$ 窪田 愛 1 峯島 宏次 ${ }^{1}$
1 慶應義塾大学
takuma.sato.keio@gmail.com
ai .kubota.m@gmail.com
minesima@abelard.flet.keio.ac.jp

## 概要

本稿では、含意関係と感情極性が対立的談話関係 をどれだけ捉えられるかについて、解析と考察を 行った。具体的には、節ぺアに対して判定器を用い て含意関係ラベルと感情極性のスコアをそれぞれ算出し、それらの結果と談話関係コーパスにおける談話関係ラベルを変換して対応付けたうえで、一致率 を求めることで各要素の関連を分析した。

解析の結果、含意関係は逆接の談話関係を検出す る上で、十分ではないものの一定程度注目に値する 要素であることが示唆された。また、感情極性につ いては、極性の判定と逆接の談話関係が同時に発生 するという仮説に反して、逆接の談話関係の検出に おいて必須の要素ではないことが分析された。

## 1 はじめに

談話関係 (discourse relation) は人間がどのようにし て文を理解・構成しているかを分析するために重要 な言語要素である。しかしながら、この談話関係が 他の言語要素との間にもつ関係、すなわち、どのよ うな言語要素が談話関係を決定するかについての日本語の研究は、言語処理や言語学の領域において必 ずしも十分になされているとはいえない。

本稿においては、上述の談話関係のなかで、とり わけ対立的談話関係について、これが含意関係およ び感情極性との間にもつ関係について、実験・解析 を行った。具体的には、対立的談話関係の代表例と して、逆接の談話関係を対象とした。逆接の談話関係がもつ特質として、それが推論 (inference)を含む点がある。たとえば、

(1) 小学生でありながら、哲学書を読む。

という逆接の文においては、「小学生であるなら ば、哲学書（のような難しい本）は読まない」と
いう非明示的な推論が隠れて存在している。その ほかにも、文中に明示的に現れない対立や不一致 (disagreement)、矛盾の関係を内包するなど、逆接の 談話関係は言語的な情報に富んだものである。

窪田ら [1] は、文中に潜む推論の存在に着目して、 とりわけ「ながら」「つつ」という接続詞によって 結ばれる文に対して、逆接の談話関係アノテーショ ンを行った。本稿においては、このコーパス（以下単に「談話関係コーパス」と呼ぶ）を用いて、逆接 の談話関係を付与された節ぺアを抽出し、多様な対立的関係を含むデータセットを構築した。このデー タセットを用いて、含意関係および感情極性がどの 程度逆接の対立的談話関係を捉えているかを解析 した。

逆接の談話関係にある文においては、接続詞以前 と以降の間になんらかの対立があることが多い。た とえば、

（2）心中悲しみに打ちのめされながら、表情では 平然を装っていた。

という文においては、前述したような推論的対立の みならず、「悲しい」と「平然な表情」という感情極性の対立など、さまざまな観点からの対立が発見 される。このように、逆接はさまざまな対立関係を 含む。

ここで、この逆接の談話関係と含意関係および感情極性について、以下のような仮説を立てる。

仮説 1 「P ながら（つつ） $\mathrm{Q} 」$ が逆接を表すのは、 $P$ と $Q$ が矛盾するとき、つまり、 $P \Rightarrow \neg Q$ とい う含意関係における矛盾が成立するときで ある。

仮説 $2 「 \mathrm{P}$ ながら（つつ） $\mathrm{Q} 」$ が逆接を表すのは、 $P$ の感情極性と $Q$ の感情極性が反転している ときである。

これらの仮説を立てられるのは、矛盾 (contradiction）の含意関係や感情極性の反転が、implicit であ りながらも定量的に観察される言語的な対立といえ るためである。

このような言語学的仮説をコーパスと言語処理の ツール（解析器）を用いて検証することで、言語学 と言語処理の双方に新たな知見がもたらされること が期待される。理論言語学の領域では、逆接の談話関係と感情極性との関係は十分に注目されていない が、本研究は両者の関係に光を当てるものである。自然言語処理の領域では依然として困難な課題とし て存在している論理や矛盾の問題における進展に寄与することができる。これらの領域における進展に よって、たとえば、テキスト生成等における生成文中の論理的な矛盾や hallucination [2] といった課題へ の貢献が期待できる。

## 2 関連研究

言語学では、英語の “A but B” が表すいわゆる逆接・譲歩の関係の分析として、条件文 (“If A, B”) や 連言文 (“A and B")、選言文 (“A or B”) との比較のも と、多くの研究が蓄積されている $[3,4,5,6]$ 。日本語の「A、しかし、B」を典型とする逆接・譲歩の関係についても、条件文や理由文と比較して様々な分析が提案されている $[7,8,9]$ 。これら日本語・英語 の逆接関係の分析に共通するのは、“A but B” や「A、 しかし、B」の典型的用法では、Aと B の間にある 種の論理的な矛盾があり、「Aならば（通常は）B で はない」といった対立的推論が前提されている、と いう観点である ${ }^{1)}$ 。 1 節の仮説 1 はこの分析に基づ くものである。

同時に次の例が示すように、A と B の間には必ず しも「Aならば（通常は）Bではない」という推論 が前提されず、単に意味的な対比 $[3,5,4,6]$ を表す ケースもある。

(3) John is rich but Bill is poor. (ジョンは金持ちだ が、ビルは貧乏だ）

感情極性に着目した仮説 2 はこの種の用法に適合し ていると予想される。計算言語学・自然言語処理で

1）「Aならば（通常は）Bではない」といった対立的推論を 前提するのは「直接型 (Direct consessive)」と呼ばれるタイプ の逆接で、それに対して、「Aならば（通常は）C、かつ、B ならば（通常は）Cではない」といった対立的推論を前提す る「間接型 (Indirect consessive)」と呼ばれるものも存在する ([1] 参照)。「直接型」「間接型」の下位分類の詳細について は今後の課題とする。
は、Socher et al. [10] は、仮説 2 を英語で検証した試 みとみなせる。

英語では、談話関係コーパス [11]から含意関係ぺ アを抽出するという試み [12]があるが、逆接・譲歩 の矛盾関係は扱われていない。他方で、既存の含意関係認識データセット $[13,14,15]$ は、含意関係に加 えて矛盾関係を含むが、“not”や「ない」のような否定語を伴うケースなど、比較的単純なパターンに限 られる傾向がある [16]。コーパス上で逆接・譲歩が 付与された談話関係に着目することで、より多様で 複雑な対立的推論関係を取り出すことが可能になる と考えられる。

## 3 実験設定

## 3.1 データセットの構築手法

使用した文はすべて Kainoki Treebank [17] から抽出した。抽出対象としては、「ながら」「つつ」のそ れぞれ（以下、「対象接続詞」と呼ぶ）が前後の節を 結ぶ接続詞として機能している文を対象とした。

対象接続詞によって接続される文として、「文前半・文後半」と「 $\operatorname{Arg} 1 \cdot \operatorname{Arg} 2 」 の$ 二種類を抽出した。「文前半・文後半」については、該当する文の文頭か ら対象接続詞以前を「文前半」、対象接続詞以降か ら文末までを「文後半」とした。「Arg1・Arg2」につ いては、Kainoki Treebankにおいてそれぞれ「つつ」直上の IPノード、「つつ」節を直接支配する IP ノー ドに支配される部分が該当する。

こうして抽出された「文前半・文後半」「Arg1・ $\operatorname{Arg} 2 」$ 対して、文頭および文末の処理を行った。文頭の処理としては、「話しつつ、私は」「思いなが らも、やはり」といった接続部から適切に後半部分 を文として抽出するために、「も」「、」を取り除く処理を行った。文末の処理としては、対象となる文の 末尾が動詞・助動詞となる場合に、末尾を終止形に 変換する処理を行った。処理には MeCab [18] を使用した。

構築されたデータセットの具体例を表 1 に示す。 また、対象接続詞の談話関係コーパスにおける各 ラベルの件数を表 2 に示す 2$)$ 。本コーパスにおいて は、陽性に相当する逆接ラベルが少ない不均衡なラ ベル分布がみられる点が特徴的である。

表 1 構築されたデータセットの例

 & 逆接 \\

表 2 談話関係コーパスの各ラベル件数

## 3.2 含意関係と談話関係

含意関係と談話関係の関連を明らかにするため、既存の含意関係データセットを用いて構築した含意関係判定器の出力と、談話関係コーパスから機械的 に変換した含意関係ラベルの一致率を、各種評価指標を用いて算出した。

含意関係判定器構築のための学習データには、 JSICK [19]、JNLI(JGLUE [20]に含まれる)、JSNLI [21] を使用した。これらはそれぞれ、文ぺアに対する 含意関係ラベルが 3 值 (entailment, contradiction, neutral）で付与された含意関係データセットであ る。これらの含意関係データセットに対して処理を 行い、学習に使用した。各含意関係データセットの サイズを表 3 に示す。

判定器の構築にあたっては、事前学習済み言語モ デル BERT [22]をベースラインモデルとした。実装 においては、python フレームワーク transformers $^{3}$ に おける cl-tohoku/bert-base-japanese モデルを使用し た $^{4)}$ 。epoch 数は 5 に設定し、最適化アルゴリズムに は AdamW を使用した。学習率は 2e-5 に設定した。

上記含意関係データセットのうち JSICK を用いて 構築した判定器については、ほとんど全ての入力に 対して neutral ラベルを出力する挙動が見られ、有意味な実験結果が獲得されなかったため、以下では JNLI と JSNLI によって構築された判定器を用いた 実験結果のみを記載する。

含意関係ラベルへの変換は、談話関係コーパスに おいて、アノテーターが一人でも逆接ラベルと判

3) https://huggingface.co/docs/transformers/index

4) https://huggingface.co/cl-tohoku/bert-base-japanese表 3 各含意関係データセットのサイズ

定した文を contradiction、それ以外を neutral と変換 した。

## 3.3 感情極性と談話関係

感情極性 (sentiment polarity) と談話関係の関係を 明らかにするために、節ペアのそれぞれに対する感情極性の一致・不一致を用いて、ルールベースで談話関係ラベルに変換した。感情極性の算出モデルに は、 huggingface において公開されている事前学習済 みモデルである daigo/bert-base-japanese-sentiment ${ }^{5}$ を 使用した。

節ペアに対する上記モデルの出力において、label （極性を指す）が異なる場合、談話関係ラベルを逆接ラベルとする変換を行った。この変換手法は、逆接の談話関係においては節ぺア間でのなんらかの対立が発生しているという予想から、感情極性の反転 がおこる場合には逆接ラベルの談話関係が発生しや すいという仮説を立てたことによる。

## 4 実験結果

## 4.1 含意関係

含意関係と談話関係の関係についての、「つつ」「ながら」のデータセットに対する実験結果を表 4 に示す。評価においては、逆接ラベルに対応する contradiction ラベルに対する各種スコアを観察した。

## 4.2 感情極性

感情極性と談話関係の関係についての、「つつ」「ながら」のデータセットに対する実験結果を表 4

5) https://huggingface.co/daigo/bert-base-japanese-sentiment
表 4 含意関係に関する実験結果

表 5 感情極性に関する実験結果

に示す。評価においては、逆接ラベルに対する各種 スコアを観察した。

## 5 考察

## 5.1 含意関係

多くの実験設定において、Recall が高く Precision が低い傾向がみられた。このことから、「つつ」「な がら」で接続される節ペアにおいては、含意関係と して contradiction と予測されるものであっても、逆接の談話関係を示さない場合が多いことが読み取れ る。一方で、逆接ラベルの出現は contradiction の判定によってある程度網羅的に予測される。

以上のことから、含意関係において contradiction のラベルが付与されることは、逆接の談話関係の出現を予期させるものの、含意関係ラベルのみで逆接 の談話関係の予測に十分とはいえないことが示唆さ れる。

F1-score に注目すると、「文前半・文後半」を用い た実験よりも「Arg1・Arg2」を用いた実験のほうが 高いスコアが観察された。このことから、複雑な推論や論理的関係を内包する節ぺアにおいては、使用 する文を長くして情報量を増大するよりもむしろ、統語構造的に文のトリミングを行って情報量を絞る ほうが含意関係の認識がしやすくなることが示唆さ れた。

## 5.2 感情極性

多くの実験設定において、Recall よりも Precision が高い傾向がみられた。このことから、感情極性に おいて反転のある節ぺアは談話関係としても逆接 ラベルを示しやすいが、極性の反転がない節ぺアで あっても逆接の談話関係をもつ場合は多いことが読 み取れる。つまり、逆接の談話関係を検出するにあ たって、感情極性の反転は必ずしもクリティカルな判断要素ではないことが示唆される。

## 6 おわりに

本稿においては、含意関係と感情極性が対立的談話関係、とりわけ逆接の談話関係を検出するうえで どの程度有効かについて、実験と解析を行った。そ の結果、まず、contradiction の含意関係の出現は逆接の談話関係の出現を予期することに一定程度有効 であるが、それだけで逆接の談話関係の出現を断定 するには十分でないことが示された。また、感情極性の反転は、逆接の談話関係を捉えるにあたって必 ずしも決定的な要素でないことが示された。

今後の課題としては、モーダルや直接・間接性 に着目した逆接の談話関係における下位分類に解析の対象を広げることや、Penn Discourse Treebank (PDTB) [23] を使用した英語データでの実験の実施、「ながら」「つつ」以外の接続詞における同様な実験・解析を行うことが存在する。

## 謝辞

本研究は、JST CREST、JP-MJCR2114 の支援を受 けたものである。

## 参考文献

[1] 窪田愛, 佐藤拓真, 天本貴之, 秋吉亮太, 峯島宏次. 逆接の推論関係に着目した日本語談話関係アノテー ション. 言語処理学会第 29 回年次大会発表論文集, 2023.

[2] Kurt Shuster, Spencer Poff, Moya Chen, Douwe Kiela, and Jason Weston. Retrieval augmentation reduces hallucination in conversation. In Findings of the Association for Computational Linguistics: EMNLP 2021, pp. 37843803, Punta Cana, Dominican Republic, November 2021. Association for Computational Linguistics.

[3] Robin Lakoff. If's, and's and but's about conjunction. In Charles J. Fillmore and D. Terence Langèndoen, editors, Studies in Linguistic Semantics, pp. 3-114. Irvington, 1971.

[4] Eve Sweetser. From Etymology to Pragmatics: Metaphorical and Cultural Aspects of Semantic Structure. Cambridge University Press, 1990.

[5] Mitsuko Narita Izutsu. Contrast, concessive, and corrective: Toward a comprehensive study of opposition relations. Journal of Pragmatics, Vol. 40, pp. 646-675, 2008.

[6] Grégoire Winterstein. What but-sentences argue for: An argumentative analysis of but. Lingua, Vol. 122, No. 15, pp. 1864-1885, 2012

[7] 小泉保. 譲歩文について. 言語研究, Vol. 91, pp. 1-14, 1987.

[8] 坂原茂. 日常言語の推論. 東京大学出版会, 1985.

[9] 衣畑智秀. 日本語の「逆接」の接続助詞について: 情報の質 と処理単位を軸に. 日本語科学, Vol. 17, pp. 47-64, 2005 .

[10] Richard Socher, Alex Perelygin, Jean Wu, Jason Chuang, Christopher D. Manning, Andrew Ng, and Christopher Potts. Recursive deep models for semantic compositionality over a sentiment treebank. In Proceedings of the 2013 Conference on Empirical Methods in Natural Language Processing, pp. 1631-1642, Seattle, Washington, USA, October 2013. Association for Computational Linguistics.

[11] Rashmi Prasad, Bonnie Webber, and Aravind Joshi. Reflections on the Penn Discourse Treebank, comparable corpora, and complementary annotation. Computational Linguistics, Vol. 40, No. 4, pp. 921-950, 2014.

[12] Sara Tonelli and Elena Cabrio. Hunting for entailing pairs in the penn discourse treebank. In Proceedings of COLING 2012, pp. 2653-2668, 2012.

[13] Samuel R. Bowman, Gabor Angeli, Christopher Potts, and Christopher D. Manning. A large annotated corpus for learning natural language inference. In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing (EMNLP). Association for Computational Linguistics, 2015.

[14] Adina Williams, Nikita Nangia, and Samuel Bowman. A broad-coverage challenge corpus for sentence understanding through inference. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long Papers), pp. 1112-1122, New Orleans, Louisiana, 2018. Association for Computational Linguistics.

[15] Hitomi Yanaka and Koji Mineshima. Compositional Evaluation on Japanese Textual Entailment and Similarity. Transactions of the Association for Computational Linguistics, Vol. 10, pp. 1266-1284, 112022.

[16] Suchin Gururangan, Swabha Swayamdipta, Omer Levy, Roy Schwartz, Samuel Bowman, and Noah A. Smith. Annotation artifacts in natural language inference data. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 2 (Short Papers), pp. 107-112, New Orleans, Louisiana, 2018. Association for Computational Linguistics.

[17] Ed Kainoki. The Kainoki Treebank - a parsed corpus of contemporary Japanese, 2022. https://kainoki. github. io (accessed September 2022).

[18] Taiichi Hashimoto Toshinori Sato and Manabu Okumura. Implementation of a word segmentation dictionary called mecab-ipadic-neologd and study on how to use it effectively for information retrieval (in japanese). In Proceedings of the Twenty-three Annual Meeting of the Association for Natural Language Processing, pp. NLP2017-B6-1. The Association for Natural Language Processing, 2017.

[19] Hitomi Yanaka and Koji Mineshima. Compositional evaluation on Japanese textual entailment and similarity. Transactions of the Association for Computational Lin- guistics, Vol. 10, pp. 1266-1284, 2022.

[20] Kentaro Kurihara, Daisuke Kawahara, and Tomohide Shibata. JGLUE: Japanese general language understanding evaluation. In Proceedings of the Thirteenth Language Resources and Evaluation Conference, pp. 2957-2966, Marseille, France, June 2022. European Language Resources Association.

[21] 吉越卓見, 河原大輔, 黒橋禎夫. 機械翻訳を用いた自然言語推論データセットの多言語化. 情報処理学会第 244 回自然言語処理研究会, 72020.

[22] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4171-4186, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.

[23] Rashmi Prasad, Nikhil Dinesh, Alan Lee, Eleni Miltsakaki, Livio Robaldo, Aravind Joshi, and Bonnie Webber. The Penn Discourse TreeBank 2.0. In Proceedings of the Sixth International Conference on Language Resources and Evaluation (LREC'08), Marrakech, Morocco, May 2008. European Language Resources Association (ELRA).
 佐藤 拓真 ${ }^{1}$ 窪田 愛 1 峯島 宏次 ${ }^{1}$ 1 慶應義塾大学 takuma.sato.keio@gmail.com ai .kubota.m@gmail.com minesima@abelard.flet.keio.ac.jp  