# 医学生物学論文解析のための談話依存構造ツリーバンクの構築

西田典起
理化学研究所 AIP
noriki.nishida@riken.jp
}

図 1 医学生物学論文要旨に対する談話依存構造の例.

ンクが訓練データおよび評価用データとして不可欠 である。しかし，既存の談話構造ツリーバンクのサ イズおよびドメインに関するカバレッジは十分とは 言い難い。例えば，談話構造解析の研究で最もよく 用いられている RST-DT コーパス [17] には 385 文書 の談話構造しかアノテーションされておらず，明ら かにサイズが少ない．SciDTB コーパス [18]には自然言語処理分野の 798 論文要旨に対する談話依存構造がアノテーションされているが，分野によって語彙や論旨の展開傾向は大きく異なるため, SciDTBで 訓練した解析システムによる他分野の論文要旨に対 する解析精度は大きく低下してしまう。また，本プ ロジェクトの一環として著者らは COVID-19 に関連 する医学生物学論文要旨 300 件に対して人手で談話依存構造を付与し, COVID-19 Discourse Dependency Treebank (COVID19-DTB) [19] として公開したが，そ のサイズはまだまだ小さく，さらに拡張していく必要がある。

本プロジェクトの目的は，医学生物学分野の論文 に対する談話構造解析法およびその応用の研究開発 に有用な，高品質で既存のコーパスに比べて大規模 な談話依存構造ツリーバンクを構築，整備，公開す

ることである. 医学生物学論文に焦点をあてること にはいくつかの利点がある。一つは，論文の文章は SNS やブログ等の文章よりも論旨が明確で論理的で あることが期待されており, 談話構造の研究対象と して望ましい. また，膨大な医学生物学論文から有用な情報を抽出して体系化する医療知識獲得技術の 開発は社会的に喫緊の課題であり, 医学生物学論文 を対象に談話構造解析システムを開発することの意義は大きい.

本稿では， GENIAコーパス [20] に収録されてい る論文要旨 1,999 件に対して談話依存構造を付与す るための詳細について説明する，具体的には，談話依存構造のフレームワークとアノテーションプロセ スの詳細，現状のツリーバンクに基づく統計情報に ついて説明する。
## 2 談話依存構造のフレームワーク

## 2.1 EDU 分割ルール

本プロジェクトのアノテーションでは，まず論文要旨を Elementary Discourse Unit (EDU) と呼ばれる節 (clause) レベルのテキストスパンに分割するところ から始める. 各 EDU は連続した単語列からなって おり，EDU 間にオーバーラップはない。あるテキス トスパンが EDU の基準を満たすかどうかは, 主に 動詞 (述語) に基づいて判断する. ただし, “in spite of" や“due to” などのディスコースマーカーを伴う 句については，独立の EDU として認める. 結果的 に，以下のようなケースでは $\mathrm{EDU}$ 分割を行う1).

1. 主節，並列節

2. 接続詞で結合される従属節

3. 分詞構文 (participle clause)

4.「目的」「結果」の意の to 不定詞, “in order to”節, so that 節

5. 副詞的役割の「前置詞 + 動名詞」

6. 名詞を後置修飾する \{分詞, to 不定詞，「前置詞 + 動名詞」\}

7. 関係節

8. 同格の that 節

9. 動詞を含む相関従属節 (correlative subordinators)

10. ディスコースマーカーを伴う句

1）各ケースの例については紙面のスペース状省略するが，公開しているガイドライン (+アノテーションツール)で見 ることができる: https://norikinishida.github.io/tools/ discdep/Biomed-DTB-annotation-guideline.pdf

図 2 Elaborationと Additionによる談話依存構造の例.

Carlson ら (2001) のマニュアル [17] に倣い，本プ ロジェクトでも以下のようなケースでは独立した EDU とは認めない. 前節の基準を満たす場合でも， これらの例外に該当する場合は EDU 分割しない。

1. 動詞の主語・目的語・補語や，前置詞の目的語 としての節 (clausal subject, clausal object, clausal complement)

(1) $[$ Making computers smaller often means sacrificing memory.]

(2) [He is interested in climbing Everest.]

2. 分裂文・疑似分裂文 (強調構文), 外置構文など

(3) [It is sleep deprivation that exacerbates health problems.]

## 2.2 談話依存関係

本プロジェクトでは，談話関係を13クラスにカテ ゴライズする．各談話関係クラスの意味や対応する ディスコースマーカーの例を表 1 に載せる。これら は， SciDTB や RST-DT, Penn Discourse Treebank [21], ISO 24617-8 [22] などをもとに, 実際のアノテーショ ン作業を通してアノテーション方針の一貫性が高く なるように設計した。

Root 論文要旨の談話依存構造では，Root 関係の 子は研究目的や主要な報告内容について記述してい るEDUになる。すなわち，論文要旨のなかで最も 中心的な EDU である.

Elaboration と Addition Elaboration と Addition は 最も一般的で頻度の高い談話関係であり, これら の違いは二つの EDU が従属的な関係にあるか，等位的な関係にあるかである。 三つ以上の EDU が添加・累加・系列・同列の関係にある場合は，一つ前 の EDU から直後の EDU に順番に接続していくこと によってチェインを構成する. 図 2 に Elaboration と Additionを用いた例を示す。
表 1 本コーパスで採用する談話関係とその意味，代表的なディスコースマーカー.

 \\

基本談話関係 表中の Comparison から MannerMeans までは既存コーパスにおける談話関係の定義 とほぼ同様である。

マクロ談話関係 Background と Findings はすこし 特殊であり，論文要旨における研究背景と研究結果・結論に対応する領域 (セクション)を指し示すた めのマクロな視点の談話関係とする。したがって， これらのクラスが一つの論文要旨中で複数回出現す ることは原則ない.

Textual-Organization と Same-Unit TextualOrganization はタイトルやタグ等を指し示すための ものである. Same-Unit は EDU の埋め込みによって 分離して非連続になってしまった EDUを結合する ために用いる.

## 2.3 典型的な談話依存構造

医学生物学系の論文要旨に限らないが，談話依存構造には分野ごとに典型的な構造の傾向があ る. 一般的に論文要旨では大きくわけて (1) 背景 (Background), (2) 目的 (Objectives), (3) 手法, 実験設計 (Methods), (4) 結果，考察，結論 (Results, Discussion, Conclusions) を含んでいる. 実際，論文要旨中で これらの項目ごとに見出し (e.g., "Background:", “Results:") を設けている論文も数多く存在する.

大多数の論文要旨では，上記の順番通りに項目を 説明している. それらは図 3 のような談話依存構造 になる。また，工学系では少ないが，医学生物学な どの分野では研究によって発見された知見や事例そ

図 3 典型例 1

図 4 典型例 1 (b)

のものを論文 (論文要旨) の中心的な情報として置 き，論文要旨はその知見と意義について記述してい ることがある。そのような場合は，談話依存構造は 図 5 のようになる.

## 3 アノテーションプロセス

医学生物学論文要旨の読解および談話依存構造の アノテーションはそれぞれ高度な専門知識と技能を 要求するため, 信頼性の高いツリーバンクを作成す るためにはアノテーションプロセスに工夫が必要に なる. 本プロジェクトでは，まずアノテーションガ イドラインとブラウザ上で動くアノテーションツー ルを整備した ${ }^{2)}$ ．本ツールは SciDTB の著者ら [18] によるツールをもとに改変を行った。

本プロジェクトでは，アノテーションプロセスを


図 5 典型例 2

(1) 選別フェイズ，(2)修練フェイズ，(3) 拡張フェイ ズの 3 段階に分けた。選別フェイズでは，アノテー ション作業や当該分野について一定の習熟度があ る 10 人のワーカーに対してガイドラインを配布し， GENIA コーパス中からランダムにサンプリングさ れた 20 件の論文要旨に対して 10 人のワーカーと著者によってアノテーションを行った．そして，著者 による談話依存構造を正解データとし，各ワーカー の Labeled Attachment Score (LAS) を計算し，LAS が 高い上位 5 名を選別した。本フェイズにおける LAS は $31.28 \%$ から $79.89 \%$ と開きが非常に大きく，上位 5 名の平均 LAS は $75.20 \%$ であった.

次の修練フェイズでは, GENIA から新たにランダ ムサンプリングした 20 件に対して，前フェイズで 選別された 5 名のワーカーと著者によって再度アノ テーションを行った. 実際のアノテーションに入る 前に，疑問点やアノテーションツールに関する要望 を把握するために各ワーカーと会議を行い，ガイド ラインやツールに対して適宜変更を行った。また，本フェイズでは Google Form と Google Spreadsheetを 用いてワーカーが疑問点等を投稿し, 著者らと迅速 にディスカッションできるようにした. 再度著者に よるアノテーション結果を正解として各ワーカーの アノテーション結果の LAS と定性的な質が水準を 満たすまで本フェイズを繰り返した。本フェイズの 結果, 最高 LAS は 82.13 に上昇し, 5 名の平均 LAS も 76.28 に上昇した.

最後の拡張フェイズでは，修練フェイズの基準を クリアしたワーカーと著者によって, GENIA からラ ンダムサンプリングされた数百件に対するアノテー ションを行った. 本フェイズでは，各ワーカーはそ れぞれ異なる論文要旨集合に対してアノテーション を行う，アノテーション一致率の計算については，著者によってすべての論文要旨をアノテーションす ることで行う予定である.

## 4 統計情報

本節では，作成中のツリーバンク (GENIA-DTB) の統計的な情報を既存の談話依存構造ツリーバンク である SciDTB [18] と比較する. 本プロジェクトで は現在拡張フェイズが進行中のため, 完了した修練

表 2 本プロジェクトで構築中の GENIA-DTB と SciDTB の統計情報. アスタリスクは構築途上であることを示す.

図 6 談話関係の分布の比較.

フェイズまでのデータを対象に統計情報を求める.

表 2 から, GENIA の論文要旨のほうが SciDTB の 論文要旨よりも長い傾向があることがわかる. しか し，談話依存関係の長さ (親と子の間の距離) の平均 については両コーパスでほぼ等しく，談話依存関係 の長さは文書長に強く依存しないことがわかる. ま た，Root EDUの子，すなわち論文要旨中で最も中心的な EDU の位置は GENIA-DTB ではわずかに後方 に位置する傾向があることがわかる．談話関係の分布については，図6から，GENIA-DTB では Addition と Same-Unit の頻度が SciDTB よりも多いことがわ かる.これらの結果から, 医学生物学論文要旨は,自然言語処理論文要旨よりも長く, 節の埋め込みに よる複雑な文の構造を持ち，より等位的な情報の追加が多いことがわかる．このことは，医学生物学分野を対象にした談話依存構造ツリーバンクを構築す ることの意義を示唆している.

## 5 今後の計画

今後は，拡張フェイズを引き続き行い，来年度上半期中での合計 1,999 件のアノテーション収集を目指す.また，COVID19-DTBを今回のアノテーショ ンフレームワークにあわせて更新し, GENIA-DTB と将来的に統合することを計画している。

## 謝辞

本研究は JSPS 科研費 21K17815 の助成を受けた ものです。本研究の一部は、JST、AIP 日独仏 AI 研
究、JPMJCR20G9 の支援を受けたものである。

## 参考文献

[1] Nicholas Asher and Alex Lascarides. Logics of Conversation. Cambridge University Press, 2003.

[2] Tsutomu Hirao, Yasuhisa Yoshida, Masaaki Nishino, Norihito Yasuda, and Masaaki Nagata. Single-document summarization as a tree knapsack problem. In Proceedings of the 2013 Conference of Empirical Methods in Natural Language Processing (EMNLP), pp. 1515-1520, 2013.

[3] Sujian Li, Liang Wang, Ziqiang Cao, and Wenjie Li. Textlevel discourse dependency parsing. In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics (ACL), pp. 25-35, 2014.

[4] Mathieu Morey, Philippe Muller, and Nicholas Asher. A dependency perspective on RST discourse parsing and evaluation. Computational Linguistics, Vol. 44, No. 2, pp. 197-235, 2018.

[5] Wenpeng Hu, Zhangming Chan, Bing Liu, Dongyan Zhao, Jinwen Ma, and Rui Yan. GSN: A graph-structured network for multi-party dialogues. In Proceedings of the Twenty-Eighth International Joint Conference on Artificial Intelligence (IJCAI), pp. 5010-5016, 2019.

[6] Zhouxing Shi and Minlie Huang. A deep sequential model for discourse parsing on multi-party dialogues. In Proceedings of the Thirty-Third AAAI Conference on Artificial Intelligence (AAAI), pp. 7007-7014, 2019.

[7] Annie Louis, Aravind Joshi, and Ani Nenkova. Discourse indicators for content selection in summarization. In Proceedings of the SIGDIAL 2010 Conference, pp. 147156, 2010 .

[8] Yasuhisa Yoshida, Jun Suzuki, Tsutomu Hirao, and Masaaki Nagata. Dependency-based discourse parser for single-document summarization. In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing, pp. 1834-1839, 2014.

[9] Parminder Bhatia, Yangfeng Ji, and Jacob Eisenstein. Better document-level sentiment analysis from RST discourse parsing. In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing, pp. 2212-2218, 2015 .

[10] Greg Durrett, Taylor Berg-Kirkpatrick, and Dan Klein. Learning-based single-document summarization with compression and anaphoricity constraints. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (ACL2016), pp. 1998-2008, 2016.

[11] Jiacheng Xu, Zhe Gan, Yu Cheng, and Jingjing Liu. Discourse-aware neural extractive text summarization. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 50215031, 2020 .

[12] Yangfeng Ji and Noah A. Smith. Neural discourse structure for text categorization. In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 996-1005, 2017.

[13] Elisa Ferracane, Su Wang, and Raymond J. Mooney. Leveraging discourse information effectively for author- ship attribution. In Proceedings of the The 8th International Joint Conference on Natural Language Processing (IJCNLP), pp. 584-593, 2017.

[14] Suzan Verberne, Lou Boves, Nelleke Oostdijk, and PeterArno Coppen. Evaluating discourse-based answer extraction for why-question answering. In Proceedings of the 30th annual international ACM SIGIR conference on Research and development in information retrieval (SIGIR), pp. 735-736, 2007.

[15] Peter Jansen, Mihai Surdeanu, and Peter Clark. Discourse complements lexical semantics for non-factoid answer reranking. In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics (ACL), pp. 977-986, 2014.

[16] Chris Quirk and Hoifung Poon. Distant supervision for relation extraction beyond the sentence boundary. In Proceedings of the 15th Conference of the European Chapter of the Association for Computational Linguistics (EACL), pp. 1171-1182, 2017.

[17] Lynn Carlson, Daniel Marcu, and Mary Ellen Okurowski. Building a discourse-tagged corpus in the framework of Rhetorical Structure Theory. In Proceedings of the 2nd SIGdial Workshop on Discourse and Dialogue, 2001.

[18] An Yang and Sujian Li. SciDTB: Discourse dependency treebank for scientific abstracts. In Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 444-449, 2018.

[19] Noriki Nishida and Yuji Matsumoto. Out-of-domain discourse dependency parsing via bootstrapping: An empirical analysis on its effectiveness and limitation. Transactions of the Association for Computational Linguistics. to appear.

[20] J.-D. Kim, T. Ohta, Y. Tateisi, and J. Tsujii. GENIA corpus -A semantically annotated corpus for bio-textmining. Bioinformatics, Vol. 19, No. suppl1, pp. 180-182, 2003.

[21] Rashmi Prasad, Nikhil Dinesh, Alan Lee, Eleni Miltsakaki, Livio Robaldo, Aravind Joshi, and Bonnie Webber. The Penn Discourse TreeBank 2.0. In Proceedings of the Sixth International Conference on Language Resources and Evaluation, 2008.

[22] Harry Bunt and Rashmi Prasad. ISO DR-Core (ISO 246178): Core concepts for the annotation of discourse relations. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (ACL 2016), 2016.
 西田典起 理化学研究所 AIP noriki.nishida@riken.jp }  図 1 医学生物学論文要旨に対する談話依存構造の例.  ンクが訓練データおよび評価用データとして不可欠 である。しかし，既存の談話構造ツリーバンクのサ イズおよびドメインに関するカバレッジは十分とは 言い難い。例えば，談話構造解析の研究で最もよく 用いられている RST-DT コーパス [17] には 385 文書 の談話構造しかアノテーションされておらず，明ら かにサイズが少ない．SciDTB コーパス [18]には自然言語処理分野の 798 論文要旨に対する談話依存構造がアノテーションされているが，分野によって語彙や論旨の展開傾向は大きく異なるため, SciDTBで 訓練した解析システムによる他分野の論文要旨に対 する解析精度は大きく低下してしまう。また，本プ ロジェクトの一環として著者らは COVID-19 に関連 する医学生物学論文要旨 300 件に対して人手で談話依存構造を付与し, COVID-19 Discourse Dependency Treebank (COVID19-DTB) [19] として公開したが，そ のサイズはまだまだ小さく，さらに拡張していく必要がある。  本プロジェクトの目的は，医学生物学分野の論文 に対する談話構造解析法およびその応用の研究開発 に有用な，高品質で既存のコーパスに比べて大規模 な談話依存構造ツリーバンクを構築，整備，公開す  ることである. 医学生物学論文に焦点をあてること にはいくつかの利点がある。一つは，論文の文章は SNS やブログ等の文章よりも論旨が明確で論理的で あることが期待されており, 談話構造の研究対象と して望ましい. また，膨大な医学生物学論文から有用な情報を抽出して体系化する医療知識獲得技術の 開発は社会的に喫緊の課題であり, 医学生物学論文 を対象に談話構造解析システムを開発することの意義は大きい.  本稿では， GENIAコーパス [20] に収録されてい る論文要旨 1,999 件に対して談話依存構造を付与す るための詳細について説明する，具体的には，談話依存構造のフレームワークとアノテーションプロセ スの詳細，現状のツリーバンクに基づく統計情報に ついて説明する。 