# 文書レベル関係抽出における根拠認識の統合

Youmi Ma An Wang 岡崎直観
東京工業大学
\{youmi.ma@nlp., an.wang@nlp., okazaki@\}c.titech.ac.jp

## 概要

文書レベル関係抽出（DocRE）は文書中のすべて のエンティティの組の関係を推定するタスクであ る.この関係抽出に必要最小限かつ十分な情報を含 む文の集合を根拠と呼ぶ。根拠は関係抽出の性能を 改善できるが，既存研究では DocRE と根拠認識を 別々のタスクとしてモデル化していた. 本稿では,根拠認識を関係抽出のモデルに統合する手法を提案 する。 さらに，根拠のアノテーションが付与されて いないデータに根拠の疑似的な教師信号を付与し，大量の自動ラベル付けデータを活用する方法を提案 する. 提案手法は DocRED において DocRE と根拠認識の両方で現時点の世界最高性能を達成した ${ }^{11}$.

## 1 はじめに

関係抽出はテキストにおけるエンティティ（実体）の関係を認識するタスクである。関係抽出で は，文内に閉じて関係を認識するタスク設定の 研究が多く $[1,2,3,4,5]$, テキスト中で複数の文 にまたがって表現される関係は対象外となって しまうため，適用範囲が狭いという課題があっ た [6]. これに対して, 複数の文で言及される関係 にも対応したタスク，すなわち文書レベル関係抽出（DocRE: Document-level Relation Extraction）が提案された $[6,7,8]$. DocRE では，複数の文の情報の 取捨選択や統合をしながらエンティティ間の関係を 推定する必要がある $[9,10,11]$.

DocRE において情報の取捨選択に用いられるの が根拠 (evidence) である。根拠は，関係を推定する ために必要最小限かつ十分な情報を含む文の集合 と定義され，DocRE で広く用いられるデータセッ 卜 DocRED [6] でもラベル付けされている. 図 1 の 例では, Prince Edmund と Blackadder における関係 present in work を認識するための必要最小限かつ十
公開している。

 \\

図 1 DocRED [6] のアノテーションの例。斜体は関係を 予測したいエンティティの言及（メンション）であり，下線はその他のエンティティの言及である.

分な情報は文 1 と 2 であるため，この関係の根拠 は文 1 と 2 とラベル付けされる. 既存研究では， DocRE のサブタスクとして根拠認識に取り組み，エ ンティティ組の関係を推定する際に必要な情報の取捨選択を行うことが多かった $[6,9,10,12]$.

既存研究では，DocRE と根拠認識を別々の夕 スクとしてモデル化しているため $[9,10,12]$, 両 タスクの関連性を考慮できない。これに対し，本稿では DocRE と根拠認識のモデルを統合した新手法として，Document-level Relation Extraction with Evidence-guided Attention Mechanism (DREEAM) を提案する．DREEAM では，根拠を単語や文の重要度 に関する情報としてテキストのエンコーダに統合す る. 具体的には，BERT [13] などの事前学習済み言語モデルのエンコーダにおける自己注意機構 [14] へ の教師信号として根拠を導入し，根拠に高い重みを 配分するように誘導しながら DocRE のモデルを学習する。これにより，文書レベル関係抽出から根拠認識モデルを削除し，パラメータ数の削減や推論時 のメモリ使用量の低減も実現できる。

なお，文書レベルの関係アノテーションはコスト が高いため，学習データが不足しがちな状況にあ る. 表 1 に示すように，現時点で最大規模のデー タセットである DocREDでも，人手でラベルが付
表 1 DocRED [6] データセットの統計情報

与された文書は 5,051 件しかない. DocRED では データ不足を緩和するため，関係ラベルを Distant Supervision [15] を用いて自動付与しているが，根拠 ラベルの自動付与は行われていない. 本研究では,提案手法である DREEAM を用いて根拠の疑似的な 教師信号を自動的に付与し, 大量の自動ラベル付与 データを活用する．最終的に，提案手法は DocRED において DocRE と根拠認識の両方で現時点の世界最高性能を達成した。

## 2 予備知識

## 2.1 タスクの定義

DocRE の目的は, 文 $X_{D}=\left.\{x_{i}\right.\}_{i=1}^{\left|x_{D}\right|}$ からなる文書 $D$ における全てのエンティティ $\mathscr{C}_{D}=\left.\{e_{i}\right.\}_{i=1}^{\left|\mathscr{D}_{D}\right|}$ の 組が持つ関係を推定することである。文書 $D$ にお けるエンティティ $e \in \mathscr{E}_{D}$ の言及（メンション）を $M_{e}=\left.\{m_{i}\right.\}_{i=1}^{\left|\cdot M_{e}\right|}$ とし, エンティティの組 $\left(e_{s}, e_{o}\right)$ が持 つ全ての関係から成る集合を $\mathscr{R}_{s, o} \subseteq \mathscr{R}$ とする. た だし， $\mathscr{R}$ は関係ラベルの集合である. $\left(e_{s}, e_{o}\right)$ の間 に関係 $r \in \mathscr{R}$ が存在する場合, $\left(e_{s}, r, e_{o}\right)$ に関する根拠を $\mathscr{V}_{s, r, o} \subseteq X_{D}$ で表す. 根拠認識の目的は，全て の関係抽出における根拠を認識すること，すなわち $\left(e_{s}, r, e_{o}, \mathscr{V}_{s, r, o}\right)$ を得ることである.

## 2.2 ベースモデル: ATLOP

提案手法のベースとなる手法 ATLOP [16] を説明する。まず，各エンティティの言及の冒頭と 末尾に特殊トークン「*」を挿入したトークン列 $\mathscr{T}_{D}=\left.\{t_{i}\right.\}_{i=1}^{\left|\mathcal{F}_{D}\right|}$ を BERT [13] などを用いてエンコード する. エンコーダの出力から，トークンの分散表現 $\boldsymbol{H} \in \mathbb{R}^{\left|\mathcal{T}_{D}\right| \times d}$ と自己注意機構の重み ${ }^{2)} \boldsymbol{A} \in \mathbb{R}^{\left|\mathcal{I}_{D}\right| \times\left|\mathscr{I}_{D}\right|}$ を記録し，前者をトークン埋め込み，後者をトーク ン間の依存度と呼ぶ（ $d$ はエンコーダの隠れ層の次元数である).

次に，エンティティ埋め迄みを計算する。言及

2）マルチヘッド自己注意の全ヘッドの平均として計算する. $M_{e}=\left.\{m_{i}\right.\}_{i=1}^{\left|M_{e}\right|}$ を持つエンティティ $e$ に対して，埋め 込み $\boldsymbol{h}_{e} \in \mathbb{R}^{d}$ を $\boldsymbol{h}_{e}=\log \sum_{i=1}^{\left|. M{ }_{e}\right|} \exp \left(\boldsymbol{h}_{m_{i}}\right)$ と計算する. ただし， $\boldsymbol{h}_{m_{i}} \in \mathbb{R}^{d}$ は言及 $m_{i}$ の開始位置に挿入した 特殊トークン「*」の埋め込みである。これにより， エンティティ $e_{s}, e_{o}$ の埋め込み $\boldsymbol{h}_{s}, \boldsymbol{h}_{o} \in \mathbb{R}^{d}$ を得る.

さらに，エンティティの組 $\left(e_{s}, e_{o}\right)$ に対する局所文脈埋め迄みを計算する。局所文脈埋め込みは文書 $D$ における全トークンの埋め込みの重み付き和であ り, 重みは $e_{s}, e_{o}$ 両方に対する重要度を反映する. トークンの重要度は，トークン間の依存度 $\boldsymbol{A}$ の強 さとする。具体的には，エンティティ $e_{s}$ の各言及 $m_{i} \in M_{e_{s}}$ と他のトークンの依存度から $\boldsymbol{a}_{s} \in \mathbb{R}^{\left|\mathcal{I}_{D}\right|}$ を 求める. ここで $\boldsymbol{a}_{s}$ は全ての $\boldsymbol{a}_{m_{i}} \in \mathbb{R}^{\left|\mathscr{T}_{D}\right|}$ の平均であ り， $\boldsymbol{a}_{m_{i}}$ は $m_{i}$ の冒頭にある「*」に対応する $\boldsymbol{A}$ のス ライスである. 同様に $\boldsymbol{a}_{o} \in \mathbb{R}^{\left|\mathcal{T}_{D}\right|}$ を求め, $\left(e_{s}, e_{o}\right)$ に 対する各トークンの重要度 $\boldsymbol{q}^{(s, o)} \in \mathbb{R}^{\left|\mathfrak{T}_{D}\right|}$ および局所文脈埋め込み $\boldsymbol{c}^{(s, o)} \in \mathbb{R}^{d}$ を, 式 1 と 2 で求める.

$
\begin{aligned}
& \boldsymbol{q}^{(s, o)}=\frac{\boldsymbol{a}_{s} \circ \boldsymbol{a}_{o}}{\boldsymbol{a}_{s}^{\top} \boldsymbol{a}_{o}} \\
& \boldsymbol{c}^{(s, o)}=\boldsymbol{H}^{\top} \boldsymbol{q}^{(s, o)}
\end{aligned}
$

ただし。は要素ごとの積である. 局所文脈埋め込み は重要度の高い箇所に注目した分散表現であること から，異なる文の情報を効果的に統合できる。

最後に， $\left(e_{s}, e_{o}\right)$ の関係分類を行う. 関係分類器 の入力はエンティティ埋め込みと局所埋め込みを統合した分散表現で, $\boldsymbol{z}_{s}=\tanh \left(\boldsymbol{W}_{s}\left[\boldsymbol{h}_{s} ; \boldsymbol{c}^{(s, o)}\right]+\boldsymbol{b}_{s}\right) \in$ $\mathbb{R}^{d}$ と計算する. ここで $[\cdot ; \cdot]$ はべクトルの連結, $\boldsymbol{W}_{s} \in \mathbb{R}^{d \times 2 d}, \boldsymbol{b}_{s} \in \mathbb{R}^{d}$ はパラメータである. $z_{o} \in \mathbb{R}^{d}$ も同様に計算し, 全関係ラベルのスコア を $\boldsymbol{y}^{(s, o)}=\boldsymbol{z}_{s}^{\top} \mathrm{W}_{r} z_{o}+\boldsymbol{b}_{r} \in \mathbb{R}^{|\mathscr{R}|}$ で計算する. ただし $\mathrm{W}_{r} \in \mathbb{R}^{|\mathscr{R}| \times d \times d}, \boldsymbol{b}_{r} \in \mathbb{R}^{|\mathscr{R}|}$ はパラメータである. エ ンティティ $e_{s}, e_{o}$ の間の関係 $r \in \mathscr{R}$ の確率推定は $P(r \mid s, o)=\operatorname{sigmoid}\left(y_{r}^{(s, o)}\right)$ として計算される.

ATLOP の学習は適応間値損失 (ATL: Adaptive Threshold Loss）に基づく.すなわち，間值に対応す る仮想的な関係ラベル TH を導入し，エンティティ 組 $\left(e_{s}, e_{o}\right)$ に存在する関係ラベルのスコアは THより 高く, 存在しない関係ラベルのスコアは TH より低 くなるようにモデルを学習する。

## 3 提案手法

ATLOP では関係推定に重要なトークンに注目し て情報を統合するため，局所文脈埋め込みを採用 し, BERT の自己注意機構がエンティティ組 $\left(e_{s}, e_{o}\right)$ に対するトークンの重要度 $\boldsymbol{q}^{(s, o)}$ を暗黙的に学習で

図 2 DREEAM の概要

きると仮定した. 本研究では，根拠を用いて $\boldsymbol{q}^{(s, o)}$ の教師信号を与えることを提案し，根拠認識の関係抽出モデルへの統合，および関係抽出の性能向上を 目指す (§3.1). さらに根拠の教師信号を自動で付与し，データ不足の緩和を目指す（§3.2）.

## 3.1 DREEAM

提案手法である DREEAM の概要を図 2 に示す.自己注意機構から計算されるトークン重要度と根拠 から計算される分布が近づくように誘導し, 根拠に 基づいた局所文脈埋め込みが得られると期待する。

根拠分布の算出 あるエンティティ組 $\left(e_{s}, e_{o}\right)$ が持つ関係 $r \in \mathscr{R}_{s, o}$ 毎に, 根拠べクトル $\boldsymbol{v}^{(s, r, o)} \in$

り, 文 $x_{i} \in X_{D}$ が関係 $\left(e_{s}, r, e_{o}\right)$ の根拠である時に $v_{i}^{(s, r, o)}=1$ とする. さらに, 全ての関係 $\forall r \in \mathscr{R}_{s, o}$ に おける根拠べクトル $\boldsymbol{v}^{(s, r, o)}$ から, 関係ラベルに依存しない根拠の分布 $\boldsymbol{v}^{(s, o)}$ を次式で求める.

$
\boldsymbol{v}^{(s, o)}=\frac{\sum_{r \in \mathscr{R}_{s, o}} \boldsymbol{v}^{(s, r, o)}}{\sum_{r \in \mathscr{R}_{s, o}} \mathbf{1}^{\top} \boldsymbol{v}^{(s, r, o)}}
$

ティ組 $\left(e_{s}, e_{o}\right)$ に関する文の重要度を全関係ラベル 共通に根拠のアノテーションから求めている.

根拠分布を用いた学習 自己注意機構によるトー クン重要度 $\boldsymbol{q}^{(s, o)}$ を文の重要度 $\boldsymbol{p}^{(s, o)} \in \mathbb{R}^{\left|X_{D}\right|}$ に変換する。トークン列 $t_{\mathrm{START}\left(x_{i}\right)}, \ldots, t_{\mathrm{END}\left(x_{i}\right)}$ からなる 文 $x_{i} \in X_{D}$ に対し, その重要度を和

$
p_{i}^{(s, o)}=\sum_{j=\operatorname{START}\left(x_{i}\right)}^{\operatorname{END}\left(x_{i}\right)} q_{j}^{(s, o)}
$

として計算する. ただし $p_{i}^{(s, o)}$ は $\boldsymbol{p}^{(s, o)}$ の $\mathrm{i}$ 番目の 要素の值である。そして，根拠アノテーションから 得られる文の重要度 $\boldsymbol{v}^{(s, o)}$ を教師信号とし，自己注意機構から計算される文の重要度 $\boldsymbol{v}^{(s, o)}$ が近くなる ように，カルバック・ライブラー距離（ $\left.D_{\mathrm{KL}}\right)$ によ

図 3 DREEAM による自動ラベル付けデータの活用方法

る損失関数を導入する（式 5 ）.

$
\mathscr{L}_{\mathrm{ER}}=-D_{\mathrm{KL}}\left(\boldsymbol{v}^{(s, o)} \| \boldsymbol{p}^{(s, o)}\right)
$

モデルのパラメータ推定に用いる損失関数として，根拠抽出の損失関数と式 5 の和を採用することで，関係抽出と根拠認識を同時に学習する。

推論 関係抽出では ATLOP と同様に，適応的間値を採用する．各エンティティ組 $\left(e_{s}, e_{o}\right)$ の関係ラ ベルのスコアを計算し，仮想的な閾値ラベル TH よ り高いスコアを持つラベルを関係として出力する。根拠認識では静的な閾値（付録 A 参照）を採用し， $\boldsymbol{p}^{(s, o)}$ が閾値より高い文を根拠として出力する.

## 3.2 根拠の教師信号の自動付与

DREEAM ではエンコーダの自己注意機構から計算されるトークン重要度に基づいてエンティティ組 の関係の予測に役立つ箇所（根拠）を推定できる. ところで，1節で述べたように，DocRED には人手で 付与された少量のデータの他に，Distant Supervision で関係ラベルを自動付与した大量のデータがある が，根拠のラベルが付与されていない. そこで， DREEAM から推定される根拠の応用として, DocRE の根拠の教師信号の自動付与を行い，大量の自動ラ ベル付けデータを活用する方法を提案する。

その概要を図 3 に示す. Tan ら [17] に倣い，教師 と学生の二つのモデルを学習する. 教師モデルの役割は，根拠の正解ラベル付けデータから根拠認識に 関する知識を獲得し，根拠のラベルが無いデータに 根拠の疑似的な教師信号を自動付与することであ る.これは，図 3 のステップ 1 と 2 で実現される.学生モデルは，手動および自動で付与された根拠の ラベル付けデータから DocRE と根拠認識のモデル を学習する（図 3 のステップ 3 と 4 ).

疑似根拠分布を用いた学習 根拠の正解ラベルで 学習した教師モデルを用い，まだ根拠のラベル付 けがされていないデータにおけるエンティティ組
$\left(e_{s}, e_{o}\right)$ のトークンの重要度 $\hat{\boldsymbol{q}}^{(s, o)}$ を予測・記録し，根拠の疑似的な教師信号とする。学生モデルのトー クン重要度 $\boldsymbol{q}^{(s, o)}$ を疑似的な根拠 $\hat{\boldsymbol{q}}^{(s, o)}$ に近づける ことで，根拠抽出を学習する（式 6).

$
\mathscr{L}_{\mathrm{ER}}=-D_{\mathrm{KL}}\left(\hat{\boldsymbol{q}}^{(s, o)} \| \boldsymbol{q}^{(s, o)}\right)
$

## 4 実験と考察

## 4.1 実験結果

DREEAM を DocRED [6] で評価した結果を表 2 に 示す. 実験設定の詳細は付録 $\mathrm{A}$ に示す.

## 人手のラベル付けデータだけでモデルを学習する

場合 DREEAM は EIDER [10] に匹敵する性能を示 した. DREEAM と SAIS [12] の間では性能の差があ るが，これはマルチタスク学習によるものと考えら れる3)。なお，DREEAM は根拠認識を DocRE のエ ンコーダに統合したため, 根拠認識モデルが不要と なり，学習・予測時のメモリ使用量を大幅に削減で きた（詳細な結果は付録 $\mathrm{B}$ を参照されたい）.

## 人手に加えて自動でラベル付けしたデータも用 いてモデルを学習する場合 提案手法 (DREEAM*) は関係抽出において SSAN* [18] や KD-DocRE* [17] の性能を上回り，このデータセットにおける最高性能を達成した. これらの既存研究も自動でラベル付 けした訓練データを用いているため，提案手法の優位性が示唆される。また，根拠認識においても，提案手法は既存手法の最高性能モデル SAIS [12]を大 きく上回った.これにより，提案した根拠の教師信号の自動付与手法が DocRE と根拠認識の両方で有効であることが示された.

## 4.2 分析

本研究の提案事項の貢献度合いを調べるため，ア ブレーション実験を行った結果を表 3 亿示す4).

教師モデル 教師モデルを学習する際に根拠認識 の学習（式 5）を無効化し，性能に与える影響を調 べた. 表 3 の通り，関係抽出と根拠認識の両方にお いて性能の低下が見られる。㳊に，DocREのエン コーダの自己注意機構を根拠で誘導することは，関係抽出にも有益であることが示唆される。

3） SAIS は DocRE と根拠認識以外にも, 共参照解析等の多夕 スクでモデルを学習し，豊富な教師信号を活用している。

4）表 2 の DREEAM* と表 3 (b) の DREEAM は同じ実験設定で あるが，表 2 の実験では RoBERTalarge [19]を，表 3 の実験で は $\mathrm{BERT}_{\text {base }}[13]$ をエンコーダとして用いているため，性能 に差が現れる。表 2 DocREDでの関係抽出と根拠認識の性能. *が付い $\frac{\text { ている行は自動でラベル付けしたデータを学習に用いた. }}{\text { 検証データ }}$

表 3 DocRED の検証データでのアブレーション実験

学生モデル 疑似的な教師信号による根拠認識の 学習 (式 6), および手動でラベル付けしたデータに よる根拠認識の学習（式 5）の片方および両方を無効化し，タスクの性能に与える影響を調べる。表 3 から，疑似根拠による根拠認識の学習を無効化する と，DocRE と根拠認識ともに性能が低下することが 分かる。一方，人手でラベル付けした根拠データに よる根拠認識の学習を無効にしても，性能への影響 は限定的であった。これにより，根拠認識に関する 知識が教師モデルから学生モデルに期待通り引き継 がれていることが示唆される.

## 5 おわりに

本稿では，文書レベル関係抽出において根拠を活用する手法を提案した. 関係抽出器のエンコーダの 自己注意機構において，関係予測の根拠に高い重み を配分するように誘導する DREEAM を提案した。続いて，DocREにおけるデータ不足問題を緩和する ため，根拠ラベルの持たないデータを活用する手法 を提案した. DocRED データセットで評価したとこ ろ，提案手法は関係抽出および根拠認識の両方の夕 スクで現時点での世界最高性能を達成した。

今後は，根拠認識による関係抽出の説明可能性の 検討や，長い文書において情報の統合や取捨選択を 要する他タスクへの DREEAM の適用，日本語の文書レベル関係抽出の研究に取り組みたい。

## 謝辞

この成果は、国立研究開発法人新エネルギー・産業

技術総合開発機構 (NEDO) の委託業務 (JPNP18002)

の結果得られたものです。

## 参考文献

[1] George Doddington, Alexis Mitchell, Mark Przybocki, Lance Ramshaw, Stephanie Strassel, and Ralph Weischedel. The automatic content extraction (ACE) program - tasks, data, and evaluation. In Proceedings of the Fourth International Conference on Language Resources and Evaluation (LREC'04), Lisbon, Portugal, May 2004. European Language Resources Association (ELRA).

[2] Xu Han, Hao Zhu, Pengfei Yu, Ziyun Wang, Yuan Yao, Zhiyuan Liu, and Maosong Sun. FewRel: A large-scale supervised fewshot relation classification dataset with state-of-the-art evaluation. In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, pp. 4803-4809, Brussels, Belgium, October-November 2018. Association for Computational Linguistics.

[3] Iris Hendrickx, Su Nam Kim, Zornitsa Kozareva, Preslav Nakov, Diarmuid Ó Séaghdha, Sebastian Padó, Marco Pennacchiotti, Lorenza Romano, and Stan Szpakowicz. SemEval-2010 task 8: Multi-way classification of semantic relations between pairs of nominals. In Proceedings of the 5th International Workshop on Semantic Evaluation, pp. 33-38, Uppsala, Sweden, July 2010. Association for Computational Linguistics.

[4] Yuhao Zhang, Victor Zhong, Danqi Chen, Gabor Angeli, and Christopher D. Manning. Position-aware attention and supervised data improve slot filling. In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, pp. 35-45, Copenhagen, Denmark, September 2017. Association for Computational Linguistics.

[5] Christoph Alt, Aleksandra Gabryszak, and Leonhard Hennig. TACRED revisited: A thorough evaluation of the TACRED relation extraction task. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 15581569, Online, July 2020. Association for Computational Linguistics.

[6] Yuan Yao, Deming Ye, Peng Li, Xu Han, Yankai Lin, Zhenghao Liu, Zhiyuan Liu, Lixin Huang, Jie Zhou, and Maosong Sun. DocRED: A large-scale document-level relation extraction dataset. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pp. 764-777, Florence, Italy, July 2019. Association for Computational Linguistics.

[7] Jiao Li, Yueping Sun, Robin J. Johnson, Daniela Sciaky, ChihHsuan Wei, Robert Leaman, Allan Peter Davis, Carolyn J. Mattingly, Thomas C. Wiegers, and Zhiyong Lu. BioCreative V CDR task corpus: a resource for chemical disease relation extraction. Database, Vol. 2016, , 05 2016. baw068.

[8] Patrick Verga, Emma Strubell, and Andrew McCallum. Simultaneously self-attending to all mentions for full-abstract biological relation extraction. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long Papers), pp. 872-884, New Orleans, Louisiana, June 2018. Association for Computational Linguistics.

[9] Quzhe Huang, Shengqi Zhu, Yansong Feng, Yuan Ye, Yuxuan Lai, and Dongyan Zhao. Three sentences are all you need: Local path enhanced document relation extraction. In Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on
Natural Language Processing (Volume 2: Short Papers), pp. 998-1004, Online, August 2021. Association for Computational Linguistics.

[10] Yiqing Xie, Jiaming Shen, Sha Li, Yuning Mao, and Jiawei Han. Eider: Empowering document-level relation extraction with efficient evidence extraction and inference-stage fusion. In Findings of the Association for Computational Linguistics: ACL 2022, pp. 257-268, Dublin, Ireland, May 2022. Association for Computational Linguistics.

[11] Wang Xu, Kehai Chen, Lili Mou, and Tiejun Zhao. Documentlevel relation extraction with sentences importance estimation and focusing. In Proceedings of the $\mathbf{2 0 2 2}$ Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 2920-2929, Seattle, United States, July 2022. Association for Computational Linguistics.

[12] Yuxin Xiao, Zecheng Zhang, Yuning Mao, Carl Yang, and Jiawei Han. SAIS: Supervising and augmenting intermediate steps for document-level relation extraction. In Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 2395-2409, Seattle, United States, July 2022. Association for Computational Linguistics.

[13] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4171-4186, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.

[14] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, L ukasz Kaiser, and Illia Polosukhin. Attention is all you need. In I. Guyon, U. Von Luxburg, S. Bengio, H. Wallach, R. Fergus, S. Vishwanathan, and R. Garnett, editors, Advances in Neural Information Processing Systems, Vol. 30. Curran Associates, Inc., 2017.

[15] Mike Mintz, Steven Bills, Rion Snow, and Daniel Jurafsky. Distant supervision for relation extraction without labeled data. In Proceedings of the Joint Conference of the 47th Annual Meeting of the ACL and the 4th International Joint Conference on Natural Language Processing of the AFNLP, pp. 1003-1011, Suntec, Singapore, August 2009. Association for Computational Linguistics.

[16] Wenxuan Zhou, Kevin Huang, Tengyu Ma, and Jing Huang. Document-level relation extraction with adaptive thresholding and localized context pooling. In Proceedings of the AAAI Conference on Artificial Intelligence, 2021.

[17] Qingyu Tan, Ruidan He, Lidong Bing, and Hwee Tou Ng. Document-level relation extraction with adaptive focal loss and knowledge distillation. In Findings of the Association for Computational Linguistics: ACL 2022, pp. 1672-1681, Dublin, Ireland, May 2022. Association for Computational Linguistics.

[18] Benfeng Xu, Quan Wang, Yajuan Lyu, Yong Zhu, and Zhendong Mao. Entity structure within and throughout: Modeling mention dependencies for document-level relation extraction. Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 35, No. 16, pp. 14149-14157, May 2021.

[19] Yinhan Liu, Myle Ott, Naman Goyal, Jingfei Du, Mandar Joshi, Danqi Chen, Omer Levy, Mike Lewis, Luke Zettlemoyer, and Veselin Stoyanov. Ro\{bert\}a: A robustly optimized $\{$ bert $\}$ pretraining approach, 2020.

[20] Ilya Loshchilov and Frank Hutter. Decoupled weight decay regularization. In International Conference on Learning Representations, 2019 .

## A 実験設定

4 節の実験設定を説明する. DREEAM は ATLOP [16] をべースとしているが，トークン埋め込み $\boldsymbol{H}$ とトークン間依存度 $\boldsymbol{A}$ の計算方法が異なる. 2.2 節で述べたように, ATLOP はエンコーダの出力層 のみから $\boldsymbol{H}$ と $\boldsymbol{A}$ を計算するのに対し, DREEAM は エンコーダの上部 3 層の平均で $\boldsymbol{H}$ と $\boldsymbol{A}$ を求める.

モデルの学習 根拠認識が DocRE のモデルに与 える影響を調整するため，損失関数 $\mathscr{L}_{\mathrm{ER}}$ に係数を かけてから関係抽出の損失との和を計算し, 全体の 損失関数とした。具体的には，BERT base を用いたモ デルでは係数を $0.1, \mathrm{RoBERTa}_{\text {large }}$ を用いたモデルで は係数を 0.05 とした. なお，パラメータの更新に は Adam [20]を採用した。その他のハイパー・パラ メータの値を表 4 に示す.

モデルによる関係抽出と根拠認識 関係抽出で は，各エンティティの組 $\left(e_{s}, e_{o}\right)$ における間値ラべ ル THより高い関係ラベルを予測結果とする．根拠認識では, 重要度 $p_{i}^{(s, o)}$ が 0.2 より高い文を予測とする。 さらに，根拠認識の結果を活用するた め, 予測融合を行う [10]. 具体的には, 予測結果 $\left(e_{s}, r, e_{o}, \mathscr{V}_{s, r, o}\right)$ 毎に，根拠 $\mathscr{V}_{s, r, o}$ のみからなる部分文書 $\hat{D}_{s, r, o}$ を構成し, 関係抽出を行う. 最終的な関係抽出結果は, 元文書 $D$ と全ての部分文書におけ る予測から算出する。詳細な説明は原著論文 [10]を 参照されたい。評価指標は DocRED に従い，関係抽出と根拠認識の F1 スコアとする。本稿では，検証・評価データから訓練データとの重複を取り除いたう えで，F1 スコアを計測している [6]. なお，全ての スコアは，5つの異なるランダムシードを用いてモ デルを初期化し，学習した結果の平均である.

## B パラメータ数及びメモリ使用量

従来研究では，根拠認識に特化したモデルを設計 し, DocRE とは別に根拠認識器を適用することが 多い。このとき，各文がエンティティ組の関係判断 の根拠となる確率を計算するため，全ての文とエ ンティティ組を列挙しなければならない. 例えば EIDER [10] では, 文 $x_{i}$ がエンティティの組 $\left(e_{s}, e_{o}\right)$ の関係予測の根拠である確率を式 7 で求める.

$
\mathrm{P}\left(x_{i} \mid e_{s}, e_{o}\right)=\operatorname{sigmoid}\left(\boldsymbol{x}_{i}^{\top} \boldsymbol{W} \boldsymbol{c}^{(s, o)}+b\right),
$

ただし $\boldsymbol{x}_{i} \in \mathbb{R}^{d}$ はトークン埋め込みから得た文 $x_{i}$ の 埋め込み, $\boldsymbol{c}^{(s, o)} \in \mathbb{R}^{d}$ は $\left(e_{s}, e_{o}\right)$ における局所文脈埋表 4 実験に用いたハイパー・パラメータ

(教師) (学生) （学生）

表 5 パラメータ数及び推論時のメモリ使用量

 &  \\

ATLOP [16] & & \\
SSAN [18] & 115.4 & 10.8 \\
KD-DocRE [17] & 113.5 & 6.9 \\
根拠認識の学習あり & 200.1 & 15.2 \\
EIDER [10] & & \\
SAIS [12] & 120.2 & 43.1 \\
DREEAM & 118.0 & 46.2 \\

め込みであり， $\boldsymbol{W} \in \mathbb{R}^{d \times d}$ と $b \in \mathbb{R}$ はパラメータであ る. 例えば $n$ 個の文からなる文書に $m$ 個のエンティ ティがあるとすると，式 7 の演算を $n \times m \times(m-1)$回行うため, 特に $n$ や $m$ が大きい場合は, 膨大なメ モリを消費する。

一方，DREEAM は根拠認識をエンティティの組 のエンコーダに組み込み，根拠はエンコーダから 計算した文の重要度を用いて直接推定できるため,根拠認識器を外部に用意する必要がない。 よって,式 7 による確率の計算が不要となり，パラメータ $\boldsymbol{W}$ と $b$ を導入せずに済む。

DREEAM と既存手法のパラメータ数およびメモ

揃えた．DREEAMを根拠認識モデルの学習を行う 既存手法と比較すると，モデルのパラメータ数は既存研究よりも低く抑えられることが確認できる。ま た，推論時のメモリ使用量に関しては，DREEAM は EIDER [10] の 27.4\%, SAIS の 25.5\%まで抑えるこ とが可能で，既存手法に対して大きなアドバン テージとなる。なお，根拠認識モデルを学習しない KD-DocRE [17] と比較しても，DREEAM のパラメー 夕数およびメモリ使用量は少ないことが分かる．以上のことから，DREEAM は既存手法よりも少ない パラメータ数およびメモリ使用量で，既存手法の同等以上の性能を達成できることが分かる.
 Youmi Ma An Wang 岡崎直観 東京工業大学 \{youmi.ma@nlp., an.wang@nlp., okazaki@\}c.titech.ac.jp  