# 言い換えラティスを用いたテキスト生成の性能改善

西原大貴
大阪大学大学院情報科学研究科
nishihara.daiki@ist.osaka-u.ac.jp
荒瀬 由紀
大阪大学大学院情報科学研究科
arase@ist.osaka-u.ac.jp

## 1 はじめに

言語構造を機械学習に導入するために，機械翻訳 $[1,2]$ や文書要約 $[3,4]$ ，対話における感情認識 [5]，抽象的意味表現 [6-10] など多くの自然言語処理タスクにおいてグラフに基づく手法が提案され ている。例えば，有向非巡回グラフの一種であるラ ティスは，テキストを単純な単語の系列ではなく単語間の構造情報を持たせて表現でき，テキストの分類 $[11,12]$ や生成 $[13,14]$ に広く活用されている.

テキスト生成タスクでは，単語分割の曖昧性 $[13,14]$ や音声認識の曖昧性 [15-19] をラティスと して表現する Lattice2Seq モデルが，最も尤度の高い 1 つの系列を用いる Seq2Seq モデルよりも高い性能 を達成することが知られている。本研究では，新た に語彙選択の曖昧性に着目し，入力テキストとその 言い換えを用いてラティスを構築する。つまり，人間が書いたテキストの中の個々の表現は，必ずしも 「それでなくてはならない」表現とは限らないとい う仮説に基づき，入力テキストの語句の言い換えを 考慮し，入力テキストの情報を増やすことによって テキスト生成の性能改善を試みる。英日翻訳および 英語のスタイル変換における実験の結果，この手法 による BLEU [20] 値の顕著な改善を確認した。

## 2 提案手法

図 1 に示すように，本研究では言い換え辞書を用 いて入力テキストを言い換えラティスに変換する.各ノードが 1 つの単語を表すラティスを構築し，入力テキストとその複数の言い換えをコンパクトに表現する.エッジは接続する 2 つのノード（単語）の 繋がりを表しており，エッジの重みは言い換えとそ の前後の単語の繋がりの良さを表現する。このよう

\author{
梶原 智之 \\ 愛媛大学大学院理工学研究科 \\ kajiwara@cs.ehime-u.ac.jp \\ 藤田 篤 \\ 情報通信研究機構 \\ atsushi.fujita@nict.go.jp
}

図 1 提案手法の全体図

に，ラティス構造を用いることで複数の言い換えを 表現でき，訓練時と評価時の両方で大力テキストの 情報を増やすことが可能となる。

## 2.1 言い換えラティスの構築

入力の単語列 $s_{1} s_{2} \cdots s_{N}$ （ $N$ は単語数）に対し,次の手順でラティス $G=(V, E)$ を構築する.

1. ラティスの初期化 Sourceノードを文頭記号 $s_{0}$, Sinkノードを文末記号 $s_{N+1}$ とし, $s_{0} \rightarrow s_{1} \rightarrow$ $\cdots \rightarrow s_{N} \rightarrow s_{N+1}$ をパスとするグラフを作る. すなわち, $V=\bigcup_{i=0}^{N+1}\left.\{s_{i}\right.\}, E=\bigcup_{i=0}^{N}\left.\{\left(s_{i}, s_{i+1}\right)\right.\}$ と する. エッジ $(a, b)$ があるとき， $a$ を $b$ の親 ノード， $b$ を $a$ の子ノードと呼ぶ.

2. 言い換えパスの追加入力テキストに含ま れるあらゆる単語 $n$-gram $(n \in\{1,2, \cdots, N\})$ $s_{i} s_{i+1} \cdots s_{i+n-1}$ のそれぞれに対し，言い換え辞書を用いて言い換えを取得し，ラティスに加え る. すなわち, 個々の句の言い換え $p_{1} p_{2} \cdots p_{M}$ が得られた時， $V \cup \bigcup_{k=1}^{M}\left.\{p_{k}\right.\}$ を新たな $V$ とし， $E \cup\left.\{\left(s_{i-1}, p_{1}\right),\left(p_{M}, s_{i+n}\right)\right.\} \cup \bigcup_{k=1}^{M-1}\left.\{\left(p_{k}, p_{k+1}\right)\right.\}$新たな $E$ とする。

図 2 統合前のラティス（例 1)

3. 重複ノードの統合 ラティスに含まれるパス の集合が変化しないように，ノードの重複を統合する．共通の単語を含む句の言い換えを適用した場合に，ノードの重複が起こる. 重複す るノード集合は実際には同一の単語を参照す るため，これを統合する．ここで，ノード集合 $V^{\prime}(\subset V)$ の統合とは， $\forall v \in V^{\prime}$ を削除し， $v$ に接続していた全てのエッジと接続する新たなノー ドを 1 つ作ることを指す. 統合の大まかな手順 としては，まずラティスを前向きおよび後ろ向 きに探索し，統合するノード集合の候補を列挙 する。次に，候補の中から実際に統合する集合 を選び，ノードを統合する。

(a) 統合候補の列挙：ノードを Source ノード からトポロジカル順1) に探索し，各ノード の子ノードのうち，単語ラベルが同じでか つ親ノードの集合が同じであるノードの 集合を列挙する. ここで列挙されたノード 集合の集合 $M_{f}=\{\{v, w\} \mid \forall u \in V, \forall v, \forall w \in$ $C(u), v$ の単語ラベル $=w$ の単語ラベル $\}$ が，統合候補となる。なお， $C(u)$ は $u$ の子 ノードの集合である. 同様に逆順にも探索 し，統合候補 $M_{b}$ を得る．ただし探索の際 には，先に見つかったノード集合から頜欲 に統合されると仮定して残りの探索を進め るが，ここではまだ実際には統合しない.

(b) ノードの統合 : $M_{f}$ 中のある候補 $A$ の要素 が $M_{b}$ で網羅されている場合， $M_{b}$ を統合す れば $A$ の統合は必要ない. そこで統合が必要な, $M_{f}$ または $M_{b}$ の片方のみに含まれ るノード $D=\left.\{v \mid \forall M \in M_{f}, \forall v \in M\right.\} \triangle\{v \mid$ $\left.\forall M \in M_{b}, \forall v \in M\right.\}^{2}$ を求める.

1）有向非巡回グラフにおけるノードのソート手法にトポロジ カルソートがある。これは, 全ての異なる 2 つのノード $a, b$ に対し $a \neq b$ かつノード $a$ からノード $b$ へ到達可能ならば $a$ が $b$ より先にくるようにノードを並べる手法である．ここで はトポロジカルソートによる並べ方をトポロジカル順と呼ぶ. 2）記号 $\Delta$ は，対称差集合を表す.

図 3 統合後のラティス (例 1)

そして，統合候補 $M_{f}$ おひひ $M_{b}$ の 各要素に対して，Dを含むノード集合 $M_{f}^{\prime}=\left.\{M \mid \forall M \in M_{f}, \exists v \in M, v \in D\right.\}$ およ び $M_{b}^{\prime}=\left.\{M \mid \forall M \in M_{b}, \exists v \in M, v \in D\right.\}$ を 選び，これらのノード集合を統合する.

以下では統合処理の具体例を示す.

例 1 単語列 $a b c d$ と言い換 $え\{a b \rightarrow a$, $\mathrm{a} b \rightarrow \mathrm{b} \mathrm{a}, \mathrm{b} c \mathrm{~d} \rightarrow \mathrm{e} c \mathrm{~d}\}$ が与えられた場合を考 える. 手順 1 および 2 により, これらの入力から図 2 のラティスを得る. ここで，文頭記号を $<\mathrm{s}>$ ，文末記号をく/s>としている.

手順 3.(a) では， $v_{0}$ の子ノード $v_{1}, v_{6}, v_{7}$ のうち $v_{1}, v_{6}$ はどちらも単語ラベルが a であり, かつ親 ノードが $v_{0}$ であるため, $M_{f}=\left.\{\left.\{v_{1}, v_{6}\right.\}\right.\}$ が前向き の統合候補（赤囲み）と同定される．逆順でも同様 に, $M_{b}=\left.\{\left.\{v_{4}, v_{10}\right.\},\left.\{v_{3}, v_{9}\right.\},\left.\{v_{6}, v_{8}\right.\}\right.\}$ が後ろ向きの 統合候補（緑囲み）と同定される。

手順 3.(b) では， $M_{f}$ と $M_{b}$ のいずれか片方のみ に含まれるノードとして $D=\left.\{v_{1}, v_{4}, v_{10}, v_{3}, v_{9}, v_{8}\right.\}$ が挙げられる. $M_{f}$ や $M_{b}$ の要素は, 全て 1 つ以上の要素が $D$ に含まれるため, $M_{f}^{\prime}=\left.\{\left.\{v_{1}, v_{6}\right.\}\right.\}$, $M_{b}^{\prime}=\left.\{\left.\{v_{4}, v_{10}\right.\},\left.\{v_{3}, v_{9}\right.\},\left.\{v_{6}, v_{8}\right.\}\right.\}$ となる.

これらの $M_{f}^{\prime}$ おび $M_{b}^{\prime}$ の各要素を統合する と, 図 3 のラティスが得られる。 なお, 図 2 に 含まれる<s>からく/s>までの全てのパスの集合 は, $P=\{\langle\mathrm{s}\rangle \rightarrow \mathrm{a} \rightarrow \mathrm{e} \rightarrow \mathrm{c} \rightarrow \mathrm{d} \rightarrow\langle/ \mathrm{s}\rangle,\langle\mathrm{s}\rangle \rightarrow$ $\mathrm{a} \rightarrow \mathrm{b} \rightarrow \mathrm{c} \rightarrow \mathrm{d} \rightarrow\langle/ \mathrm{s}\rangle,\langle\mathrm{s}\rangle \rightarrow \mathrm{a} \rightarrow \mathrm{c} \rightarrow \mathrm{d} \rightarrow$ $\langle/ \mathrm{s}\rangle,\langle\mathrm{s}\rangle \rightarrow \mathrm{b} \rightarrow \mathrm{a} \rightarrow \mathrm{c} \rightarrow \mathrm{d} \rightarrow\langle/ \mathrm{s}\rangle\}$ であるが, 図 3 のように統合しても，Pに変化はない.

例 2 手順 3.(b) が必要となる例として,図 4 のラティスからは, $M_{f}=\left.\{\left.\{v_{3}, v_{5}\right.\}\right.\}$, $M_{b}=\left.\{\left.\{v_{2}, v_{3}\right.\},\left.\{v_{5}, v_{7}\right.\}\right.\}, D=\left.\{v_{2}, v_{7}\right.\}$ が得られる. $\left.\{v_{3}, v_{5}\right.\} \in M_{f}$ の要素 $v_{3}, v_{5}$ はどちらも $D$ に含まれな いため, $M_{f}^{\prime}=\{\}$ となる. $\left.\{v_{2}, v_{3}\right.\},\left.\{v_{5}, v_{7}\right.\} \in M_{b}$ はそれぞれ $v_{2}, v_{7}$ が $D$ に含まれるため, $M_{b}^{\prime}=\left.\{\left.\{v_{2}, v_{3}\right.\},\left.\{v_{5}, v_{7}\right.\}\right.\}$ となる. $M_{f}^{\prime}$ および $M_{b}^{\prime}$ の統合を行うと，図 5 が得られる.

図4統合前のラティス（例 2)

図 5 統合後のラティス（例 2)

図 6 全ての候補を統合する失敗例
この例において，手順 3.(b)を省略，つまり $M_{f}^{\prime}=M_{f}$ として $\left.\{v_{3}, v_{5}\right.\}$ も統合した場合, 図6のラ ティスが得られる. このとき, パス $v_{0} \rightarrow v_{2 \cdot 3} \rightarrow v_{4}$ とパス $v_{0} \rightarrow v_{3.5} \rightarrow v_{4}$ で表現される単語ラベルの 系列は同じであり，またパス $v_{0} \rightarrow v_{5.7} \rightarrow v_{8}$ とパス $v_{0} \rightarrow v_{3.5} \rightarrow v_{8}$ で表現される単語ラベルの系列も同 じであるため，ノード $v_{3.5}$ およびこれに接続する エッジを削除してもラティス全体のパス集合は図 5 の場合と変わらない. 手順 3.(b) で $M_{f}^{\prime}$ および $M_{b}^{\prime}$ を 考慮することによって，重複ノードを持たない図 5 のラティスが得られる。なお，重複ノードを避ける 理由については 2.3 節で説明する.

## 2.2 エッジの重み付け

言い換えとその前後の単語の繋がりの良さを表現 するため, 2.1 節で得られたラティス $G=(V, E)$ の 各エッジに，次の手順で重み付けを行う。

1. エッジ $\left(v_{j}, v_{k}\right) \in E$ で接続されている $2 \supset の$ ノードの単語ラベルの 2-gram 言語モデルスコ アを，当該エッジの重み $w_{j k}$ とする。

2. 各ノード $v_{j}$ の出力エッジの重みの和が 1 にな るよう，エッジの重みを正規化する．具体的に は，ノード $v_{j}$ の子ノード集合 $C\left(v_{j}\right)$ を考え，

$
w_{j k}^{\prime}=\frac{w_{j k}}{\sum_{v_{l} \in C\left(v_{j}\right)} w_{j l}}
$

をエッジ $\left(v_{j}, v_{k}\right)$ の新たな重みとする.

## 2.3 Lattice2Seq モデル

言い換えラティスを大力として, Sperberら [19]の Lattice2Seq モデルでテキストを生成する. Sperber らは, Transformer [21] の符号化器における Positional Encoding (PE) と自己注意機構を改変し, ラティス 構造の入力を可能にした. PEでは, 各ノードの位置を Sourceノードからの最長距離として定義した. また，単語間の接続関係およびエッジの重みを表現表 1 実験に使用したデータセット

するために，自己注意機構にマスクを導入した。

ラティスに重複ノードが含まれる場合, PE の位置が異なる場合がある. 例えば図 6 のラティスにお いて，Sourceノード $v_{0}$ の位置を 0 とすると，同一の 単語を参照する $v_{2.3}$ と $v_{3.5}$ の位置はそれぞれ 2 と 1 であり，異なる。このため位置を表す分散表現も異 なるが，同一の単語を参照するノード同士には同一 の分散表現を割り当てたい. そこで本研究では，重複ノードを含まない言い換えラティスを設計する。

## 3 実験

提案手法の有効性を確認するため，表 1 に示す 英日翻訳および英語のスタイル変換の実験を行っ た. 英日翻訳には，田中コーパズ3)の一部である small parallel enja ${ }^{4}$ を使用した. スタイル変換には, カジュアルな英文とフォーマルな英文からなるパラ レルコーパスである $\mathrm{GYAFC}^{5)}$ [22]を使用した。本実験では, Entertainment \& Music (E\&M) と Family \& Relationships (F\&R) の両方のドメインにおいて，カ ジュアルからフォーマルへの変換を行う．評価には sacreBLEU ${ }^{6)}[20]$ で求めた BLEU 値を用いた.

## 3.1 実験設定

前処理として, Moses ツールキット7) [23] の normalize-punctuation および tokenizer を使用し た. また，本実験で使用する言い換え辞書が小文字化されているため, Moses ツールキットの lowercase

3) http://www.edrdg.org/wiki/index.php/Tanaka_Corpus

4) https://github.com/odashi/small_parallel_enja

5）評価用データは，4つの参照文を持つマルチリファレンス.

6) https://github.com/mjpost/sacrebleu

7) https://github.com/moses-smt/mosesdecoder
表 2 英日翻訳とスタイル変換（E\&M・F\&R）の BLEU

を用いて，GYAFC の入力側も小文字化した. small parallel enja は，事前に単語分割および英語の小文字化が行われているため，それに従った。両タスク で，さらに Byte Pair Encoding [24]を用いて語彙サイ ズ 32,000 のサブワード化を行った.

言い換え辞書には，PPDB 2.08) [25] のうち，英語 の Lexical および Phrasal（S サイズ）を用いた.な お，収録されている語句は，事前に小文字化され ている.ノイズの影響を抑えるため, 適用する言 い換えは PPDB 2.0 におけるスコアが $\theta$ 以上のも のに限定した。このスコアの中央値は 5.3 のため, $\theta \in\{5.1,5.2,5.3,5.4,5.5\}$ の中から，検証用データ における性能が最も高い值を選択した。

2-gram 言語モデルの訓練には， $\mathrm{CC}-100^{9}$ ) の en を 用いた. CC-100 (en) は約 556 億トークンからなる英語の大規模な単一言語コーパスである. 前処理とし て Moses ツールキットの normalize-punctuation, tokenizerおよび lowercaseを適用し, $\operatorname{KenLM}^{10)}$ [26] によって 2-gram 言語モデルを訓練した。

Lattice2Seq モデルの実装には, JoeyNMT ${ }^{11)}$ [27]を 用いた. 符号化器および復号化器には 4 層 4 ヘッド の Transformer [21]を使用した. 埋込層および隠れ 層は 512 次元とし, 符号化器と復合化器で埋込層の 重みを共有した．埋込層および隠れ層のドロップア ウト率は 0.2 とした. 最適化には Adam [28] を使用 した. バッチサイズは 4096 で，英日翻訳タスクで は 200 回，スタイル変換タスクでは 400 回パラメー タを更新するごとに検証用データにおけるパープレ キシティを評価し, 連続で 32 回改善しなくなった ところで訓練を終了した. スケジューラには plateau を用い, 初期の学習率を 0.0002 とし, 連続で 8 回改善しなくなる毎に減衰率 0.7 を乗じた。

## 3.2 比較手法

Seq2Seq 言い換えを適用しないべースライン.


表 3 PPDB 2.0 スコアの閾値 $\theta$ と検証用データの BLEU

MultiSource 入力テキストを言い換えるが，ラティ スを構築しない比較手法. PPDB に基づく言い換 え生成器 ${ }^{12)}$ [29] によって $(r-1)(r \in\{2,3,4,5\})$ 種類の言い換えを取得し，入力文を含めた $r$ 文を連結して Seq2Seq モデルに入力する. $r$ は，検証用 データにおける性能が最も高い值を選択した。

## 3.3 実験結果

表 2 亿, 英日翻訳（翻訳）およびスタイル変換 （E\&M および F\&R）の BLEU 值を示す．英日翻訳で は，提案手法は Seq2Seq と比較して 2.12 ポイント， MultiSource と比較して 2.13 ポイント，それぞれ大幅に BLEUを改善した. スタイル変換でも，提案手法は Seq2Seq から 3.03 ポイント（E\&M）および 3.90 ポイント (F\&R), MultiSource から 4.12 ポイン ト（E\&M）および 1.38 ポイント（F\&R），それぞれ 大幅に BLEU を改善した.これらの実験結果から，言い換えラティスの有効性を確認できた。

表 3 に，使用する言い換えの閾値 $\theta$ を変化させた ときの検証用データにおける評価結果を示す。 $\theta$ が 小さいと低品質な言い換えを含んでしまい，大きい と有用な言い換えを使用できないことが分かる.

## 4 おわりに

本研究では，語彙選択の曖昧性をモデル化するた めに，入力テキストおよび言い換え辞書からラティ スを構築する手法を提案した. 英日翻訳およびスタ イル変換の実験を通じて，提案手法によって性能を 大幅に改善できることを示した.

今後は，語順の交替など語句の言い換え以外の言 い換えへの拡張を検討する。また，テキスト分類な ど他のタスクにおける有効性を検証する。

## 謝辞

本研究は JST（ACT-X，課題番号: JPMJAX1907) の支援を受けたものです.

12) https://cwiki.apache.org/confluence/pages/viewpage. action?pageId=65142863

## 参考文献

[1] Liangyou Li, Andy Way, and Qun Liu. Graph-Based Translation Via Graph Segmentation. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics, pp. 97-107, 2016.

[2] Jasmijn Bastings, Ivan Titov, Wilker Aziz, Diego Marcheggiani, and Khalil Sima'an. Graph Convolutional Encoders for Syntaxaware Neural Machine Translation. In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, pp. 1957-1967, 2017.

[3] Danqing Wang, Pengfei Liu, Yining Zheng, Xipeng Qiu, and Xuanjing Huang. Heterogeneous Graph Neural Networks for Extractive Document Summarization. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 6209-6219, 2020.

[4] Wei Li, Xinyan Xiao, Jiachen Liu, Hua Wu, Haifeng Wang, and Junping Du. Leveraging Graph to Improve Abstractive MultiDocument Summarization. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 6232-6243, 2020.

[5] Taichi Ishiwatari, Yuki Yasuda, Taro Miyazaki, and Jun Goto. Relation-aware Graph Attention Networks with Relational Position Encodings for Emotion Recognition in Conversations. In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing, pp. 7360-7370, 2020.

[6] Jie Zhu, Junhui Li, Muhua Zhu, Longhua Qian, Min Zhang, and Guodong Zhou. Modeling Graph Structure in Transformer for Better AMR-to-Text Generation. In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing, pp. 5459-5468, 2019.

[7] Shaowei Yao, Tianming Wang, and Xiaojun Wan. Heterogeneous Graph Transformer for Graph-to-Sequence Learning. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 7145-7154, 2020.

[8] Linfeng Song, Ante Wang, Su Jinsong, Yue Zhang, Kun Xu, Yubin Ge, and Dong Yu. Structural Information Preserving for Graph-toText Generation. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 7987-7998, 2020.

[9] Yanbin Zhao, Lu Chen, Zhi Chen, Ruisheng Cao, Su Zhu, and Kai Yu. Line Graph Enhanced AMR-to-Text Generation with MixOrder Graph Attention Networks. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 732-741, 2020.

[10] Deng Cai and Wai Lam. AMR Parsing via GraphSequence Iterative Inference. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 1290-1301, 2020.

[11] Yue Zhang and Jie Yang. Chinese NER Using Lattice LSTM. In Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics, pp. 1554-1564, 2018.

[12] Xiaonan Li, Hang Yan, Xipeng Qiu, and Xuanjing Huang. FLAT: Chinese NER Using Flat-Lattice Transformer. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 6836-6842, 2020.

[13] Jinsong Su, Zhixing Tan, Deyi Xiong, Rongrong Ji, Xiaodong Shi, and Yang Liu. Lattice-Based Recurrent Neural Network Encoders for Neural Machine Translation. In Proceedings of the Thirty-First AAAI Conference on Artificial Intelligence, pp. 3302-3308, 2017.

[14] Fengshun Xiao, Jiangtong Li, Hai Zhao, Rui Wang, and Kehai Chen. Lattice-Based Transformer Encoder for Neural Machine Translation. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pp. 3090-3097, 2019.

[15] Huda Khayrallah, Gaurav Kumar, Kevin Duh, Matt Post, and Philipp Koehn. Neural Lattice Search for Domain Adaptation in Machine Translation. In Proceedings of the The 8th International
Joint Conference on Natural Language Processing, pp. 20-25, 2017.

[16] Matthias Sperber, Graham Neubig, Jan Niehues, and Alex Waibel. Neural Lattice-to-Sequence Models for Uncertain Inputs. In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, pp. 1380-1389, 2017.

[17] Daniel Beck, Trevor Cohn, and Gholamreza Haffari. Neural Speech Translation using Lattice Transformations and Graph Networks. In Proceedings of the Thirteenth Workshop on Graph-Based Methods for Natural Language Processing, pp. 26-31, 2019.

[18] Pei Zhang, Boxing Chen, Niyu Ge, and Kai Fan. Lattice Transformer for Speech Translation. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pp. 6475-6484, 2019.

[19] Matthias Sperber, Graham Neubig, Ngoc-Quan Pham, and Alex Waibel. Self-Attentional Models for Lattice Inputs. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pp. 1185-1197, 2019.

[20] Matt Post. A Call for Clarity in Reporting BLEU Scores. In Proceedings of the Third Conference on Machine Translation, $\mathrm{pp}$. 186-191, 2018.

[21] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, and Illia Polosukhin. Attention Is All You Need. In Proceedings of the 31st Conference on Neural Information Processing Systems, pp. 5998-6008, 2017.

[22] Sudha Rao and Joel Tetreault. Dear Sir or Madam, May I Introduce the GYAFC Dataset: Corpus, Benchmarks and Metrics for Formality Style Transfer. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 129-140, 2018.

[23] Philipp Koehn, Hieu Hoang, Alexandra Birch, Chris CallisonBurch, Marcello Federico, Nicola Bertoldi, Brooke Cowan, Wade Shen, Christine Moran, Richard Zens, Chris Dyer, Ondřej Bojar, Alexandra Constantin, and Evan Herbst. Moses: Open Source Toolkit for Statistical Machine Translation. In Proceedings of the 45th Annual Meeting of the Association for Computational Linguistics, Demo and Poster session, pp. 177-180, 2007.

[24] Rico Sennrich, Haddow Barry, and Alexandra Birch. Neural Machine Translation of Rare Words with Subword Units. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics, pp. 1715-1725, 2016.

[25] Ellie Pavlick, Pushpendre Rastogi, Juri Ganitkevitch, Benjamin Van Durme, and Chris Callison-Burch. PPDB 2.0: Better paraphrase ranking, fine-grained entailment relations, word embeddings, and style classification. In Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing, pp. 425-430, 2015.

[26] Kenneth Heafield. KenLM: Faster and Smaller Language Model Queries. In Proceedings of the 6th Workshop on Statistical Machine Translation, pp. 187-197, 2011.

[27] Julia Kreutzer, Jasmijn Bastings, and Stefan Riezler. Joey NMT: A Minimalist NMT Toolkit for Novices. In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (System Demonstrations), pp. 109-114, 2019.

[28] Diederik P. Kingma and Jimmy Lei Ba. Adam: A Method for Stochastic Optimization. In Proceedings of the 3rd International Conference on Learning Representations, pp. 1-15, 2015.

[29] Courtney Napoles, Chris Callison-Burch, and Matt Post. Sentential Paraphrasing as Black-Box Machine Translation. In Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (Demonstrations), pp. 62-66, 2016.
 西原大貴 大阪大学大学院情報科学研究科 nishihara.daiki@ist.osaka-u.ac.jp 荒瀬 由紀 大阪大学大学院情報科学研究科 arase@ist.osaka-u.ac.jp  