# 論文
## 統計的機械翻訳のための Recursive Neural Network による 事前並び替えと分析

\author{
瓦祐希 $\dagger \cdot$ Chenhui $\mathrm{Chu}^{\dagger \dagger}$ ・荒瀬由紀 $\dagger$
}

統計的機械翻訳において, 原言語と目的言語における語順の違いは翻訳精度に大きく影響することが知られている。この問題に対して, 翻訳器に入力する前に原言語の語順を並び替える事前並び替え手法が提案されている。先行研究において最高性能を達成している Nakagawa の手法では事前並び替えの学習のために素性テンプレートの設計が必要である。本稿では，データから直接素性べクトルを学習する Recursive Neural Network を用いた事前並び替え手法を提案する。英日・英仏・英中の言語対を用いた評価実験の結果, 英日翻訳では素性テンプレートの設計を必要とせず, Nakagawaの手法と遜色ない精度を達成した。また実験結果の詳細な分析を行い, 事前並び替えに影響を与える要因を分析した。そして近年の機械翻訳において主流となっているニューラル機械翻訳における事前並び替えの効果についても検証した。

キーワード：機械翻訳，事前並び替え, Recursive Neural Network

## Recursive Neural Network-Based Preordering for Statistical Machine Translation and Its Analysis

\author{
Yuki Kawara ${ }^{\dagger}$, Chenhui $\mathrm{ChU}^{\dagger \dagger}$ and Yuki Arase ${ }^{\dagger}$
}

Word-order differences between source and target languages significantly affect statistical machine translation. This problem can be effectively addressed by preordering. A state-of-the-art preordering method would involve manually designed feature templates. In this paper, we propose a method that uses a recursive neural network that can learn end-to-end preordering. English-Japanese, English-French, and EnglishChinese datasets are extensively evaluated. The results confirm that this method achieves an English-to-Japanese translation quality that is comparable with that of the state-of-the-art method, without manually designed feature templates. In addition, a detailed analysis examines the factors affecting preordering and translation quality as well as the effects of preordering in neural machine translation.

Key Words: Machine Translation, Preordering, Recursive Neural Network


## 1 はじめに

フレーズベースの統計的機械翻訳 (Koehn, Och, and Marcu 2003) は, フレーズを翻訳単位として機械翻訳を行う手法である。この手法では局所的な文脈を考慮して翻訳を行うため，英語とフランス語のように，語順が似ている言語対や短い文においては高品質な翻訳を行えることが知られている.しかし, 英語と日本語のように, 語順が大きく異なる言語対では, 局所的な文脈を考慮するだけでは原言語のフレーズを目的言語のどのフレーズに翻訳するかを正しく選択することは難しいため, 翻訳精度が低い。

このような語順の問題に対し，翻訳器のデコーダで並び替えを考慮しつつ翻訳する手法 (Tillmann 2004), 翻訳器に入力する前に原言語文の語順を目的言語文の語順に近づくよう並び替える事前並び替え (Nakagawa 2015), 原言語文をそのまま翻訳した目的言語文を並び替える事後並び替えが提案されている (Hayashi, Sudoh, Tsukada, Suzuki, and Nagata 2013). 特に事前並び替え手法は, 長距離の並び替えを効果的かつ効率的に行える (Jehl, de Gispert, Hopkins, and Byrne 2014; Nakagawa 2015). 先行研究として, Nakagawa (Nakagawa 2015) は Bracketing Transduction Grammar (BTG) (Wu 1997) にしたがって構文解析を行いつつ事前並び替えを行う手法を提案している。この手法は事前並び替えにおいて最高性能を達成しているが, 並び替えの学習のために人手による素性テンプレートの設計が必要である.

そこで, 本稿では統計的機械翻訳のための Recursive Neural Network (RvNN) (Goller and Kuchler 1996; Socher, Lin, Ng, and Manning 2011) を用いた事前並び替え手法を提案する. ニューラルネットワークによる学習の特徴として, 人手による素性テンプレートの設計が不要であり, 訓練データから直接素性べクトルを学習できるという利点がある。また，RvNN は木構造の再帰的ニューラルネットワークであり，長距離の並び替えが容易に行える。提案手法では与えられた構文木にしたがって RvNNを構築し, 葉ノードからボトムアップに計算を行っていくことで, 各節ノードにおいて，並び替えに対して重要であると考えられる部分木の単語や品詞・構文タグを考慮した並び替えを行う。

統計的機械翻訳をべースにすることで，事前並び替えのような中間プロセスに注目した手法の性能が翻訳全体に与える影響について明らかにできる利点がある。また統計的機械翻訳のようにホワイトボックス的なアプローチは, 商用翻訳においてシステムの修正やアップデートが容易であるという利点もある。 さらに現在主流のニューラル機械翻訳 (Luong, Pham, and Manning 2015)でも，統計的機械翻訳とニューラル機械翻訳を組み合わせることで性能を向上するモデルが先行研究 (Wang, Tu, Xiong, and Zhang 2017)により提案されており, 統計的機械翻訳の性能を向上させることは有益である.

英日・英仏・英中の言語対を用いた評価実験の結果, 英日翻訳において，提案手法は Nakagawa の手法と遜色ない精度を達成した，また詳細な分析を実施し，英仏，英中における事前並び替えの
性能，また事前並び替えに影響を与える要因を調査した。さらに近年，機械翻訳の主流となっているニューラル機械翻訳 (Luong et al. 2015) において事前並び替えが与える影響についても実験を行い検証した。

## 2 関連研究

本章では，提案手法と関連の深い事前並び替えに関する既存研究について議論する. Collins ら (Collins, Koehn, and Kucerova 2005) や Gojun and Fraser (Gojun and Fraser 2012), Wang $ら$ (Wang, Collins, and Koehn 2007) は並び替えのルールを定め, そのルールにしたがって事前並び替えを行っている. Xu ら (Xu, Kang, Ringgaard, and Och 2009) や Isozaki ら (Isozaki, Sudoh, Tsukada, and Duh 2010)は木構造に対して並び替えのルールを定め, SVO 型言語である英語から SOV 型言語への翻訳における事前並び替えを行っている。これらの手法のように，ある言語対について並び替えのルールを定めるためには原言語と目的言語についての知識が必要であり，また全ての言語対において並び替えのルールを定めることは難しい．そのため，ルールに基づいた並び替えでは適用可能な言語対が限られてしまう.

そこで，対訳コーパスから自動で並び替えを学習する手法も提案されている．Zhang ら (Zhang， Zens, and Ney 2007) や Crego and Habash (Crego and Habash 2008) は $n$-gram からなるチャンクに対して，並び替えルールを対訳コーパスから得る手法を提案している. Crego and Marino (Crego and Mariño 2006) や Tromble and Eisner (Tromble and Eisner 2009)は品詞タグを用いた事前並び替え手法を提案している。また Visweswariah ら (Visweswariah, Rajkumar, Gandhe, Ramanathan, and Navratil 2011) は単語をノードとしたグラフを作成し, 巡回セールスマン問題として並び替えの問題を定式化している.

木構造を用いることで長距離の部分フレーズの並び替えが容易に行えるという利点があるため,木構造を用いる手法も多く提案されている. Xia and McCord (Xia and McCord 2004)や Genzel (Genzel 2010)は木構造から並び替えパターンを抽出し，これを原言語文に適用することで並び替えを行っている。機械学習を用いて並び替えを学習する手法も提案されている． Li ら (Li, Li, Zhang, Li, Zhou, and Guan 2007) は構文木での各ノードにおいて最大エントロピーモデルを用いて，子ノードが 3 つ以内のノードに限定して学習および並び替えを行うモデルを提案している. Lerner and Petrov (Lerner and Petrov 2013) は依存木に対して，子ノードが7つ以内のノードに対して並び替えを行う手法を提案している. Yang ら (Yang, Li, Zhang, and Yu 2012)は並び替えを子ノー ドの順序を求める順序問題とし, Ranking-SVM (Joachims 2002) を用いて子ノードの順序を求めることで並び替えを行っている。

木構造を用いて各ノードにおける子ノードの順序を決定するようなモデルでは, 子ノードの数が多くなるにつれて並び替え候補が爆発的に増加するという問題がある。そこで，木構造を 2 分木に
限定することで，各ノードにおいて子ノードを並び替えるか否かという二値分類の問題として定義できる. Jehl ら (Jehl et al. 2014) は 2 分木に対して, アラインメントの交差が少なくなるようにロジスティック回帰モデルを用いて並び替えを学習する手法を提案している．Hoshino ら (Hoshino， Miyao, Sudoh, Hayashi, and Nagata 2015) は， 2 分木に対して順位相関係数である Kendall の $\tau$ (Kendall 1938) が最大となるように二値分類の分類器を用いて各ノードでの並び替えを行っている. DeNero and Uszkoreit (DeNero and Uszkoreit 2011) は構文解析をしつつ同時に並び替えも学習する手法を提案している. Neubig ら (Neubig, Watanabe, and Mori 2012)は BTGに基づいて構文木の構築および並び替えを行う手法を提案しているが，計算量が多く時間がかかるという問題があった。本稿で比較を行う Nakagawa (Nakagawa 2015)の手法は，BTGに基づく並び替えにおける計算量の問題を解決した手法であり，翻訳において最高性能を達成している，原言語文と単語アラインメントからトップダウンで 2 分木を構築しつつ, 各ノードで並び替えをするか否かを学習する. 2 単語以上のスパンのうち, どこで区切るか, 区切った部分の前後を並び替えるかをトップダウンで再帰的に計算していくことで, 最終的に構文木および各節ノードでのラベルが決定される.構文木を構築しながら並び替えも予測するため構文解析を事前に行う必要がなく, 構文解析器の精度に依ることなく並び替えを行える。しかしその学習のために素性テンプレートを人手で設計する必要がある。

近年では，素性テンプレートの設計を必要としないニューラルネットワークに基づいた手法も提案されている. de Gispert ら (de Gispert, Iglesias, and Byrne 2015) はフィードフォワードニュー ラルネットワーク (FFNN) を用いた 2 分木での並び替えを提案している. Botha ら (Botha, Pitler, Ma, Bakalov, Salcianu, Weiss, McDonald, and Petrov 2017)も FFNN を用いた並び替えを提案しているが，木構造を用いずに並び替えを行っている. Miceli-Barone and Attardi (Miceli Barone and Attardi 2015) は Recurrent Neural Network (RNN) を用いて依存木のノードを辿ることで並び替え手法を提案している，彼らは，単語を出力する “EMIT”，親ノードへ移動する “UP”, $j$ 番目のノードへ移動する“DOWN ${ }^{j}$ ”の 3 つの動作を定義し，RNNで動作を予測することで並び替えを行う. Kanouchi ら (Kanouchi, Sudoh, and Komachi 2016) は統計的機械翻訳の翻訳モデルにより抽出するフレーズペアについて，RvNNを用いて並び替えラべルを推定することで，翻訳システムの内部で翻訳と同時にフレーズの並び替えを行う，提案手法と同様 RvNN を用いているが，提案手法は翻訳システムとは独立して事前並び替えを行う点で異なる。また提案手法では原言語の構文木に対してボトムアップに構築される RvNN を用いて 2 種類のラべルの予測を行うことで，部分木全体を考慮した並び替えを行える。構文木を用いることで，長距離の並び替えがより簡単に行えるという利点がある. Kawara ら (Kawara, Chu, and Arase 2018) は英日対において RvNNを用いた事前並び替え手法を提案し, 提案手法が有効であることを示している。本稿では英日, 英仏,英中対に対して RvNNを用いた事前並び替えを適用し，詳細な分析を行う.

## 3 Recursive Neural Networkによる事前並び替え

本章では提案手法である RvNN による並び替え手法を説明する。まず提案手法のべースとなる，文対における語順の近さを測る指標である Kendall の $\tau$ を説明する。次に節ノードにおける正解ラベル付与のアルゴリズムについて述べ，RvNNを用いた事前並び替えモデルについて述べる.

## $3.1 \quad$ Kendall $の \tau$

Kendall の $\tau$ (Kendall 1938) は順位相関係数の 1 つであり，式 (1) で計算される.

$
\begin{aligned}
& \tau(\boldsymbol{a})=\frac{4 \sum_{i=1}^{n-1} \sum_{j=i}^{n} \delta\left(\boldsymbol{a}_{i}<\boldsymbol{a}_{j}\right)}{|\boldsymbol{a}|(|\boldsymbol{a}|-1)}-1, \\
& \delta(x)= \begin{cases}1 & (x \text { is true }) \\
0 & \text { (otherwise) }\end{cases}
\end{aligned}
$

数列 $\boldsymbol{a}$ の要素が完全に昇順に並んでいる場合， $\tau(\boldsymbol{a})$ は 1 を，完全に降順であれば -1 をり，それ以外であれば $-1<\tau(\boldsymbol{a})<1$ となる. 式 (1) は $\boldsymbol{a}$ に含まれる数值のぺア $\boldsymbol{a}_{i}$ と $\boldsymbol{a}_{j}(i<j)$ が昇順 $\left(\boldsymbol{a}_{i}<\boldsymbol{a}_{j}\right)$ になっている割合を -1 から 1 の間に正規化したものであり，この値が大きいほど昇順に並んでいるぺアの割合が多い.

## 3.2 正解ラベルの付与

提案手法では， 2 分木である句構文木の各節ノードにおいて子ノードの順序を入れ替えるかどうかのラベル付けを行い，並び替えの訓練データを作成する．Algorithm 1 に正解ラベル付与の擬似コードを示す. 入力は 2 分木のノード $n$ と単語アラインメント $\boldsymbol{a}$ である. ノードは左右の子ノー ドへのリンク（left および right）と，並び替えを示すラベル (label) を保持する. $\boldsymbol{a}[n]$ は，葉ノー ドにおける単語のアラインメントの目的言語におけるインデックスを表す。並び替えのラベルは関数 $\operatorname{KendallTau}\left(a_{l}, a_{r}\right)$ により，3.1 節で説明した手法で Kendall の $\tau$ の値を計算し，その結果に基づいて決定する，各節ノードにおいて，子ノードを並び替えた際に Kendall の $\tau$ が大きくなる場合は並び替えを行う“Inverted”ラベルを，小さくなるまたは変わらない場合はそのままの順序を維持する “Straight” ラベルを付与する。これをボトムアップで行うことで，与えられた構文木において Kendall の $\tau$ が最大となるようにラベルが付与される.

## 3.3 事前並び替えモデル

RvNN は木構造型のニューラルネットワークである (Goller and Kuchler 1996; Socher et al. 2011). RvNNにおける各ノードは図 1 に示す構造を持ち, これを再帰的に結合することで, 木構造型のニューラルネットワークを構築する。

図 $1 \mathrm{RvNN}$ の基本となる構造

提案手法では句構文木にしたがって RvNN を構築し，各節ノードにおいて Algorithm 1 で付与した正解ラベルを予測する学習を行う．Algorithm 2 に予測したラベルを用いた並び替えの擬似コー ドを示す. 入力は Algorithm 1 によって正解ラベルが付与された 2 分木のノード $n$ であり, 左右の子ノードへのリンク（left および right）と並び替えの予測結果を保持する label を持つ. len($\cdot$)は要素の数を計算する。葉ノードはさらに自身の単語 word とそのベクトル表現 $e$ を保持する． $S_{l}$, $S_{r}$ は並び替え後の単語列である。節ノードにおいては, 左と右の子ノードから, それぞれのべクトル表現 $\boldsymbol{v}_{l}, \boldsymbol{v}_{r}$ を入力とし, 関数 $\operatorname{RvNN}\left(\boldsymbol{v}_{l}, \boldsymbol{v}_{r}\right)$ によって自身のべクトルの計算とラベルの予測を行う. $\operatorname{RvNN}\left(\boldsymbol{v}_{l}, \boldsymbol{v}_{r}\right)$ はべクトル表現 $\boldsymbol{v}_{l}, \boldsymbol{v}_{r}$ を受け取り，予測されたラベル Label と節ノードのベク

トル $\boldsymbol{v}$ を返す関数である。左の子ノードと右の子ノードのベクトル表現を用いてラベルを予測することで，部分木を考慮しつつ並び替えを行うかどうかを決定できる。

図 2 に “My parents live in London”という文に対してRvNNを用いた並び替えの例を示す. 例えば “live in London”のフレーズに対応したノードにおいて, 式 (2) に従い “live”と "in London” の子ノードを考慮してべクトルを計算する。

$
\begin{aligned}
\boldsymbol{v} & =f\left(\left[\boldsymbol{v}_{l} ; \boldsymbol{v}_{r}\right] W+\boldsymbol{b}\right) \\
\boldsymbol{s} & =\boldsymbol{v} W_{s}+\boldsymbol{b}_{\boldsymbol{s}}
\end{aligned}
$

$f$ は $\operatorname{ReLU}$ 関数, $W \in \mathbb{R}^{\lambda \times 2 \lambda}$ は重み行列, $\boldsymbol{v}_{l}, \boldsymbol{v}_{r} \in \mathbb{R}^{\lambda}$ はそれぞれ左, 右の子ノードのベクトル,

図 2 "My parents live in London"の RvNNによる並び替え（横線が引いてある節ノードは "Inverted").緑色はノードのベクトルを表し, 青色は品詞・構文タグのべクトルを表す.
$W_{s} \in \mathbb{R}^{2 \times \lambda}$ は出力層における重み行列， $\boldsymbol{b} \in \mathbb{R}^{\lambda}, \boldsymbol{b}_{\boldsymbol{s}} \in \mathbb{R}^{2}$ はバイアス項を表す（ $\lambda$ は隠れ層の次元数を表す)．また $[\cdot ; \cdot]$ はベクトルを結合する． $\mathbf{s} \in R^{2}$ は各ラベルに対する重みのベクトルであり，式 (4) に示すソフトマックス関数に入力することで “Straight” および “Inverted” ラベルの確率を計算する.

$
p_{i}=\frac{\exp \left(\boldsymbol{s}_{i}\right)}{\sum_{m=1}^{|s|} \exp \left(\boldsymbol{s}_{m}\right)}
$

$|\cdot|$ はべクトルの次元数を表し, ここでは $|s|=2$ である.

葉ノードでは, 単語ベクトルを入力とし, 式 (5)によってべクトル表現を得る.

$
\begin{aligned}
\boldsymbol{e} & =\boldsymbol{x} W_{x} \\
\boldsymbol{v}_{e} & =f\left(\boldsymbol{e} W_{e}+\boldsymbol{b}_{e}\right)
\end{aligned}
$

ここで $\boldsymbol{x} \in \mathbb{R}^{V}$ は入力単語を表す one-hot ベクトル， $W_{x} \in \mathbb{R}^{V \times \lambda}$ は単語分散表現を表す行列（ $V$ は語彙数を表す), $W_{e} \in \mathbb{R}^{\lambda \times \lambda}$ は重み行列， $\boldsymbol{b}_{e} \in \mathbb{R}^{\lambda}$ はバイアス項である. ロス関数は式 (6) で定義される交差エントロピーを用いる.

$
L(\theta)=-\frac{1}{K} \sum_{k=1}^{K} \sum_{n \in \mathcal{T}} \log p\left(l_{k}^{n} ; \theta\right)
$

$\theta$ はモデルのパラメータ， $n$ は構文木 $\mathcal{T}$ のノードであり,$K$ はミニバッチのサイズ, $l_{k}^{n}$ はミニバッチの $k$ 番目の構文木の $n$ 番目のノードのラベルを表す.

本稿では, 各ノードにおける品詞もしくは構文夕グを考慮する手法も提案する。これらを考慮する際は，式 (2)に代わり式 (7)を用いる.

$
\boldsymbol{v}_{t}=f\left(\left[\boldsymbol{v}_{l} ; \boldsymbol{v}_{r} ; \boldsymbol{e}_{t}\right] W_{t}+\boldsymbol{b}_{t}\right)
$

$\mathbf{e}_{t} \in \mathbb{R}^{\lambda}$ は品詞・構文タグの情報を表現するべクトルで, 各ノードの品詞または構文夕グを表す one-hot ベクトルを入力とし, 式 (5) と同様に計算する. $W_{t} \in \mathbb{R}^{3 \lambda \times \lambda}$ は重み行列, $\boldsymbol{b}_{t} \in \mathbb{R}^{\lambda}$ はバイアス項である.

## 4 翻訳性能評価

本章では事前並び替えを用いた翻訳評価実験について述べる。まず初めに実験設定について述べ，実験結果を示す．その後，翻訳結果の詳細な分析を行う。

## 4.1 実験設定

英日，英仏，英中対において原言語文の事前並び替えを行い，その上で機械翻訳システムを訓練し，翻訳精度を評価する。英日翻訳は ASPEC コーパス (Nakazawa， Yaguchi, Uchimoto， Utiyama, Sumita, Kurohashi, and Isahara 2016)を用いた. ASPEC コーパスは Utiyama and Isahara (Utiyama and Isahara 2007) による文アラインメント類似度に基づいて対訳文がランク付けされている。本稿では上位 50 万文対から 10 万文対をサンプリングして事前並び替えの訓練データとした。英仏翻訳は Common Crawl コーパス (Bojar, Chatterjee, Federmann, Haddow, Huck, Hokamp, Koehn, Logacheva, Monz, Negri, Post, Scarton, Specia, and Turchi 2015)を用いた. Common Crawlコーパスに含まれる訓練デー夕は約 291 万文対, 開発データ (newstest2013) は 3,000 文対，テストデータ (newstest2014) は 3,003 文対である. 英中翻訳は IWSLT コーパス (Cettolo, Niehues, Stüker, Bentivogli, Cattoni, and Federico 2015)を用いた. IWSLTコーパスに含まれる訓練データは約 21 万文対, 開発データ $(\operatorname{dev} 2010)$ は 887 文対, テストデータ (tst2013)は 1,261 文対である．英仏，英中ともに，訓練データから無作為にサンプリングした 10 万文を並び替えの訓練データとした. 全ての言語対において, 先行研究 (Nakagawa 2015; Luong et al. 2015) と同様翻訳器の学習には原言語, 目的言語ともに 50 単語以下で, 文対の単語数の比は Moses の前処理スクリプトのデフォルト値である 9 以下の条件を満たす文対を用いた．表 1 に翻訳システムの訓練に用いたデータの統計量を示す.

英語文は Stanford CoreNLP 1 で単語分割と品詞夕グ付けを，Enju 2 で構文解析を行った。日本語文は MeCab 3 で形態素解析を, Ckylark 4 で構文解析を行った. フランス語文は Moses に付属しているスクリプト5で単語分割を行い, Berkeley Parser ${ }^{6}$ で構文解析を行った. 中国語文は KyotoMorph ${ }^{7}$ を用いて単語分割を行い，Berkeley Parserで構文解析を行った．KyotoMorphの訓練には CTB version 5 (CTB5) と SCTB (Chu, Nakazawa, Kawahara, and Kurohashi 2016) を用いた. 並び替えの学

表 1 翻訳の学習に用いたデータの統計量（文対）

^{4}$ https://github.com/odashi/Ckylark

5 https://github.com/moses-smt/mosesdecoder/blob/master/scripts/tokenizer/tokenizer.perl

6 https://github.com/slavpetrov/berkeleyparser

7 https://bitbucket.org/msmoshen/kyotomorph-beta
}
習における単語アラインメントは MGIZA8を用い, IBM Model1 と hidden Markov model をそれぞれ 3 回繰り返して両方向のアラインメントを計算した. この時の単語クラス数は, 先行研究 (Nakagawa 2015) にしたがって 256 とした. その後, intersectionのルールにより最終的なアラインメントを獲得した。

提案手法である RvNN は Chainer ${ }^{9}$ を用いて実装し，語彙は頻度が高いものから 5 万語を用いた.最適化には Adam (Kingma and Ba 2015) に重み減衰 (0.0001) および GradientClipping (5) を適用して行った。ミニバッチサイズは 500 とした。開発データにおけるロス值が最小となったエポック（英日：2，英中・英仏：5）のモデルを用い，事前並び替えを行う．Nakagawa (Nakagawa 2015)

を行った 10 万文対の対訳データを用い事前並び替えを行った。

統計的機械翻訳器として Moses ${ }^{11}$ のフレーズベース統計的機械翻訳 (PBSMT) を用いた。訓練データの目的言語文を用いて KenLM ${ }^{12}$ で 5-gram 言語モデルを訓練した. 並び替えモデルは Linear モデル (Koehn et al. 2003)を用いた。 ハイパーパラメータのチューニングは開発データを用いて MERT (Och 2003) で 3 回行った. それぞれの設定でテストデータの翻訳を評価した評価値の平均を最終的な評価値とする。また，ニューラル機械翻訳器として OpenNMT ${ }^{13}$ の注意機構モデルを用いた。語彙は原言語, 目的言語ともに頻度の上位 5 万語を用い, 単語ベクトルの次元数は 500 , 隠れ層のべクトルの次元数は 500 とした. デフォルトの設定に従い，エンコーダ，デコーダともに 2 層のLSTM を用いた. バッチサイズは 64 文とし, 13 エポックの学習を行った.

翻訳精度の評価指標として BLEU (Papineni, Roukos, Ward, and Zhu 2002), また語順の評価指標として RIBES (Sudoh and Nagata 2016) を用いた. それぞれの評価値の統計的有意差を検証するため, ブートストラップによる検定 (Koehn 2004)を行った.

## 4.2 実験結果

## 4.2.1提案手法における品詞・構文タグの効果

RvNN における品詞・構文タグおよび単語べクトル, 節ノードのベクトルの次元数が事前並び替えおよび PBSMT の翻訳精度に与える影響を検証するため，英日対において ASPEC コーパスの上位 50 万文対を用いて実験を行った，表 2 に，単語のみを入力とした場合と品詞・構文夕グを付与した場合の開発セットにおける BLEU 値を示す. WAT2017 のベースラインシステム14 と同様に並び替えなしのものは歪み制約は 20 とし， BTG と RvNN で並び替えを行った場合の歪み制約は
^{9}$ http://chainer.org/

$10 \mathrm{http}: / /$ github.com/google/topdown-btg-preordering

11 http://www.statmt.org/moses/

12 http://github.com/kpu/kenlm

$13 \mathrm{http}: / /$ opennmt.net/

14 http://lotus.kuee.kyoto-u.ac.jp/WAT/WAT2017/baseline/baselineSystemPhrase.html
}
表 2 ベクトルの次元数と品詞・構文タグの有無による開発セットにおける BLEU の変化 (英日 ASPEC コー パスの 50 万文対で学習)

0 とした. 品詞・構文タグがない場合, ベクトルの次元数が 100 の時に比べて, 200 の時は BLEU 值が低下しているが, 500 の時は向上している. 品詞・構文タグを用いた場合, ベクトルの次元数が 100 の時に比べて，200 の時は BLEU 値が向上したが，500 の時は低下している．また，品詞$\cdot$構文タグを用いないべクトル次元数が 500 の時と，品詞・構文タグを用いたべクトル次元数が 200 の時を比較すると, 有意差は見られなかった. 以上の結果に基づき, 以降の実験では隠れ層のべクトルの次元数をより少ない 200 とし，品詞・構文タグを用いて事前並び替えを行う.

## 4.2.2 PBSMT およびNMT による翻訳精度

PBSMT，NMT により翻訳を行った結果を表 3 に示す. BTG と RvNNで事前並び替えを行ったものは PBSMT における歪み制約を 0 とした，並び替えなしのものは英日，日英では WAT2017 のベースラインシステムの設定に従い，歪み制約を 20 とした。 英中, 中英, 英仏, 仏英対では歪み制約を Moses のデフォルト値である 6 とした ${ }^{15}$.

PBSMT で翻訳を行った場合，英日方向の翻訳では並び替えなしに比べて RvNN と BTGの両方でBLEU 值がそれぞれ 4.62 ポイント， 4.97 ポイント有意に向上した. また RIBES 值も事前並び替えなしに比べて, RvNN および BTG で 8.77 ポイント, 9.58 ポイント有意に向上した. これらの結果から, 英日翻訳において事前並び替えを行うことで翻訳精度が大きく向上していることが分かる. RvNN と BTGでは， BLEU 値およびRIBES 値において統計的有意差は認められなかった ( $p$ 值はそれぞれ $p=0.068, p=0.226$ であった). このことから提案手法では, 素性テンプレートの設計を必要とすることなく, 事前並び替え手法の state-of-the-art である BTG と同等の翻訳性能を達成していることが分かる.

英仏，英中方向における PBSMT を用いた翻訳結果の BLEU 值およびRIBES 值は，BTG では有意に向上したが, RvNNでは並び替えなしと同程度となった. 一方で, RvNN, BTG, 並び替えなしの三者について，英仏・英中翻訳における RIBES の値に有意差はなかった. これは英中，英仏の言語対では元々長距離の語順変換が不要であるため, 事前並び替えの効果が限定的だったこと

表 3 テストセットにおける BLEU および RIBES の評価結果（最も性能の高いものと有意差がないもの $(p<0.05)$ を太字で表す)

を示唆していると考える。

また日英方向では, PBSMT を用いた翻訳結果では, 並び替えなしと比較して RvNNによる事前並び替えを行うことで，BLEU 值が有意に 1.99 ポイント向上している. しかしBTGでの並び替えによる BLEU 值の向上には及ばない結果となった. RIBES 值は RvNN と BTG でそれぞれ 7.65 ポイント, 8.27 ポイントの向上を達成している. 仏英, 中英方向において PBSMT による翻訳では, BTGによる並び替えでは BLEU 值が並び替えなしの場合に比べ有意に向上しているが，RvNNによる並び替えでは，並び替えなしの場合よりも低下している。これは構文木の精度が影響したものと考えられ，4.3.1 項において分析する。

NMT を用いた翻訳では，RvNNによる事前並び替えを行うと，英日，英中，日英，仏英方向の翻訳において BLEU 值, RIBES 值が低下した. しかし, 英仏方向では BLEU 値が 0.65 ポイント, RIBES 値が 0.18 ポイント, 中英方向では BLEU 值が 0.62 ポイント, RIBES 值が 0.57 ポイント向上した，BTGによる事前並び替えでは，NMT を用いて翻訳を行うと，並び替えなしの場合に比べ，すべての言語対で BLEU 値，RIBES 值が低下する結果となった。これは Sudoh ら (Sudoh and Nagata 2016)の英中翻訳における実験結果と共通の現象であり, 原因の1つとして, 事前並び
替えにより言語の構造が崩れてしまうことが考えられる．しかし英仏，中英対においては，RvNN の事前並び替えの結果，NMT の翻訳精度が向上しており，NMT においても事前並び替えによる効果が発揮される場合があることを示している，今後，提案手法をNMT のモデルに組み込み同時に学習を行うことで，NMT における翻訳精度の向上に取り組む予定である。

NMT による翻訳における RIBES 値について，英仏，仏英翻訳において BTGによる並び替えを行った PBSMT の性能が事前並び替えなしのNMT の性能をわずかに上回っているが，これらの結果には統計的有意差はなかった（それぞれ $p=0.329, p=0.323$ ）. 先行研究でも示されている通り，本実験においても事前並び替えの有無に関わらず，NMT がSMT を上回る結果となっている.

## 4.3 分析

## 4.3.1事前並び替えと翻訳精度の関係分析

事前並び替えの性能が翻訳結果に与える影響を調査するため，事前並び替えの性能と翻訳精度の関連を分析する。入力文の理想的な事前並び替えが行えると，原言語と目的言語の語順が等しくなる。つまり，並び替えた入力文と参照翻訳の語順が等しくなり，翻訳タスクは逐語翻訳に近づくと考えられる，そのため，並び替えた入力文と参照翻訳の語順の近さを評価する Kendall の $\tau$ と，翻訳結果と参照翻訳の語順を評価する RIBES 値には相関があると期待される。また逐語翻訳に近づくことで翻訳タスク自体が簡単になり，BLEU 値も向上すると期待できる。表 4 に，開発セットにおける並び替え前後の入力文それぞれと参照翻訳文間の Kendall の $\tau$ と, PBSMT による翻訳結果の BLEU 値, RIBES 値を示す。英日対において, RvNN は並び替えなしに比べて Kendall の $\tau$ が 27.07 ポイント向上しており, 英語, 日本語文での語順の一致率を大きく向上できている． BLEU 值, RIBES 值もそれぞれ 3.68 ポイント， 8.27 ポイント向上している．日英対においても並び替えなしと比較して RvNNによる事前並び替えで Kendall の $\tau$ が 10.83 ポイント向上し, BLEU 值, RIBES 値もそれぞれ 2.27 ポイント, 8.23 ポイント向上している. つまり RvNNでは, 語順の一致率を大きく向上できた英日，日英対では，BLEU 值および RIBES 值を改善できていることが分かる。一方, 仏英, 中英対では並び替えなしに比べて RvNN の Kendall の $\tau$ がそれぞれ 1.08 ポイント, 0.26 ポイント向上したが, BLEU 值, RIBES 値に有意な変化はみられなかった. このことから，事前並び替えにより語順の一致率を高めることができれば，翻訳精度に大きく貢献できるが， Kendall の $\tau$ の小規模な改善が翻訳精度に与える影響は限定的であることが分かる.

一方で, BTGでは仏英対において Kendall の $\tau$ を 1.43 ポイント向上できており，またBLEU 值, RIBES 值がそれぞれ 1.27 ポイント, 0.41 ポイント, 中英対においても Kendall の $\tau$ を 1.65 ポイント改善し, また RIBES 值が 0.24 ポイント向上している. 提案手法では中英対において BLEU, RIBES を向上できなかった理由として，構文解析エラーの影響が考えられる．BTGでは事前並び替えに適した木構造を構築しながら並び替えを行う。一方, RvNNでは構文解析器が出力する構文木に基づいて事前並び替えを行うため，構文解析器の精度が RvNN による並び替えの精度に影響
表 4 開発データにおける Kendall の $\tau$ と BLEU およびRIBES との関係（最も性能の高いものと有意差がないもの $(p<0.05)$ を太字で表す $)$

する。本実験で用いた構文解析器の精度は, 中国語で $77 \%$ (Che, Spitkovsky, and Liu 2012) と報告されており，英語の場合の $91 \%$ (Miyao and Tsujii 2008) より大幅に低い. 中英翻訳のため構文解析した中国語文のうち, 開発データから一文単位の BLEU 値が低下した 50 件を観察した結果,構文解析エラーと単語アラインメントの質が低いことによる複合的な要因により事前並び替えに失敗していることが明らかとなった。構文解析に失敗した文は 13 文あり，そのうち名詞句の解析誤りが 9 件, 動詞句の解析誤りが 6 件あった。これらの構文解析エラーにより, 事前並び替えに失敗したものは 6 件あった. このうち構文解析エラーによりどのような並び替えを行っても Kendall の $\tau$ を向上できないものが 3 件，単語アラインメントそのものができておらず，どのような並び替えを行ってもKendall の $\tau$ を向上できないものが 2 件あった.これらは中英翻訳の実験に用いた対訳コーパス (IWSLT2015) は TED より収集された口語体の文であるため構文解析が難しく，またコーパスサイズが小さいことから単語アラインメントも困難なためと考えられる。

## 4.3.2 機械学習手法の効果

次に，提案手法では構文木に基づく機械学習により事前並び替えを行うが，構文木を用いる効果および機械学習手法の効果を分けて検証するため, 提案手法と同様に機械学習を用いて構文木の各

ノードで並び替えを行う手法である Hoshino ら (Hoshino et al. 2015) と英日対で比較実験を行った. Hoshino らの手法は，機械学習手法として Support Vector Machine を用いるものである。表 5 にその結果を示す. Hoshino らの手法と比較して，RvNN を用いた翻訳では BLEU 値が有意に 0.58 ポイント高い結果となった. この結果より, 単語ベクトルおよび品詞・構文タグベクトルを考慮し RvNN による事前並び替えを行うことで，構文情報をよりとらえた並び替えを実現できることが分かる.

## 4.3.3翻訳例の分析

表 6 に英日対において事前並び替えに成功した例，およびその PBSMT，NMT を用いた翻訳結果を示す。原文と参照訳では語順が大きく異なっているが，並び替えを行うことで語順が近づいていることが分かる．PBSMT による翻訳例では，並び替えなしの文と比べ，並び替えを行った文は意味が通るような訳文となっている．特に，動詞である“causes”が並び替えを行うことで文末に

表 5 機械学習手法の違いによる並び替えの PBSMT による英日対での翻訳評価（最も性能の高いものと有意差がないもの $(p<0.05)$ を太字で表す $)$

表 6 英日対における並び替えの成功例とその翻訳例

 \\

移動し，参照訳の「ひきおこす」と同様の意味を表す「原因となる」と翻訳されており，並び替えなしの翻訳である「部品である」と比べて正しい翻訳結果となっている．NMTによる翻訳例では PBSMT による翻訳例と比較してより流暢な翻訳となっているが，低頻度語である “economizer" が 〈unk〉と翻訳されている.

表 7 に英日対において事前並び替えに失敗した例およびその PBSMT，NMT による翻訳結果を示す．RvNNによる並び替えの例では，元々括弧外にあった単語列が，並び替えの結果括弧の中に入っていたり, 左括弧と右括弧の順番が反対になっている。これは構文解析の結果, 図 3 に示すように“(c)”というフレーズが誤って二つの句に分断されており，その誤りが事前並び替えに影響してしまったためである。BTG では構文解析と並び替えを同時に行うため，このような構文解析誤りの影響を受けない.

表 8,9 に，英仏対および英中対での並び替えおよび翻訳結果を示す.これらの言語対では語順が似ているため，事前並び替えを行っても語順はほとんど変化せず，実際に並び替えなしの文と BTG，RvNN によって並び替えられた文も，それほど変化していない.

表 7 英日対における並び替えの失敗例とその翻訳例

 \\

) of sd rats was recorded to examine the effects of chinoform (c) on thermal reaction

図 3 失敗した構文解析結果の一部分（横線が引いてある節ノードは “Inverted”を示す）

表 8 英仏対における並び替えの例とその翻訳例

 \\

## 5 まとめ

本稿では統計的機械翻訳のための素性テンプレートの設計を必要としないRvNNを用いた事前並び替え手法を提案した，英日，英仏，英中言語対を用いた評価実験の結果，提案手法は英日統計的
表 9 英中対における並び替えの例とその翻訳例

 \\

機械翻訳において, 人手で設計した素性テンプレートに基づく事前並び替え手法の state-of-the-art (Nakagawa 2015) と同等の翻訳性能を達成している. しかし, 提案手法では構文解析を必要とするため, 構文解析の誤りが事前並び替えの精度に影響する。よって，構文解析とノードの並び替えを同時に行うモデルの構築が今後の課題の 1 つとして挙げられる.

先行研究 (Sudoh and Nagata 2016; Du and Way 2017) において, 事前並び替えを行った文対で NMT を訓練すると，翻訳精度が低下することが報告されている。しかし提案手法を用いた場合,英仏, 中英対では NMT において BLEU 值が有意に向上しており, 事前並び替えがNMT に貢献する可能性が示された. 提案手法では事前並び替えとNMT は完全に独立なモデルとなっているが， これらを統合し，事前並び替えモデルとNMT の訓練を同時に行うことでNMT に適した事前並び替えを行えると期待できる，今後，このような事前並び替えとNMT モデルを融合した手法に取り組む予定である.

## 謝 辞

本研究は, 日本電信電話株式会社コミュニケーション科学基礎研究所及び JSPS 科研費\#17H06822 の助成を受けたものです。本稿の評価実験を行うにあたり，ご協力いただた星野翔氏に深謝いたします。

## 参考文献

Bojar, O., Chatterjee, R., Federmann, C., Haddow, B., Huck, M., Hokamp, C., Koehn, P., Logacheva, V., Monz, C., Negri, M., Post, M., Scarton, C., Specia, L., and Turchi, M. (2015). "Findings of the 2015 Workshop on Statistical Machine Translation." In Proceedings of the 10th Workshop on Statistical Machine Translation (WMT), pp. 1-46, Lisbon, Portugal.

Botha, J. A., Pitler, E., Ma, J., Bakalov, A., Salcianu, A., Weiss, D., McDonald, R., and Petrov, S. (2017). "Natural Language Processing with Small Feed-Forward Networks." In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 2879-2885, Copenhagen, Denmark.

Cettolo, M., Niehues, J., Stüker, S., Bentivogli, L., Cattoni, R., and Federico, M. (2015). "The IWSLT 2015 Evaluation Campaign." In Proceedings of the International Workshop on Spoken Language Translation (IWSLT), pp. 2-10, Tokyo, Japan.

Che, W., Spitkovsky, V., and Liu, T. (2012). "A Comparison of Chinese Parsers for Stanford Dependencies." In Proceedings of the Annual Meeting of the Association for Computational Linguistics (ACL), pp. 11-16, Jeju Island, Korea.

Chu, C., Nakazawa, T., Kawahara, D., and Kurohashi, S. (2016). "SCTB: A Chinese Treebank in Scientific Domain." In Proceedings of the Workshop on Asian Language Resources (ALR), pp. 59-67, Osaka, Japan.

Collins, M., Koehn, P., and Kucerova, I. (2005). "Clause Restructuring for Statistical Machine Translation." In Proceedings of the Annual Meeting of the Association for Computational Linguistics (ACL), pp. 531-540.

Crego, J. M. and Habash, N. (2008). "Using Shallow Syntax Information to Improve Word Alignment and Reordering for SMT." In Proceedings of the Workshop on Statistical Machine Translation, pp. 53-61, Columbus, Ohio.

Crego, J. M. and Mariño, J. B. (2006). "Improving Statistical MT by Coupling Reordering and Decoding." Machine Translation, 20 (3), pp. 199-215.

de Gispert, A., Iglesias, G., and Byrne, B. (2015). "Fast and Accurate Preordering for SMT using Neural Networks." In Proceedings of the Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (NAACL-HLT), pp. 1012-1017, Denver, Colorado.

DeNero, J. and Uszkoreit, J. (2011). "Inducing Sentence Structure from Parallel Corpora for Reordering." In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 193-203, Edinburgh, UK.

Du, J. and Way, A. (2017). "Pre-Reordering for Neural Machine Translation: Helpful or Harmful?" The Prague Bulletin of Mathematical Linguistics, 108, pp. 171-182.

Genzel, D. (2010). "Automatically Learning Source-side Reordering Rules for Large Scale Machine Translation." In Proceedings of the International Conference on Computational Linguistics (COLING), pp. 376-384, Beijing, China.

Gojun, A. and Fraser, A. (2012). "Determining the Placement of German Verbs in English-toGerman SMT." In Proceedings of the Conference of the European Chapter of the Association for Computational Linguistics (EACL), pp. 726-735, Avignon, France.

Goller, C. and Kuchler, A. (1996). "Learning Task-dependent Distributed Representations by Backpropagation through Structure." In Proceedings of the IEEE International Conference on Neural Networks, 1996, Vol. 1, pp. 347-352.

Goto, I., Utiyama, M., Sumita, E., Tamura, A., and Kurohashi, S. (2013). "Distortion Model Considering Rich Context for Statistical Machine Translation." In Proceedings of the Annual Meeting of the Association for Computational Linguistics (ACL), pp. 155-165, Sofia, Bulgaria.

Hayashi, K., Sudoh, K., Tsukada, H., Suzuki, J., and Nagata, M. (2013) In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1382-1386, Seattle, USA.

Hoshino, S., Miyao, Y., Sudoh, K., Hayashi, K., and Nagata, M. (2015). "Discriminative Preordering Meets Kendall's $\tau$ Maximization." In Proceedings of the Annual Meeting of the Association for Computational Linguistics and International Joint Conference on Natural Language Processing (ACL-IJCNLP), pp. 139-144, Beijing, China.

Isozaki, H., Sudoh, K., Tsukada, H., and Duh, K. (2010). "Head Finalization: A Simple Reordering Rule for SOV Languages." In Proceedings of the Workshop on Statistical Machine Translation and MetricsMATR, pp. 244-251, Uppsala, Sweden.

Jehl, L., de Gispert, A., Hopkins, M., and Byrne, W. (2014). "Source-side Preordering for Translation using Logistic Regression and Depth-first Branch-and-Bound Search." In Proceedings of the Conference of the European Chapter of the Association for Computational Linguistics (EACL), pp. 239-248, Gothenburg, Sweden.

Joachims, T. (2002). "Optimizing Search Engines using Clickthrough Data." In Proceedings of the ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, pp. 133-142, New York, USA.

Kanouchi, S., Sudoh, K., and Komachi, M. (2016). "Neural Reordering Model Considering Phrase Translation and Word Alignment for Phrase-based Translation." In Proceedings of
the Workshop on Asian Translation (WAT), pp. 94-103, Osaka, Japan.

Kawara, Y., Chu, C., and Arase, Y. (2018). "Recursive Neural Network Based Preordering for English-to-Japanese Machine Translation." In Proceedings of the Annual Meeting of the Association for Computational Linguistics (ACL), Student Research Workshop, pp. 21-27, Melbourne, Australia.

Kendall, M. G. (1938). "A New Measure of Rank Correlation." Biometrika, 30 (1/2), pp. 81-93.

Kingma, D. P. and Ba, J. (2015). "Adam: A Method for Stochastic Optimization." In Proceedings of the International Conference for Learning Representations (ICLR), San Diego, USA.

Koehn, P. (2004). "Statistical Significance Tests for Machine Translation Evaluation." In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 388-395, Barcelona, Spain.

Koehn, P., Och, F. J., and Marcu, D. (2003). "Statistical Phrase-based Translation." In Proceedings of the Conference of the North American Chapter of the Association for Computational Linguistics on Human Language Technology (NAACL-HLT), pp. 48-54, Edmonton, Canada.

Lerner, U. and Petrov, S. (2013). "Source-Side Classifier Preordering for Machine Translation." In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 513-523, Seattle, USA.

Li, C.-H., Li, M., Zhang, D., Li, M., Zhou, M., and Guan, Y. (2007). "A Probabilistic Approach to Syntax-based Reordering for Statistical Machine Translation." In Proceedings of the Annual Meeting of the Association of Computational Linguistics (ACL), pp. 720-727, Prague, Czech Republic.

Luong, T., Pham, H., and Manning, C. D. (2015). "Effective Approaches to Attention-based Neural Machine Translation." In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1412-1421, Lisbon, Portugal.

Miceli Barone, A. V. and Attardi, G. (2015). "Non-projective Dependency-based Pre-Reordering with Recurrent Neural Network for Machine Translation." In Proceedings of the Annual Meeting of the Association for Computational Linguistics and the International Joint Conference on Natural Language Processing (ACL-IJCNLP), pp. 846-856, Beijing, China.

Miyao, Y. and Tsujii, J. (2008). "Feature Forest Models for Probabilistic Hpsg Parsing." Computational Linguistics, 34 (1), pp. 35-80.

Nakagawa, T. (2015). "Efficient Top-Down BTG Parsing for Machine Translation Preordering." In Proceedings of the Annual Meeting of the Association for Computational Linguistics and International Joint Conference on Natural Language Processing (ACL-IJCNLP), pp. 208-218, Beijing, China.

Nakazawa, T., Yaguchi, M., Uchimoto, K., Utiyama, M., Sumita, E., Kurohashi, S., and Isahara, H. (2016). "ASPEC: Asian Scientific Paper Excerpt Corpus." In Proceedings of the International Conference on Language Resources and Evaluation (LREC), pp. 2204-2208, Portorož, Slovenia.

Neubig, G., Watanabe, T., and Mori, S. (2012). "Inducing a Discriminative Parser to Optimize Machine Translation Reordering." In Proceedings of the Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning (EMNLP-CoNLL), pp. 843-853, Jeju Island, Korea.

Och, F. J. (2003). "Minimum Error Rate Training in Statistical Machine Translation." In Proceedings of the Annual Meeting of the Association for Computational Linguistics (ACL), pp. 160-167, Sapporo, Japan.

Papineni, K., Roukos, S., Ward, T., and Zhu, W.-J. (2002). "BLEU: a Method for Automatic Evaluation of Machine Translation." In Proceedings of the Annual Meeting of the Association for Computational Linguistics (ACL), pp. 311-318, Philadelphia, USA.

Socher, R., Lin, C. C.-Y., Ng, A. Y., and Manning, C. D. (2011). "Parsing Natural Scenes and Natural Language with Recursive Neural Networks." In Proceedings of the on International Conference on Machine Learning (ICML), pp. 129-136, Bellevue, USA.

Sudoh, K. and Nagata, M. (2016). "Chinese-to-Japanese Patent Machine Translation based on Syntactic Pre-ordering for WAT 2016." In Proceedings of the Workshop on Asian Translation (WAT), pp. 211-215, Osaka, Japan.

Tillmann, C. (2004). "A Unigram Orientation Model for Statistical Machine Translation." In Proceedings of the Human Language Technology Conference of the North American Chapter of the Association for Computational Linguistics (HLT-NAACL), pp. 101-104, Boston, USA.

Tromble, R. and Eisner, J. (2009). "Learning Linear Ordering Problems for Better Translation." In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1007-1016, Singapore.

Utiyama, M. and Isahara, H. (2007). "A Japanese-English Patent Parallel Corpus." In Proceedings of the Machine Translation Summit XI, pp. 475-482, Copenhagen, Denmark.

Visweswariah, K., Rajkumar, R., Gandhe, A., Ramanathan, A., and Navratil, J. (2011). "A Word Reordering Model for Improved Machine Translation." In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 486-496, Edinburgh, UK.

Wang, C., Collins, M., and Koehn, P. (2007). "Chinese Syntactic Reordering for Statistical Machine Translation." In Proceedings of the Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning (EMNLP-CoNLL),
pp. 737-745, Prague, Czech Republic.

Wang, X., Tu, Z., Xiong, D., and Zhang, M. (2017). "Translating Phrases in Neural Machine Translation." In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1421-1431, Copenhagen, Denmark.

Wu, D. (1997). "Stochastic Inversion Transduction Grammars and Bilingual Parsing of Parallel Corpora." Computational Linguistics, 23 (3), pp. 377-403.

Xia, F. and McCord, M. (2004). "Improving a Statistical MT System with Automatically Learned Rewrite Patterns." In Proceedings of the International Conference on Computational Linguistics (COLING), pp. 508-514, Geneva, Switzerland.

Xu, P., Kang, J., Ringgaard, M., and Och, F. (2009). "Using a Dependency Parser to Improve SMT for Subject-Object-Verb Languages." In Proceedings of Human Language Technologies: The Annual Conference of the North American Chapter of the Association for Computational Linguistics (HLT-NAACL), pp. 245-253, Boulder, Colorado.

Yang, N., Li, M., Zhang, D., and Yu, N. (2012). "A Ranking-based Approach to Word Reordering for Statistical Machine Translation." In Proceedings of the Annual Meeting of the Association for Computational Linguistics (ACL), pp. 912-920, Jeju Island, Korea.

Zhang, Y., Zens, R., and Ney, H. (2007). "Chunk-level Reordering of Source Language Sentences with Automatically Learned Rules for Statistical Machine Translation." In Human Language Technologies: The Conference of the North American Chapter of the Association for Computational Linguistics (HLT-NAACL); Proceedings of the Main Conference, pp. 1-8, Rochester, USA.

## 略歴

瓦祐希：2018 年大阪大学大学院情報科学研究科博士前期課程修了. 現在同大学院博士課程. 機械翻訳の研究に従事. 言語処理学会, ACL, 各会員.

Chenhui Chu: 2008 年重慶大学ソフトウェア工学部卒業. 2012 年に京都大学大学院情報学研究科修士課程修了. 2015 年同大学院博士課程修了. 博士（情報学). 日本学術振興会特別研究員 DC2, 国立研究開発法人科学技術振興機構研究員を経て，2017 年より大阪大学データビリティフロンティア機構特任助教. 機械翻訳, 自然言語処理の研究に従事. 言語処理学会, 人工知能学会, ACL, 各会員。

荒瀬由紀 : 2006 年大阪大学工学部電子情報エネルギー工学科卒業. 2007 年同大学院情報科学研究科博士前期課程, 2010 年同博士後期課程修了. 博士（情報科学). 同年, Microsoft Research Asia に入社, 自然言語処理に関する研究開発に
従事. 2014 年より大阪大学大学院情報科学研究科マルチメディア工学専攻准教授, 現在に至る. 言い換え表現抽出, 機械翻訳技術, 対話システム研究に興味を持つ.

(2018 年 8 月 1 日受付)

(2018 年 11 月 1 日再受付)

(2018 年 12 月 12 日採録)