# ラウンドトリップ翻訳を用いた ニューラル機械翻訳のデータ拡張

紺谷 優志 秋葉 友良 塚田 元
豊橋技術科学大学
\{kontani.yushi.qu,akiba.tomoyoshi.tk, tsukada.hajime.hl\}@tut.jp

## 概要

ニューラル機械翻訳 (NMT) は学習に膨大な規模 の対訳コーパスを必要とするが，ドメインによって は大量の学習データを用意することが難しい場合も ある. 本研究では，ラウンドトリップ翻訳を用いて 学習データを追加のリソースを用いることなく拡張する手法を提案する．疑似対訳コーパスを用いて 翻訳モデルの性能を向上させる手法である Iterative Back Translation に本手法を結合した実験を行った結果，本手法がモデルの翻訳性能を有効に向上させら れることが分かった。

## 1 はじめに

近年，機械翻訳手法の一つであるニューラル機械翻訳（NMT）が従来手法である統計的機械翻訳を大 きく上回る翻訳性能を持つことが報告されている. しかし NMT を構築するためには数十万〜数百万文 という大量の対訳コーパスが必要であり，十分な量 の対訳コーパスを用意できない場合は十分な性能の 翻訳モデルを作ることはできない．また，翻訳モデ ルは学習データのドメイン (分野) にも強い影響を 受ける. ドメインによっては大量のデータを用意す ることが困難な場合もあり，そのような場合におい ても良質な翻訳モデルを構築するのは困難となる。

本研究では，ある言語の文を別の言語の文に翻訳 し，その結果を元の言語の文に逆翻訳するプロセス であるラウンドトリップ翻訳を用いて，対訳コーパ スをデータ拡張する手法を提案する。 そして本デー 夕拡張手法を Iterative Back Translation と組み合わせ ることで，追加の学習データなしで翻訳精度を向上 できることを示す.

## 2 関連研究

モデルの精度向上の方法として，対訳コーパスに 何らかの操作を行うことで，データを拡張する手法 が提案されている. Fadaee ら [1] は，大量の単言語 データで学習した言語モデルを活用し，対訳文中の 一部の単語を低頻度語に入れ替え学習データに加え る方法を提案している。張ら [2] は，単語アライメ ント情報を用いて対訳コーパスから抜き出した部分的な対訳文を用いて学習データを拡張する方法を提案している。

また，別の学習データを活用するアプローチも 取られている. Sennrich ら [3] は目的言語の単言語 コーパスを原言語へと逆翻訳して疑似対訳コーパ スを生成し，対訳コーパスと合成して翻訳モデル の再学習に使う手法を提案した。森田ら [4], Hoang ら [5], Zhang ら [6] は Sennrich ら [3] の手法を双方向かつ反復的に拡張することで，2つの翻訳方向の モデルを相互に改善する方法である Iterative Back Translation(IBT) を提案した. IBTでは対訳コーパス と，比較的入手が容易な単言語データを用意し，対訳コーパスを単言語データでデータ拡張し，各方向の翻訳モデルを反復更新する．IBTによって， Sennrich ら [3] の手法を大幅に上回る翻訳性能を達成できることが報告されている。

## 3 提案手法

## 3.1 データ拡張手法

本論文では random sampling を交えたラウンドト リップ翻訳を行うことで，データ拡張を行う手法を 提案する。ここで，ラウンドトリップ翻訳とは，あ る言語の文を別の言語の文に翻訳し，その結果を元 の言語に逆翻訳するプロセスのことを指す。また， random sampling は文の翻訳を行う際，出力される単
語にランダム性を加える方法である．NMT モデル は対訳コーパスから入力文に対する出力文の事後確率分布を学習する。通常の翻訳では，この事後確率分布に従い, 入力された単語列に対して最も出力 される確率が高い単語列が出力される. それに対し て, 事後確率分布に基づきランダムに単語列を選択し出力するのが random sampling である. random sampling をラウンドトリップ翻訳と組み合わせるこ とでパラフレージングに似た効果を期待できる。

2 つの言語の文 $D_{X}$ と $D_{Y}$ から成る対訳コーパス を用いて $\mathrm{X} \rightarrow \mathrm{Y}$ 方向と $\mathrm{Y} \rightarrow \mathrm{X}$ 方向の翻訳モデルを 学習したと仮定する. 両方向の翻訳モデルを用い て， $D_{X}$ を翻訳して言語 $\mathrm{Y}$ の文 $D_{Y}^{\prime}$ を生成し， $D_{Y}^{\prime}$ を 翻訳して $D_{X}^{\prime}$ を生成したとき, 対訳文 $D_{X}-D_{Y}$ と疑似対訳文 $D_{X}^{\prime}-D_{Y}^{\prime}$ は表現の大きく異なる対訳文にな ると考えられる.これが，本研究で提案するラウン ドトリップ翻訳によるデータ拡張の基本的な流れで ある.

本論文では，ラウンドトリップ翻訳と random sampling を用いて目的言語の表現を多様化する 3 つ のデータ拡張手法を提案する。なお，すべてのパ ターンにおいて, $\left(D_{X}^{\prime}, D_{Y}^{\prime \prime}\right)$ を疑似対訳コーパスと し，モデルの再学習に使用する.

(a) $D_{X} \rightarrow D_{Y}^{\prime} \rightarrow D_{X}^{\prime}$ (random sampling で生成) $\rightarrow D_{Y}^{\prime \prime}$ (図??)

(b) $D_{X} \rightarrow D_{Y}^{\prime} \rightarrow D_{X}^{\prime}$ (random sampling で生成) $\rightarrow$ $D_{Y}^{\prime \prime}$ (random sampling で生成)（図??)

(c) $D_{Y} \rightarrow D_{X}^{\prime}$ (random sampling で生成) $\rightarrow D_{Y}^{\prime \prime}$ (図??)

(a) 手法 a

(b) 手法 b

(c) 手法 c

図 1: ラウンドトリップ翻訳で目的言語を多様化す るデータ拡張手法（提案手法）

## 3.2 提案手法の双方向反復的適用

提案手法を用いて行う実験全体の流れを以下に 示す.

1 対訳コーパス $D_{X}-D_{Y}$ を用いて X-Y 方向と Y-X 方向の翻訳モデルを学習する.

2 両方向の翻訳モデルを用いて $D_{X}$ に対してラウ ンドトリップ翻訳によるデータ拡張を行い，疑似対訳コーパス $D_{X p}^{Y-X}-D_{Y p}^{Y-X}$ を生成する.

3 元の対訳コーパス $D_{X}-D_{Y}$ と疑似対訳コーパス $D_{X p}^{Y-X}-D_{Y p}^{Y-X}$ を結合した学習データを用いて，Y $\rightarrow \mathrm{X}$ 方向の翻訳モデルを更新する.

また，以上の手順を逆向きの言語方向に適用するこ とで， $\mathrm{X} \rightarrow \mathrm{Y}$ 方向の翻訳モデルも構築できる. 本実験ではこれらの手順を森田ら [4] の手法のように双方向に繰り返し適用することで両方向の翻訳モデル を更新していく，全体的な手順を図 2 に示す.

## 4 実験

## 4.1 データセット

学習用データセットとして TED の講演内容を 書き起こした話し言葉のコーパスである IWSLT 2017 データセット [7] を使用した. training データ は IWSLT2017 データセットに含まれる英日コーパ ス（223,108 文）を用いた. dev データと test データ はデータセット内の 2010 年版のデータ（それぞれ 871 文と 1,549 文）を用いた。

前処理として英語文，日本語文ともに NFKC 正規化し, 英語文は Moses[8] に付属するトークナイ ザーと truecaser でトークナイズと大文字小文字 の表記統一を行った. 学習前の事前処理として SentencePiece[9] によるサブワード化を行った.

## 4.2 実験設定

NMT システムには OpenNMT-py[10] の Transformer を使用した. エンコーダ，デコーダともに 6 層と し，隠れ層の次元を 512 とした. 初期モデルは訓練 データを 25000 ステップまで学習させて作成した.以降のモデルは 1000 ステップごとに保存した. 性能評価には BLEU[11]を用いた. 英日翻訳モデルを 評価する際には，テストデータの翻訳結果をデトー クナイズした後 MeCab[12] により分かち書きし評価 を行った. また，本実験内で random sampling 翻訳

図 2: 提案手法を用いた双方向反復的データ拡張の流れ

を行う際は，いずれも事後確率の上位 10 語の中か ら語彙をランダムに選択し出力するオプションを指定した.

## 4.3 実験条件

3.1 節に示した 3 パターンのデータ拡張法で実験 を行った．また，ラウンドトリップ翻訳による目的言語のデータ拡張の有効性を検証するため, 図 3 に 示すような比較手法の実験も行った. なお，すべて のパターンにおいて，最後の 2 つのデータを疑似対訳コーパスとする。また，図 1 と同様，図 3 中の内容は $\mathrm{Y} \rightarrow \mathrm{X}$ 方向の翻訳モデルを学習するための疑似対訳コーパスの作成内容である. $\mathrm{X} \rightarrow \mathrm{Y}$ 方向の翻訳モデルを学習するためには, 図中の内容を逆向き の言語方向に行い，疑似対訳コーパスを作成する.

(d) $D_{X} \rightarrow D_{Y}^{\prime}$ （図??)

(e) $D_{X} \rightarrow D_{Y}^{\prime}$ (random sampling で生成)（図??)

(f) $D_{X} \rightarrow D_{Y}^{\prime} \rightarrow D_{X}^{\prime}$ (random sampling で生成) (図??)

(d) 手法 d

(e) 手法 e

(f) 手法 $\mathrm{f}$図 3: 比較手法手法 d は森田ら [4] の手法で単言語データから疑似対訳コーパスを作成する手順と同一である。ま た，手法 $\mathrm{f}$ は $D_{Y}^{\prime}$ と $D_{X}^{\prime}$ のペアを用いて $\mathrm{Y} \rightarrow \mathrm{X}$ 方向のモデルを学習している。全ての実験において baseline のモデル (モデル 0) には全て同一のモデル を使い，IBTで 4 回モデル更新を行った（モデル 1～ $4)$.

## 4.4 実験結果

手法 $\mathrm{a} \sim \mathrm{f}$ までの英日翻訳モデルと日英翻訳モデ ルの BLEU スコアの推移を図 4 と図 5 に示す. 提案手法 $\mathrm{a} \sim \mathrm{c}$ はいずれもモデル 4 までの時点で，モデ ルの更新に従って BLEU スコアが順調に増加して おり，中でも手法 a は突出したスコアを記録して おり，英日方向の BLEU は baseline の 8.97 からモデ ル 4 で 10.09 まで，日英方向の BLEU は baseline の 9.53 から 10.77 まで増加した. それと比べ，比較手法 d f は BLEU スコアがごく僅かな増加に留まっ ており，モデル 1 やモデル 2 以降の段階で減少に転 じているものがほとんどである.

以上のことから，提案法により元の対訳コーパス のみでモデルの性能を改善できること，比較手法よ りも性能向上の効果が大きいこと，ラウンドトリッ プ翻訳によるデータ拡張の構成として
- $D_{X} \rightarrow D_{Y}^{\prime} \rightarrow D_{X}^{\prime}($ random sampling で生成 $) \rightarrow D_{Y}^{\prime \prime}$ という組み合わせが最も良い効果を発揮することが 示された. 本手法により, 例えば表 1 の $D_{X}^{\prime}-D_{Y}^{\prime}$ の

図 4: 英日翻訳における各手法の BLEU の推移

図 5: 日英翻訳における各手法の BLEU の推移

## ような新たな対訳が学習データに追加される.

ラウンドトリップ翻訳を用いない手法 $\mathrm{d} \sim \mathrm{f}$ に関 して, 手法 $\mathrm{d}$ ではモデルの学習に使用した学習デー タをそのまま疑似対訳コーパスの作成に流用してい る.そのため, 元の対訳コーパスと疑似対訳コーパ スの内容がほとんど変化しないためデータ拡張とし ての意味をなさず，モデルの精度向上にもつながら なかった。

手法 $\mathrm{e}$ は手法 $\mathrm{d}$ と異なり原言語側 $D_{Y}^{\prime}$ の表現は多様化するが, 目的言語側 $D_{X}$ の表現は多様化しな い.このことが，翻訳精度向上に結びつかない原因 だと考えられる. 手法 $\mathrm{f}$ は $D_{Y}^{\prime}$ が $D_{Y}$ とほぼ同じに なるため, random sampling を用いて目的言語側の表現を多様化させてはいるものの, self training と同等 の処理となるため，翻訳精度向上に結びつかなかっ たと考えられる。

## 5 おわりに

本研究ではラウンドトリップ翻訳を用いたデータ 拡張手法を提案し，提案手法とIBT の手法を結合し た実験を行いその有効性を検証した. 実験の結果， 4 度のモデル更新を通して BLEU が英日方向で 1.12,日英方向で 1.24 の増加を達成し, 本手法が元の対訳 コーパスだけでモデルの精度を向上させられること表 1: 手法 a での翻訳結果の一例

 \\

を示した．また，比較手法により目的言語の多様化 が精度向上の鍵となっていることが示唆された。

## 謝辞

本研究は JSPS 科研費 $19 \mathrm{~K} 11980$ および $18 \mathrm{H} 01062$ の助成を受けた。

## 参考文献

[1] Marzieh Fadaee, Arianna Bisazza, and Christof Monz. Data augmentation for low-resourse neural machine translation. In Proc. 55th Annual Meeting of the Assoc. for Computational Linguistics (Volume 2: Short Papers), pp.567573, Vancouver, Canada, 2017.

[2] 張津一, 松本忠博. ニューラル機械翻訳における長文分割によるコーパスの拡張. 言語処理学会第 25 回年次大会 発表論文集, pp. 683-686, 2019.

[3] Rico Sennrich, Barry Haddow, and Alexandra Birch. Improving neural machine translation models with monolingual data. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 86-96, 2016.

[4] 森田知熙, 秋葉友良, 塚田元. 双方向ニューラル機械翻訳の反復的な教師なし適応の検討. 言語処理学会第 25 回年次大会 発表論文集, pp. 1451-1454, 2019.

[5] Vu Cong Duy Hoang, Phiilpp Koehn, Gholamreza Haffari, and Trevor Cohn. Iterative back-translation for neural machine translation. In Proceedings of the 2nd Workshop on Neural Machine Translation and Generation, pp. 18-24, 2018.

[6] Zhirui Zhang, Shujie Liu, Mu Li, Ming Zhou, and Enhong Chen. Joint training for neural machine translation models with monolingual data, In AAAI, 2018.

[7] M. Cettolo, M. Federico, L. Bentivogli, J. Niehues, S. Stüker, K. Sudoh, K. Yoshino, and C. Federmann. Overview of the IWSLT 2017 evaluation campaign. In Proceedings of the 14th International Workshop on Spoken Language Translation(IWSLT), 2017.

[8] Philipp Koehn, Hieu Hoang, Alexandra Birch, Chris Callison-Burch, Marcello Federico, Nicola Bertoldi, Brooke Cowan, Wade Shen, Christine Moran, Richard Zens, Chris Dyer, Ondřej Bojar, Alexandra Constantin, Evan Herbst, Moses: Open Source Toolkit for Statistical Machine Translation. In Proceedings of the 45th Annual

Meeting of the Association for Computational Linguistics Companion Volume Proceedings of the Demo and Poster Sessions, pp. 177-180, 2007.

[9] Taku Kudo, John Richardson, SentencePiece: A simple and language independent subword tokenizer and detokenizer for Neural Text Processing. In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing: System Demonstrations, pp. 66-71, 2018.

[10] Guillaume Klein, Yoon Kim, Yuntian Deng, Jean Senellart, Alexander M. Rush. OpenNMT: Open-Source Toolkit for Neural Machine Translation, In Proceedings of ACL 2017, System Demonstrations, pp. 67-72, 2017.

[11] Kishore Papineni, Salim Roukos, Todd Ward, and WeiJing Zhu. BLEU: A method for automatic evaluation of machine translation. In Proceedings of the 40th Annual Meeting of the Association for Computational Linguistics, pp. 311-318, 2002.

[12] Taku Kudo, Kaoru Yamamoto, Yuji Matsumoto. Applying Conditional Random Fields to Japanese Morphological Analysis. In Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing, pp. 230-237, 2004.
 紺谷 優志 秋葉 友良 塚田 元 豊橋技術科学大学 \{kontani.yushi.qu,akiba.tomoyoshi.tk, tsukada.hajime.hl\}@tut.jp  