# Iterative Back-translation は対訳語彙を獲得できるか?

谷川琢磨秋葉友良塚田元
豊橋技術科学大学
}

\{tanigawa.takuma.fu, akiba.tomoyoshi.tk, tsukada.hajime.hl\}@tut.jp
## 概要

ニューラル機械翻訳におけるデータ拡張手法と して, Iterative Back-translation (IBT) が知られている. IBT は，翻訳対象言語対の 2 つの単言語コーパスを 相互に逆翻訳とモデルの更新を繰り返し行うこと で，疑似対訳データと翻訳モデルの質を向上させる 手法である.IBT は効果的な手法であることが知ら れているが，その知識獲得の過程は十分に解明され ていない. 本研究では, IBT を用いたドメイン適応 を対象に，単言語コーパスからどのような過程で ターゲットドメインの対訳語彙を獲得しているかに ついて調査を行った. その結果，反復を繰り返すご とに対訳語彙を獲得していき，最終的には獲得可能 な 6 割以上の対訳語彙が獲得できていることが示さ れた.

## 1 はじめに

近年のニューラル機械翻訳（NMT）における 有効的なデータ拡張手法として, Iterative Backtranslation(IBT)[1][2] が知られている. IBT は，翻訳対象言語対の 2 つの単言語コーパスを相互に逆翻訳とモデルの更新を繰り返し行うことで，疑似対訳 データと翻訳モデルの質を向上させる手法である.

IBT は効果的なデータ拡張手法であることが実験的に示されている一方，その原理については十分に 明らかになっているとは言えない. 特に，互いに対応関係のない 2 言語の単言語コーパスから，実際に 翻訳に関する知識が獲得されるかどうか，詳細に調 べた研究は存在しない. そこで本研究では，IBTを 用いたドメイン適応の問題設定を対象に，単言語 コーパスからドメイン固有の対訳語彙が獲得される かどうかを調査することで，IBT の知識獲得の過程 を明らかにする。その際，対訳語彙を 2 つの単言語 コーパスから獲得するには，少なくとも対訳となる 単語対それぞれが各単言語コーパスに存在する必要 があると考えられるため, 理想的な設定として単語対が必ず含まれることが保証されるコンパラブル コーパスを用いた実験も行った．加えて，翻訳モデ ルの処理単位が対訳語彙の獲得に与える影響を調査 するために，サブワード単位および単語単位の翻訳 モデルで比較を行った。

## 2 Iterative Back-translation(IBT)

Iterative Back-translation(IBT) に基づくドメイン適応手法の手順を説明する．ここで，Xと $\mathrm{Y}$ はそれぞ れの言語を示し，言語 $\mathrm{X}$ から $\mathrm{Y}$ の翻訳を X-Y，Y か らXへの翻訳を Y-X と記す。

いて, Model ${ }_{X-Y} 0$ と Model $_{\mathrm{Y}-\mathrm{X} 0}$ を学習する.
2. $\mathrm{i}$ を 0 に初期化して以下を反復する.

2.1ターゲットドメインの単言語コーパス $\mathrm{C}_{\mathrm{Y}}^{\mathrm{in}}$ を Model $_{\mathrm{Y}-\mathrm{X}}$ により翻訳し，疑似対訳コー パス ( $\left.\mathrm{C}_{\mathrm{X}}^{\text {in }}, \mathrm{C}_{\mathrm{Y}}^{\mathrm{in}}\right)$ を作成する. 疑似対訳コー パスと（ $\mathrm{C}_{\mathrm{X}}^{\text {out }}, \mathrm{C}_{\mathrm{Y}}^{\text {out }}$ )を結合した学習データ を用いて， Model ${ }_{X-Y}$ から Fine-tuning を行 い $\operatorname{Model}_{X-Y}(i+1)$ を学習する.

2.2ターゲットドメインの単言語コーパス $\mathrm{C}_{\mathrm{X}}^{\mathrm{in}}$ を Model ${ }_{X-Y} \mathrm{i}$ にり翻訳し，疑似対訳コー パス（ $\mathrm{C}_{\mathrm{Y}}^{\text {in }}, \mathrm{C}_{\mathrm{X}}^{\mathrm{in}}$ )を作成する. 疑似対訳コー

を用いて， Model $\mathrm{Y}_{\mathrm{Y}-\mathrm{X}}$ から Fine-tuning を行 い Model $_{Y-X}(i+1)$ を学習する.

$2.3 \mathrm{i} \leftarrow \mathrm{i}+1$

## 3 調査手法

ターゲットドメインの知識獲得の過程を確認す るために，本実験では対訳語彙の獲得を調査した.言語 $\mathrm{X}$ と言語 $\mathrm{Y}$ の対訳語彙獲得を調査するために 行った手順は以下のとおりである.

1. 言語 $\mathrm{X}$ のソースドメインの学習データ (対訳 コーパス) に存在する単語集合 $\mathrm{O}_{\mathrm{X}}$ とターゲッ トドメインの学習データ (単言語コーパス) に存

図 1 Iterative Back-translation の手順

在する単語集合 $\mathrm{I}_{\mathrm{X}}$ をそれぞれ求め，ターゲッ トドメインの学習データにのみ存在する単語集合 $\mathrm{D}_{\mathrm{X}}=\mathrm{I}_{\mathrm{X}}-\mathrm{O}_{\mathrm{X}}$ を特定する. 同様に言語 $\mathrm{Y}$ の $\mathrm{D}_{\mathrm{Y}}=\mathrm{I}_{\mathrm{Y}}-\mathrm{O}_{\mathrm{Y}}$ も求める.

2. Moses[3] の単語アライメントツールを用いて, テストデータにおける言語 $\mathrm{X}$ と言語 $\mathrm{Y}$ の単語 アライメントを求める ${ }^{11}$ ．テストデータ中でア ライメントされた単語対 $\left(w_{X}, w_{Y}\right)$ について，両言語の単語がともに $\mathrm{D}_{\mathrm{X}} ， \mathrm{D}_{\mathrm{Y}}$ に含まれているも の $\mathrm{T}=\left.\{\left(\mathrm{w}_{\mathrm{X}}, \mathrm{w}_{\mathrm{Y}}\right) \mid \mathrm{w}_{\mathrm{X}} \in \mathrm{D}_{\mathrm{X}} \wedge \mathrm{w}_{\mathrm{Y}} \in \mathrm{D}_{\mathrm{Y}}\right.\}$ を獲得目標の対訳語彙とする。

3. 調査対象の翻訳モデルによってテストデータ の翻訳を行い， $\mathrm{T}$ の対訳語彙の入力側の単語 $\mathrm{w}_{\mathrm{X}}$ それぞれに対して，対応する単語 $\mathrm{w}_{\mathrm{Y}}$ が翻訳結果に出力されていれば，その対訳単語対 $\left(\mathrm{w}_{\mathrm{X}}, \mathrm{w}_{\mathrm{Y}}\right)$ が獲得できているとみなす.

翻訳モデルごとに対訳語彙の獲得を比較するため に，テストデータの対訳語彙 $\mathrm{T}$ に含まれる入力単語延べ数に対する対訳語を獲得できた割合を対訳語彙獲得率と定義し, 本研究の評価指標とした。

## 4 実験

IBT によってドメイン適応を行い，翻訳モデルの 翻訳結果からターゲットドメインの対訳語彙獲得を 確認することにより，ドメイン知識の獲得を調査す る。また，コーパスの前処理や単言語コーパスの違

1）単語アライメントの精度を向上させるため，ドメイン適応実験で単言語コーパスとして利用するものも含め、利用でき る対訳コーパスを全て用いて EM 学習を行った。
いによって対訳語彙の獲得にどの程度影響を与える のか調査する.

## 4.1 データセット

ソースドメインの対訳コーパスには，対訳 440,288 文からなる Wikipedia 日英京都関連文書対訳コーパ ス (KFTT)を用いた. ターゲットドメインの単言語 コーパスには，英語と日本語の対訳コーパスであ る Asian Scientific Paper Excerpt Corpus (ASPEC)[4] の 対訳データの全文 100 万文を 50 万文ずつ分割して，両言語に前半 50 万文を単言語コーパスとして使用 したコンパラブルなもの (以降，この単言語コーパ ス対を CP と表記) と，英語の前半 50 万文と日本語 の後半 50 万文をそれぞれ使用した非コンパラブル なもの (以降，NCP と表記) について調査した。 $\mathbf{C P}$ は各言語の単言語コーパスに，同じコンテキストで 対訳語が出現する理想的な条件，NCP は必ずしも同 じコンテキストで対訳語が出現するとは限らない現実的な条件，に相当する。テストデータと開発デー タには ASPEC 指定のものを用いた。

コーパスの前処理については，処理単位をサブ ワードとした場合と単語の場合の 2 通りを実験し た. 処理単位をサブワードとする場合は，すべての テキストデータに対して NFKC 正規化を行い，さら に英語データに対しては Moses[3] のトークナイザ による形態素解析と truecaserによる小文字化を行っ た. そして，両言語を Sentence Piece [5] を用いてサ ブワード単位の分割を行った。ボキャブラリサイズ は 16,000 に設定した。処理単位を単語とする場合 は，同様に NFKC 正規化を行った後，日本語デー タには MeCab[6] を用いた形態素解析，英語データ に対しては Moses のトークナイザによる形態素解析と truecaserによる小文字化を行った. truecaser と Sentence Piece のモデルの学習には，ソースドメイン の対訳コーパスとターゲットドメインの単言語コー パスの両方を用いた。

調査対象の対訳語彙を求める際の単語アライメン 卜作成には，ASPEC コーパスに NFKC 正規化，形態素解析，全英単語の小文字化の前処理を行った．英語の形態素解析には Moses のトークナイザを，日本語には MeCabを使用した。その後，Mosesを用いた 単語アライメントを作成するために，どちらかの言語で 40 単語を超える文を含む文ぺアの削除を行っ た. EM 学習には，ターゲットドメインの利用でき る全ての対訳データを用いて単語アライメントを作
表 1 調査対象対訳語彙の統計

成し, 調査対象のテストデータの単語アライメント だけを実験に利用した. 文ぺア削除後のテストデー タのサイズは 1,557 文対であった.

## 4.2 実験方法

3 章の手順に従って対訳語彙の特定を行った. まず，KFTT 対訳コーパスに出現する単語集合 $\mathrm{O}_{\mathrm{En}}, \mathrm{O}_{\mathrm{Ja}}$, ASPEC 単言語コーパスに出現する単語集合 $\mathrm{I}_{\mathrm{En}}, \mathrm{I}_{\mathrm{Ja}}$ ，からターゲットドメインの ASPEC 単言語コーパスにのみ存在する単語 $\mathrm{D}_{\mathrm{En}}, \mathrm{D}_{\mathrm{Ja}}$ を求めた. その後，テストデータ間の単語アライメントを作成 して，作成したアライメントと $\mathrm{D}_{\mathrm{En}} ， \mathrm{D}_{\mathrm{Ja}}$ を用いて 調査対象の対訳語彙 $\mathrm{T}$ を特定した。

翻訳モデルの学習は 2 章で記述した IBT の手順に 従った。まず，ソースドメイン対訳コーパス KFTT から翻訳モデル Model0を学習し，ターゲットドメ イン単言語コーパスである ASPEC Model0を用 いて翻訳して疑似対訳コーパスを作成した。次に， KFTT の対訳コーパスと ASPEC の疑似対訳コーパス を連結した学習データを用いて Model0を fine-tuning して翻訳モデル Model1を得た. その後, 再び単言語コーパスを Model1を用いて翻訳して疑似対訳 コーパスを作成した. 以降もこのような手順を双方向かつ反復的に行うことでモデルの学習を行った.

次に，学習した各種モデルを用いてテストデータ を翻訳した。翻訳モデルの処理単位をサブワードと した場合は，翻訳結果のサブワード列をデトークナ イズした後, 日本語は MeCabによる形態素解析を 行い，単語列に変換した. 得られた単語列に対し て，3章の手順に従って翻訳結果に対訳語彙が出力 されているか確認を行った.

## 4.3 実験条件

ニューラル機械翻訳システムには OpenNMT[7] を 用いた. モデルには Transformer を使用し, 最適化 アルゴリズムには Adam を用いて学習率を 2 とし た. 学習ステップは Model0 では 30000 ステップ,以降の Model では 5,000 ステップずつ学習を行い続 け，開発データに対する accuracy が 3 回連続で向上

図 2 英日方向の対訳語彙獲得率

図 3 英日方向の BLEU

しない場合に終了し，もっとも高かった accuracy の モデルを選択した. 処理単位を単語とする場合は， ボキャブラリサイズ 50,000 に加えて，調査対象の 対訳語彙の単語をすべてボキャブラリに追加した. これは，単語単位の翻訳の場合，そもそもボキャブ ラリに含まれない単語を出力することはできない ため，語彙獲得不可能となってしまうからである.翻訳のボキャブラリには含まれているという条件 の下で，対訳語彙獲得を調査した. また，単語単位 の翻訳モデルでは，翻訳時に未知語を入力側のもっ ともらしい単語にそのまま置き換える OpenNMT の replace_unkを使用した. モデルの翻訳精度の評価に は BLEUを用いた.

## 4.4 実験結果

表 1 に調查対象の対訳語彙に関する統計を示す.英日と日英方向の翻訳実験それぞれについて，単言語コーパス対がコンパラブルである場合 $(\mathbf{C P})$ と 非コンパラブルである場合 $(\mathbf{N C P})$ ，翻訳単位をサ ブワードとした場合 (subword) と単語とした場合 (word), の組み合わせで $2 \times 2=4$ 通りの実験を 行った. 図 2 と図 3 に，英日方向の対訳語彙獲得率 と翻訳性能の結果を，それぞれ示す.また図 4 と図 5 に，日英方向の対訳語彙獲得率と翻訳性能の結果

図 4 日英方向の対訳語彙獲得率

図 5 日英方向の BLEU

を，それぞれ示す. 各グラフの横軸は，IBT の反復回数を示し, Model0がソースドメイン対訳コーパス だけで学習した場合, Model1 が一度だけターゲッ トドメインの単言語コーパスを逆翻訳した場合 [8], Model2 以降が IBT に相当する.

実験結果から，どの翻訳方向と実験状況の場合 でも，IBT の反復を繰り返すことで対訳語彙獲得率が徐々に上昇するとともに翻訳性能 (BLEU) も 向上していることがわかる. 理想的な条件である $\mathbf{C P}+$ subword において，対訳語彙獲得率は英日方向 で約 $67 \%$, 日英方向で $61 \%$ となり, 獲得可能な 6 割以上の対訳語彙が獲得できた。現実的な条件である NCP+subword においても，英日方向で約 $63 \%$, 日英方向で $59 \%$ と 6 割前後の対訳語彙が獲得されてい た.この結果から, IBT は対訳語彙の獲得が可能で, その性質が翻訳性能の向上に寄与していると考えら れる. また，両言語で対訳語が同じコンテキストで 出現するとは限らない現実的な条件である NCP で さえ対訳獲得獲得はそれほど低下しなかったことか ら，IBT は使用する単言語コーパス対に依存せずロ バストに語彙獲得できることが示された.

処理単位がサブワードである場合と単語の場合 を比較すると， subword は word よりも高い対訳語彙獲得率を達成した。これにより, 対訳語彙獲得に表 2 実際に獲得できた対訳語彙の例

は処理単位をサブワードとすることの有効性が示 された. 実際，Model0，すなわちソースドメインの 対訳コーパスのみで学習した場合，ターゲットドメ インの対訳は獲得できないはずであるが，それでも subword の場合は少量の対訳語彙が獲得できてい る.これは，サブワードを使用するだけで音訳的な 対訳語の獲得 (例えば、albumin とアルブミン、UHV と UHV、など) ができているためである.しかしな がら，単語単位であってもIBT の反復によって 4 割程度の対訳語彙獲得が達成できていることから，サ ブワードの利用が対訳語彙獲得の必要条件ではない ことを示している.

NCP+subword の設定で，実際に獲得できた対訳語彙の例を表 2 に示す. 科学技術論文ドメインであ る ASPECから，trivial ではない対訳語が多数獲得で きていることがわかる. また，IBT の繰り返しによ る翻訳結果の変化の例を付録の表 3 に示す.

## 5 結論

本研究では，IBT のターゲットドメインの知識の 獲得過程を，対訳語彙の獲得を確認することで調査 を行った. 結果として, IBTの反復を繰り返すごと に対訳語彙を獲得していき，最終的にターゲットド メインの獲得可能な対訳語彙の 6 割以上を獲得した ことを確認した. 同様に BLEU も向上していること から，IBTではドメイン内コーパスの対訳語彙を獲得することによって，翻訳性能の向上に寄与してい ることが明らかになった。 また，IBT は利用する単言語コーパスがコンパラブルかそうでないかに関わ らず，単言語コーパスのみから対訳語彙の単語同士 の関係を学習できていること，翻訳の処理単位にサ ブワードを用いることで対訳語彙獲得率を向上させ ること，がわかった.

## 謝辞

本研究は JSPS 科研費 19K11980 および $18 \mathrm{H} 01062$

の助成を受けた。

## 参考文献

[1] Vu Cong Duy Hoang, Philipp Koehn, Gholamreza Haffari, and Trevor Cohn. Iterative Back-Translation for Neural Machine Translation. In Proceedings of the 2nd Workshop on Neural Machine Translation and Generation, pp. 18-24, 2018.

[2] 森田知熙, 秋葉友良, 塚田元. Fine-Tuninng と混成的な 逆翻訳サンプリングに基づくNMT の双方向反復的教師なし適応の改善. 言語処理学会第 27 回年次大会 発表論文集,pp.1669-1673, 2021.

[3] Philipp Koehn, Hieu Hoang, Alexandra Birch, Chris Callison-Burch, Marcello Federico, Nicola Bertoldi, Brooke Cowan, Wade Shen, Christine Moran, Richard Zens, Chris Dyer, Ondřej Bojar, Alexandra Constantin, and Evan Herbst. Moses: Open Source Toolkit for Statistical Machine Translation. In Proceedings of the 45th Annual Meeting of the Association for Computational Linguistics Companion Volume Proceedings of the Demo and Poster Sessions, pp. 177-180, 2007.

[4] Toshiaki Nakazawa, Manabu Yaguchi, Kiyotaka Uchimoto, Masao Utiyama, Eiichiro Sumita, Sadao Kurohashi, and Hitoshi Isahara. ASPEC: Asian scientific paper excerpt corpus. In Proceedings of the Tenth International Conference on Language Resources and Evaluation (LREC' 16), pp. 2204-2208, 2016.

[5] Taku Kudo and John Richardson. SentencePiece: A simple and language independent subword tokenizer and detokenizer for Neural Text Processing. In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing: System Demonstrations, pp. 66-71, 2018

[6] Taku Kudo, Kaoru Yamamoto, and Yuji Matsumoto. Applying Conditional Random Fields to Japanese Morphological Analysis, In Proceedings of the Conference on Emprical Methods in Natural Language Processing, pp.230237, 2004.

[7] Guillaume Klein, Yoon Kim, Yuntian Deng, Jean Senellart, and Alexander Rush. OpenNMT: Open-Source Toolkit for Neural Machine Translation. In Proceedings of ACL 2017, System Demonstrations, pp 67-72, 2017.

[8] Rico Sennrich, Barry Haddow, and Alexandra Birch, Improving Neural Machine Translation Models with Monolingual Data, In Proceedings of the Annual Meeting of the Association for Computational Linguistics, pp.86-96, 2016.

## A 付録

表 3 対訳語彙獲得の例


 谷川琢磨秋葉友良塚田元 豊橋技術科学大学 }  \{tanigawa.takuma.fu, akiba.tomoyoshi.tk, tsukada.hajime.hl\}@tut.jp 