# 事前学習モデルによる分割統治ニューラル機械翻訳

石川隆太 加納保昌 須藤克仁 中村哲
奈良先端科学技術大学院大学
\{ishikawa.ryuta.il7, kano.yasumasa.kw4, sudoh,s-nakamura\}@is.naist.jp

## 概要

ニューラル機械翻訳におけるハルシネーションや 繰り返し、訳抜けなどの課題に対し、文をセグメン トに分割して翻訳し、並べ替えて繋げるニューラル 機械翻訳における分割統治的手法 [1] が提案されて いる。本研究では、[1] で課題とされていた、セグ メント翻訳と、セグメントの並べ替えと編集の精度 の 2 つに対し、事前学習モデルの mBARTを用いる ことに加え、セグメント翻訳のモデルを節単位の擬似対訳データでファインチューニングすることで、 セグメント翻訳と、並べ替えと編集の精度の改善を 試みた。実験では提案手法による BLEU の改善は認 められなかったが、過剩な長さの訳出が大きく減少 し、ハルシネーションや繰り返しを抑制できている 傾向が確認できた。

## 1 はじめに

グローバル化に伴い翻訳の需要が高まってお り、ニューラル機械翻訳 (NMT) が注目されている。 NMT は質の高い訳文の生成が期待できる一方で、入力される文が長くなるとハルシネーションや訳抜 け [2] などの問題が発生することがある。この課題 に対し、統計的機械翻訳では、長文を短いセグメン 卜に分割して翻訳し、並べ替えて繋げるという分割統治的手法 [3] が提案されている。また、[3] を参考 にした、NMT における長文のための分割統治的手法 [1] も提案されている。本研究では、[1]において 課題とされていたセグメント翻訳の精度と、翻訳さ れたセグメントの並べ替えと編集の精度改善に向 け、セグメント翻訳と並べ替えと編集のモデルに事前学習モデルの mBARTを用い、さらにセグメント 翻訳のモデルを節単位の擬似対訳データでファイン チューニングする手法の検討を行った。英日翻訳の 実験において提案手法による BLEU の改善は認めら れなかったが、過剰な長さの訳出についてはべース ラインから大きく削減できており、ハルシネーショ
ンや繰り返しを提案手法により抑制できている傾向 が確認できた。

## 2 関連研究

NMT において、長文を分割し、分割された各セ グメントを翻訳した後に前から順に結合し直す手法として Pouget-Abadie ら [4] の自動分割の手法があ る。この手法はRNNを用いて、長文を分割して翻訳する際の最適な位置を予測し、モデルが翻訳を行 いやすいように入力文を分割する手法である。しか し、この手法は英語からフランス語への翻訳のよう に、ソース言語とターゲット言語がほとんど同じ語順を持たない限り、長文分割後のセグメントの並べ 替えの問題に対応することはできない。特に、英語 と日本語のような語順が大きく異なる言語対におい て、結合後の翻訳結果は不自然な文になりやすい。 この課題に対し、加納ら [1] はNMT における分割統治的手法を提案している。

## 2.1 分割統治型ニューラル機械翻訳

入力文を節単位でセグメントに分割し、分割され たセグメントを文単位の対訳コーパスで学習され た翻訳モデルを用いて翻訳し、翻訳された各セグメ ントを、セグメント同士の関係性を表すトークンを 用いて繋げ、翻訳モデルとは別のニューラルネット ワークモデルに入力する。それによって、セグメン トの並べ替えと編集を行い、自然な訳文の生成を実現している。ニューラル機械翻訳の分割統治的手法 において、文分割後のセグメント翻訳の精度と翻訳 されたセグメントの並べ替えと編集の精度は課題と されており、これら 2 つの精度は最終的な翻訳結果 に大きく影響すると考えられる。そこで、本研究で はセグメント翻訳と翻訳後のセグメントの並べ替え と編集の精度を向上させるため、加納らの手法を基 に次の 2 つを実施した。

## $2.2 \mathrm{mBART$ を用いた分割統治型ニューラ ル機械翻訳}

加納らの手法においてはセグメント翻訳と翻訳 されたセグメントの並べ替えと編集のモデルに Transformer[5]を利用しているのに対し、本研究で は事前学習モデルの BART[6] を多言語の大規模な モノリンガルコーパスで事前学習した mBART[7]を 利用した。mBART のファインチューニングによる 機械翻訳 [8] は、10 万から 1000 万文対規模の比較的少量の対訳コーパスで学習する場合に最も効果を 発揮し、mBART と同じ Transformer のエンコーダ・ デコーダモデルを同じ対訳コーパスでゼロから学習 するよりも、顕著に高い性能を発揮することが知ら れている。そのため、事前学習モデルの mBARTを 利用することで少量のコーパスで比較的性能の良い ベースラインの翻訳モデルを作成することができ、 セグメント翻訳の精度の向上が期待できる。さらに mBART は入力文のトークンのマスクや削除、文の 順序をシャッフルするなど人工的なノイズを加えた 上で、元の文を復元する事前学習を行なっている。 そのため、本研究における翻訳したセグメントの並 べ替えと編集を行うタスクと mBART の事前学習方法は似ているため、相性が良く、並べ替えと編集の モデルにおいても mBARTを利用することで、並べ 替えと編集の精度の向上が期待できる。

## 2.3 節単位の擬似対訳データによる節翻訳 モデルの作成

加納らの手法では文分割後の節の翻訳を文単位 の対訳データで学習した翻訳モデルで実施してい たが、節の翻訳において文単位のコーパスで学習さ れた翻訳モデルが適しているとは限らない。そこ で、本研究では節単位の擬似対訳データを作成し、 mBART をセグメント翻訳用にファインチューニン グすることで節翻訳モデルを作成した。これによ り、セグメント翻訳の精度の向上を試みた。

## 3 提案手法

提案手法の概略を図 1 の (a)ベースラインと節翻訳モデルの作成、(b) 節翻訳モデルを用いた分割統治的を用いて示す。提案手法の手順の太字の部分と 図 1 の太枠部分が [1] における分割統治的手法を基 に新たに実施、または変更した部分である。

1. JParaCrawl コーパスからサンプリングした 300 万文対を学習データとして mBART をファイン チューニングしベースラインとなる翻訳モデル表 1:トークン長ごとの評価データの文数

を作成する。

2. コーパスの英語の文を構文解析し、接続詞で分割する。

3. 英文を分割してできた英語節をべースラインの 翻訳モデルで翻訳し、擬似日本語節とし、節単位の英日の擬似コーパスを作成する。
4. 3 で作成した節単位の擬似対訳データでmBART をファインチューニングし節翻訳モデルを作成する。
5. 1 で作成した学習データの英文を構文解析し接続詞で分割し、4で作成した節翻訳モデルで分割した節を翻訳する。
6. 5 で翻訳した英語と翻訳結果の日本語のぺア を”@”を3つ繋げた対訳関係を示す記号で結合 し、分割した節同士を別の” | "を 3 つ繋げた文 の区切りを表す記号で結合する。
7. 6 で作成した英語と日本語を特殊トークンで結合した文をソース、分割前の英語に対応する日本語の文をターゲットとして mBART をファイ ンチューニングし、並べ替えと編集のモデルを 作成する。

## 4 実験

提案手法の有効性を検証するため、以下の実験を 行った。

## 4.1 実験設定

今回実施した実験の詳細設定を以下に示す。 モデルの学習と評価データの対訳コーパス として、JParaCrawl.ver2 [9] を用いた。具体的に JParaCrawl.ver2 から、評価データを 3 万文サンプリ ングし、残りのデータから学習データを 300 万文 サンプリングすることで、それぞれ評価データと 学習データとした。評価データは sentencepiece でサ ブワードに分割した後に、英語のサブワードトー クンを基準とし、トークン長ごとに 4 分割した評価データを作成した。分割したトークン長と対応 する英日の文対の数は表 1 のようになった。評価 データの BLEU は、MeCab [10] によって単語分割 し、sacrebleu [11]を用いて算出した。

節翻訳モデルと並べ替えと編集のモデルには

(a)ベースラインと節翻訳モデルの作成

(b) 節翻訳モデルを用いた分割統治的手法

図 1: ニューラル機械翻訳における分割統治的手法の概略

表 2: 入力トークン長ごとの BLEU

表 3: 入力トークン長ごとの BERTScore (F1)

mBART を使用し、fairseq [12] で実装されたものを 利用した。ベースラインと節翻訳モデル、並べ替 えと編集のモデルの学習時のパラメータの設定は Githubで公開されている英語とルーマニア語におけ る mBART のファインチューニングのデフォルトの 設定 [13] と同じ設定を用いた。

節翻訳モデルを作成する際の節単位の擬似対訳 データは JParaCrawl.ver2 からサンプリングした英文 200 万文を構文解析し、接続詞で分割し、200万文の 内、分割された英語節のみを英語側の節単位のデー タとし、それらを全てべースラインで日本語節に翻訳することで作成した。分割された英語節と翻訳に よって得られた日本語節の対訳節の数は約は 190 万 となった。構文解析には spaCy [14]を利用した。接続詞で分割される英文は次の例のようになる。

I don't like studying math, but / I like studying English.

提案手法の手順 3 と 5 における節対訳データの日本語節と並べ替えと編集のモデルの入力データの日本語節を生成する際のベースラインと節翻訳モデル

図 2: 参照文に対するモデルの出力文の長さ比が 2 以上となった数

のビームサーチのサイズはどちらも 4 とし、評価の 際のビームサイズも 4 とした。

## 4.2 実験結果

表 2 はベースライン、提案手法の入力トーク ン長ごとの BLEUを示している。表 2 から分かる ように、提案手法はべースラインに比べて全体 としての BLEU が 0.8 ポイント低かった。表 3 は BERTScore[15] による評価結果で、表 2BLEU に比べ て差が小さいと言えるが提案手法はベースラインを 上回れなかった。

一方、ハルシネーションや繰り返しの影響を明ら かにするため、参照文のモデルの出力文の長さ比 が大きい事例数を調べた結果を図 2 に示す。特に 長さ比が 3 以上となるような極端に長い翻訳出力 がベースラインでは 67 文、提案手法では 33 文と 半減し、ratio の平均土標準偏差はベースラインで $1.035 \pm 0.360$ 、提案手法で $1.017 \pm 0.339$ になる等、提
表 4: 提案手法によるハルシネーションの改善例

## 入力文

Original Evaluation of the Stratum Corneum Exfoliated by Tape Stripping Method (Part2) - Seasonal and age-related differences of exfoliated pattern ...

## 参照文

原著角層剥離パターンによる角層評価 (第 2 報)一季節変化と年代差について一...

## ベースライン

テープストライプ法によるストラトムコネム浸潤の才 リジナル評価 (第 2 部)一浸潤パターンの季節と年齢関係の差 ... テープストライプ法によるストラトムコネム 浸潤の Original Evaluation of Stratum Corneum Exfoliated by Tape Stripping Method (Part2)一浸潤パターンの季節と 年齢関係の差 ...

## 提案手法

テープストリップ法によるストラトム角膜剥離のオリ ジナル評価 (パート 2) 一季節と年齢に関わる剥離パター ンの違い

案手法により過剰な長さの訳出が抑制できているこ とが分かり、ハルシネーションや繰り返しが減少し ていることが示唆される (出力単語数の散布図を付録の図 3 に示す)。実際にベースラインと提案手法 の翻訳結果を確認すると、ベースラインにおいてハ ルシネーションや繰り返しが起きていた文を提案手法では適切に翻訳できている例が確認できた（表 4 に例を示す)。

## 4.3 考察

提案手法の BLEU がベースラインより低下して しまった原因として、提案手法における節翻訳モデ ルの性能が低いことが考えられる。文単位のベース ライン翻訳モデルと節翻訳モデルにより文単位の 翻訳を行ったときのトークン長ごとの BLEUを表 5 に示す。節翻訳モデルは分割された節を適切に翻訳 し、節翻訳の精度を向上させる目的で作成した。し かし、ベースラインと比較して BLEU が 3.9 ポイン ト低いことから、節翻訳の段階で質の低い訳出文を 生成してしまい、並べ替えと編集のモデルの最終的 な出力文の質が低下した可能性がある。

さらなる比較のため、提案手法における節翻訳モ デルをベースラインのモデルに差し替え分割統治型翻訳を行った。その結果を表 6 に示す。表 5 から分 かるように、提案手法における節翻訳モデルをべー スラインのモデルに差し替えた場合、全体として BLEU が 2.6 ポイント低下した。これは、提案手法 の節翻訳での利用において本稿の節翻訳モデルが ベースラインよりも有効であったことを示唆してい表 5: 節翻訳モデルの入力トークン長ごとの BLEU

表 6: 節翻訳モデルをベースラインに差し替えた際 の入力トークン長ごとの BLEU

表 7: ベースラインが節翻訳の際にハルシネーショ ンを起こした例

## 入力文

The US is likewise bankrupt but

出力文

米国は同様に破産していますが、米国は同様に破産し ています。

る。表 5 で示した通り BLEU が 3.9 ポイント低いに もかかわらずこのような結果になった原因として、 ベースラインは文単位のコーパスで学習されている ため、分割された節を翻訳する際に分割によって失 われた節の前後の文を勝手に補おうとしたことが考 えられる。その具体例を表 7 に示す。こうした事象 により、節翻訳にベースラインモデルを利用した場合に重複やハルシネーションが生じ、最終的な出力 の質が低下することが考えられる。

## 5 おわりに

本稿では、ニューラル機械翻訳による分割統治的手法において、節単位疑似対訳と、後段の並べ替え と編集のモデルに事前学習モデル mBART を利用す る手法を提案した。提案手法は BLEUではベースラ インを下回る結果となったが、ハルシネーションや を起こしていた文を提案手法では適切に翻訳できて いた例が確認できた。

本稿の手法では、節翻訳後の節の並べ替えと編集 の工程において、[1] で利用されていた Transformer を事前学習モデルの mBARTに置き換えることで並 べ替えと編集の精度の改善を試みたが、精度面での 効果は確認できなかった。文全体のコンテキストの 情報やセグメント同士の関係性を考慮した節翻訳結果の並べ替えと編集が改善に向けた課題である。ま た、今回作成した節翻訳モデルは疑似的な節単位の 対訳データで学習されたモデルであるため、節翻訳 モデルの精度は改善の余地があると考えられる。

## 謝辞

本研究の一部は科研費 $21 H 03500$ と 21 H05054 の 助成を受けたものです。

## 参考文献

[1] 加納保昌, 須藤克仁, 中村哲. 分割統治的ニューラル 機械翻訳. 言語処理学会 第 27 回年次大会 発表論文集., 2021.

[2] Ziwei Ji, Nayeon Lee, Rita Frieske, Tiezheng Yu, Dan Su, Yan Xu, Etsuko Ishii, Yejin Bang, Wenliang Dai, Andrea Madotto, and Pascale Fung. Multilingual Denoising Pre-training for Neural Machine Translation. arXiv:2202.03629, 2022.

[3] K. Sudoh, K. Duh, H. Tsukada, T. Hirao, and M. Nagata. Divide and translate: improving long distance reordering in statistical machine translation. In Proceedings of the Joint 5th Workshop on Statistical Machine Translation and Met- ricsMATR(SMT '10), p. 418-427, 2010.

[4] Jean Pouget-Abadie, Dzmitry Bahdanau, Bart van Merrien-boer, Kyunghyun Cho, and Yoshua Bengio. Overcoming the curse of sentence length for neural machine translation using automatic segmentation. In Proceedings of SSST-8 Elighth Workhop on Syntax Semantics and Structure in Statistical Translation, p. 78-85, 2014

[5] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, and Aidan N. Gomez Llion Jones, Lukasz Kaiser, and Illia Polosukhin. Attention is all you need. In Advances in Neural Information Processing Systems., pp. 5998-6008, 2017.

[6] Mike Lewis, Yinhan Liu, Naman Goyal, Marjan Ghazvininejad, Abdelrahman Mohamed, Omer Levy, Veselin Stoyanov, and Luke Zettlemoyer. BART: Denoising sequence-to-sequence pretraining for natural language generation, translation, and comprehension. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, p. 7871-788, 2020.

[7] Yinhan Liu, Jiatao Gu, Naman Goyal, Xian Li, Sergey Edunov, Marjan Ghazvininejad, Mike Lewis, and Luke Zettlemoyer. Multilingual Denoising Pre-training for Neural Machine Translation. arXiv:2001.08210, 2020.

[8] 岡崎直観, 荒瀬由紀, 鈴木潤, 宮尾裕介, 鶴岡慶雅. 自然言語処理の基礎. オーム社, 2022.

[9] Makoto Morishita, Jun Suzuki, and Masaaki Nagata. JParaCrawl: A large scale web-based English-Japanese parallel corpus. In Proceedings of The 12th Language Resources and Evaluation Conference, pp. 36033609, Marseille, France, May 2020. European Language Resources Association.

[10] Taku Kudo. Mecab : Yet another part-of-speech and morpho- logical analyzer., 2006. https://taku910. github.io/mecab/.

[11] Matt Post. A call for clarity in reporting bleu scores. arXiv:1804.08771, 2018.

[12] Myle Ott, Sergey Edunov, Alexei Baevski, Angela Fan, Sam Gross, Nathan Ng, David Grangier, and Michael Auli. fairseq: A fast, extensible toolkit for sequence modeling. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics (Demonstrations), pp. 48-53, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.

[13] Yinhan Liu, Jiatao Gu, Naman Goyal, Xian Li, Sergey Edunov, Marjan Ghazvininejad, Mike Lewis, and Luke Zettlemoyer. Multilingual denoising pre-training for neural machine translation. 2020.

[14] Matthew Honnibal and Ines Montani. spaCy 2: Natural language understanding with Bloom embeddings, convolutional neural networks and incremental parsing. To appear, 2017.

[15] Tianyi Zhang, Varsha Kishore, Felix Wu, Kilian Q. Weinberger, and Yoav Artzi. Bertscore: Evaluating text generation with bert. In International Conference on Learning Representations, 2020.

## A 付録

表 8: ベースラインと提案手法の出力例

ハルシネーション

入力文

Djiboutian Honorary Consulate in Montreal, Canada usacan i have a djiboutienne visa plsssssssssssssssssssssssssss, i will like to see my country. Post a comment on this page We invite you to share your experiences with the Djiboutian Honorary Consulate obtaining visas and other services, locating the building, and so on.

## 参照文

この手法はカナダのオイルサンド産出地域の観測データに適用し、成功しています。

ベースライン

モントリオール, カナダのドジブティアン名誉領事館このウェブサイトは名誉領事館により運営されているものでは なく、あなたの意見や質問が必ずしもそちらの職員により確認されるというわけではありません。こちらはドジブ ティアンの外交政策について幅広い討論をするフォーラムではないことにご注意ください。そのような話題は削除さ れます。

## 提案手法

Montreal, カナダの Djiboutian 名誉領事館 usacan 私は djiboutienne ビザ plssssssssssssssssssssssss を持っています,私は私の 国を訪問したい.このページにコメントを投稿私たちは、Djiboutian 名誉領事館であなたの経験を共有することをお勧 めしますービザやその他のサービス、建物の検索など.

繰り返し

## 入力文

So this is Kinomoto Sakura?

## 参照文

「で、こちらが木之本桜さん?」「はい、そうです、国王陛下。

## ベースライン

「さあ、さくらさくら?」「そう、さくらさくらは?」「さくらさくらは、さくらさくらは、さくらさくらは、さくらさ くらは、さくらさくらは、さくらさくらは、さくらさくらは、さくらさくらは、さくらさくらは、さくらさくらは、さ くらさくらさくらは、さくらさくらさくらは、さくらさくらさく

## 提案手法

「これは木本さくらですか?」

(a) ベースライン

(b) 提案手法

図 3: 参照文の単語数に対する出力文の単語数
 石川隆太 加納保昌 須藤克仁 中村哲 奈良先端科学技術大学院大学 \{ishikawa.ryuta.il7, kano.yasumasa.kw4, sudoh,s-nakamura\}@is.naist.jp  