# ニューラル日英翻訳における適切な出力文数の推定

伊藤均 衣川和克 美野秀弥 後藤功雄 山田一郎
}

$\mathrm{NHK}$

\{itou.h-ce, kinugawa.k-jg, mino.h-gq, goto.i-es, yamada.i-hy \} @ nhk.or.jp
## 1 はじめに

NHK で放送される英語ニュース用の原稿は，日本語ニュース用の原稿を基に人手で翻訳・編集し制作 している. 我々はこの英語ニュース用の原稿制作を 支援するためのツールとして日英機械翻訳の研究を 進めている.

NHK のニュース原稿は, 日本語ニュース用と英語 ニュース用で異なる特徴を有する。日本語ニュース 用の原稿は一文が長いことが特徴であるのに対し，英語ニュース用の原稿は一文を短く区切る特徴があ る.

これまでに我々は，この特徴の異なりを考慮した 日英機械翻訳システム実現のため, 人手で指定した 文数に翻訳結果を制御する手法を提案した [1].

本稿では, 日英機械翻訳処理における日本語一文 に対する適切な英語出力文数の推定手法と, 出力文数推定から制御までの一連の処理について提案する.本手法は推定モデルと制御モデルの 2 つのモデルを 用いる。日本語一文に対する翻訳結果が，推定モデ ルが適切であると予想した文数で出力されるよう制御モデルで出力を制御し，所望の翻訳結果を得る.実験結果から，提案手法は出力文数を推定・制御し ない従来の日英ニューラル機械翻訳モデルの出力と 比較して，人手による翻訳結果の文数との一致率が 高いことを確認した。

## 2 出力文数の推定・制御タスク

本稿は，機械翻訳における出力文数を以下の $2 \supset$ の処理によって推定，制御する.

（a）日本語各文をいくつの英文で翻訳するべきかを 推定する.

（b）指定した文数で翻訳するよう、機械翻訳の出力 を制御する。

我々はこれまで，（b）の課題に対する手法を提案して
いる [1]. 本稿では (a)の課題に取り組み, (b)の課題 も含む枠組み全体についても評価する。

関連研究として, 目的言語における読者の語学力 に併せて翻訳文の読解難易度を制御することを目的 とした NMT の手法 [2] や，翻訳品質の向上を目的 として NMT の訓練データ中の長文を分割する手法 [3] があるが，これらは訳文の文数を制御する手法 ではない.

## 3 提案手法

提案手法は推定モデルと制御モデルの二つのモデ ルを用いて適切な文数へ翻訳結果を制御する。具体的には，以下の手順で処理を進める。

（1）日本語各文に対する適切な出力英文数を推定 する推定モデルと，指定した文数で翻訳結果 を出力する制御モデルを，ニューラル機械翻訳モデルを利用し学習する。

（2）推定モデルに翻訳したい日本語一文を入力し,適切な出力英文数を推定する。

（3）制御モデルに (2)の推定結果を入力し, 指定し た文数で日英翻訳する.

本研究では，更なる推定性能向上のため制御モデ ルへ文数を入力する前に推定モデルの出力を補正す る前処理を追加することも想定しており，上記のよ うな 2 段階の処理を導入している。

本節ではこのために必要な出力文数の推定手法と。 この推定結果を利用した出力文数制御手法について 説明する。

## 3.1 適切な出力文数の推定

日本語各文に対する適切な出力英文数を推定する ため，日本語一文を入力するとその日本語を日英翻訳する際に適切な英文数を表すタグを出力する推定 モデルを構築する。

 \\

表 1. 推定モデルの学習データへのタグの付与例

まず，日本語一文に対する翻訳英文のぺアを用意 する.これは, 日本語一文に対応する英文は必ずし も一文ずつではなく, 一対多のデータである. 次に, この一対多のデータの各出力の最初の英文の文頭に, その対訳英文が何文であるかを表すタグ(文数タグ) を付与し, 日本語一文とこの文数タグ付き対訳英文 とのぺアを推定モデルの学習データとしてニューラ ル機械翻訳モデルを学習する。

表 1. に推定モデルの学習に用いる学習データの 例を示す.こちらの例では, 日本語一文に対して英語 3 文の対訳データであるため, ターゲット言語文 の冒頭に”〈3〉”と, 英文数の情報を示す文数タグを 付与している. 文数タグは, 出力文数が一文であれ ば” 〈1〉”， 2 文であれば” 22$\rangle$, 翻訳英文中の 数值と区別するために” く〉 内の数字で文数情報を 与える.

この学習データから構築したモデルのシステムに 任意の日本語一文を入力すると, 翻訳結果の先頭に 文数タグが出力される. このタグの示す文数を推定 モデルにおける適切な英文数の推定結果とし, 後述 する制御モデルの入力に用いる.

## 3.2 出力文数の制御

我々はこれまでに, 日本語一文と共に適切な出力英文数を同時に指定することで，指定した文数で日英翻訳結果を出力する制御モデルを提案した[1]. こ の制御モデルでは手動での出力文数指定も可能であ るが，上述の推定モデルの出力によって得られた適切な出力文数を引用することで自動的に出力文数を 制御することが可能となる.

制御モデルでは, 日英対訳データの学習データに

 \\

表 2. 制御モデルの学習データへのタグの付与例

おいて，文数タグを入力である日本語各文の文頭に 配置する (表 2). 学習データ作成時にターゲット言語の出力文数を数え, ソース言語の冒頭に文数タグ として付与する。

この学習データをニューラル機械翻訳モデルに与 えて学習することにより, 翻訳文数の制御モデルを 構築する。

この制御モデルを用いて翻訳結果を出力する際に は，翻訳したい日本語各文の冒頭に，推定モデルに よって得られた文数タグを付与し，制御モデルへ入力することで最終的な翻訳結果を取得する.

## 4 実験

## 4. 1 実験条件

NHK の日本語ニュースを人手により英訳し, 約 10 万文対の実験データを構築した。このうち学習デー 夕，開発データにはそれぞれ約 96,000 文対，5,000 文対を用いた。評価データには日本語文 772 文を用意し, 評価データのみ翻訳者 2 名(翻訳者 $\mathrm{A}$, 翻訳者 B とする)がそれぞれ日英翻訳したマルチリファレ ンスデータとした.

学習モデルは NMT ツールキット” Sockeye [4]" を使用した。パラメータについては表 3 の項目につ いて表記の値に変更し, その他のパラメータについ てはデフォルト値を使用した. 出カユニット単位の 決定には Byte Pair Encoding [5] でサブワードに 分割した。

推定モデル・制御モデルの学習にはそれぞれ学習 データの出力英文数を文数タグとして用い, 出力英文数はサブワード” .”の数とした.

 & 0.2 \\

表 4. 出力文数の一致率の比較

表 3. Sockeye で用いたパラメータ

図 1. 入力単語数ごとの人手翻訳英文数の占有率

## 4.2 翻訳手法

4.1 節の条件下で推定モデルを学習した上で, 以下の翻訳手法から得られる翻訳結果を比較した.

（a）Baseline：上記のデータを用いて学習データ をそのまま使用し学習、翻訳したもの

（b）Tag：制御モデルにおいて評価データの出力英文数を入力の文数タグとして与えて翻訳し たもの。それぞれ制作者 A の出力文数を用い たものを Tag (refA), 制作者 B の出力文数を 用いたものを $\mathrm{Tag}(\mathrm{refB})$ とする. (c) Assume_Tag：推定モデルによって推定した出力文数を制御モデルの入力の文数タグとして 与えて翻訳したもの.

## 4.3 実験結果

## 4.3.1 出力文数の一致率の比較

まず，評価データの日本語各文に対する出力英文数と評価データの英文数との一致率を比較した（表

英文数と一致していれば一致とみなして算出したも

表 5. BLEU 値の比較

のを指す。文数を制御せずに翻訳した場合 (Baseline) と比較して, 推定モデルを用いた手法の 一致率が $81,8 \%$ から $87.0 \%$ に向上し, 学習データに出力文数を明示的に与えることの効果を観測すること が出来た. また, 推定モデルと制御モデルの両方を 用いた手法(Assume_Tag)でも 87.0\%の一致率を得た.制御モデルだけに着目すると, 評価データの出力文数を文数タグとして与えた場合も推定モデルの推定結果を文数タグとして与えた場合も, 文献[1]で示 したように制御モデルによる一致率の低下なく文数 を制御することが出来た。 Tag (refA)の一致率は $97.8 \%$, Tag (refB) は $99.1 \%$ と, 出力文数を指定すれ ば,ほぼその通りの文数で翻訳できることが分かる.

出力文数の推定タスクの難しさを調べるために，入力文長と出力文数との関係を調査した. 図 1 に翻訳者 A の翻訳結果における, 入力文の単語数ごとの 出力文数の占有率のグラフを示す. こちらのグラフ は各入力文を入力単語数で 10 単語単位に分類した 際の人手翻訳英文数の占有率を示している. グラフ から, 日本語一文に対する入力単語数と人手翻訳英文数には一定の相関があるが，重なりのある部分も 多く，難しいことが分かる.

また, 評価データにおける翻訳者 2 者の平均英文数は翻訳者 $\mathrm{A}$ が 1.73 文, 翻訳者 $\mathrm{B}$ が 1.47 文で, 両者の文数一致率は $65.8 \%$ と両者の一致度は高くはな かった. 推定プロセスを経ることで文数一致率が向上していることから入力文の内容と翻訳英文数との 間には何らかの相関があると推測できるが，更なる 推定性能向上のため翻訳結果を複数文に分割する要因の分析については今後の課題とする.

## 4.3.2 翻訳性能の比較

次に, 各手法の BLEU 值について比較した (表 5). $\mathrm{BLEU}$ 值は翻訳者 $\mathrm{A}$ ・ B 両者の翻訳結果をマルチリフ
アレンスとして測定した。推定モデルの結果を反映 させた手法(Assume_Tag)では Baseline と比較して BLEU 値の低下が観測された. 人手翻訳時の出力文数 を与えて翻訳した手法(Tag_refA， Tag_refB)では Baseline と比較して BLEU 值が向上していることか ら, 出力文数の一致率と BLEU スコアには相関があ ることが分かる.

一方で, 出力文数を制御出来たとしても BLEU ス コアの改善には繋がらなかった. これは出力文数が 一致することとリファレンスとの翻訳表現が一致す ることは同義ではないためと考察する. 文数推定モ デルにより文数一致率が向上したことから，人手翻訳において適切な出力文数は一定の基準に従って定 まることは推測出来るが，翻訳表現については翻訳者ごとに個性があり, 出力文数が一致したとしても 出力結果は必ずしも一致しない. 更なる原稿制作支援のため，今後入力文の情報が翻訳時に各文にどの ように分割されるか分析を進めたい。

## 5 おわりに

本稿では，NHK のニュースを対象とした日英翻訳 において, 日本語一文に対する翻訳として適切な英文数を推定し，推定結果に基づいた文数で翻訳する ためのニューラル機械翻訳モデルを提案した．提案手法は適切な文数を推定する推定モデルと, 指定し た文数で翻訳する制御モデルの 2 つのモデルで構成 され，推定・制御を経由しない従来の機械翻訳モデ ルの出力と比較して人手翻訳結果の出力文数との一致率を $6.4 \%$ 向上させることが出来た. 今後は更なる 翻訳性能と制作支援効果向上に向けた手法を検討す る。

## 参考文献

1. ニューラル機械翻訳における出力文数の制御. 伊藤ほか: 人工知能学会, 2020

2. Controlling Text Complexity in Neural Machine Translation. S. Agrawal et al. : EMNLP, 2019

3. Automatic Long Sentence Segmentation for Neural Machine Translation. S.Kuang et al. : ICCPOL, 2016

4. Sockeye: A Toolkit for Neural Machine Translation. F. Hieber et al. : arxiv, 2017

5. Neural Machine Translation of Rare Words with Subword Units. R. Sennrich et al. : ACL, 2016.
 伊藤均 衣川和克 美野秀弥 後藤功雄 山田一郎 }  $\mathrm{NHK}$  \{itou.h-ce, kinugawa.k-jg, mino.h-gq, goto.i-es, yamada.i-hy \} @ nhk.or.jp 