# 集合分割問題に基づく系列アラインメントのモデル化

西野 正彬 $^{\dagger} \cdot$ 鈴木 潤 $\dagger$ - 梅谷 俊治 ${ }^{\dagger} \cdot$ 平尾 努 $\dagger \cdot$ 永田 昌明 $\dagger$

2 つの系列が与えられたときに, 系列の要素間での対応関係を求めることを系列ア ラインメントとよぶ。系列アラインメントは，自然言語処理分野においても文書対 から対訳関係にある文のペアを獲得する対訳文アラインメント等に広く利用される。既存の系列アラインメント法は，アラインメントの単調性を仮定する方法か，もし くは連続性を考慮せずに非単調なアラインメントを求める方法かのいずれかであっ た.しかし，法令文書等の対訳文書に対する対訳文アラインメントにおいては，単調性を仮定せず，かつ対応付けの連続性を考慮できる手法が望ましい．本論文では， ある大きさの要素のまとまりを単位として系列の順序が大きく変動する場合にアラ インメントを求めるための系列アラインメント法を示す。手法のポイントは, 系列 アラインメントを求める問題を組合せ最適化問題の一種である集合分割問題として 定式化して解くことで，要素のまとまりの発見と対応付けとを同時に行えるように した点にある。 さらに，大規模な整数線形計画問題を解く際に用いられる技法であ る列生成法を用いることで，高速な求解が可能であることも同時に示す. キーワード: 系列アラインメント, 組合せ最適化, 列生成法
## Sequence Alignment as a Set Partitioning Problem

\author{
Masaaki Nishino $^{\dagger}$, Jun Suzuki ${ }^{\dagger}$, Shunji Umetani ${ }^{\dagger}{ }^{\dagger}$, \\ Tsutomu Hirao $^{\dagger}$ and Masaaki Nagata ${ }^{\dagger}$
}

Sequence alignment, which involves aligning elements of two given sequences, occurs in many natural language processing (NLP) tasks such as sentence alignment. Previous approaches for solving sequence alignment problems in NLP can be categorized into two groups. The first group assumes monotonicity of alignments; the second group does not assume monotonicity or consider the continuity of alignments. However, for example, in aligning sentences of parallel legal documents, it is desirable to use a sentence alignment method that does not assume monotonicity but can consider continuity. Herein, we present a method to align sequences where block-wise changes in the order of sequence elements exist. Our method formalizes a sequence alignment problem as a set partitioning problem, a type of combinatorial optimization problem, and solves the problem to obtain an alignment. We also propose an efficient algorithm to solve the optimization problem by applying column generation.

Key Words: Sequence Alignment, Combinatorial Optimization, Column Generation

## 1 はじめに

系列アラインメントとは，2つの系列が与えられたときに，その構成要素間の対応関係を求 めることをいう，系列アラインメントは特にバイオインフォマテイクスにおいて DNA P RNA の解析のために広く用いられているが, 自然言語処理においてもさまざまな課題が系列アライ ンメントに帰着することで解かれている. 代表的な課題として対訳文アラインメント (Moore 2002; Braune and Fraser 2010; Quan, Kit, and Song 2013) があげられる. 対訳文アラインメン トは対訳関係にある文書対が与えられたときに, 文書対の中から対訳関係にある文のぺアをす べて見つけるタスクである。統計的機械翻訳においては，対訳コーパスにおいてどの文がどの 文と対訳関係にあるかという文対文での対応関係が与えられているという前提のもとで学習処理が実行されるが，実際の対訳コーパスでは文書対文書での対応付けは得られていても文対文 の対応付けは不明なものも多い. そのため, 対訳文書間での正しい対訳文アラインメントを求 めることは精度のよいモデルを推定するための重要な前処理として位置づけられる．統計的機械翻訳以外の, 例えば言語横断的な情報検索 (Nie, Simard, Isabelle, and Durand 1999)などの 課題においても対訳文書間の正しい文アラインメントを求めることは重要な前処理として位置 づけられる。また，対訳文アラインメントのほかにも，対訳文書に限定されない文書間の対応付けタスクも系列アラインメントとして解かれている (Qu and Liu 2012; 角田, 乾, 山本 2015;竹中, 若尾 2012).

自然言語処理のタスクにおける系列アラインメント問題を解く手法は, 対応付けの単調性を 仮定する方法とそうでない方法とに大別される。単調性を仮定する系列アラインメント法は特 に対訳文アラインメントにおいて広く用いられる方法であり，対訳関係にある二つの文章にお ける対応する文の出現順序が大きく違わないことを前提として対応付けを行う。すなわち, 対訳関係にある文書のペア $F, E$ に対し， $F$ の $i$ 番目の文 $f_{i}$ に $E$ の $j$ 番目の文 $e_{j}$ が対応すると したら，Fの $i+1$ 番目の文に対応する $E$ の文は,（存在するならば） $j+1$ 番目以降であるとい う前提のもとで対応付けを行っていた。この前提は, 例えば小説のように文の順序が大きく変動すると内容が損なわれてしまうような文書に対しては妥当なものである。一方で単調性を仮定しない方法は (Qu and Liu 2012; 角田他 2015; 竹中, 若尾 2012) などで用いられており, 文間の対応付けの順序に特に制約を課さずに系列アラインメントを求める。図 1 は, それぞれ単調性を仮定した系列アラインメント，仮定しない系列アラインメントの例を表している。白丸 が系列中のある要素を表現しており, 要素の列として系列が表現されている。図では 2 の系列の要素間で対応付けがとられていることを線で示している. 単調性を仮定した対応付け手法 では，対応関係を表す線は交差しない。一方で仮定しない手法では交差することが分かる.

系列アラインメントにおいて単調性を仮定することは，可能なアラインメントの種類数を大 きく減少させる一方で, 動的計画法による効率的な対応付けを可能とする. 先述したように, 対

(a) 単調な系列アラインメント

(b) 非単調な系列アラインメント

図 1 既存の系列アラインメント法によるアラインメント例

訳文アラインメントを行う際に単調性を仮定することは多くの対訳文書に対しては妥当な仮定 である。しかし, 単調性を仮定することが妥当でない対訳文書も存在する. 例えば文献 (Quan et al. 2013) では, 単調性が成り立たない文書の例として法令文書を挙げている。そのほかにも 例えば百科事典や Wikipedia の記事のように一つの文書が独立な複数の文のまとまりからなる 場合には，文のまとまりの出現順序が大きく変動しても内容が損なわれないことがある。この ような文書においては，文の順序が大きく変動しないという前提は必ずしも正しいものではな いため, 既存の単調性を仮定した系列アラインメント法では正しい対訳文アラインメントが行 えない可能性が高い.

一方で，単調性を仮定しない既存のアラインメント法では非単調な対応付けを実現できるも のの，対応付けの連続性を考慮することが難しいという問題がある。対応付けの連続性とは， $f_{i}$ が $e_{j}$ と対応付けられているならば， $f_{i+1}$ は $e_{j}$ の近傍の要素と対応付けられる可能性が高いと する性質のことである 1 . もし対応付けにおいて連続性を考慮しないとすると, 系列 $F$ 中のあ る要素 $f_{i}$ とそれに隣接する要素 $f_{i+1}$ とが, それぞれ $E$ 中で離れた要素と対応付けられてもよ いとすることに相当する。対応付けの単調性を仮定できるような対訳文書の対訳文アラインメ ントについては，明らかに対応付けの連続性を考慮する必要がある。 さらに，単調性が仮定で きないような文書のぺアに対する対訳文アラインメントにおいても，ある文とその近傍の文が 常に無関係であるとは考えにくい，以上より，文アラインメントにおいては連続性を考慮する ことが不可欠である。また，対訳文アラインメント以外の系列アラインメントを用いるタスク においても，対応付けの対象となる系列は時系列に並んだ文書等，何らかの前後のつながりを 仮定できるものが多いことから，連続性を考慮する必要がある。

単調性を仮定できない文アラインメントの例を示す. 図 2 は, 文献 (Quan et al. 2013)の検証

^{1} 4$ 節以降の提案手法の説明では, 説明を簡単にするために，対応付けに順方向の連続性がある場合，すなわち $f_{i}$ と $e_{j}$ が対応付けられているならば $f_{i+1}$ は $e_{j}$ より後ろにある近傍の要素と対応付けられやすい場合のみを扱ってい る。しかし, 実際には提案法は順方向に連続性がある場合と同様に逆方向の連続性がある場合の対応付けを行うこ ともできる。逆方向の連続性とは， $f_{i}$ と $e_{j}$ が対応付けられているならば， $f_{i+1}$ は $e_{j}$ 以前の近傍の要素と対応付 けられる可能性が高いとする性質のことである.

2 http://www.legistlation.gov.hk
}
"adopted" (領羪) means adopted in pursuance of an adoption order made under the
Adoption rap (Cap) or of any adoption recognized as valid by the law of Hong Kong;

"dependant" (受養人), in relation to a deceased person, means (a) the wife, husband, former wife or former husband of the deceased and any person whose marriage to the deceased has been an

(b) a concubine lawfully taken by the deceased before 7 October 1971;

(c) any person who- (i) was living with the deceased in the same household immediatel before the date of his death; "wife" ( (妻、妻子) means- (a) in the case of a Christian marriage or its civil equivalent, the
lawful wife;

and (b) in the case of any other lawful marriage- (i) the lawful wife of such marriage;

or (ii) if there is more than one lawful wife, the lawful principal wife recognized as such by the personal law of the husband of such marriage, or if there is no lawful principal wife, the lawful wives so recognized.

(2) In deducing any relationship for the purposes of this Ordinance- (a) an adopted person shall be treated as the child of the person or persons by whom he was adopted and not as the child of any other person; and, subject thereto;

“妻”、“妻子” (wife) 指一 (a) 在基督教婚姻或與其相等的世俗婚姻中的合法妻子;及 (b) 在其他合法婚姻中一 (i) 該宗婚姻的合法妻子:或 (ii)（如有超過一個合法妻子)，對丈夫本人有約束力的法律所承認的合法正妻，或(如並無合法正妻)該等法律所承認的各合法妻子;

“受養人" (dependant) 就死者而言，指一 (a) 死者的妻子、丈夫、前妻或前夫，以及與死者所締結的婚姻已經作廢或遭宣布無效的人;

(b) 死者在1971年10月7日以前合法納娶的妾侍;

(c) 符合下列條件的人一 (i) 在緊接死者死亡的日期之前, 與死者在同一住戶內生活，如同夫位:

"“領養" (adopted) 指依據根據《領養條例》(第290章)發出的領養令而領養，或依據香認為有效的方式而領養

（2）為本條例的施行而推斷關係時一 (a) 須視受領養人為領養人的子女而非其他人的子女並且在符合本段的規定下;

図 2 法令文書における非単調な対訳文アラインメントの例

おける文アラインメントの例である，BLIS は香港の法令文書の電子データベースであり，対訳関係にある英語・中国語の文書を保持している。図に示す対訳文は用語の定義を行っている箇所である。両言語の文を比べると，定義する用語の順番が英語と中国語とで異なっており，結果として，局所的には連続なアラインメントが非単調に出現する対訳文書となっている.

本論文では系列の連続性を考慮しつつ，かつ非単調な系列アラインメントを求めるための手法を提案する。このような系列アラインメント法は，単調性を仮定できない文書対の対訳文ア ラインメントを求める際に特に有効であると考える。仮に文書 $F$ の文が $E$ の任意の文と対応し てもよいとすれば，ある文のぺアの良さを評価するスコアを適切に設定することによって，問題を二部グラフにおける最大重みマッチング問題 (Korte and Vygen 2008) として定式化して解 くことができる。しかし，Fのある文が $E$ の任意の文と対応してもよいという前提では，近傍 の文間のつながりを無視して対応付けを行うことになる。実際の文書ではすべての文がその近傍の文と無関係であるとは考えにくいため, 正しい対応付けが行えない可能性が高い。そこで，提案手法では対訳文アラインメントを組合せ最適化の問題の一つである集合分割問題として定式化して解く，集合分割問題は，ある集合 $S$ とその部分集合族 $S_{1}, \ldots, S_{N}$ が与えられたときに， スコアの和が最大となるような $S$ の分割 $\mathcal{D} \subseteq\left.\{S_{1}, \ldots, S_{N}\right.\}$ を見つける問題である. ここで $\mathcal{D}$ が $S$ の分割であるとは, $S=\cup_{S_{i} \in \mathcal{D}} S_{i}$ かつ $i \neq j$ ならば任意の $S_{i}, S_{j} \in \mathcal{D}$ について $S_{i} \cap S_{j}=\emptyset$ となることをいう。 2 の系列 $F, E$ のある部分列に対する単調な系列アラインメントの集合を $S_{1}, \ldots, S_{N}$ として表現することで，部分列に対するアラインメントの集合 $S_{1}, \ldots, S_{N}$ から系列全体の分割となるような部分集合を選択する問題として $F, E$ 全体に対する系列アラインメン 卜を求めることができる.

また，本論文では集合分割問題としての系列アラインメントの定式化とともに，その高速な 求解法も同時に示す。提案する集合分割問題に基づく定式化を用いると，系列 $F, E$ に含まれ

る要素の数が増加するに伴い，急激に厳密解の求解に時間がかかるようになるという課題があ る.これは, それぞれの系列に含まれる要素の総数を $|F|,|E|$ とすると, 集合分割問題に出現 する変数の数 3 が $O\left(|F|^{2}|E|^{2}\right)$ となるためである。集合分割問題は NP 困難であり，変数の数が 増加すると各変数に対応する重みの計算および整数線形計画法ソルバを用いた求解に時間がか かるようになる。本論文ではこの課題に対処するために，多くの変数が問題中に出現する大規模な線形計画問題を解く際に用いられる，列生成法 (Lübbecke and Desrosiers 2005) を用いる ことで高速な系列アラインメントを実現する近似解法も同時に提案する。列生成法は大規模な 問題の解を, 出現する変数の個数を制限した小さな問題を繰り返し解くことによって求める手法である，列生成法を用いることによって，そのままでは変数の数が膨大となり解くことがで きなかった問題を解くことができる。なお，列生成法を用いることで線形計画問題の最適解を 得られることは保証されているが, 整数線形計画問題については解を得られることは必ずしも 保証されていない。そこで本論文では列生成法で得られた近似解を実験によって最適解と比較 し，よい近似解が得られていることを確認する。

なお，以下では説明を簡単にするために特に対訳文書の対訳文アラインメントに話題を限定 して説明を進める。ただし, 系列の要素間のスコアさえ定まれば提案法を用いて任意の系列の ペアに対する系列アラインメントを行うことが可能である.

## 2 関連研究

対訳文アラインメントに関しては, これまで，文の長さを対応付けに利用する方法 (Gale and Church 1993)，語の翻訳確率と文の長さを利用する方法 (Moore 2002; Braune and Fraser 2010) などが提案されてきているが，ほとんどの方法でアラインメントの単調性を仮定している，単調性を仮定することによって動的計画法によって効率的に対訳文アラインメントを求めること ができるという利点はあるが, 序章で述べたように単調性が成り立たない文書対に対しては正 しいアラインメントを求めることができないという点がある. Deng らは系列マッチングとク ラスタリングをあわせて利用することで，文の順序が入れ替わる場合でも対訳文アラインメン トを行える手法を提案している (Deng, Kumar, and Byrne 2007). しかし, Deng らの手法は, ある隣接する二つの文の順序が入れ替わるなど，順序の入れ替わりが小さい範囲で起きること を想定した手法であり，より大きな範囲での順序の入れ替わりには対処できない.

対訳文間の単調性を仮定しない, 非単調な対訳文アラインメントを求めるための手法として,近年 Quan らは半教師あり学習の枠組みに基づく文対応付け手法を提案している (Quan et al. 2013). 彼らの手法は基本的には二部グラフマッチングに基づくアラインメント法であるが, 各

文書における文間の類似度合いを対応付けのための目的関数に用いている点が特徴的である。 Quan らの手法と比較すると，提案法は文のまとまり単位のアラインメントをより明示的に意識した手法となっていることが異なる，Quan らの手法は隣り合う文間の関係を明示的には考慮しないため, 対訳文書間で文の出現順序が全く異なる文書により適している。また，Quan ら の手法は二部グラフマッチングに基づく手法のため多対多のアラインメントには対応できない が，提案法は内部で呼び出す既存の単調性を仮定した対訳文アラインメント法を多対多のマッ チングを考慮するものに変更することによって，容易に多対多の対訳文アラインメントを行う ように拡張できる点も異なる。

対訳文アラインメント以外にも，さまざまな自然言語処理のタスクが系列アラインメント問題として定式化され解かれている。例えば質問応答ウェブサイトにおける質問と回答との対応付け (Qu and Liu 2012)や，ウェブサイトにおけるレビュー文とそれに対する返答のペア (角田他 2015), 条例文 (竹中, 若尾 2012)の対応付けといったタスクなどがある.

対訳文アラインメント以外の自然言語処理における重要な系列アラインメント問題の適用先 として，単語アラインメントが挙げられる，単語アラインメント問題に関しては非単調なアライ ンメントを求めるための手法が数多く提案されてきている. Brown らは, 原言語の各単語は必 ず目的言語のある単語に対応付けられるなどの制約のもとで, 生成モデルに基づいた単語の非単調なアラインメントを行っている (Brown, Petra, Pietra, and Mercer 1993)。また, Wu は反転 トランスダクション文法に基づいた非単調な単語アラインメント法を提案している (Wu 1997). これらのうち, (Brown et al. 1993) は単語アラインメントに固有の性質を扱っており, 本論文 で扱っている対訳文アラインメントに直接適用するのは難しい。また，反転トランスダクショ ン文法に基づく手法は，提案法に類似の非単調な対訳文アラインメントを実現可能な文法規則 を設計できる。しかし, 反転トランスダクション文法では連続な文間の非単調なアラインメン トの形態が制限される点が提案手法と異なる.

## 3 単調性を仮定した対訳文アラインメント法

提案法の説明の準備として，単調性を仮定した動的計画法に基づく既存の対訳文アラインメ ント法について説明する。単調性を仮定した対訳文アラインメント法では，対訳文書 $F, E$ の ある文のぺア $s \in F, t \in E$ が対応付けられた時のスコア $S(s, t)$ が与えられたときに 4 ，スコアの 総和が最大となるような単調な対訳文アラインメントを求める。アラインメントの単調性を仮定すると，最適な系列アラインメントは動的計画法を用いることで高速に求めることができる。

これまでにさまざまなスコア $S(s, t)$ の定義が提案されてきているが, 代表的な対訳文アライ ンメント法である Moore による手法 (Moore 2002) では, 文の長さと文中の語の翻訳確率とを 用いることでペアのスコアを定義し, 対訳文アラインメントに含まれるぺアのスコアが最大と なるようにアラインメントを求める。具体的には, $s \in F$ である文 $s$ と $t \in E$ である文 $t$ とのぺ アのスコア $S(s, t)$ を

$
S(s, t)=\frac{P\left(m_{s}, m_{t}\right)}{\left(m_{s}+1\right)^{m_{t}}}\left(\prod_{j=1}^{m_{t}} \sum_{i=1}^{m_{s}} \operatorname{tr}\left(t_{j} \mid s_{i}\right)\right)\left(\prod_{i=1}^{m_{s}} u\left(s_{i}\right)\right)
$

として定める。ここで， $m_{s}, m_{t}$ はそれぞれ文 $s, t$ に含まれる単語の総数である。また $, s_{i}, t_{j}$ は それぞれ $s$ の $i$ 番目の語, $t$ の $j$ 番目の語を表す. $t r\left(t_{j} \mid s_{i}\right)$ は語 $s_{i}$ が $t_{j}$ に翻訳される確率であ る. $u\left(s_{i}\right)$ は語 $s_{i}$ の文書中での相対頻度を表す. $P\left(m_{s}, m_{t}\right)$ は, 文の長さ（語の数）に応じてス コアを定める関数であり, ポアソン分布を用いて

$
P\left(m_{s}, m_{t}\right)=\frac{\exp \left(-m_{s} r\right)\left(m_{s} r\right)^{m_{t}}}{m_{t} !}
$

として定義される。 $r$ はパラメータである。各確率分布は (Brown et al. 1993) にある手法によっ てデータから推定できる。

## 4 集合分割問題に基づく対訳文アラインメントのモデル化

本論文で提案する対訳文アラインメント法の概観を示す。提案法のポイントは，文書を連続 する文のまとまりに分割してアラインメントを求める点にある。 すなわち，対訳文書のそれぞ れを同数の文のまとまりに分割したのち，

(1) どの文のまとまり同士が対応付けられるか

（2）対応付けられた文のまとまりのペアの中で，どの文のペアが対応付けられるか を同時に求めることで対応付けを行う。このときに (1)について非単調な対応付け, (2) につい ては単調な対応付けを行うことによって，連続性を考慮した非単調な対応付けを実現する。そ れぞれの文書を 3 つのまとまりに分割したときの提案法による対訳文アラインメントの様子を 図 3 に示す。図中の白い丸がひとつの文に対応している。また, 複数の丸を囲む四角が文のま とまりを表す。図より，文のまとまり同士の対応付けにおいては非単調な対応付けを行ってい ることと, 文のまとまりに含まれている文同士の対応付けにおいては単調な対応付けを行って いることが分かる，文のまとまりに含まれる文同士の対応付けは，既存の単調な対訳文アライ ンメント法によって行われる。つまり，対応付けられる各文書を 1 つのまとまりだとみなした 場合は, 文書全体で単調な対応付けを行うことになるため, 提案手法は既存の対訳文アライン メント法と同等である.

図 3 提案法による対訳文アラインメントの概観。各文書を 3 つの連続する文のまとまりに分割し，文の まとまり間で非単調な対応付けを行っている。対応付けられた文のまとまりのぺアに含まれる文間 では，単調な対応付けを行っている，結果として文書全体に対する対訳文アラインメントが得られ ている.

以下で用いる記法について述べる。対応付けをとる対象の 2 つの文書を $F, E$ とし，それぞれ $|F|,|E|$ 個の文からなるとする。 $f_{i}$ を $F$ に含まれる $i$ 番目の文, $e_{k}$ を $E$ に含まれる $k$ 番目の文と する．Fの $i$ 番目から $j$ 番目までの連続する文の集合を $f_{i j} \subseteq F$ とする．たたし $1 \leq i \leq j \leq|F|$ である。同様に， $e_{k l} \subseteq E$ は $E$ の $k$ 番目から $l$ 番目までの連続する文の集合とする. たたし $1 \leq k \leq l \leq|E|$ である.また， $a_{i j k l}$ を文のまとまりのぺア $\left(f_{i j}, e_{k l}\right)$ を表現するために用い, $f\left(a_{i j k l}\right)=f_{i j}, e\left(a_{i j k l}\right)=e_{k l}$ と定義する.

文のまとまり $f_{i j}$ と $e_{k l}$ のペアに対して，既存の単調性を仮定した対訳文アラインメント法を 適用することによって得られる文アラインメントのスコアを $\operatorname{seqMatch}\left(f_{i j}, e_{k l}\right)$ とする。すなわ ち, $f_{i j}, e_{k l}$ 間のある単調なアラインメントを $X$, すべての単調な対訳文アラインメントの集合 を $\mathcal{A}_{i j k l}$ とすると, $\operatorname{seqMatch}\left(f_{i j}, e_{k l}\right)$ は

$
\operatorname{seqMatch}\left(f_{i j}, e_{k l}\right)=\max _{X \in \mathcal{A}_{i j k l}} \sum_{(s, t) \in X} S(s, t)
$

として定義される.

## 4.1 集合分割問題に基づく定式化

前節で定義した $\operatorname{seqMatch}\left(f_{i j}, e_{k l}\right)$ は，文のまとまり $f_{i j}$ と $e_{k l}$ のペアに対する対応付けスコア であるとみなすことができる。このスコアを用いて文のまとまり同士の一対一の対応付けを求 める．文のまとまり同士の対応付けを求めることができれば，それに含まれる文間の対応付け は $\operatorname{seqMatch}\left(f_{i j}, e_{k l}\right)$ を求める際に既に求めてあるため, 結果として対訳文アラインメントが得 られる，可能なすべての文のまとまりのぺア $a_{i j k l}$ の集合を $\mathcal{M}$ とすると，ある文アラインメン 卜は，M部分集合であり，かつ文書対の分割となっているような文のまとまりのぺアの集合 $A \subseteq \mathcal{M}$ として表現できる。ただし， $A$ に含まれる任意の文のまとまりのぺア $a, a^{\prime} \in A$ について $f(a) \cap f\left(a^{\prime}\right)=\emptyset$ かつ $e(a) \cap e\left(a^{\prime}\right)=\emptyset$ であり,$\cup_{a \in A} f(a)=F$ かつ $\cup_{a \in A} e(a)=E$ を満たすもの

とする，上記の条件を満たす $A$ の集合を $\mathcal{A}$ とすると，対訳文アラインメントを求める問題は，

$
\hat{A}=\underset{A \in \mathcal{A}}{\operatorname{argmax}}\{\operatorname{score}(A)\}
$

として，マッチングのスコアを最大とする $\hat{A}$ 求める問題として定式化することができる。こ こで score(A)は， $F$ と $E$ に対する分割 $A$ を定めたときのスコアであり，以下のように定義する.

$
\operatorname{score}(A)=\lambda^{K} \prod_{a \in A} \operatorname{seqMatch}(f(a), e(a))
$

ここで $K$ は $A$ 中に含まれる文のまとまりのぺアの総数， $\lambda$ はぺアの個数に応じて課されるぺナ ルティを表すパラメタであり， $0<\lambda \leq 1$ を満たすように設定する。 $\lambda=1$ とすると解に出現 する文のまとまりのぺアの個数に制限をつけないことに相当するため，文の連続性を考慮しな

まりの個数に対して大きなぺナルティを与えることに相当するため，できるだけ小ない個数の 文のまとまりが解に含まれるようになる，入をある程度以上小さな値に設定すると常に 1 つの 文のまとまりのペアに分割されるようになる。これは既存の単調な対訳文アラインメントと等 しい.

式 (5) の対数をとると, $\operatorname{score}(A)$ は文のまとまりのペア $a$ に対する線形式に置き換えること ができる。よって, ここでの対訳文アラインメント問題は整数線形計画問題 (ILP) として定式化することができる。ILPによる定式化は,

$
\begin{aligned}
& \operatorname{maximize} \sum_{i j k l}\left(w_{i j k l}+\log \lambda\right) y_{i j k l} \\
& \text { subject to } \sum_{i, j: i \leq x \leq j} \sum_{k l} y_{i j k l}=1 \quad \forall x: 1 \leq x \leq|F| \\
& \sum_{i j} \sum_{k, l: k \leq x \leq l} y_{i j k l}=1 \quad \forall x: 1 \leq x \leq|E| \\
& y_{i j k l} \in\{0,1\} \quad \forall i, j, k, l
\end{aligned}
$

となる.ここで， $w_{i j k l}$ は $\log \operatorname{seq} \operatorname{Match}\left(f_{i j}, e_{k l}\right)$ の值である。 $y_{i j k l}$ は文のまとまりのぺア $a_{i j k l}$ を アラインメントに含むことを表す変数であり,$y_{i j k l}=1$ のときは $a_{i j k l}$ が対訳文アラインメン トに含まれるとする。制約 (7) は， $F$ 中の $x$ 番目の文を含むすべての文のまとまりのぺア $a_{i j k l}$ のうち, 必ず 1 つだけが解に選択されることを保証するものである. (8) は同様の制約を $E$ に 課したものであり，これら 2 つの制約を併せて $F$ と $E$ に含まれる各文が最終的に得られた文 のまとまり同士の対応付けのいずれか 1 つに必ず含まれることを保証する。今回用いた定式化 は，任意のペア $\left(f_{i j}, e_{k l}\right)$ に対応する集合の集まりである集合族に対する集合分割問題となって いる。なお, 提案法は既存の単調な文アラインメント法として, 多対多のアラインメントを求

めることができる手法を用いることによって, 非単調な多対多のアラインメントを実現するこ とができる 5.

## 5 列生成法

式 (6) から (9) からなる整数線形計画問題はすべての文のまとまりのぺア数に対応する数の 変数を含む. このようなぺアは $|F||E|(|F|+1)(|E|+1) / 4$ 種類存在するため, 文の数が増加す ると整数線形計画問題に含まれる変数の数が急増し, 解を求めるのに時間がかかるという問題 がある。本論文では列生成法 (Lübbecke and Desrosiers 2005)を用いた近似解法を導入すること でこの問題に対応する。一般的な整数線形計画問題の解法では，すべての変数を求解時に明示的に扱って解を求めるが, 列生成法では目的関数の増加に寄与する可能性がある変数を逐次的 に追加しながら問題を解くことで解を求める。最適解において非ゼロとなる変数の数が問題全体で扱う変数の数に対して非常に小さい場合, 最適解においてゼロとなる変数を考慮せずに解 が得られる可能性が高いことから，列生成法によって高速に解を得られることが期待できる。

以下，列生成法に基づく解法の詳細を述べる．列生成法を導入するにあたり，いくつかの概念を定義する。まず，式 (6) から (9) からなる整数線形計画問題を線形緩和した問題，つまり 制約 $a_{i j k l} \in\{0,1\}$ を $0 \leq a_{i j k l} \leq 1$ へと緩和した問題を主問題 (Master problem: MP) とよぶ.主問題に含まれるすべての変数の集合を $\mathcal{M}$ とする。 MPからいくつかの変数を取り除いた問題 を制限された主問題 (Restricted master problem: RMP) とよぶ. RMP に出現する変数の集合 を $\mathcal{M}^{\prime} \subseteq \mathcal{M}$ と表す. ある線形計画問題の双対問題とは, もとの問題の各変数にそれぞれ対応 する制約条件と，もとの問題の各制約条件に対応する変数からなる線形計画問題のことである. RMP に対しても双対問題を考えることができる。双対問題において RMP における文 $f_{n}$ に関 する制約に対応する変数を $u_{n}, e_{m}$ に関する制約に対応する変数を $v_{m}$ とする. 線形計画問題が 最適解を持つのであれば，最適解の值はそれは双対問題の最適解の值と一致することが知られ ており，RMPの最適解を単体法を用いて得ることができたならば，双対問題の最適解も容易に 計算可能である。

列生成法は RMP の求解と RMP に追加する変数を求める問題とを繰り返し解くことで MP を解く。追加する変数を求める問題は列生成部分問題とよばれ, 具体的には $a_{i j k l} \in \mathcal{M} \backslash \mathcal{M}^{\prime}$ で あるような $a_{i j k l}$ のうち,
-e_{4}, f_{2}-e_{3}, f_{3}-e_{2}, f_{4}-e_{1}$ といったような逆順で単調なアラインメン トを解の一部として含むようにすることも可能である。具体的には式 (3) において $\operatorname{seqMatch}\left(f_{i j}, e_{k l}\right)$ を通常順,逆順の全ての可能な対応付けからスコアを最大にするものを選択するように修正すればよい。逆順の単調なアライ ンメントは，片方の系列を逆順にしたうえで，単調性を仮定した動的計画法によるアラインメント法を実行するこ とで求めることができる.
}

$
\bar{w}_{i j k l}=w_{i j k l}+\log \lambda-\sum_{n=i}^{j} \hat{u}_{n}-\sum_{m=k}^{l} \hat{v}_{m}
$

を最大とするものを一つ求める問題である。ここで, $\hat{u}_{n}$ は RMP の双対問題の最適解における 変数 $u_{n}$ の値, $\hat{v}_{m}$ は変数 $v_{m}$ の値とする．以下では $\bar{w}_{i j k l}$ のことを被約費用とよぶ. ある RMP を解いた後に各変数に対する被約費用がすべて負となるとき，RMP の最適解は MP の最適解 となることが知られている。最適解において多くの変数の値がゼロとなるような問題において は, 出現する変数の数が MP よりも大幅に少ないRMP を解くことで MP の最適解が得られる ことが期待できるため, 列生成法は大規模な最適化問題を高速に解くことができる.

列生成部分問題を解くことを考える。前述のとおり，変数は $|F||E|(|F|+1)(|E|+1) / 4$ 個あ るため, その全てについて被約費用を求めるのは困難である。 しかし, スコア $w_{i j k l}$ が 3 章で 述べたように動的計画法によって求められること，および被約費用の式 (10)において $\hat{u}_{n}, \hat{v}_{m}$ が対応する文ごとにそれぞれ独立に作用していることを利用すると，最大の被約費用を SmithWaterman 法 (Smith and Waterman 1981)に類似した動的計画法によって求めることができる. Smith-Waterman 法はバイオインフォマティクスの分野で提案された, 配列の局所アラインメ ントを求めるためのアルゴリズムであり, 動的計画法に基づいて長さ $N, M$ の二本の配列に対 する局所アラインメントを $O(N M)$ 時間で求めることができる. ここで局所アラインメントと は, 二本の配列の可能な部分配列間の系列アラインメントのうち， スコアを最大とするものの ことである．動的計画法は以下の局所アラインメントの再帰的な定義に沿って計算する。なお,以下では説明を簡単にするため, 提案法内で利用する単調なアラインメントを求める手法が一対一のアラインメントのみを求めると仮定している. しかし, 多対多のアラインメントを求め ることができる手法を利用した場合であっても，下記の再帰式を容易に拡張することが可能で ある ${ }^{6}$.

$q[j, l]$ をその末尾の要素がそれぞれ $f_{j}, e_{l}$ であるような文のまとまりのぺアの被約費用 $\bar{w}_{i j k l}$ $(1 \leq i \leq j, 1 \leq k \leq l)$ の最大値とすると, $q[j, l]$ は

$
q[j, l]=\max \left.\{\begin{array}{l}
\log \lambda \\
q[j-1, l-1]+S\left(f_{j}, e_{l}\right)-\hat{u}_{j}-\hat{v}_{l} \\
q[j-1, l]+S\left(f_{j}\right)-\hat{u}_{j} \\
q[j, l-1]+S\left(e_{l}\right)-\hat{v}_{l}
\end{array}\right.
$

として再帰的に計算することができる. なお $q[0,0]=\log \lambda$ とする. ここで $S\left(f_{j}, e_{l}\right), S\left(f_{j}\right), S\left(e_{l}\right)$ は，既存の単調性を仮定した（例えば（Moore 2002）など）対訳文アラインメント法において利用されるスコアであり，それぞれ文 $f_{j}$ と文 $e_{l}$ とを対応付けたときのスコア， $f_{j}$ を $E$ どの文

とも対応させなかったときのスコア,$e_{l}$ を $F$ のどの文とも対応させなかったときのスコアであ る. 最上段の選択肢 $\log \lambda$ は, $f_{j+1}, e_{l+1}$ を開始位置とする文のまとまりのぺアの被約費用が, $f_{j}, e_{l}$ を含む文のまとまりのペアの被約費用よりも必ず大きくなるときに選択される。すべての $1 \leq j \leq|F|, 1 \leq l \leq|E|$ について動的計画法によって $q[j, l]$ を計算したのちに, それらのうち最大値をとることで被約費用の最大値を求めることができる。 さらに， $q[j, l]$ を計算する際に (11) のどの式をもとに計算したかを記憶しておけげ，最大值をとる $q[j, l]$ からバックトラッキングを 実行することによって被約費用を最大とする $x_{i j k l}$ を求めることができる。すなわち, (11)の 4 種類の選択肢のうち，下 3 種類の選択肢のいずれかが利用されたのであればそれぞれの式中に 出現している $q[j-1, l-1], q[j-1, l], q[j, l-1]$ のいずれかに遷移し， バックトラッキングを続 ける. もし最上段の選択肢 $\log \lambda$ が利用されたのであれば，そこでバックトラッキングを終了す る. バックトラッキングを終了したときの状態を $q\left[j^{\prime}, l^{\prime}\right]$ とすると, $i=j^{\prime}+1, \quad k=l^{\prime}+1, \quad$ と して $i$ と $k$ が求まる. すべての $q[j, l]$ を計算する動的計画法は $O(|F||E|)$, バックトラッキング は高々 $O(|F|+|E|)$ 時間で実行できるため，Smith-Waterman 法によって被約費用を最大とす るアイテムを効率的に選択できる。

列生成法の手順を図 4 に示す。まず RMP に含まれる変数の集合を $\mathcal{M}^{\prime}=\left.\{x_{1|F|, 1|E|}\right.\}$ として 初期化する (line 1)、 $x_{1|F|,|| E \mid}$ はすべての文からなる文のまとまりであり, 実行可能解であるこ とから，以降の RMP は必ず実行可能解をもつことが保証される．以降，RMP の求解7 (line 3) と Smith-Waterman 法による列生成部分問題の求解 (line 4) とを繰り返す。もしすべての変数 で被約費用が負となったら (line 5), その時点で MP の最適解が得られていることになるので,最後に現在の RMP に整数制約を追加したうえで整数線形計画問題を解いて得られた解を出力 する (line 8)．ここで，RMP に整数制約を追加して得られた解が必ずしも元の MP に整数制約 を追加して得られた解と一致するわけではないことに注意する必要がある。 すなわち, 提案法

1: $\bar{w}_{1|F|, 1|E|}$ を計算し変数 $x_{1|F|, 1|E|}$ を RMP に追加する.

## 2: loop

RMP を解く.

列生成部分問題を解き，被約費用を最大とするアイテム $x_{i j k l}$ を選択する.

if 最大の費約費用 $\bar{w}_{i j k l}$ が負 then

## break

end if

RMP に変数 $x_{i j k l}$ を追加する.

end loop

10: RMP に整数制約を追加し，整数線形計画問題として解く.

図 4 列生成法を用いた近似アルゴリズム

はヒューリスティクスであり，必ずしも厳密な最適解を得られるわけではない，そこで検証に よって厳密解との差を評価する。

## 6 検証

## 6.1 検証設定

提案手法の有効性を検証する。非単調な系列アラインメントはいくつかの研究で検証されて いるが，正解の対応付けが公開されていないことから，今回は検証のためのデータとして文対応が既知である日本語と英語の対訳文書から生成した人工データを用いた。対訳文書はそれぞ れ約 25,000 文からなる。この文書から取り出した 2,500 文から文の長さが一定以上に長いもの と短いものとを除いたものをテストデータを生成する元データ，残りを翻訳確率等を推定する ための訓練データとして用いた。

テストデータの生成手順は以下のとおりとする。まず，元デー夕のそれぞれの文書集合から， $K$ 個の対応関係にある連続する文のまとまりをランダムに取り出す。なお，対応関係にある文 のまとまりには，対訳関係になっていない文も含まれる，その後，取り出した文のまとまりをラ ンダムに並べなおしたのちに，各まとまりに含まれる文を順に並べることで文のまとまり単位 での移動があるデータセットを作成した. テストデータの文の数は日本語, 英語ともに 60 文と し，まとまりの数は $K=1,3,6,12,20$ とした。このデータセットを以下では対称データセット とよぶ. $K=1$ のときは単調な対訳文アラインメントを求める問題となっている. 次に, 日本語と英語の文の数が異なるデータセットも同様に作成した。こちらでは日本語の文数を 60 文,英語の文数を 40 文とし, 日本語の 20 文は対応する文が存在しないようにした。日本語のまと まりの数は $K=3,6,12$ とし, 英語のまとまりの数は日本語のまとまりの数の $2 / 3$ とした. こ のデータセットを以下では非対称データセットとよぶ。最後に，日本語と英語からそれぞれ 60 文選ぶが，そのうち対応関係にあるのは 40 文であり, 残りの日本語・英語の 20 文は対応する 文が存在しないようなデータも作成した，以下では対応なしデータセットとよぶ，文のまとま りの数は $K=3,6,12$ とし, そのうち $1 / 3$ については対応する文が存在しないものとした.

比較対象として, Moore らによる系列マッチングに基づく手法 (Moore) と, 二部グラフの重 み最大マッチングとして解いた方法 (BM) とを用いた。なお，重み最大マッチングにおける対応付けの重みは式 (1)を用いた。評価は Moore(Moore 2002) にならって, 文の対応付けの再現率 (recall), 適合率 (precision), F 値 (F-measure) を算出した。対称, 非対称の各データセットに ついて, 異なる $K$ ごとに 5 つのデータセットを生成し, その平均値を最終的な評価値とした.翻訳確率の算出には GIZA++(Och and Ney 2003) を用いた. 整数線形計画問題のソルバとして ILOG CPLEX を用いた。文のまとまりの個数に対するぺナルティ $\lambda$ は， $\lambda=0.1$ と $\lambda=0.01$ の 2 種類を試した。

## 6.2 結果

実験結果を表 $1,2,3$ に示す. 表中の SP + ILP は集合分割問題を整数線形計画問題ソルバで 解いた結果, SP + CGは集合分割問題を列生成法で解いた結果を表す。また，BM は二部グラ フマッチングによって対訳文アラインメントを行った結果, Moore は Moore らの手法 (Moore 2002）を適用した結果をそれぞれ表す。表より，対称データセットで $K=1$ の場合を除く，い ずれのデータセット，および $K$ の值においても， $\lambda=0.1$ としたときの提案手法 (厳密解) が 2 種類のベースラインよりも高い $\mathrm{F}$ 值を示していることが分かる。対称データセットで $K=1$ の 場合は単調な対訳文アラインメントとなることから，単調性を仮定する Moore の手法の方がや や高い $\mathrm{F}$ 値を示している。しかし, 提案法との差分は 0.003 ポイントと小さい. 次に $\lambda$ の值の

表 1 再現率, 適合率, $\mathrm{F}$ 値の比較（対称デー夕）

表 2 再現率, 適合率, $\mathrm{F}$ 値の比較（非対称デー夕)

表 3 再現率, 適合率, $\mathrm{F}$ 値の比較（対応なしデータ）

違いによる影響を厳密解同士で比較すると, いずれのデータセットにおいても $K=1,3$ のとき は $\lambda=0.01$ の方が $\lambda=0.1$ のときよりもやや高い $\mathrm{F}$ 值を示し, 一方で $K=6,12,20$ のときには $\lambda=0.1$ の方が高い值を示していることが分かる. これは， $\lambda$ が文のまとまりの個数に対するぺ ナルティであり，入が小さいほど大きなぺナルティを与えていることによって説明できる。つ まり，Kが小さいときは文のまとまりの個数が小さくなりがちな $\lambda=0.01$ の方がよい結果を出力し， $K$ が大きいときはより多くのまとまりが出現することを許容する $\lambda=0.1$ の方がよい結果を出力していると考えられる．Mooreによる対応付け手法は単調性を仮定した手法であるた め，他の方法と比べると極端に $\mathrm{F}$ 値が悪くなっているのが確認できる.

次に提案手法で厳密解を求めたときと, 列生成法による近似解を求めたときとの結果を比較 する。再現率, 適合率, $\mathrm{F}$ 値の低下度合いは, 今回の検証では最大で 0.08 ポイント程度の低下 におさまっていることが確認できた. 特に $\lambda=0.1$ のときはいずれのデータに対しても 0.03 ポ イント程度の低下におさまっている。なお, 表 1 では列生成法のほうが厳密解法よりも再現率,適合率, $\mathrm{F}$ 値が大きくなる結果が得られているが, これは目的関数と評価指標とが必ずしも一致するわけではないことに起因すると考えられる.

厳密解法と列生成法との平均計算時間の比較を表 4 に示す。表より, CPLEXで数十秒から数百秒かかっていた問題が列生成法によって数秒で解けていることが確認できる。すべてのデー 夕で 30 倍から 400 倍程度の高速化が達成できたが，特に変数の総数が多い対称デー夕, 対応な しデータではほぼすべての設定で 100 倍以上の高速化が確認できた。表 5 に利用された変数の 数を示す。集合分割問題をそのまま整数線形計画問題ソルバによって解くと，今回扱ったよう な数十文程度の対応付けであっても $10^{6}$ 個程度の変数を明示的に扱う必要がある. 扱う変数の 個数が多いほどソルバによる求解には時間がかかるため, 文の数が増加するとさらに求解に時間がかかる可能性が高い。一方で列生成法を用いた場合は，最適解において非零になる可能性 がある変数しか扱わないため, 最終的に利用された変数は $10^{3}$ 個程度となり, 問題をソルバで 素朴に解いた場合と比較して利用される変数の数が大幅に少ないことが分かる. 問題中に出現 する変数の個数が少ないとソルバによって高速に解を求めることが可能であるため, 列生成法
表 4 実行時間の比較

(a) 対称データ $(\lambda=0.1)$

(b) 対称データ $(\lambda=0.01)$

(c) 非対称データ $(\lambda=0.1)$

(e) 対応なしデータ $(\lambda=0.1)$

(d) 非対称データ $(\lambda=0.01)$

(f) 対応なしデータ $(\lambda=0.01)$

は高速に動作したと考えられる。

提案法は NP 困難問題である集合分割問題を解いているため，厳密解法の実行時間は問題サ イズに対して指数的に増加する。一方で，既存の単調性を仮定した動的計画法に基づく対訳文 アラインメント法は, 問題サイズに対して多項式時間で動作する。 そのため, 提案法は列生成法による近似解法を用いたとしても実行時間的には既存手法に対する優位性はない。一方で，対訳文アラインメントはおもに対訳文コーパスを作成するために用いられる技術であり，コー パス生成に用いるために問題とならない速度で動作することが重要である。実験結果が示すよ うに，列生成法による対訳文アラインメント法は数十文からなる対訳文書の文アラインメント を数秒で行うことができるため，提案法は十分に実用に足る技術であるといえる.

最後に，対称データにおいて入力文のサイズを変化させたときの，厳密解法と列生成法の実行時間の変化を図 5 に示す。図の横軸が入力のサイズであり，縦軸が実行時間を表す。なお,実行時間が 3,600 秒を超えたら実験を打ち切りとしている。 入力サイズが大きくなるほど，列生成法と厳密解法の差が広がる傾向があることが分かる.
表 5 出現した変数の数の比較

(a) 対称データ $(\lambda=0.1)$

(b) 対称データ $(\lambda=0.01)$

(c) 非対称デー夕 $(\lambda=0.1)$

(e) 対応なしデータ $(\lambda=0.1)$

(d) 非対称データ $(\lambda=0.01)$

(f) 対応なしデータ $(\lambda=0.01)$

図 5 入力サイズを変化させたときの実行時間の変化

## 7 おわりに

本論文では，対応付けの連続性を考慮しつつ非単調な系列アラインメントを求めるための方法を提案した。集合分割問題として定式化し, 整数線形計画法を用いて解くことによって, 既存手法では対応付けをとるのが難しい状況でも対応付けができることを示した. このような方法は，特に単調性を仮定できないような文書対に対する対訳文アラインメントにおいて効果的 である。 さらに，数理計画法の分野で大規模な問題を解く際に利用される技法である列生成法 を適用することによって, 最適化問題を解くときに扱わなけれげならない変数の数および各変数のスコアの計算に必要となる動的計画法の実行回数を劇的に減らすことができ, 結果として 高速な求解を可能とした。

## 参考文献

Braune, F. and Fraser, A. (2010). "Improved Unsupervised Sentence Alignment for Symmetrical and Asymmetrical Parallel Corpora." In Proceedings of COLING 2010, pp. 81-89.

Brown, P. F., Petra, S. A. D., Pietra, V. J. D., and Mercer, R. L. (1993). "The Mathematics of Statistical Machine Translation: Parameter Estimation." Computational Linguistics, 19 (2), pp. 263-311.

Deng, Y., Kumar, S., and Byrne, W. (2007). "Segmentation and Alignment of Parallel Text for Statistical Machine Translation." Natural Language Engineering, 13 (3), pp. 235-260.

Gale, W. A. and Church, K. W. (1993). "A Program for Aligning Sentences in Bilingual Corpora." Computational Linguistics, 19 (1), pp. 75-102.

Korte, B. H. and Vygen, J. (2008). Combinatorial Optimization: Theory and Algorithms. Springer Verlag.

Lübbecke, M. E. and Desrosiers, J. (2005). "Selected Topics in Column Generation." Operations Research, 53 (6), pp. 1007-1023.

Moore, R. C. (2002). "Fast and Accurate Sentence Alignment of Bilingual Corpora." In Proceedings of AMTA'02, pp. 135-144.

Nie, J.-Y., Simard, M., Isabelle, P., and Durand, R. (1999). "Cross-language Information Retrieval Based on Parallel Texts and Automatic Mining of Parallel Texts from the Web." In Proceedings of the 22nd Annual International ACM SIGIR Conference on Research and Development in Information Retrieval, pp. 74-81. ACM.

Och, F. J. and Ney, H. (2003). "A Systematic Comparison of Various Statistical Alignment Models." Computational Linguistics, 29 (1), pp. 19-51.

Qu, Z. and Liu, Y. (2012). "Sentence Dependency Tagging in Online Question Answering Forums." In Proceedings of the 50th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 554-562, Jeju Island, Korea. Association for Computational Linguistics.

Quan, X., Kit, C., and Song, Y. (2013). "Non-Monotonic Sentence Alignment via Semisupervised Learning." In Proceedings of the 51st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 622-630, Sofia, Bulgaria. Association for Computational Linguistics.

Smith, T. F. and Waterman, M. S. (1981). "Identification of Common Molecular Subsequences." Journal of Molecular Biology, 147, pp. 195-197.

竹中要一, 若尾岳志 (2012). 地方自治体の例規比較に用いる条文対応表の作成支援. 自然言語処理, 19 (3), pp. 193-212.

角田孝昭, 乾孝司, 山本幹雄 (2015). 対をなす二文書間における文対応関係の推定. 自然言語処理, $22(1)$, pp. 27-58.

Wu, D. (1997). "Stochastic Inversion Transduction Grammars and Bilingual Parsing of Parallel Corpora." Computational Linguistics, 23 (3), pp. 377-403.

## 略歴

西野 正彬：2008 年京都大学大学院情報学研究科修士課程修了. 同年, 日本電信電話株式会社入社. 現在, コミュニケーション科学基礎研究所研究員. 自然言語処理, アルゴリズムの研究に従事. 博士 (情報学). 情報処理学会, 人工知能学会, 言語処理学会, ACL 各会員.

鈴木 潤：1999 年慶應義塾大学理工学部数理科学科卒業. 2001 年同大学院理工学研究科計算機科学専攻修士課程修了. 同年, 日本電信電話株式会社入社. 2005 年奈良先端大学院大学博士後期課程修了. 2008-2009 年 MIT CSAIL 客員研究員. 現在, NTTコミュニケーション科学基礎研究所に所属. 博士（工学). 主として自然言語処理, 機械学習に関する研究に従事. ACL, 情報処理学会, 言語処理学会各会員.

梅谷 俊治：1998 年大阪大学大学院基礎工学研究科博士前期課程修了. 2002 年京都大学大学院情報学研究科博士後期課程指導認定退学. 博士 (情報学). 豊田工業大学助手, 電気通信大学助教を経て, 現在, 大阪大学大学院情報科学研究科准教授. 組合せ最適化の研究に従事. 日本オペレーションズ・リサー 千学会, 情報処理学会, 人工知能学会, INFORMS, MOS, AAAI 各会員.
平尾努：1995 年関西大学工学部電気工学科卒業. 1997 年奈良先端科学技術大学院大学情報科学研究科博士前期課程修了. 同年株式会社 NTT データ入社. 2000 年より NTT コミュニケーション科学基礎研究所に所属. 博士（工学). 自然言語処理の研究に従事. 言語処理学会, 情報処理学会, ACL 各会員.永田 昌明：1987 年京都大学大学院工学研究科修士課程修了. 同年, 日本電信電話株式会社入社. 現在, コミュニケーション科学研究所 主幹研究員 (上席特別研究員). 工学博士. 統計的自然言語処理の研究に従事. 電子情報通信学会, 情報処理学会, 人工知能学会, 言語処理学会, ACL 各会員.


# 基づく機械学習による自動分類

大山 浩美 $\dagger$ $\cdot$ 小町守柿 ・松本 裕治 $\dagger$
}

近年, 様々な種類の言語学習者コーパスが収集され, 言語教育の調査研究に利用されて いる。ウェブを利用した言語学習アプリケーションも登場し, 膨大な量のコーパスを収集することも可能になってきている。学習者が生み出した文には正用だけでなく誤用 も含まれており, それらの大規模な誤用文を言語学や教育などの研究に生かしたいと考 えている、日本語教育の現場では, 学習者の書いた作文を誤用タイプ別にし, フィード バックに生かしたい需要があるが, 大規模な言語学習者コーパスを人手で分類するのは 困難であると考えられる。 そのような理由から, 本研究は機械学習を用いて日本語学習者の誤用文を誤用タイプ別に分類するというタスクに取り組む. 本研究は, 以下の手順 で実験を行った。まず，誤用タイプが付与されていない既存の日本語学習者コーパスに 対し, 誤用タイプ分類表を設計し, 誤用タイプのタグのアノテーションを行った. 次 に，誤用タイプ分類表の階層構造を利用して自動分類を行う階層的分類モデルを実装し た. その結果, 誤用タイプの階層構造を利用せず直接多クラス分類を行うベースライン 実験より 13 ポイント高い分類性能を得た。また, 誤用タイプ分類のための素性を検討 した。機械学習のための素性は, 単語の周辺情報, 依存構造を利用した場合をべースラ イン素性として利用した。言語学習者コーパスの特徴として, 誤用たけではなく正用も 用いることができるため, 拡張素性として正用文と誤用文の編集距離, ウェブ上の大規模コーパスから算出した正用箇所と誤用箇所の置換確率を用いた。分類精度が向上した 誤用タイプは素性によって異なるが，全ての素性を使用した場合は分類精度がベースラ インより 6 ポイント向上した.

キーワード：機械学習, 誤用タイプ自動分類, 日本語学習者, 学習者コーパス, 誤用コーパス,編集距離，置換確率，階層的アノテーション
## Hierarchical Annotation and Automatic Error-Type Classification of Japanese Language Learners' Writing

\author{
Hiromi Oyama $^{\dagger}$, Mamoru Komachi $^{\dagger \dagger}$ and Yuji Matsumoto ${ }^{\dagger}$
}

Recently, various types of learner corpora have been compiled and utilized for linguistic and educational research. As web-based application programs have been developed for language learners, we can now collect a large amount of language learners' output on the web. These learner corpora include not only correct sentences but also incorrect ones, and we aim to take advantage of the latter for linguistic and educational research. To this end, this study aims to automatically classify incorrect sentences

written by learners of Japanese according to error types (or classes) by a machinelearning method. First, we annotate a corpus of the learners' writing with error types defined in a tree-structured class set. Second, we implement a hierarchical error-type classification model using the tree-structured class set. As a result, the proposed method performs better in the error-classification task than in the flat-structured multiclass classification baseline model by 13 points. Third, we explore features for error-type classification tasks. We use contextual information and syntactic information, such as dependency relations, as the baseline features. In addition, because a corpus of language learners contains not only correct sentences but also incorrect ones, we propose two extended features: the edit distance between correct usages and incorrect ones and the substitution probability at which characters in a sequence change to other characters. Although the performance varies according to error types, the proposed model with all features outperforms the model with the baseline features by six points.

Key Words: Machine Learning, Error Type Classification, Learners of Japanese, Learner Corpora, Error Corpus, Edit Distance, Substitution Probability, Hierarchical Annotation

## 1 はじめに

近年，ビッグデー夕に象徴されるように，世の中のデー夕量は飛躍的に増大しているが，教育分野ではそれらのデータをまだ十分に活用している状態には至っていない。例えば，Lang-8 という SNS を利用した言語学習者のための作文添削システムがある。現在，このウェブサイトは 600,000 人以上の登録者を抱えており，90の言語をサポートしている。このサイトでは，ユーザーが目標言語で書いた作文を入力すると，その言語の母語話者がその作文を添削してくれる．このウェブサー ビスにより蓄積されたデータは，言語学習者コーパスとして膨大な数の学習者の作文を有してい る ${ }^{1}$ それらは言語学習者コーパスとして調査や研究のための貴重な大規模資源となりえるが，それ らを教師や学習者がフィードバックや調査分析などに利用したい場合, 誤用タイプの分類などの前処理が必要となる.

しかしながら, 日本語教師のための学習者コーパスを対象とした誤用例検索システムを構築する というアプリケーションを考えると，誤用タイプに基づいて得られる上位の事例に所望の誤用タイ プの用例が表示されればよい。つまり, 人手で網羅的に誤用タイプの夕グ（以後, 「誤用タグ」と 呼ぶ）を付与することができなくても，一定水準の適合率が確保できるのであれば，自動推定した 結果を活用することができる.

そこで，本稿では実用レベル（例えば， 8 割程度）の適合率を保証した日本語学習者コーパスへの
^{1}$ http://lang-8.com
}
誤用タグ付与を目指し，誤用タイプの自動分類に向けた実験を試みる。学習者の作文における誤用 についてフィードバックを行ったり，調査分析したりすることは，学習者に同じ誤りを犯させない ようにするために必要であり, 学習者に自律的な学習を促すことができる (Holec 1981; 梅田 2005). そのため，学習者の例文を誤用タイプ別に分類し，それぞれの誤用タイプにタグを付与した例文検索アプリケーションは教師や学習者を支援する有効なツールとなり得る. 現在まで, 誤用夕グ付与作業は人手に頼らざるを得なかったが, Lang-8のようなウェブ上の学習者コーパスは規模が大き く, かつ日々更新されるため, 人手によって網羅的に誤用夕グを付与することは困難である。誤用 タイプの自動分類を行うことで, 誤用タグ付与作業を行う際, 人手に頼らなくてもよくなり, 人間 が誤用タグ付与を行う際の判定の不一致や一貫性の欠如などの問題を軽減しうる。これまでは, こ のような誤用タグの自動付与というタスクそのものが認知されてこなかったが, 自動化することで 大規模学習者コーパスを利活用する道を拓くことができ, 新たな応用や基礎研究が発展する可能性 を秘めている。

今回, 誤用タグが付与されていない既存の日本語学習者コーパスに対し, 階層構造をもった誤用 タイプ分類表を設計し，国立国語研究所の作文対訳 DBの事例に対してタグ付け作業を行った．次 に，階層的に誤用タイプの分類を行う手法を提案し，自動分類実験を行った。誤用タイプ分類に用 いるベースライン素性として, 単語の周辺情報, 統語的依存関係を利用した. さらに, 言語学習者 コーパスから抽出した拡張素性として1) 正用文と誤用文の文字列間の編集距離，2）ウェブ上の大規模コーパスから算出した正用箇所と誤用箇所の置換確率を用い, それらの有効性を比較した. 本研究の主要な貢献は, 以下の 3 点である.

・誤用タグが付与されていない国語研の作文対訳DB に誤用タグを付与し, NAIST 誤用コー パスを作成した，異なるアノテーターによって付与されたタグの一致率が報告された日本語学習者誤用コーパスは, 我々の知る限り他に存在しない.
- NAIST 誤用コーパスを対象に機械学習による誤用タイプ自動分類実験を行い，かつアプリ ケーションに充分堪えうる適合率を実現した（8 割程度)．英語学習者コーパスの誤用タイ プの自動分類タスクは過去に提案されている (Swanson and Yamangil 2012) が, 日本語学習者コーパスの誤用タイプの自動分類タスクに取り組んだ研究はこれが初めてであり, 将来的には学習者コーパスを対象とした誤用例検索システムを構築するアプリケーションの開発 を目指しているため，その実現化に道筋を付けることができた。
- タグの階層構造を利用した階層的分類モデルを提案し, 階層構造を利用しない多クラス分類 モデルと比較して大幅な精度向上を得られることを示した. また，英語学習者の誤用タイプ 自動分類で提案されていた素性に加え, 大規模言語学習者コーパスから抽出した統計量を用 いた素性を使用し，その有効性を示した。

## 2 関連研究

現在, 研究・教育目的で利用されている日本語学習者コーパスは, 大阪大学の寺村コーパス (寺村 $1990)^{2}$, 名古屋大学の学習者コーパス (大曽, 杉浦, 市川, 奥村, 小森, 白井, 滝沢, 外池 1997) ${ }^{3}$,東京外国語大学の「オンライン日本語「誤用コーパス」辞典」44, 筑波大学の「日本語学習者作文 コーパス」(李, 林, 宮岡, 柴崎 2012$)^{5}$, 大連理工大学の中国人日本語学習者による日本語作文コー パス (清水, 宋, 孟, 杜, 壇辻 2004), 国立国語研究所（国語研）で収集された「日本語学習者によ る日本語作文と, その母語訳との対訳データベース オンライン版」6（以下, 作文対訳 DB）（デー 夕総数は 2009 年時点で 1,754 件）がある.

上記の作文対訳 DB は, 大規模な日本語学習者コーパスの1つであるが, 誤用タイプの情報が付与されていなかった。上記のコーパスのうち, 作文対訳 DB 以外のコーパスは誤用夕グが付与され ているが，夕グが一部にしかついていなかったり，入手ができなかったり，コーパスそれぞれにお いて誤用タグの分類基準が異なっていたりする。また, 既存の言語学習者コーパスは言語学や教育 の目的で収集されたもので, 自動分類や誤用検出・訂正などの機械処理を考慮した設計にはなって いないため, 人手アノテーション以外の分類処理には必ずしも向いていない，具体的には，コーパ スのタグ付けに関するアノテーションの一致率が報告されておらず，機械処理に適した誤用タグ体系になっているかどうか不明である。そこで，今回機械学習用に誤用夕グを付与した NAIST 誤用 コーパスを作成した。

また, 自動で誤用検出, 誤用タイプ分類を行うといった言語学習者コーパス整備作業に関する研究は, 英語教育においても日本語教育においても様々なタスクで進められている. 例えば, 英語教育 において以下のような研究が行われている。 誤用判定として, 英語のスペルミス検出研究 (WilcoxO'Hearn, Hirst, and Budanitsky 2008), 英語の名詞の可算性 (数えられる名詞), 不可算性 (数えら れない名詞) の誤用検出研究 (Brockett, Dolan, and Gamon 2006; 永田, 若菜, 河合, 森広, 桝井,井須 2006), 前置詞の誤用検出に関する研究 (Chodorow, Tetreault, and Han 2007; De Felice and Pulman 2007, 2008; Tetreault and Chodorow 2008; Gamon, Gao, Brockett, Klementiev, Dolan, Belenko, and Vanderwende 2008), 冠詞誤用検出に関する研究 (Han, Chodorow, and Leacock 2006; De Felice and Pulman 2008; Gamon et al. 2008; Yi, Gao, and Dolan 2008; 永田, 井口, 脇寺, 河合, 桝井, 井須 2005) がある. 日本語を対象とする研究では, 格助詞を対象とした研究が多い (大木, 大山, 北内, 末永, 松本 2011; Oyama, Matsumoto, Asahara, and Sakata 2008; 今枝, 河合, 石川, 永田, 桝井 2003; 南保, 乙武, 荒木 2007 ; Suzuki and Toutanova 2006; 今村, 齋藤, 貞光, 西川
^{6} \mathrm{http} / / /$ jpforlife.jp/taiyakudb.html
}

2012). さらに，誤用タイプに特に着目せずに文を誤用文と正用文とに分類する研究もある (Sun， Liu, Cong, Zhou, Xiong, Lee, and Lin 2007; 水本, 小町, 永田, 松本 2013).

これらの誤用検出タスクにおいて，対象となる誤用タイプは限定されている。つまり，誤用タイ プがあらかじめわかっていることが前提である。 さらに，誤用タイプを網羅的に夕グ付けするよう な研究は以下に示す 1 件を除いて存在しない。実際の言語学習者コーパスでは教師によって添削さ れた正用例があったとしても，誤用タイプまで示すことは稀であり，誤用タイプを網羅的にタグ付 けし，誤用例を検索できるようにすることは困難である。

誤用タイプ分類タスクを行っているのは， Swanson and Yamangil (2012)のみである。彼らは英語学習者の誤用タグ付きコーパスを用いた教師あり学習による多クラス分類によって，誤用箇所を 与えた上で，誤用タグが付与された文を入力とし15 クラスの誤用タイプにに分ける実験を最大エン トロピー法で行っている。しかし，日本語における誤用タイプ分類実験はまだ見られない。また， Swanson and Yamangil (2012) は既存の英語学習者コーパスを用いて自動分類器を学習している が，自動分類に適した誤用タイプのタグ集合を設計しているわけではない，言い換えると，タグの 体系が自動分類の精度に与える影響は考慮されていない。さらに，彼らの自動分類器で用いられて いた素性は誤用・正用の対応に基づく文字列・単語（品詞）情報，そして文脈素性としては直前の 単語のみを用いる非常に単純なものであったが，本研究ではそれらに加えて大規模言語学習者コー パスから計算した置換確率と，正用文と誤用文の編集距離，文脈素性として周辺 3 単語および依存関係も用いた。

## 3 機械学習による誤用タイプ分類実験

## 3.1 データ

誤用タイプ分類実験のために NAIST 誤用コーパスを作成した．NAIST 誤用コーパスは，作文対訳 DBの中で添削が施された 313 名の作文中の誤用箇所にタグを付与し，様々な情報を補完した コーパスである (大山 2009 ; 大山，小町，松本 2012)，ファイル数は作文者ごとに 313 ，総文字数 は 191,994 字である。NAIST 誤用コーパスは，作文対訳 DBに対しアノテーションを行っている ため，作文対訳 DB とデータは共通しているが，作文対訳 DBには誤用タグがアノテーションされ ていない.

## 3.2 NAIST 誤用コーパスにおける誤用タグのアノテーション

## 3.2.1誤用タグのアノテーション

先に述べた作文対訳 $\mathrm{DB}$ のアアテーションの方法について説明する．基本的に作文対訳 $\mathrm{DB}$ の 添削に基づいて誤用タグを付与しており，添削は変更せず，誤用タイプ分類をした後にタグを付与 する。作文対訳 DB の誤用箇所に<goyo>タグを設け，そのタグ内に添削された正用箇所を crr 属性にて示し，誤用タイプを示す type 属性を付与した。誤用を正用にするために複数の誤りを修正 する必要がある場合，それぞれ typeN（ただし N は自然数で，順不同）という属性を用いて明示 した。また，文章中で複数の添削が相互に依存関係を持っている場合がありうるが，依存関係のア ノテーションは今回のタグの精緻化という独立した別のタスクとして切り出すことが可能なため,今回のアノテーションでは依存関係は考慮しない。例えば，以下の例文を考える。

$
\begin{aligned}
& \text { <s>それで, <goyo type1="sem" type2="not/kj" crr="常に">まいにち</goyo>がいこくの } \\
& \text { えんじょがいります. </s> }
\end{aligned}
$

上記の例で，誤用として添削者によって添削された「まいにち」をくgoyo>タグで囲み，添削者に よる正用例「常に」を crr 属性で示す.この誤用を正用にするためには，「まいにち $\rightarrow$ ねにと 「つねに 常に」を訂正する必要があるため, 誤用タイプは, この事例では語彙選択 ("sem") と表記・漢字 ("not/kj")の 2 種類を付与している.

## 3.2 .2 誤用タイプ表の設計方針

誤用タイプ表の設計方針を立てる際に，英語学習者の話し言葉を集めたSST コーパス，日本語学習者の作文を集めた名古屋大学の学習者コーパス (大曽 他 1997), 大連理工大学の中国人日本語学習者による日本語作文コーパス (清水他 2004 ), さらに市川 $(1997,2000)$ による「日本語誤用例文小辞典」を基にした。

SSTコーパスは, 学習者の誤用が多岐にわたるため, 体系的な分類が比較的容易な文法的・語彙的誤りに対して, 独自の誤用タイプ表を構築し, 人手でタグ付与を行っている (石田, 伊佐原, 齋賀, Thepchai, 成田, 内元, 和泉 2003). SSTコーパスの誤用タイプ表は, 品詞を第 1 階層に有し,「名詞, 動詞, 助動詞, 形容詞, 副詞, 前置詞, 冠詞, 代名詞, 接続詞, 関係詞, 疑問詞」とに分 かれている, さらに, 品詞の第 1 階層の下は第 2 階層に「活用の誤り, 格の誤り, 単複の誤り, 語彙選択の誤り」など文法的・語彙的ルールとに細分化される。 また, ある誤用タイプは各品詞の力 テゴリーにまたがっている場合もある，例えば，「活用の誤り」は「名詞」「動詞」，「副詞」，「代名詞」のそれぞれの下位分類に属している。「語彙選択の誤り」も複数のカテゴリーに属している. このように, 品詞の階層カテゴリーの下位階層にそれぞれ同様のタイプが存在すると, 誤用夕グ付与のアノテーターが意識しなければならないタグが増大するため, 人手による夕グ付与作業が煩雑 になる，そこで，我々は多クラスの夕グ付けをするのではなく，多ラべルの夕グ付けをするように

NAIST 誤用コーパスを設計し，複雑な階層カテゴリーを把握しなくても夕グ付けが可能なように した．たたし，SSTコーパスでの品詞の分類は，自動分類をする際に素性として取り出しやすく有効な素性となりうる。そのため, NAIST 誤用コーパスでも品詞による分類を第 1 階層に持つよう にした。

誤用タグを構築する際に誤用タイプ分類の方法として, 清水 他 (2004) では, 誤用タグの構築方法を2つあげている.

(1) 言語学的な特定の文法記述に基づき誤用を分類し誤用タグを構築している場合

(2) 実際の誤用分析で抽出された誤用タイプに基づいてタグを構築する場合

名古屋大学の学習者コーパス (大曽 他 1997) は, 上記 (1) の方法に従い, 言語学的な特定の文法記述に基づき誤用を分類し誤用タグを構築しているが,「脱落, 付加, 混同, 誤形成, 位置」などの分類はない。

大連理工大学の中国人学習者による日本語作文コーパス (清水 他 2004) は, 上記 (2) の方法に従 い, 中国人日本語学習者の作文を添削し, 独自の誤用夕グを設計, 付与している。清水他 $(2004)$ では，大連工業大学の日本語学習者の作文を誤用分析した結果から抽出した誤用に基づく誤用タイ プを用いているため, 大曽他 $(1997)$ や市川 $(1997,2000)$ とは異なる「指示詞」,「形式名詞」,「数量詞」,「漢語」などの誤用タイプが見られる.

市川 $(1997,2000)$ も, 上記 $(2)$ の方法に従い, 日本語学習者の作文によく見られる誤用をムー ド，テンス，アスペクトなどの 8 つの主要分類に分け，その次に細分化された 86 の項目に分ける （表 1)。市川 (2001)では, さらに，下位項目のそれぞれについてさらに「脱落, 付加, 混同, 誤形成，位置，その他」の 6 種類に分類している。

それらの言語学習者コーパスの誤用タイプ分類を基礎に, NAIST 誤用コーパスでは全 76 種の誤用タイプ分類を構築した。その全誤用タイプは, 付録 B「誤用タイプ 76 項目」(表 7) に示す.表 8 は，「誤用タイプ 76 項目」のタグにおいてさらに細かく説明を加えた表である。清水 他 (2004)の

表 1 市川の誤用分類

誤用タイプ分類には，市川 $(1997,2000)$ にはないが，必要だと考えられる誤用タグが見られるた め，それらを含めた。しかし，清水他 (2004)では，「は／が」の使用誤りの項目と「助詞」を分け ていたりと項目の選出には彼ら独自の理由が見られる。また, 中国人日本語学習者を対象にしてい るため，中国人特有の誤用タイプが見られる。NAIST 誤用コーパスの誤用タイプ分類については, そのような点を割愛し,「指示詞」,「形式名詞」,「数量詞」など詳細かつ重要な誤用夕グを含めた.

市川 $(1997,2000)$ の分類も，日本語学習者がよく誤りやすい項目を基に構成されている。表 1 に あるムードは表 7 の 76 の項目中の「モダリティ」に含めている。テンス，アスペクト，自動詞，他動詞, ヴォイスなどの項目は本稿では「動詞」の下位項目にまとめている。また, 取り立て助詞,格助詞, 連体助詞, 複合助詞は「助詞」の下位項目にしている。連用修飾, 連体修飾は, 「名詞修飾節」の項目に入れている。従属節は,「接続」の項目に含まれている。しかし, 市川 $(1997,2000)$ では「脱落, 付加, 混同 (本稿では, 不足, 余剩, 置換)」などをそれぞれの下位項目のさらに下の 項目に分類しているが，本稿では，「Nobu $\{* \phi /$ という $\}$ レストランに行きました」8のような, タグを新たに設定しにくい，もしくは修正部分が長く，誤用分類しにくい添削を「脱落，付加」に 入れた。作文対訳 DBにも，市川 $(1997,2000)$ の分類を採用すると，助詞の下位項目に「不足，余剰」などの項目を持つ事例がある。しかし, 付録 A,「不足」の項目で述べているように，それら は少数である，そのため，本コーパスでは，「不足，余剰」を各分類の下位項目ではなく，独立し た項として新たに設立した。本研究で使用した誤用タグの構築方法について詳しくは大山 (2009),大山他 (2012)を参照されたい.

## 3.2 .3 本稿における実験に使用した誤用タイプ

実験に使用した誤用タイプは，表 2 に示した 17 種である。全誤用タイプ 76 種が階層的に定義さ れ，その第 1 階層の 23 種から 17 種を選択して使用した。全誤用タイプを第 1 階層までまとめ上げ た誤用タイプと研究に必要な誤用タイプとを選択した。誤用タイプのそれぞれの説明は付録 A「誤用タイプ項目」に詳細に示す.

表 2 において，上位 17 種の誤用タイプを実験に利用した。下位の「名詞」や「名詞修飾」など の誤用タイプは今回事例数が少なかっため, 実験対象としなかった「「モダリティ」は，意味や文 の作者の主観に起因する場合が多いので, 文脈情報や依存情報よりも意味を扱える素性を考えるべ きであるので，今回は困難であると考え実験対象としなかった。「モダリティ」の場合は, 稿を改 めて「モダリティ」を中心に必要な素性を追加した実験を行いたいと考えている。「成句」は，き まったフレーズ（「〜たり〜たり」など）がうまく使えなかった誤りを含む．「全文変換」は，文が すべて書き換えられている誤用事例である。「成句」や「全文変換」も，今回誤用タイプ分類実験 の対象としなかった。「成句」はフレーズの要素が「〜たり〜たり」などのように離れているもの

表 2 NAIST 誤用コーパスにおける誤用タイプ表（17 種+非使用の 6 種）

表中の $\phi$ は，要素がないことを示す。*は，誤用例を指す.

が多く，アラインメントを取ることが困難であった，また，「全文変換」も同様で，文全体を書き 換えているので誤用箇所の特定が難しかったことが理由である。「その他」についても今回実験に 用いた誤用タイプよりもより詳細で個別的な誤用タイプであり, 個々が少数事例のものもあったの で今回対象外とした。

上記以外にも，研究に必要な「“だ”の誤用」「否定」，「副詞」，「代名詞」「エコロケーション」を 誤用タイプに含めて実験を行った。「“だ”の誤用」，「否定」，「副詞」、「代名詞」の誤用タイプにお いては，作文対訳 DB や KYコーパス (鎌田，山内 1999)9を対象とした研究の中で「“だ”の誤用」 (蔭山ハント 2004; 王 2003),「副詞」(浅田 2007, 2008; 松田，森，金村，後藤 2006),「否定」(峰 2011; 吉永 2013),「代名詞」(張 2010) などに関する研究が見られ，言語学習者コーパスを利用した
^{9} \mathrm{KY}$ コーパスは, 英語, 韓国語, 中国語を母語とする日本語学習者各 30 名位, 計 90 名のインタビューが収集された話 し言葉コーパスである。
}

このような研究がこれから増えてくると思われるからである.「否定」と「コロケーション」に関し ては, Swanson and Yamangil (2012)における誤用タイプ 15 種にも含まれている.「コロケーショ ン」は，コーパスデータを利用する利点があり，重要な誤用タイプだと考えられる (寺嶋 2013). 語彙選択の誤りとコロケーションの誤りとを明確に区別し, 語彙選択の誤りでは, 単語単位のみを対象とした。コロケーションの誤りでは，「形容詞＋名詞」のようなコロケーションも見られるが「名詞＋格助詞＋動詞」の誤りのみを対象とした。

## 3.2.4 アノテーター間の一致率

誤用タグは 2 人のアノテーターによって付与された. 2 人ともアノテーターとして 5 年以上勤務している.コーパス中の一部のデータ（170 文）を対象に 2 人に同じデータへの誤用タグの付与 を依頼し， $\kappa$ 值 (Carletta 1996)によりその 2 人のタグ付け一致率を計った. タグ付けの対象とし た 170 文は，誤用タイプ 17 種をそれぞれ 10 文ずつ抽出した（10 文× 17 種）、それは，全体の約 $1.2 \%$ に当たる。アノテーターに 1 位に選ぶ誤用タイプと次に選ぶ誤用タイプまで（2 位まで）を選択してもらった。表 2 の誤用タイプにおける一致率は， 1 位までの場合 $\kappa=0.602$ であった. 2 位 までの場合， $\kappa=0.654$ であった. $\kappa$ が $0.81 \sim 1.00$ の間にあればほぼ完全な一致， $0.61 \sim 0.80$ の間 にあれば実質的に一致しているとみなされることから，今回は実質的に一致していると考えられる (Carletta 1996). 信頼度の高いコーパスを作成するためには，付与したタグがアノテーター間で異 なる「夕グの不一致」の問題をできるだけ解決した方がよい，付与したタグの一致率が高ければ， そのタグは一貫性が高く，信頼性が高いタグセットであることが言える。

## 3.2.5 階層構造誤用タイプ分類表を使用した階層的誤用タイプ分類

先行研究の Swanson and Yamangil (2012) では, 誤用タイプ分類実験にフラットな構造の分類表を使用していたので, Oyama, Komachi, and Matsumoto (2013)でもフラットなタイプの誤用タ イプ分類表を用いたが，人間はどのように誤用タイプを分類するのか分析するために，誤用タイプ 分類に向けた予備実験を行った.

11 人の現役の日本語教師に依頼し, テストデータから無作為に選んた 20 文について誤用タイプ 分類を行わせた。その後, 日本語教師各個人に対して聞き取り調査を行い，ある誤用文に対してあ る誤用タイプに分類する理由を聞いた。この分類実験の結果，次のようなことがわかった.

（1）日本語教師は，多くの誤用文を「語彙選択」に分類しやすい.

(2) 日本語教師は,「動詞」と他の誤用タイプを混同しやすい.

（3）日本語教師は, 誤用タイプを判断する際に 1 文すべて与えられていても誤用箇所と正用箇所 で主に判断している.

（4）日本語教師は，誤用箇所と正用箇所の次に参考にする素性は，依存構造である.

日本語教師に行った実験では, 「語彙選択」が他の誤用タイプ（助詞，動詞，コロケーションな

どの誤用タイプ）に最も間違われやすかった。これは，「語彙選択」が最も選択を迷う項目である ということを示している。聞き取り調査の結果，日本語教師は誤用タイプを判断する際に 1 文すべ て与えられていても誤用箇所と正用箇所などで主に判断していることがわかった. さらに, 日本語教師は，最小の素性で判断しきれない場合，前後 2 単語, 前後 3 単語先をみるより, 依存している 単語は何かに焦点を当てていた。「助詞」の誤りかどうか判断迷った時は，それが依存している 動詞を見ている。「副詞」の誤りかどうかの分類も同様である。この結果を受け，「語彙選択」は， どの誤用タイプにも入りやすく, この点が分類を妨げている要因と考えたため, 17 種の誤用タイプ

図 1 階層構造誤用タイプ分類表

をさらに 3 階層に分類し直し, 図 1 に示す構造に変更した.

上記のような流れを受けて, 本実験において 3 段階の階層構造に基づく分類を行った，細川 (1993) では, 寺村 (1972)の誤用の領域を基にし誤用を分類しており，1）語彙レベルの誤用，2）文構成レ ベルの誤用，3）談話レベルの誤用の 3 レベルを立てている．談話レベルまで扱うのは今回の実験の 範疇にないので, 細川 (1993) の分類に従い, 第 2 段階を語彙レベルか文構成レベルかに分類した.図 1 で見られるように，第 1 段階で「不足」，「余剰」，「置換」とに分類する。第 2 段階では，「置換」内部において「文法的誤用」であるか「語彙的誤用」であるかの 2 値分類を行った. 第 3 段階 では, 前段階で成功した事例において「文法的誤用」と「語彙的誤用」のそれぞれのグループ内に おいて，多クラス分類を行った。

## 3.3 実験方法

誤用タイプ自動分類実験は, 先行研究の Swanson and Yamangil (2012)にならい, 機械学習法 を用いた分類実験を行った． 3.2 節で説明したように誤用タイプ分類実験のデータとして言語学習者が書いた誤用文と正用文に文単位の対応をつけ，誤用タイプを付与した NAIST 誤用コーパスを 用意した，実験には，そのコーパスから誤用箇所，正用箇所や誤用タイプラベルを取り出し，さら に素性を抽出し使用した。また，誤用タイプ表（表 2）を階層構造化し実験を行った（図 1）.

NAIST 誤用コーパスから，13,152 事例を取り出し， 10 分割交差検定を行った. 1 の文に別々 の誤用が 2 つ以上ある場合は， 1 誤用につき 1 事例として取り出した.

## 3.3.1 実験の流れ

実験の概要を図 2 に示す。まず，NAIST 誤用コーパスから正用文と誤用文のペアを取り出す. それらの 2 種類の文から, 対応する誤用箇所 $(x)$ と, 正用箇所 $(y)$, 誤用タイプ $(t)$ の 3 つ組のラべ ル $(x, y, t)$ を取り出す. その後, その事例ごとに素性を付与する. ベースラインの素性として, 誤用箇所, 正用箇所の表層の語彙素と, 誤用箇所, 正用箇所の形態素解析結果, 周辺単語情報 (前後 1 から 3 単語), 依存関倸情報を付与した. テストデータにおいても同様の素性を取り出し, 分類判定実験に使用した。分類実験には，最大エントロピー法 ${ }^{10}$ 利用し，多クラス分類を試みた ${ }^{11}$. 最大エントロピー法は確率値を出力することができるため, 閥値を用いて予測結果を調整しやすく,英語・日本語の誤用検出・訂正で広く用いられている (Suzuki and Toutanova 2006; Swanson and Yamangil 2012).

図 2 機械学習による誤用タイプ分類実験の流れ

## 3.3.2 素性

この節では，実験で使用した事例と素性について説明する。表 3 は，今回使用した全ての素性を

用箇所「を」が $x$, 正用箇所「が」が $y, 「$ 助詞」の誤用が $t$ という 3 つ組みのラベルが 1 事例とし て抽出される。
- （誤）英語をわかる

$\cdot$（正）英語 がわかる
- 誤用タイプ：「助詞 $(\mathrm{P})\rfloor$ 使用の誤用

依存関係情報は, 誤用箇所の単語にかかる文節内の単語の bag-of-words および誤用箇所の単語 からかかる文節内の単語の bag-of-words を用いた。誤用箇所内が複数の文節にまたがる場合, そ の全ての文節内の全ての単語の bag-of-words を用いた。さらに，係り元・係り先の文節内にある全形態素の語彙素を用いた。例えば，「*私はりんごを食べった」という文において「食べった」が 誤用箇所の場合，誤用箇所に係っている文節内の係り元の「私」，「は」，「りんご」「を」を素性と して利用している。
表 3 誤用タイプ分類実験に用いた素性と具体例 :「英語 を（誤） $\rightarrow$ が（正）わかる.」の例文に打ける素性

形態素解析には, UniDic-2.1.2 辞書 ${ }^{12}$ と MeCab-0.994 ${ }^{13}$ を利用し, 依存構造解析器 CaboCha$0.68^{14}$ で形態素情報と依存関係を抽出した.

言語学習者コーパスには，ひらがな文字が多く含まれたり，辞書に存在しないような単語が出現 したりする。そのためにアライメントに失敗し, 分類精度に影響する。そこで，言語学習者コーパ スにおける誤用による影響を軽減するために次の 2 つの拡張素性を用いた実験も行った.

## 編集距離素性

2 の文字列がどの程度異なっているかを示す距離である編集距離を用いた. 正用文と誤用文に おいて動的計画法によるマッチングを用いて置換対の抽出を行い (藤野, 水本, 小町, 永田，松本 2012), 誤用文には存在するが正用文には存在しない文字列を余剩箇所とみなした。同様に, 正用文には存在するが誤用文には存在しない文字列を不足箇所とみなした。ある文字列がある文字列に 置き換えられている場合，置換箇所とした。その際に，置換，不足，余剰の誤りの編集距離をいず れも 1 と定義し, 編集距離は実数値素性として用いた。

## 置換確率

拡張素性として, Lang-8 から抽出した正用箇所と誤用箇所のペアの置換確率を利用した. Lang-8 には，言語学習者の書いた誤用文と添削された正用文とが大量に含まれている。この置換確率は，

Lang-8 のような大規模な言語学習者コーパスを利用したことから得られる一つの新しい知見であ る. Lang-8 から抽出した正用箇所と誤用箇所のペアから, 誤用はどのように訂正されているか（誤用置換確率）と正用文はどのような誤用から訂正されているか（正用置換確率）を計算し，利用し た. Lang-8において取り出されたペアは 796,403 ペアである.

例えば，「を」が誤用で「が」が正用である場合の誤用置換確率の式は以下のようになる。

$
P(\text { 正用 }=\text { が } \mid \text { 誤用 }=\text { を })=\frac{P(\text { 正用 }=\text { が, 誤用 }=\text { を })}{P(\text { 誤用 }=\text { を })}
$

「が」が誤用で「は」が正用である場合の正用置換確率の式は以下のようになる.

$
P(\text { 誤用 }=\text { が } \mid \text { 正用 }=\text { は })=\frac{P(\text { 誤用 }=\text { が, 正用 }=\text { は })}{P(\text { 正用 }=\text { は })}
$

## 3.3.3 評価尺度

評価尺度としてＦ＼cjkstart値を利用した。再現率は対象とする各誤用タイプの中で正しく分類された誤用タイプを指し，適合率は，システムがある誤用タイプだと分類したもののうち正解を当てた率で ある。 $\mathrm{F}$ 値はそれらの調和平均を表している。

$
\text { 再現率 }=\frac{\text { 正しく分類された事例数 }}{\text { 各誤用タイプの全事例数 }} \times 100
$

適合率 $=\frac{\text { 正しく分類された事例数 }}{\text { システムがある誤用タイプだと分類した事例数 }} \times 100$

$
F \text { 値 }=\frac{2 \times \text { 適合率 } \times \text { 再現率 }}{\text { 適合率 }+ \text { 再現率 }}
$

## 4 実験結果

## 4.1 階層構造を使用した場合の実験結果

NAIST 誤用コーパスにおける誤用タイプ分類実験の 10 分割交差検定による結果について述べ る. 表 4 は，階層構造を使用した場合と使用しなかった場合とを比較した表である。簡単のため 前後 1 単語の素性を用いた場合を W1, 前後 2 単語までの素性を用いた場合を W2, 前後 3 単語ま での素性を用いた場合を W3 とする。最後の行は, 全体のマクロ平均を示す。この表で分かるよう に，階層構造を利用したことで分類性能（F 值）が全体的に 49.6 から 62.4 へ向上した. また, $\mathrm{F}$値で 80 以上を達成した誤用タイプは「助詞」,「不足」,「余剩」の3つのみであったが, 階層構造 を利用することにより，「語彙選択」，「表記」，「動詞」，「指示詞」も新たに F 値が 80 を超え，実用的な精度で自動推定が行えることが分かった。

「不足」と「余剩」の値は, 階層構造を使用した場合において階層構造を使用しなかった場合よ
表 4 階層構造を使用した場合と使用しなかった場合の実験結果（10 分割交差検定）（F 値）

り精度が下がっている。「不足」と「余剩」の誤用タイプは第 1 階層において「不足」か「余剩」か 「置換」の 3 值分類をする。その際，「不足」は 1,441 事例，「余剩」は 1,177 事例，「置換」は 10,534 事例となり，「置換」の事例数は，「不足」と「余剰」の事例数よりもはるかに多くなる，これが，「不足」と「余剰」の階層構造を使用した場合での精度を下げる原因となったと考えられる。

## 4.2 編集距離，置換確率を加えた実験結果

編集距離, 置換確率を加えた誤用タイプ分類実験の結果を表 5 に示す. ベースライン (BL.) は,誤用タイプの構造が階層構造であり周辺素性および依存関係情報を付加した素性とし, 表 4 におけ る「階層構造あり」の結果を用いた。 さらに，拡張素性として，1) ベースライン＋編集距離 (edit), 2) ベースライン＋置換確率 (sub.)（F 值）を示した. ALLは，それら全ての拡張素性を付加した ものである. 表 5 の最下行はマクロ平均値を表し, 表 5 より編集距離を加えることで 4.1 ポイント の分類性能の上昇, 置換確率を加えることで 3.4 ポイントの上昇が見られる。 それら拡張素性を合 わせた素性 (ALL) においては 6 ポイントの上昇が見られる.

表 6 は，階層ごとの分類の難しさを示している。まず 1 行目は「不足」か「余剩」か「置換」か の多値分類での平均値である．２行目は「文法的誤用」における多值分類， 3 行目は，「語彙的誤用」 における多値分類での平均値である。
表 5 NAIST 誤用コーパスにおける誤用タイプごとの分類実験結果（10 分割交差検定）（F 値）

表 6 各階層における分類実験結果（10 分割交差検定）（F 値）

表 6 のマクロ平均值において，第 1 段階（余剩，不足，置換）実験において編集距離を加えるこ とで 1.8 ポイントの上昇，置換確率を加えることで 2.4 ポイントの上昇が見られる． ALLでは, 2.5 ポイントの上昇が見られる。文法タイプ内実験において編集距離を加えることで 0.8 ポイントの下 がっているが，置換確率を加えることで 2.4 ポイントの上昇が見られる．ALLでは， 1.2 ポイント の上昇が見られる語彙タイプ内実験において編集距離を加えることで 4.0 ポイントの上昇, 置換確率を加えることで 3.4 ポイントの上昇が見られる. ALLでは， 6.3 ポイントの上昇が見られる.

## 5 分類実験に関する考察

この節では, どの素性がどのように自動分類に役立つかについて考察する.「不足」,「余剰」,「語彙選択」,「表記」,「助詞」,「動詞」は事例数が多く, 全体の事例の $91 \%$ 占めている。そのため, それらについて説明する ${ }^{15}$.

全体的に編集距離素性と置換確率素性を入れた実験 (ALL) において精度の向上が見られる. 個別に見ると「語彙選択」、「表記」と「余剰」において, 編集距離素性を用いた実験で精度の向上が 見られる。

「語彙選択」において漢字同士の誤用は数多く見られる. 置換確率を入れるとさらに半数程度改善している（成功事例中 44.8\%），語彙の選択誤りは多種多様であるため，Lang-8のような巨大な コーパスから置換確率を計算したとしても出現しない可能性もある. そのような場合においても編集距離素性が効果があったと考えられる。下に例を示す.

《語彙選択 $(\mathrm{SEM})$ 》のたばこという物はどうして人々の必用（誤）－必需品（正）になっ ているのがわからない.

「語彙選択」の場合, ひらがなやカタカナを漢字に変換する（またはその逆）事例の精度も上がっ ていた（成功事例中 $41.8 \%$ ) 、日本語学習者の作文ではひらがな, カタカナ, 漢字の混合もよく見 られる、ひらがなやカタカナと漢字では, 表記が長くなるか短くなるかで編集距離が異なるため, その差が素性の効果に影響したと考えられる。

《語彙選択 (SEM)》いろい万な飾りが大好きだからたばこを買う代わりにほしがっている 飾り物（誤） $\rightarrow$ アクセサリー（正）を買った方がいい.

「表記」の事例において編集距離素性で精度の向上が見られる事例を分析する. 最も向上した事例のパターンは, 以下のようなひらがなが漢字に変更された事例である。そのような事例が編集距離素性を入れたことで分類に成功しており, 成功事例の半分を占めていた $(55.9 \%)$.

《表記 (NOT)》家の外と中をそうじ（誤）～掃除（正）しました.

次に，「余剰」の事例を見る。比較的文字列数が長い物が成功するようになっている。これは, 編集距離の素性の効果だと考える。

《余剰 $(\mathrm{AD})$ 私はその中でいろいろな食べもの（誤） $\rightarrow \phi$ (正) 一番好きなものはレマンです.

次に, 置換確率素性を用いた実験で精度の向上が見られた場合を検証する．全ての素性を組み合

わせた実験 (ALL) において，分類に成功した事例と失敗した事例においての置換確率が利用可能 である場合を比較した。分類に成功した事例においては，置換確率が出現した場合が $69.9 \%$ あるる のに対し，分類に失敗した事例中では， $57.8 \%$ となっており，置換確率値があった方が分類に成功 していることが分かる.

以下では置換確率素性を用いた実験で精度の向上が見られた「不足」,「動詞」の事例を見る。ま ず，「動詞」において置換確率を付加したことで分類に成功した事例を見る.

《動詞 $(\mathrm{V})$ 》個人的には, 軽い生活磁器よりも韓国のたましいが感じる（誤）～$\rightarrow$ れる（正）非生活磁器が気に入りました。

誤用置換確率 $=0.046$, 正用置換確率 $=0.475$

上記の例は，「ベースライン＋編集距離」の実験では，「文体」に分類されていた。「動詞」と「文体」が共に文末の誤りであることから，お互い間違われる事例が多いが，誤用箇所「る」正用箇所「られる」の誤用正用パターンが Lang-8 中に出現し, 置換確率が得られたことで分類が成功したと 考えられる。「文体」は，付録 Aにあるように，通常「です・ます体」か「だ・である体」で統一 されているかどうかの誤用である。この添削文は作文対訳 DBの添削に基づいており，日本語教師 が添削を施している ${ }^{16}$ ，その際，日本語教師によって誤用箇所の「る」が「ます」に修正されてい る。誤用タグを付与するときに，その添削にそってタグをつけている。よって，誤用箇所が「る」 であり，正用箇所が「ます」である事例（またはその反対）が多く出現しており，「文体」に特徴的 なパターンとして認識されている。

「不足」、「余剩」の場合の性能についての考察をする.「不足」と「余剩」は一見誤用文字列・正用文字列の長さで簡単に判別できるように思われるが，もし不足しているものあるいは余剰に書か れているものが助詞とはっきりわかるものであれば，助詞へ分類されており（付録参照），誤用文字列・正用文字列の長さを見ただけでは必ずしも判断できない。そして, 助詞は夕グ全体の $1 / 4 を ~$占める誤用タイプ（「不足」と「余剰」はそれぞれ全体の $11 \%$ と 9 ）であるため,「不足」「余剩」 の分類性能に影響を及ぼしたのではないかと思われる。

また，「不足」より「余剰」の分類精度が低いことに関して，「不足」と「余剰」の事例が分類に 失敗する場合を比べてみると,「余剩」の方に 10 ポイントほど多く, 他の誤用タイプ（助詞や“だ” の誤用など）に含まれる可能性のある事例が含まれていた，前の段落で書いたように，これが「不足」と「余剩」の分類精度に影響したと考えられる。「不足」と「余剰」の分類精度において差が 見られたが，全ての素性を入れた実験においては $3.6 \%$ の差であり, ベースラインと比較すると差 が減っている。これは，拡張素性によって正用例と誤用例の文字列を考慮することができるように

なり，より助詞の誤用等と区別しやすくなったからではないかと考えられる。

さらに，全体に共通する傾向として，文脈長を長くすることが必ずしも分類性能の向上につな がっていない, ということが確認できる. Swanson and Yamangil (2012)も文脈に関する素性は直前の 1 単語しか使っていないが, これは英語学習者の誤用タイプ分類タスクにおいても文脈の情報 が寄与していない可能性がある。誤用の発生している箇所の周辺は形態素解析が失敗しやすいこと に加え, そもそも言語学習者の作文自身の形態素解析が困難であることが背景にあると考えられる.言語学習者のテキストに頑健な形態素解析器の作成は今後の課題である.

## 6 おわりに

本稿では，大規模コーパスを言語資源として活用するために，コーパス整備タスクの1つとして 日本語学習者コーパスへの誤用タグ付与のための半自動的な処理を目指し, 誤用タイプの自動分類 に向けた実験を試みた。

まず，日本語学習者の誤用タグつきコーパスを設計し, 誤用タグ付与作業を行った. 作成した コーパスのアノテーター間の $\kappa$ 值は 0.602 であり, 高い一致率であった. また, 作成したコーパス を用い, 最大エントロピー法によって誤用タグの自動分類タスクに取り組んだ。素性にはべースラ インとして単語の周辺情報と依存関係を利用した. さらに, 誤用タイプ分類表を階層構造にし, 分類性能の向上を計った。誤用文の性質を考慮し, 拡張素性として「ベースライン+編集距離」,「ベー スライン＋置換確率」を付加した結果，分類性能を向上させることができた. その結果, F 值のマ クロ平均は 49.6 から 68.4 に向上した. 事例数が少なく十分な精度が得られていない誤用タイプも 存在するが, 初の誤用タイプ自動分類器において実用的な精度と考えられる．F 値 80 を達成して いた誤りタイプはベースライン法では「助詞」,「脱落」,「余剰」の3 種類のみであったのに対し,階層構造を利用することによって新たに「語彙選択」，「表記」，「動詞」，「指示詞」が，置換確率を 用いることで新たに「形容詞」が，それぞれ $\mathrm{F}$ 値 80 を達成することができ，自動化に向けて大き く前進することができた。事例数の少ない誤用タイプは精度も低いので, その問題を解決するため にセルフトレーニングを用いて，事例を増やし，精度向上を図ることも現在検討中である.

今回，Lang-8 のように正用文と誤用文の両方が大量に存在するが誤用タイプが不明な場合を想定し, 誤用文を考慮に入れた素性を試したが, 誤用箇所および正用例が示されていない言語学習者 コーパスも多数存在する。そのような場合, 誤用タイプ分類の前に誤用検出・訂正をする必要があ る. 本研究により, 正用例が誤用タイプ分類に貢献することが示されたが, 誤用タイプが誤用検出・訂正に影響を与えている可能性も考えられる。 そこで, 誤用タグに関しては, 誤用タイプ分類と誤用検出・訂正を同時に行う手法を今後検討していきたい. さらに, 言語教育現場でどのように使用 されるかを考慮に入れたタグの使いやすさの評価のためには, 他の誤用タグと比較してどのように 自動分類性能が異なるかなども考慮に入れるべきであるが, 自動分類に対応できる誤用タイプの構
築を目指しているため本稿では対象とせず，今後の課題とした.

現在，様々な言語学習者コーパスが存在するが，学習者コーパスをそのまま用いるには情報が 足りないため，誤用検出をしたり，誤用タイプに分類し誤用タグを付与したりと前処理をしなけれ ばならない，機械学習による誤用タイプ分類の精度が高くなれば，研究のために利用できる学習者 コーパスの量が増え，大規模なコーパスでさらに普遍的な現象なども見ることが可能になると考え られる。

## 謝 辞

Lang-8という貴重な資料を提供して頂いた株式会社 Lang-8社長喜洋洋氏に感謝申しげます.論文に対して貴重なご意見を頂いた査読者の方と編集委員の方にも感謝申しげます.

## 参考文献

浅田和泉 (2007). 日本語学習者作文コーパスにみる多義的副詞の習得について. 熊本大学社会文化科学研究科 2007 年度プロジェクト研究報告, 7, pp. 79-96.

浅田和泉 (2008). 中国人日本語学習者の副詞の語順. 熊本大学社会文化科学研究科 2008 年度プロ ジェクト研究報告, 8 , pp. 37-58.

Brockett, C., Dolan, W., and Gamon, M. (2006). "Correcting ESL Errors Using Phrasal SMT Techniques." In Proceedings of the 21st International Conference on Computational Linguistics and 44th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 249-256, Sydney, Australia.

Carletta, J. (1996). "Assessing Agreement on Classification Tasks: The Kappa Statistic." Computational Linguistics, 22 (2), pp. 249-254.

張希朱 (2010). 話者を表す「私は」の用法について：日本語母語話者と日本語学習者の意見文を比較して. 学校教育学研究論集, 22, pp. 23-35.

Chodorow, M., Tetreault, J., and Han, N.-R. (2007). "Detection of Grammatical Errors Involving Prepositions." In Proceedings of the 4 th ACL-SIGSEM Workshop on Prepositions, pp. 45-50, Prague, Czech Public.

De Felice, R. and Pulman, S. (2007). "Automatically Acquiring Models of Prepositional Use." In Proceedings of the 4th ACL-SIGSEM Workshop on Prepositions, pp. 45-50, Prague, Czech Public.

De Felice, R. and Pulman, S. (2008). "A Classifier-based Approach to Preposition and Determiner Error Correction in L2." In Proceedings of the 22nd International Conference on

Computational Linguistics (COLING 2008), pp. 169-176, Manchester, U.K.

藤野拓也, 水本智也, 小町守, 永田昌明, 松本裕治 (2012). 日本語学習者の作文の誤り訂正に向け

た単語分割. 言語処理学会第 18 回年次大会, pp. 26-29.

Gamon, M., Gao, J., Brockett, C., Klementiev, A., Dolan, W., Belenko, D., and Vanderwende,

L. (2008). "Using Contextual Speller Techniques and Language Modelling for ESL Error Correction." In Proceedings of the 3rd International Joint Conference on Computational Linguistics (IJCNLP 2008), pp. 449-456, Hyderabad, India.

Han, N. R., Chodorow, M., and Leacock, C. (2006). "Detecting Errors in English Article Usage by Non-Native Speakers." Natural Language Engineering, 12 (2), pp. 115-129.

Holec, H. (1981). Autonomy and foreign language learning. Pergamon Press, Oxford.

細川英雄 (1993). 留学生日本語作文における格関係表示の誤用について. 早稲田大学日本語研究教

育センター紀要, 5 , pp. 70-89.

市川保子 (1997). 日本語誤用例文小辞典. 凡人社.

市川保子 (2000). 続 ・日本語誤用例文小辞典 接続詞・副詞. 凡人社.

市川保子 (2001). 日本語の誤用研究. 国際交流基金日本語グループ (編), 日本語教育通信 (40 版),

pp. 14-15. 国際交流基金.

今枝恒治, 河合敦夫, 石川裕司, 永田亮, 桝井文人 (2003). 日本語学習者の作文における格助詞の

誤り検出と訂正. 情報処理学会研究報告 コンピュータと教育研究会報告, pp. 39-46. 情報処理学会.

今村賢治, 齋藤邦子, 貞光九月, 西川仁 (2012). 識別的系列変換を用いた日本語助詞誤りの訂正.

言語処理学会第 18 回年次大会, pp. 18-21.

石田亨, 伊佐原均, 齋賀豊美, S. Thepchai, 成田真澄, 内元清貴, 和泉恵美 (2003). 適合型コミュ

ニケーションの研究開発. 平成 15 年度通信・放送機構研究発表会, pp. 572-581.

蔭山ハント悠子 (2004). 新・はじめての日本語教育 1 日本語教育の基礎知識. アスク, 東京.

鎌田修, 山内博之 (1999). KYコーパス Ver 1.1. テクニカル・レポート, 第二言語としての日本語

の習得に関する総合研究グループ. http://www.opi.jp/shiryo/ky_corp.html.

李在鎬, 林炫情, 宮岡弥生, 柴崎秀子 (2012). 言語処理の技術を利用したタグ付き日本語学習者

コーパスの構築. 2012 年度日本語教育学会春季大会予稿集.

松田真希子, 森篤嗣, 金村久美, 後藤宽樹 (2006). 日本語学習者の名詞句の誤用と言語転移. 留学

生教育, 11, pp. 45-53.

峰布由紀 (2011). 言語処理の発達の観点からみたナイデとナクテの習得過程. In 7th International

Conference on Practical Linguistics of Japanese (ICPLJ7), pp. 92-93, San Francisco, U.S.A.水本智也, 小町守, 永田昌明, 松本裕治 (2013). 日本語学習者の作文自動誤り訂正のための語学学

習 SNS の添削ログからの知識獲得. 人工知能学会論文誌, 28 (4), pp. 420-432.
永田亮, 井口達也, 脇寺健太, 河合敦夫, 桝井文人, 井須尚紀 (2005). 前置詞情報を利用した冠詞誤り検出. 電子情報通信学会論文誌, J88-D-I (4), pp. 873-881.

永田亮, 若菜崇宏, 河合敦夫, 森広浩一郎, 桝井文人, 井須尚紀 (2006). 可算/不可算名詞の判定 に基づいた英文の誤り検出. 電子情報通信学会論文誌, J89-D-8, pp. 1777-1790.

南保亮太, 乙武北斗, 荒木健治 (2007). 文節内の特徵を用いた日本語助詞誤りの自動検出・校正.

情報処理学会研究報告 自然言語処理研究報告, pp. 107-112. 情報処理学会.

大木環美, 大山浩美, 北内啓, 末永高志, 松本裕治 (2011). 非日本語母国話者の作成するシステム

開発文書を対象とした助詞の誤用判定. 言語処理学会第 17 回年次大会, pp. 1047-1050.

大曽美恵子, 杉浦正利, 市川保子, 奥村学, 小森早江子, 白井英俊, 滝沢直宏, 外池俊幸 (1997).

日本語学習者の作文コーパス：電子化による共有資源化. 言語処理学会第 3 回年次大会論文集, pp. 131-145.

大山浩美 (2009). 日本語学習者コーパスのための誤用タグの構築について. 国文研究，54, pp. 102-114.

大山浩美, 小町守, 松本裕治 (2012). 日本語学習者の作文における誤用タグつきコーパスの構築に

ついて一NAIST 誤用コーパスの開発一. 第一回テキストアノテーションワークショップ.

Oyama, H., Komachi, M., and Matsumoto, Y. (2013). "Towards Automatic Error Type Classification of Japanese Language Learners' Writings." In Proceedings of the 27th Pacific Asia Conference on Language, Information, and Computation (PACLIC 27), pp. 163-172, Taipei, Taiwan.

Oyama, H., Matsumoto, Y., Asahara, M., and Sakata, K. (2008). "Construction of an Error Information Tagged Corpus of Japanese Language Learners and Automatic Error Detection."

In Proceedings of the Computer Assisted Language Instruction Consortium, San Francisco, U.S.A. CALICO.

清水政明, 宋哲, 孟慶栄, 杜鳳剛, 壇辻正剛 (2004). 中国人日本語学習者対訳作文コーパスの構築 における誤りタグの構築について. 日本語言文化教学与研究国際学術研討会.

Sun, G., Liu, X., Cong, G., Zhou, M., Xiong, Z., Lee, J., and Lin, C. (2007). "Detecting Erroneous Sentences using Automatically Mined Sequential Patterns." In Proceedings of the 45th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 81-88, Prague, Czech Public.

Suzuki, H. and Toutanova, K. (2006). "Learning to Predict Case Makers in Japanese." In Proceedings of the 21st International Conference on Computational Linguistics and 44th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 1049-1056, Sydney, Australia.

Swanson, B. and Yamangil, E. (2012). "Correction Detection and Error Type Selection as an

ESL Educational Aid." In Proceedings of the Conference of the North American Chapter of the Association for Computational Linguistics (NAACL), pp. 357-361, Montreal, Canada.寺嶋弘道 (2013). 日本語教育におけるコーパスの応用一デー夕駆動型学習とその実践方法の考察一.

ポリグロシア, pp. 91-103.

寺村秀夫 (1972). 日本語の文法 上・下. 国立国語研究所.

寺村秀夫 (1990). 外国人学習者の日本語誤用例集接続詞・副詞.テクニカル・レポート, 大阪大学・

国立国語研究所.

Tetreault, J. and Chodorow, M. (2008). "The Ups and Downs of Preposition Error Detection

in ESL Writing." In Proceedings of the 22nd International Conference on Computational

Linguistics (COLING 2008), pp. 865-872, Manchester, U.K.

梅田康子 (2005). 学習者の自律性を重視した日本語教育コースにおける教師の役割. 愛知大学 言

語と文化, 12, pp. 59-77.

王国華 (2003). 中国人日本語学習者が間違えやすい表現について. 北陸大学紀要, 27, pp. 115-122. Wilcox-O'Hearn, A., Hirst, G., and Budanitsky, A. (2008). "Real-word Spelling Correction with

Trigrams: A Reconsideration of the Mays, Damerau, and Mercer Model." In Gelbukh,

A. (Ed.), Proceedings of 9th International Conference on Intelligent Text Processing and Computational Linguistics (CICLing-2008)(Lecture Notes in Computer Science Vol. 4919), pp. 605-616, Berlin. Springer.

Yi, X., Gao, J., and Dolan, W. (2008). "A Web Based English Proofing System for ESL Users."

In Proceedings of the 3rd International Joint Conference on Computational Linguistics (IJCNLP 2008), pp. 619-624, Hyderabad, India.

吉永尚 (2013).「ナイデ」と「ナクテ」の相違について. 園田学園女子大学論文集, 47, pp. 133-140.

## 付録

## A 誤用タイプ項目

助詞 $(\mathbf{P})$ は, 助詞の不足, 余剰, 誤った助詞の選択であり, 複合助詞の誤用も含まれる。「に関 する」や「について」などの複合助詞はしばしば誤用を引き起こす原因となる。表 2 以外の例とし て「宇宙に関した仕事をする」ではなく「*宇宙に関して仕事をする」といった誤用も見られる。 これは，「仕事」を修飾しているので，「に関して」ではなく「に関した」とならなければならない.

語彙選択 (SEM) は, 一単語内での誤った選択で, ふさわしい語彙を選べなかった（例えば，「国民」を「人民」と書いた）誤りである。表 2 にある例では，誤用は「*部分の人」で，正用は「一
部の人」であり，英語では "some people”となる.

表記 (NOT) には，ひらがな，かたかな，漢字に関する誤りなどが入る。

不足 (OM) は, 不足している単語, 句があれば, このタイプに分類される. 日本語において未知の固有名詞について説明するときには「という」をつけるが（例：「Nobu というレストランに 行きました」)，日本語学習者はそれを落としやすい（「*Nobu фレストランに行きました」），たた し，それが「助詞」や「形容詞」などにも入る事例は，そちらを優先する。さらに，「不足の助詞」 や「不足の形容詞」の場合,「助詞」や「形容詞」に分類している。判断がつきにくい事例の場合, (例えば，「の」については，複数の用法がある）。その場合は「不足」や「余剩」に入れる

動詞 $(\mathrm{V})$ カテゴリーの誤用には, 下位分類として動詞の活用, 自動詞か他動詞か, 受け身の誤 り，テンスアスペクトの誤り，「〜ている」の不適切な使用が含まれる。「〜ている」はアスペクトと 深く関わる問題であるため, 誤用として多く見られる。 そのため, 上級の日本語学習者でさえ「日本に住んでいる」がなかなか使えず，「*日本に住む」という場合がある。

余剰 (AD) は，余分な単語や表現などの付加を指す.「不足」と同様に，「助詞」や「形容詞」な どにも入る事例は，そちらを優先する。判断のつきにくい事例においては，「不足」の場合と同様 の扱いをする，日本語学習者は，「*天気が寒くて」という文を作りたがるが，日本語では，「天気 が」にわざわざ言及せず，「(今日は) 寒くて」とする。

文体 (STL) は，「です・ます体」に関する誤りを指す。日本語の作文では，文末の「です・ます 体」か「だ・である体 $\left.{ }^{17}\right.\rfloor の 一$ 致を重要視するため, このような誤りが日本語学習者の作文でしば しば見られる。

名詞化 (NOM) の誤りとは，動詞を名詞化するときの「の」と「こと」に関する誤用である．日本語において，英語の “to watch/watching” などのように名詞化するときに，「の」を使う場合と 「こと」を使う場合とがある，例えば，「趣味は英語をみるのです」の文では，「の」は不適切であ り，また，「*鳥が飛ぶことをみました」では，「こと」は不自然となる．「の」と「こと」の使い分 けは，文脈によって決まっている。

接続 (CONJ) は，文同士，または単語同士を接続させるときに見られる誤用のことである。日本語では，“because”に相当する表現として，「ので」や「から」があるが，文脈，話し言葉，書き 言葉の違いによって使用が異なる.

形容詞 (ADJ) は，形容詞に関係する誤用を指す. 形容詞の活用の誤用，選択の誤用などが含ま れる. 日本語の形容詞は活用するため, 活用がない言語を母語に持つ学習者にはこの間違いが多い.表 2 にあるように，「*僕は太くて人ですから」は名詞を修飾しているので，「くて」と変換するの は誤りである，実際は，「僕は太い人です」としなければならないが，活用の区別がついておらず，「太くて」と書いてしまう学習者が多々いる。

指示詞 $(D E M)$ は，「こ・そ・あ」に関する誤用を指す。他の言語では，この区別が 2 つしかな い場合もあり，日本語学習者にとって使い分けが難しい項目の一つである.

語順 (ORD) は，誤った語順を指す。日本語では助詞があるため文節の出現順が自由である。し かし，名詞と助詞の語順は固定している。例えば，英語のような語順「*より 7 月」ではなく「7 月 より」が正しい.

コロケーション (COL) は, 1 単語内の誤りである「語彙選択 (SEM)」とは異なり,「名詞 + 助詞 + 動詞」といった組み合わせについての誤りは，こちらへ分類される。例えば，学習者は「*影響 $($ 名詞 $)+$ を 助詞 $)+$ くれる（動詞 $)\rfloor$ と書くが, 日本人教師は「影響（名詞）＋を（助詞 $)$十 及ぼす (動詞)」に訂正している。それは 3 つの要素間の共起関係が影響していると見られる。

“だ”の使用 (AUX) は，日本語の複文における従属節に付与するコピュラ“だ”の不適切な使用を指す。例えば，「*あの人は，きれいと思います」のような文における「だ」の不使用誤りなど が含まれる。 さらに，「*あの人はきれいですと思います」という文もこのタイプに含まれる。

否定 (NEG) は，「打ち消し」の意味を表す表現形式での誤りを指す。これには，否定辞「〜な い」の使用誤りや「なくて」と「ないで」の使い分けの誤りなどが含まれる。表 2 にあるように，否定理由を表す時には「なくて」を使用し（「家にいられなくて，外へ行きました」），否定付帯状況を示すときには「ないで」を使用する（「傘をもたないで，外へ行きました」).

副詞 (ADV) の誤用は, 副詞句の使用誤りや副詞語彙の選択誤りなどを指す. 形容詞に「に」や 「と」を添えて，副詞を作り出すことがある．どちらを使うかはその副詞ごとに決まっている．例 えば，「のんびりと過ごした」とは言えても，「*のんびりに過ごした」とは言えない，日本語学習者はこの「に」か「と」かで迷う場合が多い.

代名詞 (PRON) に関する誤用は代名詞に関する誤りで，例えば，「*彼たち」は不適切で，「彼 ら」としなくてはならない.

## B 誤用タイプ 76 項目

表 7 誤用タイプ 76 項目

 & $\overline{\operatorname{not}} / \mathrm{hg}$ & ねえん \\

 & org &  \\

＊これは"v"（動詞）というカテゴリーの中で"othr"（others: 他の単語）から"vol"（volitional form: 意向形）へと添削されたことを示している.
表 8 誤用タイプ 76 項目におけるタグの説明

## 略歴

大山 浩美：1998 年熊本県立大学大学院日本語日本文学課程修了。2001 年イギリ スランカスター大学言語学部修士課程修了. 2010 年奈良先端科学技術大学院大学情報科学研究科博士後期課程指導認定退学. 現在, 同大学研究員. 研究テー マは自然言語処理技術を用いた教育支援，第二言語習得，教育工学，日本語教育 などである。日本語教育学会員, 日本語文法学会員, 教育システム情報学会員.小町 守：2005 年東京大学教養学部基礎科学科科学史・科学哲学分科卒. 2007 年奈良先端科学技術大学院大学情報科学研究科博士前期課程修了. 2008 年より 日本学術振興会特別研究員 (DC2). 2010 年博士後期課程修了. 博士 (工学). 同年より同研究科助教を経て, 2013 年より首都大学東京システムデザイン学部准教授. 大規模なコーパスを用いた意味解析および統計的自然言語処理に関心が ある. 情報処理学会, 人工知能学会, 言語処理学会, 電子情報通信学会, ACL 各会員.

松本 裕治：1977 年京都大学工学部情報工学科卒. 1979 年同大学大学院工学研究科修士課程情報工学専攻修了. 同年電子技術総合研究所入所. 1984 85 年英国 インペリアルカレッジ客員研究員. 1985～87 年（財）新世代コンピュータ技術開発機構に出向. 京都大学助教授を経て, 1993 年より奈良先端科学技術大学院大学教授. 工学博士. 専門は自然言語処理. 情報処理学会, 人工知能学会, 言語処理学会, AAAI, ACL, ACM 各会員. 情報処理学会フェロー. ACL Fellow.

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/