# 歴史的日本語資料を対象とした形態素解析

小木曽智信 $\dagger,+\dagger$ - 小町守 $+\dagger \dagger$ ・松本 裕治 ${ }^{+\dagger \dagger \dagger}$
}

単語情報がタグ付けされた本格的な通時コーパスを構築するためには, 歴史的な日本語資料の形態素解析が必要とされるが, 従来はこれを十分な精度で行うことがで きなかった. そこで, 現代語用の UniDic に語彙の追加を行い, 明治時代の文語文と 平安時代の仮名文学作品のコーパスを整備することで, 「近代文語 UniDic」と「中古和文 UniDic」を作成した。この辞書によりコーパス構築に利用可能な約 $96 \sim 97 \%$ で の解析が可能になった. この辞書の学習曲線をもとに歴史的資料の形態素解析辞書 に必要な訓練用の夕グ付きコーパスのサイズを調査した結果, 約 5 万語のコーパス で精度 $95 \%$ を超える実用的な解析が可能になること, 5,000 語程度の少量であっても 対象テキストの訓練コーパスを用意することが有効であることを確認した.

キーワード：古文，形態素解析，歴史コーパス, UniDic
## Morphological Analysis of Historical Japanese Text

\author{
Toshinobu Ogiso ${ }^{\dagger, \dagger \dagger}$, Mamoru Komachi ${ }^{\dagger \dagger \dagger}$ and Yuji Matsumoto ${ }^{\dagger \dagger \dagger}$
}

To construct a richly annotated diachronic corpus of Japanese, the morphological analysis of historical Japanese text is required. However, conventional analysis of old Japanese texts with adequate accuracy is impossible. To facilitate such analyses, we extended dictionary entries from UniDic for Contemporary Japanese and prepared training corpora including articles illustrating the literary style of the Meiji Era and literature of the Heian Era, thus creating new dictionaries: "UniDic-MLJ (Modern Literary Japanese)" and "UniDic-EMJ (Early Middle Japanese)." These dictionaries achieve a high accuracy (96-97\%) as that required for constructing a diachronic corpus of Japanese. Moreover, we investigated the optimal size of the training corpus for the morphological analysis of historical Japanese text on the basis of the learning curves obtained by using these dictionaries. We confirmed that a 50,000-word corpus achieves an adequate accuracy of over $95 \%$, and even a small-sized corpus (only 5,000 words) is effective as long as the corpus is particularly constructed for the target domain.

Key Words: Classical Japanese, Morphological Analysis, Historical Corpus of Japanese, UniDic

## 1 はじめに

『現代日本語書き言葉均衡コーパス (BCCWJ)』(国立国語研究所 2011) の完成を受けて, 国立国語研究所では日本語の歴史をたどることのできる「通時コーパス」の構築が進められている ${ }^{1}($ 近藤 2012).コーパスの高度な活用のために，通時コーパスに収録されるテキストにも BCCWJ と同等の形態論情報を付与することが期待される。しかし, 従来は十分な精度で古文 ${ }^{2}$ の形態素解析を行うことができなかった。残された歴史的資料は有限であるとはいえ，その量は多く，主要な文学作品に限っても手作業で整備できる量を大きく超えている。また, 均質な夕グ付けのためには機械処理が必須である.

本研究の目的は, 通時コーパス構築の基盤として活用することのできるような, 歴史的資料の形態素解析を実現することである。通時コーパスに収録されるテキストは時代・ジャンルが幅広いため, 必要性の高い分野から解析に着手する必要がある. 明治時代の文語論説文と平安時代の仮名文学作品は, 残されたテキスト量が多いうえ, 日本語史研究の上でも価値が高いことから，これらを対象に， $96 \%$ 以上の精度での形態素解析を実現することを目指す.そして，他の時代・分野の資料の解析に活かすために, 各種条件下での解析精度の比較を行い, 歴史的資料を日本語研究用に十分な精度で解析するために必要な学習用コーパスの量を確認し, エラー の傾向を調査する.

本研究の主要な貢献は以下の通りである.
- 現代語用の UniDic をべースに見出し語の追加を行って古文用の辞書データを作成した.
- 新たに古文のコーパスを作成し, 既公開のコーパスとともに学習用コーパスとして, MeCab を用いたパラメータ学習を行い形態素解析用のモデルを作成した.
- 同辞書を単語境界・品詞認定・語彙素認定の各レベルで評価し, 語彙素認定の $\mathrm{F}$ 值で 0.96 以上の実用的な精度を得た。また, 同辞書について未知語が存在する場合の解析精度を実験により推測し，その場合でも実用的な精度が得られることを確認した.
- 同辞書の学習曲線を描き, 古文を対象とした形態素解析に必要なコーパス量が $5 \sim 10$ 万語であること, 5,000 語程度の少量であっても専用の学習用コーパスを作成することが有効であることを確認した.
- 高頻度エラーの分析を行い, 特に係り結びに起因するものは現状の解析器で用いている局所的な素性では対処できないものであることを確認した.

## 2 研究の背景

## 2.1 古文の形態素解析

現代文を対象とした日本語形態素解析は 1990 年代には実用的になっていたが, 古文を対象とした形態素解析は長い間実現せず，コンピュータによる古文の処理を行おうとする人々から待ち望まれていた。日本語学・国語学の分野においては，BCCWJの完成によってコーパスを用いた現代語の研究が盛んになりつつあるが, 形態素解析は複雑な共起条件を指定した用例検索や, コロケーション強度の取得, テキストごとの特徵語抽出, 多変量解析を用いた研究など, 新しい手法による研究を可能にしている. 歴史的資料の形態素解析が可能になることで, 日本語の史的研究の分野においてもこれが可能になり新しい知見がもたらされることが期待される.

村上 (2004) は, 計量文献学の立場から, 古典の研究資料としての価値を論じた上で「古典に関して計量分析で著者に関する疑問を解明できたなら，古典研究に大きな刺激を与えるにちがいない．たた，残念なことに文章を自動的に単語に分割し，品詞情報等を付加する形態素分析のプログラムの開発が古文の場合，遅れている」(p. 191)と述べている。また，近藤 (2009) は古典語研究の立場から「古典語は形態素解析の自動化がしにくいため, 単語レべルの索引を作るには, すべて手作業で形態素解析を行う必要があるため, 多くの資料を対象に語彙研究することは困難である」と述べている.

もっとも，古文の形態素解析の実現のための研究はこれまでにも行われてきた。早い時期の研究として, 安武, 吉村, 首藤 (1995), 山本, 松本 (1996) などがある. しかし, 古文の電子的な辞書やコーパスが不足していたこともあり，これらはいずれも試行のレベルにとどまっており，アプリケーションの公開も行われていない。また，研究の主眼が解析手法の開発自体にあるため、コーパスや辞書の整備も最小限しか行われてこなかった. このほか, 山元 (2007) が和歌集の言語学的分析を目的として和歌の形態素解析を実現しているが, これは和歌に特化したものであり，散文等の古文一般に適用できるものではない。このように，多くの資料を対象にした通時コーパス構築の基盤として利用可能な形態素解析のシステムは新たに作成する必要があった。

## 2.2 UniDic と古文

通時コーパスに先だって構築された BCCWJでは, 新しく開発された形態素解析辞書 $\mathrm{UniDic}^{3}$ を利用して形態論情報が付与された. UniDic は，（1）見出し語として「短単位」という摇れが少ない斉一な単位を採用している, (2) 語彙素・語形・書字形・発音形の階層構造を持ち, 表記の摇れや語形の変異をまとめ上げることができる, (3) 個々の見出し語に語種やアクセント
^{3}$ http://download.unidic.org
}
型などの豊富な情報が付与されている, といった言語研究に適した特長を持っている (伝, 小木曽, 小椋, 山田, 峯松, 内元, 小磯 2007).

古文の形態素解析にとっても，上述のUniDic の特長は非常に有効である。たとえば，摇れの少ない斉一な単位は，テキストの解析結果を用いた語彙の比較を可能にする．従来の古典文学作品の総索引は単位認定や見出し付与の方針の違いにより相互の比較が難しい場合があった. しかし通時的なコーパスを構築する場合には, 現代語コーパスと共通する一貫した原理に基づいた情報付与を行って，一作品・一時代にとどまらず古代から現代に至る「通時」的な観察を可能にする必要がある. UniDic をべースとすることで, 作品間の比較が可能になるだけでなく,時代の違いを超え, 各種のテキスト間で相互に語彙を比較することが可能になる。また, 階層化された見出しを用いることで, 文語形や旧字・旧仮名遣いの語を同一見出しの元にまとめることができるため, さまざまな時代のテキストに出現する語形・表記を統一的に扱うことができる.

こうした理由から, 本研究では現代語用の UniDicをもとにして, 歴史的資料のための形態素解析辞書を作成することにした. UniDicでは, 形態素解析器に $\mathrm{MeCab}^{4}$ (Kudo, Yamamoto, and Matsumoto 2004)を用いている. MeCab は CRF(Lafferty, McCallum, and Pereira 2001)にもとづく統計的機械学習によって高精度な形態素解析を実現しており, 学習器も公開されている.したがって，古文の学習用コーパスを用意し，UniDic の見出し語を拡充することで古文に対応することができる． 3.1 節で示すように, 見出し語を追加するだけでは実用的な解析精度を達成することはできず，学習用コーパスを用いて形態素解析器を再学習することが重要である.

## 2.3 解析対象のテキスト

一口に古文と言っても，その中身は極めて多様である。通時コーパスでは，時代幅としては 8 世紀から 19 世紀までが, ジャンルとしては和歌から物語, 仏教説話, 軍記物, 狂言, また酒落本などの近世文学, さらに近代の小説や論説文, 法律までが対象となる. これらのテキストの文体は, 文法・語彙・表記にわたって極めて多様であって, 単に「古文」としてひとくくりにして済むものではない(小木曽 2011).

テキストに大きな違いがある以上, 解析対象のテキストごとに最適の辞書を作成することができれば望ましいが, 残された歴史的資料は有限であり, 少量のテキストのために個別に辞書を作成することは現実的ではない，文体的に近いテキストを十分な量のグループにまとめ，グループごとに適した形態素解析辞書を用意することが適切である.

こうしたグループとしてまず考えられるのは，今から約 1000 年前の平安時代（中古）に書かれた仮名文学作品を中心とする和文系の資料である. 中でも源氏物語は日本語の古典の代表的
^{4}$ https://code.google.com/p/mecab/
}
表 1 中古和文と近代文語文のテキスト例

 &  \\

なものであり，その文体は，中世の擬古物語や近世・近代の擬古文に至るまで模倣されながら長い期間にわたって用いられている。もう一つのグループとしてあげられるのは，約 100 年前に広く用いられていた近代の文語文である。中でも明治普通文とも呼ばれる近代の文語論説文は，明治以降戦前にかけて広く用いられた文体であり，公文書から新聞・雑誌まで各種の資料がこれによって書かれている．表 1 に二つのグループに属するテキストの例を挙げる。

近代文語文は，平安時代以来の漢文訓読文の流れに位置づけられる文体である，漢文訓読文では漢語が多く用いられるのに対して，和文では漢語はわずかしか用いられない。また和文と漢文訓読文では使用する和語の語彙も大きく異なっていることが知られている。こうした語彙の違いからも, 現代語からの時代的遠近という点からも, 中古和文と近代文語文は対照的な位置にあり，この 2 つのグループについて形態素解析辞書を用意することは，通時コーパス全体の解析を目的とする上で有効であると考えられる。

## 2.4 現代語用の UniDic による古文の解析精度 : ベースライン

一般に公開されている現代語用の形態素解析辞書はこれによって古文を解析することは考慮されていない. 古文では, 特に助動詞などの機能語の用いられ方が大きく異なるため, 現代語用の辞書で古文を解析することは困難であると考えられる。現代語用に作られた UniDic も同様であるが，新たに作成する古文用辞書と比較するためのベースラインとして，手始めに現代語用の UniDic で近代文語文と中古和文を解析した場合の精度を調查する。

評価に用いる現代語用 UniDic は一般公開されている unidic-mecab-2.1.0である. UniDic の学習にはコーパスとして BCCWJ のコアデータのほか日本語話し言葉コーパスと RWCP コーパ

スの一部が用いられており, 学習素性としては語彙素・語彙素読み・語種・品詞・活用型 ・活用形・書字形が用いられている (Den, Nakamura, Ogiso, and Ogura 2008). UniDic の見出し語は, 語彙素・語形・書字形・発音形の階層構造を持っている。そのため, 解析結果の精度評価もこの階層ごとに行った. 最も基礎的なレベルとして，単語境界の認定が正しく行われているかを見る「Lv. 1 境界」を設定した。またこれに加えて品詞・活用型・活用形の認定が正しいかどうかを見る「Lv. 2 品詞」, Lv. $1 \cdot \mathrm{Lv} .2$ に加えて語彙素（辞書見出し）としての認定も正しかったかどうかを見る「Lv. 3 語彙素」を設定した. Lv. 3 は，たとえば「金」が「キン」でなく「カネ」と正しく解析されているかどうかを見ることになる. さらに，Lv.1～Lv. 3 が正しいことに加え，読み方が正しいかどうかを見る「Lv. 4 発音形」を設定した. Lv. 4 は，古文の場合には発音というよりは語形の違いが正しく認定されているかどうかを評価するものである．たとえば，「所」が文脈にあわせて「トコロ」ではなく「ドコロ」と正しく解析されているかどうかを見ることになる.

ところで，現代語の辞書で古文を解析した場合には，活用型が文語であるか口語であるかの違いによって誤りとされる例が多い。たとえば動詞「書く」は口語ではカ行五段活用（「五段力行」）だが，文語では力行四段活用（「文語四段-力行」）で定義されているため両者が一致しないと品詞レベルで誤りと見なされる。しかし両者は本質的には同語であるといってよく, 相互に容易に変換することができる。そこで, こうした口語・文語の活用型の対についてはいずれを出力した場合にも正解と見なした場合の精度についても調査した. 具体的には, 「文語形容詞-ク」と「文語形容詞-シク」を「形容詞」と同一視し，「文語四段」は「五段」，「文語年行変格」は「升行変格」,「文語下二段」は「下一段」,「文語上二段」は「上一段」と同一視した. さらに文語の「-ハ行」「-ワ行」を「-ア行」と同一視した。

以上の観点でまとめた解析精度の調査結果を表 2 に示す。評価コーパスは, 後述する人手修正済みのコーパスから約 10 万語を文単位でランダムサンプリングしたものである。評価項目は次に示す Precision (精度), Recall (再現率), F 値（Precison と Recall の調和平均）である.

$
\begin{gathered}
\text { Precision }=\frac{\text { 正解語数 }}{\text { システムの出力語数 }} \\
\text { Recall }=\frac{\text { 正解語数 }}{\text { 評価コーパスの語数 }} \\
\mathrm{F} \text { 值 }=\frac{2 * \text { Precision } * \text { Recall }}{\text { Precision }+ \text { Recall }}
\end{gathered}
$

活用型の補正なしの場合の語彙素レベルの $\mathrm{F}$ 値でみると, 近代語では 0.6775 , 中古和文では 0.5432 となっており, 予想通り通時コーパス構築の実用に耐える精度ではない. 中古和文と比べ近代文語の方が比較的精度が良いが, これは現代語との年代差が少ないため使用される語彙が近いことによるものと考えられる。補正後は, 近代語では 0.7323 , 中古和文では 0.5939 となっ
表 2 現代語用 UniDic による近代文語・中古和文の解析精度 （活用型変換による補正の有無による精度の比較を含む）

ている。補正による上昇は 0.05 ポイント程度であり, 単純な活用型変換を行ってもさほど精度は向上しないことが分かる.

このように古文の形態素解析のためには辞書への古文の見出し語追加が必須であり，また古文のコーパスで再学習を行うことで解析精度の向上が期待できる。以下， 3 節で見出し語の追加と学習用コーパスの構築について説明する．4 節では見出し語追加と再学習を行った提案手法による解析精度を他の手法と比較して確認し, その後この辞書による各種テキストの解析精度について議論する。

## 3 見出し語の追加と学習用コーパスの作成

## 3.1 現代語用の UniDic に対する見出し語の追加

古文用の形態素解析を行うために，現代語用の辞書に見出し語の追加を行った. UniDic では見出し語を語彙素・語形・書字形・発音形の 4 段階で階層的に管理しているため, 近代語解析に必要な語を各階層に整理して追加することができる。現代語としては使われなくなっている語は「語彙素」のレベルで, 文語活用型の語は「語形」のレベルで, 異体字や旧字形など表記の違いは「書字形」のレベルで追加することになる（図 1).これにより，現代語のための見出し語と統一的に管理することができ，文語形と口語形，新字形と旧字形がそれぞれ関係を持つものであることを示すことができる.

これまでに近代文語文のために追加した語彙は, 語彙素レベルで 10,814 語, 語形レベルで

図 $1 \mathrm{UniDic}$ の階層（語彙素・語形・書字形）と文語形・旧字形

12,417 語, 書字形レベルで 25,224 語であった，また，中古和文のために追加した語彙は，語彙素レベルで 5,939 語，語形レベルで 7,351 語，書字形レベルで 13,763 語であった。両者には共通の語彙も多いが近代文語文の語彙追加を先に行ったため, 中古和文のための追加数が少なくなっている．もともとあった現代語の見出し語とあわせ，全体の見出し語数は，語彙素 225,588 語, 語形 253,061 語, 書字形 413,897 語となっている.

追加した見出し語は, 現代語形から派生させた文語形や旧字形を追加するところからはじめ,既存の古語辞典やデータ集の見出し語からも追加を行った. しかし, 形態素解析辞書の見出し語としては, UniDic 体系に基づく詳細な品詞を付与し, 実際に出現する表記形を入力する必要があるため，単なる辞典の見出し語リストは多くの場合，登録用のソースとして不十分である. そのため, 大部分の語彙は, 後述する学習用コーパスを整備する過程で不足するものを追加する形で行った。

見出し語の単位認定については, 通時的な比較ができるようにするため, 可能な限り現代語と共通の枠組みで処理を行った。しかし，語の歴史的変化や古文における使用実態を踏まえ，時代別に異なった扱いをしている語も少なくない，たとえば，指示詞について，現代語の UniDic では「この」「その」などは 1 語の連体詞として扱っているが，「こ」「そ」が単独で指示代名詞として使われる中古語では，これらは代名詞＋格助詞として扱った方が適切である。このように, 歴史的資料向けの辞書見出しの追加は単純な作業ではなく, 通時的な共通性に配慮しつつ,各時代の言語の実態を反映させるかたちで見出し語を認定するという高度な判断にもとづくものである。その積み重ねによって作られた見出し語リストは，日本語の通時的な処理を行う上で基礎となる重要なデータであると言える。

また, 中古和文 UniDic の見出し語認定基準は規程集としてまとめ公開している (小椋，須永 $2012)^{5}$ が, これは通時的な比較を考慮した歴史的資料の処理にとって利用価值が高い資料である. 中古和文用の規定はそのまま他の時代の資料に適用できるわけではないが，日本語の古典文法は中古和文を基準として作られたものであるため，この規定を中核として追加・修正を行うことで各時代向けの辞書を作成していくことが可能である.

語彙の追加と平行して活用表の整備も行った. UniDic はもともと文語の活用表を一部備えていたが，これを整備して網羅的なものとするとともに，通時コーパス構築に必要な活用形の追加を行った。

UniDic は現代語用に整備されてきたため, 古文では用いられない語彙を多く含んでいる。しかし, 基礎語彙の多くは中古和文でも共通であり, どの語が不要であるかを事前に判断することは必ずしも容易ではない。また, 古文の形態素解析辞書にとって見出し語の肥大化は大きな問題ではないうえ, 不要語があることによる解析精度への悪影響は認められなかったため, 現代語用の見出しも原則としてそのままとした. 同様の理由から, 近代文語 UniDic と中古和文 UniDicの間でも同一の語彙表を用いている.

以上のような見出し語の追加だけであれば，学習用コーパスの作成に比べて低コストで行うことができる，そこで，見出し語の追加だけで十分な精度向上が見られるのかどうか確認するため, 古文用の見出し語を追加した現代語用のUniDic を作成し, 2.4 節の表 2 と同様に解析精度を調査した。その結果を表 3 に示す。見出し語の追加によって, 近代文語では, 語彙素認定

表 3 古文用の見出し語を追加した現代語用 UniDic による解析精度 （活用型変換による補正の有無による精度の比較を含む）

の $\mathrm{F}$ 值で約 0.06 ポイント向上し 0.7363 , 補正後の数字で 0.797 となっている. また, 精度の低かった中古和文では，語彙素認定の $\mathrm{F}$ 値で約 0.07 ポイント向上し 0.6190 , 補正後の数字で 0.664 となっている。しかし，やはりこの精度は不十分であり，見出し語の追加だけでは通時コーパスの構築にとって十分なだけの精度は得られなかった。

## 3.2 学習用コーパスの準備

前節で確認したように, 古文の形態素解析のためには, 見出し語の追加だけでなく学習用コー パスの整備が必要となる.

近代文語では，主たる解析対象の明治期の文語論説文を中心に，表 4 の約 64 万語の人手修正済みのコーパスを作成した。近代詩・小説・法令・論説文の大部分は「青空文庫 ${ }^{6}$ 所収のテキストを利用し，論説文としては他に上田修一氏作成の「文明論之概略」テキストデー夕 7 を利用した。また，雑誌の本文は国立国語研究所の「太陽コーパス」「近代女性雑誌コーパス」 8 の一部のテキストを利用した。以上のテキストに対して独自にUniDic べースの形態論情報をタグ付けしたデータに加え，国立国語研究所で公開された形態論情報付き「明六雑誌コーパス」 9 を学習用のデータとして利用した。

中古和文では, 2012 年に国立国語研究所によって公開された「日本語歴史コーパス平安時代

表 4 近代文語のコーパス

表 5 中古和文のコーパス

編先行公開版 10 のデータを学習に利用した。このコーパスは，表 5 に示す平安時代の仮名文学作品を中心とした約 82 万語の人手修正済みの形態論情報を含んでいる.

学習用のコーパスは段落や改行, 振り仮名などがタグ付けされたテキストに形態論情報を付与したもので，これを関係データベース上で辞書データと紐付けて管理している。近代語コー パスでは，さらに濁点が付されていない部分に濁点を付与するなど表記上の問題に対処するためのタグ付けを行い，また文末を認定してセンテンスタグを付与している．日本語の歴史的資料のコーパスを形態素解析辞書の機械学習に利用可能な形で整備したのはこれが初めての試みである.

近代文語文と中古和文は，同じ古文と言っても大きく性質の異なる文体である。近代文語文では低頻度語が多く，上記のコーパス中，書字形（基本形）で集計した場合，頻度 1 の語が 18,120 語，頻度 2 の語が 5,943 語含まれていた。一方，中古和文では，頻度 1 の語が 6,198 語，頻度 2 の語が 2,134 語にすぎない。近代文語文は, 明治維新後に西洋の新たな文物を吸収していく時代において，新しい書き言葉を確立していく過程にあった文体であるため，新たに作られながらも定着しなかった語などの低頻度語が目立つ。また，書かれる内容が多様で文体差が大きい.一方, 中古和文は, 古代の宮廷における限られたコミュニティの中で当時の話し言葉に基づいて書かれた文章であり，内容的な幅も狭いため，語彙の広がりが小さい。こうした違いは，形態素解析の精度にも影響を及ぼしてくると考えられる。

## $3.3 \mathrm{MeCab$ を用いたコーパスからのパラメータ学習}

MeCabでコーパスからのパラメータを学習する場合, 設定ファイル rewrite.def と feature.def によって, 学習に用いる内部素性のマッピングと, 内部素性から $\mathrm{CRF}$ 素性を抽出するためのテンプレートを書き換えることができる。近代文語 UniDic と中古和文 UniDic の学習にあたっては， $\mathrm{CRF}$ 素性を抽出するテンプレート (feature.def) は，どちらの辞書でも現代語用のものをそのまま用いている。利用している素性は, 語彙素・語彙素読み・語種・品詞（大分類・中分類・小分類）・活用型・活用形・書字形（基本形と出現形）とその組み合わせである. UniDic では語種を学習素性として利用しているのが特徴となっており (Den et al. 2008), この素性は古文の解析にも大きく寄与している.

一方, 内部素性のマッピング (rewrite.def) は, 現代語用 UniDic のものを修正して, 語彙化する見出し語を文語の助動詞・接辞に置き換えた。たとえば，次の助動詞については品詞ではなく，語彙のレベルで連接コストを計算している。

き，けむ，けらし，けり，こす，ごとし，ざます，ざんす，じ，ず，たり，つ，なり，ぬ，べ

し, べらなり, まし, まじ, む, むず, めり, らし, らむ, り, んす, んなり, んめり, 非ず

助詞・助動詞などの語彙化すべき見出し語については近代文語文と中古和文とで共通する部分が多いため, rewrite.def は近代文語 UniDic と中古和文 UniDic とで共通のものを利用した.

## 4 解析精度の評価

## 4.1 解析精度

上述の方法で作成した「近代文語 UniDic」「中古和文 UniDic」の解析精度を調査した. 評価コーパスは， 3.2 節で示した人手による修正済みのコーパスから文単位でランダムサンプリングした 10 万語分とし, その残りを訓練コーパスとした. 評価コーパスは, 辞書ごとに固定して,以後の精度評価でも同一のものを用いている. 2.4 節での調査と同様に, 単位境界・品詞・語彙素・発音形の 4 つのレベルで調査を行った結果を表 6 に示す. なお, 評価コーパスはもともと学習用に整備したものの一部を転用したものであるため, 当初含まれていた未知語は辞書に登録されている，そのため, 解釈不能語などを除いて原則として未知語を含んでいない.

語彙素認定の $\mathrm{F}$ 値で, 近代文語は 0.9641 , 中古和文では 0.9700 となっており, ベースライン （表 2）や見出し語のみを追加した場合（表 3）と比較して大幅に精度が向上している. 近代文語 UniDic と中古和文 UniDic を比較すると, すべてのレベルで中古和文の方が良い精度となっ

表 6 「近代文語 UniDic」「中古和文 UniDic」の解析精度

図 2 各種方法による解析精度の比較（語彙素レベル・F 値）

ている。これには中古和文の方が訓練コーパスの量が多いことも影響しているが，それよりも 3.2 節で見たようなテキストの性質の違いによる影響が大きいと考えられる（4.4 節参照）.

図 2 に，再学習を行った提案手法と，2３節で確認した各種手法（現代語辞書によるべースライン，再学習を伴わず見出し語だけを追加した辞書）の解析精度を比較した結果を示す。精度は語彙素認定レベルの $\mathrm{F}$ 値である。図中の「補正」とは活用型の文語形への変換を行った場合の精度である。

このように，コーパスによる再学習によって初めて実用的な精度での解析が可能になる。 BCCWJ の構築に利用された現代語の UniDic の解析精度が語彙素認定の $\mathrm{F}$ 値で約 0.98 であり, ジャンルによっては 0.96 程度に留まることと比較しても, コーパス構築に利用するために十分な精度が出ていると言える。

## 4.2 未知語を考慮した解析精度

表 6 の精度は, 基本的に未知語が存在しない状態のコーパスを評価対象とした場合のものであった。しかし, 実際の解析対象には未知語が含まれているのが通常である。そこで, 未知語
表 7 未知語の有無による解析精度比較

を含んだテキストを解析した際の精度を検証した。

評価コーパスには同一のものを用いて，評価コーパスのみに現れ，それ以外の人手修正済みコーパス（＝学習用コーパス）には一度も出現しない語を, 近代文語 UniDic・中古和文 UniDic それぞれの辞書から削除して未知語を発生させた. 削除した語数は, 近代文語 UniDic では 2,089 語（評価コーパス中の出現回数 3,128）, 中古和文 UniDic では 795 語（評価コーパス中の出現回数 824）であった， 3.2 節で見たように，近代文語文には低頻度の語が多く含まれるため, 中古和文に比べて未知語が多く発生することになる。この条件で作成し直した辞書の解析精度を表 7 に示す. Precision が特に低下しており，語彙素認定の $\mathrm{F}$ 値で見ると，近代文語文では 0.0376 ポイント低下して 0.9265, 中古和文では 0.0089 ポイント低下して 0.9611 となっている. 未知語が多い近代文語文では影響が大きいが，それでも十分に実用的な精度が得られている。

## 4.3 未知の資料の解析精度

前節で見たように学習用コーパスと同一の作品では十分な精度が得られたが, 学習用コーパスとは完全に無関係な資料の解析精度を確認する必要がある。未知の資料には，当該辞書の適用対象といえるテキストと, 文体差があり必ずしも適切な対象であるとはいえないテキストがある。ここでは, 中古和文 UniDic を例に，その適用対象内の文体で書かれたテキストであるといえる擬古物語『恋路ゆかしき大将』と，時代的には中古和文に近いが和漢混淆文と呼ばれる別種の文体である『今昔物語集』の一部の解析精度を調査する。調査対象のテキストはいずれも未知語を一部含んだ状態である。それぞれ，表 8 に示すような文体である.

中古和文 UniDic による擬古物語と和漢混淆文の解析結果を表 9 に示す. 擬古物語では, 語彙
素認定の $\mathrm{F}$ 値で 0.95 以上の精度を確保している一方, 和漢混淆文では 0.85 程度となっている. ここから，中古和文 UniDic がターゲットとしていた文体であれば未知の資料であっても十分な解析が可能であること，一方ターゲットとしていない文体では十分な精度が得られず，再学習など新たな取り組みが必要であることが分かる.

表 8 擬古物語・和漢混淆文のテキスト例

 &  &  \\

表 9 「中古和文 UniDic」による擬古物語・和漢混淆文の解析精度

## 4.4 学習に用いるコーパスの量の解析精度への影響

つづいて, 学習に用いるコーパスの量の解析精度への影響を確認するために, コーパスの量を変化させて解析精度を評価した。評価コーパスは辞書ごとに固定した 10 万語で, 4.1 節・ 4.2 節と同一のものである。学習用のコーパスは，評価コーパス以外の人手修正済みデー夕を文単位でランダムに並び替えた後，先頭から指定語数分取得している。語数は， 2 万語までは 5,000 語ごと, 10 万語までは 2 万語ごと, それ以上は 10 万語ごとに学習用コーパスを増やし, 近代文語 UniDic では 50 万語，中古和文 UniDic では 70 万語まで評価している，比較のため現代語用の UniDic についても同様の方法で 100 万語まで評価した。現代語の学習・評価用コーパスには BCCWJ のコアデータを利用した.

この結果を図 3 に示す。縦軸が語彙素認定の $\mathrm{F}$ 値, 横軸がコーパス量である.

現代語 > 中古和文 > 近代文語の順に解析精度が低くなるが, この傾向はコーパス量が同じであればどの段階においても同じであり, この差は各辞書が対象とするテキストの（短単位に

図 3 各種 UniDic の学習曲線（語彙素レベル・F 値）

よる形態素解析という観点での）難易度を反映したものだといえそうである。ただし，近代文語文の精度低下には， 口語による表現が部分的に挿入される場合があることも影響している ${ }^{11}$.口語表現を除外するようにコーパスを整備したり， 口語表現の品詞認定基準を改めたりすることで，他の辞書との差は小さくなるものと思われる.

学習用のコーパス量が 5,000 語でも 0.9 以上の $\mathrm{F}$ 值が得られているが, これは現代語の UniDic で解析した表 2 や表 3 の結果よりも遙かに良い数値である。古文の形態素解析では，少ない量であっても専用のコーパスを使って辞書を作成することが効果的であることがわかる。また，約 5 万語のコーパスで $95 \%$ の精度に達しており, どの辞書でも約 10 万語を境に精度向上が大幅に鈍化し飽和していく．短単位の形態素解析辞書を新たに作成するのに必要な学習用のコー パスは約 5〜10万語というのが一つの目安であるといえる.

## 5 エラー分析

## 5.1 高頻度の解析エラー

4.1 節（表 6）の精度調査におけるエラーから，近代文語 UniDic，中古和文 UniDic のエラー の傾向を分析する，表 10 に，境界認定・品詞認定・語彙素認定の各レベルにおいて特に高頻度のエラーをまとめた。表中括弧内の数字はエラー数である．以下，これらのエラーについてレベル別に確認する.

表 10 高頻度の解析エラー

## 5.2 境界認定レベルのエラー

境界認定のレベルでは，近代文語 UniDic は結果として過分割となっているものが 272 例, 同数となるもの 74 例, 過結合となるものが 258 例であった. 中古和文 UniDic は過分割となっているものが 189 例, 同数となるものが 25 例, 過結合となるものが 176 例であった.

中古和文・近代文語でともにエラーが多い「にて」「とも」は，語源にさかのぼると「に／て」「と/も」であり，複合してできた語を語源的に見て 2 語と扱うか，新たにできた 1 語として扱うかという認定基準の立て方の問題と関わる。歴史的な言語変化によって一語化が進展していくわけだが，もともと連続して出てきやすい語の連続であり，また全ての「に／て」「と／も」連続が一語化するわけではないため判別が難しい.

近代文語の「然れども」は, 現在の規程では,「しかれども」と読む場合には「然り」と「ども」に分割し，「されども」と読む場合には 1 語の接続詞として扱っている. したがって問題は「然れ」を「され」と読むか「しかれ」と読むかという点にあり，実質上は語彙素認定のエ

めば連体詞として 1 語と見なされる。このように近代語では漢字表記語が多く読みに曖昧さがあり, そこに語の歴史的変化による一語化が進展していることが複合して問題となっている.

一方, 近代文語の「論派」は,「○○論派」とある場合に, UniDic の短単位規定で「 ( ○○)論）派」という語構成を考えて「-論」「-派」がいずれも接尾辞となって切り出されるのに対し,「論派」という 1 語の名詞も存在するためにこちらが優先されることによっている．漢語の多い近代語で目立っているが，これは現代語でも同種の現象が起きる問題であり，漢語の単位認定について, 形態素解析では扱いきれない語構成の問題が短単位認定基準に取り込まれていることが要因であるといえる。

## 5.3 品詞認定レベルのエラー

品詞認定のレベルでは, 品詞そのものの認定エラーと, 活用形の認定のエラーが区別される.品詞そのものの認定で中古和文・近代文語ともに最多のものは「に」の認定が助動詞・格助詞・接続助詞の間で摇れるものである.「に」の判別は現代語においても助動詞「だ」連用形と格助詞「に」の間などで問題になるが，古文では接続助詞の「に」が高い頻度で用いられるためより曖昧性が高い，接続助詞「に」は連体形接続であるため，接続の上でも他と区別が付かない.このほか, 中古和文では「を」の判別エラーが多い. 現代語では格助詞以外の用法を持たないが, 中古語では接続助詞・終助詞があるためエラーにつながっている. また, 近代文語では「も」「で」の判別エラーが目立つが，いずれも同形の接続助詞があることで現代語よりも曖昧性が増している。さらに「で」は近代においては口語的な助動詞「だ」の連用形としての 「で」が用いられることがあるため, 現代語で発生する助動詞「だ」連用形と格助詞「で」の判別と同じ問題が生じている.

このように品詞の認定では，コピュラ助動詞（「なり」「だ）の連用形と格助詞との判別という現代語でも見られるエラーがあることに加えて, 古文では同形の接続助詞が存在するためにより曖昧性が高くエラーにつながっている。

活用形の認定では，高頻度の助動詞や動詞の終止形・連体形の判別と，助動詞「ず」・動詞「有り」の終止形と連用形の判別でエラーが多く発生している.

終止形・連体形の判別エラーは，係り結びに起因する古文特有のものである．古文では，文中に「ぞ」「か」「や」の係助詞や疑問詞（不定語）が存在する場合，係り結びの法則によって文末が終止形ではなく連体形になるという現象がある。ところが，四段活用では終止形と連体形が同形であるため，文末に位置する場合には文中に上述の要素（係り）が存在するかどうかによって同形の動詞を判別しなければならず，この困難がエラーにつながっている．係り結びは中古和文で特に多いため終止形・連体形の判別エラーも中古和文に多く, 活用形間の誤り全体 363 例のうち 214 例がこのエラーである.

助動詞「ず」・動詞「有り」の終止形と連用形の判別は，文末の認定に関わるものである. 助動詞「ず」やラ行変格活用の語では終止形と連用形が同形であるが，終止形と連用形の違いは多くの場合，文が中止しているのかそこで終わっているのかの違いに相当する．ところが，近代文語文では，文末が句点として必ずしも明示されない 12 ，句点と読点が区別されず，ともに「、」 で表されている文が多く，こうした場合には中止か終止かの区別が極めて難しい.このことが終止形・連用形の選択エラーにつながっている。これも古文のテキスト特有のエラーである.

## 5.4 語彙素認定のエラー

語彙素認定では, 中古和文における接頭辞「御」が「ミ」「オオン」の間で摇れる例が極めて多かった。これを含め中古和文における高頻度の語彙素認定エラーは, 品詞が一致する上に語種までが同じ例である。近代文語で最多の「人」が「ジン」「ニン」で摇れる例も語種が同じものである. UniDic の見出し語中には, 同一の漢字表記語が音読する漢語と訓読する和語に区別される例が多いが，学習素性に語種を利用していることもあり，語種をまたいだ誤りは比較的少なかった，語彙素認定のエラーは現代語でも生じうるタイプの誤りである。ただし, 現代語では接頭辞「御」は漢語「ゴ」と和語「オ」でほぼ区別が付くが，中古和文では和語に複数の読みがあるため語種では判別ができないといった違いがある.

## 5.5 エラーのまとめ

以上のエラーのうち古文特有といえる問題は, (1) 係り結びに起因する文末活用語の終止形$\cdot$連体形の判別, (2) 文末表示の曖昧さに起因する文末活用語の終止形・連用形の判別である. 特

に係り結びの問題に対処するには文中の離れた要素を考慮する必要があるが, 提案手法では局所的な形態論情報だけを素性として利用しているため対応できていない. しかし, これらのエラーは比較的簡単なルールによって自動修正できるため, 形態素解析後の後処理で対応することが可能である.

その他のエラーは同種の問題が現代語でも発生しうるものである。しかし，「に/て」「と／ も」,「に」「も」「を」などの助詞に関する判別は, 古文の方が同音異義となる語彙が多いため曖昧性が増していた（「を」は現代語では曖昧性がない）。また, 特に近代文語では漢字表記語の割合が大きく，その読みの曖昧性がエラーにつながる例が現代語よりも多い. 中古和文の接頭辞「御」も同様で和語に絞っても多様な読みがあるため判別が困難である.

以上のように, エラーの原因には文法現象から語彙, 表記法の違いまで, 古文特有の現象が関わっているものが見られた。

## 6 おわりに

UniDic の見出し語を増補し，学習用のコーパスを整備することによって，「中古和文 UniDic」 と「近代文語 UniDic」の二つの形態素解析辞書を作成した。これらの辞書により, 語彙素認定の $\mathrm{F}$ 值で, 近代文語は 0.9641 , 中古和文では 0.9700 という高い精度で解析することが可能になった.これにより, 通時コーパス構築の基盤となる形態素解析システムが整ったといえる。これらの形態素解析辞書はすでに Web 上で一般公開を行っている ${ }^{13}$.

開発過程で, 古文の形態素解析には見出し語の追加だけでは十分な精度が得られないこと, 5,000 語程度の少量であっても専用の学習用コーパスを用意することが効果的であることが確認された. 他分野の辞書による解析精度が低いこととあわせ, このことは, 古文の形態素解析では，他分野のコーパスによって学習したパラメータの転用を図ることは有効ではないことを示唆している。また, 短単位にもとづく形態素解析辞書の学習には, $5 \sim 10$ 万語の学習用コーパスを用意すれば歴史的日本語コーパスの構築にとって十分であることが確認された. さらに，エラーの分析から, 残されたエラーの多くは, 現状の解析器と学習可能な素性では対処の難しいものであることが確認された.

近代文語と中古和文を比較すると, 近代文語の解析精度が低かったが, その理由の一つは近代文語の中身が多様で，ドメインの分割がうまくできていないことにあるものと思われる．比較的少量の学習用コーパスで効果が見込まれることが確認されたことから, 近代文語文をより小さなドメインに分割することで全体として精度を向上させられる可能性がある. 同様に, 会話文と地の文とで別の辞書を作成することでも精度の向上が期待できる．今後の課題としたい.

通時コーパスの構築のためには, 今後, 様々なタイプのテキストの解析を行っていく必要がある.今回の調査においても, 中古和文と同時代の資料であっても和漢混淆文は中古和文 UniDic では十分な精度で解析できないことが確認された。今後, 和漢混淆文をはじめとする多様なジャンルのテキストを対象とした形態素解析辞書を作成していく必要がある。その中では, 仮名遣いのバリエーションへの対処や送り仮名の大幅な省略などの表記摇れへの対処も必要となる。今回得られた情報をもとに必要なコーパスを整備するとともに, 新たな解析器も活用しつつ, 通時コーパスのための形態素解析を行っていきたい.

## 謝 辞

本研究は 2009～2012 年に行われた国立国語研究所の共同研究プロジェクト（統計と機械学習による日本語史研究）による研究成果の一部である.

## 参考文献

伝康晴, 小木曽智信, 小椋秀樹, 山田篤, 峯松信明, 内元清貴, 小磯花絵 (2007). コーパス日本語学のための言語資源一形態素解析用電子化辞書の開発とその応用（特集コーパス日本語学の射程). 日本語科学, 22, pp. 101-123.

Den, Y., Nakamura, J., Ogiso, T., and Ogura, H. (2008). "A proper approach to Japanese morphological analysis: Dictionary, model, and evaluation." In Proceedings of the 6th Language Resources and Evaluation Conference (LREC 2008), Marrakech, Morocco, pp. 1019-1024.

国立国語研究所 (2011). 現代日本語書き言葉均衡コーパス.

近藤泰弘 (2009). 古典語・古典文学研究における言語処理, pp. 472-473. 共立出版.

近藤泰弘 (2012). 日本語通時コーパスの設計. NINJAL「通時コーパス」プロジェクト・Oxford VSARPS プロジェクト合同シンポジウム通時コーパスと日本語史研究予稿集, pp. 1-10.

Kudo, T., Yamamoto, K., and Matsumoto, Y. (2004). "Applying conditional random fields to Japanese morphological analysis." In Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing , Barcelona, Spain., pp. 230-237.

Lafferty, J. D., McCallum, A., and Pereira, F. C. N. (2001). "Conditional random fields: Probabilistic models for segmenting and labeling sequence data." In Proceedings of the 18th International Conference on Machine Learning, Williamstown, MA., pp. 282-289.

村上征勝 (2004). シェークスピアは誰ですか?一計量文献学の世界. 文春新書.

小木曽智信 (2011). 通時コーパスの構築に向けた古文用形態素解析辞書の開発. 情報処理学会研究報告人文科学とコンピュータ, 2011-CH-92 (6), pp. 1-4.
小椋秀樹, 須永哲矢 (2012). 中古和文 UniDic 短単位規程集（科研費基盤研究 (C) 課題番号 21520492 「和文系資料を対象とした形態素解析辞書の開発」研究成果報告書 2）. 国立国語研究所.

山元啓史 (2007). 和歌のための品詞タグづけシステム. 日本語の研究, $\mathbf{3}$ (22), pp. 33-39.

山本靖, 松本裕治 (1996). 日本語形態素解析システム JUMAN による古文の形態素解析とその応用. 情報処理語学文学研究会第 19 回研究発表大会要旨.

安武満佐子, 吉村賢治, 首藤公昭 (1995). 古文の形態素解析システム. 福岡大学工学集報, 54, pp. 157-165.

## 略歴

小木曽智信：1995 年東京大学文学部日本語日本文学 (国語学) 専修課程卒. 1997 年東京大学大学院人文社会系研究科日本文化研究専攻修士課程修了. 2001 年同博士課程中途退学. 修士 (文学). 2001 年より明海大学講師. 2006 年より独立行政法人国立国語研究所研究員を経て，2009年より人間文化研究機構国立国語研究所准教授, 現在に至る. 現在, 社会人学生として奈良先端科学技術大学院大学情報科学研究科博士後期課程に在学中. 専門は日本語学, 自然言語処理. 言語処理学会, 日本語学会, 情報処理学会各会員.

小町守：2005 年東京大学教養学部基礎科学科科学史・科学哲学分科卒. 2007 年奈良先端科学技術大学院大学情報科学研究科博士前期課程修了. 2008 年より日本学術振興会特別研究員 (DC2) を経て, 2010 年博士後期課程修了. 博士 (工学). 同研究科助教を経て, 現在, 首都大学東京システムデザイン学部准教授. 大規模なコーパスを用いた意味解析および統計的自然言語処理に関心がある. 言語処理学会, 人工知能学会, 情報処理学会, ACL 各会員.

松本裕治：1977 年京都大学工学部情報工学科卒. 1979 年同大学大学院工学研究科修士課程情報工学専攻修了. 同年電子技術総合研究所入所. 1984 85 年英国インペリアルカレッジ客員研究員. 1985～87 年財団法人新世代コンピュータ技術開発機構に出向. 京都大学助教授を経て, 1993 年より奈良先端科学技術大学院大学教授, 現在に至る. 工学博士. 専門は自然言語処理. 計量国語学会, 言語処理学会, 情報処理学会, 人工知能学会, 認知科学会, AAAI, ACL, ACM 各会員. 情報処理学会フェロー. ACL Fellow.


# 情報信憑性判断支援のための対話型調停要約生成手法

渋木 英潔 $\dagger$ ・永井 隆広 ${ }^{\dagger} \cdot$ 中野 正宽 $\dagger$ ・石下 円香 $\dagger \cdot$
松本 拓也呫・森辰則 $\dagger$
}

我々は，Web 上の情報信憑性判断を支援するための技術として，調停要約の自動生成に関する研究を行っている。調停要約とは，一見すると互いに対立しているよう にみえる二つの言明の組が実際にはある条件や状況の下で両立できる場合に，両立可能となる状況を簡潔に説明している文章を Web 文書から見つける要約である。し かしながら, 対立しているようにみえる言明の組は一般に複数存在するため, 利用者がどの言明の組を調停要約の対象としているのかを明らかにする必要がある．本論文では，利用者が調停要約の対象となる言明の組を対話的に明確化した状況下で 調停要約を生成できるように改善した手法を提案する。また, 提案手法は, 従来の 調停要約生成手法に, 逆接, 限定, 結論などの手掛かり表現が含まれる位置と, 調停要約に不要な文の数を考慮することで精度の向上を図る。調停要約コーパスを用 いた実験の結果, 従来手法と比較して, 調停要約として出力されたパッセージの上位 10 件の適合率が 0.050 から 0.231 に向上したことを確認した.

キーワード：調停要約, 情報信憑性, 対話型要約, パッセージ抽出, Web 文書
## Interactive Method for Generation of Mediatory Summary to Verify Credibility of Web Information

\author{
Hideyuki Shibuki ${ }^{\dagger}$, Takahiro Nagai $^{\dagger \dagger}$, Masahiro Nakano ${ }^{\dagger \dagger}$, Madoka Ishioroshi ${ }^{\dagger}$, \\ Takuya Matsumoto ${ }^{\dagger \dagger}$ and Tatsunori Mori ${ }^{\dagger}$
}

We have been studying automatic generation of a mediatory summary for facilitating users in assessing the credibility of information on the Web. A mediatory summary is a brief description extracted from relevant Web documents in situations where a pair of statements that appear to contradict each other at first glance can actually coexist under a certain situation. In general, because there are several such pairs, users should clarify the pair whose credibility they are assessing. In this paper, we propose an interactive method for generating a mediatory summary in which users specify the pair of statements they are interested in assessing. Furthermore, we attempt to improve the method in terms of both precision and recall by introducing the position of key expressions such as adversative conjunctions, conditional expressions, and conclusive conjunctions and the number of sentences that are not useful for the mediatory summary. Results of the analysis performed using the mediatory

summary corpus indicate that the proposed method achieved a precision of 0.231 for the generated summaries ranked in the top 10, while the previous method (Shibuki et al. 2011a) achieved a precision of 0.050 .

Key Words: mediatory summary, information credibility, interactive summarization, passage extraction, Web documents

## 1 はじめに

Web 上には出所が不確かな情報や利用者に不利益をもたらす情報などが存在するため，信頼できる情報を利用者が容易に得るための技術に対する要望が高まっている。しかしながら, 情報の内容の真偽や正確性を自動的に検証することは困難であるため，我々は，情報の信憑性は利用者が最終的に判断すべきであると考え，そのような利用者の信憑性判断を支援する技術の実現に向けた研究を行っている.

現在, ある情報の信憑性を Webのみを情報源として判断しようとした場合, Web 検索エンジンにより上位にランキングされた文書集合を読んで判断することが多い. しかしながら，例えば，「ディーゼル車は環境に良いか？」というクエリで検索された文書集合には，「ディーゼル車は環境に良い」と主張する文書と「ディーゼル車は環境に悪い」と主張する文書の両方が含まれている場合があり，その対立関係をどのように読み解くべきかに関する手がかりを検索エンジンは示さない.ここでの対立関係の読み解き方とは, 例えば, 一方の内容が間違っているのか, それとも，両方の内容が正しく両立できるのか，といった点に関する可能性の示唆であり，もしも両立できるのであれば，何故対立しているようにみえるのかに関する解説を提示することである.

互いに対立しているようにみえる関係の中には, 一方が本当でもう一方が嘘であるという真に対立している関係も存在するが，互いが前提とする視点や観点が異なるために対立しているようにみえる関係も存在する。例えば,「ディーゼル車は環境に良い」と主張する文書を精読すると $\left.\lceil\mathrm{CO}_{2}\right.$ の排出量が少ないので環境に良い」という文脈で述べられており，「ディーゼル車は環境に悪い」と主張する文書を精読すると「 $\mathrm{NO}_{\mathrm{x}}$ の排出量が多いので環境に悪い」という文脈で述べられている。この場合, 前者は「地球温暖化」という観点から環境の良し悪しを述べているのに対して，後者は「大気污染」という観点から述べており，互いの主張を否定する関係ではない。つまり，前提となる環境を明確にしない限り「ディーゼル車は環境に良いか？」というクエリが真偽を回答できるような問いではないことを示しており，「あなたが想定している 『環境』が地球温暖化を指しているなら環境に良いが，大気污染を指しているならば環境に悪い」 といった回答が，この例では適切であろう，我々は，このような一見対立しているようにみえるが，実際はある条件や状況の下で互いの内容が両立できる関係を疑似対立と定義し, 疑似対
立を読み解くための手掛かりとなる簡潔な文章を提示することで利用者の信憑性判断を支援することを目的としている.

ところで, Web 上には, こういった疑似対立に対して, 「ディーゼル車は二酸化炭素の排出量が少ないので地球温暖化の面では環境に良いが，粒子状物質や窒素酸化物の排出量が多いので大気污染の面では環境に悪い。環境に良いか悪いかは想定している環境の種類による.」といった第三者視点から解説した文章が少数ながら存在していることがある. このような文章を, Web 文書中から抽出，整理して利用者に提示することができれば，上述の回答例と同様に「環境の種類を明確にしない限り単純に真偽を判断できない」ということを気付かせることができ，利用者の信憑性判断を支援することができる。我々は，この疑似対立を読み解くための手掛かりとなる簡潔な文章を調停要約と定義し, 利用者が信憑性を判断したい言明 ${ }^{1}$ (以降，着目言明） が入力された場合に，着目言明の疑似対立に関する調停要約を生成するための手法を提案している (渋木, 中野, 石下, 永井, 森 2011a; 中野, 渋木, 宮崎, 石下, 金子, 永井, 森 2011; 石下，渋木，中野，宮崎，永井，森 2011; Shibuki, Nagai, Nakano, Miyazaki, Ishioroshi, and Mori 2010; Kaneko, Shibuki, Nakano, Miyazaki, Ishioroshi, and Morii 2009; 渋木, 中野, 宮崎, 石下,永井, 森 2011b). なお, Kaneko et al. (2009) において, 調停要約には, 一つのパッセージで両立可能となる状況を明示的に説明する直接調停要約と, 状況の一部を説明するパッセージを複数組み合わせて状況の全体を暗に示す間接調停要約の 2 種類が定義されているが, 本論文では直接調停要約を対象としており，以後，直接調停要約を単に調停要約と記す。

調停要約の生成は，調停という性質上，対立関係にある 2 言明の存在を前提として行われる.中野らの手法 (中野他 2011) では, 着目言明と対立関係にある言明を見つけるために, 着目言明中の単語を対義語で置換したり，用言を否定形にしたりすることで，対立言明を自動的に生成している。また, 石下らの手法 (石下他 2011) では, 言論マップ (Murakami, Nichols, Mizuno, Watanabe, Masuda, Goto, Ohki, Sao, Matsuyoshi, Inui, and Matsumoto 2010)を利用することで対立言明を見つけている。しかしながら，検索された文書集合には，「ディーゼル車は環境に良いvs. ディーゼル車は環境に悪い」といった, 着目言明を直截的に否定する対立点以外にも，例えば「ディーゼル車は黒煙を出す vs. ディーゼル車は黒煙を出さない」といった, 異なる幾つかの対立点が存在することがあり，中野らや石下らによる従来の調停要約生成手法では，どの対立点に関する調停要約であるかを明示せずに調停要約を生成していた。利用者が信憑性を判断したい対立点（焦点）であることを明確にした調停要約でなければ真に利用者の役には立たないと考えられる。それゆえ, この問題を解決するために, 我々は, 最初に検索された文書集合を利用者に提示し，それを読んだ利用者が焦点とする対立関係にある 2 文を明示した後に調

停要約を生成するという対話的なアプローチを解決策の一つとして採ることとした.

以上の背景から，本論文では，利用者が対立の焦点となる 2 文を対話的に明確化した状況下で調停要約を生成する手法を提案する。また, 調停要約生成の精度を向上させるために, 逆接,限定，結論などの手掛かり表現が含まれる位置と，調停要約に不要な文の数を考慮した新しいスコアリングの式を導入し，従来の調停要約生成手法と比較した結果について考察する。さらに，以下の理由から，利用者が焦点とする 2 文を明確化する方法に関しても考察する．利用者が焦点とする 2 文を明確化する方法として，以下の 2 つの方法が考えられる。一つは，利用者が自ら焦点とする 2 文を生成する方法であり，もう一つは，提示された文書集合から，焦点とする 2 文に相当する記述を抽出する方法である．前者の方法が利用者の焦点をより正確に反映できると考えられるが，明確化に要する利用者の負担を軽減するという観点からは後者の方法が望ましい，従って，焦点とする 2 文を明確化する方法として，どちらの方法が適しているかに関しても実験を行い考察する。

本論文の構成は以下の通りである。まず， 2 章で関連研究について述べる。 3 章で調停要約生成における基本的な考え方を説明する．4 章で提案する対話型調停要約生成手法を述べる． 5 章で本論文の実験で用いる調停要約コーパスに関して説明する。 6 章で従来の調停要約生成手法との比較実験を行い，その結果について考察する．また，焦点とする 2 文を明確化する方法に関しても考察する。最後に 7 章で本論文のまとめを行う.

## 2 関連研究

## 2.1 情報信憑性判断支援における調停要約の位置づけ

利用者の情報信憑性判断を支援する技術には幾つかのアプローチが考えられる．まず，利用者が着目する話題や言明に関連する Web 文書に対して, 対立の構図や根拠関係などを多角的に俯瞰することを支援する技術がある. Akamine et al. (Akamine, Kawahara, Kato, Nakagawa, LeonSuematsu, Kawada, Inui, Kurohashi, and Kidawara 2010; Akamine, Kawahara, Kato, Nakagawa, Inui, Kurohashi, and Kidawara 2009)は, 利用者が入力した分析対象トピックに関連する Webペー ジに対して, 主要・対立表現を俯瞰的に提示するシステム WISDOMを開発している. Murakami et al. (2010)は, Web 上に存在するさまざまなテキスト情報について, それらの間に暗に示されている同意, 対立, 弱い対立, 根拠などの意味的関係を解析する言論マップの生成課題を論じている. 藤井 (2008) は, Web 上の主観情報を集約し, 賛否両論が対立する構図を論点に基づいて可視化している. Akamine et al. (2010, 2009) や Murakami et al. (2010) や藤井 (2008)の手法では，対立関係にある記述を網羅的に提示することに焦点があり，提示された対立関係の読み解き方に関しては対象としていない。対立関係の把握が容易になるような要約を利用者に提示できれば，着目言明に関連する話題や言明群の全体像が把握しやすくなると考えられる.
山本ら (山本, 田中 2010) は, 分析対象となる Web 情報とその関連情報をデータ対で表現し, データ対間のサポート関係を分析することでWeb 情報の信恣性を評価する汎用的なモデルを提案している。これは，対象データ対をサポートする関係にあるデータ対が多く存在するほど対象デー夕対の信憑性が高まる，という仮説に基づいている，しかしながら，Web上には，ある特殊な条件や状況下でのみ真実となるような内容に言及している記述も存在しており，そのような記述は，おそらく一般論を述べているであらう多数の記述からサポートされるとは限らない，調停要約は，一見すると矛盾するような情報が，ある条件や状況の下では成立する場合があることを利用者に示すことを目的としており，我々は，そういった特殊な条件や状況があることを示すことも利用者の信憑性判断を支援する上で必要であると考えている.

Finn et al. (Finn, Kushmerick, and Smyth 2001)は, Web 上の新聞記事を対象として, コラ么等の主観的な記事と事実を伝える客観的な記事に分類する研究を行っている。また，松本ら (松本, 小西, 高木, 小山, 三宅, 伊東 2009) は, 文末表現を用いて, Webぺージが主観と客観のどちらの情報を中心として構成されているかを推定する研究を行っている．好悪といった主観に依存する言明間の対立関係の場合，互いの内容は両立することができるため，主観的であるか否かの情報は対立関係の読み解き方に役立つと考えられる。しかしながら，ディーゼル車の例のように客観的な内容の対立関係においても疑似対立となる場合があり，客観的な内容の疑似対立となる場合の読み解き方を調停要約は対象としている.

他にも，利用者が着目する言明に対する Web 上の意見の変遷と意見が変わった要因を提示する河合らの研究 (河合, 岡嶋, 中澤 2007), Web ページのレイアウト情報を利用して情報発信者の名称を抽出する Miyazaki et al. の研究 (Miyazaki, Momose, Shibuki, and Mori 2009), Web ページの情報発信構成の考え方に基づいて情報発信者の同定を行う加藤らの研究 (加藤, 河原,乾, 黒橋, 柴田 2010) 等がある. 河合ら (河合他 2007) や Miyazaki et al. (2009) や加藤ら (加藤他 2010)の研究は，発信された情報の内容ではなく，「いつ」「誰が」発信したかといった面から利用者の判断を支援するアプローチを取っている．したがって，調停要約の元文書の情報発信者を提示することで，さらに利用者への支援が容易になると考えられる。

## 2.2 従来の要約手法との比較

調停要約は，複数文書を対象とした抜粋型の報知的要約の一つである。その中でも，橋本ら (橋本, 奥村, 島津 2001) の研究のような, 要約対象文書群から「まとめ文章」を取り出すことにより要約する手法に属する。橋本ら (橋本他 2001) は，新聞記事を対象にしており，複数文書の記述内容に齯䶣があることは想定せずに，複数記事の内容をそのまままとめることが目的である。一方で調停要約では，まず，様々な立場の人物や組織が互いに対立した主張をしているようにみえる記述を含む文書集合を要約対象にしている点が異なる. さらに, 得られる要約の中に，疑似対立とその読み解き方が含められるようにすることで，情報信憑性の判断に寄与

することを目的としている。

利用者の知りたい事柄に焦点を当てて要約する手法としては, Tombros and Sandersoni (1998) の提案する Query-biased summarization がある。これは文書検索結果に対する要約を行なう場合に，利用者が文書検索に用いたキーワードの重要度を高くして重要文抽出を行なうものである。また，利用者が質問文を与えた場合にそれを考慮した要約を提示する研究もあり，平尾ら (平尾，佐々木，磯崎 2001)の質問が問うている事物の種類の情報を用いる手法や, Mori et al. (Mori, Nozawa, and Asada 2005)の質問文により焦点が与えられた場合に QA エンジンを用いて要約を行う手法などが提案されている。従来の調停要約生成手法においても, 利用者から与えられた着目言明に基づいて要約を生成しており，Query-biased summarization の一種であるといえる. 平尾ら (平尾他 2001) や Mori et al. (2005)の手法では, 処理の直前に 1 回だけ利用者の興味が入力され, それに対する要約を提示した時点で処理は完結する。一方, 提案する対話型調停要約生成手法では，着目言明に基づいて提示された文書群に対して利用者が対立の焦点となる 2 文を明示することで，さらに利用者が信憑性を判断したい対立点に焦点を当てた調停要約を提示することができる.

酒井ら (酒井, 増山 2006) は, 利用者の要約要求を反映した要約を生成するために, 利用者とのインタラクションを導入した複数文書要約システムを提案している. 酒井ら (酒井, 増山 2006)のシステムでは，システムが要約対象文書集合から自動的に抽出したキーワードの中から, 利用者が要約要求と関連するキーワードを選択するという方法で利用者とのインタラクションを実現しているが，我々のシステムでは，提示された文書集合に対して利用者が対立関係にある任意の 2 文を直接選択することを想定している。キーワードではなく文によるインタラクションを行う理由として, キーワードとの関連性だけでは適切な調停要約の生成が不十分となることがあげられる，例えば，「ディーゼル車は黒煙を出す」ことに関する事例や根拠のみが書かれた記述は,「ディーゼル車」,「黒煙」,「出す」といったキーワードとの関連性が高くなると考えられる。しかしながら，そのような記述は，利用者が「ディーゼル車は黒煙を出す」という言明の信憑性を判断する材料として不十分である。利用者が正しい判断をできるようにするためには，対立関係にある「ディーゼル車は黒煙を出さない」ことに関する事例や根拠，黒煙を出す場合と出さない場合とが両立できる状況も示す必要がある．したがって，調停要約の生成には，命題レベルでの対立関係を扱う必要があり，利用者が文書集合中の任意の 2 文を直接選択することで，利用者が焦点とする対立点を明確化することとした。

システムが提示したテキストに利用者が直接操作を加えることで, 直観的かつ簡単に利用者が必要とする情報を要求するという対話的な要約生成手法としては, 村田ら (村田, 森 2007) の手法がある，村田ら（村田，森 2007) は, Scatter/Gather 法 (Cutting, Karger, Pedersen, and Tukey 1992)を要約提示の観点から捉え直す事により，提示した要約文章そのものに対し利用者が操作を行ない，それによって利用者の興味を反映した新たな要約を提示する手法を提案し

図 1 対話的アプローチにおける調停要約の生成例

ている。提案手法も同様の考え方に基づいており，提示された文章群の中で信憑性を判断したい対立関係にある 2 文を利用者がマウス操作等により明確化するという操作を行うことで，利用者が焦点とする対立関係を反映した調停要約を生成する。

## 2.3 質問応答システムとの比較

利用者が入力したクエリに対して簡潔な文章を出力するという枠組みは, Non-Factoid 型の質問応答システム (Fukumoto, Kato, Masui, and Mori 2007) と類似している。質問応答として捉えると，着目言明を入力としてその真偽を問う Yes/No 型の質問応答となることが考えられるが，調停要約の場合には，単純に Yes/No で回答できる質問ではないということを気付かせる文章を出力するという点で質問応答の考え方とは異なっている。したがって, 質問応答システムにおいて Yes と Noの両方の解が得られるような場合に調停要約を提示するといった利用が考えられるが，本論文では，質問応答システムとの連携は今後の課題として，単純に Yes/No では回答できない質問が入力されることを前提としている。

## 3 調停要約

## 3.1 目標とアプローチ

利用者が「朝バナナダイエットでダイエットできる」という言明に着目してその真偽を調べたい場合の, 我々が目標とする調停要約と調停要約を対話的に生成する流れの例を図 1 に示す. まず，利用者が着目言明である「朝バナナダイエットでダイエットできる」を入力し，システムは着目言明に関連する Web 文書集合を提示する。提示された文書集合中には，「バナナは高い栄養価なのに低カロリーの果物で, 腹持ちに優れているのが特徴です.」という着目言明に肯
定的な内容の記述と，「バナナは果物の中では水分が少ないためカロリーは高めです.」という否定的な内容の記述が存在しており，バナナのもつカロリーに関して互いに対立関係にあるようにみえる，そのため，利用者はこの 2 文を選択することで，バナナのカロリーが対立の焦点であることをシステムに伝え，システムは，バナナのカロリーに関する調停要約を生成し出力する．Web上には，ある対立関係について，それらが両立可能であることを示した記述が存在していることがあり，そのような記述をパッセージ単位で抜粋して提示するというのが調停要約の基本的な考え方である。なお，本論文では，文書中の一つ以上の文の連続をパッセージと定義する。

この例では，バナナのもつカロリーに関しての疑似対立と調停要約が示されているが，着目言明に関連する疑似対立は一つとは限らない2ため，それぞれの疑似対立に対応する調停要約を利用者に提示することが前提となる。しかしながら，それらの調停要約を疑似対立ごとに明示的に区別せずに提示してしまうと，利用者が焦点とする疑似対立以外の調停要約が，焦点とする疑似対立に対する利用者の判断を妨げてしまう恐れがある。それゆえ，本論文では，最初に利用者に文書集合を提示し，文書集合中で互いに矛盾しているようにみえる 2 文を利用者が選択した後に調停要約を生成するという対話的なアプローチを採ることで，利用者が焦点とする疑似対立に適合した調停要約を提示できると考えた.

なお，利用者に提示される文書集合から，互いに矛盾しているようにみえる 2 文が実際に選択できるかどうか，12の着目言明 3 を対象として以下の予備調査を行った. 予備調査は, 情報工学を専攻する大学生 5 名を対象として行い, 着目言明をクエリとして Google 4 を用いて検索されたタイトルとスニペットを上位から順に読んでもらい，互いに矛盾しているようにみえる 2 文を選択させた，選択された 2 文がそれぞれ何位の検索結果に記述されていたかを調査し，両方の文が選択された時点の順位，すなわち下位の方の順位を平均した結果， 15.6 位となり，殆どの場合， 20 位までのタイトルとスニペットを読むと，その中から互いに矛盾しているようにみえる 2 文を選択できたことを確認した．たたし，本研究の目的は利用者の信憑性判断を支援することであるため，最初に提示された文書集合を読んで，利用者の観点から互いに矛盾しているような記述がないならば，調停要約を生成する必要はないと考えている。また，互いに矛盾しているようにみえる 2 文が疑似対立であるかどうかの最終的な判断も利用者が行うべきであると考えており，調停要約生成システムでは選択された 2 文が疑似対立にあるものと仮定して生成した調停要約を提示することとした.
^{3} 6$ 節の実験で用いた 6 言明と, 中野ら (中野他 2011) の実験 A で用いた 6 言明の計 12 言明である.

 }^{4}$ http://www.google.co.jp/

## 3.2 調停要約の特徵

我々がこれまで人手で作成した調停要約を分析した結果, 調停要約として適切な記述には以下の三つの特徴があることが分かっている，第一の特徵は, 着目言明や, 焦点とする疑似対立との関連性が高いことである。第二の特徴は, 公平性が高い, すなわち, 着目言明を肯定する意見や根拠等と否定する意見や根拠等の両方に等しく言及していることである. 調停要約は, 疑似対立を読み解くための手掛かりとなる記述であるので，肯定側と否定側の双方の主張が含まれるパッセージはより適切であると考えられる。第三の特徴は, 要約としての簡潔性が高いことである。 ここでの簡潔性とは，単純に短く記述されているというだけはなく，利用者の信憑性判断を支援するための材料を端的に示しているという意味も含んでいる. したがって, 我々は，あるパッセージの関連性，公平性，簡潔性の度合いを計算することで，そのパッセージが調停要約として適切であるかどうかを判断できると考えた。

## 3.3 焦点となる 2 文を明確化した状況下での調停要約生成タスク

焦点となる 2 文が明確化した状況下での調停要約生成タスクでは, 入力として, 着目言明と,文書集合中の焦点となる疑似対立にある 2 文が利用者により与えられるものとする。通常の要約生成タスクでは, 入力として要約対象となる文書集合が与えられるが, 調停要約生成タスクでは, 着目言明の真偽判断の材料となる文書を収集することもタスクの一部であると考えている. そのため, 与えられた着目言明や焦点とする 2 文に関連した文書群を Web 上から検索して, 要約対象とする必要がある。本論文では，最初に着目言明で検索された文書集合を利用者に提示してから，それを読んだ利用者が焦点とする対立関係にある 2 文を明示した後に調停要約を生成するというアプローチを採ることから, 着目言明をクエリとして検索した文書集合を要約対象文書集合とすることとした，また，出力として，着目言明のトピックにおける焦点となる疑似対立の読み解き方の手掛かりを示すパッセージ群を抜粋して提示する.

## 4 提案手法

## 4.1 提案手法の概要

我々は, 3.2 節で述べた関連性, 公平性, 簡潔性の 3 つの特徴をもつパッセージを調停要約として抽出するために, 以下の 4 種類の特徵語と 3 種類の手掛かり表現に基づく手法を提案する.

まず，関連性に関する特徴量を，着目言明のトピックとの関連度と，焦点とする疑似対立との関連度に細分化し, それぞれの値を求めるために, トピック特徵語と焦点特徴語という 2 種類の特徴語を定義する. 従来手法 (渋木他 2011a; 中野他 2011; Shibuki et al. 2010) では, トピック特徴語のみを関連性の尺度として用いていたが，焦点とする疑似対立との関連性が低いパッセージも調停要約として出力されてしまうことがあった. それゆえ, 利用者が焦点とする
疑似対立への関連度をより確実に判断するため，焦点特徵語の概念を導入することとした．例えば，図1の「朝バナナダイエットでダイエットできる」という着目言明において「バナナは低カロリーで満腹感がありますvs. バナナは果物の中では水分が少ないためカロリーは高めです」 という疑似対立が焦点である場合, トピック特徴語は「バナナ」, 焦点特徴語は「カロリー」となり，「バナナ」というトピックの中の「カロリー」の高低に焦点があることを考慮して処理できるようにした。

次に，公平性に関する特徴量を, 語彙的な観点と構造的な観点の両方から求めることとし, 語彙的な観点からの特徴量を求めるために, 肯定側特徵語と否定側特徴語という 2 種類の特徴語を，構造的な観点からの特徵量を求めるために，逆接表現と限定表現の 2 種類の手掛かり表現をそれぞれ定義する，従来手法では，着目言明を肯定または否定する意見や根拠等に現れやすい単語を肯定側特徴語および否定側特徴語として定義し, 要約対象となる文書集合から統計的偏りに基づいて抽出していたが，提案手法では，焦点となる対立関係にある 2 文が与えられることから， 2 文の一方にのみ現れる単語を肯定側特徴語および否定側特徴語として定義して用いることとする。図 1 の例であれば「低い」と「高い」が肯定側特徴語と否定側特徴語となる. また, これらの肯定側特徴語と否定側特徴語が調停要約の中でどのような構造を伴って現れるかを考えた場合「ご飯やケーキよりは低いがオレンジやグレープフルーツよりは高い」といったように対比構造を伴っていることが多いと考えられる。そこで，対比構造を見つける手掛かり表現として，「しかし」などの逆接表現と「○○の場合に限り」などの限定表現を用いることとした.しかしながら, 例えば, 冒頭が「しかし」から始まるようなパッセージであった場合, その前の文脈が不明であるため逆接としての意味をなさない。それゆえ，パッセージ中に現れる位置を考慮して, これらの手掛かり表現を用いることとした。

最後に，簡潔性に関する特徵量を求めるための手掛かり表現として結論表現を定義する．従来手法で生成された調停要約の中には，「バナナ $84 \mathrm{kcal}$, オレンジ $24 \mathrm{kcal}$, ご飯 $168 \mathrm{kcal}$ のように，「ご飯やケーキよりは低いがオレンジやグレープフルーツよりは高い」といった結論を理解した上で読まないと何を主張している文章なのか理解が困難なパッセージが存在していた.提案手法では，主張が明確に述べられているかどうかを求めるために，「つまり」や「結論として」などの結論を導く表現を手掛かりとし，このような表現を結論表現と定義して用いることとした。また，パッセージ中に信憑性判断支援に寄与しない記述，例えば，商品一覧やリンク集といった名詞のリストや「TOPへ戻る」などのサイト内機能を表す文字列などが含まれていると, 可読性の低下と共に利用者の理解を妨げてしまうことから, そのような不要な記述を含まないことも簡潔性を計算する上で必要な因子であると考えられる.

本来であれば, トピック特徴語, 焦点特徴語, 肯定側特徴語, 否定側特徴語の 4 種類全ての特徴語を全て含み，逆接表現，限定表現，結論表現の 3 種類の手掛かり表現を全てパッセージ中の適切な位置に含み, 調停要約に不要な記述を一切含まないパッセージが調停要約として理

図 2 提案手法の全体の流れ

想である。しかしながら，上記の因子を全て含むパッセージが要約対象文書集合中に存在する可能性は低いと思われる。また, 全ての因子を含まなくとも調停要約として適切なパッセージが存在することがある，従って，提案手法では，全ての因子を含むパッセージが存在しない場合でも，可能な限り多くの因子を含むパッセージを上位にランキングできるようにする． 4.2 節で提案手法の全体の流れを述べた後, 4.3 節で特徵語の抽出方法を, 4.4 節で各因子の定式化とパッセージのスコア付けの方法を説明する.

## 4.2 全体の流れ

提案手法の全体の流れを図 2 に示す。利用者は最初に「ディーゼル車は環境に良い」といった着目言明を入力し，システムは着目言明をクエリとして検索したWeb 文書集合を利用者に提示する。利用者は提示された文書集合を読み，互いに矛盾しているように見えるために信憑性が疑わしく思える 2 文をマウス操作等によりマーキングする。ここで，マーキングされた 2 文の内，利用者が着目言明の内容を肯定する記述としてマーキングした方を肯定側記述，否定する記述としてマーキングした方を否定側記述と定義する ${ }^{5}$. システムは，着目言明，肯定側記述，否定側記述を基に，トピック特徴語，焦点特徴語，肯定側特徴語，否定側特徴語の 4 種類の特徵語を抽出する。その後, 抽出された特徴語と, 逆接表現, 限定表現, 結論表現といった手掛かり表現を用いて，調停要約としての適切性を示すスコアを計算し，検索された文書集合を対象に，調停要約として適切なパッセージを抽出する。最後に，抽出されたパッセージをスコア順にランキングして利用者に提示する.

図 3 特徵語抽出の流扎

従来の調停要約生成手法では, 肯定側特徴語と否定側特徵語を抽出するために, 対義語辞書や用言の否定形を用いて着目言明の対立言明を自動生成し，その対立言明により検索された Web 文書集合を利用していた。しかしながら, 自動生成された対立言明の精度の問題や, 対立言明で検索される文書が存在しないといった問題があった. 提案手法では, 利用者が肯定側記述と否定側記述を直接マーキングするため, このような問題を回避することができる.

また，利用者が直接マーキングすることは，調停要約の前提である，信憑性を判断したい対立点を利用者に認識させる効果がある。 さらに, システムの要約生成においても, 着目言明に加えて参照できる情報が増えることから精度向上につながると考えられる。しかしながら, 検索文書中のテキストに利用者が直接マーキングすることに対して，以下の問題も懸念される。本来, 調停要約の生成において必要な情報は,「ディーゼル車は黒煙を出すvs. ディーゼル車は黒煙を出さない」といった構文レベルで明瞭な対比構造をもった 2 文であるが, そのような対比構造が肯定側記述と否定側記述の間に必ずしも存在するとは限らない. また, 対比構造以外の部分に含まれる語句が精度に悪影響を及ぼす可能性もある． 6 節では, この点を調査する実験を行う。

## 4.3 特徵語の抽出

利用者により入力された着目言明，肯定側記述，否定側記述を用いて特徵語の抽出を行う.着目言明が「ディーゼル車は環境に良い」, 肯定側記述が「ディーゼル車は黒煙を出さない」,否定側記述が「ディーゼル車は黒煙を出す」とした場合の特徴語の抽出の流れを図 3 に示す.最初に， MeCab 6 を用いて，着目言明，肯定側記述，否定側記述の形態素解析を行い，それぞれに含まれる内容語を抽出する。本論文では，以下の 3 つの条件を満たす語を内容語と定義した. (1) 品詞が, '名詞', ‘動詞', '形容詞'のいずれかであり, (2) 品詞細分類 1 が, ‘非自立', ‘接
^{6}$ http://mecab.sourceforge.net/
}
尾', '数’, '代名詞', ‘特殊’, ‘副詞可能’以外であり, (3) 原形が‘する’, ‘なる’, ‘できる’, ‘ある’, ‘いる', 'ない’以外の単語である。 内容語を抽出した後, 各内容語が存在する文節内に存在する 「不」などの接頭辞や「ない」などの助動詞により, 否定の意味で用いられているかどうかも判断する7. 次に, 抽出された肯定側記述の内容語と否定側記述の内容語を比較して, 差分となる内容語（「出さない」と「出す」）をそれぞれ肯定側特徴語と否定側特徴語とする. 内容語が同じであるかどうかを判定する際には，分類語彙表 (国立国語研究所 2004)による類義語拡張を行っている. 最後に, 肯定側記述と否定側記述に共通の内容語（「ディーゼル」,「車」,「黒煙」）と着目言明の内容語を比較して, 着目言明に含まれない内容語（「黒煙」）を焦点特徴語とし, 共通の内容語（「ディーゼル」，「車」）をトピック特徴語とする。このようにすることで,「ディー ゼル車」というトピックにおける「黒煙」を「出す」か「出さない」かという対立点を明確に捉えることができると考えられる。

## 4.4 パッセージの抽出とランキング

調停要約となるパッセージの抽出は, 従来手法 (渋木他 2011a; 中野他 2011; Shibuki et al. 2010) と同様に以下の手順で行う。まず，抽出された特徴語を用いて，文単位で調停要約らしさのスコアを計算する。次に，各文のスコアを平滑化した後，平滑化されたスコアに基づいてパッセージの切り出しを行う. 最後に, 切り出されたパッセージ単位で調停要約らしさのスコアを計算し, ランキングする。 ただし, 6 節では, 既に正解パッセージが切り出されている調停要約コーパスを用いて評価することを想定していることから，パッセージ単位でのスコア計算に関してのみ記述する。

調停要約として適切なパッセージには, 4.1 節で述べたように, (a) 全ての種類の特徴語が多く存在し, (b) 逆接, 限定, 結論などの手掛かり表現が適切な位置にあり, (c) 不要な文が存在しない, といった特徴があると考えられるため, これらの特徴に基づいてパッセージのスコアを計算する。まず，各特徴語がパッセージ中にどれだけ多く存在しているかを求めるために， パッセージ $p$ の, トピック特徴語, 焦点特徴語, 肯定側特徴語, 否定側特徴語によるスコアをそれぞれ $s c_{t k}(p), s c_{f k}(p), s c_{p k}(p), s c_{n k}(p)$ とし, 以下の式に従って計算する.

$
\begin{aligned}
& s c_{t k}(p)=\frac{N_{t k}(p)}{T_{t k}}+1 \\
& s c_{f k}(p)=\frac{N_{f k}(p)}{T_{f k}}+1 \\
& s c_{p k}(p)=\frac{N_{p k}(p)}{T_{p k}}+1 \\
& s c_{n k}(p)=\frac{N_{n k}(p)}{T_{n k}}+1
\end{aligned}
$

表 1 逆接表現の一覧

 \\

表 2 限定表現の一覧

$N_{t k}(p), N_{f k}(p), N_{p k}(p), N_{n k}(p)$ はパッセージ $p$ 中に含まれる各特徴語の異なり数であり, $T_{t k}$, $T_{f k}, T_{p k}, T_{n k}$ は抽出された各特徴語の総異なり数である。また，各スコアの值を 1 から 2 の範囲に正規化するために 1 を加えている。

調停要約は，調停という性質上，肯定意見と否定意見の両方に公平に言及していることが求められる。そのような互いに対立する意見に言及する文章では，両方の意見を対比する構造が存在しており，また，対比構造は一般に「しかし」などの逆接表現を伴って書かれることが多い. さらに, 公平性という観点からは, 両方の意見に対して等量の記述があることが望ましい. したがって，逆接表現がパッセージの中央に存在する場合にスコアが高くなるよう，逆接表現によるスコア $s c_{a e}(p)$ を以下の式に従って計算する。

$
s c_{a e}(p)=2-\frac{\left|\frac{1}{2} N_{t s}(p)-F P_{a e}(p)\right|}{\frac{1}{2} N_{t s}(p)}
$

$N_{t s}(p)$ はパッセージ $p$ に含まれる文数であり， $F P_{a e}(p)$ は表 1 に示すいずれかの逆接表現が $p$中で最初に現れた文の位置である。なお, 表中の分類は, MeCabのIPA 辞書の品詞体系に基づいている.

逆接表現を伴わない対比構造の表現方法の一つとして,「但し○○の場合に限る」といった一方の意見を限定する表現により，暗黙の内に対立するもう一方の意見の状況を示す方法がある. また，このような但し書きは文章の最後にあることが多いと考えられる．したがって，限定表現がパッセージの最後に存在する場合にスコアが高くなるよう，限定表現によるスコア $s c_{p e}(p)$ を以下の式に従って計算する。

$
s c_{p e}(p)=\frac{N_{t s}(p)-L P_{p e}(p)}{N_{t s}(p)}+1
$

$L P_{p e}(p)$ は表 2 に示すいずれかの限定表現が $p$ 中で最後に現れた文の位置である.
表 3 結論表現の一覧

信憑性判断を支援するという目的上, 結論部分が明確に記述されていることが求められる. そのような結論部分は，「つまり」や「結論として」といった文章全体を総括する表現により書かれていることが多い. また，利用者の立場からは，唐突に結論たけを示されてもその結論が正しいかどうか判断が困難になると考えられるため, 結論に至る根拠や前提が示されていることが望ましい，したがって，結論表現がパッセージの最後に存在する場合にスコアが高くなるよう，結論表現によるスコア $s c_{c e}(p)$ を以下の式に従って計算する.

$
s c_{c e}(p)=\frac{N_{t s}(p)-L P_{c e}(p)}{N_{t s}(p)}+1
$

$L P_{c e}(p)$ は表 3 に示すいずれかの結論表現が $p$ 中で最後に現れた文の位置である.

調停要約は要約の一種であるため, 重要性や関連性が低い部分を可能な限り省いた文章を提示することが求められる，本論文では，特徴語や手掛かり表現を含んでいない文を不要な文として，不要な文が少ないパッセージほどスコアが高くなるようにした。パッセージ $p$ 中に含まれる不要な文の数を $N_{r s}(p)$ として, 不要な文に関するスコア $s c_{r s}(p)$ を以下の式に従って計算する。

$
s c_{r s}(p)=\frac{N_{t s}(p)-N_{r s}(p)}{N_{t s}(p)}
$

最終的なパッセージ $p$ のスコア $s c(p)$ は以下の式に従って計算する.

$
s c(p)=s c_{t k}(p) \times s c_{f k}(p) \times s c_{p k}(p) \times s c_{n k}(p) \times s c_{a e}(p) \times s c_{p e}(p) \times s c_{c e}(p) \times s c_{r s}(p)
$

各スコアの積を最終的なスコアとすることで, 各特徴語, 手掛かり表現, 不要な文に関する条件を全て満たしているパッセージが上位にランキングされるようにした.

## 5 調停要約コーパス

調停要約コーパスは, 渋木ら (渋木他 $2011 b)$ において, 調停要約の分析及び評価を目的として構築されたコーパスである。調停要約コーパスには，「コラーゲンは肌に良い」，「飲酒は健康に良い」,「炭酸飲料はからだに悪い」,「原発は地震でも安全である」,「車内での携帯電話の

図 4 調停要約コーパス中に収録されている調停要約の例

使用は控えるべきである」，「嘘をつくのは悪いことである」の6つの着目言明に対して，要約対象となる 500 程度の Web 文書集合と，人手で作成した調停要約が収録されている．各着目言明には，「コラーゲンは肌に良いvs. コラーゲンは肌に良いとは限らない」といった着目言明そのものに関する対立点と，「動物性のコラーゲンは良くないvs. 動物性のコラーゲンは良い」や 「コラーゲンは食べると良いvs. コラーゲンは塗ると良い」といった関連する 4 の対立点の計 5 つの対立点が設定されている，各着目言明には 4 名の作業者が割り当てられ，各作業者は対立点ごとに要約対象の Web 文書集合から，肯定側の意見と思われる記述，否定側の意見と思われる記述，調停要約として適切なパッセージのそれぞれの集合を抽出している．渋木ら (渋木他 2011b) は調停要約コーパスの構築作業のために専用の夕グ付けツールを開発しており, 全ての作業をツール上で行うことで, タグ付け労力の軽減とヒューマンエラーの抑制を行っている.

図 4 に, 着目言明「コラーゲンは肌に良い」に対して，ある 1 名の作業者が作成した調停要約の一部を示す。調停要約に関する情報は XML 形式で付与されている．各対立点は $<$ Conflict>夕グにより区切られており，図 4 中のボックスでは 3 番目の対立点が示されている. 各 $<$ Conflict $>$ タグ内には, 一つの <Label>タグ, 複数の $<$ Statement $>$ タグ, 複数の $<$ Mediation $>$ タグが存在

点を表す，人手で作成されたラベルを示している。＜Statement>夕グは, Web 文書から抽出された，肯定側または否定側の意見と思われる記述を示しており，Polarity 属性の值が 'POSITIVE' か 'NEGATIVE' かで肯定側の意見か否定側の意見かを示している. <Statement>夕グの記述は，「コラーゲンドリンクで効いてる実感ってなかったけど，このコラーゲンは高純度っていうだけあってスゴイ」や「コラーゲンには保湿効果があるので，へアパックなどにも用いられることがあります」といったものであり，肯定側と否定側の記述でぺアを作成しても，＜Label>タグの記述のように明膫な対比構造をなすことは殆どない。，<Mediation>タグは， 調停要約として Web 文書から抽出されたパッセージを示している。なお，どの着目言明においても，1番目の

のものに関する対立点となっている。また， 2 番目から 5 番目の対立点以外にも着目言明に関連する対立点は存在しているため，1 番目の対立点の <Mediation>タグの集合が， 2 番目から 5 番目の対立点の $<$ Mediation>タグの和集合と等しくなるわけではない.

## 6 実験

## 6.1 目的と評価方法

本論文では, 以下の 3 点を目的とした実験を行う. 1 点目は, 提案する対話型調停要約生成手法の有効性を確認することである． 2 点目は，利用者が焦点とする 2 文を明確化する方法として，利用者が自ら生成する方法と，提示された文書集合から抽出する方法のどちらが適しているかを考察することである。 3 点目は, パッセージのスコア計算に用いられる各因子が, 調停要約の精度にどの程度寄与しているかを調査することである。

まず, 対話型調停要約生成手法の有効性を確認するために，従来の調停要約生成手法である渋木ら (渋木他 2011a) との比較を第一の実験として行う．次に，焦点とする 2 文を明確化する方法に関してであるが，提案手法における特徵語の抽出は， 4.3 節で述べたように，肯定側記述と否定側記述の間の構文レべルでの対比構造に基づいて行われる。一方，肯定側記述と否定側記述は，4.2節で述べたように，提示された文書集合からマウス操作等により直接マーキングされることを想定しており，構文レベルで明膫な対比構造をもたないと考えられる。それゆえ，第二の実験では，焦点とする 2 文を人手により生成した場合とマーキングの結果に基づき Web 文書から抽出した場合の影響を調查する。また， 4.4 節で述べたように，パッセージのスコアは， トピック特徴語, 焦点特徴語, 肯定側特徴語, 否定側特徴語, 逆接表現, 限定表現, 結論表現,不要な文の 8 種類の因子により計算されている，第三の実験では，これらの各因子が，調停要約の精度にどの程度寄与しているかを調査する.

要約の評価手法として ROUGE (Lin and Hovy 2003) が一般的であるが，N-gram による再現
表 4 着目言明ごとのパッセージ数

度のスコア付けでは肯定側の記述と否定側の記述を区別せず， 3.2 節で述べた公平性を考慮することが困難であるため，調停要約の評価手法として適切ではない，提案手法の中核をなす処理は, 4.4 節に述べたパッセージの抽出とランキングであるため, 正解パッセージと不正解パッセージからなる集合を作成し, 正解パッセージ群を不正解パッセージ群よりも上位にランキングできるかどうかにより手法の評価を行うこととした.

調停要約コーパスから以下の手順で実験データを作成した。まず，＜Mediation>タグの記述集合を正解のパッセージ集合とする。コーパスに収録されているWeb文書には，＜Mediation> タグ以外のパッセージ境界がないため，正解パッセージ集合の平均文字長を計算し，分割したパッセージの平均長が正解パッセージの平均長に近くなるよう，各文書の先頭から平均文字長 - $\alpha$ を超えた文境界で分割する。このとき，＜Mediation>タグを含む文書を分割対象外として，分割されたパッセージ集合を不正解のパッセージ集合とした。正解および不正解のパッセージ集合の中には, 平均文字長との差が極めて大きいものがあるため, 平均文字長 $\pm \alpha$ の範囲にない長さのパッセージを実験データから除外した。平均文字長は 230 であり， $\alpha$ の値は経験則的に 30 とした. 着目言明ごとの総パッセージ数と正解パッセージ数は, 表 4 の総数と正解に示す值となった. 表 4 の値から, 調停要約生成は 7,000 以上のパッセージ中に数十程度しか存在しない正解パッセージを見つけ出すという困難な夕スクであり，また，正解となるパッセージ数は非常に少ないが 0 ではなく, そのようなパッセージを抽出するという提案手法のアプローチに妥当性があるということが言える.

評価指標として適合率と再現率を用いた。調停要約として適切なパッセージは，コーパスに収録されている Web 文書集合から網羅的に抽出しているため, コーパス中の Web 文書を要約対象文書として処理を行うと再現率を計算することができる。 また, 調停要約として適切なパッセー ジ群が可能な限り多く上位にランキングされているか調査するために, $\mathrm{TREC}^{8} や \mathrm{NTCIR}^{9}$ の情報検索タスクで広く用いられている平均精度を用いた。第 $r$ 位の適合率 $\operatorname{Pre}(r)$ と再現率 $\operatorname{Rec}(r)$,
^{9}$ http://research.nii.ac.jp/ntcir/index-ja.html
}
表 5 着目言明ごとの平均精度

表 6 上位 $r$ 件の適合率と再現率

および平均精度 AP は，それぞれ以下の式により計算される。

$
\begin{array}{r}
\operatorname{Pre}(r)=\frac{\operatorname{correct}(r)}{r} \\
\operatorname{Rec}(r)=\frac{\operatorname{correct}(r)}{R} \\
\mathrm{AP}=\frac{1}{R} \sum_{r} I(r) \operatorname{Pre}(r)
\end{array}
$

$R$ は正解パッセージの総数, correct $(r)$ は第 $r$ 位までの出力パッセージに含まれる正解パッセー ジ数, $I(r)$ は第 $r$ 位のパッセージが正解ならば 1 , 不正解ならば 0 を返す関数である.

## 6.2 従来手法との比較実験

利用者が焦点とする 2 文を対話的に明確化した状況下における提案手法の有効性を示すために，本実験と同じ正解データを用いている従来手法 (渋木他 2011a) と比較した結果を表 5 と表 6 にそれぞれ示す. 従来研究 (渋木他 2011a) では, 焦点とする 2 文が不明瞭な状況下で着目言明のみを入力としているため， 1 番目から 5 番目の全ての対立点における $<$ Mediation $>$ タグの記述の和集合を正解データとして評価している。本論文では，提案手法と直截比較するため，対立の観点が明示されている 2 番目から 5 番目までの各対立点における<Mediation>タグの集合を正解データとして適合率，再現率，平均精度を計算し，その値を平均した値を従来手法の評価とした. 同様に，提案手法も 2 番目から 5 番目までの対立点ごとの <Mediation>夕グの集合

を正解データとして評価した後， 4 つの対立点の値を平均している。一方, 入力に関しては, 従来手法が着目言明のみを与えたのに対し, 提案手法は着目言明と焦点となる 2 文を与えている.焦点となる 2 文として，＜Label>タグの記述，または，＜Statement＞タグの記述を用いることが考えられるが，表 5 および表 6 の値は，着目言明と<Label>タグの記述を用いた場合の結果と，着目言明と <Statement>タグの記述を用いた場合の結果を平均した値である。表 5 において，焦点となる 2 文を与える提案手法の方が従来手法よりも全体的に高い値を示している。なお, 着目言明そのものに関する, 第一の対立点の<Label>タグを用いた場合でも，例えば，「コラーゲンは肌に良いとは限らない」といった対立言明が明確になるため,「コラーゲンは肌に良い」という着目言明のみを用いる従来手法よりも提案手法の方が入力される情報量は多くなる.

表 6 の値は全ての着目言明の平均値を示している。表 5 に示すように，正解パッセージ数は数十程度であるため, 達成可能な適合率が必ずしも $100 \%$ になるとは限らない. それゆえ, 表 6 では，正解パッセージをより上位に，より多く出力する方が優れた手法であると考える。従来手法と比較すると, 上位 10 件の適合率が 0.050 から 0.231 に向上しており, 下位まで評価範囲を広げた場合においても全体的に精度の改善が見られる。再現率に関しても, 従来手法では上位 1,000 件において半分に達しなかった再現率が 0.678 に向上しており, 網羅性の点で大きく改善されたと考えられる。

## 6.3 焦点とする 2 文の対比構造が精度に及ぼす影響に関する実験

焦点とする 2 文を人手により生成する場合と Web 文書から抽出する場合の影響を調査するために，＜Label>タグと <Statement>タグを用いて，肯定側記述と否定側記述の入力を以下のように変えた場合の平均精度を求めた。人手により生成する場合の肯定側記述と否定側記述には, <Label>タグの記述を利用することとし, Web 文書から抽出する場合の肯定側記述と否定側記述には, Polarity 属性の值が ‘POSITIVE’と 'NEGATIVE’である＜Statement>タグの記述をそれぞれ利用することとした。例えば，図 4 に示した，着目言明「コラーゲンは肌に良い」における 3 番目の対立点が焦点となる場合，人手により生成する場合の肯定側記述は，＜Label>タグ

ると良い」となり，否定側記述は「コラーゲンは塗ると良い」となる。また，＜Statement>夕グの記述を用いて, Web 文書から抽出する場合の肯定側記述は「コラーゲンドリンクで効いてる実感ってなかったけど, このコラーゲンは高純度っていうだけあってスゴイ」, 否定側記述は 「コラーゲンには保湿効果があるので，へアパックなどにも用いられることがあります」となる.なお, <Statement>タグは複数存在し, 全ての組み合わせを考慮すると膨大な数になるため, ランダムに組み合わせた 5 組を用いて実験を行った.

表 7 に結果を示す. 表 7 の値は, 肯定側記述と否定側記述の組を入力とした時の平均精度の値を，全ての着目言明における全ての対立点について平均したものである. 明瞭な対比構造を
表 7 焦点となる 2 文の違いによる平均精度への影響

もつ，＜Label＞の記述を用いた場合よりも，＜Statement＞タグの記述を用いた方が良いという結果となった.したがって，提示された文書集合から焦点とする 2 文を選択するという対話的なアプローチを採ることが精度の面で問題ないと言える。このような結果になった理由として， まず，抽出される特徴語が増加したことによる焦点の明確化および焦点に関連するパッセージの絞り込みが容易になったことが考えられる。一方で，＜Statement>夕グの記述を用いた場合には,「実感」や「スゴイ」といった, 着目言明や焦点と無関係な語も特徴語として抽出されてしまうが，これらの語による悪影響が小さかった理由としては，手掛かり表現による制約が有効に働いたためと考えられる。

## 6.4 特徵語と手掛かり表現が精度に及ぼす影響に関する実験

調停要約としての適切性の計算には, 式 (9) に示すように, トピック特徴語に関するスコア $s c_{t k}$, 焦点特徴語に関するスコア $s c_{f k}$, 肯定側特徴語に関するスコア $s c_{p k}$, 否定側特徴語に関するスコア $s c_{n k}$, 逆接表現に関するスコア $s c_{a e}$, 限定表現に関するスコア $s c_{p e}$, 結論表現に関するスコア $s c_{c e}$, 不要文に関するスコア $s c_{r s}$ の 8 種類の因子に関するスコアが用いられている. そこで，ある 1 種類の因子に関するスコアを考慮せずに，他の 7 種類の因子に関するスコアのみを用いて調停要約としての適切性を計算した場合の結果と比較することで，各因子が調停要約生成の精度にどの程度寄与しているかを調査した。

着目言明ごとの平均精度への影響を表 8 と表 9 に示す。また，適合率と再現率への影響を表 10 と表 11 にそれぞれ示す. 各列は，ある 1 種類の因子に関するスコアを考慮せずに，例えば， $-s c_{t k}$ であればトピック特徴語に関するスコアを考慮せずに, 調停要約の適切性を計算した場合の平均精度を示している。表 5 や表 6 の提案手法の値と比較して低いほど，その因子が精度に寄与した割合が高いと考えられる。8 因子の中で最も低下した因子の結果を太字で示している。また，考慮しない方が上昇している因子の結果を斜字体で示している．着目言明によってばらつきがあるものの, トピック特徴語, 逆接表現, 限定表現による影響が大きいことが分かる. 特徴語の場合, 「炭酸飲料はからだに悪い」の否定側特徴語を除いて, 基本的に精度の向上に寄与しているが，手掛かり表現と不要な文の場合, 着目言明によっては, 考慮しない方が良い結果をもたらす場合があった. しかしながら, 表 10 と表 11 の上位 10 件において值の低下が見られることから, 総合的には全ての因子が調停要約の適切性を判定するのに必要であると考えられる。
表 8 特徴語による平均精度への影響

表 9 手掛かり表現と不要な文による平均精度への影響

表 10 特徴語，手掛かり表現，不要な文による適合率への影響

表 11 特徴語，手掛かり表現，不要な文による再現率への影響

## 6.5 事例の分析

従来手法と比較して，提案手法により精度の改善につながった例を表 12 に示す。

着目言明「コラーゲンは肌に良い」におけるパッセージは，「コラーゲンは食べると良いvs. コラーゲンは塗ると良い」という疑似対立を調停している理想的な正解の出力例である。この
表 12 提案手法により改善されたパッセージの例

パッセージは，従来手法において 63 位にランキングされていたが，「コラーゲンは食べると良いvs.コラーゲンは塗ると良い」という，焦点とする 2 文が与えられたことにより，肯定側特徴語「食べる」や否定側特徴語「塗る」に関するスコアが他のパッセージに比べて相対的に高くなり，1位にランキングされた。また，逆接表現「しかし」がパッセージの中程に現れていることも 1 位にランキングされる要因の 1 つとなった.

着目言明「飲酒は健康に良い」における例は，「飲酒」に関連した記述ではあるが調停要約として相応しくないパッセージである。従来手法では，「飲酒」や「健康」といった特徴語を含んでいるため，950 位にランキングしていたが，提案手法では，手掛かり表現や不要な文に関するスコアが低いことを考慮することで，調停要約として適切ではないと判定して 4,265 位にランキングすることができた.

提案手法により改善できなかった例を表 13 に示す.

着目言明「嘘をつくのは悪いことである」の例は，調停要約として適切な内容のパッセージであるが，提案手法では 1,382 位にランキングされることとなった. これは，着目言明や焦点とする 2 文では「嘘」と漢字で表記されていたのに対して, パッセージ中では「うそ」と仮名で表記されていたため, トピック特徴語「嘘」がパッセージ中に存在しないと判定されたことが原因であった. 提案手法では，分類語彙表による類義語の処理しか行っていなかったため，今後，表記ゆれの処理を行うことで対処したいと考えている.

着目言明「飲酒は健康に良い」の例は，飲酒と癌になるリスクとの関係に関する調停要約として適切なパッセージであるが,「飲酒は心臓病のリスクを上げる vs. 飲酒は心臟病のリスクを
表 13 提案手法により改善されなかったパッセージの例

## 着目言明「嘘をつくのは悪いことである」

焦点「嘘をつくのは悪いことである vs. 嘘をつくのは悪いこととは限らない」

相手を騙して自分の利益にするうそは許されませんが，相手を傷つけないようにつくうそもあります. 誰もが本当のことしか言わなかったら，殺伐とした，おそらくとんでもない世の中になってしまうと思いませんか？お世辞やごますりなど，相手の人を傷付けない様に，またはいい気分にさせるために気遣ってつくうそもあります。自分でも相手に対してうそをついているという自覚があり，何らかの見返りを期待する目的があり，相手を気持ちよくさせる意図があるのです. 相手を気持ちよくさせるうそは，犠牲者を出さない許されるうそなのです。

## 着目言明「飲酒は健康に良い」

焦点「飲酒は心臟病のリスクを上げる vs. 飲酒は心臟病のリスクを上げない」

大腸ガンでは飲酒との関連はないとする報告が多く，飲酒習慣とは関連がないと考えるべきでしょう。一方, 肝ガンでは飲酒習慣, 特に多量飲酒の発症や死亡への関与は種々の報告で一致して関連を認めています。肝炎ウィルスキャリアの場合でも，飲酒によって肝ガン発症のリスクが高まることが明らかになっています。肺ガンでは飲酒との関連性は報告されていません．最近では乳ガンと飲酒習慣との関連が注目されており，アルコールの女性ホルモンへの影響が背景にあると推測されています。

着目言明「車内での携帯電話の使用は控えるべきである」

焦点「車内での携帯電話の使用は控えるべきであるvs. 車内での携帯電話は使用しても良い」

若干ローカルな話題です. 携帯電話の電波は, 心臟ペースメーカーや補聴器などの機器に影響を与えることは良く知られており，そのため札幌市営地下鉄でも「車内では電源をお切りください」としきりにアナウンスしています。しかし，実際には電源を切っている人はほとんど見かけません．札幌がいくら北海道随一の大都市と言っても，そうそう心臟ぺースメーカーをつけた人が地下鉄に乗ってくるケースはないだろう，と思っているのでしょう．

上げない」という疑似対立に対する調停要約としては不適切なパッセージである．提案手法では，パッセージ中に，トピック特徴語「飲酒」，焦点特徴語「リスク」，逆接表現「一方」等が含まれていたため，63 位にランキングされることとなった。また，焦点特徴語として「心藏病」 と「リスク」の 2 語が抽出されたが，どちらの特徴語も同等の重みで処理をしている。しかしながら，癌のリスクではなく心藏病のリスクに焦点を当てるためには「心藏病」を「リスク」よりも重視した処理を行う必要がある。「リスク」の方が「心臟病」よりも一般的な語であることから, tf-idf 法 (言語処理学会 2010) 等により単語の一般性を計算し, 抽出された特徴語の重みに反映させることで，この問題に対処したいと考えている.

着目言明「車内での携帯電話の使用は控えるべきである」の例は，車内での携帯電話の使用を話題としたパッセージであるが，単に札幌の地下鉄での現状とそれに対する個人の推測を述べているだけであり調停要約としては不適切なパッセージである。提案手法では，パッセージ中にトピック特徴語「車内」や「携帯電話」，逆接表現「しかし」等が含まれていることから全体的にスコアが高くなり，4位にランキングされることとなった。このパッセージが不適切である理由

は，否定側記述の内容を行う人間の心理を推測しているだけであり，両立可能となる客観的な根拠や条件を示していないからたと考えられる。従って, 今後, 主観性判断 (Finn et al. 2001; 松本他 2009) やモダリティ解析 (Matsuyoshi, Eguchi, Sao, Murakami, Inui, and Matsumoto 2010)等を活用することで, この問題に対処していきたいと考えている.

## 7 おわりに

本論文では，利用者が対立の焦点となる 2 文を対話的に明確化した状況下で調停要約を生成する手法を提案した，提案手法は，着目言明により検索された文書集合を最初に利用者に提示し，文書集合中で互いに矛盾しているようにみえる 2 文を利用者が選択した後に調停要約を生成するという対話的なアプローチを採ることで, 利用者が焦点とする疑似対立に適合した調停要約を提示する。また, パッセージの関連性, 公平性, 簡潔性の3つの特徴量を, トピック特徴語, 焦点特徵語, 肯定側特徴語, 否定側特徴語の 4 種類の特徴語と, 逆接表現, 限定表現, 結論表現の 3 種類の手掛かり表現が含まれる位置と, 特徵語も手掛かり表現も含まない不要な文の数を用いて求めることで, 調停要約として適切なパッセージを抽出する.

提案手法の有効性を確認するために，構文レベルで明瞭な対比構造をもたない 2 文を焦点とした場合と，計算で用いた 8 種類の各因子を除いた場合に，生成される調停要約の精度にどの程度影響を与えるかを調停要約コーパスを用いてそれぞれ調査した。その結果, 明暸な対比構造をもつラベルを用いた場合の平均精度 0.022 よりも，明膫な対比構造をもたない，実文書から抽出された記述を用いた平均精度 0.125 の方が良い結果となったことから，対話的なアプロー チを採ることの妥当性を確認した。また，着目言明により差があるものの，総合的に各因子を除くと精度が低下することから，全ての因子が調停要約の適切性を判定するのに必要であることを確認した。さらに，従来手法と比較した場合，上位 10 件の適合率が 0.050 から 0.231 に，上位 1,000 件での再現率が 0.429 から 0.678 にそれぞれ向上したことを確認した.

今後は，誤り分析により明らかになった問題を解決することで，さらなる改善につなげたいと考えている。

## 謝 辞

本研究の一部は, 科学研究費補助金 (No. 22500124, No. 25330254), ならびに, 横浜国立大学大学院環境情報研究院共同研究推進プログラムの助成を受けたものである.

## 参考文献

Akamine, S., Kawahara, D., Kato, Y., Nakagawa, T., Inui, K., Kurohashi, S., and Kidawara, Y. (2009). "WISDOM: A Web Information Credibility Analysis System." In the ACL-IJCNLP 2009 Software Demonstrations, pp. 1-4.

Akamine, S., Kawahara, D., Kato, Y., Nakagawa, T., Leon-Suematsu, Y. I., Kawada, T., Inui, K., Kurohashi, S., and Kidawara, Y. (2010). "Organizing Information on the Web to Support User Judgments on Information Credibility." In the 4th International Universal Communication Symposium (IUCS2010), pp. 123-130.

Cutting, D. R., Karger, D. R., Pedersen, J. O., and Tukey, J. W. (1992). "Scatter/Gather: A Cluster-Based Approach to Browsing Large Document Collections." In the 15th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR'92), pp. 318-329.

Finn, A., Kushmerick, N., and Smyth, B. (2001). "Fact or fiction: Content classification for digital libraries." In the Second DELOS Network of Excellence Workshop on Personalisation and Recommender Systems in Digital Libraries, pp. 18-20.

藤井敦 (2008). OpinionReader：意思決定支援を目的とした主観情報の集約・可視化システム.電子情報通信学会論文誌 (D), J91-D (2), pp. 459-470.

Fukumoto, J., Kato, T., Masui, F., and Mori, T. (2007). "An Overview of the 4th Question Answering Challenge (QAC-4) at NTCIR Workshop 6." In the 6th NTCIR Workshop Meeting, pp. 433-440.

言語処理学会 (編) (2010). デジタル言語処理学事典. 共立出版.

橋本力, 奥村学, 島津明 (2001). 複数記事要約のためのサマリパッセージの抽出. 言語処理学会第 7 回年次大会発表論文集, pp. 285-288.

平尾努, 佐々木裕, 磯崎秀樹 (2001). 質問に適応した文書要約手法とその評価. 情報処理学会論文誌, $42(9)$, pp. 2259-2269.

石下円香, 渋木英潔, 中野正寛, 宮崎林太郎, 永井隆広, 森辰則 (2011). 直接調停要約自動生成システム HERMeS の言論マップとの連携. 言語処理学会第 17 回年次大会発表論文集, pp. 208-211.

Kaneko, K., Shibuki, H., Nakano, M., Miyazaki, R., Ishioroshi, M., and Morii, T. (2009). "Mediatory Summary Genaration: Summary-Passage Extraction for Information Credibility on the Web." In the 23rd Pacific Asia Conference on Language, Information and Computation, pp. 240-249.

加藤義清, 河原大輔, 乾健太郎, 黒橋禎夫, 柴田知秀 (2010). Web ページの情報発信者の同定.
人工知能学会論文誌, 25 (1), pp. 90-103.

河合剛巨, 岡嶋穣, 中澤聡 (2007). Web 文書の時系列分析に基づく意見変化イベントの抽出. 言語処理学会第 17 回年次大会発表論文集, pp. 264-267.

国立国語研究所（編）(2004). 分類語彙表一増補改訂版. 大日本図書刊.

Lin, C.-Y. and Hovy, E. (2003). "Automatic Evaluation of Summaries Using N-gram CoOccurrence Statistics." In the 2003 Conference of the North American Chapter of the Association for Computational Linguistics on Human Language Technology-Volume 1 (NAACL'03), pp. 71-78.

松本章代, 小西達裕, 高木朗, 小山照夫, 三宅芳雄, 伊東幸宏 (2009). 文末表現を利用したウェブページの主観・客観度の判定. 第 1 回データ工学と情報マネジメントに関するフォーラム (DEIM), A5-4.

Matsuyoshi, S., Eguchi, M., Sao, C., Murakami, K., Inui, K., and Matsumoto, Y. (2010). "Annotating Event Mentions in Text with Modality, Focus, and Source Information." In the Seventh International Conference on Language Resources and Evaluation Conference (LREC2010), pp. 1456-1463.

Miyazaki, R., Momose, R., Shibuki, H., and Mori, T. (2009). "Using Web Page Layout for Extraction of Sender Names." In the 3rd International Universal Communication Symposium (IUCS2009), pp. 181-186.

Mori, T., Nozawa, M., and Asada, Y. (2005). "Multi-Answer-Focused Multi-Document Summarization Using a Question-Answering Engine." ACM Transactions on Asian Language Information Processing (TALIP), 4 (3), pp. 305-320.

Murakami, K., Nichols, E., Mizuno, J., Watanabe, Y., Masuda, S., Goto, H., Ohki, M., Sao, C., Matsuyoshi, S., Inui, K., and Matsumoto, Y. (2010). "Statement Map: Reducing Web Information Credibility Noise through Opinion Classification." In the Fourth Workshop on Analytics for Noisy Unstructured Text Data (AND2010), pp. 59-66.

村田一郎, 森辰則 (2007). 利用者の興味を反映できる複数文書要約. 言語処理学会第 13 回年次大会発表論文集, pp. 744-747.

中野正寛, 渋木英潔, 宮崎林太郎, 石下円香, 金子浩一, 永井隆広, 森辰則 (2011). 情報信憑性判断支援のための直接調停要約生成手法. 電子情報通信学会論文誌 (D), J94-D (11), pp. 1019-1030.

酒井浩之，増山繁 (2006). ユーザの要約要求を反映するためにユーザとのインタラクションを導入した複数文書要約システム. ファジィ学会論文誌, 18 (2), pp. 265-279.

Shibuki, H., Nagai, T., Nakano, M., Miyazaki, R., Ishioroshi, M., and Mori, T. (2010). "A Method for Automatically Generating a Mediatory Summary to Verify Credibility of Information on
the Web." In the 23rd International Conference on Computational Linguistics (COLING 2010), pp. 1140-1148.

渋木英潔, 中野正寛, 石下円香, 永井隆広, 森辰則 (2011a). 調停要約生成手法の改善と調停要

約コーパスを用いた評価. 第 10 回情報科学技術フォーラム (FIT2011), RE-003.渋木英潔, 中野正寞, 宮崎林太郎, 石下円香, 永井隆広, 森辰則 (2011b). 調停要約のための正

解コーパスの作成とその分析. 言語処理学会第 17 回年次大会発表論文集, pp. 364-367.

Tombros, A. and Sandersoni, M. (1998). "Advantages of Query Biased Summaries in Information

Retrieval." In the 21st Annual International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR'98). pp. 2-10.

山本祐輔, 田中克己 (2010). データ対間のサポート関係分析に基づくWeb 情報の信憑性評価.

情報処理学会論文誌 : データベース, $\mathbf{3}(2)$, pp. 61-79.

## 略歴

渋木英潔：1997 年小樽商科大学商学部商業教員養成課程卒業. 1999 年同大学

大学院商学研究科修士課程修了. 2002 年北海道大学大学院工学研究科博士後期課程修了. 博士 (工学). 2006 年北海学園大学大学院経営学研究科博士後期課程終了. 博士 (経営学). 現在, 横浜国立大学環境情報研究院科学研究費研究員. 自然言語処理に関する研究に従事. 言語処理学会, 情報処理学会, 電子情報通信学会, 日本認知科学会各会員.

永井隆広：2010 年横浜国立大学工学部電子情報工学科卒業. 2012 年同大学大学院環境情報学府情報メディア環境学専攻博士課程前期修了. 修士（情報学)。在学中は自然言語処理に関する研究に従事.

中野正寛：2005 年横浜国立大学大学院環境情報学府情報メディア環境学専攻博士課程前期修了. 2011 年同専攻博士課程後期単位取得退学. 修士 (情報学). 2011 年から 2012 年まで同学府研究生.この間, 自然言語処理に関する研究に従事.

石下円香：2009 年横浜国立大学大学院環境情報学府情報メディア環境学専攻博士課程後期修了. 現在, 国立情報学研究所特任研究員. 博士 (情報学).自然言語処理に関する研究に従事. 言語処理学会, 人工知能学会各会員.

松本拓也：2012 年横浜国立大学工学部電子情報工学科卒業. 現在, 同大学大学院環境情報学府情報メディア環境学専攻博士課程前期在学中. 自然言語処理に関する研究に従事.

森辰則：1986 年横浜国立大学工学部情報工学科卒業. 1991 年同大学大学院工学研究科博士課程後期修了. 工学博士. 同年, 同大学工学部助手着任. 同
講師, 同助教授を経て, 現在, 同大学大学院環境情報研究院教授. この間, 1998 年 2 月より 11 月まで Stanford 大学 CSLI 客員研究員. 自然言語処理, 情報検索, 情報抽出などの研究に従事. 言語処理学会, 情報処理学会, 電子情報通信学会, 人工知能学会, ACM 各会員.

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/


# 共変量シフト下の学習による語義曖昧性解消の
教師なし領域適応

新納 浩幸†・佐々木 稔 $\dagger$
}

本論文では語義曖昧性解消 (Word Sense Disambiguation, WSD) の教師なし領域適応の問題に対して, 共変量シフト下の学習を試みる。共変量シフト下の学習では確率密度比 $w(\boldsymbol{x})=P_{T}(\boldsymbol{x}) / P_{S}(\boldsymbol{x})$ を重みとした重み付き学習を行うが，WSD の場合，推定される確率密度比の值が小さくなる傾向がある. ここでは $P_{T}(\boldsymbol{x})$ と $P_{S}(\boldsymbol{x})$ をそ れぞれ求めて，その比を取ることで $w(\boldsymbol{x})$ を推定するが， $P_{S}(\boldsymbol{x})$ を求める際に，夕ー ゲット領域のコーパスとソース領域のコーパスを合わせたコーパスを，新たにソー ス領域のコーパス $S$ と見なすことで，先の問題に対処する．BCCWJ の 3 つの領域 OC (Yahoo! 知恵袋), PB（書籍）及び PN（新聞）を選び, SemEval-2 の日本語 WSD タスクのデータを利用して, 多義語 16 種類を対象に，WSD の領域適応の実験を行った. $w(\boldsymbol{x})$ を推定する手法として, $P_{T}(\boldsymbol{x})$ と $P_{S}(\boldsymbol{x})$ を求めずに, $w(\boldsymbol{x})$ を直接推定する uLSIF も試みた。また確率密度比を上方修正するために $\Gamma p$ 乗する」「相対確率密度比を取る」という手法も組み合わせて試みた。それらの実験の結果，提案手法の有効性が示された。

キーワード：語義曖昧性解消，領域適応，共変量シフト，uLSIF，負の転移
## Unsupervised Domain Adaptations for Word Sense Disambiguation by Learning under Covariate Shift

\author{
Hiroyuki Shinnou $^{\dagger}$ and Minoru Sasaki ${ }^{\dagger}$
}

In this paper, we apply the learning under covariate shift to the problem of unsupervised domain adaptation for word sense disambiguation (WSD). This learning is a type of weighted learning method, in which the probability density ratio $w(\boldsymbol{x})=P_{T}(\boldsymbol{x}) / P_{S}(\boldsymbol{x})$ is used as the weight of an instance. However, $w(\boldsymbol{x})$ tends to be small in WSD tasks. In order to address this problem, we calculate $w(\boldsymbol{x})$ by estimating $P_{T}(\boldsymbol{x})$ and $P_{S}(\boldsymbol{x})$, where $P_{S}(\boldsymbol{x})$ is estimating by regarding the corpus combining the source domain corpus and target domain corpus as the source domain corpus. In the experiment, we use three domains -OC (Yahoo! Chiebukuro), PB (books) and PN (news papers)- in BCCWJ, and 16 target words provided by the Japanese WSD task in SemEval-2. For calculating $w(\boldsymbol{x})$, we also use uLSIF, which directly estimates $w(\boldsymbol{x})$ without estimating $P_{T}(\boldsymbol{x})$ or $P_{S}(\boldsymbol{x})$. Moreover, we use the " $p$ power" method and the "relative probability density ratio" method to boost the obtained probability density ratio. These experiments prove our method to be effective.

Key Words: word sense disambiguation, domain adaptation, covariate shift, uLSIF, negative transfer

## 1 はじめに

本論文では, 語義曖昧性解消 (Word Sense Disambiguation, WSD) の領域適応に対して, 共変量シフト下の学習を試みる。共変量シフト下の学習では確率密度比を重みとした重み付き学習を行うが, WSD のタスクでは算出される確率密度比が小さくなる傾向がある．ここではソー ス領域のコーパスとターゲット領域のコーパスとを合わせたコーパスをソース領域のコーパスと見なすことで，この問題に対処する。なお本手法はターゲット領域のデータにラベル付けしないため, 教師なし領域適応手法に分類される.

WSD は文中の多義語の語義を識別するタスクである，通常，あるコーパス $S$ から対象単語の用例を取り出し，その用例中の対象単語の語義を付与した訓練データを作成し，そこから SVM 等の分類器を学習することで WSD を解決する. ここで学習した分類器を適用する用例がコー パス $S$ とは異なるコーパス $T$ 内のものである場合, 学習した分類器の精度が悪い場合がある. これが領域適応の問題であり，自然言語処理では WSD 以外にも様々な夕スクで問題となるため, 近年, 活発に研究されている (Sogaard 2013; 森 2012; 神嶌 2010).

今, 対象単語 $w$ の用例を $\boldsymbol{x}, w$ の語義の集合を $C$ とする. $\boldsymbol{x}$ 内の $w$ の語義が $c \in C$ である確率を $P(c \mid \boldsymbol{x})$ とおくと, WSD は $\arg \max _{c \in C} P(c \mid \boldsymbol{x})$ を求めることで解決できる. 領域適応では, コーパス $S$ (ソース領域) から得られた訓練データを用いて, $P(c \mid \boldsymbol{x})$ を推定するので, 得られるのは $S$ 上の条件付き分布 $P_{S}(c \mid \boldsymbol{x})$ であるが，識別の対象はコーパス $T$ （ターゲット領域）内のデー 夕であるため必要とされるのは $T$ 上の条件付き分布 $P_{T}(c \mid \boldsymbol{x})$ である.このため領域適応の問題は $P_{S}(c \mid \boldsymbol{x}) \neq P_{T}(c \mid \boldsymbol{x})$ から生じているように見えるが，用例 $\boldsymbol{x}$ がどのような領域で現れたとしても, その用例 $\boldsymbol{x}$ 内の対象単語 $w$ の語義が変化するとは考えづらい. このため $P_{S}(c \mid \boldsymbol{x})=P_{T}(c \mid \boldsymbol{x})$ と考えられる. $P_{S}(c \mid \boldsymbol{x})=P_{T}(c \mid \boldsymbol{x})$ が成立しているなら， $P_{T}(c \mid \boldsymbol{x})$ の代わりに $P_{S}(c \mid \boldsymbol{x})$ を用いて識別すればよいと思われるが, この場合, 識別の精度が悪いことが多い.これは $P_{S}(\boldsymbol{x}) \neq P_{T}(\boldsymbol{x})$ から生じている. $P_{S}(c \mid \boldsymbol{x})=P_{T}(c \mid \boldsymbol{x})$ かつ $P_{S}(\boldsymbol{x}) \neq P_{T}(\boldsymbol{x})$ という仮定は共変量シフトと呼ばれる (Sugiyama and Kawanabe 2011). 自然言語処理の多くの領域適応のタスクは共変量シフトが成立していると考えられる (Sogaard 2013).

ソース領域のコーパス $S$ から得られる訓練データを $D=\left.\{\left(\boldsymbol{x}_{i}, c_{i}\right)\right.\}_{i=1}^{N}$ とおく. 一般に共変量シフト下の学習では確率密度比 $w(\boldsymbol{x})=P_{T}(\boldsymbol{x}) / P_{S}(\boldsymbol{x})$ を重みとした以下の重み付き対数尤度を最大にするパラメータ $\boldsymbol{\theta}$ を求めることで, $P_{T}(c \mid \boldsymbol{x})$ を構築する.

$
\sum_{i=1}^{N} w\left(\boldsymbol{x}_{i}\right) \log P_{T}\left(c_{i} \mid \boldsymbol{x}_{i} ; \boldsymbol{\theta}\right)
$
共変量シフト下の学習の要は確率密度比 $w(\boldsymbol{x})$ の算出であるが, その方法は大きく 2 つに分類できる。 1 つは $P_{T}(\boldsymbol{x})$ と $P_{S}(\boldsymbol{x})$ をそれぞれ求め, その比を求めることで $w(\boldsymbol{x})$ を求める方法である。もう 1 つは $w(\boldsymbol{x})$ を直接モデル化する方法である (杉山 2010 ). ただしどちらの方法をとっても, WSD の領域適応に対しては, 求められる値が低くなる傾向がある。この問題に対しては, 確率密度比を $p$ 乗 $(0<p<1)$ したり (杉山 2006), 相対確率密度比 (Yamada, Suzuki, Kanamori, Hachiya, and Sugiyama 2011)を使うなど，求めた確率密度比を上方に修正する手法が存在する ${ }^{1}$. 本論文では $P_{T}(\boldsymbol{x})$ と $P_{S}(\boldsymbol{x})$ をそれぞれ求める手法を用いる際に，ターゲット領域のコーパスとソース領域のコーパスを合わせたコーパスを，新たにソース領域のコーパス $S$ と見なして確率密度比を求めることを提案する．提案手法は必ずしも確率密度比を上方に修正する訳ではないが, 多くの場合, この処理により $P_{S}(\boldsymbol{x})$ の值が減少し, 結果的に $w(\boldsymbol{x})$ の值が増加する。

なお, 本論文で利用する手法は, ターゲット領域のラベル付きデータを利用しないために, 教師なし領域適応手法に属する。当然，ターゲット領域のラベル付きデータを利用する教師付き領域適応手法を用いる方が，WSD の識別精度は高くなる。しかし本論文では教師なし領域適応手法を扱う。理由は 3 つある。1つ目は，教師なし領域適応手法はラベル付けするコストがないという大きな長所があるからである．2つ目は，共変量シフト下の学習はターゲット領域のラベル付きデータを利用しない設定になっているからである． 3 つ目は，WSD の領域適応の場合, 対象単語毎に領域間距離が異なり, コーパスの領域が異なっていても，領域適応の問題が生じていないケースも多いからである。領域適応の問題が生じている，いないの問題を考察していくには，ターゲット領域のラベル付きデータを利用しない教師なし領域適応手法の方が適している.

実験では現代日本語書き言葉均衡コーパス (Balanced Corpus of Contemporary Written Japanese, BCCWJ (Maekawa 2007)) における 3つの領域 OC (Yahoo! 知恵袋), PB (書籍) 及び PN (新聞) を利用する。 SemEval-2 の日本語 WSD タスク (Okumura, Shirai, Komiya, and Yokono 2010) ではこれらのコーパスの一部に語義夕グを付けたデータを公開しており，そのデータを利用する. すべての領域である程度の頻度が存在する多義語 16 単語を対象にして, WSD の領域適応の実験を行う. 領域適応としては $\mathrm{OC} \rightarrow \mathrm{PB}, \mathrm{PB} \rightarrow \mathrm{PN}, \mathrm{PN} \rightarrow \mathrm{OC}, \mathrm{OC} \rightarrow \mathrm{PN}, \mathrm{PN} \rightarrow \mathrm{PB}$, $\mathrm{PB} \rightarrow \mathrm{OC}$ の計 6 通りが存在する. 結果 $16 \times 6=96$ 通りの WSD の領域適応の問題に対して実験を行った。その結果, 提案手法による重み付けの効果を確認できた。

また，従来手法はべースラインよりも低い値となったが，これは多くのWSD の教師なし領域適応では負の転移が生じていない，言い換えれば実際には領域適応の問題になっていないこ

とから生じていると考えられる。考察では負の転移と重み付けとの関連，また負の転移と関連の深い Misleading データの存在と重み付けとの関連を中心に議論した.

## 2 関連研究

自然言語処理における領域適応は, 帰納学習手法を利用する全てのタスクで生じる問題であるために，その研究は多岐にわたる。利用手法をおおまかに分類すると，ターゲット領域のラベル付きデータを利用するかしないかで分類できる. 利用する場合を教師付き領域適応手法,利用しない場合を教師なし領域適応手法と呼ぶ．提案手法は教師なし領域適応手法の範疇に入るので, ここでは教師なし領域適応手法を中心に関連研究を述べる.

領域適応の問題は，一般の教師付き学習手法における訓練事例のスパース性の問題たと捉えることもできる。そのためターゲット領域のデータにラベルを付与しないという条件では，半教師付き学習 (Chapelle, Schölkopf, and Zien 2006) が教師なし領域適応手法として使えることは明らかである。ただし半教師付き学習では大量のラベルなしデータを必要とする。半教師付き学習をWSD に利用する場合, 対象単語毎に用例を集める必要があり, しかもターゲット領域のコーパスは新規であることが多いため, 対象単語毎の用例を大量に集めることは困難である.このため WSD の領域適応の場合, 半教師付き学習を利用しようとすれば, Transductive 学習 (Joachims 1999) に近い形となるが, ソース領域とターゲット領域が異なる領域適応の形に Transductive 学習が利用できるかどうかは明らかではない.

WSD の領域適応をタスクとした教師なし領域適応の研究としては, 論文 (新納, 佐々木 2013) の研究がある。そこでの基本的なアイデアは WSD で使うシソーラスをターゲット領域のコー パスから構築することであるが，WSD で使うシソーラスが分野依存になっているかどうかは明らかではない $\left(\right.$ 新納, 國井, 佐々木 2014) ${ }^{2}$. また Chan はターゲット領域上の語義分布を EM アルゴリズムで推定している (Chan and Ng 2005, 2006). これも教師なし領域適応手法であるが，本論文で扱う領域適応では語義分布の違いは顕著ではなく, 効果が期待できない.

本論文は, WSD の領域適応では共変量シフトの仮定が成立していると考え, 共変量シフト下の学習を利用する。共変量シフト下の学習を領域適応に応用した研究としては Jiang の研究 (Jiang and Zhai 2007) と齋木の研究 (齋木, 高村, 奥村 2008) がある. Jiang は確率密度比を手動で調整し，モデルにはロジステック回帰を用いている。また齋木は $P_{S}(\boldsymbol{x})$ と $P_{T}(\boldsymbol{x})$ を unigram でモデル化することで確率密度比を推定し，モデルには最大エントロピー法を用いている．ただしどちらの研究もタスクは WSD ではない.しかもターゲット領域のラベル付きデータを利

用しているために，教師なし領域適応手法でもない．また新納は WSD の領域適応に共変量シフト下の学習を用いているが (新納, 佐々木 2014), そこでは Daumé が提案した素性空間拡張法 (Feature Augmentation)(Daumé 2007) を組み合わせて利用しているために，これも教師なし領域適応手法ではない.

一方, 共変量シフト下の学習は, 事例への重み付き学習の一種である. Jiang は識別精度を悪化させるようなデータを Misleading データとして訓練データから取り除いて学習することを試みた (Jiang and Zhai 2007). これは Misleading データの重みを 0 にした学習と見なせるため, この手法も重み付き学習手法と見なせる。吉田はソース領域内の訓練データ $\boldsymbol{x}$ がターゲット領域から見て外れ値と見なせた場合， $x$ を Misleading と判定し，それらを訓練データから取り除いて学習している (吉田, 新納 2014). これは WSD の教師なし領域適応手法であるが, Misleading データの検出は困難であり，精度の改善には至っていない。また WSD の領域適応をタスクとした古宮の手法 (古宮，小谷，奥村 2013) も重み付き学習と見なせる。そこでは複数のソース領域のコーパスを用意し，そこから訓練事例をランダムに選択し，選択された訓練データセットの中で，ターゲット領域のテストデータを識別するのに最も適した訓練データセットを選ぶ. これは全ソース領域のコーパスの訓練データから選択された訓練データの重みを 1 ，それ以外を重み 0 としていることを意味する。ただし複数のソース領域のコーパスから対象単語のラベル付き訓練データを集めるのは実際は困難である。また古宮は上記の研究以外にも WSD の領域適応の研究 (Komiya and Okumura 2011, 2012; 古宮, 奥村 2012) を行っているが, これらは教師付き学習手法となっている.

## 3 期待損失最小化に基づく共変量シフト下の学習

対象単語 $w$ の語義の集合を $C$, また $w$ の用例 $\boldsymbol{x}$ 内の $w$ の語義を $c$ と識別したときの損失関数を $l(\boldsymbol{x}, c, d)$ で表す. $d$ は $w$ の語義を識別する分類器である. $P_{T}(\boldsymbol{x}, c)$ をターゲット領域上の分布とすれば，本タスクにおける期待損失 $L_{0}$ は以下で表せる.

$
L_{0}=\sum_{\boldsymbol{x}, c} l(\boldsymbol{x}, c, d) P_{T}(\boldsymbol{x}, c)
$

また $P_{S}(\boldsymbol{x}, c)$ をソース領域上の分布とすると以下が成立する.

$
L_{0}=\sum_{\boldsymbol{x}, c} l(\boldsymbol{x}, c, d) \frac{P_{T}(\boldsymbol{x}, c)}{P_{S}(\boldsymbol{x}, c)} P_{S}(\boldsymbol{x}, c)
$

ここで共変量シフトの仮定から

$
\frac{P_{T}(\boldsymbol{x}, c)}{P_{S}(\boldsymbol{x}, c)}=\frac{P_{T}(\boldsymbol{x}) P_{T}(c \mid \boldsymbol{x})}{P_{S}(\boldsymbol{x}) P_{S}(c \mid \boldsymbol{x})}=\frac{P_{T}(\boldsymbol{x})}{P_{S}(\boldsymbol{x})}
$

となり, $w(\boldsymbol{x})=P_{T}(\boldsymbol{x}) / P_{S}(\boldsymbol{x})$ とおくと以下が成立する.

$
L_{0}=\sum_{\boldsymbol{x}, c} w(\boldsymbol{x}) l(\boldsymbol{x}, c, d) P_{S}(\boldsymbol{x}, c)
$

訓練データを $D=\left.\{\left(\boldsymbol{x}_{i}, c_{i}\right)\right.\}_{i=1}^{N}$ とし, $P_{S}(\boldsymbol{x}, c)$ を経験分布で近似すれば,

$
L_{0} \approx \frac{1}{N} \sum_{i=1}^{N} w\left(\boldsymbol{x}_{i}\right) l\left(\boldsymbol{x}_{i}, c_{i}, d\right)
$

となるので, 期待損失最小化の観点から考えると, 共変量シフトの問題は以下の式 $L_{1}$ を最小にする $d$ を求めればよいことがわかる.

$
L_{1}=\sum_{i=1}^{N} w\left(\boldsymbol{x}_{i}\right) l\left(\boldsymbol{x}_{i}, c_{i}, d\right)
$

分類器 $d$ として以下の事後確率最大化推定に基づく識別を考える.

$
d(\boldsymbol{x})=\arg \max _{c} P_{T}(c \mid \boldsymbol{x})
$

また損失関数として対数損失 $-\log P_{T}(c \mid \boldsymbol{x})$ を用いれば，式 (1) は以下となる.

$
L_{1}=-\sum_{i=1}^{N} w\left(\boldsymbol{x}_{i}\right) \log P_{T}\left(c_{i} \mid \boldsymbol{x}_{i}\right)
$

つまり, 分類問題の解決に $P_{T}(c \mid \boldsymbol{x}, \boldsymbol{\lambda})$ のモデルを導入するアプローチを取る場合, 共変量シフト下での学習では, 確率密度比を重みとした以下に示す重み付き対数尤度 $L(\boldsymbol{\lambda})$ を最大化するパラメータ $\boldsymbol{\lambda}$ 求める形となる.

$
L(\boldsymbol{\lambda})=\sum_{i=1}^{N} w\left(\boldsymbol{x}_{i}\right) \log P_{T}\left(c_{i} \mid \boldsymbol{x}_{i}, \boldsymbol{\lambda}\right)
$

ここではモデルとして以下の式で示される最大エントロピー法を用いる.

$
P_{T}(c \mid \boldsymbol{x}, \boldsymbol{\lambda})=\frac{1}{Z(\boldsymbol{x}, \boldsymbol{\lambda})} \exp \left(\sum_{j=1}^{M} \lambda_{j} f_{j}(\boldsymbol{x}, c)\right)
$

$\boldsymbol{x}=\left(x_{1}, x_{2}, \cdots, x_{M}\right)$ が入力, $c$ がクラスである. 関数 $f_{j}(\boldsymbol{x}, c)$ は素性関数であり, 実質 $\boldsymbol{x}$ の真のクラスが $c$ のときに $x_{j}$ を返し，そうでないとき 0 を返す関数に設定される， $Z(\boldsymbol{x}, \boldsymbol{\lambda})$ は正規化項であり，以下で表せる.

$
Z(\boldsymbol{x}, \boldsymbol{\lambda})=\sum_{c \in C} \exp \left(\sum_{j=1}^{M} \lambda_{j} f_{j}(\boldsymbol{x}, c)\right)
$

そして $\boldsymbol{\lambda}=\left(\lambda_{1}, \lambda_{2}, \cdots, \lambda_{M}\right)$ が素性に対応する重みパラメータとなる.

## 4 確率密度比の算出

確率密度比 $w(\boldsymbol{x})=P_{T}(\boldsymbol{x}) / P_{S}(\boldsymbol{x})$ の算出法は大きく 2 つに分類できる. 1 つは $P_{S}(\boldsymbol{x})$ と $P_{T}(\boldsymbol{x})$ を各々推定し，その比を取る手法であり，もう 1 つは $w(\boldsymbol{x})$ を直接モデル化する手法である。ここでは前者の方法として論文 (新納，佐々木 2014) において提案された手法を利用する．簡単化のために本論文ではこの手法を NB 法と名付ける。また後者の方法としては論文 (Kanamori， Hido, and Sugiyama 2009) において提案された拘束無し最小二乗重要度適合法 (unconstrained Least-Squares Importance Fitting, uLSIF) を利用する.

## 4.1 NB 法

対象単語 $w$ の用例 $\boldsymbol{x}$ の素性リストを $\left.\{f_{1}, f_{2}, \cdots, f_{n}\right.\}$ とする. 求めるのは領域 $R \in\{S, T\}$ 上の $\boldsymbol{x}$ の分布 $P_{R}(\boldsymbol{x})$ である. ここで Naive Bayes で使われるモデルを用いる. Naive Bayes のモデルでは以下を仮定する。

$
P_{R}(\boldsymbol{x})=\prod_{i=1}^{n} P_{R}\left(f_{i}\right)
$

領域 $R$ のコーパス内の $w$ の全ての用例について素性リストを作成しておく.ここで用例の数を $N(R)$ とおく.また $N(R)$ 個の用例の中で，素性 $f$ が現れた用例数を $n(R, f)$ とおく. MAP 推定でスムージングを行い， $P_{R}(f)$ を以下で定義する (高村 2010).

$
P_{R}(f)=\frac{n(R, f)+1}{N(R)+2}
$

以上より, ソース領域 $S$ の用例 $\boldsymbol{x}$ に対して, 確率密度比 $w(\boldsymbol{x})=P_{T}(\boldsymbol{x}) / P_{S}(\boldsymbol{x})$ が計算できる.

$
w(\boldsymbol{x})=\frac{P_{T}(\boldsymbol{x})}{P_{S}(\boldsymbol{x})}=\prod_{i=1}^{n}\left(\frac{n\left(T, f_{i}\right)+1}{N(T)+2} \cdot \frac{N(S)+2}{n\left(S, f_{i}\right)+1}\right)
$

## 4.2 uLSIF

ソース領域内のデータを $\left.\{\boldsymbol{x}_{i}^{s}\right.\}_{i=1}^{N_{s}}$, ターゲット領域内のデータを $\left.\{\boldsymbol{x}_{i}^{t}\right.\}_{i=1}^{N_{t}}$ とする uLSIF では確率密度比 $w(\boldsymbol{x})$ を以下の式でモデル化する。

$
\begin{aligned}
w(\boldsymbol{x}) & =\sum_{l=1}^{b} \alpha_{l} \psi_{l}(\boldsymbol{x}) \\
& =\boldsymbol{\alpha} \cdot \boldsymbol{\psi}(\boldsymbol{x})
\end{aligned}
$

ただしここで, $\boldsymbol{\alpha}=\left(\alpha_{1}, \alpha_{2}, \cdots, \alpha_{b}\right), \boldsymbol{\psi}(\boldsymbol{x})=\left(\psi_{1}(\boldsymbol{x}), \psi_{2}(\boldsymbol{x}), \cdots, \psi_{b}(\boldsymbol{x})\right)$ である.また $\alpha_{l}$ は正の実数であり， $\psi_{l}(\boldsymbol{x})$ は基底関数と呼ばれるソース領域のデータ $\boldsymbol{x}$ から正の実数値への関数である. ULSIF では, 概略, 自然数 $b$ と基底関数 $\boldsymbol{\psi}(\boldsymbol{x})$ を定めた後に，パラメータ $\boldsymbol{\alpha}$ を推定する手順をとる。

説明の都合上, $b$ と $\boldsymbol{\psi}(\boldsymbol{x})$ が定まった後の $\boldsymbol{\alpha}$ の推定を先に説明する. $w(\boldsymbol{x})$ のモデルを $\hat{w}(\boldsymbol{x})$ とおくと，パラメータ $\alpha_{l}$ を推定するには， $w(\boldsymbol{x})$ と $\hat{w}(\boldsymbol{x})$ の平均 2 乗誤差 $J_{0}(\boldsymbol{\alpha})$ を最小にするような $\boldsymbol{\alpha}$ を求めれば良い. $w(\boldsymbol{x})=P_{T}(\boldsymbol{x}) / P_{S}(\boldsymbol{x})$ に注意すると， $J_{0}(\boldsymbol{\alpha})$ は以下のように変形できる.

$
\begin{aligned}
J_{0}(\boldsymbol{\alpha}) & =\frac{1}{2} \int(\hat{w}(\boldsymbol{x})-w(\boldsymbol{x}))^{2} P_{S}(\boldsymbol{x}) d \boldsymbol{x} \\
& =\frac{1}{2} \int \hat{w}(\boldsymbol{x})^{2} P_{S}(\boldsymbol{x}) d \boldsymbol{x}-\int \hat{w}(\boldsymbol{x}) w(\boldsymbol{x}) P_{S}(\boldsymbol{x}) d \boldsymbol{x}+\frac{1}{2} \int w(\boldsymbol{x})^{2} P_{S}(\boldsymbol{x}) d \boldsymbol{x} \\
& =\frac{1}{2} \int \hat{w}(\boldsymbol{x})^{2} P_{S}(\boldsymbol{x}) d \boldsymbol{x}-\int \hat{w}(\boldsymbol{x}) P_{T}(\boldsymbol{x}) d \boldsymbol{x}+\frac{1}{2} \int w(\boldsymbol{x})^{2} P_{S}(\boldsymbol{x}) d \boldsymbol{x}
\end{aligned}
$

3 項目の式は定数なので, $J_{0}(\boldsymbol{\alpha})$ を最小にするには, 以下の $J(\boldsymbol{\alpha})$ を最小にすればよい.

$
J(\boldsymbol{\alpha})=\frac{1}{2} \int \hat{w}(\boldsymbol{x})^{2} P_{S}(\boldsymbol{x}) d \boldsymbol{x}-\int \hat{w}(\boldsymbol{x}) P_{T}(\boldsymbol{x}) d \boldsymbol{x}
$

$J(\boldsymbol{\alpha})$ を経験分布で近似した $\widehat{J}(\boldsymbol{\alpha})$ は以下となる.

$
\begin{aligned}
\widehat{J}(\boldsymbol{\alpha}) & =\frac{1}{2 N_{s}} \sum_{i=1}^{N_{s}} \widehat{w}\left(\boldsymbol{x}_{i}^{s}\right)^{2}-\frac{1}{N_{t}} \sum_{j=1}^{N_{t}} \widehat{w}\left(\boldsymbol{x}_{j}^{t}\right) \\
& =\frac{1}{2} \sum_{l, l^{\prime}=1}^{b} \alpha_{l} \alpha_{l^{\prime}}\left(\frac{1}{N_{s}} \sum_{i=1}^{N_{s}} \psi_{l}\left(\boldsymbol{x}_{i}^{s}\right) \psi_{l^{\prime}}\left(\boldsymbol{x}_{i}^{s}\right)\right)-\sum_{l=1}^{b} \alpha_{l}\left(\frac{1}{N_{t}} \sum_{j=1}^{N_{t}} \psi_{l}\left(\boldsymbol{x}_{j}^{t}\right)\right) \\
& =\frac{1}{2} \boldsymbol{\alpha}^{T} \widehat{H} \boldsymbol{\alpha}-\widehat{h}^{T} \boldsymbol{\alpha}
\end{aligned}
$

ここで $\hat{H}$ は $b \times b$ の行列であり，その $l$ 行 $l^{\prime}$ 列の要素 $\widehat{H}_{l, l^{\prime}}$ は以下である.

$
\widehat{H}_{l, l^{\prime}}=\frac{1}{N_{s}} \sum_{i=1}^{N_{s}} \psi_{l}\left(\boldsymbol{x}_{i}^{s}\right) \psi_{l^{\prime}}\left(\boldsymbol{x}_{i}^{s}\right)
$

また $\widehat{h}$ は $b$ 次元のベクトルであり, その $l$ 次元目の要素 $\widehat{h}_{l}$ は以下である.

$
\widehat{h}_{l}=\frac{1}{N_{t}} \sum_{j=1}^{N_{t}} \psi_{l}\left(\boldsymbol{x}_{j}^{t}\right)
$

$\widehat{J}(\boldsymbol{\alpha})$ の最小値を求める際に正則化を行う．このとき付加する正則化項を L2ノルムに設定し,
$\alpha>0$ の条件を外して，以下の最小化問題を解く. ここでパラメータ $\lambda$ が導入されることに注意する。 $\lambda$ は基底関数を設定する際に決められる。

$
\min _{\boldsymbol{\alpha}}\left[\frac{1}{2} \boldsymbol{\alpha}^{T} \widehat{H} \boldsymbol{\alpha}-\widehat{h}^{T} \boldsymbol{\alpha}+\frac{\lambda}{2} \boldsymbol{\alpha}^{T} \boldsymbol{\alpha}\right]
$

この最小化問題は制約のない凸 2 次計画問題であるために，唯一の大域解が得られる。その解は以下である。

$
\tilde{\boldsymbol{\alpha}}=\left(\widehat{H}+\lambda I_{b}\right)^{-1} \widehat{h}^{T}
$

最後に $\boldsymbol{\alpha}>0$ の条件に合わせるように，以下の調整を行う.

$
\begin{aligned}
\widehat{\boldsymbol{\alpha}} & =\left(\left(\max \left(0, \tilde{\alpha_{1}}\right), \max \left(0, \tilde{\alpha_{2}}\right), \cdots, \max \left(0, \tilde{\alpha_{b}}\right)\right)\right. \\
& =\max \left(0_{b}, \tilde{\boldsymbol{\alpha}}\right)
\end{aligned}
$

パラメータ $b$ と基底関数の設定であるが，まず， $b$ については以下で設定する ${ }^{3}$.

$
b=\min \left(100, N_{t}\right)
$

次にターゲット領域のデータから重複を許さずに $b$ 個の点をランダムに取り出す。それらの点を $\left.\{\boldsymbol{x}_{j}^{t}\right.\}_{j=1}^{b}$ とおく. そして基底関数 $\psi_{l}(\boldsymbol{x})$ を以下のガウシアンカーネルで定義する.

$
\psi_{l}(\boldsymbol{x})=K\left(\boldsymbol{x}, \boldsymbol{x}_{l}^{t}\right)=\exp \left(-\frac{\left.\|\boldsymbol{x}-\boldsymbol{x}_{l}^{t}\right.\|^{2}}{\sigma^{2}}\right)
$

以上より, 確率密度比を求めるために残されているパラメータは正則化項の係数 $\lambda$ とガウシアンカーネルの幅 $\sigma$ の 2 つである. これらのパラメータはグリッドサーチの交差検定で求める. まずソース領域のデータとターゲット領域のデータをそれぞれ交わりのない $R$ 個の部分集合に分割する。それらの部分集合の中で $r$ 番目の部分集合を除き，残りを結合した集合を作る。それらを新たなソース領域のデータとターゲット領域のデータと見なす。そして $\lambda$ とをある値に設定し, 式 (6) と式 (7)より $\boldsymbol{\alpha}$ を求め, 式 (5) より $\widehat{J}(\boldsymbol{\alpha})^{(r)}$ の値を求める. $r$ を 1 から $R$ まで変化させることで， $R$ 個の $\widehat{J}(\boldsymbol{\alpha})^{(r)}$ の値が求まり，それらを平均した值を $\lambda$ と $\sigma$ 対する $\widehat{J}(\boldsymbol{\alpha})$ の值とする．次に $\lambda$ とを変化させ，上記手順で得られる $\widehat{J}(\boldsymbol{\alpha})$ の值が最小となる $\hat{\lambda} と \hat{\sigma}$ を求め,これを $\lambda$ この推定値とする.

## $4.3 P_{S(\boldsymbol{x})$ の補正による確率密度比の算出}

WSD のタスクでは NB 法あるいは uLSIF で算出される確率密度比は小さい値を取る傾向があり, 実際の学習で用いる際には, 少し上方に修正した値を取る方が最終の識別結果が改善されることが多い.これは以下の 2 点から生じていると考えられる.
- $T$ に $\boldsymbol{x}$ が入っているかは確率的であるが, $S$ には必ず $\boldsymbol{x}$ が入っている.
- $P_{S}(\boldsymbol{x})$ を推定するために $\boldsymbol{x} \in S$ を用いるため, 訓練データである $\boldsymbol{x}$ に過学習した結果 $P_{S}(\boldsymbol{x})$ は $P_{T}(\boldsymbol{x})$ に比べて高く見積もられてしまう.

このため, 求まった確率密度比を上方に修正する手法が存在する。論文 (杉山 2006)では確率密度比 $w(\boldsymbol{x})$ を $p$ 乗 $(0<p<1)$ することを提案している. また論文 (Yamada et al. 2011)では以下で示される相対確率密度比 $w^{\prime}(\boldsymbol{x})$ を確率密度比として利用することを提案している。

$
w^{\prime}(\boldsymbol{x})=\frac{P_{T}(\boldsymbol{x})}{\alpha P_{S}(\boldsymbol{x})+(1-\alpha) P_{T}(\boldsymbol{x})}
$

ここで $0<\alpha<1$ である.

確率密度比 $w(\boldsymbol{x})$ が 1 以下である場合, $w(\boldsymbol{x})$ を $p$ 乗すると上方に修正できることは, それらの比の対数を取れば, $\log w(\boldsymbol{x})<0$ であることから明らかである.

$
\log \frac{w(\boldsymbol{x})^{p}}{w(\boldsymbol{x})}=(p-1) \log w(\boldsymbol{x})>0
$

また相対確率密度比 $w^{\prime}(\boldsymbol{x})$ は以下の変形から $w(\boldsymbol{x})$ を上方に修正していると見なせる.

$
\begin{aligned}
w^{\prime}(\boldsymbol{x}) & =\frac{P_{T}(\boldsymbol{x})}{\alpha P_{S}(\boldsymbol{x})+(1-\alpha) P_{T}(\boldsymbol{x})} \\
& =\frac{1}{\alpha+(1-\alpha) w(\boldsymbol{x})} w(\boldsymbol{x}) \\
& >\frac{1}{\alpha+(1-\alpha)} w(\boldsymbol{x}) \\
& =w(\boldsymbol{x})
\end{aligned}
$

確率密度比が 1 以上である場合, これらの手法は確率密度比を下方に修正するので, 正確には確率密度比を 1 に近づける手法である。しかし, ほとんどの訓練データの確率密度比は 1 以下であるために, ここではこれらの手法を上方修正する手法と呼び, 提案手法と対比させる.

本論文では確率密度比を上方に修正するために, ソース領域のデータとターゲット領域のデー 夕を合わせたデータを新たにソース領域のデータとみなし，NB 法を用いて $P_{S}(\boldsymbol{x})$ を補正することを提案する。これは $S$ のスパース性を緩和させることを狙ったものである. 確率密度比が真の値よりも低く見積もられる原因の 1 つは， $P_{S}(\boldsymbol{x})$ が真の值よりも高く見積もられるからたと考える。 さらにその原因が $S$ のスパース性なので，スパース性を緩和するために $S$ にデータを追加するというアイデアである．たたし追加するデータは $S$ と類似の領域のデータであるこ

とが望ましい. WSD の領域適応の場合， $S$ と $T$ は完全に異なることはなく, 比較的似ているために，追加するデータとして $T$ のデータが利用できると考えた。

提案手法の新たなソース領域を $S+T$ で表せば， $P_{S}(\boldsymbol{x})>P_{S+T}(\boldsymbol{x})$ が成立していると考えるのは自然であり，この不等式が成立していれば，提案手法により確率密度比は上方に修正される。ただし，ここで提案手法は必ずしも NB 法の確率密度比を上方に修正できるとは限らないことに注意する。また提案手法は NB 法の確率密度比が 1 以下かどうかには無関係であることにも注意する。NB 法の確率密度比が 1 以上であっても，上方に修正する可能性がある。また $P_{S+T}(\boldsymbol{x})$ は以下の式を利用して求められる。

$
\begin{aligned}
P_{S+T}(f) & =\frac{n(S+T, f)+1}{N(S+T)+2} \\
& =\frac{n(S, f)+n(T, f)+1}{N(S)+N(T)+2}
\end{aligned}
$

## 5 実験

BCCWJ の PB（書籍）, OC（Yahoo! 知恵袋）及び PN（新聞）を異なった領域として実験を行う. SemEval-2 の日本語 WSD タスク (Okumura et al. 2010)ではこれら領域のコーパスの一部に語義夕グを付けたデータを公開しており，そのデータを利用する。この 3 つの領域からある程度頻度のある多義語 16 単語を WSD の対象単語とする. これら単語と辞書上での語義数及び各コーパスでの頻度と語義数を表 1 に示す ${ }^{4}$. 領域適応の方向としては $\mathrm{OC} \rightarrow \mathrm{PB}, \mathrm{PB} \rightarrow$ $\mathrm{PN}, \mathrm{PN} \rightarrow \mathrm{OC}, \mathrm{OC} \rightarrow \mathrm{PN}, \mathrm{PN} \rightarrow \mathrm{PB}, \mathrm{PB} \rightarrow \mathrm{OC}$ の計 6 通りの方向が存在する.

本稿で利用した素性は以下の 8 種類である。 (e0) $w$ の表記, (e1) $w$ の品詞, (e2) $w_{-1}$ の表記, (e3) $w_{-1}$ の品詞, (e4) $w_{1}$ の表記, (e5) $w_{1}$ の品詞, (e6) $w$ の前後 3 単語までの自立語の表記, (e7) e6 の分類語彙表の番号の 4 桁と 5 桁. なお対象単語の直前の単語を $w_{-1}$, 直後の単語を $w_{1}$ としている。

対象単語 $w$ についてソース領域 $S$ からターゲット領域 $T$ の領域適応の実験について説明する.ソース領域 $S$ の訓練データのみを用いて, 手法 $\mathrm{A}$ により分類器を学習し $w$ に対する正解率を求める. 16 種類の各対象単語 $\left(w_{1}, w_{2}, \cdots, w_{16}\right)$ に対する正解率の平均，つまりマクロ平均をソース領域 $S$ からターゲット領域 $T$ に対する手法 A の正解率とする。結果, 手法 A について 6 種類の各領域適応に対しての正解率が得られる。 それらの平均を手法 A の平均正解率とする.

上記の手法 A としては，以下の 8 種類を試す。(1) 重みを考慮しない（重みを 1 で固定する）手法 (Base)，（2）NB 法による重みをつけた手法 (NB)，（3) NB 法の重みを $p$ 乗した値を重みに

表 1 対象単語

 &  &  &  &  &  &  \\

入れる & 3 & 73 & 2 & 56 & 3 & 32 & 2 \\
書く & 2 & 99 & 2 & 62 & 2 & 27 & 2 \\
聞く & 3 & 124 & 2 & 123 & 2 & 52 & 2 \\
子供 & 2 & 77 & 2 & 93 & 2 & 29 & 2 \\
時間 & 4 & 53 & 2 & 74 & 2 & 59 & 2 \\
自分 & 2 & 128 & 2 & 308 & 2 & 71 & 2 \\
出る & 3 & 131 & 3 & 152 & 3 & 89 & 3 \\
取る & 8 & 61 & 7 & 81 & 7 & 43 & 7 \\
場合 & 2 & 126 & 2 & 137 & 2 & 73 & 2 \\
入る & 3 & 68 & 4 & 118 & 4 & 65 & 3 \\
前 & 3 & 105 & 3 & 160 & 2 & 106 & 4 \\
見る & 6 & 262 & 5 & 273 & 6 & 87 & 3 \\
持つ & 4 & 62 & 4 & 153 & 3 & 59 & 3 \\
やる & 5 & 117 & 3 & 156 & 4 & 27 & 2 \\
ゆく & 2 & 219 & 2 & 133 & 2 & 27 & 2 \\

する手法 (P-NB)，（4) NB 法の重みを相対確率密度比により上方修正した值を重みにする手法 (A-NB)，(5) uLSIF による重みをつけた手法 (uLISF)，(6) uLSIF の重みを $p$ 乗した値を重みにする手法 (P-uLSIF)，(7) uLSIF の重みを相対確率密度比により上方修正した值を重みにする手法 (A-uLSIF), (8) 提案手法, またすべての手法において学習アルゴリズムとしては最大エントロピー法を用いた。またその実行にはツールの Classias を用いた (Okazaki 2009). Sから $T$ への領域適応における各手法の正解率を表 2 に示す。ただし P-NB, A-NB, P-uLSIF, A-uLSIF については $p$ と $\alpha$ の゚ラメータが存在する。これらの值については, その值を 0.01 から 0.09 まで 0.01 刻み, 及び 0.1 から 0.9 まで 0.1 刻みで変化させ，平均正解率が最もよい值を示した値を採用した。結果，P-NB については $p=0.2, \mathrm{~A}-\mathrm{NB}$ については $\alpha=0.01, \mathrm{P}-\mathrm{uLSIF}$ については $p=0.04, \mathrm{~A}-\mathrm{uLSIF}$ については $\alpha=0.01$ の値を採用した.

表 2 が示すように，領域適応のタイプ毎に最適な手法は異なるが，平均正解率としては提案手法が最も高い値を示した。また P-NB と A-NB の平均正解率は NB の平均正解率よりも高く, P-uLSIF と A-uLSIF の平均正解率は uLSIF の平均正解率よりも高い. つまり確率密度比を上方に修正する手法が有効であったことがわかる.

また有意差を検定するために以下の実験を行った。まず対象単語毎に OC のデータからランダムに 9 割のデータ取り出し, それらのデータセットを OC-1 とする。これを 20 回行い,

作成する。また同様に PN のデータから PN-1，PN-2，“, PN-20 を作成する。そしてデータセットの組 (OC-i, PB-i, PN-i) を用いて, 前述した実験と同様の実験を行い, 20 個の平均正解率を算出し $\mathrm{t}$-検定（両側検定の有意水準 $5 \%$ ）を行った。結果を表 3 に示す。表 3 における評価値は以下の式により計算されたものである。

$
\frac{\bar{X}_{1}-\bar{X}_{2}}{\sqrt{\left(\frac{1}{n_{2}}+\frac{1}{n_{2}}\right) \frac{n_{1} S_{1}^{2}+n_{2} S_{2}^{2}}{n_{1}+n_{2}-2}}}
$

ここで $\bar{X}_{1}$ と $S_{1}^{2}$ が提案手法の 20 個の平均正解率の平均と分散であり， $\bar{X}_{2}$ と $S_{2}^{2}$ が比較対象の手法の 20 個の平均正解率の平均と分散である. $n_{1}$ と $n_{2}$ は共にサンプル数 20 である. この評価値が自由度 38 の $\mathrm{t}$ 分布の 0.975 の分位点 2.0244 よりも大きい場合に, 提案手法が対応する手法に対して有意であると判定される.

表 3 が示すように P-NB 以外の全ての手法に対して，提案手法が有意に優れていた.

表 2 各手法の平均正解率 $(\%)$

表 3 有意差の検定結果

 &  & 評価値 & 検定結果 \\
提案手法に対して \\

NB & 0.67347 & 1.10743 & 14.16433 & 有意差あり \\
P-NB & 0.71412 & 0.18829 & 0.70677 & 有意差なし \\
A-NB & 0.70878 & 0.31027 & 3.13972 & 有意差あり \\
uLSIF & 0.65627 & 1.94611 & 16.29127 & 有意差あり \\
P-uLSIF & 0.67076 & 2.00794 & 12.15918 & 有意差あり \\
A-uLSIF & 0.66959 & 1.98588 & 12.53072 & 有意差あり \\

## 6 考察

## 6.1 確率密度比を上方修正しないケース

$\lceil p$ 乗する」あるいは「相対確率密度比を取る」という手法は, 元の確率密度比が 1 以下である全てのデータに対してその値を上方に修正するが，提案手法は一部のデータに対しては NB 法の確率密度比が 1 以下であっても，それらを上方に修正できない．提案手法により確率密度比の値が大きくならず，逆に小さくなったデータの個数を表 4 に示す.

ほとんどのデータに対して, その確率密度比を上方に修正しているが, 修正できていないデー 夕が極端に多いケースも存在する。例えば，PB $\rightarrow \mathrm{PN}$ に関しては「言う」「自分」「見る」「やる」「ゆく」，OC $\rightarrow \mathrm{PN}$ に関しては「書く」「見る」「やる」「ゆく」である。これらに関してのみ Base と NB と提案手法の正解率の比較を表 5 に示す.

表5からわかるように，上方修正ができないデータが多くなると，提案手法は NB 法よりも正解率が下がっている，ただし，下方に修正した場合には必ず正解率が下がるとも言えないことに注意したい，例えば，確率密度比の値を下げないようにするには提案手法を修正し，「NB 法の値を上方に修正できなければ，NB 法の値をそのまま使う」という形にすれば良い。この修正案の手法も試した結果を表 6 に示す. 修正案の手法の平均正解率は, 提案手法よりも若干悪かった。

上記の実験は NB 法による確率密度比が 1 以下かどうかは考慮していない.「p 乗する」や

表 4 上方修正できなかったデー夕の個数

表 5 上方修正できなかったデータの正解率 (\%)

表 6 修正版提案手法の平均正解率 $(\%)$

「相対確率密度比を取る」手法では, 確率密度比が 1 以上の場合に，その値を逆に小さくしている. 確率密度比が 1 以上の場合に，上方修正する方がよいのか下方修正する方がよいのかは未解決である．参考として上記の修正案の手法を更に修正し, 「 NB 法の値が 1 以上の場合, あるいは NB 法の値を上方に修正できな場合には NB 法の値をそのまま使う」という形の実験も行った. 結果, 平均正解率は 72.14 と若干改善はされたが, 提案手法よりも若干悪いことに変化はなかった。

デー夕の確率密度比（重み）はその値の大きさが重要ではなく, 他データとの重みとの関係が本質的である，例えば全てのデータの重みを 10 倍して，値自体を増やしても，推定できるパラメータが変化しないのは, 重み付き対数尤度（式 2）の最大化する部分が変化しないことから明らかである。

データの重みはタスクの背景知識から，その重要度を設定していくか，そのデータを数値化した後に確率密度比という観点から設定していくしか方法はないと考える. 提案手法は後者で

ことに，どのような意味があるかを調べることは今後の課題である.

## 6.2 提案手法の重みの上方修正

提案手法は, 確率密度比を上方修正する手法と組み合わせて利用することで更なる精度改善も可能である. 提案手法の確率密度比を $p$ 乗した場合の平均正解率の変化を図 1 に示す. $p=0.6$ のとき最大値 $72.54 \%$ をとった. また提案手法の確率密度比に対してパラメータ $\alpha$ の相対確率密度比をとった場合の平均正解率の変化を図 2 に示す. $\alpha=0.6$ のとき最大值 $72.30 \%$ をとった. ともに確率密度比を上方修正することで平均正解率は改善されている.

図 $1 p$ 乗による提案手法値の上方修正

図 2 相対確率密度比による提案手法値の上方修正
本論文の以降の記述において，提案手法の重みを $p$ 乗した値を重みにする手法を「P-提案手法」，提案手法の重みを相対確率密度比により上方修正した値を重みにする手法を「A-提案手法」と名付ける. ここで $p=0.6, \alpha=0.6$ である.

また前節で行った有意差の検定を「P-提案手法」と「A-提案手法」に対しても行った. 結果,「P-提案手法」は P-NB や提案手法を含む全ての手法に対して有意に優れていた。ただし「A提案手法」は P-NB や提案手法とに有意な差はなかった.

## 6.3 Misleading データからの評価

本論文で提案した確率密度比（重み）は NB 法や uLSIF による確率密度比よりも，有効に機能していた．ただし真の確率密度比の値は未知であるために，真の値に近いかどうかという観点での評価は不可能である。また重みの設定だけで，どの程度まで平均正解率が向上できるのかも未知である。一方, Misleading データを削除してから学習を行うことでかなりの精度向上が可能であることが論文 (吉田，新納 2014) により示されている. Misleading デー夕を削除してから学習することは， Misleading データの重みを 0 , それ以外のデータの重みを 1 とした重み付き学習と見なせる。この重み付けが真の確率密度比と類似しているかどうかは不明だが， Misleading データに対してはできるだけ小さな重みを与える手法が優れているとみなせる。そこでここでは各手法において Misleading デー夕に付与された重みを調べることで手法を評価する.

まず論文 (吉田，新納 2014) で行ったように，しらみつぶしに Misleading を見つけ出す。領域 $S$ から領域 $T$ の領域適応において，対象単語 $w$ の $S$ 上のラベル付きデータ $D$ が存在する. まず $D$ で学習した識別器の $T$ に対する正解率 $p_{0}$ を測る。次に $D$ から 1 つデータ $x$ を取り除き， $D-\{x\}$ から学習した識別器の $T$ に対する正解率 $p_{1}$ を測る. $p_{1}>p_{0}$ となった場合, デー 夕 $x$ を Misleading データと見なす。これを $D$ 内のすべてのデータに対して行い， $S$ から $T$ の領域適応における対象単語 $w$ の Misleading データを見つける。この処理によって見つけ出された Misleading データの個数を表 7 示す. 括弧内の数値は全データ数である.

また Misleading による重みを用いた学習の識別結果を表 8 に示す. 表中の Mislead がそれにあたる。本論文の実験で得られている平均正解率よりもかなり高い。つまり重みの設定のみでも Base の平均正解率 $71.71 \%$ を少なくとも $75.42 \%$ まで改善可能である.

次に各手法が Misleading データに付与した重みにより手法を評価する。領域 $S$ から領域 $T$ の領域適応において，対象単語 $w$ の $S$ 上のラベル付きデータを $D=\left.\{x_{i}\right.\}_{i=1}^{N_{w}}$ とする。まず $D$ 内のデータの重みの平均値 $m_{w}$ を調べる.

$
m_{w}=\frac{1}{N_{w}} \sum_{i=1}^{N_{w}} w\left(x_{i}\right)
$
表 7 Misleading データの個数

表 8 Misleading による重みを用いた学習の平均正解率 (\%)

次に $D$ 内の Misleading データを $\left.\{x_{j}^{\prime}\right.\}_{j=1}^{M_{w}}$ とする. 各 $x_{j}^{\prime}$ の重み $w\left(x_{j}^{\prime}\right)$ が $m_{w}$ と比較して小さな值であればよいので, 対象単語 $w$ に関する Misleading データを用いた評価値 $d_{w}$ を以下で測る.

$
d_{w}=\frac{1}{M_{w}} \sum_{j=1}^{M_{w}} \frac{w\left(x_{j}^{\prime}\right)}{m_{w}}
$

$d_{w}$ は対象単語 $w$ の訓練データの重みの平均值 $m_{w}$ に対して, Misleading データ $x_{j}^{\prime}$ の重み $w\left(x_{j}^{\prime}\right)$ の比を取り，その比の平均を取ったものである。このため $d_{w}$ の値が小さいほど，適切に重み付けできていると考えられる。そして $d_{w}$ の各単語に関して平均を取った値を，その手法における $S$ から $T$ の Misleading データを用いた評価值（小さいほど良い）とする。これをまとめたものが表 9 である。表 9 が示すように, Misleading データを用いた評価では, NB 法, uLSIF 及び提案手法の 3 つの中で uLSIF が最も優れている。ただし提案手法は NB 法よりも優れてい
表 9 Misleading データからの評価値

た. 更に全ての手法において「 $p$ 乗する」，あるいは「相対確率密度比を取る」ことで評価値は改善されており，重みを上方修正する効果があることがわかる。また「 $p$ 乗する」と「相対確率密度比を取る」を比較すると, $p$ 乗する」方が効果があることもわかる。

## 6.4 負の転移の有無

NB 法や uLSIF は Base よりも平均正解率が低い. これは確率密度比からの重み付き学習が効果がなかったことを示している。この原因として, WSD の領域適応では, 領域の変化はあるが，実際には領域適応の問題が生じていない，つまり負の転移 (Rosenstein, Marx, Kaelbling, and Dietterich 2005) が生じていない対象単語がかなり存在するからだと考える．負の転移が生じていなければ，訓練データを全て利用して学習する方が有利であることは明らかであり，重みをつけると逆効果になると考えられる。

この点を確認するために, 負の転移が生じているものと生じていないものに分けて, 各手法の平均正解率を測ってみる。まず負の転移が生じている単語の判定であるが, これは表 7 で示した Misleading データの個数から行う.ここでは Misleading データが全データの 1 割以下の場合, 負の転移が生じないと判定した。結果を表 10 に示す. チェックが付いているものが「負の転移が生じない」と判定したものである.

表 10 でチェックがついていない対象単語に限定して, 各手法の平均正解率を測った結果が表 11 である。また逆に表 10 でチェックがついている対象単語に限定して, 各手法の平均正解率を測った結果が表 12 である.

表 11 と表 12 からわかるように, NB 法や uLSIF は負の転移が生じる, 生じないに関わらず, Base よりも平均正解率が低く, 本実験においては有効ではなかった. 一方, 提案手法は負の転移が生じる場合でも, 生じない場合でも Base よりも平均正解率が高く, どちらの場合でも有効であることがわかる.
表 10 負の転移が生じない単語

表 11 負の転移が生じる単語に限定した平均正解率 (\%)

また負の転移が生じる場合, 提案手法の平均正解率は $\mathrm{NB}$ 法の平均正解率の 1.09 倍であり, uLSIF の平均正解率 1.05 倍である。一方, 負の転移が生じない場合, 提案手法の平均正解率は NB 法の平均正解率の 1.02 倍であり, uLSIF の平均正解率 1.03 倍である. つまり負の転移が生じるケースで提案手法と既存手法（NB 法, uLSIF）との差が大きくなる.

更に確率密度比を上方修正する効果をみてみる。負の転移が生じる場合, NB 法は平均正解率 $60.69 \%$ が $p$ 乗することで $65.19 \%$, 相対確率密度比を取ることで $65.35 \%$ まで向上している
表 12 負の転移が生じない単語に限定した平均正解率 (\%)

ので, 平均的には $7.5 \%$ 平均正解率が向上している ${ }^{5}$. 同様に計算して uLSIF の平均正解率は $3.6 \%$, 提案手法の平均正解率は $0.5 \%$ 向上している. 負の転移が生じない場合, $\mathrm{NB}$ 法は $1.4 \%$, uLSIF は $2.8 \%$ 平均正解率が向上している. また提案手法では平均正解率はほとんど変化しない. つまり確率密度比を上方修正する効果は負の転移が生じるケースで顕著になっている.

今後の課題としては Misleading データの検出方法を考案することである. Misleading データを検出し，そのデータに重みを 0 にすることはかなりの精度向上が期待できる．また Misleading デー夕の割合から負の転移の有無を判定し, 負の転移が生じる問題にだけ, 重み付け学習手法を適用するアプローチも効果があると考えられる。

## 6.5 トピックモデルの利用

論文 (新納, 佐々木 2013 ) は本論文と同じタスクに対して一部同じデータを用いた実験結果を示している。ここではそこでの実験結果の値と本論文の実験結果の値を比較し, 手法間の違いを考察する。

論文 (新納, 佐々木 2013) の核となるアイデアは, ターゲット領域 $T$ のトピックモデルを作成し，ターゲット領域に特有のシソーラスを構築することである。このシソーラスの情報を素性として組み込むことで，識別精度を上げることを狙っている．実験は $\mathrm{OC} \rightarrow \mathrm{PB}$ と $\mathrm{PB} \rightarrow \mathrm{OC}$ の 2 方向である. また対象単語は本論文の 16 単語の他「来る」が含まれている ${ }^{6}$.

$\mathrm{OC} \rightarrow \mathrm{PB}$ と $\mathrm{PB} \rightarrow \mathrm{OC}$ の領域適応における, 本論文の対象単語 16 単語についての識別精度の比較を表 13 と表 14 に示す。なお表中の SVM-TM-kNN は論文 (新納, 佐々木 2013)の手法を意味する。

表 13 正解率 $(\%)$ の比較 $(\mathrm{OC} \rightarrow \mathrm{PB})$

表 14 正解率 $(\%)$ の比較 $(\mathrm{PB} \rightarrow \mathrm{OC})$

対象単語に応じて最も高い正解率の手法は異なるが, 平均的には SVM-TM-kNN が最も高い正解率を示している。ただし SVM-TM-kNN はトピックモデルを構築するために，ターゲット領域のコーパスを利用していることに注意したい。本論文の提案手法はターゲット領域の対象単語の用例を用いているが，コーパスは利用していない。つまり利用しているリソースが異なるために, 単純に SVM-TM-kNN が提案手法よりも優れているとは結論できない.

また SVM-TM-kNN におけるトピックモデルは素性構築の際に利用されているだけであり，提案手法と競合するものではない。つまり SVM-TM-kNN の手法を利用して，WSD での素性を構築し，それに対して本論文の提案手法を適用することも可能である．今後はこの方向での改良も試みたい.

## 7 おわりに

本論文では，WSD の領域適応に対して，共変量シフト下の学習を試みた。共変量シフト下の学習では確率密度比を重みとした重み付き学習を行うが，WSD のタスクでは算出される確率密度比が小さくなる傾向があるため, ソース領域のコーパスとターゲット領域のコーパスとを合わせたコーパスをソース領域のコーパスと見なして NB 法を用いる手法を提案した.

BCCWJ の 3 つの領域 OC（Yahoo! 知恵袋), PB（書籍）及び PN（新聞）に共通して出現する多義語 16 単語を対象にして, WSD の領域適応の実験を行った. NB 法, uLSIF 及び提案手法を比較すると, 提案手法が最も高い平均正解率を出した. また「 $p$ 乗する」や「相対確率密度比を取る」といった確率密度比を上方修正する手法も試し, 提案手法のように確率密度比を上方修正する効果を確認した。

また Misleading データをしらみつぶし的に取り出し, Misleading データを用いた手法の評価も行った. Misleading データを利用した評価では uLSIF が優れていたが, 提案手法は NB 法の改良になっていることを確認できた. WSD の領域適応の場合, Misleading データの検出あるいは負の転移の有無を判定することが，精度改善に大きく寄与できる．今後はこの点の研究を進めたい。またトピックモデルの利用も検討したい.

## 参考文献

Chan, Y. S. and Ng, H. T. (2005). "Word Sense Disambiguation with Distribution Estimation." In Proceedings of IJCAI-2005, pp. 1010-1015.

Chan, Y. S. and Ng, H. T. (2006). "Estimating Class Priors in Domain Adaptation for Word Sense Disambiguation." In Proceedings of COLING-ACL-2006, pp. 89-96.

Chapelle, O., Schölkopf, B., and Zien, A. (2006). Semi-Supervised Learning, Vol. 2. MIT press Cambridge.

Daumé, H. I. (2007). "Frustratingly Easy Domain Adaptation." In Proceedings of ACL-2007, pp. 256-263.

Jiang, J. and Zhai, C. (2007). "Instance Weighting for Domain Adaptation in NLP." In Proceedings of ACL-2007, pp. 264-271.

Joachims, T. (1999). "Transductive Inference for Text Classification using Support Vector Machines." In ICML, Vol. 99, pp. 200-209.

神嶌敏弘 (2010). 転移学習. 人工知能学会誌, 25 (4), pp. 572-580.

Kanamori, T., Hido, S., and Sugiyama, M. (2009). "A Least-Squares Approach to Direct Importance Estimation." The Journal of Machine Learning Research, 10, pp. 1391-1445.

古宮嘉那子, 奥村学 (2012). 語義曖昧性解消のための領域適応手法の決定木学習による自動選択. 自然言語処理, $19(3)$, pp. 143-166.

古宮嘉那子, 小谷善行, 奥村学 (2013). 語義曖昧性解消の領域適応のための訓練事例集合の選択. 言語処理学会第 19 回年次大会, pp. C6-2.

Komiya, K. and Okumura, M. (2011). "Automatic Determination of a Domain Adaptation Method for Word Sense Disambiguation using Decision Tree Learning." In Proceedings of IJCNLP-2011, pp. 1107-1115.

Komiya, K. and Okumura, M. (2012). "Automatic Domain Adaptation for Word Sense Disambiguation Based on Comparison of Multiple Classifiers." In Proceedings of PACLIC-2012, pp. $75-85$.

Maekawa, K. (2007). "Design of a Balanced Corpus of Contemporary Written Japanese." In Symposium on Large-Scale Knowledge Resources (LKR2007), pp. 55-58.

森信介 (2012). 自然言語処理における分野適応. 人工知能学会誌, 27 (4), pp. 365-372.

Okazaki, N. (2009). "Classias: A Collection of Machine-Learning Algorithms for Classification.".

Okumura, M., Shirai, K., Komiya, K., and Yokono, H. (2010). "SemEval-2010 Task: Japanese WSD." In Proceedings of the 5th International Workshop on Semantic Evaluation, pp. 69-74.

Rosenstein, M. T., Marx, Z., Kaelbling, L. P., and Dietterich, T. G. (2005). "To Transfer or Not to Transfer." In Proceedings of the NIPS 2005 Workshop on Inductive Transfer: 10 Years Later.

齋木陽介，高村大也, 奥村学 (2008). 文の感情極性判定における事例重み付けによるドメイン適応. 情報処理学会第 184 回自然言語処理研究会, NL-184-10.

新納浩幸, 佐々木稔 (2013). $\mathrm{k}$ 近傍法とトピックモデルを利用した語義曖昧性解消の領域適応.自然言語処理, 20 (5), pp. 707-726.
新納浩幸, 佐々木稔 (2014). 共変量シフトの問題としての語義曖昧性解消の領域適応. 自然言語処理, 21 (1), pp. 61-79.

新納浩幸, 國井慎也, 佐々木稔 (2014). 語義曖昧性解消を対象とした領域固有のシソーラスの

構築. 第 5 回コーパス日本語学ワークショップ, pp. 199-206.

Sogaard, A. (2013). Semi-Supervised Learning and Domain Adaptation in Natural Language Processing. Morgan \& Claypool.

杉山将 (2006). 共変量シフト下での教師付き学習. 日本神経回路学会誌, 13 (3), pp. 111-118.杉山将 (2010). 密度比に基づく機械学習の新たなアプローチ. 統計数理, 58 (2), pp. 141-155.

Sugiyama, M. and Kawanabe, M. (2011). Machine Learning in Non-Stationary Environments:

Introduction to Covariate Shift Adaptation. MIT Press.

高村大也 (2010). 言語処理のための機械学習入門. コロナ社.

Yamada, M., Suzuki, T., Kanamori, T., Hachiya, H., and Sugiyama, M. (2011). "Relative

Density-ratio Estimation for Robust Distribution Comparison." Neural Computation, 25 (5), pp. 1370-1370.

吉田拓夢, 新納浩幸 (2014). 外れ值検出手法を利用した Misleading データの検出. 第 5 回コー パス日本語学ワークショップ, pp. 49-56.

## 略歴

新納浩幸：1985 年東京工業大学理学部情報科学科卒業. 1987 年同大学大学院理工学研究科情報科学専攻修士課程修了．同年富士ゼロックス，翌年松下電器を経て, 1993 年 4 月茨城大学工学部システム工学科助手. 1997 年 10 月同学科講師, 2001 年 4 月同学科助教授, 現在, 茨城大学工学部情報工学科准教授. 博士 (工学). 機械学習や統計的手法による自然言語処理の研究に従事.言語処理学会, 情報処理学会, 人工知能学会各会員.

佐々木稔：1996 年徳島大学工学部知能情報工学科卒業. 2001 年同大学大学院博士後期課程修了. 博士 (工学). 2001 年 12 月茨城大学工学部情報工学科助手. 現在, 茨城大学工学部情報工学科講師. 機械学習や統計的手法による情報検索, 自然言語処理等に関する研究に従事. 言語処理学会, 情報処理学会各会員.