# 文書量に不変な定数
一Yuleの $K$, Golcher の $V M$ -

木村 大翼†・田中久美子†
}

本稿では, 文書量に不変な定数を考える。このような定数には, 言語や文書の複雑 さや冗長性を定量化して捉える計算言語学上の意義がある。これらの指標は既存研究でさまざまなものが提案されてきたが, ほとんどの場合英語を中心とする小規模 な文書を対象としてきた。本研究では英語以外のさまざまな言語や, 大規模な文書 も対象として扱い, 主に先行研究において值が文長に依らないとされる 3 つの指標 $K, Z, V M$ と本研究で新たに試みた指標である $H$ と $r$ の 5 の指標に対し, 值が 一定となるかどうかの実験を行った，結果，値が言語の種類や文長に依らずに一定 となる指標は $K$ と $V M$ の 2 つの指標であった. なおかつこの 2 つの指標の値には 自然言語とプログラミング言語の間で有意な差が見られ，言語の複雑さや䒕長性を ある観点で表した指標となっていると考えることができる.

キーワード : 定数, 多言語の文書, 言語モデル，複雑さ，朵長性
## A Study on Constants of Natural Language Texts

\author{
Daisuke Kimura $^{\dagger}$ and Kumiko TanaKa-IshiI ${ }^{\dagger}$
}

This paper considers various measures which become constant for any large lengths of a given natural language text. Consideration of such measures gives some hints for studies of complexity of natural language. Previously, such measures have been studied mainly for relatively small English texts. In this work, we consider the measures for texts other than English and also for large scale texts. Among the measures, we consider Yule's $K$, Orlov's $Z$, and Golcher's $V M$, which are previously empirically argued their convergence, and in addition, the entropy $H$, and $r$, the measure related to the scale-free network. Our experiments show that both $K$ and $V M$ are convergent for texts of various language, whereas the other measures are not.

Key Words: constants, multilingual texts, complexity, language models, redundancy

## 1 はじめに

本稿は, 文書, あるいはある観点で集められた文書群が与えられたとき, それについて文書量 に依存しない定数一これを本稿では文書定数と定義する一を計算する方式に関する報告である.文書定数は，古くは文書の著者判定を主たる目的として探究された。最も古い代表的なもの

として，1940 年代に提案された Yuleの $K$ がある. 現在では, 著者判定に対しては, 言語モデ ルや機械学習に基づく方法など, 代替となる手法が数多く提案されている. このため, 何も文書や文書群をあえて定数という一つの数値に還元して判定を行う必要はない. しかし, 文書あ るいは文書群がある一貫した特質を持つのであれば，その特質を定数に還元しようとすること 自体は, 工学上の個別の応用を超えて, より広く計算言語学上の興味深いテーマであると筆者 らは考える。

文書あるいは文書群に通底する一貫性の種類には，内容や，難易度などさまざまなものが考 えられ，言語処理分野では文書分類や，難易度判定としてそれを捉える工学的方法が考案され てきた. 文書定数の場合には, もともとの研究の発端が著者判定にあったために著者の語彙量,語彙の偏り度合, あるいは個別文書の複雑さなど, 語彙の複雑さを計測し数値化する問題とし て考えられてきた，一般に，文書の大きさが増すほど，文書の複雑さは増大するが，一方で，漱石の「坊っちゃん」の一部分にはその全体にも通底する固有の特質があると捉えることもでき よう。これを定数として表そうとすることは, 記号列としての文書に一貫する複雑さのある側面を考えることにつながると考えられる。 そして, 対象としうる文書は個別作品だけではない.特定の内容の文書群や, 特定の言語の文書群でこれらの定数を考えることは, 自然言語の記号列の有する特質に光を当てることにはならないか.

文書定数を考えることは，本稿でも報告するように，易しい問題ではない，その一つの理由 は, 自然言語の文書において hapax legomena一頻度が 1 回きりの単語一が語彙に対して占める 割合が比較的大きいことにあろう，たとえば，サイコロであれば，各目の出る確率を推定する のに必要な施行回数は推定することができる。一方で，文書の場合には，さまざまな統計的推定には文書量が常に不十分な状態のままである (影浦 2000; Baayen 2001). すなわち, 文書定数 を考えることは, 確かな言語モデルが不在のまま，量が常に足りていない状態のままで定数を 考える，という問題として位置付けられよう.

次節でまとめるが，文書定数に関する研究は，すでにさまざまなものがあり，単語に注目する ものと文字列に注目するものに大別される。近年の研究では, それらのほとんどが文書長に応 じて単調変化してしまうことが報告され, その中で, 文書定数となる指標は, 筆者らの知る範井では, 現在のところ 2 つしかない. この現状の中で, 本稿の意義は以下の 4 点にまとめるこ とができる，第一に，過去の研究で定数とされているものうちの一つが定数ではないと実験的 に示したことである. 第二に, 過去の提案に加え, 近年研究されている言語の大域的特性を捉 える複雑系ネットワークや言語エントロピーといった数理的枠組みから, 文書の特性を大域的 に捉える指標を新たに吟味し，これらがやはり文書定数とならないことを示すことである．以上の意味で, 本稿では, 新しい文書定数を提案するものではなく, 文書定数としては依然とし て, 既に提案されていたもののうち 2 つのみである, という結論となる. 第三に, 文書定数に 関する研究は, 英語を中心として展開し, やや広くても印欧語族についてのみの報告しかない.
本稿では，日本語や中国語に関しても実験を行い，過去に提案されてきた文書定数が非印欧語族に対しても定数として成り立つかどうかを論じる，第四に，過去の研究の大半では，短い個別文書に関して定数となるかどうかが調べられてきた。本稿では，数百 MB にわたる文書群で の実験結果も報告する.

## 2 関連研究

過去の研究には単語に基づくものと, 文字列に基づくものの二種類のものが提案されている.単語ユニグラムに基づく文書定数を得ようとしたもっとも古い学者の一人は前述のように Yule である (Yule 1944). Yuleの目的は, 著者判定にあり, 単語ユニグラムに基づく指標 $K$ を提案 した. これを受け, Herdanが 60 年代に独自の式を提案している (Herdan 1964). その後は, 個別の提案が続き, 近年, Tweedie と Baayen が, 単語ユニグラムのみに基づく指標に関し, 網羅的な研究を行っている (Tweedie and Baayen 1998). 彼らは単語ユニグラムに基づく既存の 12 の指標に関し, 実際に定数となるかどうかを調べた。対象とした文書は, 「不思議の国のア リス」など英語の複数の短い個別文書である．彼らの実験では， 12 の指標が文書中の単語はラ ンダムに発生するという仮定のもとで提案されていることを受け, 文書中の単語を出現順にそ のまま扱うものではなく, 文書全体の単語をランダムに入れ替えてシャッフルすることを行っ た上で，指標を計測した，その上で， 12 の指標の中で $K$ と $Z$ について小規模な英語文書で は文長によらず值がほぼ一定となるが，そのほかの指標は一定とはならないことが報告されて いる. さらに, Tweedie と Baayen は, 指標が文書の著者判別に用いることができるかを探究し た. 各文書を $K-Z$ 空間で表し, クラスター分析などの別手法と比較した結果, $K$ と $Z$ 二つ の特徴量だけで著者を表すことができると結論づけた。

本稿では, 単語ユニグラムに関して, Tweedie と Baayen の報告とは異なる見解を実験を根拠 に示す. それは指標 $K$ と $Z$ のち, $Z$ は文書定数を構成しないというものである， $Z$ は，次節 で詳しく説明するが，Zipf の法則を背景とする点で複雑系ネットワークとの関係が深い. この 点で, 言語の大域的特性を表す言語のべき乗則から単純に考えられる定数 $r$ を考えることがで きるが, それも定数とはならないことを合わせて示す. また, Tweedie と Baayen は, 英語の短 い文書のみを対象としたが，本稿では，日本語や中国語も対象とする。

文書定数としては，言語エントロピーにまつわる一連の研究を考える必要がある． Shannon (Shannon 1948)によって提案されて以来, 言語エントロピーを計算する方法が, 文字列に基づ く方法, $\mathrm{n}$ グラムに基づく方法の両方で考えられてきた (Cover and Thomas 2006). 言語エント ロピーは, 文字列の壳長性を特徴付ける以上, 文書においてもある下限值に収束する定数として 計測されうることが期待される。言語処理の分野でも (Brown, Pietra, Pietra, Lai, and Mercer 1983) が単語 $\mathrm{n}$ グラムに基づく言語エントロピーの upper bound を計測する方法を示している

が, データ量に対して, 推定量がどのように推移するかについての考察は述べられていない. また, (Genzel and Charniak 2002)がエントロピーレート（一文字あたりのエントロピー）が定数である, という仮説を示している。しかし, 論文の内容は, エントロピーレートに関わる計算式のある項が増大することを理由とする間接的なものに基づき，エントロピーレートが本当 に定数を為すといえるかは何ともいえない．また， $\mathrm{n}$ グラムに基づく方法は，スムージングと 関連してパラメータ推定を要する点が文書定数を求める上では, 難しい.このような中, 筆者 らは，文字列に基づくエントロピーの計算方法として，パラメータ推定を要せず，収束性が数学的に示されている Farach らの計算方法 (Farach, Noordewier, Savari, Shepp, Wyner, and Ziv 1995) を用い $H$ を計算し，その文長依存性を本稿では考える。

最後に, 近年 Golcher が文字列の繰り返しに基づく画期的な指標 $V M$ を提案した (Golcher 2007). 詳細は後述するが，Golcherは接尾辞木の内部ノード数を文長で割った値が，文書定数 であることを示したばかりでなく，20 の印欧語族は 0.5 付近で同じ値となることを示した。ま たプログラミング言語やランダムテキストについては文長に対して値が変化し, 自然言語の場合と変化の様子がかなり異なるという結果が報告されている。 たとえば, 図 1 は, Golcherの見解に沿って，筆者らが生成した図であるが， $n$ 文字がランダムに出現する場合の $V M$ は，横軸 を文字数の対数, 縦軸を $V M$ として，振動することがわかる. Golcher の実験でもわれわれの 結果でも，言語の文書は $V M$ は文長に依らず定数となる. Golcher はなぜ $V M$ が一定になるの かについての理論的な考察は展開しておらず, それは将来の課題としている. Golcher は印欧語族に対してのみ結果を示しているが，本稿では，日本語や中国語についても Golcher の値が定数となることを示す.

図 1 各文字がランダムに出現する場合の VM

## 3 指標

前節で説明したように, 本稿では単語に基づく指標として, $K, Z, r$, また, 文字列に基づく 指標として $V M$ と $H$ を用いた，以下，各指標を順に説明する。

## 3.1 単語に基づいた指標

## Yule の指標 $K$

指標 $K$ は文書の語彙の豊富さを示す指標として 1944 年に統計学者の Yule によって提案され た (Yule 1944). 今, 文書の総単語数（単語数で計測した際の文書長）を $N$, 単語の種類を $V$ と し，文書中に $m$ 回出現する単語の種類を $V(m, N)$ とすると， $K$ は

$
K=C\left[-\frac{1}{N}+\sum_{m=1}^{m=N} V(m, N)\left(\frac{m}{N}\right)^{2}\right]
$

で定義される。ここで $C$ は $K$ の值が小さくなりすぎないようにするための係数であり, Yule は $C=10^{4}$ とした. この $C$ の值に本質的な意味はない. また, Yule は文書の生成モデルにつぼ モデルと呼ばれる文書中の単語はランダムに出現するものとしたモデルを仮定している。この モデルにおいて $N$ が十分大きい時には，この $K$ の期待値が一定となることを数学的に証明す ることができる (Baayen 2001).

$K$ が語彙の豊富さを表すことを以下簡単に説明する，今，文書中からランダムに単語を一つ 選ぶことを考える。すると式 (1)において $\left(\frac{m}{N}\right)$ は文書中 $m$ 回出現する単語が選択される確率を 表す.よって $\left(\frac{m}{N}\right)^{2}$ はそのような単語が連続で選択される確率である.ここで同じ単語が連続 で選択される確率が大きい場合は文書の語彙が乏しい場合, 逆に確率が小さい場合は語彙が豊富な場合と見なすことができる．式 (1)より前者の場合は $K$ の値は大きくなり，後者の場合は $K$ の值は小さくなることがわかる。このように $K$ は同じ単語が連続で出現する確率に基づいた 語彙の豊富さを表す指標である。

## Zipf の法則に基づいた指標 $Z$

文書中に現れる各単語の出現頻度は Zipf の法則に従うということが経験的に知られている (Zipf 1949). $Z$ はこの Zipf の法則に基づいた指標である．今，文書の総単語数（単語数で計測した 際の文書長）を $N$, 単語の種類を $V_{N}$ とし, $z$ を文書中に出現する単語の回数に関して降順に並 べた時の順位を表す変数とする。ここで順位が $z$ である単語が文書中に出現する回数を $f(z, N)$ とすると, $f(z, N)$ と $z$ の間に

$
f(z, N)=\frac{C}{z^{a}}\left(C \text { は規格化定数で } \sum_{z} f(z, N)=N \text { を満たすように定める }\right)
$

というべき乗則の関係がおおよそ成り立つ. また式 $(2)$ において $a=1, C=V_{N}$ とおくと文書中に $m$ 回出現する単語の種類 $V(m, N)$ が

$
V(m, N)=\frac{V_{N}}{m(m+1)}
$

と表現されることが導かれる。

Orlov らは 1983 年に Zipf の法則を拡張して, 総単語数が $N$ である文書の単語の種類 $V_{N}$ の期待値 $E\left[V_{N}\right]$ が一つのパラメータ $Z$ を用いて

$
E\left[V_{N}\right]=\frac{Z}{\log (p Z)} \frac{N}{N-Z} \log \left(\frac{N}{Z}\right)
$

と表すことができることを示した (Orlov and Chitashvili 1983). ここで $p$ は文書中に最も多く 出現する単語の相対頻度であり，文書ごとにほぼ一定の定数と見なされる。

$Z$ は，文書が与えられた際に式 (3) の関係が最もよく当てはまる単語数である。また式 (4)に おいて $N$ を固定して考えてみると， $Z$ の値が大きくなるにつれて文書の単語の種類の期待値で ある $E\left[V_{N}\right]$ の値が大きくなるので，指標 $Z$ は文書の語彙の豊富さを表す指標だと解釈すること ができる.

最後に $Z$ の計算方法について述べる. 式 (4)において単語数が $N$ である時の単語の種類の期待値 $E\left[V_{N}\right]$ を実際の文書の $V_{N}$ で置き換えると

$
V_{N}=\frac{Z}{\log (p Z)} \frac{N}{N-Z} \log \left(\frac{N}{Z}\right)
$

を得る.この式は $Z$ について陽に解くことができないので解析的な解を得ることはできない. したがって $Z$ を求める際には

$
f(Z)=\frac{Z}{\log (p Z)} \frac{N}{N-Z} \log \left(\frac{N}{Z}\right)-V_{N}
$

とおいて $f(Z)=0$ をニュートン法の反復解法を用いて数値的に解く.

## 複雑系ネットワークに基づいた指標 $r$

指標 $r$ は， $Z$ が複雑系の観点からの指標であることを受け, 本研究で新たに試みた関連指標 であり，文書の単語のネットワーク構造に着目したものである。まず文書から構成される無向グラフ $\Omega=(W, E)$ について説明する. 文書中の単語の種類を $V$ とすると, $W$ は $W=\left.\{w_{i}\right.\}$ $(i=1, \ldots, V)$ で定義される各単語を頂点とする頂点集合である. また, $E$ は $E=\left.\{\left(w_{i}, w_{j}\right)\right.\}$ で 定義される単語間のつながりを表す枝集合であり，2つの単語 $w_{i}$ と $w_{j}$ が連続して現れる場合 に枝が存在する。つまりここで考えているネットワークは文書中の各単語を頂点として連続し て現れる単語間に枝を張ったネットワークである。
本稿では文書の単語から構成されるネットワークとして上記のようなものを考える. これ以外にも単語ネットワークの構築方法には構文解析結果を用いるものや, 文書の単語間の共起関係に基づいたネットワークなど複数考えることができる。しかし，単語から構成されるどのよ うなネットワークを考えたとしても，本稿の目的である文書の複雑さといった文書の大域的な 特性を考えた場合には，いずれのネットワークにおいても類似した性質が現れると考えられる。実際にいくつかを実験的に試してみたが，文書量に対して一定となるかどうかの観点では，大勢に影響はなかった。ゆえに本稿では，文書の単語から構成されるネットワークとして上記を 扱う。

さて，ここで得られたネットワークの各頂点の次数分布に着目する．グラフにおいて頂点の 次数が $k$ である確率を $P(k)$ とおく，図 2 は英語と Java の場合の次数分布の両対数をとった図 である。図の横軸は次数 $k$ の対数であり，縦軸は $P(k)$ の対数である。いずれもある次数までは ほぼ直線になっている。このことから単語のネットワークの次数分布はある次数まではべキ分布に従っていると考えられる。このような性質はスケールフリー性 (Barabási and Albert 1999) と呼ばれ，現実のさまざまな複雑系ネットワークで現れる性質である.

ベキ分布は

$
P(k)=c k^{-\gamma}
$

という形で表される．ここで $c$ は正規化定数であり， $\sum_{k=1}^{\infty} P(k)=1$ の条件から定まる。ここ で式 (5) の両辺において対数をとれば

$
\log P(k)=-\gamma \log k+\log c
$

となりべキ分布は両対数グラフにおいて直線になることがわかる.

図 2 英語と Java の場合の次数分布
今, 式 (6) の両対数グラフ上での傾き $-\gamma$ に着目し, 指標 $r$ を

$
r=-\gamma
$

で定義する。この指標が一定になるかということに関して特に理論的な背景はないが, $r$ は前節までで紹介した $Z$ と同様に言語のべき乗則に関する指標で，言語の大域的特性を示すもので ある以上，文書ごとに文長に依らず一定となることが期待される.

最後に $r$ の計算方法について述べる。本稿で $r$ を求める際には，まず実際に文書の単語から 構成されるネットワークをつくり, ネットワークの各頂点の次数を調べ, 図 2 のような次数分布を得る. 次に, この次数分布の傾きである $r$ を得る際には, 次数が 2 から $\sum_{k=1}^{n} P(k) \geq A$ を 満たす最小の次数 $n$ までの範囲で, 最小二乗法を用いて傾きを推定した1. これは次数が 1 の場合と次数がある大きさを超えた範囲では，いずれの文書から構成されるネットワークにおいて も，図2のように次数分布がべき分布から大きく外れているためである.

## 3.2 文字列に基づいた指標

## Golcher の指標 $V M$

$V M$ は文字列の繰り返しの量を表す指標として近年 Golcherによって提案された指標であり，接尾辞木の構造を利用したものである (Golcher 2007). 接尾辞木とは, 文字列が与えられた時 の接尾部を木構造で表したデー夕構造であり, 接尾部に対するパトリシア木である (Gusfield 1997). 以下与えられた文字列を $S$, その文字列の長さを $T, S$ の $i$ 番目の文字を $S[i], S$ の $i$ 番目から $j$ 番目までの部分文字列を $S[i, j](i, j \in\{1, \ldots, T\}, i \leq j)$ をとする. 文字列 $S$ の接尾辞木 $\mathcal{T}$ は以下のように定義される (Ukkonen 1995; Gusfield 1997).

根から葉へと向かう有向木 $\mathcal{T}$ が次の条件を満たす時， $\mathcal{T}$ は $S$ 接尾辞木であるという.

・ 1 から $T$ までの整数がラベル付けされたちょうど $T$ 個の葉が存在する.
- 内部節点は少なくとも 2 つの子もち, 各枝には $S$ に含まれる空ではない文字列が 対応する.
- 同じ節点からの枝のラベルは必ず異なる文字から始まる.
- すべての葉 $i$ に対して根から葉 $i$ までの経路のラベルは $S[i, T]$ となる.

Golcher の用いる接尾木辞は， $S$ に含まれない文字を終端記号として文字列の最後につけて接尾辞木を構築する。たとえば，図 3 は文字列 'cocoa'の接尾辞木である.

これを用いて, $V M$ の定義, 説明を行う. 今, 与えられた文字列 $S$ の文字数を $T, S$ の接尾辞木における内部節点の数を $k$ とすると指標 $V M$ は

$
V M=\frac{k}{T}
$

図 3 'cocoa' の接尾辞木

で定義される. 長さ $m$ の接尾辞木は $m$ 個の葉を持つことから, 内部節点の数は最大でも $m-2$個である. よって $0 \leq k<T-2$ であるから $V M$ の值の範囲は $0 \leq V M<1$ となる. ここで Ukkonen のアルゴリズムによると，接尾辞木の内部接点はこれまでに現れていない共通部分が 新たに現れる場合に増える。したがって $V M$ はある種の文字列の繰り返しの量を表していると 考えることができる.

最後に $V M$ の計算方法について述べる。式 (8) で定義される $V M$ の値を求めるためには接尾辞木の内部節点の数を求めればよい. 最も素朴な方法としては, 直接接尾辞木を構成すること によって求める方法が考えられる。しかし，一般に接尾辞木の構成に必要な空間領域は，入力 の文書の数十倍となり, 大規模な文書を扱う場合には直接接尾辞木を構成する方法は現実的で はない. 本稿では，より効率的なデータ構造である接尾辞配列と高さ配列を用いて, 接尾辞木 の擬似巡回を行うことによって内部節点の数を求めた. アルゴリズムは (Kasai, Lee, Arimura, Arikawa, and Park 2001) に詳しい.

## 文書のエントロピー $H$

ここで紹介するエントロピー $H$ は情報理論の分野において Shannon によって 1948 年に導入さ れた (Shannon 1948)，文書を構成する有限個のアルファベットの集合を $\chi$ とし， $X$ を上の確率変数とする. この時, 各アルファベット $x \in \chi$ の文書における出現確率を $P_{X}(x)=\operatorname{Pr}(X=x)$ とおくとエントロピー $H$ は，

$
H=-\sum_{x \in \chi} P_{X}(x) \log P_{X}(x)
$

で定義される.

文書のエントロピーを求めるためには式 (9) より各アルファベット $x$ に対し, その出現確率 $P_{X}(x)$ を知る必要があるが, 文書から得られる出現確率はあくまで真の出現確率の近似であり,文書から直接求めることはできない。言語処理では文章のエントロピーを求める方法につい てはさまざまな試みがある (Cover and Thomas 2006; Brown et al. 1983). 本稿では，エントロ ピーの値の推定方法として, 収束性が証明されている一つの方法であることから, Farach らに

よる手法を用いた (Farach et al. 1995).

今与えられた文書を一つの文字列と見なしてこれを $S$ とし，その長さを $T, S$ の $i$ 番目から $j$番目までの部分文字列を $S[i, j](i, j \in\{1, \ldots, T\}, i \leq j)$ とする. 次に $S$ の各位置 $i(1 \leq i \leq T)$ に対してそれより以前の最大マッチング $L_{i}$ を以下のように定義する.

$
L_{i}=\max \{k: S[j, j+k]=S[i, i+k]\} \quad(j \in\{1, \ldots, i-1\}, 1 \leq j \leq j+k \leq i-1)
$

つまり $L_{i}$ は $S$ 番目から始まる文字列と， 1 番目から $i-1$ 番目までの文字列との最大共通部分文字列長である。そしてこれら $L_{i}$ の平均値 $\bar{L}$ を,

$
\bar{L}=\frac{1}{T} \sum_{i=1}^{i=T} L_{i}
$

とする.この時 Farach らのエントロピーの推定値 $H$ は,

$
H=\frac{\log _{2} T}{\bar{L}}
$

で定義される. 今, 真のエントロピーの値を $H_{t}$ とすると, この手法によって得られる推定値 $H$ は， $T \rightarrow \infty$ の時に $\left|H_{t}-H\right|=O(1)$ となることが数学的に示されている.

## 4 実験

本研究では個別文書と，数十 $\mathrm{MB} \sim 200 \mathrm{MB}$ の自然言語やプログラミング言語の文書を用いて 3 章で説明した $K, Z, r, V M, H$ の各指標の文長に対する値の変化を調べる実験を行った.

以下 4.1 節で実験データや実行環境を説明した後に，4.2 節で小規模文書での実験結果, 4.3 節 で大規模文書に対する結果を図とともに述べる.

## 4.1 実験データおよび実験環境

## 4.1.1 実験データ

今回の実験で用いた文書は表 1 の通りである.

個別文書に関しては, (Tweedie and Baayen 1998) とは異なり, 英語だけではなく, 日本語, フランス語，スペイン語の文章も対象とした。用いたデータは表 1 の第一ブロックに示した.

(Tweedie and Baayen 1998) らの研究を概観すると，定数になるかどうかを吟味するには，小規模な個別文書では長さが不十分であることもよくある。 そこで, 日本語, 英語, 中国語の新聞コーパスについても定数となるかどうかを調べる。また, 得られる定数が言語の特徴量を表 すかどうかを吟味するため, 比較対象としてプログラミング言語のデータも用いる。このため には, Java, Rubyと Lispのソースを用いた. ここで日本語と中国語については $V M$ と $H$ の値
表 1 実験で用いた言語デー夕

を計算する際には日本語（ローマ字），中国語 (pinyin)の文書を用いた場合，ならびに，元のテ キストを用いた場合の両方を報告する。その他の言語に関してはいずれの指標の場合も表 1 に ある各言語の文書を用いて実験を行った。また，プログラミングにおける単語は以下のように 定義した。まず，Java とRuby についてはソースを記号で分割し, 分割された各要素を単語と した. 例えば ‘if $(\mathrm{i}<5)$ break;' であれば 'if', '(', 'i', ‘<', '5', ')', 'break', '; の 8 つ要素が単語 である。 Lisp の場合はこれらの要素から‘('と‘)’の 2 つを除いたものを単語とした.

## 4.1.2実験で用いたプログラム

今回の実験においてはいくつかの外部プログラムを利用した。ここでそれらのプログラムに ついて記載する.

まず単語に基づいた指標 $K, Z, r$ の値を計算するために文書を単語に分割する必要がある。日本語の場合は形態素解析ソフト $\mathrm{Mecab}^{2}$ を, 中国語については, ICTCLAS を用いて単語に分割 した，文字列に基づいた指標 $H, V M$ については，日本語，中国語に関しては，ローマ字，pinyin 変換したものについても計算した，中国語に関してはあらかじめ pinyin 表記で書かれた別の文書を用いたが，日本語の場合は KAKASI 4 を用いてローマ字に変換した.

各指標の計算方法は， 3 節で示したとおりである.
^{4}$ http://kakasi.namazu.org/index.html.ja
}

## 4.2 個別文書に対する結果

個別文書に関する結果を図 4-8について示す。英語の文書のみならず，他の印欧語族や日本語といった文書については， $K, V M$ については一定となる一方で， $Z, r, H$ については大域的

図 4 個別文書に対する $K$

図 6 個別文書に対する $Z$

図 5 個別文書に対する $V M$

図 7 個別文書に対する $r$

図 8 個別文書に対する $H$

には単調変化する結果となった. (Tweedie and Baayen 1998)の結果では， $Z$ が一定となること が示されていた。しかし，実験では一貫して $Z$ が一定とはならないことが示されている．同様 に，類似の複雑系の指標としての $r$ もやはり一定とはならなかった。

## 4.3 大規模文書に対する結果

文長に対する各指標の値と, 参考のためにシャッフル後の結果について述べる. ここで文書 をシャッフルするとは，各文書ごとに文書中の単語の順番をランダムに入れ替えることを言い， シャッフル後の結果とは, この操作を 20 回繰り返した際の指標の平均値である. このように単語順序をランダムに入れ替えるのは，もともと Tweedie と Baayen (Tweedie and Baayen 1998) が行っていた方法で, 数式上の仮定を満たすためであり, 文書定数を考える上で前処理として の妥当性は疑問である。とはいえ，文書には確かに局所的な摇れやぶれがあるので，大域的特性を概観し, 元文書に対する指標の推移を比較検討するために示すものである。このシャッフ ルは先行研究との対比のため $K$ と $Z 2$ つの指標に対してのみ結果を示す. 以下の図では, 横軸は文書の単語数の対数をとったものであり, 縦軸は指標の値である.

然言語の場合，いずれの言語においても文書の単語数の対数に対して値はほぼ一定となった. プログラミング言語の場合は自然言語と比べて若干の変化が見られたが, 単語数が 10 万を超え ると同様に値はほぼ一定となった。文書中の単語の順番をランダムに入れ替えた場合ではいず れの言語の場合でも文書の単語数の対数に対してほぼ完全に一定となった. シャッフル前と後 で $K$ の值はほとんど変化していないことから，Kは文書中の単語がランダムに出現するという 仮定が背後にある指標にも拘わらず，ランダム性が崩れた実際の文書においても値がほとんど 変わらずほぼ一定となったということが興味深い. また，プログラミング言語の $K$ の値は自然言語の値と比べてかなり大きくなり, 両言語間の $K$ の値に大きな差が出る結果となった.

図 9 各言語の $K$

図 10 各言語の $K$ (シャッフル後の平均値)
$V M$ については日中をアルファベットに変換した場合の結果をまず吟味する．図 11 は各文書に対する $V M$ であり，図 12 は図 11 を拡大したものである，日本語の場合に値が英語，中国語と比較してわずかに大きくなっているが，いずれも文書量の対数に対して値はほぼ一定でお よそ 0.5 の値をとった. プログラミング言語の場合は自然言語の場合よりも変化が見られるが，単調に変化する傾向はみられない．プログラミング言語に関する $V M$ の値は自然言語よりも大 きく，およそ 0.65 の値をとり，両言語間で値に大きな差が表れた。これは，自然言語の冗長性 が，プログラミング言語のそれよりも一律に小さいことを示しているだろう。

次にアルファベットに変換しない場合の日本語, 中国語の文字列をそのまま用いた場合の $V M$ の結果を図 13 と図 14 に示す。これらの図には比較のため, アルファベットに変換した場合の 日本語，中国語の結果も含まれている.

まず $V M$ の值は，アルファベットに変換しない場合の日本語，中国語の文字列をそのまま用 いた場合でも，アルファベットに変換した場合と同様に文書量の対数に対して值はほぼ一定と なることがわかる。しかし $V M$ の値の大きさに注目すると，その值は日本語，中国語のいずれ

図 11 各言語の $V M$

図 13 日本語と中国語の原文の $V M$

図 12 各言語の $V M$ (図 11 の拡大図)

図 14 日本語と中国語の原文の $V M$ (図 13 の拡大図)

の場合もおよそ 0.35 であり，アルファベットに変換した場合の 0.5 という值より小さくなって いる。これは日本語，中国語の原文におけるアルファベットサイズが変換後のそれよりも遥か に大きいため, 文書中で繰り返し出現する文字列の種類が減少し, 接尾辞木の内部節点の数が 少なくなったからだと考えられる。

その他の 3 つの指標 $Z, r, H$ について述べる。図 15-18 はそれぞれ各文書に対する $Z, r, H$ の 結果である。まず複雑系に関連した指標である $Z$ と $r$ はにおける Lisp を除いて文長に対し て値が単調に増加する結果となった。Lisp は $Z$ において値が微増するにとどまり，ほぼ一定と なった， $Z$ や $r$ は，言語に内在する大域的な構造を一挙に捉えるものであるが，それは一般的 には一定値にはならないということである。 また, 文字列のエントロピー $H$ は文長に対して値 が単調に減少する結果となった。なお, ここで示す $H$ は日中についてはアルファベット表記に 変換した結果である. さらに，Zについてはシャッフル後も同様にLisp を除いて値が一定とは ならなかった。他の言語においては全く一定にならなかった $Z$ が Lisp に限り, 値が微増するに とどまったという結果は大変興味深い.

図 15 各言語の $Z$

図 17 各言語の $r$

図 16 各言語の $Z$ (シャッフル後の平均値)

図 18 各言語の $H$
以上の実験に加えて $V M$ と $H$ の 2 つの指標については，文書の文字列を逆順にしたものに 対しても実験を行ったので，その結果を簡単に述べる。これは $V M$ と $H$ が本研究で検討して いる指標の中で文字列の順序に依存する指標であるからであり，文書の文字列を逆順にするこ とによって, 文字列の前から後ろへの依存性だけではなく, 後ろから前への依存性を調査した。結果としては，文字列を逆順にしても， $V M$ と $H$ の値は文長が増加するにつれて文字列の順序 を変えない場合の値とほぼ同じになった。

## 5 考察

まず，文長に依存せず指標が一定となるかどうかの観点から考察する．前章での実験の結果 から自然言語, プログラミング言語において文長に依らず值がほぼ一定となる指標は本研究の 範囲では， $K$ と $V M$ の 2 つの指標であることが示された.

$V M$ については非印欧語族である日本語, 中国語においてもアルファベット表記ならば値が およそ 0.5 となった。これはアルファベット一あるいは荒い近似としての音一という限られた 言語要素を用いて行う言語表現中に内在する冗長性の度合を表しているものと考えられる。ま た日本語, 中国語の本来の表記を用いて同様に $V M$ の値を計算すれば, 用いる文字の種類がア

なることが示された. すなわち，用いることができる言語上の要素数が大きくなると， 冗長性 は小さくて済むことを表している。いずれにせよ， 2 節で示したように，要素がランダムに生起する場合には振動する指標が，言語では一定となることは実に興味深い.

次に値が一定とならなかった指標について論じる，Z は Tweedieらの先行研究において小規模な英語文書において値が文長によらず一定となるという結果であったが，個別文書において も，大規模文書においては Lisp を除いたいずれの言語においても一定とはならずに文長に対し て単調に変化した.ここで Lispについては微増との結果となった. このように, 過去に提案さ れてきた指標は，言語によっては一定となる場合もある。本稿では，「さまざまな文書におい て普遍に一定量となる指標」に焦点を当てているので， $Z$ はそれには該当しない．しかし，ど の指標がどのような特性を持つ言語に対して一定となるのかについては，今後の課題といえよ う． $Z$ と同様に複雑系に関連した $r$ については $Z$ と同じように值が文長に対して変化する結果 となった。 エントロピー $H$ については, 厳密な推定が難しい言語の確率モデルに依存しない計算方法を用いても，やはり一定とはならなかった. ここで $H$ は $\mathrm{n}$ グラムから計算することがで き，また $V M$ の定義に用いられる接尾辞木は, 潜在的な $\mathrm{n}$ グラム確率から作られると考えるこ とができる。このことから， $H$ と $V M$ は値の収束性において同じ性質を持つと予想されたが，本研究の範囲では異なる性質を示した。

最後に指標の判別力という観点から考察する。判別は, 個別文書（作品別）, 著者（著者判
別)，より広くある一定の内容で集められた文書群（新聞の文書分類など），言語（英語が日本語かなど), 語族（印欧語族とシナ・チベット語族など），自然言語vs. プログラミング言語など 異なる解像度で行うことが考えられる。

本研究の結果では， $K$ と $V M$ は，自然言語とプログラミング言語間において値に有意な差が 見られた。この傾向は $K$ と $V M$ ほどではないが他の指標にも見られた。このことは 2 つの言語間に本質的な複雑さの差があることを示していると考えられ，特に $K$ と $V M$ はその差をはっ きりと捉えていると考えられる。より高い解像度での判別問題は, 語族や言語の判別について は，少なくとも $V M$ については，表記システムで用いるアルファベットの大きさに依存する. $K$ と $Z$ で, 個別文書の判別が可能であると (Tweedie and Baayen 1998) では述べられてはいる が, その問題については, 今日ではより高性能な機械学習手法の方が手法として妥当であると 考えられる。 すなわち, 文書定数が自然言語の壳長性を反映していると見られることが，文書定数の計算言語学上の一つの意義であると考えられる.

## 6 まとめ

本研究では既存の指標 $K, Z, V M$ と新たに試みた指標 $r, H$ の 5 の指標に対して自然言語 とプログラミング言語の文書を複数用いて文長に依らずにその値が一定になるかを吟味した.

Yuleの $K$ は文書中の語彙の豊かさを表す古典的な指標であるのに対し, Olrovの $Z$ と $r$ は複雑系に基づく指標である。 $V M$ は接尾辞木に基づく文書の繰り返しを表す指標であり， $H$ は文書のエントロピーである。文書定数の文脈では $r$ と $H$ は今回新たに試みた指標である.

実験では個別文書，ならびに大規模な自然言語とプログラミング言語の文書を用いて，各指標の文長に対する値の変化の様子を網羅的に調べた。その結果 $K$ と $V M$ の 2 の指標のみ文長によらず値がほぼ一定となった。 さらにこの 2 つの指標は自然言語とプログラミング言語間 において値に有意な差が見られた。またその他の $Z, r, H$ については文長に対して値が単調に 変化する結果となった。

以上の結果から, Tweedie らの小規模な英語文書において $K$ と $Z$ は一定となるという先行研究結果については, $K$ に関してはいえるものの, $Z$ に関しては大規模文書において一定となら ないことがわかった. また Golcher の先行研究結果との対比においては, 本研究の結果では, ア ルファベット表記を用いると，日本語，中国語といった非印欧語族の言語においても $V M$ は印欧語族同様，ほぼ一定の 0.5 の値となることがわかった.

## 謝 辞

検定に関して有益なコメントを頂いた東京大学大学院情報理工学系研究科の駒木文保教授に 感謝の意を表する。

## 参考文献

Baayen, R. H. (2001). Word Frequency Distributions. Kluwer Academic Publishers.

Barabási, A.-L. and Albert, R. (1999). "Emergence of scaling in random networks." Science, 286, pp. 509-512.

Brown, P. F., Pietra, S., Pietra, V. J. D., Lai, J. C., and Mercer, R. L. (1983). "An estimate of an upper bound for the entropy of English." Computational Linguistics, 18 (1), pp. 31-40.

Cover, T. M. and Thomas, J. A. (2006). Elements of Information Theory. Wiley-Interscience.

Farach, M., Noordewier, M., Savari, S., Shepp, L., Wyner, A., and Ziv, J. (1995). "On the Entropy of DNA: Algorithms and Measurements Based on Memory and Rapid Convergence." In Proceedings of the sixth annual ACM-SIAM symposium on Discrete algorithms, pp. 48-57.

Genzel, D. and Charniak, E. (2002). "Entropy Rate Constancy in Text." In Annual Meeting of the Association for the ACL, pp. 199-206.

Golcher, F. (2007). "A Stable Statistical Constant Specific for Human Language Texts." In Recent Advances in Natural Language Processing.

Gusfield, D. (1997). Algorithms on Strings, and Sequences: Computer Science and Computational Biology. Cambridge University Press.

Herdan, G. (1964). Quantitative Linguistics. Butterworths.

影浦峡 (2000). 計量情報学一図書館／言語研究への応用. 丸善.

Kasai, T., Lee, G., Arimura, H., Arikawa, S., and Park, K. (2001). "Linear-Time LongestCommon-prefix Computation in Suffix Arrays and Its Applications." In Proceedings of the 12th Annual Symposium on Combinatorial Pattern Matching, pp. 181-192. Springer-Verlag.

Orlov, J. K. and Chitashvili, R. Y. (1983). "Generalized Z-distribution generating the well-known 'rank-distributions'." Bulletin of the Academy of Sciences of Georgia, 110, pp. 269-272.

Shannon, C. (1948). "A mathematical theory of communication." Bell System Technical Journal, 27, pp. 379-423, 623-656.

Tweedie, F. J. and Baayen, R. H. (1998). "How variable may a constant be? Measures of lexical richness in perspective." Computers and the Humanities, 32, pp. 323-352.

Ukkonen, E. (1995). "On-line construction of suffix-trees." Algorithmica, 14, pp. 249-260.

Yule, G. U. (1944). The Statistical Study of Literary Vocabulary. Cambridge University Press.

Zipf, G. K. (1949). Human Behaviors and the Principle of Least Effort: An Introduction to Human Ecology. Addison-Wesley Press.

## 略歴

木村 大翼：2010 年東京大学工学部計数工学科卒業. 現在, 同大学大学院情報理工学系研究科に在学中. 構造データを対象とした機械学習に興味をもつ.

田中久美子: 東京大学大学院情報理工学系研究科准教授. 1997 年東京大学大学院工学系研究科情報工学専攻博士課程修了, 博士 (工学). 工業技術院電子技術総合研究所, 東京大学大学院情報学環講師などを経て 2005 年より現職. 自然言語や記号系に普遍に内在する数理構造に興味を持つ.

(2010 年 8 月 5 日 受付)

(2010 年 12 月 20 日 再受付)

(2011 年 2 月 10 日 採録)


# 3 種類の辞書による自動単語分割の精度向上

森信介悍 $\cdot$ 小田 裕樹
}

本論文では，日本語の文の自動単語分割をある分野に適用する現実的な状況におい て, 精度向上を図るための新しい方法を提案する. 提案手法の最大の特徴は, 複合語 を参照することが可能な点である。複合語とは，内部の単語境界情報がなく，その 両端も自動分割器の学習コーパスの作成に用いられた単語分割基準と必ずしも合致 しない文字列である。このような複合語は，自然言語処理をある分野に適用する多 くの場合に, 利用可能な数少ない言語資源である. 提案する自動単語分割器は, 複合語に加えて単語や単語列を参照することも可能である. これにより, 少ない人的 コストでさらなる精度向上を図ることが可能である.

実験では, これらの辞書を参照する自動単語分割システムを最大エントロピー法を 用いて構築し，それぞれの辞書を参照する場合の自動単語分割の精度を比較した。実験の結果, 本論文で提案する自動単語分割器は, 複合語や単語列を参照すること により，対象分野においてより高い分割精度を実現することが確認された。 キーワード：単語分割, 辞書, 単語列, 複合語
## Automatic Word Segmentation using Three Types of Dictionaries

\author{
Shinsuke MORI ${ }^{\dagger}$ and Hiroki Oda
}

In this paper we propose a new method for automatically segmenting a sentence in Japanese into a word sequence. The main advantage of our method is that the segmenter is, by using a maximum entropy framework, capable of referring to a list of compound words, i.e. word sequences without boundary information. This allows for a higher segmentation accuracy in many real situations where only some electronic dictionaries, whose entries are not consistent with the word segmentation standard, are available. Our method is also capable of exploiting a list of word sequences. It allows us to obtain a far greater accuracy gain with low manual annotation cost.

We prepared segmented corpora, a compound word list, and a word sequence list. Then we conducted experiments to compare automatic word segmenters referring to various types of dictionaries. The results showed that the word segmenter we proposed is capable of exploiting a list of compound words and word sequences to yield a higher accuracy under realistic situations.

Key Words: word segmentation, dictionary, word sequence, compound word

## 1 はじめに

日本語や中国語のように，明示的な単語境界がない言語においては，自動単語分割は自然言語処理の最初のタスクである。ほとんどの自然言語処理システムは, 単語単位に依存しており,自動単語分割器はこれらの言語に対して非常に重要である。このような背景の下，人手による 単語分割がなされた文からなるコーパスを構築する努力 (黒橋, 長尾 1997; Maekawa 2008) と ともに, 経験的手法による自動単語分割器や同時に品詞を付与する形態素解析器の構築 (永田 1999; 森, 長尾 1998; 小田, 森, 北 1999; Sproat and Chang 1996; 内元, 関根, 井佐原 2001; 工藤, 山本, 松本 2004) が試みられてきた.

近年, 自然言語処理が様々な分野に適用されている。特許開示書の自動翻訳, 裁判記録の自動作成のための音声認識用の言語モデル作成, 医療文章からの情報抽出などである. これらの応用では品詞は不要なので，本論文では品詞を付与しない単語分割を扱う。単語分割では，コー パス作成の労力を単語境界付与に集中することができるので, 品詞付与が必要となる形態素解析を前提とするよりもより実用的であることが多い. 現在の自動単語分割器は, 一般的な分野 のコーパスから構築されており, 上述のような様々な分野の文を高い精度で単語分割できない. とりわけ，対象分野特有の単語や表現の周辺での精度の低下が著しい.これらの対象分野に特有の単語や表現は，処理すべき文において重要な情報を保持しているので, この問題は深刻で ある。

このような問題を解決するためには, 対象分野での単語分割精度の向上を図る必要がある.理想的方法は，ある程度の量の対象分野の文を，一般分野のコーパス作成と同じ単語分割基準 に沿って人手で単語分割し, 自動単語分割器を再学習することである. しかしながら, 多くの 実際の状況では，人による利用を想定した辞書が対象分野の唯一の追加的言語資源である.こ れらの見出し語は, 単語分割基準とは無関係に選定されており, 単語分割基準に照らすと単語 ではないことが多い，本論文では，これらの見出し語のように，内部の単語分割情報が与えら れておらず，かつ両端が単語境界であるという保証がない文字列を複合語と呼ぶ。本論文では,単語分割済みコーパスに加えて，複合語辞書を参照する自動分割器を提案する。ほとんどの複合語は両端が単語境界であり，内部に単語分割基準に従って単語境界情報を付与することで単語列に変換することが可能である。このために必要な人的コストは, 適用分野の単語分割済み コーパスの作成に比べて非常に少ない。本論文ではさらに, 単語列辞書を参照し精度向上を図 る自動単語分割器を提案する。提案手法を用いることにより，一般に販売されている辞書（複合語辞書）を参照することで，付加的な人的コストなしに，ある分野における自動単語分割の 精度を向上させることができる。また，単語列辞書を参照する機能により，コーパスを準備す るよりもはるかに低い人的コストでさらなる精度向上を実現することが可能になる.

## 2 単語分割のための言語資源

この節では，まず，日本語を例に単語境界を明示しない言語の文を単語に分割する問題につ いて説明する. 次に，入力文を自動的に単語列に分割する自動単語分割器を構築するために利用可能な言語資源について述べる.

## 2.1 単語分割問題

日本語や中国語のように，単語境界を明示しない言語は多数ある。これらの言語における自然言語処理の第一歩は, 文に単語境界情報を付与することである，以下では，次の文を入力の 例として，単語分割問題を説明する.

入力：音産物価格安定法を施行

単語分割問題は，入力の文字列の全ての隣接する 2 文字間に単語境界を置くか置かないかを決定する 2 值分類問題である．注目している 2 文字が異なる単語に属する場合には空白を，同じ 単語に属する場合には何も置かないとすると，上記の例文を適切に単語に分割した結果は以下 のようになる。

出力：畜産物 価格安定法を施行

このように，入力文字列を単語に分割することで，単語を単位とした自然言語処理技術を適用 することが可能となる．ただし，単語分割における誤りは，後続する自然言語処理の精度を低下させる点に注意しなければならない.

## 2.2 単語分割済みコーパス

自動単語分割器に関する研究は多数あり，そのほとんどがデータに基づく方法を採用してい る(永田 1999; 森, 長尾 1998; Sproat and Chang 1996; 内元 他 2001; 工藤他 2004)1. これらの 自動単語分割器は, 単語分割基準に従って人手で単語に分割されたコーパスからパラメータを 推定する。したがって, 学習コーパスにおける誤りは自動分割の結果に波及し, 後続する自然言語処理のアプリケーションの精度を損なう。それゆえ, 単語分割済みコーパスの質は, 非常 に重要である。高い分割精度を確保するためにも，後続する自然言語処理を適用する対象分野 の単語分割済み文を自動単語分割システムの学習コーパスとすることが望ましい. しかしなが ら，単語分割基準に従って正確に単語分割されたコーパスを用意するコストは非常に高い.と いうのも，作業者は, 対象分野の用語と単語分割基準を熟知している必要があるからである.実際,コンピューター操作に熟練し単語分割基準を熟知した作業者が, ある分野の 5,000 文を

$
\begin{aligned}
& \text { l }: \text { 単語境界がある。 } \\
& \text { - : 単語境界がない。 } \\
& \text { ப : 単語境界の有無は不明である。 }
\end{aligned}
$

図 1 単語境界の 3 値表現

非常に高い精度で単語分割するのに 2 週間（8時間 $\times 10$ 日）を要したという事実もある ${ }^{2}$. した がって，低いコストで準備できる言語資源のみを用いて対象分野の文を高い精度で分割する自動単語分割器の実現方法は非常に有用である.

## 2.33 種類の辞書

単語分割基準が所与とすれば，単語分割問題に用いることができる辞書は， 3 つに分類でき る. 以下では, これら 3 種類の辞書について, 図 1 に示した 3 值表現を用いて詳述する.
- 単語辞書 : この辞書は, 単語分割基準に従う単語からなる。つまり,この辞書に含まれ る文字列は，ある文脈で最左の文字の左と最右の文字の右に単語境界があり，さらにそ の内部には単語境界がない。例えば， 3 値表現された以下の文字列は単語である。

$
\text { |言-語| }
$
- 単語列辞書：この辞書は, 単語の列からなる。つまり, この辞書に含まれる文字列は, あ る文脈で最左の文字の左と最右の文字の右に単語境界があり，さらに，各文字列のすべ ての文字間に単語分割基準に従って単語境界情報が付与されている。例えば, 3 值表現 された以下の文字列は単語列である。

$
\text { |計-算|言-語|学| }
$
- 複合語辞書 : この辞書は, 単語の連接である文字列からなる。つまり,この辞書に含ま れる文字列は，ある文脈でその左右両端に単語境界があるが，文字列内部の単語境界情報は不明である．例えば， 3 值表現された以下の文字列は複合語である.

## |計ப算ப言語し学|

人が利用することを想定した商用・非商用の機械可読辞書は多数ある．実際，様々な対象分野における専門用語や固有名詞を多数含む辞書がある (日外アソシエーツ 2001)。また, 仮名漢字変換のための辞書が様々な分野において公開されている (金子 2003). これらの辞書の見出し 語は, 自動単語分割器が学習に用いるコーパスの単語分割基準とは無関係に選定されており, 多 くの自動単語分割器において，これを精度向上に直接利用することはできない.

単語分割基準に照らすと，人が利用することを想定した辞書の見出し語の多くは，上記の分

類では複合語である，左右両端は単語境界であることがかなりの確度で期待できるが，文字列 の内部の単語境界情報がない，複合語は，人的コストをかけて単語列に変換することができる. この際に必要な作業は, 左右の両端が単語境界であることのチェックと, 文字列内のすべての 文字境界に単語境界情報を付与することである。このコストは，対象分野の単語分割済みコー パスの作成に要するコストに比べて非常に少ない，以上の議論から，複合語や単語列を参照す ることで精度が向上する自動単語分割器を構築することは実用的意義が非常に大きい.

## 3 単語分割法

本節では，前節の 3 種類の辞書を学習データとする日本語単語分割法について述べる。提案手法は， 3 種類の辞書と単語分割済みコーパス（部分的にアノテーションされていれば良い）を 学習データとする。

## 3.1 最大エントロピーモデルによる点予測単語分割

日本語の単語分割の問題は, 入力文の各文字間に単語境界が発生するか否かを予測する問題 とみなせる (小田 他 1999; 颯々野 2006; 風間, 宮尾, 辻井 2004; Tsuboi, Kashima, Mori, Oda, and Matsumoto 2008)。つまり, 文 $\boldsymbol{x}=x_{1} x_{2} \cdots x_{m}$ に対して, 文字 $x_{i}$ と $x_{i+1}$ の間が単語境界 であるか否かを表すタグ $t_{i}$ を付与する問題とみなせる.

付与する夕グは，単語境界であることを表すタグ E（“I”に相当）と, 非単語境界であるこ とを表すタグ N （“-にに相当）の2つのタグからなる．各文字間のタグを単語境界が明示され たコーパスから学習された最大エントロピーモデル (ME model; maximum entropy model) によ り推定する ${ }^{3}$. その結果, より高い確率を与えられたタグをその文字間のタグとし, 単語境界を 決定する。すなわち，以下の式が示すように，最大エントロピーモデルにより，単語境界と推定される確率が非単語境界と推定される確率より高い文字間を単語境界とする.

$
P_{M E}(\mathbf{E} \mid i, \boldsymbol{x})>P_{M E}(\mathbf{N} \mid i, \boldsymbol{x})
$

これにより，入力文を単語に分割することができる.

最大エントロピーモデルによる単語分割法では，単語境界情報が付与された $\boldsymbol{x}=x_{1} x_{2} \cdots x_{m}$ の各文字間を, タグ $t_{i}$ と素性の組み合わせ $S$ とみなして, 学習と確率推定を行う.

$
S=\left.\{\left(t_{i}, f_{i, 1}(\boldsymbol{x}), f_{i, 2}(\boldsymbol{x}), \cdots\right) \mid 1 \leq \forall i \leq m-1\right.\}
$

素性 $f_{i, j}(\boldsymbol{x})$ の詳細は次項で述べる.

## 3.2 参照する素性

文字 $x_{i}$ と $x_{i+1}$ の間に注目する際の最大エントロピーモデルの素性としては, 文字列 $x_{i-1}^{i+2}$ に 含まれるの部分文字列である文字 $n$-gram および字種 $n$-gram $(n=1,2,3)$ をすべて用いる ${ }^{4}$. た だし，以下の点を考慮している。
- 素性として利用する $n$-gram は, 先頭文字の字種がその前の文字の字種と同じか否か, お よび，末尾文字の字種がその次の文字の字種と同じか否かの情報を付加して参照する ${ }^{5}$.

・ 素性には注目する文字間の位置情報を付加する.

## 3.3 辞書の利用

さらに，前述した 3 種類の辞書を参照し，以下の素性を用いることを提案する.
- 文字列 $x_{i-1}^{i+2}$ に含まれる文字 $n$-gram $(n=1,2,3)$ が, 単語辞書中の単語と一致する文字列であるか否かを表す 9 素性（9つの位置の文字 $n$-gram について判定）
- 注目する文字境界 $\left(x_{i} x_{i+1}\right.$ の間）の辞書中の位置を表す以下の 4 素性

－ 単語の開始位置の “I”に該当するか否かを表す素性（単語, 単語列, 複合語のい ずれかが $x_{i+1} x_{i+2} \cdots$ に前方一致するか否か)

ずれかが $\cdots x_{i-1} x_{i}$ に後方一致するか否か)

一 単語列の単語境界の“!に該当するか否かを表す素性 $\left(\cdots x_{i} x_{i+1} \cdots\right.$ の位置にいず れかの単語列が出現し, かつ $x_{i}$ と $x_{i+1}$ の間が単語列中の “I”に該当するか否か)

－単語や単語列の“-”に該当するか否かを表す素性 $\left(\cdots x_{i} x_{i+1} \cdots\right.$ の位置にいずれ かの単語か単語列が出現し，かつ $x_{i}$ と $x_{i+1}$ の間が“-”に該当するか否か)

## 4 評価

提案手法の評価のために, 様々な自動単語分割器を構築し, テストコーパスに対する分割精度を測定した。この節では，その結果を提示し提案手法の評価を行う。

## 4.1 実験条件

まず，対象分野のテストコーパスを日本経済新聞 (日本経済新聞社 2001)の記事とした. 学習
^{i+3}$ の範囲の $n$-gram $(n=3,4,5)$ が参照されることになる.
}
表 1 単語分割済みコーパス

表 2 辞書

w2 は $\mathbf{w 1}$ から 27,466 語を無作為抽出した結果であり，単語列と複合語の値は交差検定の平均である.

コーパスは一般分野の単語分割済みコーパスである。評価のために，学習コーパスと同じ分野 のテストコーパスも用いた (表 1 参照)。一般分野コーパスは, 現代日本語書き言葉均衡コーパ ス (Maekawa 2008)（13,181 文）と, 日常会話のための辞書の例文 (ドナルド, 羽鳥, 山田, 伊良部 1992)（14,754 文）である。すべての文は，人手により適切に単語に分割されている。実験では，9-fold の交差検定を行った。つまり，テストコーパスを 9 の部分に分割し，8つの部分を複合語や単語列の選定に用い，残りの 1 つを自動分割のテストとして用いることを， 9 通 りに渡って行った. 実験に際して， 2 節で述べた 3 種類の辞書を用意した. 1 つ目は単語辞書 (UniDic-1.3.9) で，語彙サイズが非常に大きいことに加えて，その見出し語が学習コーパスと同 じ単語分割基準に従っていることが注意深くチェックされている (伝, 小木曽, 小椋, 山田，峯松, 内元, 小磯 2007). 2 つ目は複合語辞書で, その見出し語は機械可読の商用辞書 (日外アソ シエーツ 2001) から得た，その多くは，専門用語と固有名詞である。実験では，テストとして 用いられる 1 つの部分コーパス以外の 8 つの部分コーパスに文字列として出現する複合語を用 いた. これらの複合語は, 両端は単語分割基準と一致していることが期待されるが, その保証 はない. 3 つ目は単語列辞書である。単語列辞書は, 複合語辞書の見出し語を単語分割基準に 従って人手により分割することで得られる。単語列は，結果的に 1 単語である場合もある。実験では，8つの部分コーパスに文字列として出現する単語列を用いた. 複合語の左右どちらか の端が単語分割基準と一致していない場合は単語列辞書から除外した. したがって, 単語列の 数は複合語の数よりも少なくなっている.

表 2 にこれらの辞書の諸元を示す。この表から複合語と単語列の平均文字数はそれぞれ 3.04 文字と 3.12 文字であることが分かる。これらは, 学習コーパスの単語長 (1.40 文字) や新聞コー

パスの平均単語長 (1.50 文字) より長い. 単語列は平均 1.61 単語からなる. 自動単語分割器の パラメータは，学習コーパスとこれらの辞書を同時に参照し推定される.

## 4.2 評価基準

自動単語分割の評価に用いた基準は，適合率，再現率，境界推定精度及び文正解率である。こ れらの計算方法を以下のような例を用いて説明する。ここで, 自動単語分割の結果を AWS, 正解の単語列を CORとしている.

AWS: 畜産物価格安定法を施行

COR：畜産物 価格安定法を施行

境界推定精度は, 単語境界情報が正しく推定された文字間の割合である。上記の例では, 文字数は 11 あるので，単語境界の推定対象となる文字間の数は 10 である。この内，単語境界情報 が正しく推定された文字間は 5 であるので境界推定精度は $5 / 10$ となる。文正解率は，すべての 文字間において単語境界情報が正しく推定された文の割合である。適合率と再現率は，以下の ように計算される。まず, 正解の単語列に含まれる単語数を $N_{C O R}$, 自動単語分割の結果に含 まれる単語数を $N_{A W S}$ とし, さらに正解の単語列と自動単語分割の結果の最長部分一致単語列 に含まれる単語数を $N_{L C S}$ とする。この定義の下, 適合率は $N_{L C S} / N_{A W S}$ で与えられ, 再現率 は $N_{L C S} / N_{C O R}$ で与えられる。上述の例では, 最長部分一致単語列は下線を引いた単語列であ り, その単語数から $N_{L C S}=3$ である. 正解の単語列の単語数から $N_{C O R}=7$ であり, 自動単語分割の結果の単語数から $N_{A W S}=6$ である. したがって, 再現率は $N_{L C S} / N_{C O R}=3 / 7$ であ り, 適合率は $N_{L C S} / N_{A W S}=3 / 6$ である.

## 4.3 評価

参照する辞書による単語分割精度の差を調べるために, 辞書を参照せずコーパスのみから学習する自動単語分割器 $\boldsymbol{B}$ (ベースライン) を構築し, さらに以下の 4 つの自動単語分割器を構築した。

$W 1$ ：コーパスに加えて単語辞書 $w 1$ を参照

W2: コーパスに加えて単語辞書 $w 2$ を参照

$S:$ コーパスに加えて単語列辞書 $s$ を参照

$C:$ コーパスに加えて複合語辞書 $c$ を参照

これらの自動単語分割器による一般分野における分割精度を表 3 に, 対象分野における分割精度を表 4 に示す.

表 3 から, ベースラインである自動単語分割器 $\boldsymbol{B}$ の一般分野における分割精度は十分高いが,表 4 から，対象分野においては分割精度が著しく低下することがわかる．自動単語分割器 $\boldsymbol{C}$ の 結果から, 複合語辞書を用いることで対象分野における分割精度が向上することが分かる. 複
表 3 一般分野における自動単語分割の精度

表 4 適用分野における自動単語分割の精度

合語辞書としては, 多くの分野において利用可能な人のための辞書を直接用いることができる ので，付加的な人的コストを必要としない．このことから，複合語辞書を参照することで自動単語分割器の精度向上が実現できることは非常に有用であるといえる.

自動単語分割器 $\boldsymbol{C}$ の分割精度は, 両分野において, コーパスと同じ基準で単語に分割された 単語辞書 $w 1$ を参照する自動単語分割器 $W 1$ の分割精度より低い. これは, 単語辞書 $w 1$ の見出し語の数が，約 14.5 万語と非常に大きいことと, 本実験での適応対象である新聞記事が，単語辞書の想定分野となっていることによる. このように, 大きな単語辞書を, 様々な分野に対 して準備することは現実的ではないであろう，実際，単語辞書に含まれる単語の合計の文字数 は 430,797 文字（表 2 参照）と非常に大きく, これは, 対象分野の約 9,879 文（表 1 参照）に相当する。第 2.2 項で述べたように，非常に熟練した作業者の単語分割速度が 1 日 500 文程度で あるから，この量のコーパスを作成するには，対象分野の表現と単語分割基準を熟知した作業者が約 20 日間作業にあたる必要があると考えられる。

単語列辞書 $s$ と同じ単語数の単語辞書 $w 2$ を用いる自動単語分割器 $W 2$ の分割精度を自動単語分割器 $\boldsymbol{C}$ と比べると， $\boldsymbol{C}$ の精度は $\boldsymbol{W} 2$ よりも高い. 複合語辞書は, 処理すべき適用分野の テキストと共に提供されることが多い。これらのことから，ある分野に自動単語分割器を適用 する場合, 一般的な分野の辞書を整備するのではなく, その分野の複合語辞書を利用するのが よい戦略であるといえる。

単語列辞書を参照する自動単語分割器 $\boldsymbol{S}$ の対象分野における単語分割精度は，複合語辞書を 参照する自動単語分割器 $\boldsymbol{C}$ よりも高い. これは, 単語列辞書が複合語辞書に単語境界情報を付
与した結果であることを考えると当然である．このことから，対象分野のテキストに出現する 複合語に単語境界情報を付与することで, さらなる精度向上を実現できることが分かる.

文字列「共同宣言」を複合語としてまたは単語列として辞書に追加することにより分割精度 が向上した例を次に示す.

B：‥|日-米|安-保|共|同|宣-言-取|り|ま-と-め|…

$C: \cdots \mid$ 日-米|安-保|共|同|宣-言|取|り|ま-と-め|…

$S: \cdots \mid$ 日-米|安-保|共-同|宣-言|取|り|ま-と-め|…

宣誩I」を参照することで文字列「共同宣言」の後に単語境界があることが分かり，正しく「宣

べての箇所で正しく単語に分割されている。なお，分野特有であると思われる表現でも，実験 に利用した商用辞書に含まれていない単語列に関しては, 辞書の追加による精度向上はみられ なかった。

自動単語分割器 $\boldsymbol{S}$ によ対象分野の分割精度は, 大規模な単語辞書を参照する自動単語分割器 $\boldsymbol{W} 1$ による分割精度よりも高い，複合語辞書に含まれる合計の文字数は， 59,868 文字（表 2 参照）で, これは, 対象分野の 1,373 文に相当する. アノテーションに必要な人的コストは, 単語辞書の構築に必要な人的コストと比べて非常に少ない. さらに, 複合語の多くが専門用語と 固有名詞であるので, 作業者に要求される技能は, 分野知識と名詞に関する単語分割基準の熟知である。したがって, 作業者の確保はコーパスの準備に比べてはるかに容易である.

以上のような考察から, 現実的な状況において, 既存の辞書のカバー率が高くないある対象分野の自動単語分割器を構築する最良の戦略は,

(1) 対象分野のテキストに出現する複合語辞書の見出し語を収集し，提案する自動単語分割器を用いる

（2）作業者が確保できる場合には，さらにこれらの複合語に単語境界情報を付与し，提案す る自動単語分割器を用いる

であると結論できる.

## 5 関連研究

自動単語分割の問題をある文字の次に単語境界があるかの予測として定式化することはかな り以前から行われている (永井, 日高 1993; 山本, 増山 1997; 小田他 1999). これらの研究で は，文字に単語境界情報を付与して予測単位としている。文字間に単語境界があるかを識別学習により決定することも提案されている (颯々野 2006). この研究の主眼は能動学習の調査・分析である。辞書の利用に関する記述はなく, また分野適応についても述べられていない.
統計的手法による日本語の文の自動単語分割に関する初期の研究は，丸山ら (丸山，荻野，渡辺 1991) による単語 $n$-gram モデルを用いる方法がある。また，永田 (永田 1999) による品詞 $n$-gram モデルによる形態素解析 6 もある. 森ら (森, 長尾 1998) は, すべての品詞を語彙化した 形態素 $n$-gram モデルを用いることによる精度向上を報告し, さらに単語辞書の参照を可能に する方法を提案し, それによる精度向上を報告している. 内元ら (内元 他 2001) は, 最大エン トロピーモデルを用いる形態素解析において単語辞書を参照する方法を提案している。このよ うに，単語分割基準に沿った単語辞書を参照する方法はすでにあるが，複合語や単語列を参照 し精度向上を実現した自動単語分割器の報告は, 我々の知る限りない.

なお, 提案手法は, 形態素解析にも拡張可能である。提案する自動単語分割器は音声認識や 仮名漢字変換の言語モデル作成に用いることを想定しているので，品詞を推定する必要はない と考えている．品詞も推定すべきか，どの程度の粒度の品詞体系にすべきか，などの問題は後続する自然言語処理と準備すべきデータの作成コストを含む全体の問題であり，本論文の議論 を超える。

複合語や単語列を参照し精度向上を図る取り組みは，完全に単語に分割された文に加えて，そ れ以外の断片的な情報を用いて精度向上を図る取り組みの一つである。坪井ら (坪井 他 2009) は，学習コーパスの文の単語境界情報が部分的であるような不完全なアノテーションからも条件付き確率場による自動単語分割器や形態素解析器を学習できる枠組みを提案している。本論文で提案する自動単語分割器は点予測を用いているので, 単語分割に関してはこの問題は解決 されているといえる. したがって, 提案する自動単語分割器は, 単語境界情報が部分的に付与 されたコーパスと複合語や単語列のすべてを同時に参照することができる.

自動単語分割は, 中国語においても提案されている (Sproat and Chang 1996). 自動単語分割器は，空白で区切られる単位が大きい韓国語やフィンランド語などにおいても有用で，言語モ デルの作成 (Kwon and Park 2003; Hirsimäki, Creutz, Siivola, Kurimo, Virpioja, and Pylkkönen 2006) に用いられている. 提案手法は, これらの言語に対する言語処理においても有用である.

## 6 おわりに

本論文では，日本語の文の自動単語分割器をある分野に適用する現実的な状況において，精度向上を図るための新しい方法を提案した。提案手法の最大の特徴は, 複合語を参照すること が可能な点である。本論文で言う複合語とは，内部の単語境界情報がない文字列であり，人の 利用を想定した辞書の見出し語の多くが複合語である。この機能により，一般に販売されてい る辞書を参照し, 付加的な人的コストなしに，ある分野における自動単語分割の精度を向上さ

せることができる，提案する自動単語分割器は，内部に単語境界情報をもつ単語列を参照する ことも可能である。この機能により，コーパスを準備するよりも低い人的コストでさらなる精度向上を実現することが可能になる.

実験では，これらの辞書を参照する自動単語分割器を最大エントロピー法を用いて構築し， これらのさまざまな辞書を参照する場合の自動単語分割の精度を比較した. 実験の結果, 本論文で提案する自動単語分割器は, 複合語を参照することにより, より高い分割精度を人的コス トなしに実現することが確認された。また，単語列を参照することにより，少ない人的コスト でさらなる精度向上が実現されることが示された。したがって, 本論文で提案する自動単語分割器は，自然言語処理をある分野に適用する場合に非常に有用である.

## 謝 辞

本研究の一部は, 科学研究費補助金・若手 A（課題番号：08090047）により行われた.

## 参考文献

伝康晴, 小木曽智信, 小椋秀樹, 山田篤, 峯松信明, 内元清貴, 小磯花絵 (2007). コーパス日本語学のための言語資源 : 形態素解析用電子化辞書の開発とその応用. 日本語科学, 22 , pp. 101-122.

ドナルドキーン, 羽鳥博愛, 山田晴子, 伊良部祥子 (1992). 会話作文英語表現辞典 朝日出版社.颯々野学 (2006). 日本語単語分割を題材としたサポートベクタマシンの能動学習の実験的研究.自然言語処理, $13(2)$, pp. 27-41.

Hirsimäki, T., Creutz, M., Siivola, V., Kurimo, M., Virpioja, S., and Pylkkönen, J. (2006). "Unlimited vocabulary speech recognition with morph language models applied to Finnish." Computer Speech and Language, 20, pp. 515-541.

金子周司 (2003). 無料ライフサイエンス辞書の活用と効能 ファルマシア, 42 (5), pp. 463-467.風間淳一, 宮尾祐介, 辻井潤一 (2004). 教師なし隠れマルコフモデルを利用した最大エントロ ピータグ付けモデル. 自然言語処理, $\mathbf{1 1}(4)$, pp. 3-24.

工藤拓, 山本薰, 松本裕治 (2004). Conditional Random Fields を用いた日本語形態素解析. 情報処理学会研究報告, NL161 巻.

黒橋禎夫, 長尾眞 (1997). 京都大学テキストコーパス・プロジェクト 言語処理学会第 3 回年次大会発表論文集, pp. 115-118.

Kwon, O.-W. and Park, J. (2003). "Korean large vocabulary continuous speech recognition with morpheme-based recognition units." Speech Communication, 39, pp. 287-300.

Maekawa, K. (2008). "Balanced Corpus of Contemporary Written Japanese." In Proceedings of the 6th Workshop on Asian Language Resources, pp. 101-102.

丸山宏, 荻野紫穂, 渡辺日出雄 (1991). 確率的形態素解析. 日本ソフトウェア科学会第 8 回大会論文集, pp. 177-180.

森信介, 長尾眞 (1998). 形態素クラスタリングによる形態素解析精度の向上. 自然言語処理, 5 (2), pp. 75-103.

永井秀利, 日高達 (1993). 日本語における単語の造語モデルとその評価. 情報処理学会論文誌, 34 (9), pp. 1944-1955.

永田昌明 (1999). 統計的言語モデルと N-best 探索を用いた日本語形態素解析法. 情報処理学会論文誌, 40 (9), pp. 3420-3431.

日本経済新聞社 (2001).日経全文記事データベース (4 紙版).

日外アソシエーツ (2001). CD-科学技術 45 万語対訳辞典 英和/和英.

小田裕樹，森信介，北研二 (1999). 文字クラスモデルによる日本語単語分割. 自然言語処理, $\mathbf{6}$ (7), pp. 93-108.

Sproat, R., Shih, C., Gale, W., and Chang, N. (1996). "A stochastic finite-state wordsegmentation algorithm for Chinese." Computational Linguistics, 22 (3), pp. 377-404.

Tsuboi, Y., Kashima, H., Mori, S., Oda, H., and Matsumoto, Y. (2008). "Training Conditional Random Fields Using Incomplete Annotations." In Proceedings of the 22th International Conference on Computational Linguistics.

坪井祐太, 森信介, 鹿島久嗣, 小田裕樹, 松本裕治 (2009). 日本語単語分割の分野適応のた めの部分的アノテーションを用いた条件付き確率場の学習. 情報処理学会論文誌, 50 (6), pp. 1622-1635.

内元清貴, 関根聡, 井佐原均 (2001). 最大エントロピーモデルに基づく形態素解析一未知語の 問題の解決策一. 自然言語処理, 8 (1), pp. 127-141.

山本幹雄, 増山正和 (1997). 品詞・区切り情報を含む拡張文字の連鎖確率を用いた日本語形態素解析. 言語処理学会第 3 回年次大会発表論文集, pp. 421-424.

## 略歴

森 信介：1998 年京都大学大学院工学研究科電子通信工学専攻博士後期課程修了. 同年日本アイ・ビー・エム（株）入社. 2007 年より京都大学学術情報メ ディアセンター准教授. 現在に至る. 自然言語処理ならびに計算言語学の研究に従事. 工学博士. 1997 年情報処理学会山下記念研究賞受賞. 2010 年情報処理学会論文賞受賞. 2010 年第 58 回電気科学技術奨励賞. 情報処理学会会員.
小田 裕樹：1999 年徳島大学大学院工学研究科博士前期課程知能情報工学専攻修了. 同年 NTTソフトウェア（株）入社. 言語処理・情報検索システム等の 開発,コンサルティング業務に従事. 確率・統計的自然言語処理およびその応用に興味を持つ. 工学博士. 2010 年情報処理学会論文賞受賞. 情報処理学会会員.

$(2010$ 年 8 月 10 日 受付 $)$
$(2010$ 年 11 月 22 日 再受付 $)$
$(2011$ 年 1 月 23 日 採録 $)$

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/


# 構文・照応・評価情報つきブログコーパスの構築

近年，ブログを対象とした情報アクセス・情報分析技術が盛んに研究されている.我々は, この種の研究の基礎データの提供を目的とし, 249 記事, 4,186 文からなる,解析済みブログコーパスを構築した。主な特長は次の 4 点である。i) 文境界のアノ テーション. ii) 京大コーパス互換の, 形態素, 係り受け, 格・省略・照応, 固有表現のアノテーション. iii) 評価表現のアノテーション. iv) アノテーションを可視化 した HTML ファイルの提供. 記事は，大学生 81 名に「京都観光」「携帯電話」「ス ポーツ」「グルメ」のいずれかのテーマで執筆してもらうことで収集した。解析済み ブログコーパスを構築する際, 不明膫な文境界, 括弧表現, 誤字, 方言, 顔文字等,多様な形態素への対応が課題になる。本稿では，本コーパスの全容とともに，いか に上記の課題に対応しつつコーパスを構築したかについて述べる。

キーワード：ブログ，解析済みコーパス
## Construction of a Blog Corpus with Syntactic, Anaphoric, and Sentiment Annotations

\author{
Chikara Hashimoto ${ }^{\dagger, \dagger \dagger}$, Sadao Kurohashi${ }^{\dagger \dagger, \dagger}$, Daisuke Kawahara ${ }^{\dagger \dagger}$, Keiji \\ ShINZATO $^{\dagger \dagger}$ and MASAAKI NAGATA ${ }^{\dagger \dagger \dagger}$
}

There has been a growing interest in the technologies of information access and analysis targetting blog articles recently. In order to provide the research community with the basic data, we constructed a blog corpus that consists of 249 articles (4,186 sentences) and has the following features: i) Annotated with sentence boundaries. ii) Annotated with grammatical information about morphology, dependency, case, anaphora, and named entities, in a way consistent with Kyoto University Text Corpus. iii) Annotated with sentiment information. iv) Provided with HTML files that visualize all the annotations above. We asked 81 university students to write blog articles about either the sightseeing of Kyoto, cellphones, sports, or gourmet. In constructing the annotated blog corpus, we faced problems concerning sentence boundaries, parentheses, errata, dialect, a variety of smiley, and other morphological variations. In this paper, we describe the specification of the corpus and how we dealt with the above problems.

Key Words: Blog, Annotated Corpus

## 1 はじめに

近年の自然言語処理技術は，新聞記事等のフォーマルな文章だけでなく, ブログ等のイン フォーマルな文章をもその射程に入れつつある (Adar, Hurst, Finin, Glance, Nicolov, and Tseng 2008, 2009). この背景の一つには，世論や消費者のニーズ等をブログを含めた Web 文書から 取り出そうとする, 自然言語処理技術を援用した情報アクセス・情報分析研究の盛り上がり がある (Sriphaew, Takamura, and Okumura 2009; Akamine, Kawahara, Kato, Nakagawa, Inui, Kurohashi, and Kidawara 2009; Murakami, Masuda, Matsuyoshi, Nichols, Inui, and Matsumoto 2009). 近年の自然言語処理技術は, 機械学習等のコーパスベースの手法の発展により高い精度 が得られるようになったが, これらの手法の成功の鍵は, 処理対象の分野/ジャンルの解析済 みコーパスの充実にある (McClosky, Charniak, and Johnson 2006). ブログに自然言語処理技術 を高精度に適用するには，同様に，解析済みのブログコーパスの整備／充実が必須である.

我々は, ブログを対象とした自然言語処理技術の高精度化に寄与することを目的とし, 249 記事， 4,186 文からなる解析済みブログコーパス（以下，KNBコーパス1) を構築し，配布を開始 した.

本研究でアノテーションしている言語情報は, 多くの自然言語処理タスクで基盤的な役割を 果たしている形態素情報, 係り受け情報, 格・省略・照応情報, 固有表現情報と, 文境界である. これらのアノテーションの仕様は，コーパスユーザの利便性を重視し，世の中に広く浸透して いる京都大学テキストコーパス (河原, 黒橋, 橋田 2002)22 (以下, 京大コーパス) と極力互換性 のあるものにした。これらのアノテーションに加えて，ブログを対象とした情報アクセス・情報分析研究にとっての要となる評価表現情報も KNBコーパスのアノテーション対象に含めた.

ブログ記事は, 京都の大学生 81 名に「京都観光」「携帯電話」「Xポーツ」「グルメ」のいず れかのテーマで執筆してもらうことで収集した。執筆者らは記事執筆に際し，記事の著作権譲渡に同意しているため, アノテーションだけでなく本文も併せて KNB コーパスとして無料配布している.

KNB コーパス構築の過程で，我々は次の問題に直面した。

(1) a. 不明瞭な文境界

b. 構文構造の解析を困難にする文中の括弧表現

c. 誤字, 方言, 顔文字等の多様な形態素

これらは，校閲等の過程を経た上で世に公開される新聞記事等のフォーマルな文章とは異な る, ブログ記事, あるいは CGM (Consumer Generated Media) テキストの特徴と言える.

KNB コーパス構築の際には, このようなブログ記事特有の現象を可能な限りそのままの形で
^{1}$ Kyoto University and NTT Blog コーパス

2 http://nlp.kuee.kyoto-u.ac.jp/nl-resource/corpus.html
}
残すよう心がけた。一方で，新聞記事を対象にして作られた京大コーパスとの互換性も重視し た. 本稿では，KNBコーパスの全容とともに，京大コーパスとの互換性の保持と，ブログの言語現象の正確な記述のために我々が採用した方針について詳述する。

なお本稿では，京大コーパスの仕様からの拡張部分に焦点を当てる。本稿に記述されていな い詳細については, 京大コーパスに付属のマニュアル (黒橋, 居蔵, 坂口 2000 ; 河原, 笹野, 黒橋，橋田 2005) を参照されたい.

以下， 2 節で関連研究について述べた後， 3 節で KNB コーパスの全体像を具体例とともに詳述する。4 節で記事収集から構築，配布までの過程を説明し，5 節で結論を述べる。

## 2 関連研究

近年，コーパスベースの手法の発展とともに，言語やタスクを問わず，自然言語処理技術の 精度は向上してきた。本稿では，コーパスベースの技術とは，人手で正解が付与されたコーパ スから機械学習に基づき言語処理システムを実現するアプローチと捉える. 例えば英語の品詞 タグ付けでは Lafferty ら (Lafferty, McCallum, and Pereira 2001)が， 日本語の形態素解析では 工藤ら (Kudo, Yamamoto, and Matsumoto 2004)が Conditional Random Fieldsを用いてそれぞ れのタスクで高精度化を果たした。また，言語に依存しない係り受け解析として，SVMによる 機械学習を用いた Nivre らの手法 (Nivre, Hall, Nilsson, sen Eryi git, and Marinov 2006) や Mira による機械学習を用いた McDonald らの手法 (McDonald, Lerman, and Pereira 2006) が注目さ れている.

これら解析技術の高精度化は，人手でアノテーションされた解析済みコーパスに支えられて きた。 日本語の代表的な解析済みコーパスとして，京大コーパスと NAIST テキストコーパス (飯田, 小町, 乾, 松本 2007) がある。前者は, 新聞記事を対象に， 4 万文に対して形態素・構文情報を，5,000 文に対して格関係，照応・省略関係，共参照の情報を付与したものである．加 えて, IREX (Sekine and Isahara 2000)において, 京大コーパス中の 1 万文に対する固有表現ア ノテーションが配布されている。後者は, 京大コーパスの 4 万文に対して, 述語と表層格の関係，事態性名詞と表層格の関係，名詞間の共参照関係の情報を付与したものである.

これらのコーパスは新聞記事から作られているため, それらによって訓練された解析器は,新聞記事あるいはそれに文体が近い文章は高精度で解析できるが，ブログや WWW 上の掲示板等の, 文体が新聞記事とは大きくかけ離れている文章の解析は不得手となることが知られてい る (McClosky et al. 2006).

一方，自然言語処理技術の適用領域は，WWW の爆発的な拡大とともに，ブログや WWW 上 の掲示板等の文章へと広がりを見せている。ブログを対象とした自然言語処理技術の高精度化 の鍵は，解析済みブログコーパスを充実させることができるかどうかにかかっている．そして，
解析済みブログコーパスを充実させるためには，構築ノウハウの蓄積と実際に構築した解析済 みブログコーパスの流通が欠かせない，我々はこの役割を担うべく，KNBコーパスとして，ブ ログ記事に各種言語情報（文境界，形態素，係り受け，格$\cdot$省略・照応，固有表現，評価表現） をアノテーションした. アノテーションの仕様は, ブログ特有の現象に対応するため一部 KNB コーパス独自の仕様を策定したが，京大コーパスのものと極力互換性のあるものとした．KNB コーパスの独自仕様の一部には，話し言葉を対象とした代表的な解析済みコーパスである日本語話し言葉コーパス (国立国語研究所 2006) ${ }^{3}$ (以下，CSJ）の仕様と類似したものが含まれてい る. 3 節で KNBコーパスの仕様を述べる際, 話し言葉と類似する現象のアノテーションに関し ては，適宜 CSJ の仕様と比較する。

ブログを対象とした既存のコーパスとして, Spinn3r Blog Dataset (Adar et al. 2009) ${ }^{4}$ があ る.これは $44,000,000$ 記事からなる大規模なものだが, 係り受けや照応等の言語情報は付与さ れていない.

KNB コーパスには，京大コーパスにはない評価表現のアノテーションがなされている．既存 の評価表現コーパスとして NTCIR-6 意見分析パイロットタスクのテストコレクション 5 や, 小林ら (Kobayashi, Inui, and Matsumoto 2007), 宮崎ら (宮崎, 森 2008), 川田ら (川田, 中川, 赤峯, 森井, 乾, 黒橋 2009)のものがあるが, 本コーパスの評価表現アノテーションは, 評価表現を「当為」「要望」「採否」等の意味的なタイプに分類する川田らの仕様に基づく.

## 3 コーパスの全体像

一般に，コーパスを設計する際は少なくとも次の点を考慮する必要がある。

（1）コーパスの使用目的は何か.

(2) 文章に対してどのような言語情報をアノテーションするか.

(3) 何をコーパスの素材（元となる文章）にするか.

(4) どのような仕様でアノテーションするか.

KNBコーパスは，ブログを対象とした自然言語処理技術のためのデータの提供を目的として いる。具体的には，多くの自然言語処理タスクで基盤的な役割を果たしている形態素解析，係 り受け解析, 格・省略・照応解析, 固有表現抽出と, ブログを対象とする場合に重要になる文境界の検出, 情報アクセス・情報分析研究にとっての要となる評判分析を対象としている.

従って，KNBコーパスにアノテーションする言語情報は，形態素情報，係り受け情報，格・省略・照応情報，固有表現情報，文境界位置，評価表現情報となる。
^{3}$ http://www.kokken.go.jp/katsudo/seika/corpus/

4 http://www.icwsm.org/2009/data/

5 http://research.nii.ac.jp/ntcir/permission/ntcir-6/perm-ja-OPINION.html
}
次に，何を KNB コーパスの素材とするかであるが，選択肢としては，WWW 上に既に存在 するブログ記事を用いるか，本研究のために新たにブログ記事を執筆するかの 2 つが考えられ る．前者の場合，記事を大量に収集できるが，記事の著作権処理が困難になることが予想され る。後者は逆に, 記事の著作権譲渡にあらかじめ同意してもらうことで, 著作権に関する問題 はクリアできるが，収集できる記事の量が前者に比べて大幅に少なくなることが予想される。結局, 我々は, 多数の大学生にアルバイトとして記事を執筆してもらうことで, ある程度の記事数を確保できる見通しが得られたため，後者のアプローチを採用した。記事のテーマは執筆者である大学生に自由に決めてもらうことも可能だが，我々は，アノテーション対象の評価表現が文中に含まれやすく，かつ，大学生にとって比較的身近であると考えられる「京都観光」6 「携帯電話」「スポーツ」「グルメ」の 4 つのテーマをあらかじめ設定した．執筆してもらったブ ログ記事は全て文章のみであり，画像や動画等は含まれていない.

アノテーション仕様については, 選択肢として, KNBコーパス用に新規に設計するか, 既存 の夕グ付きコーパスの仕様を流用，拡張するかの 2 つが考えられる．前者にはコーパスをブロ グ記事に特化したものにすることができるという利点があるが，コーパスユーザにとっては，全 く新規の仕様は広く流通している既存のコーパスの仕様に比べて扱いにくいものとなることが 予想される. 後者の場合, ユーザにとって扱いやすいコーパスとなるが, 既存の仕様ではカバー できないブログの言語現象が存在する恐れがある。我々は当初, 既存の仕様を用いる場合, 評価表現に関しては川田らのものを，それ以外のアノテーションには京大コーパスのものを第一候補として考えていた。川田らの仕様は, 他の評価表現アノテーションの仕様と異なり, 評価表現を単にマークするたけけでなく，「当為」「要望」「採否」等の意味的な細分類を付与する。こ の細分類情報は，従来以上に詳細な情報分析技術を実現するための重要な要素であると我々は 考えている。一方, 京大コーパスの仕様は, 京大コーパスだけでなく, 近年盛んに研究利用され ている日本語 WWW コーパスのアノテーションにも使用されており (新里, 橋本, 河原, 黒橋 2007), 解析済みコーパスの仕様の中でもっとも広く流通しているものということができる。そ こで我々は，川田らの評価表現アノテーションの仕様と京大コーパスの仕様をブログ記事に予

表 1 テーマごとの記事数, 文数, 形態素数

備的に適用し, 記述しきれない言語現象が存在するかを調査した. その結果, 後述するように,誤変換, 脱字, 衍字, 口語的表現などの形態素に関する仕様の追加と, 係り受けに関しての若干の仕様拡張，文境界と括弧表現についての仕様の策定を行えば，ほぼ対応可能であるという 見通しが得られた。最終的に，川田らの仕様と京大コーパスの仕様をべースに，以降で述べる いくつかの拡張を加えることでKNBコーパスのアノテーション仕様とすることに決定した7．

完成した KNB コーパスは 249 記事, 4,186 文から成る. テーマごとの記事数, 文数, 形態素数 は表 1 の通りである。執筆に加わった大学生は計 81 名である。京都観光について執筆したのは 計 72 名，携帯電話については計 67 名，グルメについては計 34 名，スポーツは計 18 名である.

以下では, KNB コーパスヘアノテーションされている各種言語情報の仕様について例ととも に説明する。

## 3.1 文境界

新聞記事とは違い, ブログ記事では, 例文 (2)のような境界が明確な文だけでなく, 例文 (3) にあるような境界が不明確な文もある（以下，[EOS] はアノテーションされた文境界を，山は元 の記事における改行を表す).

(2) a. 私はプリペイド携帯をずっと使っている．［EOS]

b. ヒマな大学生の人はチケット買って西京極でボクと握手! [EOS]

(3) a. なぜか清水寺に着きました笑 $[E O S]^{8}$

b. 京都のほうだったような・・. [EOS] まあ観光スポット多いですもんね？京都 は. [EOS]

KNB コーパスでは，原則的には，母語話者の直観に基づき一文として最も適切だと思われる 個所で文を区切った．それ以外に，(4)に挙げる個別的な方針を導入した。

(4) a. 日付だけからなる行も一文とする
- 2006 年 10 月 09 日 [EOS]

b. URL だけからなる行も一文とする
- http://www.shigureden.com/1EOS]

c. 箇条書きの一行一行をそれぞれ一文とする

$\cdot$ 藤井大丸

・紀伊國屋書店】[EOS]

d. 途中に URL が含まれていても，全体を一文とする
- http://url/とでも入力すると, $1 \mathrm{http} / / \mathrm{url} /$ と出ます. [EOS]

e. 途中に文末によく現れる記号があっても，明らかな一文である場合は区切らない

$\cdot$ 散歩？？かな. 1 [EOS]

f. 文頭，文末の記号は一文に含める ${ }^{9}$

$\cdot$そんな日本語ないか. 笑 1 [EOS]
- 脱力. ORZ 1 [EOS]
- P.S.数年前, 電車の... [EOS]

CSJでは, 対象が話し言葉であり, 文の終わりが不明確であるという特徴がより顕著である. そこで「節単位」という「文」に概ね相当する単位を規定し，文境界アノテーションを施して いる (丸山，高梨，内元 2006).

## 3.2 括弧表現

京大コーパスでは括弧表現は削除されていたが，ブログ記事の括弧表現は，新聞記事と比べ ると，本文と密接不可分な内容のものが多く無視できない．例文 (5) は KNB コーパスの括弧表現の例である.

(5) a. ここもFood（パンメインでカレーとか）の量は少なかったなー

b. 貴重な（まあどのへんが貴重なのかはわからないけど）時間を無駄にしてしまう。

c. どでかい神楽松明（激しく燃えている!）を担いで，狭い鞍馬街道をどこからと もなく練り歩き出す.

一方で，ブログ記事の括弧表現は多種多様で，文内に埋め込まれたままだと，係り受け等の アノテーションが困難になる。そこで，括弧表現を文中から取り出して一つの独立した文とし た。例文 (7) は例文 (6) から括弧表現を抽出したものである.

(6) \# S-ID:KN012_Gourmet_6-1-23

ここもFｏｏｄ（パンメインでカレーとか）の量は少なかったなー

(7) a. \# S-ID:KN012_Gourmet_6-1-23-01

ここもＦｏｏｄの量は少なかったなー

b. \# S-ID:KN012_Gourmet_6-1-23-02 括弧タイプ: 例示 括弧位置: 7 括弧始：( 括弧終：） パンメインでカレーとか

「\#」の行には文 ID を表す S-ID をはじめ, 直下の文の各種情報が記述されている，抽出 され一文になった括弧表現は，元の文の直後に置かれ，新たに文 ID が与えられる．具体的に は，元の文の ID 末尾に「-01」を付与し，抽出されて別の文となった文の IDには「-02」「-03」

「-04」等を付与する。例えば例文 (6) は ID が「KN012_Gourmet_6-1-23」だが，括弧抽出後は，「KN012_Gourmet_6-1-23-01」(7a) と「KN012_Gourmet_6-1-23-02」(7b)の二文になる.

なお，括弧表現の元の文における位置情報が記録されており，復元も可能である。例文 $(7 \mathrm{~b})$ における「括弧位置：7」がその情報にあたり，「7」は括弧の開始位置を字数により示している。 さらに，抽出された括弧文には，読み，日付，金額，場所，同義，例示，その他のいずれか

（8）読み： 印象に残ったのは,「御髪（みかみ）神社」.

日付：ソフトバンクが前夜に予想外割を発表したこともあって，この日（10月2 4 日）の情報通信株は面白いことになりそうという意識があった.

金額： また付いてくる麦飯とキャベツと赤だしの味噌汁がおかわり自由で，私は豚 カツ120 g（1050円）と一緒に，ごはんを 4 杯，みそしるを 2 杯，キャ ベツをもともとよそられていた量のの 1 ． 3 倍は食べてしまう。

場所：まずは自転車で三条口（西大路三条）へと向かう.

同義： $15 \sim 20$, ブル（ど真ん中）を狙って例えば 15 を三回あてれば自分の陣地になりそっから点数が入る，というものである.

例示：We bが使えない，通話料がやけに高いので電話をわざわざ公衆電話からか けたりする，携帯会社が謳うオトクげなサービス（誕生日割りなど）をほと んど受けられない...

その他： 私は携帯電話が嫌いで（高校入学時に買わされたが），電源を入れている ときの方が少ない.

括弧表現はコーパス全体で 137 回出現した。その内訳を表 2 に挙げる。「その他」に分類され る括弧文のほとんどは，上の例にあるような，本文に対する補足説明と呼べるものだった． なお，表 1 では，抽出された括弧表現も一文としてカウントしている。

表 2 括弧表現の出現数

## 3.3 形態素

形態素アノテーションでは, 形態素と呼ばれる, 当該言語において意味をもつ最小の単位に 文を分割し, 各形態素に読み, 原形, 品詞, 活用型, 活用形を付与する. 形態素は, 文の構造 を解析する上での最も基本的な単位である.

KNB コーパスでは京大コーパスと同様に, 形態素単位, タグ単位, 文節単位の 3 段階で階層的に文を分割している，夕グ単位とは，基本的に自立語 1 語を核として，その前後に存在する 接頭辞, 接尾辞, 助詞, 助動詞などの付属語をまとめたものである. タグ単位は, 格・省略・照応関係と係り受け関係のアノテーションで使用される。文節単位は, 1 語あるいは複数の自立語を核として, その前後に存在する接頭辞, 接尾辞, 助詞, 助動詞などの付属語をまとめたも のであり，係り受け関係のアノテーションで使用される ${ }^{10}$ 。また，文節境界は夕グ単位境界で もある．例として表 3 に，「半年ほど前に携帯電話の機種変更をしました.」という文を対象に した形態素, タグ単位, 文節単位のアノテーションを示す.

形態素単位と文節単位の他にタグ単位を用意するのは, 格・省略・照応アノテーションの際,形態素より大きく文節より小さい単位でアノテーションする必要があるためである．例えば「5

表 3 形態素, タグ単位, 文節単位アノテーションの例

} & & & & \\

００メートル地点」という表現に対しては，「500メートル」と「地点」の間に修飾格関係が 成立する旨をアノテーションするが，「500メートル地点」は全体で 1 文節であり，また，「5 ００メートル」は「500」と「メートル」の2つの形態素に分かれる. このため, 「5 00 メー トル」を 1 つの単位としてまとめるタグ単位の導入が必要になる.

KNB コーパスの形態素アノテーションは, 品詞・活用体系，フォーマットともに京大コーパ スの仕様に準拠しているが, 次のようなブログの特徵に対応するため仕様を拡張した.

(9) a. 誤変換，脱字，衍字 ${ }^{11}$

b. 口語的表現（方言，外国語，擬音・擬態語，言い淀み）

c. 創造的表現（記号, Web で頻出のスラング）

以下，それぞれについて詳述する。

## 3.3.1 誤変換, 脱字, 衍字

下に例を挙げる。矢印 $\rightarrow$ の右側が誤変換，脱字，衍字の例である.

b. 脱字 :

(1)「早めに行かないと」～「早めにかないと」

(2)「属するようになり」 $\rightarrow$ 「属するようなり」

c. 衍字：

いっていきます.」

焼肉屋, ‥ダイニングも多い.」

誤変換あるいは脱字を含む文は，元の誤った表現を残しつつ，正式な書き方・表現に基づい てアノテーションすることとした。例えば「早めにかないと」なら「早めに行かないと」として アノテーションした，加えて，コーパス中に用意されているメモ欄に，「ER: (正しい書き方)」 のように，誤りフラグ ER と正しい書き方を記載することとした。このメモはタグ単位に与え られている。表 4 左に脱字のアノテーション例を挙げる ${ }^{12}$.

衍字を含む文は，衍字が語句の内部にある場合と，語句の前あるいは後ろに接している場合の 2 通りに分けて対応した，前者の場合，上述した誤変換あるいは脱字の場合と同様にアノテー ションする．つまり，元の表現を残しつつ，正式な書き方・表現に基づいてアノテーションし， メモ欄には誤りフラグ ER と正しい書き方を記載する。後者の場合，衍字とそれが接している

表 4 脱字, 衍字のメモ例

語句を別々の形態素としてアノテーションし，メモ欄には誤りフラグ ER と正しい書き方を記載する。一方, タグ単位としては 1 つにまとめる。表 4 右に衍字のアノテーション例を挙げる.

KNB コーパス全体では, 誤変換, 脱字，あるいは衍字が 102 回出現した。その内訳は, 「京都観光」では 43 回, 「携帯電話」では 30 回, 「グルメ」では 20 回,「スポーツ」では 9 回である.

## 3.3.2 口語的表現

方言や外国語，擬音・擬態語，意図的な言い淀み等がこれに該当する，後述するように，結局 これらの表現は元の形のままでアノテーションしている. CSJにおいても，融合，省略，フィ ラー, 断片化といった口語表現特有の現象を, 元の表現そのままでアノテーションしており, 元 のテキストを可能な限りそのままの形で正確に記述するという我々の方針と一致している.

方言では活用をどう記述するかが問題となる，我々は，京大コーパスとの互換性と文法記述の 正確性を最大限確保するため, 既存の活用に該当しない方言に対して, 形態素解析器 JUMAN ${ }^{13}$ の活用記述法に準拠しつつ，新たな活用を定義した。例として，関西方言の「や」に関連する ものと，それに対応する標準語の（つまり JUMANに既存の）活用情報を例文 (11) に挙げる ${ }^{14}$.

(11) a.「面倒やん」… 形容詞ヤ列基本形

(「面倒だ」… ナ形容詞基本形)

b. 「悲しくなったりするんやろ〜 ?」... ナ形容詞ヤ列基本推量形異表記 (「悲しくなったりするんだろう？」… ナ形容詞ダ列基本推量形)

c.「小さいもんやのに」… 判定詞ヤ列基本連体形

(「小さいものなのに」.... 判定詞ダ列基本連体形)

d.「もの大切にしいや」…（終助詞につき無活用）

また，全ての方言に対して，メモ欄に「DI」(dialect)と記載した. 方言は全体で 114 回出現 した。その内訳は，「京都観光」では 40 回，「携帯電話」では 45 回，「グルメ」では 3 回，「ス ポーツ」では 26 回である.

本研究における外国語とは, 固有表現や URL (の一部), 日本語として日常的に用いられて いる名詞（「HDD」「PDF」等）を除く，外国語の表現全てを指す。例として，「今日は 3 限 をさぼらせて友達を連れて祇園界隈へＧＯ！！」という文における「ＧＯ」がある。外国語の アノテーションでは，どのような日本語の品詞を割り当てるべきかが問題になる．KNBコーパ スでは, 外国語の形態素に対し, 原則として, サ変名詞, 普通名詞, 形容詞のいずれかを割り 当てることとした.

（12） a. サ変名詞：「祇園界隈へ GO！！」

b. 普通名詞：「予想 GUY」

c. 形容詞：「京都L OVEなので」（ナ形容詞 ダ列基本連体形）

読みは英単語アルファベットそのままとした.

外国語のフレーズは, 1 単語 1 形態素とし, フレーズ全体で 1 タグ単位とした. 例えば「 $\mathrm{w}$

形態素 1 タグ単位となる.

アルファベットで書かれたものに限定して KNBコーパスにおける外国語を集計した結果，外国語に該当する表現が 16 個存在した。テーマ別に見ると，「京都観光」には 8 表現，「携帯電話」 には 3 表現,「グルメ」には 5 表現で,「スポーツ」には存在しなかった.

擬音語・擬態語として, KNBコーパスでは, 辞書には登録されていない, 『ピリリリリリ』『ポ フュー』等が出現した.

(13) a. 「携帯『ピリリリリリ』」

b. 「『ポフュー』って粉が出て」

JUMAN では, 「ごくごく（飲む）」や「どしどし（応募する）」のような既知の擬音語・擬態語を副詞としているため, KNBコーパスでもこれに倣い, これらを全て副詞とした.

JUMAN に未登録の擬音語・擬態語を KNB コーパスから抽出したところ， 16 語が得られた. テーマ別に見ると,「京都観光」から 3 語,「携帯電話」から 8 語,「グルメ」から 2 語,「スポー ツ」から 3 語が得られた。

言い淀みの例を以下に挙げる。

(14) a. 牛乳を入れて…ぎゅうにゅ…にゅ…牛乳ねえええー!

b. 現voda....もといソフトバンクモバイル

これらは未定義語として，メモ欄に「言い淀み」と記載する．KNBコーパス全体で言い淀み は 4 回出現した。その内訳は，「携帯電話」では 1 回,「グルメ」では 2 回,「スポーツ」では 1 回である。

## 3.3.3 創造的表現

顔文字等の記号や，「サーバ」を意味する「鯖」等の Web 上で多用されるスラングはブログ 特有の表現といえるが，これらを創造的表現と呼ぶことにする.

KNB コーパスにおけるスラングは，「サーバ」を意味する「鯖」と，「マスコミ」を意味する 「マスゴミ」，「終わった」を意味する「オワタ」があった.

(15) a. MN P 鯖が落ちているから.

b. マスゴミで報道されてしまったし，

スラングも, 他の表現と同様に京大コーパスとの互換性を最大限保つよう配慮する。例えば 上記の「鯖」は，普通名詞として扱う。なおスラングには，メモ闌に「スラング：(正式あるい は一般的な表記)」を付記している．KNBコーパス全体におけるスラングの出現回数は 3 回で, いずれも「携帯電話」に関する記事において出現した.

人がうなだれている姿を現す「ｏｒｚ」や顔文字，「！!」「...」のような同じ記号の連続は 1 形態素の記号とした.

(16) a. 自分の部屋で紅茶をいれ，一人で味わいましたO $\mathrm{r} z$

b. 京都大好きな人が増えていけばいいなと密かに思ってます(*^-^*)

c. 住んでみて改めて思います!!

d. 厳かさに畏れを抱く.

「or z 」(変種も含む) と顔文字の出現頻度を調べたところ, KNBコーパス全体では 26 回 たっった.テーマ別で見ると，「京都観光」では 11 回，「携帯電話」では 8 回,「グルメ」では 5 回,「スポーツ」では 2 回だった。

一方, 「一」「〜」などの長音記号は, それを含む形態素, あるいは直前の形態素の一部とし,独立した記号とはしない. また, 長音記号付きの形態素は, 対応する標準的な表現の異表記と してアノテーションした。

(17） a. 気分悪くなってきたのでやめまーす笑

動詞性接尾辞ます型 基本形異表記

(cf. 「(やめ) ます」は「動詞性接尾辞ます型 基本形」)

b. 誰か一緒にいこ〜!!

子音動詞力行促音便形 意志形異表記

(cf.「(一緒に) 行こう」は「子音動詞力行促音便形 意志形」)

長音記号に関するもの以外で, 標準的表現の異表記としてアノテーションされている表現と して「分厚っ」や「すげえ」，「大好きだあ」などがある.

これら標準的表現の異表記を集計したところ，KNBコーパス全体では 38 表現存在した。そ の内訳は, 「京都観光」が 15 表現, 「携帯電話」が 8 表現,「グルメ」が 11 表現,「スポーツ」が 4 表現である.

## 3.4 係り受け

係り受けアノテーションでは，夕グ単位間と文節間の 2 種類の係り受け関係を京大コーパス に準拠する形式でアノテーションした。係り受け関係は, 自然言語処理において，文の構文的意味的構造を表す最も一般的な手段である.

タグ単位間と文節間の係り受け関係の例を図 1 と図 2 に挙げる。係り受け関係として，京大 コーパスと同様, 通常の係り受け関係の他に, 並列関係と同格関係がある.

CSJでは話し言葉特有の現象に対応すべく独自の仕様を設けている。例えば，文節の倒置に 対応するために右から左への係り受けを許し（図3の実線.「これは」が倒置され, 左の文節「耐えられないんです」に係っている) 15 ，また，言い差し，ねじれに対応するために係り先の ない文節を認めている（図4の実線.「目標は」の係り先として適切なものがない) 16.

$\mathrm{KNB}$ コーパスでは, 京大コーパスとの互換性を重視し，上記のような特殊な仕様は避けるこ

図 1 タグ単位間の係り受け

図 2 文節間の係り受け

図 3 CSJにおける倒置の係り受けの例（「これは」が倒置され，左の文節「耐えられないんです」に係っ ている)

図 4 CSJにおけるねじれの係り受けの例（「目標は」の係り先として適切なものがない）

図 $5 \mathrm{KNB}$ コーパスにおけるねじれの係り受けの例（「壊れる」の係り先として適切なものが括弧抽出に より無くなっている)

ととした。つまり図 3 と図 4 に相当する現象に対しても，図中の破線にあるように，左から右 へ，最も適切と思われる文節に係るようにアノテーションするという方針にした. 例えば，例文（18）（図 5）のように，記事の執筆者の誤りによって係り先の文節が括弧に入れられ，括弧抽出処理によって別の文になっている場合があった ${ }^{17}$.

（18）壊れる（画面が見えなくなる前に）他の携帯を手に入れようと

この例文は括弧抽出処理を経て次のように分けられる。

(19）a. 壊れる他の携帯を手に入れようと

b. 画面が見えなくなる前に

つまり，閉じ括弧位置の間違いのため，「壊れる」の本来の係り先「前に」がなくなっている。 これに対して，上記方針に従い，抽出された本来の係り先文節（例文（19）の「前に」）の係り 先文節（「入れようと」）に係るものとした.

## 3.5 格・省略・照応

京大コーパスに準拠する形式で, 格・省略・照応のアノテーションを付与した. これらの情報は，係り受け関係よりさらに踏み込んだ文の意味構造や，文よりさらに大きい単位である談話の構造について知る手段となる.

格アノテーションでは，用言の場合，その用言に係る要素との間の意味的関係を当該用言に 付与する．ここでいう意味的関係とは，ガ格，ヲ格，二格，卜格，デ格，カラ格などの格助詞 に対応する関係や，「〜を通じて」「〜として」などの複合辞に対応する関係，さらには，格助詞や複合辞に対応するものが無い「外の関係」と呼ばれる関係がある ${ }^{18}$ 「「は」や「も」などの 副助詞でマークされる要素に対しては，例文 (21)のように，これらのいずれかの関係のうち意味的に合致するものが選ばれる。格アノテーションは体言間の意味的関係も対象とする。その 場合，体言の必須格を表すノ格や体言の補足的情報を表す修飾格などが付与される．例文 (20) と (21) に用言格アノテーションの例を，例文 $(22)$ と (23) に体言格アノテーションの例を挙げ る。下線が引いてある用言あるいは体言への格アノテーションが括弧内に書かれている.

(20) 一ユーザとしては，かなり使いでがある.（ガ格：使いで，トシテ格：ユーザ）

(21) Foodは量が少ない.（ガ格：量，外の関係：Food）

(22) フツウの携帯ユーザーの仲間入り（ノ格：ユーザー）

(23) 年間最大 1 万 8 千円程度（修飾：年間, 修飾：最大）

省略アノテーションは, それと係り受け関係にあるはずの要素が省略されている場合, その 要素の指示対象と意味的関係を付与する。意味的関係は格アノテーションのものと同様である.以下に省略アノテーションの例を挙げる.

(24) 4，5 回しか行ったことないけど. (ガ格：一人称）

（25）だって携帯の会社変えたらアドレスとか全部変わるもんね．面倒やん．（ガ格：変 わる)

（26）時雨殿に行った. …残念ながら閉館していたので（ガ格：時雨殿）

（27）私の使っている携帯電話に最近原因不明の黒い横線が入るようになってしまった. ‥ もちろんプリペイド携帯電話. …現実の使用の上ではそんなに困ることもない… (ガ 格: 私, Э格: 電話)

表 5 に，格・省略アノテーションの結果明らかになった，KNBコーパスにおける最頻出の意味的関係上位 5 つの出現回数を挙げる。いずれのテーマにおいても，ガ格， ヲ格，二格，ノ格,修飾格が上位 5 つを占めた。

照応アノテーションでは，ある表現が既出のものと同じ対象を指示している場合，その表現 （照応表現と呼ぶ）に対して対応する既出表現の位置情報を付与する。例文 (28)，(29)，(30)に 照応アノテーションの例を挙げる。

(28) 父と野球. 父は野球が好きだった. (父 $=1$ 文前)

表 5 意味的関係の出現数（出現頻度上位 5 ）

（29）実は, この 2 大勢力時代という表現は正確ではない. 本当はもう 1 勢力あるのだ. そ れが『ネギ』である。（勢力 $=1$ 文前）

（30）困ったことに，友人たちの間では僕は携帯電話を持ち歩かないことで有名だ．が，そ れは事実とは反している。携帯は持ち歩いている。（電話 $=2$ 文前 $)$

例文 $(30)$ に関して, 下線の「携帯」は 2 文前の「携帯電話」と同じ対象を指示しているが,照応アノテーションの単位はタグ単位なので,「電話」のみと $=$ で結んでいる.

照応アノテーションは, 明示的に書かれている表現に対してだけでなく, 省略された表現に 対してもなされる，例えば，例文 $(26)$ と (27) に対しては，それぞれ例文 (31) と (32)のように アノテーションする.

（31）時雨殿に行った。‥残念ながら閉館していたので $\cdots$ (時雨殿 $=1$ 文前）

(32) 私の使っている携帯電話に最近原因不明の黒い横線が入るようになってしまった. … もちろんプリぺイド携帯電話. …現実の使用の上ではそんなに困ることもない… 私 $=2$ 文前, 電話 $=2$ 文前)

結局, 照応アノテーションでは, 形態素や係り受けのアノテーションと違い, 京大コーパス からの仕様拡張の必要は無かった.

KNB コーパス全体における照応表現の出現回数は 9,881 回だった. テーマ別に見ると，「京都観光」では 3,620 回,「携帯電話」では 3,146 回,「グルメ」では 1,939 回，「スポーツ」では 1,176 回だった。

## 3.6 固有表現

固有表現アノテーションでは，文中の人名や地名，日付，時間表現等をマークする．固有表現は解析システムの辞書に登録されていない場合が多く, 何も手段を講じなければ未知語とし て扱われ, 解析誤りを引き起こしうる。解析システムをより頑健にするには, 本コーパスの固有表現アノテーションのような, 固有表現自動抽出を学習するためのデータが必要である.

KNB コーパスの固有表現は, 京大コーパスと同様に, IREX の仕様に準拠してアノテーショ ンされている．固有表現は次の8つのいずれかに分類される.

(33) a. ORGANIZATION …組織名

b. LOCATION …地名

c. PERSON …人名

d. ARTIFACT …固有物名

e. PERCENT …割合表現

f. MONEY ㄱ..金額表現

g. DATE $\cdots$ 日付表現

h. TIME $\cdots$ 時間表現

上記分類以外に，それら分類のいずれにも属さない，あるいは判定が困難な場合に用いる OPTIONAL という分類基準がある.

例文 (34) に例を挙げる。

(34) a. 近鉄ファンだった。（近鉄：ORGANIZATION）

b. 京都を回ってみようと思いますれ（京都：LOCATION）

c. あの孫社長が携帯業界に参入してきた。（孫：PERSON）

d. 初めてバンホーテンココアを飲んたときも衝撃でしたが，（バンホーテンココア： ARTIFACT)

e. 乗車率 $90 \%$ 程度だろうか.（90\%：PERCENT）

f. 惹麦の一杯や定食の一人前が８00円から1000円もする.（８00円:MONEY, 1000 円：MONEY)

g. 来シーズンもプロ野球戦線が盛り上がるといいですね〜。（来シーズン：DATE）
h. 9 時過ぎに出発する. (9 時：TIME）

3.5 節の格・省略・照応アノテーションと同様, 固有表現アノテーションにおいても, 京大 コーパス (IREX) の仕様の拡張は必要なかった.

アノテーションの結果, KNB コーパスには固有表現が 2,073 個含まれていることが分かった. その内訳を表 6 に挙げる.

表 6 固有表現の出現数

## 3.7 評価表現

KNB コーパスにおける評価とは，ある対象に対して述べられた肯定的，もしくは否定的判断 や態度, 叙述を指す. 典型的には,「お酒は美味しかったですよ.」のような, ある対象に対す る肯定的／否定的な判断や態度がそれにあたる．また，「昼食が 2 万 3 千円〜だった.」のよう な事実的な言明であっても，その事実がある対象への肯定的／否定的評価に結びっくなら，そ れも評価に含める。

評価表現アノテーションでは, 川田ら（川田他 2009）に基づき，何らかの評価を含む文に対 して次の情報を付与する.

(35) a. 評価保持者：その文における評価を発信している人や団体.

b. 評価表現 : 文中での評価を表している部分.

c. 評価タイプ：評価の種類と評価の極性. 極性は,「+」が肯定的評価で「-」が否定的評価を表す.

当為： 評価保持者による提言や助言，対策を表す言明である。典型的には，「〜 すべきだ」「〜しましょう」といったものがこれにあたる.

要望 ：評価保持者の要望や要請を表す言明である。典型的には，「〜してほし い」「〜を求める」などがこれにあたる.

感情 $+/-$ ：評価保持者の欲求や喜怒哀楽，好き嫌いといった感情を表す言明で

ある. 典型的には，「〜が好き」「〜が悲しい」などがこれにあたる.

批評 $+/-$ ：評価保持者による賛成や反対, 称賛, 批判などの感情の言明がこれ

にあたる. 典型的には，「〜が素晴らしい」「〜が納得できない」などがこ れにあたる。

メリット $+/-$ ：評価保持者による, 評価対象に対する利点や欠点, 特徵や課題 について述べた言明である。典型的には，「〜効果がない」「〜がうるさい」 などがこれにあたる.

採否 $+/$ - ：評価保持者が評価対象を積極的に利用したり，新たな製品や制度な どを採用する姿勢を述べた言明である。典型的には，「〜を利用する」「〜 を導入する」「〜を採用する」などがこれにあたる。

出来事 $+/$ - ： 評価対象によって引き起こされた良い／悪い状況や個別的経験に

ついて述べられた言明である。典型的には，「〜が壊れた」「〜を受賞した」 などがこれにあたる.

d. 評価対象：評価の対象.

例文 (36) と (37)に，「おかきやせんべいの店なのだが，これがオイシイ.」と「貧乏人臭い， なんか怪しげな人っぽいといった類のものです.」という文への評価表現アノテーションを挙 げる.

(36) おかきやせんべいの店なのだが，これがオイシイ.

a. 評価保持者 : [著者]

b. 評価表現：オイシイ

c. 評価タイプ：批評 +

d. 評価対象：おかきやせんべい

(37) 貧乏人臭い，なんか怪しげな人っぽいといった類のものです.

a. 評価保持者 : [不定]

b. 評価表現：貧乏人臭い，なんか怪しげな人っぽいといった類のものです.

c. 評価タイプ：批評 -

d. 評価対象：[プリペイドユーザー]

$[\ldots]$ でマークされているものは，文中に存在しない評価保持者，評価対象である ${ }^{19} .(37)$ で評価保持者が［不定］となっているのは，その評価が執筆者や特定の個人，団体によるもの ではなく，世間一般の評価であることを示している.

一文に複数の評価が含まれていることもある。次の例では，「しょぼかった」「画面も小さかっ た」「音も 3 和音とかやった」の 3 つの評価表現が一文に含まれている.

(38) 最初はカメラもしょぼかったし, 画面も小さかったし, 音も 3 和音とかやった.

a. 評価保持者 :

(1) [著者]

(2) [著者 $]$

(3) [著者]

b. 評価表現 :

(1)しょぼかった

(2) 画面も小さかった

(3) 音も 3 和音とかやった

c. 評価タイプ :

(1) 批評 -

(2) メリットー

(3) メリット -

d. 評価対象 :

(1) カメラ

(2) 画面

(3) 音
 うものが持つ社会に対するマイナスイメージも考えてみました.」だったためである.

(38)の (1) (2) (3) は対応しており, 例えば, 評価「しょぼかった」の評価保持者は「[著者 $]$ 」,評価タイプは「批評 $-」$, 評価対象は「カメラ」となる.

評価表現アノテーションは一文内で完結しない場合が頻繁にある。例えば例文 (39)のように,評価の対象と評価表現が（近接する）異なる文に書かれている場合がそうである。例文 (39)の 2 文目は，1文目に書かれている対象「ココア・オレ」に対する評価を述べている ${ }^{20}$.

(39）私はココア・オレを買います.

これは何度飲んでも衝撃です。

a. 評価保持者：[著者]

b. 評価表現：衝撃です

c. 評価タイプ : 感情 +

d. 評価対象：[ココア・オレ]

異なる文に分断された評価対象と評価表現は多くの場合，格・省略・照応関係で結ばれてい る。従って評価表現アノテーションは，格・省略・照応関係のアノテーションと合わせてなさ れるべきである． 3.5 節で述べた通り，KNB コーパスでは格・省略・照応関係もアノテーショ ンされており，例文 (39)の 2 文は照応表現「これ」を介して次のように関連づけられる。

(40)私はココア・オレを買います.

$
\text { これは何度飲んでも衝撃です。（これ＝ココア・オレ） }
$

KNB コーパス全体を評価表現アノテーションした結果，2,045 文（48.85\%）の文に何らかの 評価表現が含まれていた。その内訳は表 7 の通りである ${ }^{21}$ ，表において，「当」「要」「感 +$\rfloor$ 等 はそれぞれ「当為」「要望」「感情 + 」等を表す.

## 3.8 アノテーション可視化 HTML ファイル

以上で述べた通り，KNBコーパスのアノテーションは多岐にわたり，そのままでは（人間に とって）可読性が低い. そこで，アノテーションを可視化した HTML ファイルを別途用意した.

表 7 評価表現の出現数

図 6 アノテーション可視化 HTML ファイル

図 6 は,「悩んだ末, カシオの $G^{\prime} \quad z \circ n \mathrm{n}$ という, 衝撃や水濡れに強いのがウリの機種に決 めました.」という文へのアノテーションを可視化した例である. 図 6 の上段が, 係り受けと 格・省略・照応, 固有表現, 評価表現 22 のアノテーションを可視化したもので, 下段が形態素 のアノテーションを可視化したものである.

係り受け関係はタグ単位に基づくものを可視化している。また，「濡れに」に係っている「衝撃や」と「水」は並列関係にあるとアノテーションされているので「P」(Parallel) とラベル付 けされている.

格・省略アノテーションに関して，例えば「決めました.」はガ格とニ格を取り，それぞれ，省略されている一人称と, 直前の夕グ単位「機種」がそれらの要素となっている．加えて,「(悩 んた) 末」という時間格を取る．照応アノテーションの例として，「機種」が一文前の「機種」 と照応関係にあるとアノテーションされている.

固有表現として「カシオ」と「G' $\mathrm{z} \circ \mathrm{n} \mathrm{e}$ 」の 2 つがこの例文中にある. 前者は企業名な ので「ORGANIZATION」，後者は製品名であり「ARTIFACT」となる.

この例文中の評価情報として「衝撃や水濡れに強いのがウリの機種に決めました」がある。こ の評価保持者は［著者］である。評価保持者が［著者］あるいは［不定］の場合，可視化 HTML 中では明示しない，評価タイプは「採否十」であり，評価対象は「衝撃や水濡れに強いのがウ リの機種」となる，評価表現は「衝撃や水濡れに強いのがウリの機種に決めました」で，この 箇所は係り受けの可視化に打いて当該文字列が黄色でマークされている.

図 6 下段の形態素アノテーションの可視化では, 形態素ごとに, 表出形, 読み, 原形, 品詞,活用型と活用形を示している。また，文節境界とタグ単位境界もこの箇所で明記している。

## 4 構築から配布まで

KNB コーパスの構築から配布までの手順は次の通りである。

(1) 記事の収集

(2) 文境界/括弧抽出アノテーション

（3）形態素／係り受け／格・省略・照応／固有表現アノテーション

(4) 評価表現アノテーション

(5) 誹謗・中傷・宣伝的内容の削除

(6) アノテーション可視化 HTML の生成

記事の収集は，独自にブログサーバを設置し，大学生にアルバイトとして記事を書いてもら うことで収集した。その際, 記事執筆にあたった全ての大学生から記事の著作権輁渡の承諾を 得た. 手順 (2) と (3) は, 自動でアノテーションした後, 人手修正を施した. (3) の自動アノ テーションでは, 京大コーパスと同様, JUMAN $/ \mathrm{KNP}^{23}$ を用いた. 一方, (4) は全て人手で 行った。また (2) (3) (4) に関して, 京大コーパスと同様, アノテーション基準の見直しと再ア ノテーションというサイクルを何度か繰り返して行った. その後, 元のブログ記事にある, 特定の個人，団体に対する誹謗や中傷，宣伝的な内容を人手でチェックし，削除，あるいは伏せ 字化した. 最後に, 全てのアノテーションを可視化した HTML ファイルを自動生成した.

完成した KNB コーパスのパッケージ $(4.2 \mathrm{MB})$ は, 京都大学情報学研究科一NTTコミュニ ケーション科学基礎研究所共同研究ユニットのホームページ24 からダウンロードできる. 京大 コーパスとは異なり，コーパスのパッケージには，アノテーションだけでなく記事の本文も含 まれている。

## 5 おわりに

本稿では, 我々が構築した, 他に類を見ない, 解析済みブログコーパスについて報告した. 特 に, ブログ特有の現象とそれらの正確な記述, 京大コーパスとの互換性の重視について述べた.

今後は，コーパスの大規模化と，KNBコーパスを用いた各種解析システム（形態素解析器や 構文解析器等）のブログドメインへの適応を試みる予定である.

自然言語処理技術のブログへの適用が今後ますます活発化することは明らかである．その成否は, 本コーパスのような解析済みブログコーパスを充実させることが出来るかどうかにかかっ ている，一方，解析済みブログコーパスの充実にとって欠かせないのは，本稿で述べたような 構築ノウハウの蓄積と構築されたコーパスの流通である。本研究の貢献はこの点にある.

## 謝 辞

本研究は, 京都大学情報学研究科一NTT コミュニケーション科学基礎研究所共同研究ユニッ ト「グローバルコミュニケーションを支える言語処理技術」の活動の一環として行われました。共同研究ユニットのメンバーの方々に感謝申し上げます。また，評価情報のアノテーションに ついて御協力いただいた情報通信研究機構知識処理グループのメンバーの方々に感謝申し上げ ます.

## 参考文献

Adar, E., Hurst, M., Finin, T., Glance, N., Nicolov, N., and Tseng, B. (2008). Proceedings of the 2nd International Conference of Weblogs and Social Media. The AAAI Press.

Adar, E., Hurst, M., Finin, T., Glance, N., Nicolov, N., and Tseng, B. (2009). Proceedings of the 3rd International Conference of Weblogs and Social Media. The AAAI Press.

Akamine, S., Kawahara, D., Kato, Y., Nakagawa, T., Inui, K., Kurohashi, S., and Kidawara, Y. (2009). "WISDOM: A Web Information Credibility Analysis Systematic." In Proceedings of the ACL-IJCNLP 2009 Software Demonstrations, pp. 1-4.

飯田龍, 小町守, 乾健太郎, 松本裕治 (2007). NAIST テキストコーパス：述語項構造と共参照関係のアノテーション (解析・対話). 情報処理学会研究報告. 自然言語処理研究会報告, pp. 71-78. 社団法人情報処理学会.

河原大輔, 黒橋禎夫, 橋田浩一 (2002).「関係」タグ付きコーパスの作成. 言語処理学会 第 8 回年次大会, pp. 495-498.
河原大輔, 笹野遼平, 黒橋禎夫, 橋田浩一 (2005). 格・省略・共参照タグ付けの基準. http://nlp.kuee.kyoto-u.ac.jp/nl-resource/corpus/KyotoCorpus4.0/doc/rel_guideline.pdf.川田拓也, 中川哲治, 赤峯亨, 森井律子, 乾健太郎, 黒橋禎夫 (2009). 評価情報夕グ付与基準. http://www2.nict.go.jp/x/x163/project1/eval_spec_20090901.pdf.

Kobayashi, N., Inui, K., and Matsumoto, Y. (2007). "Opinion mining from web documents." Transactions of JSAI, 22 (2), pp. 227-238.

国立国語研究所. 日本語話し言葉コーパスの構築法（国立国語研究所報告書 124 ). http://www.kokken.go.jp/katsudo/seika/corpus/csj_report/CSJ_rep.pdf.

Kudo, T., Yamamoto, K., and Matsumoto, Y. (2004). "Applying Conditional Random Fields to Japanese Morphological Analysis." In 2004 Conference on Empirical Methods in Natural Language Processing (EMNLP2004), pp. 230-237.

黒橋禎夫, 居蔵由衣子, 坂口昌子 (2000). 形態素・構文タグ付きコーパス作成の作業基準 version 1.8. http://nlp.kuee.kyoto-u.ac.jp/nl-resource/corpus/KyotoCorpus4.0/doc/syn_guideline.pdf.

Lafferty, J., McCallum, A., and Pereira, F. (2001). "Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data." In Proceedings of the Eighteenth International Conference on Machine Learning (ICML2001), pp. 282-289.

丸山岳彦, 高梨克也, 内元清貴 (2006). 第 5 章 節単位情報. 日本語話し言葉コーパスの構築法 (国立国語研究所報告書 124), pp. 255-322. 国立国語研究所.

McClosky, D., Charniak, E., and Johnson, M. (2006). "Reranking and Self-Training for Parser Adaptation." In Proceedings of the 21st International Conference on Computational Linguistics and 44th Annual Meeting of the Association for Computational Linguistics (COLINGACL' 06), pp. 337-344.

McDonald, R., Lerman, K., and Pereira, F. (2006). "Multilingual Dependency Analysis with a Two-Stage Discriminative Parser." In Proceedings of CoNLL-X, pp. 216-220.

宮崎林太郎, 森辰則 (2008). 製品レビュー文に基づく評判情報コーパスの作成とその特徴の分析. 情報処理学会研究報告. 自然言語処理研究会報告 2008 (90), pp. 99-106.

Murakami, K., Masuda, S., Matsuyoshi, S., Nichols, E., Inui, K., and Matsumoto, Y. (2009). "Annotating Semantic Relations Combining Facts and Opinions." In Proceedings of the Third ACL Workshop on Linguistic Annotation Workshop, pp. 150-153.

新里圭司, 橋本力, 河原大輔, 黒橋禎夫 (2007). 自然言語処理基盤としてのウェブ文書標準フォー マットの提案. 言語処理学会第 13 回年次大会発表論文集, pp. 602-605.

Nivre, J., Hall, J., Nilsson, J., sen Eryi git, G., and Marinov, S. (2006). "Labeled PseudoProjective Dependency Parsing with Support Vector Machines." In Proceedings of CoNLL-X, pp. 221-225.

Sekine, S. and Isahara, H. (2000). "IREX: IR and IE Evaluation-Based Project in Japanese." In Proceedings of the 2nd International Conference on Language Resources and Evaluation (LREC2000), pp. 1475-1480.

Sriphaew, K., Takamura, H., and Okumura, M. (2009). "Cool Blog Classification from Positive and Unlabeled Examples." In Advances in Knowledge Discovery and Data Mining, 13th Pacific-Asia Conference (PAKDD), pp. 62-73.

内元清貴, 丸山岳彦, 高梨克也, 井佐原均 (2004). 『日本語話し言葉コーパス』における係り受け構造付与. http://www.kokken.go.jp/katsudo/seika/corpus/public/manuals/dependency.pdf.

## 略歴

橋本力：1999 年福島大学教育学部卒業. 2001 年北陸先端科学技術大学院大学博士前期課程修了. 2005 年神戸松蔭女子学院大学大学院博士後期課程修了. 京都大学情報学研究科産学官連携研究員を経て, 2007 年山形大学大学院理工学研究科助教, 2009 年より独立行政法人情報通信研究機構専攻研究員.現在に至る. 自然言語処理の研究に従事. 博士 (言語科学). 情報処理学会,言語処理学会, 各会員.

黒橋 禎夫：1989 年京都大学工学部電気工学第二学科卒業. 1994 年同大学院博士課程終了. 京都大学工学部助手, 京都大学大学院情報学研究科講師, 東京大学大学院情報理工学系研究科助教授を経て, 2006 年京都大学大学院情報学研究科教授, 現在に至る. 自然言語処理, 知識情報処理の研究に従事. 言語処理学会, 情報処理学会, 人工知能学会, 電子情報通信学会, ACL, ACM,各会員.

河原 大輔：1997 年京都大学工学部電気工学第二学科卒業. 1999 年同大学院修士課程修了. 2002 年同大学院博士課程単位取得認定退学. 東京大学大学院情報理工学系研究科学術研究支援員を経て, 2006 年より独立行政法人情報通信研究機構研究員. 現在, 同主任研究員. 自然言語処理, 知識処理の研究に従事. 博士 (情報学). 情報処理学会, 言語処理学会, 人工知能学会, ACL, 各会員.

新里 圭司：2006 年北陸先端科学技術大学院大学情報科学研究科博士後期課程修了. 博士 (情報科学). 同年 10 月より京都大学大学院情報学研究科特任助教. 2009 年 4 月より特定研究員. 2011 年 4 月より楽天技術研究所研究員. 自然言語処理の研究に従事. 言語処理学会会員.

永田 昌明：1987 年京都大学大学院工学研究科修士課程修了. 同年, 日本電信電話株式会社入社. 現在, コミュニケーション科学基礎研究所 主幹研究員.
工学博士. 統計的自然言語処理の研究に従事. 電子情報通信学会, 情報処理学会, 人工知能学会, 言語処理学会, ACL 各会員.

$
\begin{aligned}
& (2011 \text { 年 } 1 \text { 月 } 5 \text { 日 } \quad \text { 受付) } \\
& \text { (2011 年 } 2 \text { 月 } 23 \text { 日 } \quad \text { 採録) }
\end{aligned}
$