# 項の共有関係と統語パターンを用いた事態間関係獲得
## 阿部 修也 也乾 $^{2$ 健太郎 ${ }^{\dagger} \cdot$ 松本 裕治 $\dagger$}

行為一効果関係, 行為一手段関係のような事態間の関係を大規模コーパスから自動的に獲得する，共起パターンを利用する手法では, 事態を表現する述語間で共有される項を認識することが難しいため, 述語間で共有される名詞（アンカー）を用いて共有項を獲得し, 共起パターンを用いて獲得した所与の関係を満たす述語対と共有項を組み合わせることで，共有項と共に事態間関係を獲得する。このとき 2 種類の異なるアンカーを用いることで，精度を保ったまま再現率を向上できることを確認した。

キーワード：関係獲得，事態間関係

## Event Relation Acquisition with Syntactic Patterns and Shared Arguments

\author{
Shuya $\mathrm{Abe}^{\dagger}$, Kentaro $^{\dagger}$ Inui $^{\dagger}$ and Yuji Matsumoto ${ }^{\dagger}$
}

\begin{abstract}
Addressing the task of acquiring semantic relations between events from a large corpus, we first argue the complementarity between the pattern-based relation-oriented approach and the anchor-based argument-oriented approach. We then proposes a two-phased approach, which first uses lexico-syntactic patterns to acquire predicate pairs and then uses two types of anchors to identify shared arguments. The present results of our empirical evaluation on a large-scale Japanese Web corpus have shown that (a) the anchor-based filtering extensively improves the precision of predicate pair acquisition, (b) the two types anchors are almost equally contributive and combining them improves recall without losing precision, and (c) the anchor-based method achieves high precision also in shared argument identification.
\end{abstract}

Key Words: relation extraction, event relation

## 1 はじめに

質問応答，情報抽出，複数文章要約などの応用では，テキスト間の含意関係や因果関係を理解することが有益である．例えば，動詞「洗う」と動詞句「きれいになる」の間には，「何かを洗うという行為の結果としてその何かがきれいになる」という因果関係を考えることができる.本論文では, このような述語または述語句で表現される事態と事態の間にある関係を大規模に


かつ機械的に獲得する問題について述べる.

事態表現間の因果関係，時間関係，含意関係等を機械的に獲得する研究がいくつか存在する (Lin and Pantel 2001; Inui, Inui, and Matsumoto 2003; Chklovski and Pantel 2005; Torisawa 2006; Pekar 2006; Zanzotto, Pennacchiotti, and Pazienza 2006; Abe, Inui, and Matsumoto 2008, etc.). 事態間関係の獲得を目的とする研究では，事態を表現する述語（または述語句）の間でどの項が共有されているのかを捉えるということが重要である. 例えば，述語「洗う」と述語句「きれいになる」の因果関係は次にように表現できる.

$（ X$ を $)$ 洗う $\rightarrow$ 因果関係 $（ X$ が）きれいになる

この $X$ は述語「洗う」のヲ格と述語句「きれいになる」のガ格が共有されていることを表している.

関係 $R$ を満たす述語対は次のように一般化して表現することができる。

$\left(X\right.$ 項 $\left._{1}\right)$ 述語 $_{1} \rightarrow_{R} \quad\left(X\right.$ 項 $\left._{2}\right)$ 述語 2

述語 ${ }_{i}$ は自然言語における述語（または述語句）であり，典型的には動詞または形容詞である. $X$ はある述語の項ともう一つの述語の項が共有されていることを表している.

我々の目的は, (a) 特定の関係を満たす述語対を見付けだし（述語対獲得），(b) 述語対の間で共有されている項を特定する（共有項同定）ことである. 事態間関係の獲得を目的とする研究は既にいくつかあるが, どの研究も関係述語対獲得または共有項同定の片方の問題のみを対象としており, 両方の問題を対象とした研究はない. 我々が提案する手法は, 目的が異なる 2 種類の手法を段階的に適用して述語間関係を獲得する手法である.

## 2 関連研究

既存の述語間関係獲得の手法は 2 種類の手法に分類することができる。本論文ではそれぞれの手法をパターン方式, アンカー方式と呼称する.

## 2.1 パターン方式

パターン方式に共通する手法は, 多数の事例と共起する様な語彙統語的な共起パターンを作成し，これを用いて特定の関係を満たす述語対を獲得するという手法である。 パターン方式の中で最も基本的な手法は, VerbOcean という知識源を構築するために Chklovski と Pantel (Chklovski and Pantel 2005) が用いたものである. 例えば, to $\left.\langle\right.$ Verb-X〉 and then $\left.\langle\right.$ Verb-Y ${ }^{1}$ のような共起パターンを人手で作成し, strength (e.g. taint-poison)という述語間の関係を獲得した. 述語間

関係毎に共起パターンを人手で作成することで 6 種類の述語間関係を獲得した。このように人手で作成した共起パターンを用いることで少数の共起パターンを用意するだけで多数の述語間関係を獲得することができるが，獲得した述語間関係の再現率は高いが，精度が低くなる傾向がみられる。例えば，Chklovski らが約 29,000の述語間関係を獲得した実験における精度は約 $65.5 \%$ であった. これに対し, 自動獲得した述語間関係から誤り事例を除くための手法も提案されている (Chklovski and Pantel 2005; Torisawa 2006; Zanzotto et al. 2006; Inui et al. 2003).

近年, Abe ら (Abe et al. 2008) が Pantel と Pennacchiotti (Pantel and Pennacchiotti 2006)の手法を拡張した，Pantel らの手法は，実体間関係獲得のために提案されたもので，任意の関係のみとよく共起するパターンと実体対をブートストラップ的に獲得する. Abe らはこの手法を述語間関係獲得に適用できるように拡張し，例えば「〈名詞〉不足により〈動詞〉できなかった」 2 のような, 多数の事例とは共起しないが獲得した述語対の精度が高くなる傾向を持つ共起するパターン（特殊な共起パターン）をブートストラップ的に学習し，述語間関係知識を獲得した。

## 2.2 アンカー方式

アンカー方式は, 述語間関係を決めるための手がかりとして述語の項を埋める表現を用い,主に述語間の類義関係を獲得する場合や含意関係を獲得する場合の前処理として利用される.述語の項を埋める表現を取り扱う方法の違いから，アンカー方式を 2 つに分けることができる. ひとつめ手法は Distributional Hypothesis (Harris 1968)を利用し, 述語の項を埋める表現が似ている述語の間には同義関係が成り立つと仮定する方法であり, Lin ら (Lin and Pantel 2001) と Szpektor ら (Szpektor, Tanev, Dagan, and Coppola 2004) らの研究がこのような手法を用いている.

もうひとつの手法は Pekar (Pekar 2006) が提案している手法である. この手法は, 含意関係を満たす動詞対の候補を見付けるために次の 2 つの基準を用いる.
- 2 つの動詞が同一の談話に出現する.
- 2 つの動詞の項を埋める表現が指しているものが同一である（これをアンカーと呼ぶ）.例えば，次の節対 “Mary bought a house.” と “The house belongs to Mary.” が同一談話に存在する場合, 動詞対 buy (object:X)-belong (subject:X) と buy (subject:X)-belong (to:X) は含意関係の候補である ${ }^{3}$.

## 2.3 パターン方式とアンカー方式の違い

パターン方式とアンカー方式の 2 つの手法を説明したが, この 2 つ手法は独立かつ相補的な関係にある。パターン方式は，アンカー方式と比較して関係の種類を詳細に識別することが


でき，例えば Chklovski と Pantel (Chklovski and Pantel 2005) が用いたパターンは 6 種類の関係を認識し, Abeら (Abe et al. 2008) はInui ら (Inui et al. 2003)によって定義された 4 種類の因果関係のうち 2 種類の関係を認識した。しかし，パターン方式は共起パターンを用いて同一文内で共起した述語対を関係の候補とするが，同一文内ではしばしば述語の項が省略されるため，述語の間で共有されている項を同定することが難しい，例えば，普通は「お茶を淹れてからお茶を飲んだ」とは言わずに「お茶を淹れてから飲んだ」と言うように，同一文内において同じ項が 2 回以上出現する場合は 2 回目以降はその項が省略されることが多い. 一方，アンカー 方式では, 述語の間で共有されている項を用いて述語間関係を発見するため, この手法で獲得した述語対は述語間で共有されている項が同定されている。しかし, 述語間の関係を決めるために用いる情報がせいぜい項の情報であるため, 同義関係や含意関係よりも詳細な因果関係や前提条件を直接的に識別することが難しい.

## 2.4 パターン方式とアンカー方式の組み合わせ

このような独立的かつ相補的な特徴にも関わらず，2つの手法の組み合わせについては十分に研究が行われていない. 興味深い例外として Torisawa (Torisawa 2006)の手法がある. この手法は，一般的な接続表現 $\lceil\langle V e r b-X\rangle て\langle V e r b-Y\rangle 」$ と動詞と項の間の共起情報を組み合わせて時間的な順序関係の制約を持つような事態間の推論規則を獲得する。この手法は有望であるように思えるが，時間的な制約を持つ事態間の推論規則に特化したヒューリスティックを用いているために，別の種類の関係を獲得するためにこの手法を適用できるのかという点が明かではない.

## 32 段階述語間関係獲得手法

パターン方式の関係指向手法とアンカー方式の類義指向手法を組み合わせる手法を提案する. この手法の概要を図 1 に記す.この手法は述語対獲得と共有項同定の 2 つの過程からなる. 最初にパターン方式を用いて所与の関係を満たす述語対を獲得し，これを述語対候補とする．次に，アンカー方式を用いて各述語対候補のフィルタリングと共有項同定を行う．アンカーとして，インスタンスアンカーとタイプアンカーの 2 種類を用いる。述語対候補のアンカーを発見した場合, 述語対候補は確かに所与の関係にあると見なし, アンカーを共有している述語対の項対を共有項とする。一方で, 述語対候補のアンカーがない場合はその述語対候補を破棄する. 5 節で示すように，パターン方式とアンカー方式を組み合わせて述語対の関係を判断することにより精度が向上した。

## パターン方式による述語対獲得

アンカー方式による共有項同定

図 12 段階述語間関係獲得

## 3.1 述語対獲得

述語対獲得ではパターン方式の手法を用いて，所与の関係にある述語対を獲得する。このとき，パターン方式の手法は，関係を詳細に識別して因果関係のような事態間関係を獲得することができれば任意の手法でもよい，例えば，2.1で挙げた手法はこの条件を備えているが， 2.2 で挙げた手法はこの条件を備えていない.

実験ではパターン方式の手法として, Abe ら (Abe et al. 2008)の手法を用いることにした. その理由は, この手法が獲得した事態対の確からしさを表すスコアを持つため, このスコアを用いて信頼度の高い事態対だけを利用することができるという利点を備えているためである。この手法の詳細は (Abe et al. 2008) に記されているが，概要を A 節にも記す.

## 3.2 共有項同定

共有項同定では，パターン方式を用いて獲得した所与の関係にある述語対候補に対して，アンカーを用いることで, フィルタリングと共有項同定を行う，インスタンスアンカーとタイプアンカーの 2 種類のアンカーを用いる。この 2 種類のアンカーはそれぞれ独立的かつ相補的な特徴を持つため, この 2 つのアンカーを組み合わせることで再現率を向上できる可能性がある.

## 3.3 共有項同定：インスタンスアンカー

Pekar (Pekar 2006) が動詞間の含意関係を獲得するためにアンカーを用いた方法に示唆を受けて, 我々は次の 3 つの仮説を置いた。
- 同一談話内において 2 つの述語が項に同じ名詞表現を伴っているとき, この名詞表現は同じものを指している.
- 同一談話内において 2 つの述語の項が同じものを指しているのであれば, この 2 つ述語の項は共有されている。
- 同一談話内において 2 つの述語の項が同じものを指しているのであれば, この 2 つの述語は何らかの関係4を満たす。

例えば図 1 の (2a)はある文章中の談話である.この談話において, 名詞「パン」は 2 回出現し, 1 つめの「パン」は「焼く」のヲ格であり，2つめの「パン」は「焦げる」のガ格である．仮説から，2 回出現した「パン」は同じ「パン」を指していると仮定でき，「焼く」のヲ格と「焦げる」 のガ格は項を共有し, さらに「焼く」と「焦げる」は何らかの関係にあると仮定できる。ここで重要な役割を果す名詞（この例では「パン」）を我々はアンカーと呼び，このようなアンカー を 3.4 で述べる「タイプアンカー」と対比させて「インスタンスアンカー」と呼ぶ.

述語対 Pred $_{1}$, Pred $_{2}$ が与えられたとき, 次の条件を満たす 3 つ組 $\left.\langle\right.$ Pred $_{1}-$ Arg $_{1} ;$ Pred $\left._{2}-A_{2} g_{2} ; A n c\right.\rangle$ を探す。

(a) Web ページ中に出現した Pred $_{1}$ の項の名詞句の主辞 Arg $_{1}$ をアンカー Anc とする.

(b) (a) と同じ Web ページに出現する Pred $_{2}$ の項の名詞句の主辞 $\mathrm{Arg}_{2}$ が $A n c$ と等しい.

(c) Anc がストップリストに含まれていない.

(d) 条件 $\operatorname{PMI}\left(\operatorname{Pred}_{1}, \operatorname{Arg}_{1}\right) \geq \alpha$ かつ $\operatorname{PMI}\left(\operatorname{Pred}_{2}, \operatorname{Arg}_{2}\right) \geq \alpha$ を満たす（ただし実験では $\alpha=-1$ とした).

実験では人手でストップリストを作成した. リストには 219 語の代名詞，数字，「こと」，「もの」，「とき」のように非常に一般的な名詞を含んでいる。条件 (d) の PMI (Pred ${ }_{i}$, Arg $\left._{i}\right)$ は, Pred Pr $_{i}$ $\operatorname{Arg}_{i}$ の間の自己相互情報量である。この条件は, 係り受け解析器のエラーが原因で誤認したアンカーを除くことを目的としている。

インスタンスアンカーの集合は, 項の共有関係を持つ述語対の組 Pred $_{1}-$ Arg $_{1}$ と Pred $_{2}-$ Arg $_{2}$ から次のように求められる。

$
\operatorname{AnchorSet}\left(\text { Pred }_{1}-\text { Arg }_{1}, \text { Pred }_{2}-\text { Arg }_{2}\right)=\left.\{\text { Arg }\left.\langle\text { Pred }_{1}-\text { Arg }_{1} ; \text { Pred }_{2}-\text { Arg }_{2} ; A n c\right.\rangle\right.\} .
$

Pekar は談話の範囲をできるだけ正確に認識しようと勤めているのに対して, 我々は同一 Web ページに含まれる文を同じ談話であると見なし，同一Webページ内でアンカーを共有している述語対は何らかの関係を持つと仮定した. このように Pekar と比較してより少ない制約のみを用いているにもかかわらず，5 節で示すように我々の手法を用いて良い実験結果を得ることができた。この理由は，我々は少ない制約を用いて談話関係を認識したが，代りに語彙統語的パターンを用いて獲得した述語対を用いたため, これが強い制約となり精度の低下を防いでいると考えられる。

## 3.4 共有項同定：タイプアンカー

我々は次の仮説を置いた。
- 同一文内で共起する 2 つの述語は何らかの関係5を満たす.
- 同一文内で 2 つの述語が共起するという状況下において, 2 つの述語の項が伴う名詞をそれぞれの項毎に独立に集めたとき，2つの名詞集合の両方において出現する名詞は， 2 つの述語の項の間で共有されるような名詞である.

図 1 の文 $(3 \mathrm{a})$ と $(3 \mathrm{~b})$ について考察する. この 2 文は独立した文であり, 同一文章内の 2 文であっても，異なる文章の 2 文であってもよい.この 2 文はともに述語「焼く」と述語「焦げる」 を含む．(3a) では名詞「パン」が「焼く」のヲ格にあり， (3b) では名詞「パン」が「焦げる」


のガ格にある. ここから名詞「パン」は，「焼く」のヲ格に伴うことができ，かつ「焦げる」のガ格に伴うこともできるということがわかる．仮説から，「焼く」のヲ格と「焦げる」のガ格は同じ名詞（少なくとも名詞「パン」）を伴うことができるということがわかる.このときの名詞「パン」は，「焼く」のヲ格と「焦げる」のガ格が共有項である可能性を示す名詞である。このような名詞を「タイプアンカー」と呼ぶ.この名称の理由は, (3a)の「パン」と (3b)の「パン」 は同じものを指していないが，同じタイプであるためである.

タイプアンカーの集合は次のように求める。述語対 Pred $_{1}$ と Pred $_{2}$ が与えられたとき，コー パス全体から Pred $_{1}$ と Pred $_{2}$ が共起する文を探し, 次に示すように, どちらか片方の述語の項を埋める名詞の出現頻度を計算する.
- Pred $_{1}$ の項 $\mathrm{Arg}_{1}$ に名詞 $A n c$ があれば, $\left.\langle\right.$ Pred $_{1}-$ Arg $_{1} ;$ Pred $\left._{2} ; A n c\right.\rangle$ の頻度を増やす.
- Pred $_{2}$ の項 $\mathrm{Arg}_{2}$ に名詞 $A n c$ があれば, $\left.\langle\right.$ Pred $_{1} ;$ Pred $_{2}-$ Arg $\left._{2} ; A n c\right.\rangle$ の頻度を増やす. Pred $_{1}-$ Arg $_{1}$ と Pred $_{2}-$ Arg $_{2}$ の間で共有された名詞集合の交差集合を計算する. すなわち,

$
\operatorname{AnchSet}\left(\operatorname{Pred}_{1}-\operatorname{Arg}_{1}, \operatorname{Pred}_{2}-\operatorname{Arg}_{2}\right)=S_{1} \cap S_{2} \text {, }
$

となる.このとき，

$
\begin{aligned}
& S_{1}=\left.\{\text { Arg } \mid\left.\langle\text { Pred }_{1}-\text { Arg }_{1} ; \text { Pred }_{2} ; \text { Anc }\right.\rangle\right.\}, \\
& S_{2}=\left.\{\text { Arg } \mid\left.\langle\text { Pred }_{1} ; \text { Pred }_{2}-\text { Arg }_{2} ; \text { Anc }\right.\rangle\right.\} .
\end{aligned}
$

である.

## 3.5 共有項同定 : アンカー集合の利用

インスタンスアンカーとタイプアンカーに共通する性質を利用して次の目的を達成する.

・アンカーを持つ述語対候補は何らかの関係を満たすという性質を利用し, 何らかの関係を満たさないような述語対候補を除く。
- 述語対の項対の共有項を見付けることができるというアンカーの性質を利用し, 述語対候補の項対の共有項を同定する。

このとき，ある述語対のある項対に対応するアンカーが見付かった場合, その項対はアンカーを持つと言うことにする。また，ある述語対の項対がアンカーを持てば，その述語対もアンカー を持つとみなす。逆にある述語対の項対がアンカーを持てば，その述語対もアンカーを持つとみなす。

図 1 の例を用いて，アンカーによる述語対候補のフィルタリングと共有項同定について説明する. 述語対獲得から述語対候補焼く $\rightarrow$ 行為一効果関係焦げるを得る. この述語対候補のインスタンスアンカーには「パン」「肉」「オーブン」「トースター」の 4 つの名詞が存在するため, この述語対候補はインスタンスアンカーを持つ。同様に，タイプアンカーも４つの名詞を持つた

め, この述語対候補はタイプアンカーも持つ. このときアンカーが存在しなければ，この述語対候補は何の関係も満たさないとみなして候補から除かれるが，この例ではインスタンスアンカーとタイプアンカーを持つため，所与の関係を満たす可能性のある述語対であると見なされる. さらに，この述語対は，アンカー「パン」と「肉」より「焼く」のヲ格と「焦げる」のガ格が共有項であり，アンカー「オーブン」と「トースター」より「焼く」のデ格と「焦げる」のデ格も共有項であるとみなす.

アンカーを用いて，述語対獲得によって獲得した述語対候補それぞれに対して次の手続きを実行する。

(1) アンカーを持たない述語対を除く.

（2） 述語対毎に項対を選ぶ。このとき頻度の高い項対を最大で $k$ 個を選ぶ（実験では $k=3$ ）.

（3） 項対毎にアンカーを選ぶ。このとき頻度の高いアンカーを最大で $l$ 個を選ぶ（実験では $l=3$ ).

## 4 実験設定

述語間関係獲得手法の性能を確認するために，Kawahara と kurohashi が獲得した Webコー パス約 5 億文 (Kawahara and Kurohashi 2006) を用いた。このコーパスに含まれる文に対して Mecab で形態素解析を行い, CaboCha (Kudo and Matsumoto 2002)で係り受け解析を行い, 述語表現の共起事例を獲得した。頻度 20 回未満の共起パターンを伴う述語表現は計算コストを削減するために削除した。

実験では, Inui ら (Inui et al. 2003)の 4 つの因果関係のうち行為一効果関係（Inui らの分類では Effect に相当する）と行為一手段関係（Inui らの分類では Means に相当する）を獲得し，評価した. 行為一効果関係は, 非意志的な出来事 $y$ の起るように直接または間接的にしばしば意志的な行為 $x$ を行うことであり， $x$ と $y$ の間に必然性がなくてもよい. 例えば，行為「Xが運動する」と出来事「Xが汗をかく」は行為一効果関係を満たす。また「飲む」の結果として 「二日酔いになる」ことに必然性はないが，これも行為一効果関係を満たす。一方で行為一手段関係は行為 $x$ を行うためにしばしば行為 $y$ を行うことであり， $x$ と $y$ の間に必然性がなくともよい. 例えば，「Xが走る」は「Xが運動する」ためにしばしば行うことであるため行為一手段関係を満たす。

実験では，12,000 以上の動詞に対して意志性の有無を人手で付与した. これには， 8,968の意志性のある動詞，3,597の意志性のない動詞，547の意志性の有無が曖昧な動詞を含んでいる.意志性のある動詞は「食べる」「研究する」等であり，意志性のない動詞は「温まる」「壊れる」「悲しむ」等である。この動詞の意志性の有無に関する情報は，共起パターンを用いて述語対を獲得する際に述語の素性として用いる.

## 5 実験結果

## 5.1 関係獲得

パターン方式の手法を用いて，行為一効果関係と行為一手段関係の述語対を獲得した. このとき, 行為一効果関係では正例 25 , 負例 4 のシード述語対, 行為一手段関係では正例 174 , 負例 131 のシード述語対を用いた。また, ブートストラップを 40 回繰り返した後, 行為一効果関係では 9,511 共起パターンと 22,489 事態対, 行為一手段関係では 14,119 共起パターンと 13,121 述語対を獲得した。

獲得した述語対を信頼度の順番に並べ，4つの範囲（1-500，501-1,500，1,501-3,500，3,5017,500 ）からそれぞれ 100 述語対をランダムに取得した（行為一効果関係の 400 述語対と行為一手段関係の 400 述語対の合計 800 述語対).この述語対候補に対して，アンカー方式を用いてフィルタリングし, 共有項を付与した. このとき, インスタンスアンカーまたはタイプアンカー によって共有項を付与された述語対は, 行為一効果関係で 254 述語対, 行為一手段関係で 254 述語対であった，共有項を付与できた事例の一部を表 1 に示す.

共有項を付与できた述語対と付与できなかった述語対に対して, 2 人の評価者により述語対の関係が正しいかを判定した（行為一効果関係の 400 述語対と行為一手段関係の 400 述語対の合計 800 述語対を評価した). このとき，与えられた述語対が所与の関係を満たすときに述語対が必要とする項対とアンカーの組を評価者が最低でも 1 つ以上想像できない場合は, その述語対の関係は正しくないと判断した。例えば，述語対「かける」と「つながる」は正しい行為一効果関係であるが，この関係は，「電話」というアンカーが「かける」のヲ格と「つながる」のガ格が共有項であるときに満たされる.

$
\begin{aligned}
& \text { かける（を： } X) \rightarrow \text { 行為一効果関係つながる（が： } X) \\
& (X \in\{\text { 電話 }\})
\end{aligned}
$

表 1 獲得した述語対と共有項とアンカーの例

評価者は，共有項を付与できた述語対については，評価者は共有項とアンカーを想像するために，機械的に付与された共有項とアンカーを参照してもよいとした6.

2 人の評価結果は, 400 事例のうち, 行為一効果関係では 294 事例, 行為一手段関係では 297 事例が一致し，一致度は然程高くない.しかし， 1 人目の評価は一貫して厳しい判定基準で， 2 人目の評価は一貫して寛容な基準であるように見える。その証拠に 2 人目の評価結果が正しいと仮定した場合, 1 人目の評価の精度と相対再現率は行為一効果関係で 0.71 と 0.97 であり, 行為一手段関係で 0.75 と 0.99 となり， 2 人の間で評価の厳しさの基準は異なっているが個々の評価基準は一貫しており，厳しい基準を考えると両者の評価はよく一致していると言える。これを受けて，評価者 2 人が共に正しいとした事例のみを正解とみなした.

評価結果を表 2 に示す。なお，行為一効果関係の評価結果も行為一手段関係の評価結果も同じ傾向を示しているため，行為一効果関係の評価結果に注目して説明する。また，今回の実験で用いたコーパスから獲得可能な全て行為一効果関係（または行為一手段関係）を満たす述語対のリスト，または，特にコーパスを限定しない行為一効果関係（または行為一手段関係）を満たす述語対のリストを用意することができれば再現率を計算できるが，このようなリストを用意することは困難であり，かつこのようなリストは存在しないため再現率を計算することは難しい。そこで，本実験では我々が評価した 400 述語対を用いて相対再現率を計算し，ここから本手法が再現率に及ぼす影響を考察する。

アンカーを用いないパターン方式のみの評価結果を, 表 2 の「パターン方式」の「全て」に示した。先にサンプルした 400 述語対のうち 269 述語対が正しい関係を満たした。精度は, 269 述語対を 400 述語対で割って 0.67 と計算した。また，このときの相対再現率は 1.00 である.

表 2 関係獲得の精度と相対再現率



パターン方式で獲得した述語対候補をアンカー方式でフィルタリングした場合の評価結果を表 2 の「アンカーを持つ事例」に示した．先にサンプルした 400 述語対のうち 175 述語対はインスタンスアンカーを持ち，そのうち 144 述語対は正しい関係を満たした（「アンカーを持つ事例」の「インスタンス」). 142 述語対を 175 述語対で割って精度 0.81 を計算した. さらに，インスタンスアンカーを用いたときに正しく関係を満たす 144 事例を，評価した 400 述語対のうち正しく関係を満たす 269 述語対で割って相対再現率 0.52 を計算した。一方で，タイプアンカー を持つ事例は 169 事例中 143 事例が正しい関係を満たした（「アンカーを持つ事例」の「タイプ」).このときの精度は 0.84 であり，相対再現率は 0.53 である. ここから，インスタンスアンカーを用いた場合もタイプアンカーを用いた場合も同程度の精度と相対再現率であり，どちらも再現率を犠牲にする代わりに高い精度を得ていることがわかる.

インスタンスアンカーまたはタイプアンカーのどちらかのアンカーを持つ述語対の評価結果を「アンカーを持つ事例」の「混成」に示した。インスタンスアンカーのみまたはタイプアンカーのみの場合と比較して, 同程度の精度であるが相対再現率が向上している。この結果から, インスタンスアンカーとタイプアンカーを組み合わせることで精度を犠牲にせずに再現率を改善できることがわかる。夕イプアンカーとインスタンスアンカーは高い精度と低い相対再現率という似た傾向を示すが，カバーしている述語対は互いに異なるため 2 つのアンカーを組み合わせることで再現率が改善されたと考えられる.

本実験で用いたパターン方式の手法は，所与の関係にある述語対をその確からしさを表わすスコアと共に導く，そこで，述語対候補をこのスコアでフィルタリングした場合と，アンカー 方式（インスタンスアンカーとタイプアンカーの組み合わせ）によりフィルタリングした場合で精度と相対再現率を比較する。アンカー方式ではフィルタリングにより結果 400 事例中 254 事例を残した。これと比較するために，400 事例からスコアの高い上位 254 事例について精度と相対再現率を計算した (「パターン方式」の「高スコア 254 件」)，スコアによるフィルタリングの結果（「パターン方式」の「高スコア 254 件」）とアンカー方式（「アンカーを持つ事例」の「混成」）によるフィルタリングの結果を比較すると, 精度と相対再現率の両方においてアンカー方式の方が良い結果である。この結果は, パターン方式の述語対獲得手法にアンカー方式のフィルタリングを組み込むことで述語対獲得の性能を改善できることを示唆している。

さらに，共有項を付与できた 254 述語対（「アンカーを持つ事例」の「混成」）について信頼度毎の述語対の数と, 共有項を付与できない 146 述語対 7 について信頼度毎の述語対の数を比較した結果を図 2 , 図 3 に示す8. ここから, 共有項を付与できた述語対も付与できない述語対も信頼度の面からは類似した傾向を持つため, 共有項を付与できたことと信頼度の間には強い相

関がないことがわかる。この結果から, 共有項によるアンカー方式は信頼度によるパターン方式とは異なる性質を持ち, この 2 つを組み合わせることが有効であることがわかる.

## 5.2 共有項同定

共有項同定の評価結果を示す。評価者 2 人に，インスタンスアンカーとタイプアンカーを組み合わせた手法で共有項を付与することができた述語対の内，所与の関係を満たすと判断された事例について, 付与された共有項が正しいかどうかを尋ねた（行為一結果関係で 203 述語対,行為一手段関係で 196 述語対). 次の 2 種類の基準で共有項の正しさを評価した.
- 共有項 (1-best): 最も頻度の高い共有項が正しい場合を正解とした.
- 共有項 (3-best): 頻度の高い最大 3 つの共有項のうち 1 つ以上が正しい場合を正解とした.評価結果を表 3 に示す.この評価結果も, 評価者 2 人が両方とも正しいとした事例のみを正解とした.

続けて, 共有項によって共有されているアンカーの正しさを, 次の 3 種類の基準で評価した。
- 共有名詞（厳格）：最大 3 つのアンカーが全て正しい場合を正解とした.
- 共有名詞 (寛容) : 最大 3 つのアンカーのうち 1 つ以上が正しい場合を正解とした.

評価結果を表 4 に示す.この評価結果も, 評価者 2 人が両方とも正しいとした事例のみを正解とした.

表 3 と表 4 から，アンカー方式の手法は高い精度で共有項とアンカーを同定できていることがわかる。この手法の精度は, 獲得したアンカーの良さに依存しているが，インスタンスアン

図 2 共有項の有無と信頼度 (行為一効果関係)

図 3 共有項の有無と信頼度 (行為一手段関係)

表 3 共有項同定の精度

表 4 共有項同定と共有名詞同定の精度

カーもタイプアンカーも実際に出現した事例から獲得しているため, 結果的に高い精度に結び付いたと考えられる。しかし,「共有項 (1-best)」かつ「共有名詞（厳格)」の精度はまた改善の余地はあるとみられるが, これは将来の課題である.

また，典型的な誤りとその原因を次に示す.

(1) 項の誤り

(1a) コーパス中において不適切に格を用いていたため，誤った格を伴う知識が獲得されている.

(2b) 係り受け解析器の誤りのため，誤った項を伴う知識が獲得されている.

(2) アンカーの誤り

（2a）コーパス中において表記は等しいが，それが指す実体が異なる名詞をインスタンスアンカーが共有名詞とみなしてしまうことにより，誤った共有項を伴う知識が獲得されている.

(2b）コーパス中において名詞が多義であったため，タイプアンカーにより誤った共有項を伴う知識が獲得されている。

理由 (1a)の問題は低頻度の事例を除くことで, 理由 (1b) の問題は 3.3 で述べた係り受け解析器の誤りを除くための制約を強くすることで解決することができる. しかし, 理由 $(2 \mathrm{a}),(2 \mathrm{~b})$ の問題は本手法で対処することが難しく，これを解決するためには同一表記の実体の同一性を判定する照応技術を導入する必要がある。理由 (2a), (2b) の誤り例を次に示す.

$
\begin{aligned}
& X \text { が操作する } \rightarrow \text { 行為一効果関係 } X \text { が動く }(X=\text { プレイヤー }) \\
& X \text { を雇う } \rightarrow \text { 行為一効果関係 } X \text { に雇われる }(X=\text { 他人 }) \\
& X \text { から到着する } \rightarrow \text { 行為一手段関係 } X \text { から旅する }(X=\text { 空港 })
\end{aligned}
$

## 6 まとめと今後の研究

述語間関係獲得のためにパターン方式の関係指向のアプローチとアンカー方式の項指向のアプローチの相補的な性質に注目し, パターン方式による述語対獲得とアンカー方式による共有項同定を組み合わせた 2 段階手法を提案し，これを実験し評価した。この結果，(a) アンカー方
式のフィルタリングは事態対獲得の精度を改善し, (b) インスタンスアンカーとタイプアンカー は同じくらいの性能で，これらを組み合わせることで精度を犠牲にせずに（相対）再現率を改善でき，(c) アンカー方式は共有項同定で高い精度を達成することがわかった。

将来的には 3 つの方向を考えている．1つめは評価方法の改善であり, コーパスベースの評価とタスクベースの評価を検討している. Szpektor ら (Szpektor and Dagan 2008) は, 英語コーパスに対して事態に関する情報が付与された Automatic Content Extraction (ACE) の event training $\operatorname{set}^{9}$ を用いて，自動獲得した事態間の含意関係知識を評価した。しかし，これは英語に関する評価セットであり, 日本語のコーパスに対して同様の情報を付与した評価セットは存在しない. そのため, Szpektorらのようにコーパスベースの評価を行うためには，日本語の評価セットを作成する必要がある。評価セットの作成を含めてコーパスベースの評価を検討している。また他にも特定のタスクに述語間関係知識を適用し，その結果を評価することを検討している.

2 つめは, ゼロ照応解析 (Iida, Inui, and Matsumoto 2006; Komachi, Iida, Inui, and Matsumoto 2007, etc.) の利用して共有項同定を行うことを検討している。本稿では，所与の関係を満たす述語対とその共有項を獲得するためにパターン方式とアンカー方式を組み合わせる手法を提案したが，もうひとつ方法として， ゼロ照応解析とパターン方式を組み合わせることでも所与の関係を満たす述語対とその共有項を獲得できる可能性がある。しかし, 現在のゼロ照応解析の精度は然程高くないため, 本稿ではパターン方式とアンカー方式を組み合わせる手法を用いた。 ただし, 現状のゼロ照応解析の精度でも，アンカー方式を改善するための前処理としてゼロ照応解析用いることはできる可能性がある。この方法の検証を検討している.

3 つめは，アンカー方式の結果を文内のゼロ照応解析に利用することを検討している。これによりゼロ照応解析の精度を向上させることができる可能性がある.

## 付録

## A パターン方式の手法

実験で用いたパターン方式の手法である Abe ら (Abe et al. 2008)の手法の概要を述べる。本稿ではこの手法を拡張 Espresso と言うことにする。

拡張 Espreso は，共起パターンを利用して実体対を獲得する手法である Espresso を，共起パターンを利用して事態対を獲得するように拡張したものである． Espresso に対する拡張 Espresso の主要な変更点は次の 2 つである.
- Espresso における実体対は名詞句の対であるが，拡張 Espresso の事態対は述語または述
^{9}$ http://projects.ldc.upenn.edu/ace/
}
語句の対である.
- Espresso における共起パターンは名詞句の対の間にある文字列であるが, 拡張 Espresso の共起パターンは係り受け関係の木を考えた場合の事態対の間のパスに相当する.

## A. 1 Espresso

Espresso は，共起パターンを用いた実体間関係獲得手法のひとつであり，共起パターンを用いた手法に共通する，任意の関係のみを表現する共起パターンを用いて任意の関係にある実体対を獲得でき，任意の関係のみで表現される実体対を用いることで，任意の関係のみを表現する共起パターンを獲得できるという仮定を持っている。 さらに Espresso は, 共起パターンまたは実体対が任意の関係を表わす程度を信頼度という指標で表わし, 信頼度の高い共起パターンとよく共起する実体対は信頼度が高く, 信頼度の高い述語対とよく共起する共起パターンも信頼度が高いという仮定をおいた。

このとき, Espresso は人手で作成した任意の関係にある信頼度の高い実体対を入力として, これと共起する信頼度の高い共起パターンを獲得する。次に信頼度の高い共起パターンを用いて，信頼度の高い実体対を獲得する。この操作をブートストラップ的に繰り返すことで，信頼度の高い実体対を大量に獲得する。

## A. 2 共起パターンの信頼度

獲得したい関係にある実体対 $\langle x, y\rangle$ が与えられたとき, Espresso は $x$ と $y$ の両方が含まれた文をコーパスから探し出す. 例えば，is-a 関係の実体対〈Italy,country $\rangle$ が与えられたとき, Espresso はテキスト countries such as Italy が含まれるような文を見つけ出し, 共起パターン Y such as $X$ を獲得する. Espresso は共起パターン $p$ の良さを測るために信頼度 $r_{\pi}(p)$ という尺度を用いる. 共起パターンの信頼度 $r_{\pi}(p)$ は, 共起パターン $p$ と共起する実体対 $i$ の信頼度 $r_{\iota}(i)$ から求められる．Iは共起パターン $p$ と共起する実体対 $i$ の集合である.

$
r_{\pi}(p)=\frac{1}{|I|} \sum_{i \in I} \frac{p m i(i, p)}{\max _{p m i}} \times r_{\iota}(i)
$

$p m i(i, p)$ は式 2 で定義される $i$ と $p$ の pointwise mutual information (PMI) であり, $i$ と $p$ の関連度を表現する．ｍax $x_{m i}$ は，共起パターンと実体対が共起した場合全ての PMI の中で最大となる PMI である.

$
p m i(x, y)=\log \frac{P(x, y)}{P(x) P(y)}
$

PMI は頻度が少ないときに不当に高い関連性を示すという問題が知られている。この問題を
軽减するために, Espresso では式 2 の代りに (Pantel and Ravichandran 2004) で定義された式 3 を用いる。

$
\operatorname{pmi}(x, y)=\log \frac{P(x, y)}{P(x) P(y)} \times \frac{C_{x y}}{C_{x y}+1} \times \frac{\min \left(\sum_{i=1}^{n} C_{x_{i}}, \sum_{j=1}^{m} C_{y_{j}}\right)}{\min \left(\sum_{i=1}^{n} C_{x_{i}}, \sum_{j=1}^{m} C_{y_{j}}\right)+1}
$

$C_{x y}$ は $x$ と $y$ が同時に出現した回数, $C_{x_{i}}$ は個々の $x$ の出現した回数, $C_{y_{j}}$ は個々の $y$ の出現した回数, $n$ は $x$ の異り数, $m$ は $y$ の異り数である.

## A. 3 実体対の信頼度

共起パターンの信頼度と同じように，実体対 $i$ の信頼度 $r_{\iota}(i)$ を次のように定義する.

$
r_{\iota}(i)=\frac{1}{|P|} \sum_{p \in P} \frac{p m i(i, p)}{\max _{p m i}} \times r_{\pi}(p)
$

共起パターン $p$ の信頼度 $r_{\pi}(p)$ は, 前述の式 1 で定義され, $\max _{p m i}$ は先の定義と同じであり，Pは実体対 $i$ と共起する共起パターン $p$ の集合である．共起パターンの信頼度 $r_{\iota}(i)$ と実体対の信頼度 $r_{\pi}(p)$ は再帰的に定義され, 人手で与えたシード $i$ の信頼度を $r_{\iota}(i)=1$ とする. なお, 我々の拡張では, 人手で与えた負例関係にある述語対の信頼度を $r_{\iota}(i)=-1$ とした.

## 謝 辞

$\lceil$ Web 上の 5 億文の日本語テキスト」の使用許可を下さった情報通信研究機構の河原大輔氏と京都大学大学院の黒橋禎夫氏に感謝いたします。

## 参考文献

Abe, S., Inui, K., and Matsumoto, Y. (2008). "Acquiring Event Relation Knowledge by Learning Cooccurrence Patterns and Fertilizing Cooccurrence Samples with Verbal Nouns." In Proceedings of the 3rd International Joint Conference on Natural Language Processing, pp. 497-504.

Chklovski, T. and Pantel, P. (2005). "Global Path-based Refinement of Noisy Graphs Applied to Verb Semantics." In Proceedings of Joint Conference on Natural Language Processing.

Harris, Z. (1968). "Mathematical Structures of Language." In Interscience Tracts in Pure and Applied Mathematics.

Iida, R., Inui, K., and Matsumoto, Y. (2006). "Exploiting syntactic patterns as clues in zeroanaphora resolution." In Proceedings of the 21st International Conference on Computational

Linguistics and the 44th annual meeting of the ACL, pp. 625-632. Association for Computational Linguistics.

Inui, T., Inui, K., and Matsumoto, Y. (2003). "What kinds and amounts of causal knowledge can be acquired from text by using connective markers as clues?" In Proceedings of the 6th International Conference on Discovery Science, pp. 180-193.

Kawahara, D. and Kurohashi, S. (2006). "A Fully-Lexicalized Probabilistic Model for Japanese Syntactic and Case Structure Analysis." In Proceedings of the Human Language Technology Conference of the North American Chapter of the Association for Computational Linguistics, pp. 176-183.

Komachi, M., Iida, R., Inui, K., and Matsumoto, Y. (2007). "Learning Based Argument Structure Analysis of Event-nouns in Japanese." In Proceedings of the Conference of the Pacific Association for Computational Linguistics, pp. 120-128.

Kudo, T. and Matsumoto, Y. (2002). "Japanese Dependency Analysis using Cascaded Chunking." In Proceedings of the 6th Conference on Natural Language Learning 2002 (COLING 2002 Post-Conference Workshops), pp. 63-69.

Lin, D. and Pantel, P. (2001). "DIRT: discovery of inference rules from text." In Proceedings of the seventh ACM SIGKDD international conference on Knowledge discovery and data mining, pp. 323-328.

Pantel, P. and Pennacchiotti, M. (2006). "Espresso: Leveraging Generic Patterns for Automatically Harvesting Semantic Relations." In Proceedings of the 21st International Conference on Computational Linguistics and 44th Annual Meeting of the ACL, pp. 113-120.

Pantel, P. and Ravichandran, D. (2004). "Automatically Labeling Semantic Classes." In Proceedings of Human Language Technology / North American chapter of the Association for Computational Linguistics, pp. 321-328.

Pekar, V. (2006). "Acquisition of Verb Entailment from Text." In Proceedings of the Human Language Technology Conference of the NAACL, Main Conference, pp. 49-56.

Szpektor, I. and Dagan, I. (2008). "Learning Entailment Rules for Unary Templates." In Proceedings of the 22nd International Conference on Computational Linguistics, pp. 849-856.

Szpektor, I., Tanev, H., Dagan, I., and Coppola, B. (2004). "Scaling Web-based Acquisition of Entailment Relations." In Lin, D. and Wu, D. (Eds.), Proceedings of EMNLP 2004, pp. 41-48 Barcelona, Spain. Association for Computational Linguistics.

Torisawa, K. (2006). "Acquiring Inference Rules with Temporal Constraints by using Japanese Coordinated Sentences and Noun-Verb Co-occurrences." In Proceedings of Human Language Technology Conference/North American chapter of the Association for Computational Lin-
guistics annual meeting (HLT-NAACLO6), pp. 57-64.

Zanzotto, F. M., Pennacchiotti, M., and Pazienza, M. T. (2006). "Discovering Asymmetric Entailment Relations between Verbs Using Selectional Preferences." In Proceedings of the 21st International Conference on Computational Linguistics and 44th Annual Meeting of the Association for Computational Linguistics, pp. 849-856.

## 略歴

阿部修也：2008 年奈良先端科学技術大学院大学後期課程単位取得満期退学.

同年, 奈良先端科学技術大学院大学研究員, 現在に至る. 専門は自然言語処理. 情報処理学会員.

乾健太郎：1995 年東京工業大学大学院情報理工学研究科博士課程修了. 博士 (工学). 同研究科助手, 九州工業大学情報工学部助教授を経て, 2002 年より奈良先端科学技術大学院大学情報科学研究科助教授. 現在同研究科准教授,情報通信研究機構有期研究員を兼任. 自然言語処理の研究に従事. 情報処理学会, 人工知能学会, ACL 各会員, Computational Linguistics 編集委員.

松本裕治：1977 年京都大学工学部情報工学科卒. 1979 年同大学大学院工学研究科修士課程情報工学専攻修了. 博士 (工学). 同年電子技術総合研究所入所. 1984 85 年英国インペリアルカレッジ客員研究員. 1985 87 年（財）新世代コンピュータ技術開発機構に出向. 京都大学助教授を経て, 1993 年より奈良先端科学技術大学院大学教授, 現在に至る. 専門は自然言語処理. 情報処理学会, 人工知能学会, 日本ソフトウェア科学会, 認知科学会, AAAI, ACL, ACM 各会員.

