# 外界照応および著者・読者表現を考慮した日本語ゼロ照応解析
## 萩行正嗣',††・河原 大輔†・黑橋 禎夫

\begin{abstract}
日本語では用言の項が省略されるゼロ照応と呼ばれる現象が頻出する。ゼロ照応は照応先が文章中に明示的に出現する文章内ゼロ照応と, 明示的に出現しない外界ゼ口照応に分類でき, 従来のゼロ照応解析は主に前者を対象としてきた。 近年, Web が社会基盤となり，Web上でのテキストによる情報伝達がますます重要性をましている。そこでは，情報の送り手・受け手である著者・読者が重要な役割をはたすため, Web テキストの言語処理においても著者・読者を正確にとらえることが必要となる。しかし, 文脈中で明確な表現（人称代名詞など）で言及されていない著者・読者は, 従来の文章内ゼロ照応中心のゼロ照応解析では多くの場合対象外であった. このような背景から，本論文では，外界ゼロ照応および文章の著者・読者を扱うゼ口照応解析モデルを提案する。提案手法では外界ゼロ照応を扱うために， ゼロ代名詞の照応先の候補に外界ゼロ照応に対応する仮想的な談話要素を加える。また, 語彙統語パターンを利用することで，文章中で著者や読者に言及している表現を自動的に識別する，実験により，我々の提案手法が外界ゼロ照応解析だけでなく，文章内ゼロ照応解析に対しても有効であることを示す.

キーワード：ゼロ照応解析，外界ゼロ照応，著者$\cdot$読者
\end{abstract}

## Japanese Zero Reference Resolution Considering Zero Exophora and Author/Reader Mentions

\author{
Masatsugu Hangyo $^{\dagger, \dagger \dagger}$, Daisuke $^{, \text {Kawahara }^{\dagger}}$ and Sadao Kurohashi ${ }^{\dagger}$
}

In Japanese, zero references often occur and many of them are categorized into zero exophora, in which a referent is not mentioned in the document. However, previous studies have focused only on zero endophora, in which a referent explicitly appears. We present a zero reference resolution model considering zero exophora and authors/readers of a document. To deal with zero exophora, our model adds pseudoentities corresponding to zero exophora to candidate referents of zero pronouns. In addition, the model automatically detects mentions that refer to the author and reader of a document using lexico-syntactic patterns. We present particular behavior of authors/readers in a discourse as a feature vector of a machine learning model. The experimental results demonstrate the effectiveness of our model for not only zero exophora but also zero endophora.

Key Words: Zero reference resolution, Zero exophora, Author and reader


## 1 はじめに

ゼロ照応解析は近年，述語項構造解析の一部として盛んに研究されている。ゼロ照応とは用言の項が省略される現象であり, 省略された項（ゼロ代名詞）が他の表現を照応していると解釈できることからゼロ照応と呼ばれている.

$
\text { パスタが好きで、毎日 }(\phi \text { ガ })(\phi \text { Э)食べています。 }
$

例えば，例 (1)の「食べています」では，ガ格とヨ格の項が省略されている。ここで，省略されたヨ格の項は前方で言及されている「パスタ」を照応しており, 省略されたガ格の項は文章中では明確に言及されていないこの文章の著者を照応している1．日本語では曖昧性がない場合には積極的に省略が行われる傾向にあるため, ゼロ照応が文章中で頻繁に発生する．例 (1)の 「パス夕」の省略のようにゼロ代名詞の照応先 ${ }^{2}$ が文章中で言及されているゼロ照応は文章内ゼ口照応と呼ばれ, 従来はこの文章内ゼロ照応が主な研究対象とされてきた. 一方, 例 (1)の著者の省略のようにゼロ代名詞の照応先が文章中で言及されていないゼロ照応は外界ゼロ照応と呼ばれる，外界ゼロ照応で照応されるのは例 (1)のような文章の著者や読者, 例 (2)のような不特定の人や物などがある ${ }^{3}$.

（2）内湯も空一面がガラス張りで眺望がよく、快適な湯浴みを ([不特定:人] ガ)楽しめる。

従来, 日本語ゼロ照応解析の研究は, ゼロ照応関係を付与した新聞記事コーパス (Kawahara, Kurohashi, and Hasida 2002; Iida, Komachi, Inui, and Matsumoto 2007)を主な対象として行われてきた．新聞記事は著者から読者に事件の内容などを伝えることが目的であり，社説や投書の除いては著者や読者が談話構造中に登場することはほとんどない。一方，近年では Webを通じた情報伝達が盛んに行われており, Web テキストの言語処理が重要となってきている. Web テキストでは，著者自身のことを述べたり，読者に対して何らかの働きかけをすることも多く，著者・読者が談話構造中に登場することが多い. 例えば，B $\log$ や企業の宣伝ページでは著者自身の出来事や企業自身の活動内容を述べることが多く, 通販ぺージなどでは読者に対して商品を買ってくれるような働きかけをする。このため，著者・読者に関するゼロ照応も必然的に多くなり，その中には外界ゼロ照応も多く含まれる。(Hangyo, Kawahara, and Kurohashi 2012) の Webコーパスではゼロ照応関係の $54 \%$ が外界ゼロ照応である。このため, Webテキストに

対するゼロ照応解析では，特に外界ゼロ照応を扱うことが重要となる.

本研究では， ゼロ照応を扱うためにゼロ代名詞の照応先候補として [著者]や [読者] などの文章中に出現しない談話要素を設定することで，外界ゼロ照応を明示的に扱う．用言のある格が直接係り受け関係にある項を持たない場合，その格の項は表 1 の 3 種類に分類される．1つ目は 「(a) 文章内ゼロ照応」であり, 項としてゼロ代名詞をとり，その照応先は文章中の表現である. 2 つ目は「(b) 外界ゼロ照応」であり，項としてゼロ代名詞をとり，その照応先に対応する表現が文章中にないものである．3つ目は「(c)ゼロ照応なし」であり，項はゼロ代名詞をとらない， すなわちその用言が本質的にその項を必要としない場合である。外界ゼロ照応を扱うことにより，照応先が文章内にない場合でも，用言のある格がゼロ代名詞を項に持つという現象を扱うことができる．これにより，格フレームなどの用言が項を取る格の知識とゼロ代名詞の出現が一致するようになり，機械学習によるゼロ代名詞検出の精度向上を期待することができる.

用言が項としてゼロ代名詞を持つ場合，そのゼロ代名詞の照応先の同定を行う．従来研究ではその手掛かりとして, 用言の選択選好 (Sasano, Kawahara, and Kurohashi 2008; Sasano and Kurohashi 2011; Imamura, Saito, and Izumi 2009; Hayashibe, Komachi, and Matsumoto 2011) や文脈的な情報 (Iida, Inui, and Matsumoto 2006, 2009) が広く用いられてきた. 本研究では, それらに加えて文章の著者・読者の情報を照応先同定の手掛かりとして用いる．先に述べたように, 従来研究で対象とされてきた新聞記事コーパスでは, 著者や読者は談話中にほとんど出現しない. そのため著者や読者の情報が文脈的な手掛かりとして用いられることはなかった。しかし, 著者や読者は省略されやすいためゼロ代名詞の照応先になりやすい，敬語やモダリティなど著者や読者の省略を推定するための手掛かりが豊富に存在する，などの特徴を持つため，談話中の著者や読者を明示的に扱うことは照応先同定で重要である．また，著者や読者は前述のような外界ゼロ照応の照応先だけでなく, 文章内に言及されることも多い.

(3) 私著者はもともとアウトドア派ではなかったので, 東京にいた頃もキャンプに行ったことはありませんでした。

（4）あなた読者は今ある情報か資料を送って，アドバイザーからの質問に答えるだけ。

表 1 文章内ゼロ照応，外界ゼロ照応，ゼロ照応なしの分類とその例

 & 例 \\

(b) 外界ゼロ照応 & あり & なし & メリットについて ([読者]二)説明させていただきます。 \\
(c) ゼロ照応なし & なし & なし & リラックスタイムが (×ニ)過ごせる。 \\

例 (3) では，文章中に言及されている「私」がこの文章の著者であり，例 (4)では「あなた」が読者である．本研究ではこのような文章中で言及される著者や読者を著者表現，読者表現と呼び，これらを明示的に扱うことでゼロ照応解析精度を向上させる．著者や読者は人称代名詞だけでなく固有表現や役職など様々な表現で言及される。例えば，下記の例 (5)では著者自身の名前である「梅辻」によって著者が言及されており，例 (6) では著者の立場を表す「管理人」によって言及されている。また，例 (7) では著者から見た読者の立場である「お客様」という表現によって読者が言及されている。本研究では人称代名詞に限らず，著者・読者を指す表現を著者・読者表現として扱うこととする.

(5)こんにちは、企画チームの梅辻著者です。

(6)このブログは、管理人著者の気分によって書く内容は変わります。

（7）いくつかの質問をお答えいただくだけで、お客様読者のご要望に近いノートパソコンをお選びいただけます。

著者・読者表現は様々な表現で言及されるため, 表層的な表記のみから, どの表現が著者・読者表現であるかを判断することは困難である，そこで，本研究では談話要素とその周辺文脈の語彙統語パターンを素性としたランキング学習 (Herbrich, Graepel, Bollmann-Sdorra, and Obermayer 1998; Joachims 2002)により, 文章中の著者・読者表現の同定を行う.

文章中に出現する著者・読者表現が照応先となることを推定する際には通常の文章中の表現に利用する手掛かりと著者・読者特有の手掛かりの両方が利用できる.

(8) 僕は京都に (僕ガ)行こうと思っています。

皆さんはどこに行きたいか (皆さんガ)(僕ニ)教えてください。

(8)の 1 文目では「僕」が文頭で助詞「は」を伴ない，「行こう」を越えて「思っています」に係っていることから「行こう」のガ格の項であると推測される。これは文章中の表現のみが持つゼロ照応解析での手掛かりと言える。一方， 2 文目の「教えてください」では, 依頼表現であることからガ格の項が読者表現である「皆さん」であり，二格の項が著者表現である「僕」であると推測できる。このような依頼や敬語，モダリティに関する手掛かりは著者・読者特有の手掛かりと言える。また，著者・読者特有の手掛かりは外界ゼロ照応における著者・読者においても同様に利用できる，そこで，本研究では， ゼロ照応解析において著者・読者表現は文章内ゼロ照応および外界ゼロ照応両方の特徴を持つものとして扱う.

本論文では，文章中の著者・読者表現および外界ゼロ照応を統合的に扱うゼロ照応解析モデルを提案し, 自動推定した著者・読者表現を利用することでゼロ照応解析の精度が向上するこ

とを示す. 2 節で関連研究について説明し, 3 節で本研究で利用する機械学習手法であるランキング学習について説明する．4 節ではべースラインとなるモデルについて説明し， 5 節で実験で利用するコーパスについて述べる。その後， 6 節で著者・読者表現の自動推定について説明し， 7 節で著者・読者表現と外界照応を考慮したゼロ照応解析モデルを提案する．8 節で実験結果を示し， 9 節でまとめと今後の課題とする.

## 2 関連研究

日本語でのゼロ照応解析は文章内ゼロ照応を中心に行われてきた.

ゼロ照応解析の研究では, ゼロ代名詞は既知のものとして照応先の同定のみを行っているものがある。(Iida et al. 2006) はゼロ代名詞と照応先候補の統語的位置関係を素性として利用することでゼロ照応解析を行った。この研究では, 外界照応を, それに対応するゼロ代名詞に照応性がないと判断する形で扱っている。この研究では, 表 1 における (a) 文章内ゼロ照応と (b) 外界ゼロ照応を区別して扱っているが，(c)ゼロ照応なしについては扱っていないといえる。(磯崎, 賀沢, 平尾 2006)は, ランキング学習4を利用することで, ゼロ代名詞の照応先同定を行っている。この研究で扱うゼロ代名詞は文章内に照応先があるものに限定しており，表 1 けおる (a) 文章内ゼロ照応の場合のみを扱っているといえる。

ゼロ照応解析は述語項構造解析の一部として解かれることも多い. 述語項構造解析を格ごとに独立して扱っている研究としては (Imamura et al. 2009; Hayashibe et al. 2011)がある. (Imamura et al. 2009)は言語モデルの情報などを素性とした最大エントロピーモデルによるゼロ照応解析を含めた述語項構造解析モデルを提案している。このモデルでは各格の照応先の候補として, NULLという特別な照応先を仮定しており, 解析器がこの NULLを選択した場合には,「項が存在しない」または「外界ゼロ照応」としており,これらを同一に扱っている。 (Hayashibe et al. 2011) は述語と項の共起情報などを素性としたトーナメントモデルにより述語項構造解析の一部としてゼロ照応解析を行っている. この研究でも外界ゼロ照応と項が存在しないことを区別して扱っておらず，また解析対象はガ格のみとしている。用言ごとに全ての格に対して統合的に述語項構造解析を行う研究としては (Sasano et al. 2008; Sasano and Kurohashi 2011)がある。(Sasano et al. 2008) は Web から自動的に構築された格フレームを利用し, 述語項構造解析の一部としてゼロ照応解析を行う確率的モデルを提案した. (Sasano and Kurohashi 2011)は格フレームから得られた情報や照応先の出現位置などを素性として対数線形モデルを学習することで，識別モデルによるゼロ照応解析を行った。これらの研究では外界ゼロ照応は扱っておらず，外界ゼロ照応の場合にはゼロ代名詞自体が出現しないものとして扱っている。これらの

研究では表 1 における (b) 外界ゼロ照応と (c) ゼロ照応なしを区別せず扱っているといえる.

外界ゼロ照応を扱った研究としては (山本, 隅田 1999; 平, 永田 2013) がある。 (山本, 隅田 1999) では対話文に対するゼロ代名詞の照応先の決定木による自動分類を行っている。この研究では, ゼロ代名詞は既知として与えられており, その照応先を 5 種類に分類された外界照応, および文章内照応（具体的な照応先の推定までは行わない）の計 6 種類から選択している。また, 話題は旅行対話に限定されている。この研究では, 機能語および用言の語彙情報がゼロ照応における素性として有効であるとしている。機能語，特に待遇表現は著者・読者に関する外界ゼロ照応解析で有効であると考えられ，本研究でも機能語の情報を素性として利用する。一方，用言の語彙情報は文章内ゼロ照応において有効であるとしているが，これは話題を限定しているためであると考えられ，本研究の対象である多様な話題を含むコーパスに対しては有効に働かないと考えられる。本研究では，格フレームにおける頻度情報などとして用言の情報を汎化することで，用言の情報を扱うこととする。また, この研究ではゼロ代名詞を既知としているため, ゼロ代名詞検出において外界ゼロ照応を扱うことの影響については議論されていない. (平, 永田 2013) では新聞記事に対する述語項構造解析の一部として外界ゼロ照応も含めたゼロ照応解析を扱っている．新聞記事コーパスでは外界ゼロ照応自体の出現頻度が非常に低いと報告しており, 外界ゼロ照応の精度（F 值）はガ格で 0.31 , ヲ格で 0.75 , 二格で 0.55 と非常に低いものとなっている。また, これらの研究では文章中に出現する著者・読者（本論文における著者・読者表現）と外界の著者・読者との関係については扱っていない.

日本語以外では，中国語，ポルトガル語，スペイン語などでゼロ照応解析の研究が行われている。中国語においてはゼロ照応解析は独立したタスクとして取り組まれることが多い. (Kong and Zhou 2010) ではゼロ代名詞検出, 照応性判定, 照応先同定の3つのサブタスクにおいて構文木を利用したツリーカーネルによる手法が提案されている。ポルトガル語，スペイン語では述語項構造解析の一部ではなく, 照応解析の一部としてゼロ照応解析に取り組まれることが多い.これらの言語では主格にあたる語のみが省略されるが，照応解析の前処理として省略された主格を検出し，照応先が文章内にあるかを分類する研究が行われている (Poesio, Uryupina, and Versley 2010; Rello, Baeza-Yates, and Mitkov 2012).

英語においてはゼロ照応解析に近いタスクとして意味役割付与の研究が行われている (Gerber and Chai 2010; Ruppenhofer, Sporleder, Morante, Baker, and Palmer 2010). (Gerber and Chai 2010) では頻度の高い 10 種類の動作性名詞に対して，直接係り受けにないものも項として扱い意味役割付与を行ったデータを作成している。また，共起頻度の情報などを利用して自動的に意味役割付与を行っている。(Ruppenhofer et al. 2010)では意味役割付与タスクの一部として省略された項を扱っている。また，省略された項については，照応先が特定される Definite Null Instance と照応先が不特定な Indefinete Null Instance を区別して扱っている.

## 3 ランキング学習

本研究では, ゼロ照応解析および著者・読者表現推定において, ランキング学習と呼ばれる手法を利用する。ランキング学習は優先度学習とも呼ばれ，インスタンス間のランキングを学習するための機械学習手法である (Herbrich et al. 1998; Joachims 2002). ランキング学習では識別関数を $f(\mathbf{x})=\mathbf{w} \cdot \mathbf{x}$ とし以下のように $\mathbf{w}$ を学習する。ここで $\mathbf{x}$ は, 入力インスタンスの素性表現であり， $\mathrm{w}$ は $\mathrm{x}$ に対応する，重みべクトルである。まずランキングに含まれる各インスタンスの組み合わせを生成する。ここでランキング $A>B>C$ を考えると, 生成される組み合わせは $A>B, A>C, B>C$ となる. そして各組み合わせにおいて識別関数の值がランキング上の順序と同じになるように $\mathrm{w}$ を学習する。炢の例で，各インスタンスに対応する素性べクトルが $\mathbf{x}_{A}, \mathbf{x}_{B}, \mathbf{x}_{C}$ だとすると， $f\left(\mathbf{x}_{A}\right)>f\left(\mathbf{x}_{B}\right)$ などとなるように学習する. なお，学習する順位内に同順位のものがあっても，「それらが同順位である」ということは学習されない。例えば $A>B=C$ という順位があった場合には生成される組み合わせは $A>B, A>C$ だけであり $B=C$ という関係が考慮されることはない.

また, 同時に複数のランキングを学習することも可能である. 例えば, $A_{1}>B_{1}>C_{1}$ と $A_{2}>B_{2}>C_{2}$ という二つの独立したランキングがあった場合には $A_{1}>B_{1}, A_{1}>C_{1}, B_{1}>C_{1}$, $A_{2}>B_{2}, A_{2}>C_{2}, B_{2}>C_{2}$ のようにそれぞれ独立した組み合わせを生成し, これら全てを満たすように識別関数を学習する。

未知のインスタンス集合に対するランキング予測では, 各インスタンスに対して学習された $\mathbf{w}$ を用いて $f(\mathbf{x})$ を計算し，その値の順が出力されるランキングとなる.

ランキング学習は二値分類に適用することが可能であり, 正例と負例に対応関係がある場合には通常の二値分類よりも有効であると言われている (磯崎他 2006). これは通常の二値分類器では, 全ての正例と負例を同一の特徴空間に写像するが, ランキング学習では正例と負例の差を特徴空間に写像するためである。例えば, 入力 $x_{1}$ に対する出力候補が $\left(A_{1}:+, B_{1}:-, C_{1}:-\right)^{5}$,入力 $x_{2}$ に対する出力候補が $\left(A_{2}:+, B_{2}:+, C_{2}:-\right)$ となるような学習事例があったとする.この場合, 通常の二值分類器では $\left(A_{1}:+, B_{1}:-, C_{1}:-, A_{2}:+, B_{2}:+, C_{2}:-\right)$ のように事例をひとまとめにして扱うため, 本来直接の比較の対象ではない $A_{1}:+$ と $C_{2}:$-などが同一の特徵空間上で比較されることとなる。一方, ランキング学習であれば, $A_{1}>B_{1}=C_{1}$ と $A_{2}=B_{2}>C_{2}$ のように，ランキングとして表現することで， $A_{1}:+$ と $C_{2}:$ - などが同一特徴空間上で比較されることはない.このようにして学習された識別関数は二値分類問題における識別関数として利用することができ，二値分類の場合と同様に出力の信頼度としても利用できる．そこで本研究では, 入力毎の出力候補に対して正負の正解がラベル付けされた事例からランキング学習に


より識別関数を学習し, 推定の際には識別関数の出力が最も高くなる（最尤）ものを出力する形でランキング学習を利用する。

## 4 ベースラインモデル

本節では本研究でのベースラインとなる外界ゼロ照応を考慮しないゼロ照応解析モデルを説明する。本研究ではゼロ照応解析を用言単位の述語項構造解析の一部として扱う．用言単位の述語項構造解析では，用言と複数の項の間の関係を扱うことができる。例えば「(不動産屋ガ $)$物件を紹介する」のガ格のゼロ照応解析ではヲ格の項が「物件」であることが大きな手掛かりとなる。

各述語項構造は格フレームと, その格フレームの格スロットとその格スロットを埋める項の対応付けとして表現される。格フレームは用言の用法毎に構築されており，各格フレームはその用言が項を取る表層格（格スロット）とその格スロットの項として取られる語（用例）からなる。本研究では，Webページから収集された 69 億文から (Kawahara and Kurohashi 2006)の手法で自動構築された格フレームを用いる。構築された格フレームの例を図 1 に示す 6 .

本研究では， ゼロ代名詞の照応先を談話要素という単位で扱う，談話要素とは文中の表現のうち共参照関係にあるものをひとまとめにしたものである．例えば図 1 の例では, 「僕」と「自分」や「ラーメン屋 1 」 , 「その店」,「ラーメン屋 2 」と「お店」は共参照関係にあるので，それぞれ一つの談話要素として扱う。そしてゼロ代名詞の照応先はこの談話要素から選択する。例えば，「紹介したい」のガ格では「僕」に対応する (a)を照応先として選択することになる.

述語項構造解析の例を図 1 に示す 8 . なお, 本研究ではゼロ照応解析の対象としてはガ， ヲ,二，ガ 2 格のみを扱うため，時間格などの他の格については省略することがある。ここでガ 2 格とは京都大学テキストコーパスで定義されている, 二重主格構文における主格にあたる格である ${ }^{9}$. この例では，「紹介する」に対応する格フレームから「紹介する (1)」を選択し，そのガ格に談話要素 (a), ヨ格に談話要素 (c), 時間格に談話要素 (d) を対応付け，それ以外の格には談話要素を対応付けない. ゼロ照応解析の出力としては, ガ格の談話要素 (a)のみが出力される.

ベースラインモデルでは, 先行研究 (Sasano and Kurohashi 2011) と同様に以下の手順で解析を行う。

（1）形態素解析，固有表現認識，構文解析を行う.

（2） 共参照解析を行いテキスト中に出現した談話要素を認識する.

僕は出町柳にあるラーメン屋 1 によく行きます。

その店はすごく美味しくて, 自分の一番好きなラーメン屋 2 です。

今日はその素敵なお店を紹介します。

出力される述語項構造

格フレーム:『紹介する (1)』, \{ガ:(a) 僕, ヨ:(c) ラーメン屋, ニ:×, ガ $2: \times$, 時間:(d) 今日 $\}$

図 1 述語項構造解析によるゼロ照応解析の概要

（3）各用言について以下の手順で述語項構造を決定する.

(a) 以下の手順で解析対象用言がとりえる述語項構造（格フレームと談話要素の対応付け）の組み合わせを列挙する。

(i) 解析対象用言の格フレームを 1 つ選ぶ.
(ii) 解析対象用言と係り受け関係にある語と格スロットの対応付けを行う.

(iii) 対応付けられなかったガ格， ヨ格，ニ格，ガ 2 格の格スロットと，対象用言の格スロットとまだ対応付けられていない談話要素の対応付けを行う．

(b) 学習されたランキングモデルによりもっとも高いスコアが与えられたものを述語項構造として出力する.

先行研究と本研究でのベースラインモデルとの違いは, (3b) でのスコア付けの際の重みの学習方法の違いである. 先行研究では対数線形モデルを利用していたが，本研究ではランキング学習を用いた ${ }^{10}$.このランキング学習の詳細は 4.2 節で説明する.

手順 (3) の述語項構造解析について説明する。まず, (3a)の手順で候補となる述語項構造 $(c f, a)$ を列挙する。ここで $c f$ は選ばれた格フレーム，aは格スロットと談話要素の対応付けである. ただし, 同一用言の複数の格に同じ要素が入りにくいという経験則 (村田, 長尾 1997) から, 手順 (3(a)iii) では既に他の格に対応付けられた談話要素は, ゼロ代名詞には対応付けないこととする. 手順 (3a) で列挙される述語項構造の例を図 2 に示す ${ }^{11} . 【 1-1 】 と 【 2-1 】 、 【 1-2 】 と 【 2-2 】$ などは，格と談話要素の割り当ては同じであるが格フレームは異なるため別々の述語項構造候補として扱う.【1-2】と【2-2】のどちらを述語項構造として選んでもゼロ照応解析としての出力は同じになる。この列挙された述語項構造をそれぞれ 4.1 節で説明する手法で素性として表現し， 4.2 節で説明する方法で学習された重みを利用してスコア付けを行い, 最終的に最もスコアが高かった述語項構造を出力する.

図 2 述語項構造の候補の例
$ 番目の格フレームに対する $\mathrm{j}$ 番目の対応付けを持つ述語項構造に対して便宜的に割り振ったものである.
}

## 4.1 述語項構造を表現する素性

本節では述語項構造を表現する素性について説明する。 入力テキスト $t$ の解析対象用言 $p$ に格フレーム $c f$ を割り当て, その格フレームの格スロットと談話要素の対応付けを $a$ とした述語項構造を表現する素性べクトルを $\phi(c f, a, p, t)$ とする。 $\phi(c f, a, p, t)$ は直接係り受けがある述語項構造に関する素性べクトル $\phi_{\text {overt-PAS }}\left(c f, a_{\text {ovet }}, p, t\right)$ とゼロ照応解析で対象となる各格 $c$ に談話要素 $e$ が割り当てられることに関する素性べクトル $\phi_{\text {case }}(c f, c \leftarrow e, p, t)$ からなり, 具体的には以下のような形とする。ここで， $a_{\text {overt }}$ は用言 $p$ と直接係り受けのある談話要素と格スロットの対応付けである.

$
\begin{aligned}
\phi(c f, a, p, t)= & \phi_{\text {overt-PAS }}\left(c f, a_{\text {overt }}, p, t\right), \\
& \phi_{\text {case }}\left(c f, \text { ガ } \leftarrow e_{\text {ガ }}, p, t\right), \phi_{\text {case }}\left(c f, \text { ヲ } \leftarrow e_{\ni}, p, t\right), \\
& \left.\phi_{\text {case }}\left(c f, \text { ニ } e_{\text {c }}, p, t\right), \phi_{\text {case }}\left(c f, \text { ガ } 2 \leftarrow e_{\text {ガ } 2}, p, t\right)\right)
\end{aligned}
$

各格に対応する素性べクトル $\phi_{\text {case }}(c f, c \leftarrow e, p, t)$ は格 $c$ に談話要素 $e$ が対応付けられた場合の素性ベクトル $\phi_{A}(c f, c \leftarrow e, p, t)$ と何も対応付けられなかった場合の素性べクトル $\phi_{N A}(c f, c \leftarrow$ $\times, p, t)$ からなる. $\phi_{\text {case }}(c f, c \leftarrow e, p, t)$ は格 $c$ がゼロ照応として対応付けられた場合にのみ考慮し，直接係り受け関係にある談話要素に対応付けられた場合には 0 ベクトルとする.

例えば図 2 の【2-2】を表現する素性べクトル $\phi($ 紹介する $(2),\{$ ガ： $(a)$ 僕， ヨ：(c) ラーメン屋, ニ: ×, ガ $2: \times$, 時間 $:(d)$ 今日 $\})$ は以下のようになる ${ }^{12}$.

$\phi($ 紹介する $(2),\{$ ガ : $(a)$ 僕, ヨ $:(c)$ ラーメン屋, ニ : ×, ガ $2: \times$, 時間 $:(d)$ 今日 $\})=$ $\left(\phi_{\text {overt-PAS }}(\right.$ 紹介する $(2),\{$ ガ : ×, ヨ $:(d)$ ラーメン屋, ニ: ×, ガ $2: \times$, デ格 $:(c)$ ブログ $\})$,

$
\begin{array}{lr}
\phi_{A}(\text { 紹介する }(2), \text { ガ } \leftarrow(a) \text { 僕 }), & \mathbf{0}_{\phi_{N A}}, \\
\mathbf{0}_{\phi_{A}}, & \mathbf{0}_{\phi_{N A}}, \\
\mathbf{0}_{\phi_{\mathbf{A}}}, & \phi_{N A}(\text { 紹介する }(2), \text { ニ } \leftarrow), \\
\mathbf{0}_{\phi_{\mathbf{A}}}, & \left.\phi_{N A}(\text { 紹介する }(2), \text { ガ } 2 \leftarrow \times)\right)
\end{array}
$

述語項構造べクトルを表現する各要素 $\phi_{\text {overt-PAS }}\left(c f, a_{\text {overt }}, p, t\right), \phi_{A}(c f, c \leftarrow e, p, t), \phi_{N A}(c f, c \leftarrow$ $\times, p, t)$ の素性について説明する。まず， $\phi_{\text {overt-PAS }}\left(c f, a_{\text {overt }}, p, t\right)$ には確率的格解析モデル (河原，黒橋 2007) から得られる表層の係り受けの確率を用いる。 $\phi_{A}(c f, c \leftarrow e, p, t)$ に用いる素性の一覧を表 2 に示す ${ }^{13}$. 格フレーム素性は，格フレームから得られる情報である。 $e$ が複数回

13 値の列で $\log$ と書かれたものは, 実際にはその対数をとったものを素性として利用している. バイナリと書かれたものは，多値の素性をバイナリで表現したものを素性として利用している．整数値と書かれたものは，その値をそのまま利用している.
}
表 $2 \phi_{A}(c f, c \leftarrow e, p, t)$ の素性一覧

表 $3 \phi_{N A}(c f, c \leftarrow \times, p, t)$ の素性一覧

言及される場合には，各素性ごとにそれらの値で最も大きいものをその素性の値とする。例えば, 談話要素 $e$ が格フレーム $c f$ の格 $c$ に対応付く確率の素性を式 (2) のガ格について考える.上述の例ではガ格に対応付けられた談話要素 (a)は「僕」「自分」と 2 回言及されている. そこで「僕」「自分」が「紹介する (2)」のガ格に対応付く確率をそれぞれ計算し, 最も値が高いものを (a) が「紹介する (2)」のガ格に対応付く確率とする。用言素性における $p$ の持つモダリティなどの情報は, 用言の属する基本句に日本語構文・格解析システム KNP ver. $4.0^{14}$ により付与された情報を利用する。文脈素性は $e$ が前後の文脈でどのような表現で出現するかを扱う素性であり， $e$ が複数回言及される場合には，その全てを素性として扱う， $c$ が割り当てられたことの素性は，その格にどの程度ゼロ代名詞が出現するかを調整するための素性となっている。 $\phi_{N A}(c f, c \leftarrow \times, p, t)$ に用いる素性を表 3 に示す. $\phi_{N A}(c f, c \leftarrow \times, p, t)$ では対応付けられる要素 $e$ がないため, 格フレームに関する素性のみとなっている.

## 4.2 素性の重みの学習

前節で入力テキスト $t$, 解析対象用言 $p$ が与えれられたとき，格フレーム $c f$, 格スロットと談話要素の対応付け $a$ からなる述語項構造を表現する素性を $\phi(c f, a, p, t)$ としたが，それに対応する素性の重み $\mathrm{w}$ をランキング学習により学習する。

ランキング学習の学習データ作成は, 対象用言ごとに順位データを作成し, 全用言の順位デー 夕を集約したものとする。もし, 述語項構造の正解が一意に求められるなら, その述語項構造を上位とし，それ以外の述語項構造を下位とする順位デー夕を作成すればよい。しかし，実際には以下の 2 つの問題がある.

1つ目は正解コーパスには 1 つの格に対して複数の談話要素が対応付けられたものが含まれることである. 例えば図 3 の「焼いている」では正解として $\{$ ガ:×, ヨ:(b)ケーキ+(c)クッキー,二:×，ガ $2: \times$ ，時間:(d) 毎週 \}のように， ヨ格に 2 つの談話要素が対応付けられる。一方，提案手法では先に述べたように 1 つ格に対して1つの談話要素しか対応付けない. そこで，1つの格に対して複数の談話要素が対応付けられている場合には，そのうちどれか 1 その談話要素


×, ガ $2: \times$, 時間:(d) 毎週 $\}$ と $\{$ ガ: $\times, \quad$ Э:(c) クッキー, ニ:×, ガ $2: \times$, 時間:(d) 毎週 $\}$ を正解の談話要素対応付けとする。また, この正解となる対応付けの集合を $\left(a_{1}^{*}, \cdots, a_{N}^{*}\right)$ とする.

2 つ目はコーパスには格フレームの正解は付与されていないことである. 先に述べたように述語項構造は格フレームと格スロットと談話要素の対応付けからなる。格フレームは用言の用法ごとに構築されており，述語項構造候補の格フレームには文脈で使用される用法と全く異なるもの ${ }^{15}$ が含まれる，格スロットと談話要素の対応付けは正しいが，文脈での使用とは異なる用法の格フレームを持つような述語項構造を正解として扱った場合, 学習に悪影響を与えると考えられる。そこで, 確率的ゼロ照応解析 (Sasano et al. 2008)を利用することで, 各文脈における用法の格フレームを推定する。確率的ゼロ照応解析では各述語項構造 $(c f, a)$ に対し格フレー ムの情報などを用いることで $P(c f, a \mid p, \mathbf{e})$ を推定する. ここで $\mathbf{e}$ は文章中に出現する談話要素 $e$ の集合である ${ }^{16}$

具体的には以下の手順で各対象用言 $p$ に対して学習データとなるランキングを生成する.

(1) 用言 $p$ に対して取り得る述語項構造 $(c f, a)$ を訓練事例として列挙する.

(2) 正解となる対応付け $a_{1}^{*}, \cdots, a_{N}^{*}$ について

（a）各 $\left(c f, a_{i}^{*}\right)$ の確率的ゼロ照応解析確率を計算し, 最も確率が高いものを $\left(c f_{i}^{*}, a_{i}^{*}\right)$ とする.

(b) $\left(c f, a_{i}^{*}\right)$ のうち, $\left(c f_{i}^{*}, a_{i}^{*}\right)$ 以外のものを訓練事例から取り除く.

(3) 各 $\left(c f_{i}^{*}, a_{i}^{*}\right)$ が他の $(c f, a)$ より順位が高くなるようなランキングを用言 $p$ に対する学習データとする.

図 3 の「焼いている」を例に説明する。まず「焼いている」の述語項構造解析の候補として

るもの $\left(c f, a_{i}^{*}\right)$ は, $\{$ ガ:×, ヨ:(b) ケーキ, ニ:×, ガ $2: \times$, 時間:(d) 毎週 $\}$ とっている【1-2】 と【2-2】, \{ガ:×, ヨ:(c)クッキー, ニ:×, ガ $2: \times$, 時間:(d) 毎週 $\}$ となっいる【1-3】と【2-3】 である.【1-2】、【2-2】、【1-3】、【2-3】について確率的ゼロ照応解析スコアを計算した結果,【1-2】 >【2-2】、【1-3】>【2-3】となったとする.この場合【1-2】と【1-3】が $\left(c f_{i}^{*}, a_{i}^{*}\right)$ となる (手順 (2a)）、そこで, 訓練事例から【2-2】と【2-3】を取り除く（手順 $(2 b)$ ). そして,【1-2】=【1-3】 $>【 1-1 】=【 1-4 \rrbracket=\cdots=【 2-1 】=【 2-4 \rrbracket=\cdots$ というランキングを「焼いている」についての学習データとする (手順 $(3)$ ). このように各対象用言に対するランキング学習データを生成し，それらを統合したものに対してランキング学習を行うことで $\mathbf{w}$ を学習する。


図 31 つの格に複数の談話要素が割り当てられる例

## 5 コーパス

本研究では, Diverse Document Leads Corpus (DDLC) (Hangyo et al. 2012)を利用する. DDLC は Webから収集されたテキストに対して，形態素情報，構文関係，固有表現，共参照関係，述語項構造, 著者・読者表現が付与されている。形態素情報, 構文関係, 固有表現, 共参照関係は京都大学テキストコーパス (Kawahara et al. 2002) と同様の基準で付与されている. 述語項構造も京都大学テキストコーパスと同様の基準で付与されており, 文章内ゼロ照応だけでなく外界ゼロ照応も付与されている. 外界ゼロ照応の照応先としては表 4 の 5 種類が設定されている.著者・読者表現は,「=:[著者]」「=:[読者]」というタグ17で基本句単位に付与されており, 著者・読者表現が複合語の場合にはその主辞に対して付与されている．DDLCでは，著者表現，読者表現は 1 文書中にそれぞれ最大でも 1 つの談話要素と仮定されており，著者・読者が複数回言及される場合には，そのうち 1 つに「=:[著者]」「=:[読者]」を付与し，それ以外のものは，著者・読者表現と共参照関係にある，という形で表現される。下記の例 (9)では，著者は「主婦」や「こま」，「母」など複数の表現で言及されているが，「=:[著者]」は「主婦」に対してたけ付与され，「こま」や「母」には「＝:主婦」というタグにより，「主婦」と共参照関係にあるという情報が付与されている.

表記は B に対して「rel:A」という情報が付与されていることを示す.
}
表 4 外界ゼロ照応の照応先と例

(9)東京都に住む「お気楽主婦」こまです。

0 歳と 6 歳の男の子の母をしです。

また, 組織のウェブページなどの場合にはその組織名や組織を表す表現を著者表現としている。

(10)ここでは弊社の商品及び事業を簡単にご説明します。

(弊社 $\leftarrow=:$ [著者])

(11)神戸徳洲会病院では地域の医療機関との連携を大切にしています。 (病院 $\leftarrow=:$ [著者])

ウェブページでは実際には不特定多数が閲覧できる状態であることが多いが，著者が特定の読者を想定していると考えられる場合には，その特定の読者を表す表現も読者表現として扱っている．下記の例 (12)では，想定している読者が「今後就職を迎える人」だと考えられるので， その主辞の「人」に「=:[読者]」が付与されている.

(12) 今後就職を迎える人に，就職活動をどのように考えれば良いのかをお知らせしてみましょう。

$
(人 \leftarrow=:[\text { 読者 }] \text { ) }
$

一方，想定している読者のうち一部だけを対象とした表現は読者表現として扱っていない.下記の例 (13)では，想定される読者は「オーナーを希望する人」であり，「店舗運営の経験がない方」はそのうちの一部であると考えられるので，読者表現として扱われていない.

(13）店舗運営の経験がない方でも、ご安心ください。ローソンの研修制度なら、オーナーに
必要とされるノウハウを段階的に修得することができます。

表 8 に DDLC 中の著者・読者表現の例を示す. DDLC 全体 1,000 文書のうち著者表現が付与された文書は 271 文書，読者表現が付与された文書は 84 文書であった.

DDLC におけるゼロ照応の個数を表 5 に，文章内ゼロ照応，外界ゼロ照応における照応先の内訳を表 6 と表 7 に示す. 表 6 において著者・読者とは照応先が著者・読者表現にあたることを示す．DDLCにおいてはゼロ照応のうち $54 \%$ が外界ゼロ照応であること， ゼロ照応はガ格で特に多く起こることが分かる．また，著者や読者に関するゼロ照応はガ格，二格，ガ 2 格で多く出現し，ヲ格ではほとんど出現しないことが分かる.

表 5 DDLC におけるゼロ照応の個数

表 6 DDLC の文章内ゼロ照応の内訳

表 7 DDLC の外界ゼロ照応の内訳

表 8 著者・読者表現の例

## 6 著者・読者表現推定

日本語では様々な表現で著者や読者が文章中で言及され，5 節で述べたように人称代名詞たけでなく, 固有表現, 役職など様々な表現で言及される。一方, 表 8 に挙げたような表現でも文脈によっては著者・読者表現にならないこともある．下記の例 (14)では，「お客様」はこの文章の読者として想定している客とは別の客を指していると考えられるので，読者表現とはならない.

先月、お部屋のリフォームをされたお客様の例を紹介します。

このように，表記のみから著者・読者表現を同定することは困難である．本研究では著者・読者表現候補自体の表現だけでなく，周辺文脈や文章全体に含まれる情報から文章の著者・読者表現を推定することとする.

5 節で述べたように，DDLC では基本句単位で著者・読者表現がアノテーションされており，共参照関係にある複数の表現が著者・読者表現である場合には，その内の 1 つに対して著者・読者表現を付与するとしている。これは 4 節で述べた談話要素単位に著者・読者表現が付与されていると言え，本研究でも著者・読者表現は談話要素単位で扱う，著者・読者表現の推定にはランキング学習を利用し, その素性には著者・読者表現自身および周辺文脈の語彙統語パター ンを利用する。

## 6.1 著者・読者表現推定モデル

著者・読者表現の推定は著者表現，読者表現それぞれ独立して行う ${ }^{18}$ ．著者・読者表現の推定にはランキング学習を利用し, 著者・読者表現にあたる談話要素が他の談話要素より上位になるように学習する。例えば図 4 の著者表現では, 談話要素 (1) が他の談話要素より上位となる学習データを作成する。そして学習された識別関数により最上位となった談話要素を著者・読者表現と推定する。なお，著者・読者表現候補として扱う談話要素は下記の条件のうち最低 1 つは満たしているもののみとする.


・ 自立語の形態素の JUMAN カテゴリが「人」「組織・団体」「場所」

・ 固有表現である

・形態素に「方」「人」を含む

ここで，学習データ作成時および推定時に考慮しなければならないのは，著者・読者表現が出現しない文書が存在することである。著者・読者表現が出現しない文書は大きく分けて 2 つ種類がある．1 つ目は図 5 のように談話構造自体に著者・読者が出現しない文書である．2つ目は図 6 のように談話構造には著者・読者が出現するが著者・読者表現として明示的に言及されない場合である ${ }^{19}$.これらに対応する仮想的なインスタンスとして，「著者・読者表現なし（談話構造 $)\rfloor$ と「著者・読者表現なし(省略)」を設定する.

「著者・読者表現なし(談話構造)」は談話構造自体に外界ゼロ照応としても著者・読者が出現しないことに対応するインスタンスであり, 文書全体の語彙統語パターンを素性とした文書

米子タウンホテル著者は米子駅の真正面にございます。

駐車場も完備しており、ビジネスに観光に大変便利な立地のホテルです。

米子にお越しの際はぜひご利用下さい。

著者・読者表現候補となる談話要素

(1) $\{$ 米子タウンホテル, ホテル $\},(2)\{$ 米子駅 $\},(3)\{$ 真正面 $\},(4)\{$ 駐車場 $\},(5)\{$ 立地 $\}$, (6) $\{$ 米子 $\}$

図 4 著者表現が出現する文書例

公共事業の削減で、地方経済は製造業など誘致企業への依存度を強めてきた。

このため、世界的な金融危機による減産が大きなダメージになった。

さらに、アジアなど新興国市場の台頭や円高に伴う工場の海外シフトに苦しんでいる。

著者・読者表現候補となる談話要素

(1) $\{$ 地方 \}, (2) $\{$ 世界的 \}, (3) \{アジア \}, (4) $\{$ 新興国 \}, (5) $\{$ 工場 $\},(6)\{$ 海外 \}

図 5 談話構造自体に著者が出現しない文書例

気がつけば梅雨も明けてました。

毎日暑い日が続きますね。

父の手術も無事に終わり、少しだけほっとしてます。

著者・読者表現候補となる談話要素

(1) $\{$ 父 $\}$

図 6 談話構造に著者が出現するが著者表現が出現しない文書例

ベクトルで表現されるインスタンスである。これは, 著者・読者が談話構造自体に出現しない文書では，尊敬や謙譲表現が少ないなど文体的な特徴があると考えられ，文書全体の語彙統語パターンは文体を反映した素性といえるからである.

「著者・読者表現なし(省略)」は談話構造には外界ゼロ照応として著者・読者が出現するが，著者・読者表現として明示的に言及されないことに対応するインスタンスであり，ゼロベクトルとして表現される。識別関数はゼロベクトルについて常に 0 を返すため，このインスタンスより下位に順位付けされた談話要素は二値分類における負例とみなすことができる。学習された識別関数によるランキングの結果, これらのインスタンスが最上位となった文書については,著者・読者表現が出現しないものとする。

各文書に対する学習データの作成について説明する．以下の手順で著者表現，読者表現に対して文書ごとにランキングデータ作成し, 統合したものを最終的な学習データとする.

著者・読者表現が存在する文書については，著者・読者表現にあたる談話要素が他の談話要素および「著者・読者表現なし」より上位になるように学習データを作成する。例えば，図 4 の文書における著者表現推定では,

$(1)>(2)=(3)=\cdots=(6)=$ 著者表現なし $($ 談話構造 $)=$ 著者表現なし $($ 省略 $)$

となるように学習データを作成する.

談話構造自体に著者・読者が出現しない場合には，「著者・読者表現なし(談話構造)」が文書中の談話要素および「著者・読者表現なし(省略)」より上位になるように学習デー夕を作成する。例えば，図 5 の文書における著者表現推定では,

著者表現なし (談話構造 $)>(1)=(2)=\cdots=(6)=$ 著者表現なし (省略)

となるように学習データを作成する。
談話構造に著者・読者が出現するが著者・読者表現が出現しない場合には，「著者・読者表現なし(省略)」が文書中の談話要素および「著者・読者表現なし(談話構造)」より上位になるように学習データを作成する。例えば，図 6 の文書における著者表現推定では，

著者表現なし $($ 省略 $)>(1)=$ 著者表現なし $($ 談話構造 $)$

となるように学習データを作成する。

学習時の談話構造に著者・読者が出現するかの判定には，コーパスに付与された外界ゼロ照応の情報を利用する，外界ゼロ照応の照応先として著者・読者が出現する場合には談話構造に著者・読者が出現するとし，それ以外の場合には出現なしとする，例えば図 6 では，「気がつけば」のガ 2 格,「ほっとしました」のガ格などの照応先で著者が出現するので, 談話構造に著者が出現していると分かる。なお，この情報はランキングの学習データを作成する際にのみ利用するので，テストデータに対する著者・読者表現推定時には利用しない.

## 6.2 素性として利用する語彙・統語パターン

談話要素に対しては, 談話要素自身と係り先およびこれらの係り受けの語彙統語パターンを素性として扱う。ここで, 語彙統語パターンを扱う単位として, 基本句と文節という 2 の単位を考える。談話要素は基本句単位であるが, その基本句が含まれる文節の情報も重要と考えられるからである。

談話要素を表現する語彙統語パターンとしては，談話要素が含まれる基本句・文節，談話要素の係り先の基本句・文節およびこれらの係り受け関係を後述する基準にて汎化したものとなる. 1 つの談話要素が複数言及されている場合には，それらを合わせたものをその談話要素の素性として用いる。また, 1 文目には自己紹介的な表現が用いられることが多く, 以降の文と区別して扱うことが有効であると考えられる。そこで， 1 文目で出現した語彙統語パターンは別の素性としても扱うこととする。例えば, 図 4 の談話要素 (1) に対応する素性として利用するものは以下のものを汎化したものとなる。

「基本句:ホテルは」「基本句係り先:ございます。」「基本句係受け:ホテルは $\rightarrow$ ございます。」「文節:米子タウンホテルは」「文節係り先:ございます。」「文節係り受け:米子タウンホテルは $\rightarrow$ ございます。」「基本句:ホテルです。」「文節:ホテルです。」「1文目基本句:ホテルは」 $\lceil 1$ 文目基本句係り先:ございます。」「1 文目基本句係受け:ホテルは $\rightarrow$ ございます。」「1文目文節:米子タウンホテルは」「1 文目文節係り先:ございます。」「1 文目文節係り受け:米子タウンホテルは $\rightarrow$ ございます。」

これらの要素を表 9 の基準で汎化することで語彙統語パターンの素性として利用する。「形態素単位 $\mathrm{A} 」$ の汎化は形態素単位に付与された情報を元に形態素毎に汎化を行う．なお「品詞+
表 9 汎化する種類と基準

 \\

表 10 一人称代名詞と二人称代名詞

一人称私, 我々, 僕, 俺, 弊社, 当社

二人称あなた, 皆様, 皆さん

活用」では内容語に対してのみ行い，機能語については汎化しない.

となる汎化表現を持たない場合（固有表現による汎化の際に固有表現を持たない場合など）には「品詞十活用」で汎化を行う.

「形態素単位 $\mathrm{C}$ では「形態素単位 $\mathrm{B}$ と同様に汎化を行うが, 複数の形態素をまたいだ汎化を行う場合がある。分類語彙表による汎化では，分類語彙表に複合語として登録されている場合には，その複合語の分類語彙表の内容を利用する。例えば,「ゴルフ場」は 2 形態素であるが, 分類語彙表には 「ゴルフ場:土地利用」として登録されているので,「ゴルフ場」を「土地利用」と汎化する．固有表現による汎化では, 形態素に付与された固有表現は「固有表現名:head」「固有表現名:middle」「固有表現
名:tail」「固有表現名:single」のように固有表現中での位置が付与されている. 文節による汎化の際には連続したこれらの表現をまとめて「固有表現」という形に汎化する．例えば「ヤフージャパン株式会社」では「ORGANIZATION:head+ORGANIZATION:middle+ORGANIZATION:middle+ ORGANIZATION:tail」のように固有表現が付与されるが,「ORGANIZATION」として汎化する. これらの形態素単位での汎化では, 形態素ごとに汎化を行い, その後基本句内, 文節内で汎化された情報を結合することでその基本句, 文節の語彙統語パターンとする．例えば，「基本句:ホテルは」をカテゴリ (CT)の基準で汎化する祭には，「ホテル」を「CT-場所-施設」に汎化し,「は」は機能語なのでそのまま「は」とする。そしてこれらを結合した「基本句:CT-場所施設十は」がこの基本句のカテゴリによる汎化表現となる.

上述の形態素単位の汎化の場合には, 基本句, 文節内に含まれる個々の汎化表現も素性とする. 例えば,「基本句:ホテルは」のカテゴリによる汎化では上述の「基本句:CT-場所-施設+は」 に加えて，「基本句内形態素:CT-場所-施設」も素性とする ${ }^{20}$.

基本句・文節単位での汎化は基本句・文節に付与された情報を元に汎化を行う場合に利用する. 基本句・文節単位での汎化では基本句・文節に付与された情報そのものを基本句, 文節の語彙統語パターンとして利用する.このため, 形態素単位による情報は素性としては利用しない.

## 7 外界照応および著者・読者表現を考慮したゼロ照応解析モデル

本節では, 外界ゼロ照応および著者・読者表現を考慮したゼロ照応解析モデルについて説明する. 提案モデルでは, ベースラインモデルと同様にゼロ照応解析を述語項構造解析の一部として解く.

提案モデルではゼロ照応解析は以下の手順で行う.

（1） 形態素解析，固有表現認識，構文解析を行う.

（2） 共参照解析を行いテキスト中に出現した談話要素を認識する.

（3）著者・読者表現の推定を行い，どの談話要素が著者・読者表現にあたるのかを推定する.

（4）推定された著者・読者表現から仮想的な談話要素を設定する（7.1 節で説明）.

（5）各用言について以下の手順で述語項構造を決定する.

(a) 以下の手順で解析対象用言がとりえる述語項構造（格フレームと談話要素の対応付け）の組み合わせを列挙する。

(i) 解析対象用言の格フレームを 1 つ選ぶ.

(ii) 解析対象用言と係り受け関係にある語と格スロットの対応付けを行う.

(iii) 対応付けられなかったガ格， 格，ニ格，ガ 2 格の格スロットと, 対象用言の格スロットとまだ対応付けられていない談話要素の対応付けを行う.

(b) 学習されたランキングモデルによりもっとも高いスコアが与えられたものを述語項構造として出力する。

ベースラインモデルと異なる点は, 手順 (3) で文章中の著者・読者表現を推定すること, 手順 (4) で仮想的な談話要素を設定することである.

## 7.1 外界ゼロ照応を扱うための仮想的談話要素

ベースラインモデルではゼロ代名詞の照応先を文章中の談話要素から選択することとした。提案モデルでは，文章中の談話要素に加えて仮想的な談話要素として [著者], [読者], [不特定:人], [不特定:その他] を設定し, 解析の際の述語項構造の列挙においては，格に対応付ける談話要素の候補としてこれらの仮想的な談話要素も考えることとする ${ }^{21}$. そして, これらが対応付けられた格は外界ゼロ照応であるとする。例 (15) では，「説明します」のガ格が外界ゼロ照応で著者を照応しており，二格は外界ゼロ照応で読者を照応しているため，ガ格に [著者]を，ニ格に [読者]を対応付けた述語項構造として表現される。

$
\text { 今日はお得なポイントカードについて説明します。 }
$

著者・読者表現が文章中に出現する場合には, [著者] と [読者]の仮想的談話要素の扱いが問題となる. 下記の例 (16)ではゼロ代名詞 $\phi$ の照応先は, 著者表現である「私」とも [著者] とも考えられる。

（16）肩こりや腰痛で来院された患者さんに対し、私著者は脈を診ることにしています。 それは心臓の状態を $(\phi$ ガ $)$ 診ているだけではなく、身体全体のバランスを $(\phi$ ガ $)$ 診たいからです。

本研究では, このような曖昧性を取り除くため, 照応先としては $[$ 著者], [読者]より著者・読者表現を優先することする，解析の際, 文章中に著者・読者表現が存在する場合には, [著者], [読者]の仮想的談話要素は照応先として対応付けないこととする．図1の「紹介します」に対して列挙される述語項構造の例を図 7 に示す.この例では,【1-3】のガ格や【1-4】のガ格などに仮想的な談話要素が対応付けられている。また,「(a) 僕」が著者表現にあたるので [著者] はどの格にも対応付けを行わない.

【1-1】 格フレーム:『紹介する (1)』, \{ガ:×, Э:(c) ラーメン屋, ニ:×, ガ $2: \times$, 時間:(d) 今日 $\}$

【1-2】格フレーム: 『紹介する (1)』, \{ガ:(a) 僕, ヨ:(c) ラーメン屋, ニ:×, ガ $2: \times$, 時間:(d) 今日 $\}$

【1-3】格フレーム:『紹介する (1)』, \{カ̉:[読者], Э:(c) ラーメン屋, ニ:×, ガ $2: \times$, 時間:(d) 今日 $\}$

【1-4】格フレーム:『紹介する (1)』，\{ガ:[不特定:人], Э:(c) ラーメン屋, ニ:×, ガ $2: \times$, 時間:(d) 今日 $\}$

【1-5】格フレーム: 『紹介する (1)』, \{ガ:(a) 僕, ヨ:(c) ラーメン屋, 二:[読者], ガ $2: \times$, 時間:(d) 今日 $\}$

【1-6】格フレーム:『紹介する (1)』, \{ガ:[読者], ヨ:(c) ラーメン屋, ニ:(a) 僕, ガ $2: \times$, 時間:(d) 今日 $\}$

【2-1】格フレーム:『紹介する (2)』, \{ガ:×, ヨ:(c) ラーメン屋, ニ:×, ガ $2: \times$, 時間:(d) 今日 $\}$

【2-2】格フレーム: 『紹介する (2)』, \{ガ:(a) 僕, ヨ:(c) ラーメン屋, ニ:×, ガ $2: \times$, 時間:(d) 今日 $\}$

図 7 提案手法における述語項構造の候補の例

一方，著者・読者表現は外界の [著者] や [読者] と似た振る舞いを取ると考えられる ${ }^{22}$.そこで, 著者・読者表現は他の談話要素と区別し, 素性表現の際に [著者] や [読者]の性質を持つように素性を与える。詳細は 7.2 節で示す.

## 7.2 素性による述語項構造の表現

ベースラインモデルと同様に提案モデルでも述語項構造単位を素性で表現し, その構成もベー スラインモデルと同様に $\phi(c f, a, p, t)$ は直接係り受けがある述語項構造に関する素性ベクトル $\phi_{\text {overt-PAS }}\left(c f, a_{\text {overt }}, p, t\right)$ とゼロ照応解析で対象となる格 $c$ に談話要素 $e$ が割り当てられることに関する素性べクトル $\phi_{\text {case }}(c f, c \leftarrow e, p, t)$ からなる.

ベースラインモデルと提案モデルの差は $\phi_{\text {case }}(c f, c \leftarrow e, p, t)$ のうち, $c$ に談話要素 $e$ が割り当てられた場合の素性ベクトル $\phi_{A}(c f, c \leftarrow e, p, t)$ の構成である. ここでベースラインモデルでの $\phi_{A}(c f, c \leftarrow e, p, t)$ を $\phi_{A}^{\prime}(c f, c \leftarrow e, p, t)$ とおく. この $\phi_{A}^{\prime}(c f, c \leftarrow e, p, t)$ と同内容, 同次元の素性べクトルを文章中に出現した談話要素, 外界の [著者], [読者] なとと対応する形で複数並べることで $\phi_{A}(c f, c \leftarrow e, p, t)$ を構成する.

具体的には以下のような形となる.

$
\begin{aligned}
\phi_{A}(c f, c \leftarrow e, p, t)= & \phi_{\text {mentioned }}(c f, c \leftarrow e, p, t), \phi_{\text {[著者] }}(c f, c \leftarrow e, p, t), \\
& \phi_{\text {[読者] }}(c f, c \leftarrow e, p, t), \phi_{\text {[不特定:人] }}(c f, c \leftarrow e, p, t), \\
& \left.\phi_{\text {[不特定:その他] }}(c f, c \leftarrow e, p, t), \phi_{\max }(c f, c \leftarrow e, p, t)\right)
\end{aligned}
$

ここで, $\phi_{\text {mentioned }}(c f, c \leftarrow e, p, t)$ は $e$ が文章中に出現した談話要素の場合のみに発火し, 内容は $\phi_{A}^{\prime}(c f, c \leftarrow e, p, t)$ と同内容とする. $\phi_{\text {[著者] }}(c f, c \leftarrow e, p, t), \quad \phi_{\text {[読者] }}(c f, c \leftarrow e, p, t)$ は $e$ が外

界の [著者], [読者] の場合または著者・読者表現に対応する談話要素の場合にのみ発火する. $\phi_{\text {[不特定: 人] }}(c f, c \leftarrow e, p, t), \phi_{\text {[不特定:その他] }}(c f, c \leftarrow e, p, t)$ は $e$ が外界の [不特定:人], [不特定:その他] の場合にのみ発火する。 $\phi_{\text {[著者] }}(c f, c \leftarrow e, p, t), \quad \phi_{\text {[読者] }}(c f, c \leftarrow e, p, t), \quad \phi_{\text {[不特定:人] }}(c f, c \leftarrow e, p, t)$, $\phi_{\text {[不特定:その他] }]}(c f, c \leftarrow e, p, t)$ は外界の談話要素に対応するため, 表記や JUMANカテゴリといった情報を持たない。そこで, 格フレーム素性で $e$ の表記や JUMAN カテゴリの情報を利用する場合には擬似的に表 11 の表記や JUMAN カテゴリを利用する。最後の $\phi_{\max }(c f, c \leftarrow e, p, t)$ は各素性において $\phi_{\text {mentioned }}(c f, c \leftarrow e, p, t), \phi_{\text {[著者] }}(c f, c \leftarrow e, p, t), \phi_{\text {[読者] }}(c f, c \leftarrow e, p, t), \phi_{\text {[不特定: 人] }}(c f, c \leftarrow$ $e, p, t), \phi_{\text {[不特定:その他] }]}(c f, c \leftarrow e, p, t)$ で対応する素性の最大値を持つ素性べクトルとする.

このように素性を表現することで，著者・読者表現に対応する談話要素では $\phi_{\text {mentioned }}$ および $\phi_{\text {[著者] }} \cdot \phi_{\text {[読者] }}$ が発火することになり, 通常の談話要素と著者・読者としての両方の性質を持つこととなる。また， $\phi_{\text {max }}$ は全ての要素に対して発火するため， $\phi_{\text {max }}$ に対応する重みでは， ゼ口照応全体に影響する性質が学習されると考えられる.

ここで，図 7 の述語項構造候補【1-5】ついて各格の $\phi_{A}(c f, c \leftarrow e, p, t)$ の例を示す.

$
\begin{aligned}
& \phi_{A}(c f, \text { ガ } \leftarrow(a) \text { 僕, } p, t)=\left(\phi_{\text {mentioned }}(c f, \text { ガ } \leftarrow(a) \text { 僕 }, p, t), \phi_{\text {[著者] }}(c f, \text { ガ } \leftarrow(a) \text { 僕, } p, t),\right.
\end{aligned}
$

$
\begin{aligned}
& \left.\max \left(\phi_{\text {mentioned }}(c f, \text { ガ } \leftarrow(a) \text { 僕 }, p, t), \phi_{\text {[著者] }}(c f, \text { ガ } \leftarrow(a) \text { 僕 }, p, t)\right)\right)
\end{aligned}
$

まず，ガ格では「僕」は文章中に言及されているので， $\phi_{\text {mentioned }}(c f$, ガ $\leftarrow(a)$ 僕, $p, t)$ が発火し，また著者表現に対応している談話要素なので $\phi_{\text {[著者] }}(c f$, ガ $\leftarrow(a)$ 僕, $p, t)$ も発火する. $\phi_{\text {[読者] }}(c f$, ガ $\leftarrow e, p, t), \quad \phi_{\text {[不特定:人] }}(c f$, ガ $\leftarrow e, p, t), \quad \phi_{\text {[不特定:その他] }}(c f$, ガ $\leftarrow e, p, t)$ は発火せず 0 ベクトルとなる. $\phi_{\max }(c f$, ガ $\leftarrow e, p, t)$ は各要素において $\phi_{\text {mentioned }}(c f$, ガ $\leftarrow(a)$ 僕, $p, t)$ と $\phi_{\text {[著者] }}(c f$, ガ $\leftarrow(a)$ 僕 $, p, t)$ のうち大きい方の値が素性の値となる.

$
\begin{aligned}
& \left.\phi_{A}(c f, \text { 二 [読者] }], p, t\right)=\left(\mathbf{0}_{\phi_{\text {mentioned }}}, \mathbf{0}_{\phi_{\text {[著者] }},},\right. \\
& \left.\phi_{\text {[読者] }}(c f, \text { 二 [読者] }], p, t\right), \mathbf{0}_{\phi_{\text {[不特定:人] }},},
\end{aligned}
$

表 11 疑似表記, JUMAN カテゴリ

二格では文章中に言及されていない読者が対応付けられているので, $\phi_{\text {[読者] }}(c f$, 二 [読者] $, p, t)$ のみが発火し, $\phi_{\max }(c f$, 二 [読者] $, p, t)$ は $\phi_{\text {[読者] }}(c f$, 二 [読者 $\left.], p, t\right)$ と同じ値となる. ヨ格は直接係り受けのある「ラーメン屋」と対応付けられているので, ベースラインモデルと同様に素性として考えず， $\phi_{A}(c f, \exists \leftarrow e, p, t), \phi_{N A}(c f$, Э $\leftarrow \times, p, t)$ ともに 0 ベクトルとなる. ガ 2 格は談話要素に対応付けられていないので, ベースラインモデルと同様に $\phi_{N A}(c f$, ガ $2 \leftarrow$ $\times, p, t)$ が発火し, $\phi_{A}(c f$, ガ $2 \leftarrow e, p, t)$ は 0 ベクトルとなる.

## 7.3 使用する素性

提案モデルでは 4.1 節で述べたものに加えて, 著者表現, 読者表現推定スコアを素性として利用する．著者表現，読者表現推定スコアは 6 節で著者・読者表現を推定した際のランキング学習の識別関数のスコアである。著者表現推定スコアは $e$ が著者表現の場合に $\phi_{\text {mentioned }}(c f, c \leftarrow e, p, t)$ と $\phi_{\text {[著者] }}(c f, c \leftarrow e, p, t)$ に, 読者表現推定スコアは $e$ が読者表現の場合に $\phi_{\text {mentioned }}(c f, c \leftarrow e, p, t)$ と $\phi_{\text {[読者] }}(c f, c \leftarrow e, p, t)$ に素性として導入する.

## 8 実験

## 8.1 実験設定

実験では DDLC の 1,000 文書を利用し，5 分割交差検定により評価を行った. 述語項構造解析および著者・読者表現推定以外の解析結果が原因となる解析誤りを除くため，形態素情報，係り受け情報, 固有表現情報, 共参照関係はコーパスに人手で付与された正しい情報を利用する.

## 8.2 著者・読者表現推定実験結果と考察

DDLC に対して, 著者表現および読者表現を推定した結果を表 12 に示す.ここで, 著者表現と読者表現は独立に推定しているため, 評価も独立して行った. 著者・読者表現はそれぞれ各文書で最大 1 つと仮定されているため, 著者・読者表現推定は文書ごとの多値分類問題といえる. そのため評価は文書単位で行い, 以下のような数式で求めた.

表 12 著者・読者表現推定結果


適合率 $=\frac{\text { システムが著者・読者表現を正しく推定できた文書数 }}{\text { システムが著者・読者表現ありと推定した文書数 }}$

再現率 $=\frac{\text { システムが著者・読者表現を正しく推定できた文書数 }}{\text { コーパスに著者・読者表現が付与されている文書数 }}$

$
F \text { 値 }=\frac{2 \times \text { 適合率 } \times \text { 再現率 }}{\text { 適合率 }+ \text { 再現率 }}
$

精度 $=\frac{\text { システムが著者・読者表現を正しく推定 } o r \text { 著者・読者表現なし推定できた文書数 }}{\text { 全文書数 }}$

この結果より, 著者・読者表現なしを含めた精度では, 著者において 0.829 , 読者において 0.936 と高い精度を達成できた。一方, 再現率はあまり高くなく, 著者表現で 0.509 , 読者表現で 0.595 であった。これはコーパス全体で著者・読者表現が出現文書より著者・読者表現のない文書の方が多く，学習時に著者・読者表現なしを優先するように学習してしまったためと考えられる.読者において適合率が低いが，これは読者の一部のみを想定した表現を読者表現と推定してしまうことが多かったためと考えられる。

図 8 , 図 9 , 図 10 に誤り例を示す。図 8 では, コーパスでは著者表現が出現しないが誤って 「山形県山上市」を著者表現と推測してしまった．著者表現では固有表現は大きな手掛かりとなり，特に 1 文目に出現する固有表現は著者表現となる傾向が強い．また，文体的に談話構造中に著者が出現するような表現が多用されている．そのため誤って「山形県山上市」を著者表現と推測してしまったと考えられる。

図 9 では，コーパスでは「ジュエリー工房」が著者表現だが，著者表現なしと推定してしまった. この例では「ジュエリー工房」を表現する語彙統語パターンとして利用する部分は，「ジュエリー工房だから」「実現します。」のみであり，手掛かりが少ない．また，「ジュエリー工房」 は固有表現でないことも著者表現であると推定することが困難な原因である。

フットサル東北大会のために山形県山上市に来ています。

今回の試合は 3 年生最後の大会ですので全力で戦ってきます。

試合結果など随時ブログで更新します。

図 8 著者推定誤り例 1
特許取得の手に馴染んで装着しやすいオリジナル結婚指輪が人気です。

リングのサイズ直し/ピアス/ネックレス/ペンダントなどの宝石の修理・加工も承ります。 デザインからお渡しまで一貫したジュエリー工房だから高品質で低価格が実現します。

図 9 著者推定誤り例 2

メイクブラシをご購入頂いたお客様から「お手入れはどうすればいいの?」とお問い合わせを頂きます。

そこで今日から出来る簡単な「日常のお手入れ方法」と「クリーニング方法」をご紹介したいと思います。

「クリーニング」は念のため 2 つの洗浄方法をご案内しましたので順番にチェックして下さいね。

図 10 読者推定誤り例 1

図 10 では，コーパスでは読者表現は出現しないが誤って「お客様」を読者表現と推測してしまった。この例では，文中の「お客様」は読者ではなく過去に質問をした人を指している。このような場合でも，「様」や「頂きます」のような敬語表現を用いることが多い. これらの表現は読者に対しても頻繁に利用されるため, これらの表現が用いられている「お客様」を著者表現と推定してしまったと考えられる.

## 8.3 ゼ口照応解析結果と考察

DDLC に対してゼロ照応解析を行った. ベースラインは 4 節で述べた外界ゼロ照応および著者・読者表現を考慮しないモデルである．提案モデルは 7 節で述べたモデルである．「提案モデル (推定)」は 6 節で述べた手法により自動推定した著者・読者表現を利用したものである.「提案モデル (正解)」は著者・読者表現についてはコーパスの正解を与えたものである．評価は各
用言の各格ごとに行い，ある格に複数の正解が付与されている場合は，そのうちの 1 つと一致すれば正解とした，また，先に述べたように，著者・読者表現がある場合には [著者]・[読者]より著者・読者表現を照応先として優先するとしたが，提案モデル (推定)において，著者・読者表現がある文書に対して著者・読者表現なし，と推定してしまった場合，本来著者・読者表現があるにも関わらず，[著者]・[読者]を割り当てる場合がある。ここでは, ベースラインとの比較のため, このようなものは誤りとして扱った. 表 13 はベースラインとの比較のために, 文章内ゼロ照応のみで評価した結果であり, 表 14 は外界ゼロ照応を含めた全てのゼロ照応で評価を行った結果である。

この結果から，ゼロ照応解析において外界ゼロ照応および著者・読者表現を考慮することで,外界を含めたゼロ照応全体だけでなく, 照応先が文章内に出現する文章内ゼロ照応においても再現率・適合率が向上することが分かる，文章内ゼロ照応での評価において，提案モデルは推定した著者・読者表現を利用した場合において, ベースラインのモデルよりも適合率, 再現率ともに向上していることが分かる。適合率が向上している原因としては，必須的な格を埋める際に，無理に文章内から選択せず外界の談話要素を選択することができること，敬語などの表現の際に著者表現や読者表現を照応先として選択できることが考えられる．例えば，図 11 では，

表 13 文章内ゼロ照応解析結果

表 14 全ゼロ照応解析結果

フレッツ光をはじめるために押さえておきたいポイントをで案内します。

ご利用中の回線から、フレッツ光へ乗り換える方法をご案内します。

あなたにぴったりなプロバイダー選びをお手伝いします。

図 11 提案モデルによりゼロ照応解析が改善した例 1

ガ格ではべースラインでは「あなた」を対応付けているが，提案モデルでは [著者] を対応付けることで文章内照応に限っても再現率・適合率が向上している．また，敬語表現に対して二格を読者表現の「あなた」を正しく対応付けることができるようになった.

再現率が向上する原因としては，ベースラインモデルでは学習の際に外界照応をゼロ代名詞なしと学習してしまうため, 必須的な格でも必ずしも対応付ける必要がないと学習してしまうが, 提案手法では必須的な格はなるべく埋めるように学習するためである. 例えば図 12 では, ベースラインモデルでは必須的な格であるガ格に何も対応付けていない，一方，提案手法ではガ格に対して「神さま」を対応付けることができた.

正解の著者・読者表現を与えた場合には，再現率，適合率ともに大きく向上している。このことから著者・読者表現の推定精度を向上させることで，ゼロ照応解析の再現率・適合率がより向上すると考えられる.

格ごとに評価を行った結果を表 15 ，表 16 ，表 17 ，表 18 ，表 19 ，表 20 ，表 21 ，表 22 に示す.表 15 ，表 16 から，ガ格において特に提案手法により再現率，適合率が共に向上したことが分かる。これは，ガ格では特に著者に関するゼロ照応が多いこと，外界ゼロ照応を考慮することでほぼ全てのガ格がゼロ代名詞を持つことが原因と考えられる。表 19 , 表 20 から，二格において

むかしむかし、この世界をつくったインデアンの神さまが旅にでました。

そして、雪がいっぱいつもった村にきました。

村にはいると、おばあさんがないています。

図 12 提案モデルによりゼロ照応解析が改善した例 2

表 15 文章内ゼロ照応解析結果 (ガ格)

表 16 全ゼロ照応解析結果 (ガ格)

表 17 文章内ゼロ照応解析結果 (ヲ格)

表 19 文章内ゼロ照応解析結果 (二格)

表 21 文章内ゼロ照応解析結果 (ガ 2 格)

表 18 全ゼロ照応解析結果 (ヲ格)

表 20 全ゼロ照応解析結果 (二格)

表 22 全ゼロ照応解析結果 (ガ 2 格)

も提案手法により再現率, 適合率が共に向上したことが分かる。特に適合率が大きく向上しており，これはニ格は用言の受け手（「紹介します」の二格など）となることや謙譲語の敬意を示す対象（「お届けします」）となることが多く，読者の情報が照応先推定に大きく寄与したためと考えられる。一方，表 17 , 表 18 から，丹格では適合率が向上しているものの，再現率が低下していることが分かる。ヲ格は著者・読者に関するゼロ照応が少なく, 外界ゼロ照応の割合も少ないことから提案手法が有効に働かなかったものと考えられる。適合率が向上し，再現率が低下した要因としては格フレームの選択誤りが考えられる。格フレームの用例選択においては特にヲ格が重要な役割を持っており，ヲ格が省略された場合には正しい格フレームを選択することが困難となる。特に他の格が外界ゼロ照応となる場合には， ベースライン手法では他の格の割り当てを考慮せずに，照応先候補の中にチ格として対応するものが存在する格フレームを選択することが多い．この場合，格フレームとしてはヨ格に対応付けられることが妥当であるが，文脈的には正しくないものも含まれるので，再現率は高くなるが適合率が低くなると考えられる，一方，外界ゼロ照応を考える場合には，ガ格が格フレームに適合するかを考慮する必要があるため, 述語項構造全体として適切な格フレームを選択できない場合がある。その場合には， ヲ格には適切な照応先がないと判断されてしまうので，再現率が低下していると考えられる，表 21 , 表 22 からガ 2 格はベースライン, 提案手法ともにほぼ推定できていないことが分かる. これは, ガ 2 格のゼロ照応での出現が非常に少なく学習時にガ 2 格を割り当てる必要

がないと判断されることと，ガ 2 格を持つ格フレームが少ないことが原因である.

提案手法で誤った例を図 13 と図 14 に示す。図 13 では，提案手法は「捻出しなければならない」のガ格に [不特定:人] を対応付けてしまった。これは，「提出する」の格フレームではガ格

最も事業仕分けが必要なのは「国」です。

国の事業には、省庁縦割りや前例踏襲主義などの弊害により、まだまだ無駄があります。

これらを少しでも減らして、必要な事業に資金を捻出しなければなりません。

 \\

図 13 提案モデルの誤り例 1

在福岡モンゴル国名誉領事館の公式ホームページを開設しました。

当名誉領事館の概要、九州沖縄・モンゴル友好協会のイベント情報や活動状況などを掲載してまいります。

なお、段階的にページメニューを作成することとしておりますので、何かとご不便をおかけしますが、よろしくお願い申し上げます。

図 14 提案モデルの誤り例 2
表 23 正解の条件を緩めて評価した結果

に「国」を対応付ける用例が少なかったため，「国」ではなく外界の [不特定:人] を対応付けることを選択してしまったためである。

図 14 は著者表現の推定誤りがゼロ照応解析の誤りの原因である.この文章では著者表現が 「領事館」であるため，「開設しました」のガ格には「領事館」を対応付けなければならない．しかし, 提案手法では誤って著者表現なしと推定してしまったため,「領事館」を対応付けることができず，[著者]を対応付けてしまった。しかし，このような誤りは著者がが格であるということは推定できているため厳密には誤りとは言えない，そこで，このような著者・読者表現を対応付けるべき格に対して [著者], [読者] を対応付けてしまった場合にも正解とみなして評価を行った結果を表 23 に示す。表 23 と表 13 および表 14 を比較すると，正解の条件を緩めた場合に再現率, 適合率共に大きく向上している。このことから，提案モデル (推定)の誤りの多くが図 14 のように著者・読者表現の推定が誤りといえる。一方，正解の条件を緩和させた場合でも提案モデル (コーパス著者・読者表現)よりは低い再現率と適合率となっている。これらの差は，解析時に正しい著者・読者表現を利用できる場合には $\phi_{\text {mentioned }}$ および $\phi_{\text {[著者] }}$ または $\phi_{\text {[読者] }}$ を素性として利用しているが, 解析後に著者・読者表現の情報から [著者], [読者]を正解とする場合には, 解析時には $\phi_{\text {[著者], }} \phi_{\text {[読者] }}$ みを利用していることである。このことから, 提案手法のように著者・読者表現に対して文章中に言及される談話要素と仮想的な談話要素の両方の性質を与えることが有効といえる。

## 8.4 京都大学テキストコーパスでの実験

DDLC は先頭 3 文のみで構成されており，文章全体でゼロ照応解析を行った場合の影響が調査できない。そこで，文章全体での本手法の精度を調査するために京都大学テキストコーパスを利用した実験を行った．実験では京都大学テキストコーパスのゼロ照応関係が付与された 567 文書のうち， 454 文書を訓練に，113 文書を評価に利用した．京都大学テキストコーパスには著者・読者表現が付与されていないため, 全ての文書において著者・読者表現が存在しないと仮定して実験を行った。その結果を表 24 と表 25 に示す。この結果から，提案モデルはベースラインモデルに比べ大きく $\mathrm{F}$ 值が向上したとは言い難い. これは, 京都大学テキストコーパスを構成している新聞記事は，著者・読者が談話に登場することが稀であることが大きな原因である。提案手法では, 特に著者・読者に着目しており, そのために外界ゼロ照応を扱ったが，著者・読者が談話に出現しない場合，外界ゼロ照応を扱うことの寄与度は低いことが分かる。
表 24 京都大学テキストコーパスにおける文章内ゼロ照応解析結果

表 25 京都大学テキストコーパスにおける全ゼロ照応解析結果

一方，文章全体における $\mathrm{F}$ 值がベースラインとほぼ同等であり，提案手法を文章全体適用した場合についても，悪影響などはないと言える。これらの考察から，提案手法を著者・読者が談話に出現する文章の全体に対して適用した場合，先頭 3 文における実験結果と同様に精度が向上するものと考えられる。

## 9 まとめ

本論文では，外界ゼロ照応および著者・読者表現を考慮した日本語ゼロ照応解析モデルを提案した。 ゼロ照応解析の前処理として文章中の著者・読者表現を語彙統語パターンを用いて自動的に判別し， ゼロ照応解析において他の談話要素と区別して扱った．DDLCを用いた実験の結果, 外界ゼロ照応だけでなく, 文章内ゼロ照応においても提案手法を用いることで，高い精度が得られた。

今後の課題としては，著者・読者表現の精度向上が挙げられる，本研究では，テキストの内容のみから著者・読者表現推定を行ったが，実際の解析では Web 特有の情報（URL や HTML タグ）が利用できる。これらの情報は，URLのドメインに含まれる表現は著者表現である可能性が高い, .com ドメインでは客が読者表現になりやすい，など，著者・読者表現推定において有用であると考えれられる。

ゼロ照応解析の精度向上では，事態間関係知識の利用などが考えられる．例えば，「Aを食べた $\leftarrow$ A が美味しかった」といった関係が分かっていれば，「チョコを食べたが (チョコガ) 美味しかった」の「美味しかった」のゼロ照応解析で手掛かりになると考えられる.

## 参考文献

Gerber, M. and Chai, J. (2010). "Beyond NomBank: A Study of Implicit Arguments for Nominal Predicates." In Proceedings of the 48th Annual Meeting of the Association for Computational Linguistics, pp. 1583-1592, Uppsala, Sweden. Association for Computational Linguistics.

Hangyo, M., Kawahara, D., and Kurohashi, S. (2012). "Building a Diverse Document Leads Corpus Annotated with Semantic Relations." In Proceedings of the 26th Pacific Asia Conference on Language, Information, and Computation, pp. 535-544, Bali,Indonesia. Faculty
of Computer Science, Universitas Indonesia.

Hayashibe, Y., Komachi, M., and Matsumoto, Y. (2011). "Japanese Predicate Argument Structure Analysis Exploiting Argument Position and Type." In Proceedings of 5th International Joint Conference on Natural Language Processing, pp. 201-209, Chiang Mai, Thailand. Asian Federation of Natural Language Processing.

Herbrich, R., Graepel, T., Bollmann-Sdorra, P., and Obermayer, K. (1998). "Learning Preference Relations for Information Retrieval." In ICML-98 Workshop: Text Categorization and Machine Learning, pp. 80-84.

Iida, R., Inui, K., and Matsumoto, Y. (2006). "Exploiting Syntactic Patterns as Clues in ZeroAnaphora Resolution." In Proceedings of the 21st International Conference on Computational Linguistics and 44th Annual Meeting of the Association for Computational Linguistics, pp. 625-632, Sydney, Australia. Association for Computational Linguistics.

Iida, R., Inui, K., and Matsumoto, Y. (2009). "Capturing Salience with a Trainable Cache Model for Zero-anaphora Resolution." In Proceedings of the Joint Conference of the 47th Annual Meeting of the ACL and the 4th International Joint Conference on Natural Language Processing of the AFNLP, pp. 647-655, Suntec, Singapore. Association for Computational Linguistics.

Iida, R., Komachi, M., Inui, K., and Matsumoto, Y. (2007). "Annotating a Japanese Text Corpus with Predicate-Argument and Coreference Relations." In Proceedings of the Linguistic Annotation Workshop, pp. 132-139, Prague, Czech Republic. Association for Computational Linguistics.

Imamura, K., Saito, K., and Izumi, T. (2009). "Discriminative Approach to Predicate-Argument Structure Analysis with Zero-Anaphora Resolution." In Proceedings of the ACL-IJCNLP 2009 Conference Short Papers, pp. 85-88, Suntec, Singapore. Association for Computational Linguistics.

磯崎秀樹, 賀沢秀人, 平尾努 (2006). 辞書式順序を持つペナルティによるゼロ代名詞解消. 情報処理学会論文誌, 47 (7), pp. 2279-2294.

Joachims, T. (2002). "Optimizing Search Engines using Clickthrough Data." In Proceedings of the 8th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, pp. 133-142. ACM.

河原大輔, 黒橋禎夫 (2007). 自動構築した大規模格フレームに基づく構文・格解析の統合的確率モデル. 自然言語処理, $\mathbf{1 4}(4)$, pp. 67-81.

Kawahara, D. and Kurohashi, S. (2006). "A Fully-Lexicalized Probabilistic Model for Japanese Syntactic and Case Structure Analysis." In Proceedings of the Human Language Technology

Conference of the NAACL, Main Conference, pp. 176-183, New York City, USA. Association for Computational Linguistics.

Kawahara, D., Kurohashi, S., and Hasida, K. (2002). "Construction of a Japanese Relevancetagged Corpus." In Proceedings of The 3rd International Conference on Language Resources Evaluation.

Kong, F. and Zhou, G. (2010). "A Tree Kernel-Based Unified Framework for Chinese Zero Anaphora Resolution." In Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing, pp. 882-891, Cambridge, MA. Association for Computational Linguistics.

村田真樹，長尾真 (1997). 用例や表層表現を用いた日本語文章中の指示詞・代名詞・ゼロ代名詞の指示対象の推定. 自然言語処理, 4 (1), pp. 87-109.

Poesio, M., Uryupina, O., and Versley, Y. (2010). "Creating a Coreference Resolution System for Italian." In Proceedings of the 7th Conference on International Language Resources and Evaluation (LREC'10), Valletta, Malta. European Language Resources Association (ELRA).

Rello, L., Baeza-Yates, R., and Mitkov, R. (2012). "Elliphant: Improved Automatic Detection of Zero Subjects and Impersonal Constructions in Spanish." In Proceedings of the 13th Conference of the European Chapter of the Association for Computational Linguistics, pp. 706-715. Association for Computational Linguistics.

Ruppenhofer, J., Sporleder, C., Morante, R., Baker, C., and Palmer, M. (2010). "SemEval-2010

Task 10: Linking Events and Their Participants in Discourse." In Proceedings of the 5th International Workshop on Semantic Evaluation, pp. 45-50, Uppsala, Sweden. Association for Computational Linguistics.

Sasano, R., Kawahara, D., and Kurohashi, S. (2008). "A Fully-Lexicalized Probabilistic Model for Japanese Zero Anaphora Resolution." In Proceedings of the 22nd International Conference on Computational Linguistics (Coling 2008), pp. 769-776, Manchester, UK. Coling 2008 Organizing Committee.

Sasano, R. and Kurohashi, S. (2011). "A Discriminative Approach to Japanese Zero Anaphora Resolution with Large-scale Lexicalized Case Frames." In Proceedings of 5th International Joint Conference on Natural Language Processing, pp. 758-766, Chiang Mai, Thailand. Asian Federation of Natural Language Processing.

平博順, 永田昌明 (2013). 述語項構造解析を伴った日本語省略解析の検討. 言語処理学会第 19 回年次大会発表論文集, pp. 106-109.

山本和英，隅田英一郎 (1999). 決定木学習による日本語対話文の格要素省略補完. 自然言語処理, 6 (1), pp. 3-28.

## 略歴

萩行正嗣：2008 年京都大学工学部電気電子工学科卒業. 2010 年同大学大学院情報学研究科修士課程修了. 2014 年同大学院博士後期課程修了. 博士（情報学). 現在, 株式会社ウェザーニューズ所属.

河原大輔：1997 年京都大学工学部電気工学第二学科卒業. 1999 年同大学院修士課程修了. 2002 年同大学院博士課程単位取得認定退学. 東京大学大学院情報理工学系研究科学術研究支援員, 独立行政法人情報通信研究機構研究員, 同主任研究員を経て，2010 年より京都大学大学院情報学研究科准教授. 自然言語処理, 知識処理の研究に従事. 博士 (情報学). 言語処理学会, 情報処理学会, 人工知能学会, 電子情報通信学会, ACL, 各会員.

黒橋禎夫：1994 年京都大学大学院工学研究科電気工学第二専攻博士課程修了.博士 (工学)。2006 年 4 月より京都大学大学院情報学研究科教授. 自然言語処理, 知識情報処理の研究に従事. 言語処理学会 10 周年記念論文賞等を受賞.

$(2013$ 年 12 月 3 日 $\quad$ 受付 $)$
$(2014$ 年 2 月 7 日 $\quad$ 再受付 $)$
$(2014$ 年 3 月 14 日 $\quad$ 再々受付 $)$
$(2014$ 年 4 月 8 日 $\quad$ 採録)