# 手がかり表現に基づく非論理的な言語推論の学習

張 辰聖子 1 持橋 大地 ${ }^{2}$ 小林 一郎 1
1 お茶の水女子大学 2 統計数理研究所
\{g1920524,koba\}@is.ocha.ac.jp daichi@ism.ac.jp

## 概要

人間が行っている推論は論理的な含意関係だけで はなく, 日常的な知識を背景にした常識推論が大き な役割を果たしている. 本研究はこの際の知識を,複雑な内容を表現できる自然言語文自体ととらえ,「から」「ため」のような手がかり表現を利用するこ とで, 前提と帰結がともに文となる自然言語推論を コーパスから深層学習モデルとして直接学習する。 コーパスから抽出した 157 万文ぺアについて学習 し, テストデータにおいて, 前提から生成した帰結文 について人手評価を行ったところ, $65.8 \%$ が妥当な推論であるとの結果を得た. さらにエラーの原因につ いて考察し, 改善と今後の可能性について議論する.

## 1 はじめに

ロボットのような人工知能が人間と共生する未来社会において, 人間と同等の推論や知的判断が行え る方法を開発することは, 重要な研究課題だと考え られる. 自然言語処理の最近の推論の研究は含意関係認識のような論理的な推論を扱っていることが多 いが,これでは扱えない自然な「推論」も実際には重要である. たとえば, 富士山と湖の写った写真を見て 「富士山がある」「湖が見える」と判断するだけでな く,そこから「キャンプによい」「日本的な風景だ」 と判断することは論理的な推論ではないが, 人間が 常に行っている常識的な推論である. そこで本研究 では，「〜ため」のような手がかり表現とニューラ ル言語モデルを用いることで, 大量のコーパスから 直接,こうした常識的推論を学習する. 提案法の特徴 は, 前提と帰結がどちらも自然言語の文となる言語的推論であり, 従来のように論理構造を介していな いことにある。

## 2 関連研究

こうした非論理的な1) 推論は, 自然言語処理では 常識推論 (commonsense reasoning) とよばれて長く議

図 1 Wikipedia からのデータ生成と, 推論の学習の概要.論されており, 特に最近活発に研究されている分野 である [1]. ただし,このためのデータセット [2][3] がそうであるように, 従来はこうした知識はあくま で知識グラフのような離散的な知識構造で表されて いた.こうしたグラフの作成やラベル付けには大量 の人手が必要である上,多くは単語間のグラフ関係 であるため, 複雑な知識を表すことができず, 表現力 にそしいという大きな欠点がある.

いっぽう, 推論についてこうした知識構造を介さ ず, 文から直接文を導く自然言語推論が行われ始め ている [4].こうした自然言語推論は論理的含意を 対象にしているが,この方法は常識推論にも自然に 適用でき, 本研究ではその可能性を模索する. Yu ら [5] は, 短い文のペアを人手でラベル付けしたデータ セット ASER [6] から, 文の連続をグラフ上のランダ ムウォークとしてサンプリングし, そのデータに基 づく常識推論の学習を提案している. ASER は大量 のコーパスからあらかじめ作成されたものである が, 本研究は関係を絞って, 常識推論を直接コーパス から学習するものであるといえる。

## 3 自然言語による推論

## 3.1 研究概要

図 1 に研究の概要を示す. 日本語 Wikipedia コー パスから，「理由」を表現する手がかり表現を元に

1）論理的推論と区別するために, あえて「非論理的」という 言葉を使っているが,これは推論に結果として論理的推論が 含まれることを排除するものではない.
根拠と結論がペアになった文を抽出する. 根拠部分 を大力, 結論部分を出力とし, 文を生成する深層学習モデルである $\mathrm{T} 5$ に学習させる. これにより根拠 に相当する文から結論を示す文を生成することを通 じて, 自然言語推論を実現する。

## 3.2 データ作成

データの収集には日本語版 Wikipedia コーパスを 用いた. 以下にデータ作成の手続きを示す.

Step 1. 正規表現で理由節を持つものを抽出 日本語版 Wikipedia 本文から，理由節を持つ 1 文を正規表現を用いて抽出する. その際，手がかり表現とし て「から」「ので」「ため」「おかげで」「せいで」の 5 つを用いた．また，理由節を持つ文の文頭が指示詞（「この」，「その」）であった場合，前文で置換を するという簡単な指示詞の補完を行った.

Step 2. 形態素解析によるフィルタリング 正規表現によって抽出された理由節を持つ文に対し，1文 ごとに MeCabを用いて形態素解析を行う．正規表現での抽出では，5つの手がかり表現は，理由を表 す以外の意味を持つことがある. そこで，形態素解析により主に理由を表す品詞として使われている場合のみを抽出する. 以下に品詞による使われ方の違 いの例を示す。

・信号が青から赤に変わった. (格助詞, 変化の 「から」)

・楽器を持っていなかったからボーカルになっ た. (接続助詞, 理由の「から」)

例に挙げたように「から」の品詞細分類が接続助詞 である時，主に理由を表すことから解析により抽出 を行う．上記により，解析の結果，理由節が以下の 形態素として含まれていた場合に，抽出を行う.

・から 助詞, 接続助詞

・ので 助詞, 接続助詞

$\cdot$ため 名詞, 非自立, 副詞可能

-せい名詞,非自立,一般

十で 助詞, 格助詞, 一般

・おかげ 名詞,一般

+ 助詞, 格助詞, 一般

Step 3. 機械学習によるフィルタリング 形態素解析によって残った文のうち，名詞で用いられる「た め」はいくつかの意味を持つ. そのため, 理由を表 す「ため」のみを抽出することを目的として，訓練済み日本語 BERT モデルを用いて二値分類を行っ表 1 訓練データの例と，それに類似する前提を与えたと きのファインチューニングを行った $\mathrm{T} 5$ の文生成出力例.

た. ここで用いた BERT モデルは Hugging Face ${ }^{1)} の$自然言語ライブラリ Transformers ${ }^{2}$ に基づく, 東北大学公開の事前学習済み日本語 BERT モデル3)を使用した.「ため」を手がかりとして抽出した文から， ランダムに 300 文を抜き出し，手動で理由を表すか そうでないかのタグ付けをし，二値分類の機械学習 を行くった. 300 文での 5 分割交差検証では $88.7 \%$ の精度で理由を表すかそうでないかの分類を行えて いることがわかった. 分類を行った結果, 1,288,304 文の「ため」を含む文から，730,133 文 (56.7\%) の理由を表す文を抽出することができた。

Step 4. 根拠表現と結果表現の抽出 日本語自然言語処理ライブラリである $\mathrm{GiNZA}^{4)}$ を用いて，抽出し た文に対して係り受け解析を行う. 坂地ら [7]の手法を用いて, 根拠表現と結果表現の抽出を行った。

## 3.3 推論モデル

収集した文ぺアを日本語 T5 モデルに与え，前提か ら結果を生成する深層学習モデルを学習すること で，自然言語による推論を実現する。

## 4 実験

## 4.1 実験設定

本研究では，3.2 節で収集した 1,572,956 件の根拠 と結果のぺア文をデータとして用いる. 実験の際 は，このデータを訓練：開発：評価 $=0.95: 0.025: 0.025$ として評価を行う。評価は評価データからラン ダムで 100 文を抽出し手動で行い，それに伴い

1) https://huggingface.co

2) https://github.com/huggingface/transformers

3) https://huggingface.co/cl-tohoku/bert-base-japanese

4) https://megagonlabs.github.io/ginza/
表 3 評価データに対するファインチューニングを行った $\mathrm{T} 5$ の文生成出力例と, 出力に対する人手評価の例.

 &  \\

BERT-Score[8] によって, 生成文と正解文との意味的類似度を検証した. 評価指標は 4.2 節に示す. 本研究で用いる T5 モデルは Hugging Face ${ }^{5}$ の自然言語 ライブラリ Transformers ${ }^{6}$ に基づく，Isao Sonobe 公開の事前学習済み日本語 T5 モデル7)を使用した。

## 4.2 評価基準

表 3 の生成例 2 にあるように，評価データの正解 と比べると全く違う出力であるが，出力内容自体は 前提から妥当に導かれるものが多くあった. した がって，生成データセットにおけるモデルの性能 は，出力の妥当性を人手で判断することで評価す る。評価基準は，自然言語による演繹的な文生成を 行うモデルの提案をしている関連研究 [4] を参考に し，以下の 6 つの分類とする。

i 妥当な推論である 出力は前提から妥当に導かれ る結論である。

ii 妥当な推論であるが文法的な間違いがある 出力 は前提から導かれうる結論だが，主語などの成分が 久けていたり, 動詞の活用に違和感があるなど内容 の理解を妨げない程度の文法的な間違いがある。

iii 前提を繰り返す 出力は，前提文の繰り返し，も しくは言い換えであり前提と同意である。または，前提に含まれる単語を組み合わせているだけであ る.

iv 前提から導かれない 出力は文，内容は正しい が，前提から導かれ得る結論ではない。

$\mathbf{v}$ 矛盾している 出力は, 前提と矛盾する, もしく は本質的に間違っている.

5) https://huggingface.co

6) https://github.com/huggingface/transformers

7) https://huggingface.co/sonoisa/t5-base-japanese vi 結論が理解し得ない 結論が文をなしていない. もしくは前提が文をなしていない。

表 4 人手評価されたデータに対する生成文と正解文の BERT-Score $の$ 平均.

## 4.3 実験結果

実験でファインチューニングされたモデルに評価データを与えると，表 3 のように文生成が行われ た. その他の推論結果は, 付録 A の表 7 に示した. 前提はモデルに与えた文，出力はモデルから生成され た文，正解は収集データ中の前提に対する結論文の ことである. 生成データセットにおけるモデルの性能に対する人手で行った評価結果は, 各評価者ごと の評価数を表 5 に，全ての評価者の平均をグラフに

口i.妥当な推論である

口ii.妥当な推論であるが文法ミスがある

口iii.前提の繰り返しである

口iv.前提から導かれない

曰v.矛盾している

口vi.結論が理解できない

図 2 評価データからランダムに抽出した 100 文に対する 人手評価の結果 (平均)
表 5 評価データからランダムに抽出した 100 文に対する 人手評価の結果 (件数).

したものを図 2 に示す. 人手で評価したデータに対 する，生成文と正解文の BERT-Score [9] による類似度を表 4 に示す。また, 訓練データにあるような形 の前提であれば妥当な推論を行えるという仮定の 下，訓練データの例と，それに伴うモデルによる出力例を表 1 に示す. 出力が妥当な推論である，もし くは妥当な推論であるが文法的な間違いがあると評価された割合は $65.8 \%$ となった.

## 4.4 考察

前提を与えることで，文生成の形で推論を行うこ とができた．BERT-Score による文の類似度（表 4) を見ると，妥当な推論が行われている場合（評価 i) は他の評価指標の結果に比べ，類似度の平均が高く なっていることがわかる. しかし, 評価 $\mathrm{v}$ の類似度 の平均が最も高くなっている. これは, 生成文が表 3 の例 4 のように，矛盾はしているが矛盾理由が文末尾による否定によるものである場合に, 文全体 の類似度自体は上がってしまったからだと考えら れる.

エラーについて，3つ目の評価指標である前提を 繰り返すことに注目すると, 表 3 の例 2 のように,前提を繰り返したのちに「ため」をつけるという事例がいくつかあった. 理由としては, 訓練データに 結論が「ため」で終わる文が，4,293 件と多く含まれ ていたことが考えられる. そのようなデータが含ま れてしまう原因は 2 つほど考えられる。

1つ目は，「ため」によって収集された文に「のた めにしていたため」といった表 6 の例 1,2 に示した ように「ため」を多重で使った文が多くあったこと が原因だと思われる.このような「ため」多重文に 対し，データ生成における Step 4 を行うと，結果部分が「ため」で終わるデータが抽出されてしまう. また，3.2 節のデータ作成で説明したように「ため」 はいくつかの意味を持つ. その中でも，「ため」多重文で用いられる「ため」は例 2 のように「目的」 の意味で使われていることが多くあり，「ため」に表 6 エラー分析の結果，原因であると考えられる訓練 データのノイズ例. 元の文と, 抽出した文ぺアを示した.

例 1

子供を増やすことは世帯所得増加に繋がるため,子供を産むインセンティブとなるために少子化対策となりうるという考えがある。前提 子供を増やすことは世帯所得増加に繋がる 結果 子供を産むインセンティブとなるため 例 2

彼らに対抗するために資金を調達するために ツアーに行くと，彼らはギャングによって 絶えず脅かされています.

前提 彼らに対抗する 結果 資金を調達するため

例 3

必要以上の事件を寄せ付けないためにクラス Aの 身分を隠し，小さな探偵事務所を構える悪行の 元に，今日もまた事件がやってくる.

前提 必要以上の事件を寄せ付けない 結果 必要以上の事件を寄せ付けないため

対する機械学習の精度の向上が望まれる.

2つ目の原因としては，訓練データの結果の中に，表 6 の例 2 のように前提を繰り返した後に「ため」 をつけたものもあった. こうしたことが起こった原因は，係り受け解析時に「ため」の前で文が区切ら れてしまっていたからである．例 2 の文では，「必要以上の事件を寄せ付けないために」で区切られて しまい，データ生成における Step 4 を行うと, 前提 を繰り返す文を結果として抽出してしまう。これ は，係り受け解析器を用いて自動的に前提と結果を 抽出しているため起こりうるエラーである.

## 5 おわりに

本研究では，自然言語文そのままの形で推論を行 う手法の開発を目的に，自然言語による推論を自然言語文生成として表現する研究に取り組んだ. 日本語 Wikipediaコーパスから，理由節を手がかり表現 として根拠と結論を抽出した. 抽出した因果関係の データを用いて，根拠部分を入力，結論部分を出力 として深層学習を行うことで，推論を行う形の文生成が可能なことがわかった. モデルによって生成さ れた文に対して人手で評価を行った結果，前提から 導かれる推論として妥当だと言える割合は $65.8 \%$ と なった. 今後は, 発生したエラーを改善して収集 データのノイズを減らし, 推論文生成の精度を上げ たい。また，作った推論モデルを用いて，多段推論 および前提を予測する帰納的推論などに挑戦してい きたいと考えている.

## 参考文献

[1] Maarten Sap, Vered Shwartz, Antoine Bosselut, Yejin Choi, and Dan Roth. Commonsense Reasoning for Natural Language Processing. In ACL 2020, pp. 27-33, 2020.

[2] Robyn Speer, Joshua Chin, and Catherine Havasi. ConceptNet 5.5: An Open Multilingual Graph of General Knowledge. In AAAI 2017, p. 4444-4451, 2017.

[3] Maarten Sap, Ronan Le Bras, Emily Allaway, Chandra Bhagavatula, Nicholas Lourie, and Hannah Rashkin. ATOMIC: An Atlas of Machine Commonsense for If-Then Reasoning. In AAAI 2019, p. 3027-3035, 2019.

[4] Kaj Bostrom, Xinyu Zhao, Swarat Chaudhuri, and Greg Durrett. Flexible Generation of Natural Language Deductions. In EMNLP 2021, pp. 6266-6278, 2021.

[5] Changlong Yu, Hongming Zhang, Yangqiu Song, and Wilfred Ng. CoCoLM: Complex commonsense enhanced language model with discourse relations. In Findings of the Association for Computational Linguistics: ACL 2022, pp. 1175-1187, 2022.

[6] Hongming Zhang, Xin Liu, Haojie Pan, Yangqiu Song, and Cane Wing-Ki Leung. ASER: A Large-scale Eventuality Knowledge Graph. In $W W W$ 2020, p. 201-211, 2020.

[7] 坂地泰紀. 構文パターンを用いた因果関係の抽出. 言語処理学会第 14 回年次大会論文集, 2008, pp. 1144-1147, 2008.

[8] Tianyi Zhang, Varsha Kishore, Felix Wu, Kilian Q. Weinberger, and Yoav Artzi. Bertscore: Evaluating text generation with BERT. CoRR, Vol. abs/1904.09675, , 2019.

[9] Tianyi Zhang, Varsha Kishore, Felix Wu, Kilian Q. Weinberger, and Yoav Artzi. BERTScore: Evaluating Text Generation with BERT. In International Conference on Learning Representations, 2020.

## 付録 A 推論結果の例

表 7 学習した $\mathrm{T} 5$ 深層学習モデルによる推論結果の例.

} & 前提 & 騎兵隊という部隊名が付いているが馬の輸送が間に合わずまた連発銃の普及により \\


 張 辰聖子 1 持橋 大地 ${ }^{2}$ 小林 一郎 1 1 お茶の水女子大学 2 統計数理研究所 \{g1920524,koba\}@is.ocha.ac.jp daichi@ism.ac.jp  