# 含意や推意への論理的なアプローチでの関係把握の検討

太田 博三
放送大学教養学部
9924658973@campus.ouj.ac.jp

## 1 はじめに

GPT-3 をはじめとした AI の文生成が向上してい る中で, 解釈可能性などの視点から, かつての国際的な言語処理タスクやその評価方法が見直されよう としている。本稿では，機械というより人間の視点 も考慮しながら，含意や推意を論理的に把握するこ とを考察したものである. 最近では，人間に近い解釈可能なものを対象とする動きが主流になりつつあ る.マーケティングの消費者行動モデルの分野では，解釈できないものは取り入れない姿勢もあり，ヒト から機械へ, 機械からヒトへの相互作用が, 今どき,必要とされていると言える.

得に，語用論の面白さは，書き言葉としての文章 だけではなく，話し言葉としての対話にも含まれ，機械に落とし込み際には, 大きな課題となっている.

既存の RoBERTa や T5 などの言語モデルは, 省略 された語句を mask させ，予測させるものであると 言える。この語句と語句との間の関係を捉えること では，その精度面から成功したと言えるが，チャッ トボットなどの短い発話から，相手の背景まで推測 させることは，まだ発展途上にあると思われる．文 と文の間の関係は明示的にはないままである。

ここで, 人間から機械への落とし込みを行う際に，数理論理学を並行して機能させることで，その背景 を複数のパターンで捉えることができる. 含意関係認識の文や書き言葉や話し言葉，更には，親子や友人同士などの人間関係を認識したうえで考察する関係性理論において，論理的なアプローチの可能性を 検討したものである.

## 2 研究の目的・新規性

本研究では, 日常生活で用いられる基本的な書き言葉や話し言葉に対して, 数理論理学を用いた応用とし

捉え, 機械での処理にも，適用する上で，人間関係や 含意や推意をいくつかに捉えることを考察した。一昔前の人工知能で用いられたのが記号推論学で あるが，成功例は専門知としてのエキスパートシス テムなどである。ここでは，＜IF-THEN>で分岐させ る手法が中心であった。これを拡張し，現在の深層学習に記号推論も並べて適用したものである. <IF-THEN-BECAISE>であれば，文と文の間の関係 が，直感的に捉えられる. 更に，短い文や発話でも， その前後の文脈の背景を，よくありがちなパターン で落とし込み，解釈可能な接近が可能となる.

## 2.1 記号論理学によるアプローチ

本節では，日常生活に必要な日本語を機械でどのく らい捕捉できるかを検討する. まず, 記号論理学による 表現と推論の視点から入り, 次に, 含意関係認識 (Recognition of Textual Entailment; RTE)を取り上げ, Multi-Hop Reasoning による会話断片に照らし合わせて,考察する. [Arabishahi 2021]の研究では, 人間の $65 \%$ に対して, 35\%であり, SOTA であるとされた.このアプ ローチを，書き言葉と話し言葉への適用例とを，それぞ れ検討する。

## 2.1 記号論理学による表現と推論

機械での知識表現の成功例として,「IF-THEN $\rfloor$ 形式 のエキスパートシステムが挙げられる. 1 つつの論理命題の列挙が分岐する内容で捉えられるものに限る. 日常生活で出てくるものには弱く, 医師の診察など専門性 の高いものに限られる.この要因の一つに，記号論理学の一階述語論理での表現 (図 2-1-1)にある.この場合, 数字の単位は表せず, 非常に曖昧なものに限られ る.

ここで 1 つ 1 つの知識抽出は Web で可能になったも のの，それを捕捉するフレームワークが記号論理学で は曖昧なものになり，具体性のあるものは，その対象になら なかった。

 & $\exists \mathrm{x}($ have(I, computer(x)) \\

## 2.2 含意関係認識による対象範囲

含意関係認識とは, 2 つの文を想定し, 1 つは前提と なる文(Text; T)を，もう 1 つは仮定となる文(Hypothesis; $\mathrm{H})$ を設定し, それらの関係が成立するかを Yes,No $(0,1)$ で判定するタスクである. 例を以下に示す(図 2-2-1 参照).

ここでは，京都で食事をしていた行為と滞在していた 行為とを，直接的に確認する手間を省くものであるが，論理命題となる 1 つ 1 が確認される訳ではないため, ニュース記事なのでは，事実関係が必要になることもあ り, 注意が必要である. 使用される場合は, ポライトネス などのように, 長年, 付き合いのある友人や家族同士の 会話で, 省略する方がくどくなく自然な場合が妥当と考 えられる。

2000 年代の前半の国際的な言語タスクは,この含意関係認識が主流であった. その後, 2019 年頃から BERT による深層学習が出てくると, 店舗の広告文と相性の良い消費者の SNS との相性分析が行われるなど,文脈を考慮した活用が消費者の意思を表すとして, マ 一ケテイング分野で広く使われるようになった.このよう に, 気持ちや思考などを捉えるのには事実確認がされ にくい分野では, 利便性は高くなるが, 知識や事実関係に照らし合わせる際は, 不得手となる.

BERT による含意関係認識は, 言葉と言葉の距離によ るものであり，論理的推論も加わることが期待されてい る.

## 2.3 Multi-Hop Reasoning での適用

Multi-Hop Reasoning には, 広い概念のため, 本項 では， Arbashahi(2020)の IF(State)-THEN(action) -BECAUSE(Goal)のアプローチを検討する. 深層学習 での処理に並行して, 論理テンプレートを採用した ものである.この IF-THEN-BECAUSE は 3 段論法を 始めとしたモーダスポーネンスなど, 非単調推論な どがある. しかし, 逐次段階で, 人間の感覚で十分 にわかってしまうなどで，あまり効果的ではなかっ た. これに対して, 論理展開が早く, 且つ仮設を基 にしたアブダクションの推論法を応用したものが，前述の Multi-Hop Reasoning である. 隠れた背景や意図・推意を聞き手や読み手に委ねることができる。 つまり，BECAUSE 節は複数の選択肢が考えられ， IF-THEN で固定できるのがメリットである.

 & 早く起きよう. &  \\

 &  &  \\

IF-THEN-BECAUSE で捉えると図 2-3-1 のようになり，字義的にも，そのまま捉えることができる.

## 2.4 書き言葉への適用

最近, よくニュースでも取り上げられたコロナ下の政府 の依頼文を取り上げて考察する(図 2-4-1 参照)，ヒトの 認知機能では, 論理学の対偶関係で捉える傾向があり, ここを起点として考えるが, 「午後 8 時前なら, 飲食店で の食事は構わない」とい文脈で捉えてはいけないとい ら政府側の指摘も受け，国民的には混乱した覚えがあ る.この対偶での解釈では，私たちがよく考えがちで，語用論的には誘導推論と言われている.

午後 8 時を過ぎたら, 飲食店での食事は避けて下さい.図 2-3-1 書き言葉の例: 緊急事態宣言での政府の依頼文

この対偶関係では, 論理学上は $\mathrm{p} \Rightarrow \mathrm{q}$ から $\Rightarrow \mathrm{q} \Rightarrow \mathrm{p}$ が成立するが注意が必要である. 直観主義論理の立場 で，排中律の除去を行う必要がある. 排中律とは,「p V ᄀp」の姿勢をとり, 1 つつの命題を確認するもので ある. 含意関係認識の際も同様の注意が必要となる.

 &  \\

 &  &  \\

IF-THEN-BECAUSE で捉えると図 2-4-1 のようになり,字義的にも，そのまま捉えることができる.

## 2.5 話し言葉への適用

以下, 夫婦間の会話を取り上げて考察する（図 2-5-1 参照).

同じくIF-THEN-BECAUSE で捉えると図 4-5-2 のよう になり, 捉えることができる.

 &  \\

ここでは，「コーヒーを飲むと，早く寝付ける」の間に，「コーヒーにはカフェイン効果があり, 寝つきが悪くなるこ ともある」という知識が含まれているのか明確ではない.直観主義的には, 命題を 1 つつ, 確認する必要があり, ここが知識活用と論理展開との間でネックになっている と思われる. しかし, 「コーヒーを飲むと, カフェイン効果 で寝つきが悪くなる」という捉え方はやや強引になるた め, 常識レベルで捉えることも考えられる.

## 2.6 関係性理論への適用

以下, 関連性理論での親と子の会話の背景の捕捉に ついて, 考察する. 母と娘との会話であり, たった 1 対 の対話でしかないが，これを推論するのには，単なる文 の省略を補完するだけでは不十分であり, 母と娘との共通認識や背景の理解が必要となる. 背景を 5 つ場面 で記し(図 2-6-1 参照), 会話断片を記す(図 2-6-2 参照).

 \\

ここで, IF-THEN-BECAUSE で捉えると, 図 2-6-3 のよ うになり, 字義的にも，そのまま捉えることができる.この場面は, 文化交流の中でも，ローカル性の高いものだ が，よく見かける場面である.

 &  & \\

## 3 反実仮想への拡張

「IF-THEN-BECAUSE」など論理フレーム以外に も, 反実仮想の「IF would, I would... ,But I really want to.」が，日常生活の後悔の念を背景にした場合に考 えられる (図 2-6-1).ここでは, 実際に「帰省できた」 のは実在していないため，発話者の過去の経験を踏 まえて，その意図が反映・内包される．事実とは反対の「次はどうしても帰省したい.」などを表してい る.このように，論理フレームに話者の意図や後悔 を含めることができ，ある一定の文脈を設立させる ことができる点で, 有効と思われる.また必ずしも，字義上の文と文の関係を解釈できるとは限らないが，日常生活の多くの場面では，定性的に成立するもの であれば，適用はそう難しくないと考えられる。

「コロナになっていなければ，お正月に帰省できた のに, しかし出来なかった, 残業だ, 次回, 行き たい」

図 2-6-1 IF would, I would... ,But I really want to.

Next I will.

## 4 おわりに

本稿は, 記号論理学の応用である Multi-Hop Reasoning の異なる談話や発話をまたいで,「IF-THEN-BECAUSE 」や「IF would, I would $\cdots$,But.」な どの論理フレームで, 知識を捕捉できる可能性を確認し た. 解釈可能なアプローチの一つとして, 書き言葉だけ ではなく話し言葉の場面でも直感的にも受け入やすい と考えられる. 自然言語だけでのアプローチは, $35 \%$ に 過ぎないが，今後は，画像等を取り入れたマルチモー ダルなアプローチで考察してゆくことで, 人間の $65 \%$ に 近づけていきたい. 画像や動画では, 場面と場面との 繋がりが精度に直結すると思われ, 引き続き, 取り組み たい.

## 5 参考文献

[1] 新田「知識と推論」, サイエンス社, 2002

[2] 加藤・土屋「記号論理学」, 放送大学出版会, 2014

[3] 時本「あいまいな会話はなぜ成立するのか」, 岩波書店, 2020

[4] 坂原「日常言語の推論」, 東京大学出版会, 1985

[5] Minsky（竹林訳）「ミンスキー博士の脳の探検」,共立出版会, 2009

[6] 小出「Common Lisp と人工知能プログラミング

(下巻)」オントロノミー合同会社, 2017

[7] Peter Norvig Paradigms of Artificial Intelligence Programming: Case Studies in Common Lisp, Morgan Kaufmann, 1991

[8] 長尾「知識と推論」, 岩波書店, 1988

[9] 宇佐美まゆみ監修(2020)『BTSJ 日本語自然会話

コーパス（トランスクリプト・音声）2020 年版』

[10] Recent Advances in Natural Language Inference: A Survey of Benchmarks, Resources, and Approaches Shane Storks, Qiaozi Gao, Joyce Y. Chai, 2019

[11] ブラウン \& レヴィンソン「ポライトネス 言語使用における、ある普遍現象」“Politeness : Some Universals in Language Usage” , 1987

[12] 生田「ポライトネスの理論」大修館書店, 『月刊言語』, pp.66-71, 1997

[13] 松井「関連性理論から見たポライトネス」30 巻 No. 3 特集 月刊言語, 2001

[14] 井之上「言語データからの知識獲得と言語処理 への応用」人工知能 33 巻 3 号, 2018

[15] 太田「言語学の語用論や配慮表現の先端技術へ の適用に関する一考察」第 23 回 SIG-AM 人工知能学会合同研究会, 2019

[16] 米盛「アブダクション一仮説と発見の論理」勁草書房, 2007

[17] 麻生 深層学習と知識・記号推論の融合による AI 基盤技術の発展,報告書, 研究開発戦略セン ター（CRDS）, 科学技術振興機構研究開発戦略センター, 2020

[18] Arabshahiet.al "Conversational Neuro-Symbolic Commonsense Reasoning", AAAI Conference on AI, 2020

[19] Arabshahi et.al 2021]"Conversational Multi-Hop Reasoning with Neural Commonsense Knowledge and Symbolic Logic Rules" arXiv preprint, 2021
[20] Arabshahi et.al "Conversational Multi-Hop Reasoning with Neural Commonsense Knowledge and Symbolic Logic Rules" arXiv preprint, 2021

[21] Maarten, Shwartz, Choi et .al., Introductory Tutorial: Commonsense Reasoning for Natural Language Processing, Computational Linguistics, pages 27-33, 2020

[22] Mueller Commonsense Reasoning: An Event Calculus Based Approach, Morgan Kaufmann, 2nd edition, 2014

[23] Lehman, Laird. A Gentle Introduction to Soar, an Architecture for Human Cognition, 2006

[24] Shwartz Maarten, Choi et .al., Introductory Tutorial: Commonsense Reasoning for Natural Language Processing, Computational Linguistics, pages 27-33, 2020

[25] Lin et.al "CommonGen: A Constrained Text Generation Challenge for Generative Commonsense Reasoning, EMNLP2020, 2020

[26] Mueller, Erik "Commonsense Reasoning: An Event Calculus Based Approach”, Morgan Kaufmann, 2nd edition, 2014
 太田 博三 放送大学教養学部 9924658973@campus.ouj.ac.jp  