# 経験に基づく知識の想起・深化を行う 対話システムの開発に向けたコーパスの構築

渡邊 寛大 ${ }^{1,2}$ 河野誠也 ${ }^{2}$ 湯口 彰重 ${ }^{2,1}$ 吉野 幸一郎 ${ }^{2,1}$
1 奈良先端科学技術大学院大学
2 理化学研究所ガーディアンロボットプロジェクト
watanabe.kanta.wm7@is.naist.jp,
\{seiya.kawano, akishige.yuguchi, koichiro.yoshino\}@riken.jp

## 概要

対話システムが人間社会で活用されるには，高い 信頼性と長期的な関係性を築くための記憶・学習能力が必要である. 具体的には，複数回行われる対話 の中で以前の対話を記憶・利用し，またそこに出現 するキーワードなどから自身の知識を深めて次回以降の対話に活用できる機能が必要である. 本研究で はこうした対話モデルを構築することを指向して，過去の対話セッションとそれに紐づけられた外部 データベースを考慮した雑談対話コーパスを収集 し，分析した.

## 1 はじめに

自然言語を用いて人間と対話をする対話システム は，医療や教育，生活支援をはじめとした様々な分野で注目され $[1,2,3]$, 研究開発が活発に行われてい る. 一方で，実際に活用されるために改善すべき課題は依然として存在する。例えば，現在の対話シス テムの多くは，単一セッションで毎回異なる話者と 初対面の対話を行うことを想定している。しかし，医療であれば患者，教育であれば生徒，生活支援で あれば持ち主のように，長期間に渡って特定のユー ザと対話し，過去の対話内容を想起・活用し，そこ から学習する能力が必要となる. こうした場合，対話者が人間であれば，複数回行われる対話（過去の 対話セッション）の中で行われた対話を記憶・利用 し，またそこに出現するキーワードなどから，自身 の知識を深めて次回以降の対話に活用することが できる. 対話システムもこのように，対話履歴（経験）から知識を想起・深化して次回以降の対話で活用することが望まれる. 対話システムがこのような 経験に基づく知識の想起・深化・活用を行うこと

$
\begin{aligned}
& \text { Apprenticeは過去の対話セッションの内容を基に、 } \\
& \text { 外部データベースを用いてさらに学習 }
\end{aligned}
$

図 1 本研究で想定する対話システムの概要

で，信頼関係の構築や，経験や知識の再検討による 自己成長・自己理解・相互理解が可能となる. 長期間に渡って特定のユーザと対話を行う対話システム を構築しょうとする場合，こうした機能は必要不可久である.

本研究では，過去の対話セッションに基づいて知識を想起し，外部データベースを用いて知識の深化 を行い対話に活用する対話システムの開発を目指す (図 1).その第一段階として, 過去の対話セッショ ンとそれに紐づけられた外部データベースを考慮し た雑談対話コーパスを構築し，分析した。結果とし て，考案した設定により目的に沿った対話を収集可能であることが確認できた。

## 2 関連研究

対話システムによる知識の想起やモデルの更新に 関わる研究として，外部知識を対話システムの応答生成に組み込んだ研究 $[4,5,6]$ や特定ユーザとの長期的な対話に焦点を当てた研究 $[7,8,9]$ が存在する.本節では, これらの研究と本研究の違いについて説明する。

## 2.1 外部知識に基づく応答生成

Dinan ら [4] は，応答に必要な外部知識を選択し，選択した外部知識に紐づいた応答を生成する対話応答生成モデルを提案した. また，このモデルを 実際に学習・評価するために, Wikipedia の知識に 基づくオープンドメインの対話の大規模なコー パスである Wizard of Wikipediaを収集してモデル を構築・評価した. Komeili ら [5] は，対話文脈か ら生成したクエリでインターネット検索を行い， その結果を知識として利用して応答を生成する 対話応答生成モデルを提案した. Shuster ら [6] は, neural-retrieval-in-the-loop 構造を知識ベース対話に利用して，会話能力を維持したまま知識を最大化する モデルを構築・評価した. これらの研究では, 過去数ターンの発話から外部知識を検索して応答生成 に使用する.これに対して本研究では, 過去の対話 セッションから知識を想起し, 外部のデータベース から知識の深化を行い，それによってモデルが動的 に変化する対話モデルを構築することを指向する.

## 2.2 長期間の文脈を考慮した応答生成

Xu ら [7] は，過去の対話セッションの要約が注釈されたマルチセッション対話のデータセット Multi-Session Chat を収集し，過去の対話セッション を要約して応答生成に使用するモデルを構築した。 $\mathrm{Xu}$ ら [8] は, ユーザとシステム双方のペルソナ情報（テキストで記述された個人の情報）を過去セッ ションの対話履歴から抽出・更新・参照し, 応答を 生成する対話応答生成モデルを提案した．Bae ら [9] は，ペルソナ同士が矛盾を生まないように情報を動的に更新する手法を提案した. これらの研究では応答生成に過去セッションの対話履歴の一部や要約 を考慮するが，本研究では過去の対話セッションの 考慮に加えて, 過去の対話セッションに基づいて知識を想起し, 外部のデータベースから知識を深化し て対話システムの応答生成に活用することを指向 する.

## 3 知識の想起・深化を伴う対話コーパス

ここまでの説明のように，本研究では過去の対話 セッションが存在する状況で，その対話セッション に基づく知識の想起と外部データベースを用いた知識の深化から対話モデルを更新するような対話シス テムの構築を目的としている。このため，まずは知識の想起・深化を行うシステム役を人間が行った場合の対話を収集して分析する。この節では収集にお ける具体的な対話タスクの設定と，その収集方法の 詳細について述べる。

## 3.1 タスク設定

本研究では, 過去の経験（過去の対話セッション） に基づいて知識を想起して，外部データベースを用 いて深化し，次回の対話に活用した対話コーパスを 構築した. 過去の対話セッションとしては Wizard of Wikipedia データセット [4]を日本語訳したもの，外部データベースには Wikipediaを使用した. Wizard of Wikipedia では知識を伝える Wizard と知識につい て尋ねる Apprentice という役割分担で対話が行わ れ，Wizard 側のシステムを構築することが行われ てきた. 今回は我々の目的である経験に基づく知識 の想起・深化を行う様子を収録するため, Apprentice 側が過去の対話セッションに基づいて自主学習を行 うシステムという想定で対話収集を行った．具体的 には, 過去の対話セッションで Wizard から与えら れた知識を Apprenticeがより深く学習してきたとい う設定で行った. Wizard of Wikipedia の設定と対比 させた本研究での設定は以下の通りである.

## 3.1.1 Wizard of Wikipedia の役割設定

Apprentice 会話の各段階で, Apprentice はWizard に自由に話しかけ，好奇心旺盛な学習者の役を演 じ，おしゃべりに熱中する。目標は，自分自身や相手が興味を持っている選ばれたトピックについて，会話を魅力的で楽しいものにしながら，深く掘り下 げていくことである.

Wizard Wizard は情報検索システムにアクセス し, Wikipedia から会話に関連しそうなパラグラフ を見ることができる．会話の順番が回ってくる前 に，これらのパラグラフを読み，観察された知識に 基づいて次の返答をすることが可能である.

## 3.1.2 本研究の役割設定

本研究では， Wizard of Wikipedia から以下のよう にそれぞれの役割の設定を更新している。

Apprentice 前回教えてもらったことに対して，新たに学んできたことをWizard に提示して, さら に議論を深めるのが目的である. Apprentice は過去 の対話セッションとそれに紐づけされた Wikipedia の記事をもとに知識を深化した発話を行う。
表 1 各コーパスの統計情報と語彙的特徴

表 2 役割ごとの統計情報と語彙的特徴

Wizard Wizard は前回の対話で自身の知識を Apprentice に与えている. 今回は Apprentice が学習 してきたことを深掘りして，さらに議論を深めるこ とがが目的である.

## 3.2 収集方法

収集の方法には，テキストチャットを用いた。対話の収集は，日本語を母国語とする 3 名（Wizard 役 1 名, Apprentice 役 2名）の作業者によって行った.自然な対話を意識すること，過去の対話セッション とつじつまが合うこと，話し方を統一するため丁寧語で会話すること，想起対象である過去の対話セッ ションに紐づけられた Wikipedia の記事の情報をで きるだけ発話に使用することを指示した。

## 3.2.1 実験の手順

1. 二人の作業者に役割 (Apprentice 役と Wizard 役）を与える.

2. 過去の対話セッションをお互い確認する.

3. Apprentice 役は記事を使用して知識を深めた対話の内容を考える. 過去セッションの各単語に Wikipedia の見出し語へのリンクが付与されて おり, Apprentice 役も Wizard 役も自由に記事の 内容を参照できる.

4. Apprentice 役から Wizard 役に「実験開始」の文字列を送信すると，実験が開始される。

5. Wizard 役が最初の発話を送信する。

6. 記事及び Wizard 役からの発話を考慮して, Apprentice 役が応答を送信する.

7. 応答の際に使用した知識が記載されているパラ
グラフのタイトルをスプレッドシートに記入 する.

8. 応答の際に焦点を当てた過去の対話セッション の発話をスプレッドシートに記入する。

9. 5-8 の手順を合計 20 ターン行う.

## 3.3 対話行為ラベルの付与

収集した発話と過去の対話セッションを句点ごと 分割し, 対話行為ラベルを付与した. 対話行為ラベ ルの定義には, ISO 24617-2 に基づいて Informationseeking, Information-providing, Commissives, Directives を使用した [10].これらの対話行為のいずれにも属 さない場合は Others とした.

## Information-seeking（IS）

話し手が聞き手から特定の情報を得ることを目的 とする機能。(例：質問)

## Information-providing (IP)

話し手が聞き手に特定の情報を知らせることを目的とする機能. (例 : 応答，賛成，不賛成）

## Commissives (CM)

話し手が特定の行為を行うために自分自身の行為 を聞き手に委ねることを目的とする機能.（例：依頼，約束，指示機能への承諾）

## Directives (DR)

話し手が聞き手に特定の行為を行わせることを目的とする機能. (例 : 指示，要求，提案）

## 4 分析

知識の想起・深化を伴う対話コーパス（今回の対話セッション）と過去の対話セッションの統計を表

1,2 に，実際の収集データの例を付録 $\mathrm{A}$ に示す. 語彙的特徴については，各コーパスの基本的な統計情報に加えて，表層上の語彙の多様性を Herdan の $C$ [11,12] を用いて算出した. この指標は, 総トーク ン数 $N$ と語彙数 $V$ を用いて次のように表される.

$
C=\frac{\log V}{\log N}
$

## 4.1 語彙多様性

語彙の多様性を表す $C$ の値は，過去の対話セッ ションよりも知識の想起・深化を伴う対話コーパス の方がやや大きかった. このことから, 知識の想起・深化を伴う対話コーパスには過去の対話セッ ションよりも多様な語彙が含まれていることが分か る. また, 役割ごとの分析でも, Apprentice の $C$ の 值は過去の対話セッションと比べて大幅に向上して いる.このことから, 過去の対話セッションから知識を想起し，外部データベースを用いて知識の深化 を行い，次の対話に活用する対話設定は，語彙の多様性の向上に寄与すると考えられる.

## 4.2 対話行為

役割設定を更新したことで，Apprentice と Wizard の対話行為ラベルの分布傾向が逆転した. 知識の想起・深化を伴う対話コーパスの各発話の対話行為と して Apprentice 役からは Information-seeking が高い 割合 $(90.4 \%)$ で使用されたことが分かった。また， Apprentice 役は過去の対話セッションに紐づけられ た Wikipedia の記事の情報を利用した発話を，全体 の $84.0 \%$ 行っていた. この結果から, 過去の経験に 基づく知識の想起・深化を活用した発話を含む対話収録として，おおむね適切な設定ができたと考えら れる. しかし, 今回用いた Wizard 役が知識の深堀 りに特に協力的であったことがこれらのスコアに大 きく影響を与えた可能性も考えられる. 雑談の中で 自然に知識の深堀りを行ってもらうために，今後は Wizard 役をもう少し自由な設定にして収集を行う必要がある.

## 4.3 使用記事

知識の想起を伴う対話コーパスの 1 対話あたりの 平均使用記事数は 2.6, 1 記事による最大持続ターン 平均は 12.2 であった. つまり, 20 ターンの対話に


表 3 各対話行為の割合 [\%] 1)

おいては多くの場合, 複数の話題が現れ, 話題の切 り替わりが生じるような対話データが収集された。

## 4.4 対話パターン

今回は話し始めを Wizard 役で固定していたため,同じような発話が多くなり，話の展開が Wizard 役主導になることが多いという問題があった. 発話の 多様性と Apprentice 役主導の展開の対話を収集する ため，話し始めが Apprentice 役の対話パターンも今後検討する必要がある.

さらに，Wizard 役の個性に関わらず雑談の中で自然に知識の深堀りを行う対話を収録する必要もあ る. そのため, Wizard 役に深堀りを行う設定を与え る場合と与えない場合についても比較の検討の余地 がある.

## 5 おわりに

本研究では，経験に基づいて知識を想起し，外部 データベースを用いて知識の深化を行い対話に活用する対話システムの開発を目的として，知識の想起・深化を伴う対話コーパスを構築した. 構築した コーパスを分析した結果，今回の対話収集設定はお おむね目的に沿った対話が収集可能であることが 確認できた．今後の方針としては，データ規模の拡大，構築した対話コーパスを活用した対話システム の構築に取り組む．具体的には，焦点を当てるべ き過去の対話セッションの発話・知識を検索する モデル, Wikipedia の記事から知識を深化するモデ ル，構築したコーパスで Finetuningを行った言語モ デル，以上を組み合わせた対話システムの構築に取 り組む。

## 謝辞

本研究は JSPS 科研費 JP22H04873 の助成を受 けた.

## 参考文献

[1] Guangtao Zeng, Wenmian Yang, Zeqian Ju, Yue Yang, Sicheng Wang, Ruisi Zhang, Meng Zhou, Jiaqi Zeng, Xiangyu Dong, Ruoyu Zhang, Hongchao Fang, Penghui Zhu, Shu Chen, and Pengtao Xie. MedDialog: Large-scale medical dialogue datasets. In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 9241-9250, Online, November 2020 .

[2] Diane Litman, Steve Young, Mark Gales, Kate Knill, Karen Ottewell, Rogier van Dalen, and David Vandyke. Towards using conversations with spoken dialogue systems in the automated assessment of non-native speakers of English. In Proceedings of the 17th Annual Meeting of the Special Interest Group on Discourse and Dialogue, pp. 270-275, Los Angeles, September 2016.

[3] Eugene Agichtein, Yoelle Maarek, and Oleg Rokhlenko. Alexa prize taskbot challenge. In Alexa Prize TaskBot Challenge Proceedings, 2022.

[4] Emily Dinan, Stephen Roller, Kurt Shuster, Angela Fan, Michael Auli, and Jason Weston. Wizard of wikipedia: Knowledge-powered conversational agents. In International Conference on Learning Representations, 2019 .

[5] Mojtaba Komeili, Kurt Shuster, and Jason Weston. Internet-augmented dialogue generation. In Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 8460-8478, Dublin, Ireland, May 2022.

[6] Kurt Shuster, Spencer Poff, Moya Chen, Douwe Kiela, and Jason Weston. Retrieval augmentation reduces hallucination in conversation. In Findings of the Association for Computational Linguistics: EMNLP 2021, pp. 37843803, Punta Cana, Dominican Republic, November 2021.

[7] Jing Xu, Arthur Szlam, and Jason Weston. Beyond goldfish memory: Long-term open-domain conversation. In Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 5180-5197, Dublin, Ireland, May 2022.

[8] Xinchao Xu, Zhibin Gou, Wenquan Wu, Zheng-Yu Niu, Hua Wu, Haifeng Wang, and Shihang Wang. Long time no see! open-domain conversation with long-term persona memory. In Findings of the Association for Computational Linguistics: ACL 2022, pp. 2639-2650, Dublin, Ireland, May 2022.

[9] Sanghwan Bae, Donghyun Kwak, Soyoung Kang, Min Young Lee, Sungdong Kim, Yuin Jeong, Hyeri Kim, Sang-Woo Lee, Woomyoung Park, and Nako Sung. Keep me updated! memory management in long-term conversations. In Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing (EMNLP), 2022.

[10] Harry Bunt, Jan Alexandersson, Jean Carletta, Jae-Woong Choe, Alex Chengyu Fang, Koiti Hasida, Kiyong Lee, Volha Petukhova, Andrei Popescu-Belis, Laurent Romary, Claudia Soria, and David Traum. Towards an ISO standard for dialogue act annotation. In Proceedings of the Seventh International Conference on Language Resources and Evaluation (LREC'10), Valletta, Malta, May 2010.

[11] G. Herdan. Type-token Mathematics. Janua linguarum, Studia memoriae Nicolai van Wijk dedicata. Series maior, 4. Mouton, 1960.

[12] G. Herdan. Quantitative Linguistics. Butterworths, 1964.

## A 収集データの例2)

## A. 1 過去の対話セッション

表 4 過去の対話セッションの例

A. 2 知識の想起・深化を伴う対話コーパス

表 6 発話に使用された知識と焦点を当てた過去の対話セッションの発話の例

2) A : Apprentice 役 W: Wizard 役
 渡邊 寛大 ${ }^{1,2}$ 河野誠也 ${ }^{2}$ 湯口 彰重 ${ }^{2,1}$ 吉野 幸一郎 ${ }^{2,1}$ 1 奈良先端科学技術大学院大学 2 理化学研究所ガーディアンロボットプロジェクト watanabe.kanta.wm7@is.naist.jp, \{seiya.kawano, akishige.yuguchi, koichiro.yoshino\}@riken.jp  