# 曖昧なユーザ要求に対する因果関係知識を用いた 気の利いたシステム行動の選択

田中翔平 1,2,3 吉野幸一郎 2,1,3 須藤克仁 1,3 中村哲 1,3
1 奈良先端科学技術大学院大学 2 理化学研究所 ガーディアンロボットプロジェクト
3 理化学研究所 革新知能統合研究センター
\{tanaka.shohei.tj7, sudoh, s-nakamura\}@is.naist.jp
koichiro.yoshino@riken.jp

## 概要

タスク対話システムは, ユーザの要求に応じて適切なタスク行動を行う。この際，ユーザ発話が明確 な場合のみならず, ユーザ発話が曖昧な場合でも適切なタスク行動を行うことが求められる. 本研究で 提案するシステムは，こうした曖昧なユーザ発話に 対して，そこから推測できる潜在的な要求に対応し たタスク行動を選択することを目標とする。曖昧な ユーザ発話に対して気の利いたシステム行動は複数存在しうるため, これらが一対一で対応付けられた データから, Positive/Unlabeled (PU) 学習による分類器を学習する. また, 学習データセットから因果関係検出モデルによって因果関係に相当する知識を抽出・蒸留することで, より精度の高いシステム行動 の識別を実現する．実験の結果, 提案する因果関係検出モデルを用いる手法は, 単純に PN 学習や PU 学習を用いた場合よりも高精度で気の利いたシステ ム行動を識別できることが示された。

## 1 はじめに

音声対話研究において, 従来の音声言語理解シス テムの多くは，ユーザがシステムに対する要求を明示的に示すことを仮定している [1]. しかし実際に は, ユーザの要求はしばしば曖昧であり, ユーザ自身が明示的な要求を自覚していない場合も多い [2]. こうした場合, 人間のコンシェルジュやガイドであ れば気を利かせてユーザが必要とする補助を提供で きる。例えば，ユーザが「ここの景色最高だね!」 と発話したとき，「写真を撮りましょうか？」など と応答することができる.

こうした行動選択を実現する方法のひとつとし て，特定のシステム行動に対してそれが気が利いて

図 1 ユーザ要求とシステム行動のペア

いると見なすことができる曖昧なユーザ発話を収集し，これを学習データとして識別に用いる方法が 挙げられる [3]. この方法論では, ある曖昧なユー ザ要求に対して, 気の利いた行動である可能性が高 い行動候補の一つを収集することができる．例えば 図1のような「和食に飽きた」というユーザ要求 に対しては,「肉料理店の提案」や「中華料理店の 提案」など複数のシステム行動候補のうち一つだ けが収集される。つまり，意図が曖昧なユーザ発話に対して, 少数の気の利いた行動候補と, 気が 利いているかわからない多数の行動候補が存在す る, Positive/Unlabeled (PU) 分類問題 $[4,5,6]$ が定義 される.

本研究ではこうした曖昧なユーザ発話からシステ ムが取りうる気の利いた行動を識別する問題におい て, 事例から汎化された因果関係のような知識を用 いることを考える. 具体的には，学習データから因果関係に相当する知識を蒸留し, システム行動の選択においてこの知識を用いる。このため，テキスト データからの因果関係検出モデルを導入する.この 因果関係検出モデルにおいては, 曖昧なユーザ発話 を原因，気の利いたシステム行動を結果とした学習 を行い, 因果関係に相当する特徴量抽出を行った. この抽出特徴量を, PU 学習における分類器のラべ ル伝播に利用し，気の利いた行動の識別に利用した ところ，識別の精度向上が確認された。

## 2 データセット

既存の多くのタスク対話システムは，ユーザの意図はユーザの中で明確化されており，曖昧性のない ユーザ発話が与えられることを仮定している。しか し実際には，システムと対話する時に何を要求した いか定まっていない場合も多く，そのようなケース でのユーザ発話は意図が曖昧なものになりやすい。 ARTA コーパス [3] は観光案内のドメインにおいて ユーザとスマートフォンアプリケーション上の対話 エージェントとの対話を想定し，システムが取りう る行動 (応答) に対してそれが気が利いていると見な すことができる曖昧なユーザ発話を付与したもの である. 図 2 にこのコーパス中の対話例を示す.こ こでユーザの「ここの景色最高だね！」という発話 は, 必ずしも特定の機能に対する要求として言語化 されているわけではない。これに対して，対話エー ジェントが「カメラアプリを起動しましょうか？」 という気の利いた応答を返し, 実際のカメラ機能を 起動できるようにする.

このコーパス中では対話エージェントの機能 (シ ステム行動; 応答) はスポット検索, レストラン検索，アプリ起動の 3 つに大きく分けて定義されてい る. 定義された機能のリストを表 1 に示す. 各機能 はそれぞれ細分化されたカテゴリを持ち，コーパス 中の対話エージェントの応答はこれらのカテゴリに 紐付いて生成される. 定義されたカテゴリは全部で 70 種類である. 本コーパスでは, これらのあらかじ め定義されたエージェントの応答カテゴリに対し て, 広範なユーザの先行発話をワーカーに入力して もらう方法により発話-応答ペアが収集されている.収集されたコーパス中の発話例を表 2 に示す.コー パス中に含まれるユーザ発話と応答カテゴリのペア は合計 27,230 であり, 学習データ:検証データ:テス トデータ $=24,430: 1,400: 1,400$ の割合で分割され ている.

ARTA コーパスに含まれるユーザ発話は要求が曖昧であるため, 気が利いていると認定される応答が あらかじめ定義された 1 種類とは限らない。しかし 全てのユーザ発話とシステム行動の組み合わせに対 して全応答カテゴリに対応するかどうかラベリング を行うことは多大なコストが掛かり，現実的ではな い.そこでこのコーパスは，テストデータに含まれ る 1,400 発話に対してのみ, 可能なシステム行動が 網羅的に付与されている (平均 9.55 種類). 例えば

図 2 気の利いた対話例

表 1 対話エージェントの機能とカテゴリ：＃はカテゴリ

表 2 の「最近は和食が多くて少し飽きてきたんです よね」というユーザ発話例では，肉料理や中華，イ タリアンといった複数の応答カテゴリが気が効いて いる行動と認定されている. つまり, 正解となるテ ストデータには正例・負例となるシステム行動が明示的にアノテーションされているが, 学習データに は正例の一部のみがアノテーションされており, 残 りの部分のアノテーションがない Positive/Unlabeled (PU) の問題になっている.

## 3 分類モデル

本論文では，気の利いたシステム行動を識別する タスクにおいて因果関係に相当する知識を導入す る.このため, まず問題に対応した PU 学習に基づ く分類モデルについて説明する.このモデルに対し て，因果関係検出モデルを用いた因果関係スコアを 導入し，学習データの正例中に存在する因果関係相当の知識を用いて分類精度の向上を目指す。

## 3.1 PU 学習を用いた分類モデル

図 3 にユーザ発話の分類タスク及びモデルの概要 を示す. 分類モデルは入力されたユーザ発話を，そ のユーザ発話に紐付けられた対話エージェントの正解応答 (正例) カテゴリへと分類する. ここで, 曖昧 なユーザ発話に対して正解となりうるシステム応答 の候補は一つではない場合も多いため, PU 学習を 用いる. 具体的には Cevikalp ら [6] が提案したラべ ル伝播 $[7,8]$ に基づいた PU 学習を用いる.この手法はラベル付けされていない事例に対して，分散表現上で近傍のラベル付けされた事例のラベルを伝播 するものである．具体的には，事例同士の類似度ス コア $s_{i j}$ を次式のように計算する.

$
s_{i j}=\exp \left(-\frac{d\left(\mathbf{x}_{i}, \overline{\mathbf{x}_{j}}\right)}{\bar{d}} \cdot \frac{|C|}{|C|-1}\right) \text {. }
$
表 2 ARTA コーパス [3] 中に含まれるユーザ要求の例

 \\
いい景色だな

図 3 ユーザ要求分類器

$\overline{\mathbf{x}_{j}}$ はシステム行動 $j$ が正例とされるユーザ発話の 分散表現の平均ベクトルである. $d\left(\mathbf{x}_{i}, \overline{\mathbf{x}_{j}}\right)$ は $\mathbf{x}_{i}$ と $\overline{\mathbf{x}_{j}}$ のユークリッド距離であり, $\bar{d}$ は全距離の平均で ある. $C$ は定義されたシステム行動の集合であり, $|C|=70$ である. $s_{i j}$ の值域は $0 \leq s_{i j} \leq 1$ であり, 2 つの分散表現間のユークリッド距離が短いほど大き な値をとる. 本研究ではこの手法を PU と呼ぶ. 類似度スコア $s_{i j}$ は次式を用いて $-1 \leq s_{i j} \leq 1$ の範囲に スケーリングされる.

$
\tilde{s_{i j}}=-1+\frac{2\left(s-\min \left(s_{i j}\right)\right)}{\max \left(s_{i j}\right)-\min \left(s_{i j}\right)} \text {. }
$

スケーリングされた類似度スコア $\tilde{s_{i j}}$ が $0 \leq \tilde{s_{i j}} \leq 1$ であるとき, システム行動 $j$ を対象のユーザ発話の 正例として扱い, このサンプルの正例としての重み を $\tilde{s_{i j}}$ とする. $\tilde{s_{i j}}$ が $-1 \leq \tilde{s_{i j}}<0$ のとき, システム 行動 $j$ を対象のユーザ発話の負例として扱い，重み を- $-\tilde{s_{i j}}$ とする.

類似度スコア $s_{i j}$ を用いたラベル伝播に基づく損失関数は次式の通りである ${ }^{11}$.

Loss $=$

$
\begin{aligned}
& \sum_{i}^{\left|U_{\text {train }}\right|} \sum_{j=1}^{\left|C_{x_{i}}^{+}\right|} \sum_{k=1}^{\left|C_{x_{i}}^{-}\right|} \tilde{s_{i j}} \tilde{s_{i k}} L\left(r_{j}\right) R_{s}\left(\mathbf{w}_{j}^{\top} \mathbf{x}_{i}-\mathbf{w}_{k}^{\top} \mathbf{x}_{i}\right) \\
& +\kappa \sum_{i}^{\left|U_{\text {train }}\right|} \sum_{j=1}^{|C|} \tilde{s_{i j}} R_{s}\left(y_{i j}\left(\mathbf{w}_{j}^{\top} \mathbf{x}_{i}\right)\right) .
\end{aligned}
$

式(3)において， $\tilde{s_{i j}}$ は伝播されたシステム行動の,損失関数への寄与率を表す重みとして働く. 正例と して元々付与されているシステム行動の類似度スコ ア $\tilde{s_{i j}}$ は 1 である.


## 3.2 因果関係知識を用いた類似度スコアの 調整

3.1 節におけるラベル伝播法は，ユーザ発話同士 の類似に基づいてラベルを伝播している。しかし， ユーザがある要求を行った場合に一般的にどのよう な行動を取ることが適切か, 学習データにおいて観測される因果関係を考慮することで，より適切なラ ベル伝播を行うことができる可能性がある. そこで 本研究では，こうした因果関係を汎化された知識と して抽出・蒸留しシステム行動の識別に利用するた めに，ユーザ発話を原因，システム行動を結果とみ なして構築した因果関係検出モデルを用いる. 例え ば「和食に飽きる」 $\rightarrow$ 「肉料理を食べる」というぺ アがあった場合，前者を原因，後者を結果と見なし てモデルを構築する.この構築されたモデルから出力された因果関係スコアを，ラベル伝播における新 しい特徴として利用する。

図 4 に因果関係スコアを算出する因果関係検出モ デルの概要を示す.このモデルは $[\mathrm{SEP}]$ トークンで 連結された原因, 結果を BERTによって実数ベクト ルに変換し，MLPによって実数值の因果関係スコア を算出する。因果関係スコアの値が大きいほど，入力された原因，結果は因果関係として強く結びつく ことを意味する。

本研究ではユーザ発話, システム行動に含まれる イベント間の因果関係認定を行いたい。より単純な イベント同士の関係に着目することで，今回のタス クにおける因果関係を蒸留した因果関係スコアを算出できることが期待される。そこで本研究では因果関係グラフ [9]を用いてユーザ要求を解析し，ユー ザ要求に含まれる述語項構造をイベントの基本単位 として BERT に入力する．因果関係グラフは「なぜ なら」などの言語学的な特徴量に基づいて文中の因果関係を検出するツールであり, 前処理として文中 のイベントを述語項構造を基本単位として抽出す る.また結果として入力するシステム行動に含まれ るイベントについては，システム行動が「肉料理の 検索」であれば「肉料理を食べる」など， 70 種類の 各システム行動に対応した述語項構造として定義 する.

図 4 因果関係検出モデル

因果関係検出モデルの学習には, ユーザ発話と正例として紐づけられたシステム行動に含まれるイ ベントのペアを正例 $c x_{i}{ }^{+}$, 正例として紐づけられて いないぺアを負例 $c x_{i}^{-}$とした次式の margin ranking lossを用いる.

$
\operatorname{Loss}\left(c x_{i}^{+}, c x_{i}^{-}\right)=\max \left(0,-\left(c_{i}^{+}-c_{i}^{-}\right)+0.5\right) .
$

$c_{i}{ }^{+}, c_{i}^{-}$はそれぞれ正例, 負例に対してモデルが出力 した因果関係スコアであり, 式 (4) は $c_{i}{ }^{+}-c_{i}{ }^{-} \geq 0.5$ のとき 0 となる.

学習済みの因果関係検出モデルを用いて, 式 (3) の類似度スコア $\tilde{s_{i j}}$ を更新する。具体的には，まず ユーザ発話 $x_{i}$ に対して紐づけられていないシステ ム行動 $j$ のイベントの全てのペアについて因果関係スコア $c_{i j}$ を計算する. ユーザ要求中に複数のイ ベントが含まれている場合，最も因果関係スコアが 高くなるイベントをユーザ要求 $x_{i}$ としてスコアを 計算する. 次に, 全体の因果関係スコアについて式 (2) を用いて $-1 \leq c_{i j} \leq 1$ の範井にスケーリングした 上で, 式 (5) の通り PU 学習における類似度スコア の更新に用いる.

$
\hat{s_{i j}}=\max \left(\min \left(\tilde{s_{i j}}+c_{i j}-\gamma, 1\right),-1\right) \text {. }
$

$\gamma$ は因果関係スコアの影響を調整するためのハイ パーパラメータである. アップデートされた類似度 スコア $\hat{s_{i j}}$ を式 (3)にて用い, 分類モデルを学習す る. 本研究ではこの手法を PU-causal と呼ぶ.

## 4 実験

ARTA コーパスで定義されている通り, 曖昧な ユーザ発話を入力として対応しうる気の利いたシス テム行動のカテゴリを出力するモデルを評価した結

果を表 3 に示す. 比較手法としては，論文で述べた $\mathrm{PU}$ 学習, PU 学習のラベル伝播時に因果関係知識を 用いる提案法の他に，単純に Unlabeled なデータを 負例として扱う PN 学習による分類を用いた。評価指標として, Accuracy (Acc.), Recall@5 (R@5), Mean Reciprocal Rank (MRR) を用いた2). このとき, PN 学習や単純にユーザ発話とシステム行動の関係を PU 学習で識別する手法 (PU) よりも，因果関係知識を 用いた PU 学習手法 (PU-causal) がすべての指標につ いて有意な性能差 ( $\mathrm{t}$ 検定; 有意水準 0.01 ) を示した。

実際にラベル伝播法が PU 学習にどの程度効果的 に働くかを検証するため，テストデータに対してラ ベル伝播を実施した場合の性能を表 4 に示す. 表 3 と表 4 を比較すると，ラベル伝播時の誤伝播がモデ ルへの影響が大きく, より伝播の適合率が重視され るタスクであることがわかる。また提案する因果関係知識を用いた手法の方がユーザ要求間の類似度ス コアのみを用いた場合よりも精度が高いことがわ かる.

## 5 おわりに

本研究ではユーザの曖昧な要求と対話エージェン トの気の利いた応答を対応付ける分類モデルの学習 に因果関係知識を用いた。具体的には PU 学習にお けるラベル伝播に用いる特徴量として, ユーザ要求 とカテゴリ応答が因果関係として結びつくかを判定 する因果関係スコアを提案した。ユーザ要求の分類実験の結果，提案する特徵が PU 学習におけるラべ ル伝播の適合率を高め，その結果分類器の精度を向上できることがわかった。


## 謝辞

本研究に利用した因果関係グラフを提供して頂い た京都大学黒橋研究室の黒橋禎夫教授, 植田暢大さ ん，清丸寛一さんに感謝いたします.

## 参考文献

[1] Steve Young, Milica Gašić, Simon Keizer, François Mairesse, Jost Schatzmann, Blaise Thomson, and Kai Yu. The hidden information state model: A practical framework for pomdp-based spoken dialogue management. Computer Speech \& Language, Vol. 24, No. 2, pp. 150-174, 2010.

[2] Koichiro Yoshino, Yu Suzuki, and Satoshi Nakamura. Information navigation system with discovering user interests. In Proceedings of the 18th Annual SIGdial Meeting on Discourse and Dialogue, pp. 356-359, Saarbrücken, Germany, August 2017. Association for Computational Linguistics.

[3] Shohei Tanaka, Koichiro Yoshino, Katsuhito Sudoh, and Satoshi Nakamura. ARTA: Collection and classification of ambiguous requests and thoughtful actions. In Proceedings of the 22nd Annual Meeting of the Special Interest Group on Discourse and Dialogue, pp. 77-88, Singapore and Online, July 2021. Association for Computational Linguistics.

[4] Tsung-Yi Lin, Michael Maire, Serge Belongie, James Hays, Pietro Perona, Deva Ramanan, Piotr Dollár, and C. Lawrence Zitnick. Microsoft coco: Common objects in context. In David Fleet, Tomas Pajdla, Bernt Schiele, and Tinne Tuytelaars, editors, Computer Vision - ECCV 2014, pp. 740-755, Cham, 2014. Springer International Publishing.

[5] Charles Elkan and Keith Noto. Learning classifiers from only positive and unlabeled data. In Proceedings of the 14th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, KDD ’08, p. 213-220, New York, NY, USA, 2008. Association for Computing Machinery.

[6] Hakan Cevikalp, Burak Benligiray, and Omer Nezih Gerek. Semi-supervised robust deep neural networks for multi-label image classification. Pattern Recognition, Vol. 100, p. 107164, 2020.

[7] Denny Zhou, Jiayuan Huang, and Bernhard Schölkopf. Learning from labeled and unlabeled data on a directed graph. In ICML '05 Proceedings of the 22nd international conference on Machine learning, p. 1036. ACM Press, August 2005.

[8] Hakan Cevikalp, Jakob Verbeek, Frédéric Jurie, and Alexander Klaser. Semi-supervised dimensionality reduction using pairwise equivalence constraints. 3rd International Conference on Computer Vision Theory and Applications (VISAPP' 08), pp. 489-496, 2008.

[9] 清丸寛一, 植田暢大, 児玉貴志, 田中佑, 岸本裕大, 田中リベカ, 河原大輔, 黒橋禎夫. 因果関係グラフ: 構造的言語処理に基づくイベントの原因・結果・解決策の集約. 言語処理学会 第 26 回年次大会 発表論文集 (ANLP), pp. 1125-1128, 2020.

[10] Adam Paszke, Sam Gross, Francisco Massa, Adam Lerer, James Bradbury, Gregory Chanan, Trevor Killeen, Zeming Lin, Natalia Gimelshein, Luca Antiga, Alban Desmaison, Andreas Kopf, Edward Yang, Zachary DeVito, Martin Raison, Alykhan Tejani, Sasank Chilamkurthy, Benoit Steiner, Lu Fang, Junjie Bai, and Soumith Chintala. PyTorch: An Imperative Style, High-Performance Deep Learning Library. In $\mathrm{H}$. Wallach, H. Larochelle, A. Beygelzimer, F. d'Alché-Buc, E. Fox, and R. Garnett, editors, Advances in Neural Information Processing Systems 32, pp. 80248035. Curran Associates, Inc., 2019.

[11] Tomohide Shibata, Daisuke Kawahara, and Kurohashi Sadao. Kurohashi Lab. BERT (http://nlp.ist.i.kyotou.ac.jp/?ku_bert_japanese). 2019.

[12] Diederik P. Kingma and Jimmy Ba. Adam: A Method for Stochastic Optimization. In Proceedings of the 3rd International Conference on Learning Representations (ICLR), 2015.

## 付録

## 式 (3) の詳細

$U_{\text {train }}$ は学習データに含まれるユーザ発話の集合 であり, $C_{x_{i}}^{+}, C_{x_{i}}^{-}$はそれぞれユーザ発話 $x_{i}$ に対応付 けられた正例応答カテゴリの集合，対応付けのない 応答カテゴリの集合である. $r_{j}$ は正例カテゴリ $j$ に 対してモデルが予測した順位であり,$L\left(r_{j}\right)$ は次式を 満たす重み関数である.

$
L\left(r_{j}\right)=\sum_{k=1}^{r_{j}} \frac{1}{k}
$

式 (6) はモデルが予測した順位が一位から遠いほど 大きな值をとる． $\mathbf{w}_{j}$ はカテゴリ $j$ に対応する重み ベクトル, $\mathbf{x}_{i}$ はユーザ発話 $x_{i}$ に対応する分散表現で ある。 $R_{S}(t)$ は次式で表せられる Ramp loss である.

$
R_{s}(t)=\min (1-m, \max (0,1-t))
$

$m$ は分類境界を決定するハイパーパラメータであ る. $y_{i j}$ はユーザ発話 $x_{i}$ に対してカテゴリ $j$ が正例 である場合 1 , 負例である場合 -1 となる。 $\kappa$ は第二項の重みを表すハイパーパラメータである。

## 実験設定

モデルの実装には PyTorch [10]を用いた. BERT モデルとして, Wikipedia 記事を対象に事前学習を 行った BERT モデル [11]を用いた.

パラメータの最適化には Adam [12] を使用し，学

て, Cevikalp ら [6] の実装と同様に $m=-0.8, \kappa=5$ と した. 本研究では, BERT が出力した分散表現をラ ベル伝播に必要な分散表現 $\mathbf{x}_{i}$ として用いる. 因果関係検出モデルの学習データ, 検証データ, テスト データには ARTA コーパス [3] の学習データを分割 したものを用いた。また因果関係グラフによって抽出されたユーザ要求中に含まれる因果関係も学習 に用いた。学習した因果関係検出モデルの精度は 91.70 であった. 式 (5) の $\gamma$ は 1.0 とした. 実験に用 いる各モデルのパラメータは，検証データにおける 損失関数の值が最小のものを使用した。

## 評価指標

$\mathrm{R} @ 5$ は分類モデルが出力した正解カテゴリの順位が上位 5 位以内に含まれている割合である．MRR $(0<M R R \leq 1)$ は次式の通り算出される.

$
M R R=\frac{1}{\left|U_{\text {test }}\right|} \sum_{i}^{\left|U_{\text {test }}\right|} \frac{1}{r_{x_{i}}}
$

ここで $r_{x_{i}}$ はユーザ発話 $x_{i}$ に対応する正解カテゴリ について分類モデルが出力した順位を意味し， $U_{\text {test }}$ はテストデータに含まれるユーザ発話の集合であ る. 全ての指標について，数值が大きいほど分類モ デルの性能が高いことを意味する．各モデルの性能 はそれぞれ 100 回の試行の平均より算出した。なお テストデータに対しては正解となる応答カテゴリが 網羅的に付与されており，それぞれマルチラベルの スコアについて計算を行っている.
 田中翔平 1,2,3 吉野幸一郎 2,1,3 須藤克仁 1,3 中村哲 1,3 1 奈良先端科学技術大学院大学 2 理化学研究所 ガーディアンロボットプロジェクト 3 理化学研究所 革新知能統合研究センター \{tanaka.shohei.tj7, sudoh, s-nakamura\}@is.naist.jp koichiro.yoshino@riken.jp  