# 時系列株価データからの市況コメントの自動生成

柳瀬 利彦

本稿では，日経平均株価の市況コメントを生成するタスクを例として，時系列数値 データの多様な特徴を抽出してテキスト化する手法を提案する。日経平均株価の市況コメントでは価格の変動の特徴だけが表出されるわけではなく, 価格の履歴を参照する表現, 時系列データの変化を示す表現, テキストが書かれる時間帯に依存す る表現が見られる。また，数値に言及する場合は，価格が直接言及されることもあ れば, 前日からの増減幅やそれらを切り上げ・切り捨てした値などが用いられるこ ともある。本研究では, エンコーダ・デコーダモデルをべースラインとし, 上記の ような多様な特徴を自動抽出してテキスト化するためのエンコード／デコード手法 を探求する。まず，株価の短期的・長期的な変化を捉えるために，エンコーダへの 入力として短期的および長期的な時系列株価データを与える。デコード時には, テ キストが書かれる時間帯に依存する表現を生成するために，時間帯情報を導入する． また，デコーダが数値に言及する際, 数値の演算操作を推定して計算することで株価の数值表現を生成する，実験では，自動評価および情報性・流暢性に関する人手評価を行い，提案手法によって上記の特徵を捉えた質の高い株価の市況コメントの 生成が可能になることを示した。

キーワード：Data-to-Text, 自然言語生成，ニューラルネットワーク
## Generating Market Comments from Stock Prices

\author{
Soichiro Murakami ${ }^{\dagger, \dagger \dagger}$, Akihiko Watanabe ${ }^{\dagger, \dagger \dagger}$, Akira Miyazawa ${ }^{\dagger \dagger \dagger}$, \\ KeIichi Goshima ${ }^{\dagger \dagger \dagger \dagger \dagger}$, Toshihiko Yanase ${ }^{\dagger \dagger \dagger \dagger \dagger}$, \\ Hiroya Takamura $^{\dagger, \dagger \dagger}$ and Yusuke Miyao ${ }^{\dagger+, \dagger \dagger \dagger \dagger \dagger \dagger \dagger}$
}

This study tackles the task of generating market comments from stock prices. Market comments not only describe the increase and decrease of the price but also describe how the price changes compared with the previous period and contain expressions that depend on their delivery time. Additionally, market comments typically mention numerical values, such as closing prices and differences in stock prices, that need

arithmetic operations such as subtraction and rounding off to derive these values. To capture these characteristics, we propose a novel encoder-decoder model to automatically generate market comments from stock prices. The model first encodes both short- and long-term series of stock prices so that it can create short- and longterm changes in stock prices. Thereafter, we feed our model with delivery time of the market comment in the decoding phase to generate time-dependent expressions. Moreover, our model can generate a numerical value by selecting an appropriate arithmetic operation, such as subtraction or rounding off, and applying it to the input stock prices. As shown in empirical experiments, our model generates high-quality market comments with fluency and informativeness in comparison with baselines.

Key Words: Data-to-Text, Natural Language Generation, Neural Networks

## 1 はじめに

金融や医療，情報通信などの多くの分野において，様々な形式のデータを取り扱う機会が増えてきている. しかし, 大規模で複雑なデータを専門知識のない人が見て解釈することは容易ではなく，専門家であったとしても大規模なデータから重要な情報を読み取るためには時間がかかる。そのため，データの概要を説明する概況テキストを自動的に生成する Data-to-Text 技術の関心が高まっている (Gatt and Krahmer 2018).

本稿では，日経平均株価の市況コメントを生成するタスクを例として，時系列数値データから多様な特徵を抽出し，データの概要をテキスト化する手法を提案する。本研究では，日経平均株価の市況コメントの自動生成を，時系列株価データから単語系列を生成する系列生成夕スクとして考え，機械翻訳や文書要約などの系列生成タスクで広く用いられているエンコーダ・ デコーダモデル (Sutskever, Vinyals, and Le 2014)を使用する.

図 1 に日経平均株価の時系列株価データと市況コメントの例を示す.この例のように，株価

図 1 日経平均株価と市況コメント

の市況コメントなどの時系列数值データの概況テキストでは，「上がる」，「下がる」といった単純な特徴だけが表出されるわけではない，過去のデータの履歴や，テキストが書かれる時間帯によって言及すべき内容は様々である。また, 数値の時系列データの場合, 時系列中の数値や,過去との差分を計算した値が言及されることが多々ある。例えば, 図 1 の市況コメントでは,「続落」,「反発」のように価格の履歴を参照する表現 $(1,3,6)$,「上げに転じる」のように時系列データの変化を示す表現 (2),「始まる」，「前引け」，「午後」，「大引け」などテキストが書かれる時間帯に依存する表現 $(1,3,4 ， 6)$ が見られる。また，数值に言及する場合は，価格が直接言及される $(3,6)$ こともあれば，履歴からの差分 $(3,6)$ や，切り上げ・切り捨てした値 $(5)$ が用いられることもある。

本研究では，株価の市況コメントにおけるこれらの特性を踏まえ，データから多様な特徴を自動抽出し，テキスト化するためのエンコード／デコード手法を提案する。まず，「続落」，「上げに転じる」といった時系列株価データの過去の履歴や変化を捉えるために，株価の短期的および長期的な時系列データを使用する。次に，「前引け」，「大引け」といった市況コメントが記述される時間帯に依存する表現を生成するために，デコード時に時刻情報を導入する，加えて， $\lceil 19,386$ 円」，「100 円」といった株価の終値や前日からの変動幅などの数値を市況コメントで言及するために，入力である時系列株価データ中から適切な数値を出力するための演算操作を推定し, 計算することで数値の出力を行う.

実験では，日経平均株価の時系列株価データと人手で書かれた市況コメントを用いて提案手法の評価を行った，自動評価では，実際の市況コメントと生成テキストの一致度合いを評価するための BLEU, および，「続落」，「前引け」などの表現を正しく出力できているかを評価するための $\mathrm{F}$ 值を使用し，提案手法がベースライン手法に比べて大幅に性能が向上することを確認した。 さらに，人手評価では，テキストの流暢性と情報性の観点において，提案手法により株価の市況コメントにおける上記のような多様な特徴を捉えた質の高いテキストを生成できることを示した。

## 2 関連研究

時系列データや構造化データの概要を人間にとって分かりやすく伝えるために，データから概況テキストを自動生成する Data-to-Text 技術に関して様々な研究が行われている (Gatt and Krahmer 2018). 例えば，時系列の気象情報から天気予報の概況を説明するテキストを自動生成する研究 (Belz 2007; Angeli, Liang, and Klein 2010), 医師や看護師の意思決定補助を目的に臨床データから概況テキストを生成する研究 (Portet, Reiter, Gatt, Hunter, Sripada, Freer, and Sykes 2009; Banaee, Ahmed, and Loutfi 2013b), スポーツの試合における play-by-playデータやスコア情報から試合の概況テキストを生成する研究 (Liang, Jordan, and Klein 2009; 田川, 嶋
田 2018; Taniguchi, Feng, Takamura, and Okumura 2019),一定期間毎の学習態度を記録した時系列データから学生へのフィードバックのテキストを自動生成する研究 (Gkatzia, Hastie, and Lemon 2014) などが行われている.

Data-to-Text の研究では, 従来, 人手で作成したルールによりテキスト生成を行うルールベー ス手法が主流であった (Goldberg, Driedger, and Kittredge 1994; Dale, Geldof, and Prost 2003; Reiter, Sripada, Hunter, Yu, and Davy 2005)。一方, 近年では, 情報通信技術の発展により様々な形式の大規模データが容易に入手できるようになったことで, データとテキストの大規模なぺアデータから学習した対応関係を基に生成を行う機械学習べースの手法への関心が高まっている (Liu, Wang, Sha, Chang, and Sui 2018; Iso, Uehara, Ishigaki, Noji, Aramaki, Kobayashi, Miyao, Okazaki, and Takamura 2019). 例えば，画像データからその説明文を生成する画像キャプション生成タスク (Vinyals, Toshev, Bengio, and Erhan 2015) や構造化された気象データから天気予報テキストを生成するタスク (Mei, Bansal, and Walter 2016b) などの様々な Data-to-Text タスクにおいて機械学習を用いた手法の研究が行われている. 本研究では, これらの研究と同様に,機械学習を用いて時系列株価データと人手で書かれた株価の市況コメントのペアデータから対応関係を学習し, これらに基づいてテキスト生成を行う手法を提案する.

Data-to-Text タスクは，一般的に，生成テキストで言及する内容を選択するコンテンツ選択タスク (content selection) と選択したコンテンツを基に実際にテキスト生成を行う生成タスク (surface realization)の2つのサブタスクに分けられる。従来, これらのサブタスクは個々に取り組まれてきた (Barzilay and Lapata 2005; Wong and Mooney 2007; Lu, Ng, and Lee 2009). 一方,近年では，1つのフレームワークでこれらのサブタスクを同時に取り組む手法が提案されている (Chen and Mooney 2008; Kim and Mooney 2010; Angeli et al. 2010; Konstas and Lapata 2012, 2013). 特に最近では, 時系列データや構造化データから概況テキストを生成するために, 機械翻訳で注目されているエンコーダ・デコーダモデル (Sutskever et al. 2014; Cho, van Merrienboer, Gulcehre, Bahdanau, Bougares, Schwenk, and Bengio 2014)を用いて, Data-to-Text タスクにおける個々のサブタスクを同時に取り組む研究が積極的に行われており, その有用性が示されている (Mei et al. 2016b; Lebret, Grangier, and Auli 2016; Sha, Mou, Liu, Poupart, Li, Chang, and Sui 2018).

しかしながら，エンコーダ・デコーダモデルを用いたData-to-Text タスクにおいて，解決すべき課題がいくつか残っている。例えば, 図 1 の株価の市況コメントのように，テキストが書かれる時間帯に依存する表現 $(1,3,4,6)$ や株価の終值や増減幅などの数值に言及する表現 $(3,5,6)$ が用いられる特徴があり, これらの特徴を捉えてテキスト化するためのエンコード／デコード手法が必要となる。時間帯に依存する表現を生成するための方法として, 時系列株価デー夕の時刻情報をモデルへ組み込むことなどが考えられる．例えば，Li, Galley, Brockett, Spithourakis, Gao， and Dolan (2016) は，エンコーダ・デコーダモデルを用いた対話モデルの研究において，個人の
人格情報をデコーダに導入することで, 個人の特徴を捉えた単語列を生成できることを報告している。これらを踏まえ本研究では, 時間帯に依存する表現を生成するために，追加情報として時刻情報をデコーダに組み込む方法を提案する，また，数値に言及する表現を生成するための方法として，機械翻訳分野で提案されている，入力に含まれる単語を出力に含めやすくするためのコピー機構付きエンコーダ・デコーダモデル (Gu, Lu, Li, and Li 2016; Gulcehre, Ahn, Nallapati, Zhou, and Bengio 2016) などが考えられる. しかし, 時系列数值データの Data-to-Text タスクでは，コピー機構だけでは解決できない課題がある。例えば，株価の市況コメントでは，図 1 のように, 履歴からの差分 $(3,6)$ や, 切り上げ・切り捨てした値 $(5)$ が用いられることもあり,入力に含まれる要素をそのまま出力することを目的としたコピー機構では，差分や切り上げ・切り捨てした値のように演算操作を必要とする数値を出力することができない．そのため，入力の数値デー夕に対して言及をする場合，入力からコピーを行うだけでなく，数値に対して何らかの演算操作を行い, 計算結果を出力する機構が必要であると考えられる. 本研究では, これらの課題を解決するために，言及する数值に応じて入力データから数值をコピーまたは演算操作を行い計算結果を生成するための機構を導入したエンコーダ・デコーダモデルを提案する.

株価の市況コメントの生成を目的とした既存研究は多く存在する。まず，図 1 に示すような株価の値動きや過去の価格との比較, 数値表現などの特徴を持った市況コメントの自動生成に取り組む研究の先駆けとして, Kukich (1983) は, 日足の株価データベースから市況コメントを生成するための複数のルールを組み合わせた手法を提案した，具体的には，まず，入力である日足の株価データベースの中から 120 個のルールに基づいて言及するべき値動きや価格等のコンテンツ選択を行い，次に 16 個のルールに基づいて言及するコンテンツの順番の並び替えを行う，そして，選択したコンテンツおよび 109 個のルールとフレーズ辞書に基づいて，使用するフレーズや述語句の統語形式，主語の照応関係等の選択を行うことで市況コメントの生成を行っている。このように, Kukich (1983) の研究では, 人手で数多くのルールを記述する必要がある。一方，我々が提案するエンコーダ・デコーダを用いた手法では，実際の時系列株価デー 夕と人手で書かれた市況コメントのペアデータから対応関係を学習し，これらに基づいて，言及するべき値動きや価格等のコンテンツ選択および使用するフレーズ（単語列）の選択等を行うため，数多くのルールは不要である。

同様に，Aoki and Kobayashi (2016)は，日経平均株価を対象に，株価の値動きを説明するテキストの生成に取り組んでいる。本研究と同様に, この研究では, 時系列株価デー夕と市況コメントのペアデータから学習した対応関係を基にテキスト生成を行う機械学習べースの手法を提案している。具体的には, クラスタリング手法により算出した時系列株価データの類似度を基に，重み付けされた bi-gram 言語モデルを生成し，その言語モデルを用いてテキスト自動生成を行う．また, Aoki and Kobayashi (2016)の研究では, 時系列株価データの類似度に基づいて言及する値動きを選択するタスク（コンテンツ選択タスク）および言語モデルを用いたテキ

スト生成タスクの 2 つを個々に取り組んでいる。一方，本研究ではエンコーダ・デコーダモデルによりこれらのサブタスクを同時に取り組むことが可能となる。加えて，この研究では，図 1(3), (5)のような終値や値上げ幅などの数値への言及を行う取り組みが行われていない. これに対し本研究では，数值の変動を概況するだけでなく，入力の時系列数值データを参照した上で，実際の数値へ言及を行うテキストを生成する手法を提案する.

また, Aoki, Miyazawa, Ishigaki, Goshima, Aoki, Kobayashi, Takamura, and Miyao (2018) は,市況コメントにおいてしばしば言及される株価の変化要因の生成に取り組んでいる。ここで変化要因とは,「日経平均、反落で始まる下げ幅 100 円超、欧米株安・円上昇で」のように，市況コメントの主な記述対象である株価デー夕（日経平均株価）の値動きに影響したとされる外国株式や原油価格などの情報のことを指している. Aoki, Miyazawa, Ishigaki, Aoki, Noji, Goshima, Kobayashi, Takamura, and Miyao (2019)は，時系列株価デー夕に加えて，市況コメントの生成内容を表すトピックを入力として与えることで，市況コメント生成タスクにおける生成文の内容制御に取り組んでいる。さらに，Zhang, Yuan, Wang, and Foster (2018) は, 人手で書かれた文章のように自然で多様なテキストの生成を目的に，株価の値動きの方向（值上がり，値下が

り）やその変動幅を表すための動詞を適切に選択するための研究に取り組んでいる.

これらの研究では, 市況コメント生成タスクにおける, 変化要因の記述 (Aoki et al. 2018) や生成文の内容制御 (Aoki et al. 2019), 多様な表現を用いたテキスト生成 (Zhang et al. 2018)を行うことを目的としている。一方，本研究では市況コメントにおける価格の履歴を参照する表現や時間帯に依存する表現，株価の数値表現などの様々な特性を表出するテキストの生成に取り組んでおり，これらの研究とは目的が異なる.

## 3 提案手法

近年, 機械翻訳 (Cho et al. 2014) や文書要約 (Rush, Chopra, and Weston 2015) などの様々な系列生成タスクにおいて，エンコーダ・デコーダモデル (Sutskever et al. 2014)を用いた手法が提案され, 有用性が示されている。本研究では, 時系列株価デー夕に対する市況コメントの生成を,時系列株価データから単語系列を生成する系列生成タスクとして考え，エンコーダ・デコーダモデルを用いた手法を提案する。本研究では, エンコーダとして一般的に利用されている多層パー セプトロン (Multi-Layer Perceptron: MLP)，畳み込みニューラルネットワーク (Convolutional Neural Network: CNN), 再帰的ニューラルネットワーク (Recurrent Neural Network: RNN)のうちいずれかを採用し，それぞれの性能の比較を行う。また，デコーダには，テキスト生成夕スクにおいて広く使われている再帰的ニューラルネットワーク言語モデル (Recurrent Neural Network Language Model: RNNLM) を利用する.

時系列株価データの市況コメントを記述する際には，モデルでは，時系列データの絶対的・相
対的な変化や最大值・最小値といった特徴を，異なるタイムスケールで捉える必要がある。また，市況コメントでは，「前引け」，「大引け」などのテキストが書かれる時間に依存する表現が用いられることや，株価の終值や変動幅などの数値について言及されることがある．本研究では，このような時系列株価データの多様な特徴を自動抽出してテキスト化するために，標準的なエンコーダ・デコーダモデルに対して 3 つの手法を提案する.

本研究で提案するモデルの概要を図 2 に示す。提案モデルでは，時系列データの様々な変化を異なる夕イムスケールで捉えるために，短期的な時系列データ $\boldsymbol{x}_{\text {short }}$ および長期的な時系列データ $\boldsymbol{x}_{\text {long }}$ を入力として利用する。また，テキストが書かれる時間に依存する表現を生成するために，デコード時にテキストを記述する時間帯の情報 $(\boldsymbol{T})$ を利用する，加えて，市況コメントの生成時に株価の終值や変動幅などの実際の数值に言及する際には，入力した時系列デー タ中から正しい数值を出力するための演算操作 ( $<\mathrm{OP} 2>$ 等) を推定し, 計算することで数値の出力を行う.

以降では，(1) 時系列株価データのエンコード手法，(2)テキスト生成時の時間帯の考慮，(3)数値の演算操作の推定について詳細を説明する.

(2)テキスト生成時の時間帯の考慮

(3) 数値の演算操作の推定

図 2 提案モデルの概要

## 3.1 時系列株価データのエンコード手法

本研究では, 時系列株価データとして, 日経平均株価を使用する。株価の短期的または長期的な数値の変動を捉えるために，短期的な時系列データとして， $N$ タイムステップからなる 1 日分の株価データ $\boldsymbol{x}_{\text {short }}=\left(x_{\text {short }, i}\right)_{i=0}^{N-1}$, 長期的な株価データとして, 過去 $M$ 営業日分の終値 $\boldsymbol{x}_{\text {long }}=\left(x_{\text {long }, i}\right)_{i=0}^{M-1}$, を入力として利用する.

画像処理分野 (Cun, Boser, Denker, Howard, Habbard, Jackel, and Henderson 1990) や自然言語処理分野 (Vijayarani, Ilamathi, and Nithya 2015) などの様々な分野において, 機械学習モデルの汎化性能やデータに含まれるノイズを除去するために，データに対して前処理を行うことが一般的である (Zhang and Qi 2005; Banaee, Ahmed, and Loutfi 2013a). 本研究でも同様に,数值データである時系列株価データに対して，前処理を行う.

数値データの前処理手法として, 標準化 (standardization) と前日との差分 (moving reference) (Freitas, De Souza, and de Almeida 2009)を使用する。使用する前処理手法の式を以下に示す：

$
\begin{aligned}
x_{i}^{\text {std }} & =\frac{x_{i}-\mu}{\sigma}, \\
x_{i}^{\text {move }} & =x_{i}-r_{i},
\end{aligned}
$

ここで， $x_{i}$ は数値データである株価を表す。式 (1)では，学習に使用する全株価デー夕 $\boldsymbol{x}$ の平均値 $\mu$, 標準偏差 $\sigma$ を用いて標準化を行う，式 (2)では, 前日の終値からの価格の変動を捉えるために，前日の終値 $r_{i}$ から各タイムステップの価格 $x_{i}$ の差分を計算する.

次に，時系列株価データの前処理とエンコードの手順について説明する。まず，前処理は， 1 日分の株価データ $\boldsymbol{x}_{\text {short }}, M$ 営業日分の終值データ $\boldsymbol{x}_{\text {long }}$ に対して行い, 数値べクトル $\boldsymbol{l}_{\text {short }}$, $l_{\text {long }}$ をそれぞれ作成する。次に，作成した数値べクトルをそれぞれエンコーダへ入力し，エンコーダの出力状態ベクトル $\boldsymbol{h}_{\text {short }}, \boldsymbol{h}_{\text {long }}$ を獲得する. 続いて, 前処理により作成した数值べクトルとエンコーダの出力状態ベクトルを結合し, multi-level representationベクトル (Mei, Bansal, and Walter 2016a)を作成する. この multi-level representation について, Mei et al. (2016a)は,入力データの高レベルな表現 $\left(\boldsymbol{h}_{\text {short }}, \boldsymbol{h}_{\text {long }}\right)$ と低レベルな表現 $\left(\boldsymbol{l}_{\text {short }}, \boldsymbol{l}_{\text {long }}\right)$ を同時にモデルで考慮することで，モデルが入力データ中の重要な情報を選択する性能が向上したことを報告している．株価の市況コメントの記述においても，入力データである短期的および長期的な時系列株価データ中の重要な値動きを捉えることが必要とされる。 そのため, 本研究でも同様に, multi-level representation を採用し，デコーダである RNNLM の初期状態 $s_{0}$ を次のように設定する：

$
\boldsymbol{s}_{0}=\boldsymbol{l}_{\text {short }} \oplus \boldsymbol{l}_{\text {long }} \oplus \boldsymbol{h}_{\text {short }} \oplus \boldsymbol{h}_{\text {long }} \text {. }
$

ここで，甲は連結演算子を表している.

2 の前処理手法を用いる場合, 短期的及び長期的な時系列株価データ $\boldsymbol{x}_{\text {short }}, \boldsymbol{x}_{\text {long }}$ に対してそれぞれの前処理を適用し，4つの数値べクトル $\boldsymbol{l}_{\text {short }}^{\text {move }}, l_{\text {short }}^{\text {std }}, l_{\text {long }}^{\text {move }}, l_{\text {long }}^{\text {std }}$ を作成する. 次に， それぞれの数値ベクトルに対して独立のエンコーダを使用し, 計 4 つのエンコーダの出力状態ベクトルを獲得する。この時, デコーダである RNNLM の初期状態 $s_{0}$ は次のように設定する：

$
\boldsymbol{s}_{0}=\boldsymbol{l}_{\text {short }}^{\text {move }} \oplus \boldsymbol{l}_{\text {short }}^{\text {std }} \oplus \boldsymbol{l}_{\text {long }}^{\text {move }} \oplus \boldsymbol{l}_{\text {long }}^{\text {std }} \oplus \boldsymbol{h}_{\text {short }}^{\text {move }} \oplus \boldsymbol{h}_{\text {short }}^{\text {std }} \oplus \boldsymbol{h}_{\text {long }}^{\text {move }} \oplus \boldsymbol{h}_{\text {long }}^{\text {std }} .
$

また, 時系列株価データのような時系列数値データから, 数値の変動等の特徴を抽出するためのエンコード手法として, いくつかの方法が考えられる。本研究ではエンコーダとして, MLP, CNN, RNN のいずれかを用いる。本研究では，実験において，時系列数値デー夕の特徴抽出手法として有用なエンコード手法を比較検討する.

## 3.2 テキスト生成時の時間帯の考慮

時系列データの概況テキストは，テキストが書かれる時間帯に依って言及すべき内容は様々である。例えば株価の市況コメントの場合, 一般的に, 図 1 中の (1), (6)のように, 取引が始まる時間帯には「前日から価格がどのように変動したか」, 取引が終了する時間帯には「値上げ幅と終値はいくらか」等が言及される.

Li et al. (2016)が行ったエンコーダ・デコーダモデルを用いた対話モデルの研究では，デコー ド時にある個人の人格情報を追加的に入力することで, その人の話し方や背景などの特徴を捉えた単語列を生成できることが報告されている。これらを踏まえ本研究では, デコード時の各タイムステップの状態 $s_{j}$ に時間帯情報 $\boldsymbol{T}$ の付与を行い, 時間帯を考慮したテキストの生成を行う。具体的には, 市況コメントが配信される時間帯（9時, 15 時等）を入力として時間帯情報埋め込みベクトル $T$ を作成し, デコード時の各タイムステップの隠れ状態ベクトル $s_{j}$ に時間帯情報埋め込みべクトル $T$ を加算する 1.

## 3.3 数値の演算操作の推定

RNNLM などの言語モデルを用いたテキスト生成において，一定の出現頻度よりも少ない単語は未知語 (out-of-vocabulary: OOV) として, <unk>などの特殊トークンに置き換えられることが一般的である (Sutskever et al. 2014). 特に, 固有名詞や数值などのバリエーションが多い単語は出現頻度が少なくなる傾向があるため, OOVとして扱われてしまうことがある. また, これらの単語がOOV として扱われなかった場合であっても，その単語と類似した別の単語を誤って生成してしまうことがある。機械翻訳の分野では, OOV 問題の対策として, 出現頻度が少なくなりやすい固有名詞などを入力テキストからコピーを行い, これらの単語を出力するた
^{1}$ Li et al. (2016) の研究では埋め込みベクトルを連結しているが, 予備検証において加算の場合でも連結の場合と同様に出力が変化することが明らかになったため，今回は加算を採用した。
}

めの機構が提案されている (Luong, Sutskever, Le, Vinyals, and Zaremba 2015; Gulcehre et al. 2016).

入力の数值データに言及するテキストでは, 図 1 中の $(3,6)$ のように， 入力データに含まれる数値について直接言及することが多い。しかし, それだではなく, 履歴からの差分 $(3,6)$ や，切り上げ・切り捨てした値 (5) が用いられることもある。 そのため, 入力データから数値をコピーするだけでなく，「差分の計算」等の数値の演算操作が必要となる．しかしながら，通常のモデルでは，このような演算操作を必要とする数值を直接的に生成することができない. そこで本研究では, 演算した数値を間接的に生成するために, 12 種類の演算トークンを導入する.具体的には，モデルにおいて株価の数值箇所を直接的に予測する代わりに， 12 種類の演算トー クンのいずれかを推定し, 予め定義した各演算トークンに対応する演算操作のルールに基づいて価格の計算を行い，計算結果の価格で演算トークンを置換する.

本手法では, 前処理として, 学習データのテキスト中の価格箇所を $<\mathrm{OP} 1>$ や $<\mathrm{OP} 2>$ 等の演算トークンに置換する。使用する演算トークンは，言及する価格の性質に依って異なる。表 1 に事前に定義した演算トークンと対応する演算操作の内容を示す. ここで, 次の市況コメントを例として，学習データのテキストの前処理方法について説明する.

(a) 日経平均、反発午前終値は 227 円高の 16,610 円

前処理では, まず始めに, 表 1 中の全ての演算操作（12 種類）を行い, 各演算トークンに対応する数値を計算する。例えば, ここで，前日の終值 $x_{\mathrm{long}, M-1}$ を 16,383$\rfloor$, 最後のタイムステップの価格 $x_{\text {short }, N-1}$ を 16,610$\rfloor$ とした場合，演算トークン $<\mathrm{OP} 1>$ に対応する数値は「227」となる．次に，各演算トークンに対応する数値「227」等とテキスト (a) 中の数値「227」,「16,610」

表 1 定義した演算トークンと演算操作

を比較し，正解の数值「227」「16,610」のそれぞれに最も近い数値を計算した演算操作およびその演算トークンを求める．最後に，導出した演算トークンを，正解の数値「227」，「16,610」 に対する最適な演算トークンとして見做し，正解の数値と演算トークンを置換することで，以下の前処理済みテキスト (b)を獲得する.

(b) 日経平均、反発午前終値は $<\mathrm{OP} 1>$ 円高の $<\mathrm{OP} 6>$ 円

上記の例では，テキスト (a) 中の「227」は，前日の終値 $x_{\text {long }, M-1}$ である「16,383」と最後のタイムステップの価格 $x_{\text {short }, N-1}$ である「16,610」の差を表すため, 演算トークン $<\mathrm{OP} 1>$ に置換し，「16,610」は，最後のタイムステップの価格 $x_{\text {short }, N-1}$ である「16,610」を表すため，演算トークン $<\mathrm{OP} 6>$ に置換している.

次に, テスト時における数値の導出方法について説明する。 入力として, 前日の終值 $x_{\mathrm{long}, M-1}$ が 14,612 円で最後のタイムステップの価格 $x_{\text {short }, N-1}$ が 14,508 円の時系列株価データをモデルへ与え，テキスト (c)を生成した場合を考える.

(c) 日経平均、反落で始まる下げ幅 $<\mathrm{OP} 2>$ 円超、 $<\mathrm{OP} 7>$ 円台

まず, $<\mathrm{OP} 2>$ を, 前日の終值 $x_{\text {long }, M-1}$ と最後のタイムステップの価格 $x_{\text {short }, N-1}$ の差を 10 の位で切り捨てた価格である「100」へ置換する．次に，<OP7>を，最後のタイムステップの価格 $x_{\text {short }, N-1}$ を 100 の位で切り捨てた価格である「14,500」へ置換する．以上により，テキスト $(\mathrm{d})$ が得られ，これを出力テキストとする.

(d) 日経平均、反落で始まる下げ幅 100 円超、14,500 円台

このように，株価データと市況コメントのペアデータから対応関係を学習するエンコーダ・ デコーダモデルと本課題に対する少量のルールを組み合わせることにより，従来のルールに基づくテキスト生成手法 (Kukich 1983) と比べて， より少ないルールによって株価の価格や上げ幅等の数値表現を含む市況コメントの生成が可能となる.

## 4 実験設定

## 4.1 データセット

実験には，時系列株価データとして IBI-Square Stocks ${ }^{2}$ から収集した 2013 年 3 月から 2016 年 10 月までの 5 分足の日経平均株価，市況コメントとして日経 QUICK ニュース社が提供する日経平均株価ニュースのヘッドラインテキスト，計 7,351 件を利用した。市況コメントの内， 2013 年 3 月から 2016 年 1 月までの市況コメントである 5,880 件を学習データ, 2016 年 2 月から同年


10 月までの 730 件， 741 件をそれぞれ開発データ，評価データとして利用した。市況コメントの形態素解析には $\mathrm{MeCab}^{3}$ （IPA 辞書）を使用し, 各形態素を 1 つの語彙とした。また，学習データの市況コメントにおいて, 出現回数が 1 回以下の形態素は未知語として扱い, 特殊トー クン <unk>へ置換を行った。その結果，学習データにおける語彙サイズは 691 , 平均文長（1 文あたりの平均語数）は 12.5 となった。

人手評価用の評価データとして，上記評価データからランダムに抽出した 100 件の市況コメントおよび株価データを使用した。

実験では，短期的な時系列株価データである 1 日分の株価データのタイムステップ数 $N$ を 62 ,長期的な時系列株価データである過去 $M$ 営業日分の終值のタイムステップ数 $M$ を 7 とした.本研究では, 時系列株価データとして 5 分足の日経平均株価を用いている。従って, 市況コメントが書かれる直近の時間帯から 62 タイムステップ前までの株価を 1 日分の時系列株価デー夕として設定している.

学習時には, 全 62 タイムステップから成る 1 日分の株価データ $\boldsymbol{x}_{\mathrm{short}}$, 全 7 タイムステップから成る過去 7 営業日分の終値データ $x_{\text {long }}$ と市況コメントのペアを使用する. テスト時には,株価データのみを用いて市況コメントを生成する。

## 4.2 ハイパーパラメータ

エンコーダ・デコーダモデルの学習において, 単語埋め込みべクトルの次元は 128 , 時間帯情報埋め达みベクトルの次元は 64 , エンコーダの隠れ状態の次元は 256 とした. エンコーダに $\mathrm{CNN}$ を用いる場合, 畳み込み層は 1 層とし, 入力チャネル数は 1 , 出力チャネル数は 16, フィルタサイズは 3 , 活性化関数には ReLU (Glorot, Bordes, and Bengio 2011)を使用した. 同様に, MLP を用いる場合，隠れ層は 3 層とし，活性化関数には Tanhを用いた。また，RNNを用いる場合, 1 層の Long-Short Term Memory (LSTM) (Hochreiter and Schmidhuber 1997)を使用し,活性化関数には Tanhを用いた。

デコーダには，テキスト生成タスクで広く用いられている RNNLM を用いた，RNNには， LSTM を使用し，レイヤ数は 1 層とした。活性化関数には Tanhを使用した. デコーダの隠れ状態の次元数は, 使用する前処理手法の数や multi-level representation の有無によって変化する. 例えば，式 (4)のように，前処理手法として標準化および前日の差分の 2 手法を用い, さらに multi-level representation を導入する場合，デコーダの隠れ状態は 1,162 次元となる ${ }^{4}$. ここで，数値べクトル $l_{\text {short }}^{\text {move }}, l_{\text {short }}^{\text {std }}$ の次元数は $62, l_{\text {long }}^{\text {move }}, l_{\text {long }}^{\text {std }}$ は, エンコーダの出力状態ベクトル $\boldsymbol{h}_{\text {short }}^{\text {move }}, \boldsymbol{h}_{\text {short }}^{\text {std }}, \boldsymbol{h}_{\text {long }}^{\text {move }}, \boldsymbol{h}_{\text {long }}^{\text {std }}$ の次元数は 256 である.
^{3} \mathrm{http} / / /$ taku910.github.io/mecab/

 }^{4} 62 \times 2+7 \times 2+256 \times 2+256 \times 2=1,162$ より，2つの前処理手法および multi-level representation を導入する場合のデコーダの隠れ層は 1,162 次元となる.


モデルの学習時には, デコーダの各タイムステップの入力として, 学習データの市況コメントの単語系列をそのまま用いる Teacher Forcingにより学習を行った．また，本研究で使用する市況コメントのデータセットは，機械翻訳等の一般的なテキスト生成タスクと比べてデータ規模が小さいことから，事前学習済み言語モデルなどの事前学習の枠組みを導入することによる性能向上が期待できる (Song, Tan, Qin, Lu, and Liu 2019; Devlin, Chang, Lee, and Toutanova 2019; Radford, Wu, Child, Luan, Amodei, and Sutskever 2019). しかし, 本研究で使用する市況コメントデータの予備検証において, 事前学習を導入しない場合であっても, 一定の学習効果が得られることが明らかになったため，単語埋め込みベクトルやエンコーダ・デコーダモデルにおける重みパラメータの事前学習，および，事前学習済み言語モデルの導入は行っていない.

ミニバッチのサイズは 100 , 損失関数には交差エントロピー, モデルパラメータの最適化手法には Adam (Kingma and Ba 2015) ( $\alpha=0.001, \beta_{1}=0.9, \beta_{2}=0.999, \epsilon=10^{-8}$ )を使用した。学習時のエポック数は 30 に設定した，実験結果では，学習における全 30 エポックの内，開発データに対する BLEU が最も高いエポック時のモデルを評価対象とし, 自動評価および人手評価の結果を報告する。

## 4.3 評価指標

実験では，2つの自動評価指標と人手評価により生成テキストの評価を行った. 1 つ目の自動評価指標として，実際の株価の市況コメントと生成されたテキストの一致度合いを測る目的として BLEU (Papineni, Roukos, Ward, and Zhu 2002)を使用した. BLEU の計測には MTEval toolkit $^{5}$ を使用した，スコアの計算においては， 4-gram までを考慮し，大文字・小文字は区別している。また, ブートストラップ・リサンプリング法 (Koehn 2004)により統計的有意差の検定を行った。有意水準は $5 \%$ とした。

2 つ目の自動評価指標として,「続落, 反発, 上げに転じる」といった短期的・長期的な時系列株価データの変動を説明する表現や「始まる，前引け」などの時間帯に依存する表現を評価データの正解テキストと比較して正しく出力できているかを評価するために， $\mathrm{F}$ 值を用いて評価を行った。表 2 に $\mathrm{F}$ 值による評価で用いる表現を示す。ここで表 2 において，各データにおける出現件数は，5,880 件の学習データ，730 件の開発デー夕，741 件の評価データのそれぞれにおける各表現の出現件数を表している． F 值による評価で用いる表現の選定においては，学習データの市況コメントにおける株価の変動を説明する表現打よび時間帯に依存する表現のうち, 比較的に出現回数が多い 13 種類の表現を選定した.

人手評価では，生成テキストの情報性と流暢性について評価するために，金融工学の専門家の 1 人に評価を依頼した。また，提案手法及び人手により生成した市況コメントの品質の違い
^{5}$ https://github.com/odashi/mteval
}
表 2 F 値による評価に用いた表現および各デー夕における出現件数

を評価するために，システム名を伏せて，両者の生成テキストおよび対応する短期的・長期的な時系列株価データ $\boldsymbol{x}_{\text {short }}, \boldsymbol{x}_{\text {long }}$ を評価者に提示した。人手評価では, 情報性と流暢性の 2 つの観点について，0または 1 の 2 段階のスコア付けを行った。ここで， 1 は情報性または流暢性が高いことを表す。情報性の評価では，評価者は生成テキスト及び対応する時系列株価デー 夕を参照し評価を行った，具体的には，時系列株価データの重要な値動きや值動きの概況について適切に述べている生成テキストを情報性が高いテキストとして定義した。流暢性の評価では，評価者は生成テキストのみを与え，テキストの可読性の観点で評価を行う。すなわち，株価の値動きについて生成テキストで述べられている内容の正しさにかかわらず評価を行う。また, 数値の演算操作の推定を行わない場合, 生成テキストにおける数値箇所が未知語 (<unk>) として出力されることで，流暢性の評価に影響する恐れがある。そのため本研究では，生成テキストにおける<unk>には適切な数値や文字列が入っているものとして評価を行うよう評価者に説明した。

また，人手で書かれた市況コメントでは，本研究で使用する時系列株価データには含まれてない情報について記述することがある。例えば，人手で書かれた市況コメントである「日経平均、反落して始まる米株安や円高で、下げ幅 100 円超える」には，「米株安や円高で」といった外部情報が含まれる。システムへの入力として与える時系列株価データからこのような外部情報を予測することは不可能であることから，人手評価では，生成テキストに含まれる外部情報を無視して評価するように評価者へ依頼した.

## 4.4 比較モデル

表 3 , 表 4 に提案モデルおよび比較モデルの一覧を示す。実験では，まず，エンコード手法の検討として, MLP, CNN, RNNのそれぞれをエンコーダとしたモデル (mlp-enc, $c n n$-enc, rnn-enc) の比較を行う.

次に，入力の時系列データから短期的及び長期的な変化を捉える能力があるかを確認するために, 短期的な株価デー夕 $x_{\text {short }}$ または長期的な終值デー夕 $x_{\text {long }}$ を使用しないモデル (-short, -long)の比較を行う。また, 数値データの表現手法の有用性を確かめるために, $m l p-e n c$ モデルをべースとして，各前処理手法（標準化，前日との差分）, multi-level representationを使用しない各モデル (-std, -move, -multi)の評価を行う.

最後に, 数値の演算操作の推定手法, および, 時間帯情報の入力手法の有用性を確かめるために，各手法を使用しないモデル (-num, -time)の評価を行う. ベースラインとして, 1 日分の株価データのみを入力として, エンコーダに MLP, 前処理手法に標準化と前日との差分を使用するモデル (baseline) を用いた.

表 3 実験で使用した提案モデルの概要

表 4 実験で使用した比較モデルの概要

## 5 実験結果

BLEU, F 値による評価の実験結果を表 5 , 表 6 にそれぞれ示す. また, 各モデルの出力例と人手で書かれた市況コメント (Human) を図 3 に示す.

## 5.1 時系列株価データのエンコードおよび表現手法の効果

まず，時系列株価データのエンコード手法の検討として，MLP, CNN, RNNのそれぞれをエンコーダとしたモデル (mlp-enc, cnn-enc, rnn-enc)の比較を行う. BLEUによる自動評価では，MLP をエンコーダとした提案手法 ( $m l p$-enc) がベースラインを含めたその他全てのモデル (baseline, cnn-enc, rnn-enc 等) と比較して, 有意水準 $5 \%$ で統計的有意に BLEU スコアが高かった.また，表 6 の各表現に対する F 值を比較すると， MLP, CNN, RNNのそれぞれをエンコー ダとした 3 モデルにおいて，MLP をエンコーダとした $m l p$-encがより多くの表現を正しく出力できている．特に， $m l p$-encは，「日経平均、反発で始まる上げ幅100 円超」や「日経平均、一時下げ幅100 円超える」のように，短期的な株価の変動を説明する際に用いられることが多い表現である「上げ幅」，「下げ幅」に対する $\mathrm{F}$ 值が他の 2 つのモデル ( cnn-enc, rnn-enc) に対して大きく上回っていた。これらの結果から，単語の一致率を基にした評価指標である BLEUにおいて，MLPをエンコーダとした $m l p$-enc が CNN, RNNのそれぞれをエンコーダとした cnn-enc, rnn-enc より BLEU スコアが向上したことが推察できる.

表 5 各モデルの評価デー夕に対する BLEU スコア

表 6 各表現に対する $\mathrm{F}$ 值

(a) 2016/2/15 の日経平均株価の値動き

(b) 2016/7/21 の日経平均株価の値動き

(c) 2016/2/15 15:00 の株価に対する生成テキスト

(d) 2016/7/21 9:00 の株価に対する生成テキスト

図 3 短期的・長期的な時系列株価データおよび各モデルの生成テキスト

次に, 時系列株価データの表現手法の検討として, 数値データの前処理手法として使用した標準化および前日との差分の比較を行う，表 5 の BLEU スコアによる自動評価では，標準化と前日との差分の両方を前処理手法として用いる $m l p$-enc がいずれかの前処理を用いないモデル (-std，-move) よりも BLEUが高いことが分かった，表 6 の F 値による評価においては，両者の前処理手法を用いる $m l p$-enc は「上げに転じる」,「下げに転じる」等の株価の値動きに言及する表現について，その他の 2 つのモデル (-move, - std )よりも適切に出力できることが分かった.

また，各前処理手法の有用性を検証するために，両方の前処理手法を用いる $m l p$ - $e n c$ といずれかの前処理を用いない-std および-move の BLEU スコアに着目すると，-move によって生成した市況コメントは-std と比べて, $m l p$-enc よりも大幅に BLEU スコアが低下している. 同様に,表 6 の $\mathrm{F}$ 値による評価において, -move は-std と比べて, mlp-enc よりも「続落」,「反発」等の株価の変動を説明する表現に対する $\mathrm{F}$ 値が大幅に低下している．以上のことから，数値データ

の前処理手法である前日との差分は, 標準化よりも時系列株価データの変動を捉えて株価の値動きを説明する表現を生成する精度に大きく貢献していることが考えられる。

続いて， 入力の時系列株価データの表現方法として用いた multi-level representation の効果について比較する．3.1節で述べたとおり， multi-level representation は，エンコーダの出力べクトルである高レベルな表現（ $\boldsymbol{h}_{\text {short }}^{\text {move }}, \boldsymbol{h}_{\text {short }}^{\text {std }}$ 等）と前処理手法により作成した数值べクトルである低レベルな表現（ $\boldsymbol{l}_{\text {short }}^{\text {move }} \boldsymbol{h}_{\text {short }}^{\text {std }}$ 等）を同時に考慮することで，入力データ中の重要な情報を選択する性能が向上することを期待して導入したべクトル表現手法である。表 5 の BLEU スコアによる自動評価では, multi-level representation を用いないモデル (-multi) の BLEU スコアが $m l p$-enc よりも低下することを確認した，また，表 6 の $\mathrm{F}$ 值による評価では，-multi は mlp-enc と比べて,「続落」,「反落」、「下げに転じる」等の株価の値動きを説明する表現に対する $\mathrm{F}$ 値が低下することが分かった，以上のことから， multi-level representationベクトルを導入することで，モデルが時系列株価データ中の重要な変動を捉える性能が向上し, 自動評価指標である BLEU や F 值の改善に寄与したことが考えられる。

さらに，入力データとして短期的及び長期的な時系列株価デー夕を用いることでモデルが株価の様々な変化を異なるタイムスケールで捉えることができているかを検証するために，短期的及び長期的な時系列株価デー夕 $\boldsymbol{x}_{\mathrm{short}}, \boldsymbol{x}_{\mathrm{long}}$ を両方用いたモデル（mlp-enc, rnn-enc 等）とそれぞれ用いないモデル (-short, -long)の比較を行う。まず, 表 5 の BLEUによる自動評価では，両方のデータを用いた mlp-enc は，いずれかを用いない-short および-long と比べて BLEU スコアが有意に向上することを確認した．特に，短期的な時系列株価データ $\boldsymbol{x}_{\text {short }}$ を入力に与えないモデル (-short)では, BLEU スコアが著しく低下した．また，表 6 の各表現に対する F 値の評価では，両方の時系列株価デー夕を用いたモデル（mlp-enc, rnn-enc 等）は, -short 及び-long と比較して「続落, 反発, 上げに転じる」等の短期的及び長期的な株価の変化を説明する表現を正しく出力できることが分かった。これらの結果より，入力データとして短期的及び長期的な時系列株価データを与えることで，モデルが株価の様々な変化を捉える性能が向上し，値動きを説明する表現を適切に生成する精度の改善に寄与したことが考えられる。

## 5.2 時間帯の考慮手法の効果

次に，モデルが市況コメントが書かれる時間帯に依存する表現を用いて株価の値動きを適切に説明する性能が向上することを期待して導入した時間帯情報埋め込みべクトル $\boldsymbol{T}$ の効果について検証を行う。具体的には，時間帯情報を用いたモデル $(m l p-e n c)$ とそれを用いないモデル (-time)の比較を行う.

まず，表 5 の BLEUによる自動評価では，デコード時のデコーダの状態に時間帯情報を付与していない-time モデルは, $m l p$-enc と比べて BLEUが有意に低下することを確認した。次に，表 6 において，時間帯情報を考慮するモデル（rnn-enc，-num 等）と時間帯情報を考慮しない

モデル (-time) を比較すると，-time は「始まる，前引け，大引け」といった時間帯に関して言及を行う表現を正しく出力できていないことが分かる.

また, 表 6 より, 時間帯情報を考慮しない-time は時間帯情報を考慮する $m l p$-enc と比べて,時間帯に依存する表現だけでなく,「X円高の」「X 円安の」等の株価の変動幅に言及する表現の予測精度も低下することが分かった。これは，「日経平均、大幅続伸前引けは 251 円高の 12,219 円」のように，株価の市況コメントにおいて，「前引け」，「大引け」は，前日の終值からの変動幅について言及する際の「X円高の」，「X 円安の」といった表現とともに用いられる傾向が強いためであると考えられる，つまり，時間帯情報を与えないことで，モデルが「前引け」，「大引け」について言及する性能が低下し, 同様に「X 円高の」，「X 円安の」といった表現の予測性能が低下したことが推察できる。

以上のことから，モデルへ時間帯情報を導入することにより，時間帯に依存する表現を適切に用いつつ株価の値動きを説明する性能の改善に貢献することが考えられる.

## 5.3 数値の演算操作の推定手法の効果

モデルが生成した株価の市況コメントにおいて，株価の終值や変動幅などの数値を適切に出力できているかを検証するために，数値の演算操作の推定手法を導入したモデル $(m l p-e n c)$ と導入していないモデル (-num) の比較を行う. 各モデル (mlp-enc, -num) による市況コメントの生成例および人手で書かれた正解テキスト (Human) を表 7 に示す.

まず，表 5 の BLEUによる自動評価では，演算操作の推定手法を導入していない-num は，本手法を導入した $m l p$-enc と比べて BLEU スコアが大きく低下することが分かった. ここで, -num と mlp-enc の差分は, 数値の演算操作の推定手法のみであることに注意されたい（表 3 , 表 $4)$.

本手法を導入した $m l p$-encでは，株価等の数值について言及する際，予測した演算操作に基づいて実際の値を計算し出力する。一方，本手法を導入していない-num や baseline等では，数值の演算操作の推定を行わず，デコーダである RNN 言語モデルから数値を “単語”として出力する。そのため表 7 のように，演算操作の推定を導入していない-numによって生成した市況コメントでは，数値として言及すべき箇所において＜unk> や適切ではない数値（126 円）が出力される事例が多く，単語の一致率を基にした BLEUによる自動評価において， $m l p$-enc よりも

表 7 -num および mlp-enc モデルによる市況コメントの生成例

低いスコアとなったことが考えられる。

次に，数値の演算操作によってどの程度の株価の数値表現を正しく出力できているかについて分析を行う．表 8 に評価データ中の各数値表現を各モデル $(m l p$-enc, $-n u m)$ が正しく出力できた数，できなかった数を算出した結果を示す. 表 8 の算出において，「日経平均前引け、 97 円安の 17,137 円」のように 1 件の市況コメントに複数の数値表現が含まれている場合は, 各数值表現に対して正しい数値を出力できている数を算出した。全 741 件の評価データにおいて，株価の数値表現は合計で 863 事例含まれていた。このうち，数値の演算操作の推定手法を導入した $m l p$-encでは， 640 事例の数値表現を正解テキストと比較して正しく出力できていた。一方，本手法を導入していない-num では， 92 事例の数値表現を正しく出力できていたが，その他の 771 事例において数値表現が誤っていた．以上により，数値の演算操作の推定を行うことにより，多くの事例で株価の数值表現を正しく出力できていることが確認できた.

加えて，表 8 における $m l p$-enc の数値表現の誤り 223 事例について分析を行った. 具体的には, 正解の演算操作とテキスト，および，推定した演算操作と生成テキストの四つ組を参照し,人手による分析を行った. その結果, $m l p$-enc の数値表現の誤りである 223 事例のうち 81 事例は，数値表現の切り上げ・切り捨て操作（<OP3>，<OP5>等）の推定誤りが起因していることが分かった，例えば，正解テキストでは演算トークンが＜OP5>である数值表現について $<\mathrm{OP} 3>$ と推定した事例が 37 事例と一番目に多く，正解テキストでは演算トークンが $<\mathrm{OP} 4>$ である数值表現について $<\mathrm{OP} 3>$ と推定した事例が 26 事例と 2 番目に多いことが分かった。また, その他の 142 事例については，正解テキストと生成テキストにおけるコンテンツ選択の異なりに起因していることが分かった。具体例として, 正解テキストでは「日経平均、反落で始まる下げ幅は 100 円超える」のように株価の下げ幅について言及しているのに対し, 生成テキストでは「日経平均、反落で始まる 17600 円台」のように株価自体が何円台になったかについて言及している事例などが挙げられる。この事例の場合，正解テキストに含まれる数値（100 円）と生成テキストの数値（17600 円）は異なるため, 表 8 において不正解として算出されていることに注意されたい.

また, 本研究では, 市況コメントで用いられる価格の差分や切り上げ・切り捨てした値などの数値表現を生成するために， 12 種類の演算トークン（表 1）を導入している。しかし, 市況コメントの生成時に正解の数値表現に対応する演算トークンが無い場合, 数値表現の誤りが発生す

表 8 評価デー夕における数値表現の正解・不正解数

ることが懸念される．そこで，本研究で提案する 12 種類の演算トークンの網羅性について調査を行った，具体的には，実験で使用した評価デー夕における株価の数值表現である全 863 事例において，定義した演算トークンに該当しない数値表現の事例を人手によって確認した。その結果，定義した演算トークンに該当しない事例が 2 つあることが分かった．表 9 にれれの事例を示す。例えば，事例 (a)における「200 円」は，週の初めから現在までに株価がどの程度の範囲で値動きしたかを表す値幅であり，表 1 の演算トークンに該当するものは存在しない。また，事例 (b)における「2448 円」は，該当年度において株価がどの程度下落したかを表す年度ベースの下げ幅であり，こちらも同様に表 1 に該当するものは存在しない.これらの数値表現を算出するためには，対応する演算トークンを導入する必要があることに注意されたい．以上の調査の結果，実験で使用した評価データにおいて定義した演算トークンに該当しない事例は 2 件であり, 演算トークンの網羅性が起因となる数值表現の誤り発生は少ないことが分かった.

## 5.4 人手評価結果

表 10 に提案手法 ( $m l p$-enc), ベースライン手法 (baseline) で生成した市況コメントおよび人手で書かれた市況コメント (Human)に対する人手評価の結果を示す。ここで表 10 において，情報性および流暢性は，0 または 1 の 2 段階評価においてスコアが 1 であった事例数，外部情報は生成テキストに外部情報を含む事例数を表している.

人手評価の結果，人手で書かれた市況コメントよりもやや劣るものの，提案手法により情報性および流暢性に関して質の高い市況コメントを生成できることが分かった。また，提案手法とべースライン手法の人手評価結果の比較では, 情報性について, 提案手法がベースライン手法を大幅に上回る結果となった。しかし, 流暢性の観点においては, ベースライン手法が提案手法を上回っていた。

情報性に関する人手評価において提案手法がべースライン手法よりも大幅に上回っていた理由として, 図 3 のように, 提案手法はべースライン手法と比べて生成テキスト中の株価の数値

表 9 定義した演算トークンに該当しない事例

(a) 日経平均、じり安週初から値幅 200 円の範囲で推移

(b) 日経平均、15 年度 2448 円下落年度ベースで 5 年ぶり

表 10 人手評価の結果

表現の誤りが少ないことが主な要因として考えられる。また, ベースライン手法は数値の演算操作の推定手法を使用していないため, 5.3 節の-numのように多くの事例において，数値表現の誤りが含まれていることが推察できる。これらの結果から，時系列株価データの値動きを適切に述べているかに基づいた情報性の評価において，評価者が提案手法の生成テキストの情報性が高いと判定したことが考えられる.

加えて，生成テキストの流暢性に関する人手評価においてべースライン手法が提案手法を上回っていた理由として, 提案手法における演算操作の推定誤りによって, 提案手法が「日経平均、上げ幅 0 円超える」といったテキストを生成していたことが原因として考えられる。「0円超える」といった表現は市況コメントにおいて通常使われず不自然であり，株価の値動きについても述べられていないため，評価者がこのような表現を含む生成テキストを流暢性および情報性が低い市況コメントと判定したことが考えられる。実際に，各評価事例に対する人手評価結果を集計したところ，評価者が流暢性に 0 を付けた 7 件の提案手法の生成テキストのうち， 6 件において「0円」という表現が含まれていることが分かった。また, 「0円」という表現は通常の市況コメントでは用いられないため, 価格を “単語”として予測するべースライン手法の語彙には含まれていない，そのため, ベースライン手法では上記のような「0 円超える」といった表現を含む不自然なテキストを生成しない。このことから，評価者はベースライン手法で生成された全ての市況コメントについて流暢性が高いと判定したことが考えられる。

また，人手で書かれた市況コメント (Human)のうち， 5 件の流暢性が低いと判定された理由について確認を行った。その結果， 5 件の市況コメントのいずれにおいても「日経平均、反発して始まる 42 円高、短期的な戻りを期待」といった, 価格の言及方法について独特の略し方が用いられていることが分かった。 その要因として，本実験では日経平均株価ニュースのへッドラインテキストを市況コメントとして使用しており，文字数やスペース等の制約が存在することが関係していると考えられる。このような略した表現は，ほかの多くの市況コメントでは用いられないことから流暢性が低いと判定されたと考えられる.

## 5.5 各学習データサイズのモデル精度への影響

学習データサイズを変化させた場合のモデル精度への影響について分析を行った. 図 4 に各学習データサイズにおける各モデルの BLEU スコアの比較を示す。分析では, 開発データセットに対する BLEU スコアを算出した，実験結果より，学習データサイズを 3,000 事例にした時に，ほとんどのモデルにおいて BLEU スコアが飽和していることが分かった. また，各モデル間でスコアの収束の早さに大きな違いは無かった.

図 4 各学習データサイズにおける BLEU スコアの比較

## 6 おわりに

本研究では，日経平均株価を例として，時系列株価データから株価の值動きを概況する市況コメントを自動生成するためのエンコーダ・デコーダモデルを提案した。時系列株価デー夕を概況する市況コメントには，時系列データ中の数値への言及，過去の価格の変動との比較，テキストが書かれる時間帯によって言及する内容が異なる，などの特徴があり，本研究では大きく分けて 3 つの手法を提案し，有用性を示した.

今後の課題として 2 点を挙げる。まず， 1 点目の課題として，時系列株価データのエンコー ド手法のさらなる検討のために，近年さまざまな言語処理タスクで有用性が示されている SelfAttention Network (SAN) をエンコーダとして利用することが挙げられる．SANの利点の 1 つとして, RNNなどの再帰構造のネットワークと比べて, 時系列データにおける各タイムステップ間の依存関係をより短い距離で考慮できることが挙げられる (Vaswani, Shazeer, Parmar, Uszkoreit, Jones, Gomez, Kaiser, and Polosukhin 2017; Shen, Zhou, Long, Jiang, Pan, and Zhang 2018). これにより, 全 62 タイムステップからなる 1 日分の時系列株価データといった長い系列長の時系列データにおける長距離の依存関係をモデル化する能力が向上し，短期的及び長期的な株価の変化を捉える性能が改善することが期待できる。

2 点目の課題として, いつからいつまでの株価の値動きや上げ幅について言及するべきかモデルに考慮させることが考えられる。例えば，実際の日経平均株価の上げ幅が 300 円だったにも拘わらず，現在のモデルでは「日経平均、上げ幅 200 円超える」といった市況コメントを生成することがある。このような生成テキストは，誤りではないが正確な市況コメントとは言えない。この問題を解決するために，モデルが市況コメントを生成する際に，生成テキストで言及する時系列株価データの期間を選択するための機構が必要であると考えられる.

また, 今後の展望として, 天気予報やスポーツなどの様々なドメインにおける時系列データの概況テキストの生成や, 株式市場全体の個別銘柄などの複数の時系列株価デー夕を考慮した市況コメントの生成などが考えられる.

## 謝 辞

本論文は筆者らが国立研究開発法人産業技術総合研究所に在籍中の研究成果をまとめたものです.また, 本論文の一部は, The 55th Annual Meeting of the Association for Computational Linguistics (ACL2017)で発表したものです (Murakami, Watanabe, Miyazawa, Goshima, Yanase, Takamura, and Miyao 2017). この成果は, 国立研究開発法人新エネルギー・産業技術総合開発機構 (NEDO) の委託業務の結果得られたものです.

## 参考文献

Angeli, G., Liang, P., and Klein, D. (2010). "A Simple Domain-Independent Probabilistic Approach to Generation." In Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing, pp. 502-512. Association for Computational Linguistics.

Aoki, K. and Kobayashi, I. (2016). "Linguistic Summarization Using A Weighted N-gram Language Model Based on the Similarity of Time-series Data." In Proceedings of IEEE International Conference on Fuzzy Systems, pp. 595-601.

Aoki, K., Miyazawa, A., Ishigaki, T., Aoki, T., Noji, H., Goshima, K., Kobayashi, I., Takamura, H., and Miyao, Y. (2019). "Controlling Contents in Data-to-Document Generation with Human-Designed Topic Labels." In Proceedings of the 12th International Conference on Natural Language Generation, pp. 323-332. Association for Computational Linguistics.

Aoki, T., Miyazawa, A., Ishigaki, T., Goshima, K., Aoki, K., Kobayashi, I., Takamura, H., and Miyao, Y. (2018). "Generating Market Comments Referring to External Resources." In Proceedings of the 11th International Conference on Natural Language Generation, pp. 135-139. Association for Computational Linguistics.

Banaee, H., Ahmed, M. U., and Loutfi, A. (2013a). "A Framework for Automatic Text Generation of Trends in Physiological Time Series Data." In Processing of IEEE International Conference on Systems, Man, and Cybernetics, pp. 3876-3881.

Banaee, H., Ahmed, M. U., and Loutfi, A. (2013b). "Towards NLG for Physiological Data Monitoring with Body Area Networks." In Proceedings of the 14th European Workshop on Natural Language Generation, pp. 193-197. Association for Computational Linguistics.

Barzilay, R. and Lapata, M. (2005). "Collective Content Selection for Concept-to-Text Generation." In Proceedings of the Conference on Human Language Technology and Empirical Methods in Natural Language Processing, pp. 331-338. Association for Computational Linguistics.

Belz, A. (2007). "Probabilistic Generation of Weather Forecast Texts." In Proceedings of the 2007 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 164-171. Association for Computational Linguistics.

Chen, D. L. and Mooney, R. J. (2008). "Learning to Sportscast: A Test of Grounded Language Acquisition." In Proceedings of the 25th International Conference on Machine Learning, pp. 128-135.

Cho, K., van Merrienboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., and Bengio, Y. (2014). "Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation." In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing, pp. 1724-1734. Association for Computational Linguistics.

Cun, Y. L., Boser, B., Denker, J. S., Howard, R. E., Habbard, W., Jackel, L. D., and Henderson, D. (1990). "Advances in Neural Information Processing Systems 2.". Chap. Handwritten Digit Recognition with a Back-propagation Network, pp. 396-404. Morgan Kaufmann Publishers Inc.

Dale, R., Geldof, S., and Prost, J.-P. (2003). "CORAL: Using Natural Language Generation for Navigational Assistance." In Proceedings of the 26th Australasian Computer Science Conference, pp. 35-44.

Devlin, J., Chang, M.-W., Lee, K., and Toutanova, K. (2019). "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding." In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1, pp. 4171-4186. Association for Computational Linguistics.

Freitas, F. D., De Souza, A. F., and de Almeida, A. R. (2009). "Prediction-Based Portfolio Optimization Model Using Neural Networks." Neurocomputing, 72 (10), pp. 2155-2170.

Gatt, A. and Krahmer, E. (2018). "Survey of the State of the Art in Natural Language Generation: Core Tasks, Applications and Evaluation." Journal of Artificial Intelligence Research, 61 (1), pp. 65-170.

Gkatzia, D., Hastie, H., and Lemon, O. (2014). "Comparing Multi-label Classification with Reinforcement Learning for Summarisation of Time-series Data." In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics, pp. 1231-1240. Associa-
tion for Computational Linguistics.

Glorot, X., Bordes, A., and Bengio, Y. (2011). "Deep Sparse Rectifier Neural Networks." In Gordon, G., Dunson, D., and Dudík, M. (Eds.), Proceedings of the Fourteenth International Conference on Artificial Intelligence and Statistics, Vol. 15 of Proceedings of Machine Learning Research, pp. 315-323. PMLR.

Goldberg, E., Driedger, N., and Kittredge, R. I. (1994). "Using Natural-Language Processing to Produce Weather Forecasts." IEEE Expert, 9 (2), pp. 45-53.

Gu, J., Lu, Z., Li, H., and Li, V. O. (2016). "Incorporating Copying Mechanism in Sequenceto-Sequence Learning." In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics, pp. 1631-1640. Association for Computational Linguistics.

Gulcehre, C., Ahn, S., Nallapati, R., Zhou, B., and Bengio, Y. (2016). "Pointing the Unknown Words." In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics, pp. 140-149. Association for Computational Linguistics.

Hochreiter, S. and Schmidhuber, J. (1997). "Long Short-Term Memory." Neural Computation, 9 (8), pp. 1735-1780.

Iso, H., Uehara, Y., Ishigaki, T., Noji, H., Aramaki, E., Kobayashi, I., Miyao, Y., Okazaki, N., and Takamura, H. (2019). "Learning to Select, Track, and Generate for Data-to-Text." In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pp. 2102-2113. Association for Computational Linguistics.

Kim, J. and Mooney, R. J. (2010). "Generative Alignment and Semantic Parsing for Learning from Ambiguous Supervision." In Proceedings of the 23rd International Conference on Computational Linguistics, pp. 543-551.

Kingma, D. P. and Ba, J. (2015). "Adam: A Method for Stochastic Optimization." In Proceedings of the 3rd International Conference on Learning Representations.

Koehn, P. (2004). "Statistical Significance Tests for Machine Translation Evaluation." In Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing, pp. 388-395. Association for Computational Linguistics.

Konstas, I. and Lapata, M. (2012). "Unsupervised Concept-to-Text Generation with Hypergraphs." In Proceedings of the 2012 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 752-761. Association for Computational Linguistics.

Konstas, I. and Lapata, M. (2013). "Inducing Document Plans for Concept-to-Text Generation." In Proceedings of the 2013 Conference on Empirical Methods in Natural Language Processing, pp. 1503-1514. Association for Computational Linguistics.

Kukich, K. (1983). "Design of A Knowledge-Based Report Generator." In Proceedings of the 21st Annual Meeting of the Association for Computational Linguistics, pp. 145-150. Association for Computational Linguistics.

Lebret, R., Grangier, D., and Auli, M. (2016). "Neural Text Generation from Structured Data with Application to the Biography Domain." In Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing, pp. 1203-1213. Association for Computational Linguistics.

Li, J., Galley, M., Brockett, C., Spithourakis, G., Gao, J., and Dolan, B. (2016). "A PersonaBased Neural Conversation Model." In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics, pp. 994-1003. Association for Computational Linguistics.

Liang, P., Jordan, M., and Klein, D. (2009). "Learning Semantic Correspondences with Less Supervision." In Proceedings of Association for Computational Linguistics and International Joint Conference on Natural Language Processing, pp. 91-99. Association for Computational Linguistics.

Liu, T., Wang, K., Sha, L., Chang, B., and Sui, Z. (2018). "Table-to-Text Generation by Structure-Aware Seq2seq Learning." In Proceedings of the 32nd AAAI Conference on Artificial Intelligence, pp. 4881-4888.

Lu, W., Ng, H. T., and Lee, W. S. (2009). "Natural Language Generation with Tree Conditional Random Fields." In Proceedings of the 2009 Conference on Empirical Methods in Natural Language Processing, pp. 400-409. Association for Computational Linguistics.

Luong, T., Sutskever, I., Le, Q., Vinyals, O., and Zaremba, W. (2015). "Addressing the Rare Word Problem in Neural Machine Translation." In Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing (Volume 1: Long Papers), pp. 11-19. Association for Computational Linguistics.

Mei, H., Bansal, M., and Walter, M. R. (2016a). "Listen, Attend, and Walk: Neural Mapping of Navigational Instructions to Action Sequences." In Proceedings of the 30th AAAI Conference on Artificial Intelligence, pp. 2772-2778.

Mei, H., Bansal, M., and Walter, M. R. (2016b). "What to Talk about and How? Selective Generation using LSTMs with Coarse-to-Fine Alignment." In Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 720-730. Association for Computational Linguistics.

Murakami, S., Watanabe, A., Miyazawa, A., Goshima, K., Yanase, T., Takamura, H., and Miyao,

Y. (2017). "Learning to Generate Market Comments from Stock Prices." In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 1374-1384. Association for Computational Linguistics.

Papineni, K., Roukos, S., Ward, T., and Zhu, W.-J. (2002). "BLEU: A Method for Automatic Evaluation of Machine Translation." In Proceedings of the 40th Annual Meeting of the Association for Computational Linguistics, pp. 311-318. Association for Computational Linguistics. https://openai.com/blog/better-language-models/.

Portet, F., Reiter, E., Gatt, A., Hunter, J., Sripada, S., Freer, Y., and Sykes, C. (2009). "Automatic Generation of Textual Summaries from Neonatal Intensive Care Data." Artificial Intelligence, 173 (7-8), pp. 789-816.

Radford, A., Wu, J., Child, R., Luan, D., Amodei, D., and Sutskever, I. (2019). "Language Models are Unsupervised Multitask Learners.".

Reiter, E., Sripada, S., Hunter, J., Yu, J., and Davy, I. (2005). "Choosing Words in ComputerGenerated Weather Forecasts." Artificial Intelligence, 167 (1-2), pp. 137-169.

Rush, A. M., Chopra, S., and Weston, J. (2015). "A Neural Attention Model for Abstractive Sentence Summarization." In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing, pp. 379-389. Association for Computational Linguistics.

Sha, L., Mou, L., Liu, T., Poupart, P., Li, S., Chang, B., and Sui, Z. (2018). "Order-Planning Neural Text Generation From Structured Data." In Proceedings of the 32nd AAAI Conference on Artificial Intelligence, pp. 5414-5421.

Shen, T., Zhou, T., Long, G., Jiang, J., Pan, S., and Zhang, C. (2018). "DiSAN: Directional Self-Attention Network for RNN/CNN-free Language Understanding." In Proceedings of the 32nd AAAI Conference on Artificial Intelligence, pp. 5446-5455.

Song, K., Tan, X., Qin, T., Lu, J., and Liu, T.-Y. (2019). "MASS: Masked Sequence to Sequence Pre-training for Language Generation." In International Conference on Machine Learning, pp. 5926-5936.

Sutskever, I., Vinyals, O., and Le, Q. V. (2014). "Sequence to Sequence Learning with Neural Networks." In Proceedings of the 27th International Conference on Neural Information Processing Systems, pp. 3104-3112.

田川裕輝, 嶋田和孝 (2018). スポーツ要約生成におけるテンプレート型手法とニューラル型手法の提案と比較. 自然言語処理, 25 (4), pp. 357-391.

Taniguchi, Y., Feng, Y., Takamura, H., and Okumura, M. (2019). "Generating Live Soccer-Match Commentary from Play Data." In Proceedings of the 33rd AAAI Conference on Artificial Intelligence, pp. 7096-7103.

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., and Polosukhin, I. (2017). "Attention is All You Need." In Guyon, I., Luxburg, U. V., Bengio, S., Wallach, H., Fergus, R., Vishwanathan, S., and Garnett, R. (Eds.), Advances in Neural Information Processing Systems 30, pp. 5998-6008. Curran Associates, Inc.

Vijayarani, S., Ilamathi, M. J., and Nithya, M. (2015). "Preprocessing Techniques for Text Mining: An Overview." International Journal of Computer Science 83 Communication Networks, 5 (1), pp. 7-16.

Vinyals, O., Toshev, A., Bengio, S., and Erhan, D. (2015). "Show and Tell: A Neural Image Caption Generator." In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, pp. 3156-3164.

Wong, Y. W. and Mooney, R. (2007). "Generation by Inverting a Semantic Parser that Uses Statistical Machine Translation." In Proceedings of the 2007 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 172-179. Association for Computational Linguistics.

Zhang, D., Yuan, J., Wang, X., and Foster, A. (2018). "Probabilistic Verb Selection for Datato-Text Generation." Transactions of the Association for Computational Linguistics, 6, pp. 511-527.

Zhang, G. P. and Qi, M. (2005). "Neural Network Forecasting for Seasonal and Trend Time Series." European Journal of Operational Research, 160 (2), pp. 501-514.

## 略歴

村上聡一朗 : 2015 年熊本高等専門学校専攻科電子情報システム工学専攻修了. 2017 年東京工業大学大学院博士前期課程修了. 同年, 株式会社 NTT ドコモに入社. 2019 年より, 東京工業大学工学院博士後期課程に在籍. 自然言語処理, 特に自然言語生成, 機械翻訳に関する研究開発に従事. ACL, 言語処理学会, 各会員.

渡邊亮彦：2012 年群馬工業高等専門学校専攻科生産システム工学専攻修了. 2014 年東京工業大学大学院総合理工学研究科博士前期課程修了. 同年, 同研究科博士後期課程に進学. 2018 年より, 株式会社 EduLab にて機械学習を活用したプロダクトの研究開発に従事.

宮澤彬：2012 年早稲田大学政治経済学部経済学科卒業. 2014 年より総合研究大学院大学複合科学研究科情報学専攻博士課程に在籍. 自然言語処理、特にメタファーへの計算的アプローチに関心を持つ。

五島圭一：2012 年慶應義塾大学経済学部卒業. 2014 年慶應義塾大学大学院経
営管理研究科修士課程修了. 2017 年東京工業大学大学院総合理工学研究科知能システム科学専攻博士後期課程修了. 博士 (工学).日本銀行金融研究所を経て, 2019 年より早稲田大学商学部講師.

柳瀬利彦：2005 年東京大学工学部電子情報工学科卒業. 2007 年東京大学大学院新領域創成科学研究科基盤情報学専攻修士課程修了. 2010 年同大学大学院にて博士後期課程を修了。博士 (科学)。株式会社日立製作所を経て，2018 年より株式会社 Preferred Networks にて機械学習及びブラックボックス最適化に関する研究開発に従事. 人工知能学会, Association for Computing Machinery の会員.

高村大也：1997 年東京大学工学部計数工学科卒業. 2000 年同大大学院工学系研究科計数工学専攻修了 (1999 年はオーストリアウィーン工科大学にて研究). 2003 年奈良先端科学技術大学院大学情報科学研究科博士課程修了. 博士 (工学)． 2003 年から 2010 年まで東京工業大学精密工学研究所助教. 2006 年にはイリノイ大学にて客員研究員. 2010 年から 2016 年まで同准教授. 2017 年より同教授および産業技術総合研究所人工知能センター知識情報研究チー ム研究チーム長. 計算言語学, 自然言語処理を専門とし, 特に機械学習の応用に興味を持つ。

宮尾祐介：2000 年東京大学大学院理学系研究科修士課程修了. 2001 年より同大学にて助手, 2007 年より助教. 2006 年同大学大学院にて博士号（情報理工学）取得. 2010 年より国立情報学研究所准教授，2018 年より東京大学教授.構文解析, 意味解析などの自然言語処理基盤技術とその応用の研究に従事.人工知能学会, 情報処理学会, 言語処理学会, Association for Computational Linguistics 各会員.

(2019 年 11 月 1 日受付)

(2020 年 2 月 1 日再受付)

(2020 年 3 月 3 日採録)