# 論文
## スポーツ要約生成におけるテンプレート型手法と ニューラル型手法の提案と比較

## 田川 裕輝 ${ ^{\dagger}$ 嶋田 和孝 ${ }^{\dagger}$}

本研究では, 日本で人気のある野球に着目し, Play-by-playデータからイニングの要約文の生成に取り組む．Web 上では多くの野球に関する速報が配信されている.戦評は試合終了後にのみ更新され, “待望の先制点を挙げる”のような試合の状況をユーザに伝えるフレーズ（本論文では Game-changing Phrase; GP と呼ぶ）が含まれているのが特徴であり, 読み手は試合の状況を簡単に知ることができる。このような特徴を踏まえ, 任意の打席に対して, GPを含む要約文を生成することは, 試合終了後だけでなく,リアルタイムで試合の状況を知りたい場合などに非常に有益であるといえる。 そこで, 本研究では Play-by-play データから GP を含む要約文の生成に取り組む. また, 要約生成手法としてテンプレート型文生成手法と Encoder-Decoder モデルを利用した手法の 2 つを提案する.

キーワード: スポーツ要約生成, テンプレート型要約, エンコーダーデコーダー, 転移学習

## Comparison of Template- and Neural-based Methods for Sports Summary Generation

\author{
Yuki Tagawa $^{\dagger}$ and Kazutaka Shimada ${ }^{\dagger \dagger}$
}

In this study, we propose inning summarization methods to generate a simple and sophisticated summary of baseball games using play-by-play data. We focus on the two information sources of inning reports and game summaries. First, we generate a basic sentence using an inning report; further, the basic sentence is integrated with an explanatory phrase to generate inning summaries that contain expressions such as "the long-awaited first score" in game summaries. We refer to these phrases as the game-changing phrases (GPs). Readers can easily understand the situation of a game using GPs. In this study, we investigate the template- and neural-based methods of summary generation. Additionally, we evaluate the two methods and discuss their advantages and disadvantage.

Key Words: Sports Summary Generation, Template-based Summarization, Encoder-Decoder, Transfer Learning


## 1 はじめに

スポーツの分野で特に人気の高い野球やサッカーなどでは，試合の速報が Webなどで配信されている。特に，日本で人気のある野球では，試合中にリアルタイムで更新される Play-by-play データやイニング速報, 試合終了直後に更新される戦評など様々な速報がある. Play-by-play データ，イニング速報, 戦評の例をそれぞれ表 1 , 表 2 , 表 3 に示す. Play-by-playデー夕（表 1）

表 12016 年 3 月 27 日ソフトバンク対楽天戦 10 回表の Play-by-play データ

表 22016 年 3 月 27 日ソフトバンク対楽天戦 10 回表のイニング速報

表 32016 年 3 月 27 日ソフトバンク対楽天戦の戦評

は打席ごとにアウト数や出畕状況の変化, 打撃内容などの情報を表形式でまとめたデータである.イニング速報（表 2 ）はイニング終了時に更新されるテキストであり，イニングの情報を網羅的に説明したテキストである。戦評（表 3）は試合が動いたシーンにのみ着目したテキストであり，試合終了後に更新される。特に，戦評には“0-0のまま迎えた”や“試合の均衡を破る” のような試合の状況をユーザに伝えるフレーズ（本論文では Game-changing Phrase; GP と呼ぶ）が含まれているのが特徴である。戦評では，“先制”という単語のみでイニングの結果を説明するだけでなく，“試合の均衡を破る”といったフレーズを利用することで，先制となった得点の重要度をユーザは知ることができる。また，“0-0のまま迎えた”というフレーズが利用されていると, ユーザは試合が膠着し, 緊迫しているという状況を知ることができる. 本研究ではこのような試合の状況をユーザに伝えるフレーズを GP と定義する.

これらの速報は，インターネットを介して配信されているため，スマートフォンやタブレッ卜端末など様々な表示領域のデバイスで閲覧されている。また，ユーザはカーナビなどに搭載されている音声対話システムを通じてリアルタイムで速報にアクセスすることも考えられる。 このような需要に対して，イニング速報はイニングの情報を網羅的に説明したテキストであり，比較的長い文であるため, 表示領域に制限のあるデバイスでは読みづらい。音声対話システムの出力だと考えると，より短く，端的に情報を伝えられる文の方が望ましい．また戦評は GP が含まれており試合の状況を簡単に知ることができるが，試合が動いた数打席にのみ言及したものであり, 試合終了後にしか更新されない.このようなそれぞれの速報の特徴を考慮すると,任意の打席に対して GP を含むイニングの要約文を生成することは, 試合終了後だけでな, リアルタイムで試合の状況を知りたい場合などに非常に有益であると考えられる。そこで, 任意の打席に対して GPを含むイニングの要約文を自動生成する.

本研究では Play-by-play データからイニングの要約文の生成に取り組む. また, 要約文を生成する際に，GPを制御することで，GPを含まないシンプルな要約文と GPを含む要約文の 2 つを生成する. 文を生成する手法としては, 古くから用いられてきた手法にテンプレート型文生成手法 (McKeown and Radev 1995) がある。また，近年では Encoder-Decoder モデル (Sutskever， Vinyals, and Le 2014)を利用した手法 (Rush, Chopra, and Weston 2015) も盛んに研究されている. 本研究では, テンプレート型生成手法, Encoder-Decoder モデルを利用した手法の 2 つを提案する。

テンプレート型文生成手法 (McKeown and Radev 1995; McRoy, Channarukul, and Ali 2000) とは，生成する文の雛形となるテンプレートを事前に用意し，テンプレートに必要な情報を補完することで文を生成する手法である。岩永ら (岩永, 西川, 徳永 2016) は, 野球の試合を対象とし，テンプレート型文生成手法により，戦評の自動生成に取り組んでいる。彼らは，事前に人手でテンプレートとそのテンプレートを利用する条件を用意し, 戦評を自動生成する手法を提案している。テンプレート型文生成手法では，文法的に正確な文が生成できるといった利
点があるが，テンプレートを事前に用意することはコストが大きいといった欠点がある。そこで，本研究ではこの欠点を補うためにテンプレートを自動で生成する文生成手法を提案する.

また, 近年では深層学習の発展により, 機械翻訳 (Cho, van Merrienboer, Gulcehre, Bahdanau, Bougares, Schwenk, and Bengio 2014; Luong, Pham, and Manning 2015) やヘッドライン生成 (Rush et al. 2015) など文生成分野における様々なタスクで Encoder-Decoder モデルを利用した多くの研究成果が報告されている. 本研究では, テンプレート型生成手法に加え, Encoder-Decoder モデルを利用した要約文生成手法も提案する。本研究の目的は, 読み手が試合の状況を理解しやすい要約文を生成するため, 要約文に GP を組み込むことである。そこで，入力データが与えられたときに，GPを含む戦評を出力するように大量の入出力の組を用いて Encoder-Decoder を学習させることが考えられる。しかし, 戦評は試合終了後にしか更新されないため, 1 試合に 1つの戦評しか手に入れることができず，大量の学習デー夕を用意することが困難である．この問題を緩和するため, Encoder-Decoder モデルと転移学習を組み合わせたモデルを提案する.

本研究では, テンプレート型生成手法 (3 章), Encoder-Decoder モデルを利用した手法（以降, ニューラル型生成手法)（4 章）の2つを提案し, 生成された要約文を比較, 考察する. 本論文の主な貢献は以下の 4 つである.

・ 野球のイニング要約タスクについて, テンプレート型生成手法とニューラル型生成手法を提案する。

・ テンプレート型手法では, テンプレートを自動獲得する手法を導入する.
- ニューラル型手法では, 転移学習を利用し, 戦評のデー夕数が十分ではないという問題点を緩和する。
- GPを含まないシンプルな文と GPを含む文の 2 種類の要約文の生成を提案し，その有効性を検証する。

## 2 関連研究

スポーツを題材とし, 要約文を自動で生成する研究は試合のスタッツや選手の成績などのデー 夕を入力とした研究 (村上, 笹野, 高村, 奥村 2016; Robin 1994) やマイクロブログ, テキストコメンタリーに投稿されるテキストを入力とした研究 (Nichols, Mahmud, and Drews 2012; Takamura, Yokono, and Okumura 2011; Sharifi, Hutton, and Kalita 2010; Kubo, Sasano, Takamura, and Okumura 2013; Tagawa and Shimada 2016; Jianmin, Jinge, and Xiaojun 2016), テキスト速報などのニュース記事を入力とした研究 (Allen, Templon, McNally, Birnbaum, and Hammond 2010; Oh and Shrobe 2008; 岩永他 2016) など盛んに行われている.

特に, マイクロブログの普及とともに Twitter を対象としたサッカーの要約生成の研究 (Takamura et al. 2011; Nichols et al. 2012; Kubo et al. 2013)が盛んに取り組まれている. Twitter

を対象とした要約生成の研究の多くは抽出型要約手法を用いている. 抽出型要約手法では文や tweet を抽出単位とするため, ある程度の文法性が担保されるといった利点があり, 口語表現,表記ゆれ，誤字脱字といった言語現象が多く見られるマイクロブログにおいて有効である。そのため, マイクロブログを対象とした要約生成の研究では抽出型要約手法が主流となっている. しかし, 抽出した文や tweet の一部のみが重要な情報を含み, 他の部分が冗長な要素である場合が考えられる. この場合, 要約文中に要約に必要な要素と冗長な要素が混在するといった問題がある。このような問題点に対して, Tagawa and Shimada (Tagawa and Shimada 2016) は, 生成型要約手法で Twitter を対象としたサッカーの要約生成に取り組んでいる. Sharifi ら (Sharifi et al. 2010)は，Twitter を対象としたスポーツの試合や政治，事件などのイベントに対する要約を生成型要約手法により生成している。より柔軟に要約を生成するためには, 生成型の要約手法の実現が不可欠である。また，生成型の要約手法などに代表される文生成の研究において，生成する動詞の選択に着目した研究に Smiley ら (Smiley, Plachouras, Schilder, Bretz, Leidner, and Song 2016)の研究がある. Smiley らはニュース記事において, "rocketed up 19 percent" や“moved up 2 percent”のように“percent”の直前の数値によって“上昇する”や“下降する”という同じ意味を持つ単語であっても単語の表層が変化していることに着目している。また, “increase" や “decrease”のような一般的な動詞を利用するだけでなく, パーセントの直前の数値などに代表されるような度合いの強さを動詞を選択する際に組み込むことができれば， より自然に聞こえるテキストを生成することができると報告している. Smileyらは, Reuters News Agency のニュース記事 1400 万記事を分析し, “percent”の直前の数値が大きい場合には “skyrocket” や “rocket” という表現が利用され，\%の直前の数值が小さい場合には “edge up” や “nudge up”という表現が利用されることを報告している. また, “Net profits dropped 2\%"と “Net profits plummeted $2 \%$ ののよな動詞のみが異なる 2 つの文に対して, どちらがもう片方より自然に聞こえるかを被験者が選択する実験を行っている。この例では, “dropped” は $2 \%$ の直前に出現しやすい動詞であり, “plummeted" $2 \%$ 前に出現しにくい動詞となっている．実験の結果，2000問の質問のうち，1372 問が直前に出現しやすい動詞を含む文が自然に聞こえるテキストとして選択される結果となり，チャンスレートである $50 \%$ を有意に上回る結果となったことを示している. Smiley らの研究を加味すると，本研究においても先制したイニングでは “先制”という一般的な単語のみを利用するだけでなく, “試合の均衡を破る”や“幸先良く先制する”のようなフレーズを利用することで，先制となった得点の重要度をユーザに伝えることができると考えられる。また，“0-0のまま迎えた”というフレーズが要約文に組み込まれていると, ユーザは試合が膠着し, 緊迫しているという状況をユーザは知ることができる。一方, “タイムリーヒット”という単語は得点が入ったという事実以上の意味は含まれておらず，GP には含まれない. 本研究ではこのような試合の状況を伝えることのできるフレーズを GP と定義し, 要約文に組み込む。
本研究と同じく, 野球を対象とした研究 (村上他 2016; Oh and Shrobe 2008; Allen et al. 2010) も盛んに取り組まれている。Oh and Shrobe (Oh and Shrobe 2008)は，野球に関するニュース記事からホームチーム視点の記事とアウェイチーム視点の試合の記事の生成に取り組んでいる.同様に, Allen ら (Allen et al. 2010)は, 野球に関する様々なデータから新聞記者が書いたような試合の記事の生成に取り組んでいる. Allen らやOh and Shrobe らの研究は, 試合全体に関する記事を作成することを目的としており, 生成される文は比較的長く, 本研究とは目的が異なる. 村上ら（村上他 2016）は，表 2 のようなイニング速報を自動で生成している. 村上らは,速報中のそれ以上細かく分割できない一連の事象のことをイベントと定義し，イニング速報の自動生成を打者成績の系列からイベントの系列を予測する系列ラベリング問題として扱っている. 具体的には，イベント文中の打者名やアウト数をスロット化し，イベントテンプレートを作成する。そして, 打者成績系列とイベントテンプレート系列を学習することで, 未知の打者成績系列に対してイベントテンプレートを予測し，イニング速報を自動生成している。村上らの目的はイニング速報を再現することが目的であり，本研究と目的が異なる．また，GP を要約文に組み込むことが野球を対象としたこれらの研究と本研究との違いである.

スポーツ以外を対象とした文生成の研究に McRoy ら (McRoy et al. 2000)の研究がある. McRoy らは, has-property(John,age,20)のような形式から, “John's age is 20.”のような文を生成するシステムを開発している。具体的には, 事前に定義された文をそのまま返すルール (The String rule) や事前に定義されたテンプレートのスロットを埋めた文を返すルール (The Template rule) などの 10 のルールを用意している. しかし, 人手でテンプレートを用意するのはコストのかかる作業であり，現実的であるとはいい難い. そこで，本研究では，既に Web 上に大量に存在するイニング速報からテンプレートを自動生成する手法を提案する.

また, 近年では機械翻訳 (Cho et al. 2014; Luong et al. 2015), ヘッドライン生成 (Rush et al. 2015), キャプション生成 (Vinyals, Toshev, Bengio, and Erhan 2015; Xu, Ba, Kiros, Cho, Courville, Salakhudinov, Zemel, and Bengio 2015), 対話応答生成 (Li, Galley, Brockett, Spithourakis, Gao, and Dolan 2016; Sato, Yoshinaga, Toyoda, and Kitsuregawa 2017), 要約生成 (Chopra, Auli, and Rush 2016) など多くの系列変換タスクで Encoder-Decoder モデルを利用した研究成果が報告されている. 特に, 系列変換タスクの近年の傾向として, 出力系列を所望する出力に制御, 変化させる研究が盛んに取り組まれている.

出力系列を所望する出力に制御する手法として, Decode 時の各タイムステップに追加的な情報を付与する方法が多くの研究 (Li et al. 2016; Kikuchi, Neubig, Sasano, Takamura, and Okumura 2016; Murakami, Watanabe, Miyazawa, Goshima, Yanase, Takamura, and Miyao 2017; 村上, 笹野, 高村, 奥村 2017) に応用されている. Li ら (Li et al. 2016) は, 不特定多数の対話データから学習された応答生成モデルが，たとえば，“出身はどこですか?”という発話に対しては，“東京です.” と応答し, “どこの出身ですか?”という発話に対しては“福岡です.” と応答すると

いったように応答に一貫性がないことを問題とした。この問題に対して, 個人の属性を表すべクトルを Decoder に追加的に入力することで，個人の背景などの特徴を捉えた一貫性のある応答生成に成功している. Kikuchi ら (Kikuchi et al. 2016) は, Encoder-Decoder モデルを用いた要約生成において, 出力系列の長さを制御するための探索べースの手法や学習べースの手法の 4 つの手法を提案している，学習べースの手法のうちの 1 つは, 出力すべき長さを表す長さ埋め込みべクトルを Decoder へ追加的に入力する手法であり，要約精度を落とすことなく，出力系列の長さを制御する機能を獲得できたと報告している． Murakami ら (Murakami et al. 2017) は, 日経平均株価の 1 日分のデータと 7 営業日分の終值のデータから概況テキストの自動生成に取り組んでいる，特に，時間带に関する “前引け” ゃ “大引け” などの表現を正しく出力するため，概況テキストが配信される時間带を表すべクトルを Decoder に追加的に入力している. その結果，入力しないモデルに比べ，時間帯に関する表現を正しく出力することに成功したと報告している。村上ら (村上他 2017) は, 気圧や気温, 風向きなどの予測值が格納された数値予報マップから天気予報コメントの自動生成に取り組んでいる。村上らも同じく, Decode 時に天気予報コメント配信時の日時や季節などのメ夕情報を追加的に入力することで，“今日”，“明日”などの時間帯に関する表現や，“春の陽気”のような季節特有の表現を正しく出力できるようになり, 単語の一致率を基にした評価指標である BLEU 值が向上したと報告している. 本研究においても，表 1 の打席に関するデータ以外の時間情報などのイニング情報を考慮することで，GPの制御を試みる。

Decode 時の各タイムステップに追加的な情報を入力する手法以外には, 入力系列に特定のトー クンを付与することで出力を制御を試みる研究 (Sennrich, Haddow, and Birch 2016; Yamagishi, Kanouchi, Sato, and Komachi 2016) がある. Sennrich ら (Sennrich et al. 2016)は，英独機械翻訳において，出力であるドイツ語側の敬意表現の制御に取り組んでいる，入力である英文に出力であるドイツ文の敬意表現の有無を単語として組み込んだコーパスで学習し，テスト時にも敬意表現を入力文に付与することで付与した情報を考慮した翻訳文を出力することができ，参照訳と同じ敬意表現を入力文に付与した場合，BLEU 值が向上することを報告している。同じく, Yamagishi ら (Yamagishi et al. 2016) は, Sennrich らの手法を基に, 日英翻訳での出力文の態制御に取り組んでいる，出力である英文の態情報を入力である日本語文に態情報として組み込んだコーパスで学習し，テスト時にも態情報を入力である日本語文に付与することで，付与した情報を考慮した態表現を持つ翻訳文を出力することができ, 参照訳と同じ態表現を入力文に付与した場合, BLEU 值が向上することを報告している。本研究では, 提案手法と入力系列に特定のトークンを付与する手法 (SideConstraints) を比較し, 出力結果の考察を行う.

また，上述した研究は大規模な学習データを用いてモデルを学習している。一方，十分なデー 夕量とデータの質が確保できない場合において，本来の解きたい問題と関連する別のデータで事前に学習を行い，事前の学習で得られた学習結果を本来の解きたい問題に再利用することで

モデルの精度向上を図る手法に転移学習がある。転移学習は, 固有表現抽出 (Arnold, Nallapati, and Cohen 2007) やレビューの極性分類 (Blitzer, Dredze, Pereira, et al. 2007), 機械翻訳 (Koehn and Schroeder 2007; Zoph, Yuret, May, and Knight 2016) など様々なタスクで有効性が報告されている. 赤間ら (赤間, 稲田, 小林, 乾 2017) は, 対話応答生成において, 発話者のキャラクタを印象付ける応答生成に取り組んでいる。Twitter から抽出した大規模な対話データで事前学習した後, 特定の話者による応答からなる小規模な対話データで転移学習することで, 人手によるルールなどを必要とせずに, 入力された発話に対する応答の適切さを保ちつつ, 特定の話者の発話スタイルを応答に付与することに成功している。本研究では，入力データが与えられたときに，GP を含む戦評を出力するように大量の入出力の組を用いて Encoder-Decoder を学習させることが考えられる。しかし, GPを含む戦評は試合終了後にしか更新されないため, 1 試合に 1つの戦評しか手に入れることができず，大量の学習デー夕を用意することが困難である.この問題を解決するため, Encoder-Decoder モデルと転移学習を組み合わせたモデルを提案する.

これまで述べてきたように, Encoder-Decoder モデルを利用した手法では, メ夕情報や転移学習などによって, 出力系列を所望する出力に制御, 変化させる研究が盛んに取り組まれている. 一方で, 本研究で扱うスポーツ要約生成において, 出力を制御, 変化させるといった研究は明示的に取り組まれていない.

## 3 テンプレート型生成手法

テンプレート型生成手法では，イニング中の全打席ではなく，注目すべき打席に焦点をあてた要約文を生成する。まず，要約文として生成すべき注目打席を選択する．今回は 2 打席を注目打席として選択する。次に，テンプレートを自動で生成し，要約文を生成する。また, 生成されたテンプレートに GP を融合することで，ユーザが試合の状況を理解しやすい要約文を生成する。

## 3.1 打席の選択

各打席ごとにスコアリングし，スコア上位 2 打席を要約文として生成する．スコアリングには以下の式を用いる.

$
\text { Score }_{\text {atbat }}=S+R
$

(1) 式は打席ごとに算出されるスコアであり， $S$ と $R$ の和である． $S$ はその打席で得点した得点数である．Rはホームランやタイムリーヒットなどの重要なイベントに対しては高く，フライや三振などのイベントに対しては低くなるように設計されたスコアである．Rスコアを表 4 に示す。たとえば，表５のイニングでは，陽と杉谷の打席が要約すべき打席として選択される。
表 $4 \mathrm{R}$ スコア

## 3.2 テンプレートの自動生成

本研究では類似したデータを持つ打席同士は，その打席を説明する文の構造も類似していると考える。表 6 は表 5 とは別の試合のイニングで 3.1 節の (1) 式のスコアリングにより選択された 2 打席のデータである. 表 5 の陽と杉谷のデータと表 6 の茂木と銀二のデー夕を比較すると類似していることがわかる。ここで表 6 に対応するイニング速報（表 7）に着目する．提案手法では，この表 7 のイニング速報中の類似打席（茂木選手と銀次選手）に関するデー夕を注目
表 62016 年 8 月 7 日西武対楽天 7 回裏の Play-by-play デー夕

表 72016 年 8 月 7 日西武対楽天 7 回裏のイニング速報
(1) 先頭聖澤の二畕打、藤田の犠打で 1 死三畦とすると、嶋のスクイズで 1 点。
(2) その際にピッチャー高橋光の野選で二畕とすると、ここで 2 人目野田が登板。
(3) 島内の安打で一三畕とすると、茂木のタイムリーで 1 点。
(4) ペゲーロの四球で満塁とすると、ここで 3 人目牧田が登板。
(5) ウィーラーの押し出し死球で 1 点。
(6) 銀次のタイムリーで 1 点。
(7)この回計 4 点で攻撃終了。

打席のデータに置き換え，類似打席以外の打席に関する部分は文圧縮処理により削除することで，文法的に正確な注目打席を説明する文を生成することができると考える。また，イニング速報は人手で書かれているため，文法的に正確なテンプレートを生成することができる。このような考え方に基づき，注目打席と類似したデータを持つ類似イニングを検出し，テンプレー トを自動生成する。

## 3.2.1 類似イニング検出

類似イニングを検出する際には，注目打席とその他のイニングの注目打席の間でデー夕の類似度を計算し, 最も類似度の高いものを類似イニングとする。一致率は表 5 に示す打者名以外の 5 つの項目を用いて計算する。ただし，打席結果の一致は絶対条件とし，打席結果の異なる打席の一致率は 0 とする。また, 打席結果は実際の Play-by-play デー夕には含まれていないが,試合開始時から該当するイニングまでの得点数から求めることができるため，その情報を利用する。打席間の類似度は以下の式で計算される。

$
\operatorname{sim}(T, A)=\frac{\sum_{n=1}^{2} \sum_{i=1}^{5} \operatorname{co}\left(T_{n}^{i}, A_{n}^{i}\right)}{5}
$

$A$ は入力である要約したいイニング中の注目打席群であり， $A_{n}$ は $n$ 番目の注目打席を指す。 $T$ は入力のイニング以外のイニングの注目打席群であり, $T_{n}$ は $n$ 番目の注目打席である. $A_{n}^{1} \sim A_{n}^{5}$,
$T_{n}^{1} \sim T_{n}^{5}$ はそれぞれの打席のイベント前のアウト数，イベント前の出畕状況，イベント後の出塁状況, イベント, 打席結果の 5 つの項目を表し, $c o\left(T_{n}^{i}, A_{n}^{i}\right)$ は項目が一致しているときは 1 ,一致しないときは 0 となる.

たとえば，表 5 の陽の打席と表 6 の茂木の打席は全ての項目が一致している。よって類似度は $\frac{5}{5}=1.0$ となる. 同様に, 表 5 の杉谷の打席と表 6 の銀次の打席は類似度が $\frac{2}{5}=0.4$ （イベン卜と打席結果が一致）となり，最終的に表 5 と表 6 のイニング間の類似度は 1.0 と 0.4 の和である 1.4 となる.

## 3.2.2 文圧縮処理

次に，類似イニングのイニング速報中の類似打席に関する部分はスロット化，それ以外は文圧縮処理により削除することでテンプレートを生成する.

まず，文圧縮処理の前処理として文分割を行う。類似イニングのイニング速報を動詞の連用形, 句読点, 並立助詞, 接続助詞で分割する，ただし，分割点の直前が野球専門語の場合は分割しない．野球専門語はイニング速報から人手で 97 語を用意した。野球専門語の例を表 8 に示す.

次に文圧縮処理を行う．表 9 に文圧縮処理から文生成までの手順を示す。表 9 のイニング速報は既に直前の文分割処理により分割されており，斜線 (/) は分割点を表す. 表 9 の“先頭聖澤の二塁打” の直後に分割点である読点が出現しているが, 読点の直前の “二畕打” という単語が野球専門語であるため，分割しない，分割された文のうち，選手名を含む分割文が文圧縮の対象となり，類似打席以外の打席に関するイベントを文圧縮処理により削除する．表 9 の“この回計 4 点で攻撃終了。”という分割文は選手名を含んでいないため, 文圧縮処理の対象となら

表 8 野球専門用語の例

表 9 文圧縮から文生成までの手順

 \\

ず，その他の分割文は文圧縮の対象となる。文圧縮では以下の 2 つの処理を順に行う。

文圧縮 1 類似打席以外の選手名からその選手の野球専門語までを削除する。またアウ卜数や投手の情報，試合に依存する“\#Num 号”や選手名の直前の“先頭”や“代打”などの表現も削除する。

文圧縮 2 選手名を含んでいない分割文は文ごと削除する.

たとえば，文圧縮 1 の処理では表 9 に示すように, “先頭聖澤の二畦打”や“野田が登板”といった下線が引かれている部分を削除する。文圧縮 2 の処理においても同様に下線が引かれている部分を削除する。文圧縮処理の後，選手名や野球専門語などをスロットとし，テンプレートを生成する. 選手名は入力である Play-by-playデータ中の選手名とのマッチングによりスロット化を行う. 同じく野球専門語は野球専門語リストとのマッチングによりスロットとする。また,得点数などの数值表現のスロット化を行う際は, 事前に数值表現は全て “\#Num’7 に置き換えた上でスロット化を行う。まず，“回\#Num 点”, “計\#Num 点”, “\#Num 点で攻撃終了”, “\#Num 点で試合終了”のいずれかに当てはまる場合に“\#Num”の部分を“[ALLSCORE]”に置き換える. “[ALLSCORE]” で置き換えた後に，“[NAME1]”に最も近く, “[NAME1]”より後に出現する“\#Num”を“[SCORE1]” へ置き換える。同様に，“[NAME2]”に最も近く，“[NAME2]”より後に出現する“\#Num”を“[SCORE2]” 置き換える。このように，テンプレートを生成する際のスロット化の処理において人手による処理は介入していない. 最後に，スロットに注目打席のデータを補完することで，文を生成する。

## 3.2.3 Game-changing Phrase (GP) の融合

生成されたテンプレートに Game-changing Phrase (GP) を融合することでユーザが試合の状況を理解しやすい要約文を生成する．GPは戦評から自動で獲得する。表 3 の戦評の例では,

“0-0 のまま迎えた”のようにイニングを修飾する GP (Inning Phrase; GP $\mathrm{GPP}_{\mathrm{IP}}$ ) と“待望の先制点を挙げる”のようにイニング結果を表現する GP (Result Phrase; GP RP) が含まれている。他には，“走者一掃の”のように打撃内容を修飾する GP (Action Phrase; GP ${ }_{\text {AP }}$ ) が戦評では使用されている。本研究では， $\mathrm{GP}_{\mathrm{IP}}, \mathrm{GP}_{\mathrm{RP}}, \mathrm{GP}_{\mathrm{AP}}$ の 3 種類の $\mathrm{GP}$ を定義し，これらを戦評からパター ンマッチにより獲得する.

$\mathrm{GP}_{\mathrm{IP}}$ はチーム名を含む文節とイニング数の間に出現するものを獲得する． GP $\mathrm{AP}_{\mathrm{AP}}$ は打者名を含む文節と打撃内容の間に出現するものを獲得する。 $\mathrm{GP}_{\mathrm{RP}}$ は戦評に言及されている最後の選手の野球専門語を含む文節以降から文末の間に出現するものを獲得する.

次に，獲得された GP に対して，ルールを作成する。たとえば，“試合を振り出しに戻す”という $\mathrm{GP}_{\mathrm{RP}}$ が使われている得点シーンは，全て “同点に追いついた 6 回以降”であることが確認できた。このように, 各 GPに対して, イニング数やイニング結果などからルールを作成する.獲得された $\mathrm{GP}$ とそのルールの例を表 10 に示す。パターンマッチにより， $\mathrm{GP}_{\mathrm{IP}}, \mathrm{GP}_{\mathrm{AP}}, \mathrm{GP}_{\mathrm{RP}}$ はそれぞれ $8 ， 3 ， 11$ 種類を獲得した。また，それらに対するルールは表 10 に示している得点数, イニング数, 出畕状況, イニング結果, イベント, 打者数, 得点差の 7 つの項目から構成されている。同時に複数の項目を満たす場合は項目が多いGPを優先的に選択する。たとえば，

表 10 獲得された GPとルールの例

 & 1 点以上 & 6 回以降 & $*$ & 先制 & $*$ \\

 & $*$ & 攻撃側の得点数 - 守備側の得点数 $<0$ \\

}} \\

図 1 テンプレートと $\mathrm{GP}_{\mathrm{RP}}$ の融合手順

「3 点以上, 9 回, 満畕, 同点, ホームランまたは適時打」の場合, “值千金の”と“走者一掃の” の 2 つの GPのルールを満たす。この場合, “値千金の” という GP は得点数, イニング数, イニング結果，イベントの 4 つの項目を満たす必要があり，“走者一掃の”という GP は得点数,出塁状況，イベントの 3 つの項目を満たす必要があるため，項目が多い“値千金の”を選択する。また，同じルールの GP はランダムに選択する，たとえば，“試合の均衡を破る”と“待望の先制点を挙げる”は同じルールであるため，どちらかをランダムで選択する.

そして，3.1 節で選択された注目打席のデータが作成したルールにマッチする場合，テンプレートに対して，該当する GPを融合する。GP $\mathrm{GP}_{\mathrm{IP}}$ と $\mathrm{GP}_{\mathrm{AP}}$ は，獲得した際に用いたルールを逆に適用し，融合する。要するに， $\mathrm{GP}_{\mathrm{IP}}$ はチーム名と回数の間に， $\mathrm{GP}_{\mathrm{AP}}$ は打者名と打撃内容の間に挿入する。 $\mathrm{GP}_{\mathrm{RP}}$ は図 1 に示す手順で融合する。最後にテンプレート中のスロットにデー 夕を補完することで，最終的な文を生成する。

## 4 ニューラル型生成手法

本研究では, 時系列順の打席データから単語系列を生成する系列変換タスクとして考え, Encoder-Decoder モデルの一つである Sequence-to-Sequence モデル (Sutskever et al. 2014)を用いてイニング要約文を生成する。このモデルは Encoder, Decoder ともに Reccurent Neural Network (RNN) の枠組みを用いている.

Encoder の RNN は入力系列 $\left(x_{1}, \ldots, x_{N}\right)$ が与えられると時刻 $t$ において, 以下の式で隠れ層 $h_{t}$ の状態を更新する.

$
h_{t}=g\left(h_{t-1}, x_{t}\right)
$

ここで， $g$ は任意の活性化関数を表しており，従来の RNNでは学習が困難であった長期系列を扱えるようにするため, Long-Short Term Memory (LSTM) (Hochreiter and Schmidhuber 1997) が使われることが多く，本研究においても Encoder の RNN に LSTM を利用する.

Decoder は Encoder の RNN によって入力系列全てをエンコードすることで得られた内部状態を利用し, Encoderの RNN とは別の RNN により系列を一つずつ出力していく．本研究では, Decoder の RNN においても LSTM を利用する。

Decoder は, 入力系列 $x=\left(x_{1}, \ldots, x_{N}\right)$ から出力系列 $y=\left(y_{1}, \ldots, y_{M}\right)$ を出力する条件付確率 $p(y \mid x)$ を以下の式で計算する.

$
p(y \mid x)=\prod_{t=1}^{M} p\left(y_{t} \mid v, y_{1}, \ldots, y_{t-1}\right)
$

$v$ は，全ての入力系列をエンコードすることで得られた内部状態であり， Encoder の LSTM の最終的な隠れ層である。また, Decoder の LSTM が出力系列のうちの 1 つ目の要素 $y_{1}$ を出力する時, $y_{0}$ にあたる要素は存在しないため, $<\mathrm{s}>$ という文頭を表すトークンの単語べクトルを入力する.

提案手法のモデルを図 2 に示す. 本研究の目的の一つは, 読み手が試合の状況を理解しやすい要約文を生成するため，要約文に GP を組み込むことである，そこで，入力データが与えられたときに，GP を含む戦評を出力するように Encoder-Decoder を学習させることが考えられ

## 事前学習

図 2 提案手法のモデル図

る. 一般に, Encoder-Decoder モデルの学習には大量の学習データが必要とされている. しかし, 戦評は試合終了後にしか更新されないため, 1 試合に 1 つの戦評しか手に入れることができず，大量の学習データを用意することが困難である。この問題を解決するため，本研究では， Encoder-Decoder モデルと転移学習を組み合わせたモデルを提案する.

## 4.1 Play-by-play データから打席ベクトルへの変換

表 1 に示すような表形式の Play-by-play データから打席べクトルを作成する，具体的には，アウ卜数, 出塁状況, 打撃内容, 打順, 代打か否か, 先頭か否か, その打席での得点数毎に One-hot ベクトルを作成し，全てを結合したべクトルを打席ベクトルとする。

## 4.2 イニング情報の考慮

Li ら (Li et al. 2016)の研究では Decoder の隠れ状態に個人の人格情報を, Murakami ら (Murakami et al. 2017)の研究では, Decoderの隠れ状態に時間帯などのメ夕情報を付与することで,出力単語系列が変化することを報告している。 また, Kikuchi ら (Kikuchi et al. 2016) は, 要約生成タスクにおいて，出力すべき残りの長さを表す長さ埋め达みべクトルを Decoder の LSTM へ追加的に入力することで，出力系列の長さを制御する機能を獲得できたと報告している．

本研究ではこれらの知見に基づき, Play-by-playデータ以外のイニングの情報を表すイニング情報ベクトルを作成し，そのべクトルを Decoder の LSTMへ追加的に入力することでGPを制御する。“待望の先制点を挙げる”という GPには “待望の”という時間帯に言及した表現や, “\#Num 点を追う”という GPには“追う”という得点差に言及した表現が含まれている。このような GP を制御するためには, 1 回や 2 回などの時間帯を表す情報やリードやビハインドなどの得点差を表す情報が必要であると考えられる。 そこで, 時間帯の情報 Time (e.g., 1 回, 2 回,...), 得点差の情報 CurrentScore (e.g., リード, ビハインド, 同点), イニング結果の情報 Event（e.g., 先制, 同点, 勝ち越し）, イニングでの総得点の情報 TotalScore, 打者が一巡したか否かの情報 Batter Around ごとに One-hot ベクトルを作成し, 全てを結合したべクトルをイニング情報ベクトルとする，イニングでの総得点を表すべクトルの次元数は学習データ中のイニングでの最大得点数と同じ数とする，イニング情報ベクトルは図 2 に示すように，毎ステップ Decoder の LSTM へ追加的に入力する.

## 4.3 事前学習

事前学習として打席ベクトルと GP が含まれていないイニング速報を用いて打席説明文生成モデルを学習する。事前学習に用いるデータとしてイニング速報中の打席に言及している文のみを利用し，投手に関する“先発”や“登板”といった単語を含む文，“三者凡退”のような選手名を含んでいない文は利用しない。また，“盗畦”や“捕逸”など打席以外に言及している文

も利用しない，具体的には，表 2 のイニング速報では $1 ， 4 ， 8 ， 9$ 文目は打席に言及していない文であり，3文目は “盗畕”に言及しているため，2，5，6，7文目を学習デー夕に用いる．たとえば， 2 文目は，中村，今宮，長谷川，本多の 4 打席に言及しているため, この 4 打席の打席べクトル系列を入力したとき，2 文目を生成するように Encoder，Decoder の LSTM 学習する。 このように学習することで, 可変長の入力系列に対して, 入力された情報を網羅した打席説明文を出力するモデルを学習することができる.

## 4.4 転移学習

事前学習では可変長の打席系列の入力に対して, 打席を説明する文を生成するように Encoder, DecoderのLSTMを学習した. 転移学習では, 事前学習で学習したモデルパラメータを転移学習のモデルパラメータの初期値として用いる。転移学習では, 可変長の打席系列の入力に対して，GP を含む打席説明文を生成するように Encoder，Decoderの LSTM を学習する。

一般的に, Encoder-Decoder モデルが出力する系列の長さは学習デー夕の統計值に依存することが知られている (Kikuchi et al. 2016). 転移学習で学習に用いる戦評は, 表 3 の例のように, 1 打席にのみ言及したものが多く，比較的短い文であり，実際に我々が収集した戦評のうち，約 8 割が 1 打席にのみ言及したものであった。一方, 事前学習で学習に用いるイニング速報は, 1 打席に言及したものは約 $36 \%, 2$ 打席に言及したものは約 $33 \%, 3$ 打席に言及したものは約 $23 \%$ と一文に言及されている打席数は戦評に比べて均一な分布となっている。そのため, 事前学習で可変長の打席系列の入力に対して，打席を説明する文を生成するように Encoder, Decoder の LSTM を学習したにも関わらず，戦評を生成するように転移学習すると，入力打席系列の情報を網羅的に説明する文を生成することが困難となる。

そこで，転移学習用の新たな学習データを作成する。新たな学習デー夕を作成する際のルー ルを以下に示す.

・ 戦評に言及されている打席が 1 打席のみ
- イニング速報中の各文において, 最後に言及されている打席と戦評に言及されている打席が同じ打席である文が存在する

-上の 2 つのルールを満たす場合に，イニング速報中の該当文の最後の打席の選手名以前のテキストを抽出する

・ 抽出したテキストを戦評に言及されている選手名の直前に挿入する

たとえば, 戦評（表 3）に言及されている打席は本多選手の 1 打席のみであり，イニング速報 （表 2）の 2 文目の最後に言及されている打席と戦評の最後に言及されている打席は本多選手の打席であり共通している。このような場合, 戦評の“本多”という選手名の直前にイニング速報中の 2 文目の “本多” という選手名以前の“先頭中村晃の安打、今宮の犠打、代打長谷川の四球などで 2 死二三畦とすると、”というテキストを挿入する。この操作によって, “ソフトバ

ンクは 0-0のまま迎えた延長 10 回表、先頭中村晃の安打、今宮の犠打、代打長谷川の四球などで 2 死二三畦とすると、本多の 2 点適時打で待望の先制点を挙げる。”といった複数の打席に言及し，かつＧPを含む学習デー夕を作成することができる。

また, 戦評には $\mathrm{GP}_{R P}$ が必ず含まれているとは限らず，たとえば，“1 回に先制”したイニングの戦評では“幸先良く先制する”を含むものは 61 件，“幸先良く先制する”を含まず，“先制” という単語のみを含むものは 245 件であった. このような分布のデータでモデルを学習すると, “1 回に先制”したデータに対して“幸先良く先制” という $\mathrm{GP}_{R P}$ を生成しにくいモデルが学習されると考えられる．そこで，各イニング結果 1 の各イニング数 2 ごとに $\mathrm{GP}_{R P}$ を含むものから最大 20 件 $^{3}$ を選択するように転移学習用データをサンプリングする。 サンプリングする際は上述したイニング速報と戦評から作成したデータと元の 2 打席以上に言及している戦評からサンプリングする.

## 5 実験

提案したテンプレート型生成手法とニューラル型生成手法の 2 つを用いて要約文を生成し,比較, 考察を行う. 提案手法の入力である Play-by-playデータは 2016 年 3 月 25 日から 2017 年 6 月 2 日までの期間に行われた NPB の試合のデー夕を週間ベースボール ONLINE 4 から収集した。イニング速報も同様の期間に行われた NPB の試合に関するものをエキサイトベースボール5から収集した。戦評は 2016 年 3 月 25 日から 2017 年 5 月 14 日までの期間に行われた NPB の試合の戦評を Yahoo！SportsNaviか収集した。また,テストデータとして MLB の Play-by-playデータを収集した7 ${ }^{7}$ MLBの Play-by-playデータは BASEBALL REFERENCE8 ら 2016 年度のデータを収集した. 収集したデータの統計を表 11 に示す. イニング速報と戦評は, 出眰状況, アウト数, 選手名, 得点数を事前にスロット化したものを利用した. 形態素解析器には $\mathrm{MeCab}^{9}$ を利用した。

生成された要約文が入力されたデータを正確に表現できているかを確かめるため, 事実性という観点から評価する。また，提案した 2 の手法は生成型文生成手法であり, 文法性は担保されない。そこで，提案手法によって生成された要約文を可読性という観点からも評価する。可読性の評価指標を表 12 に示す.


## 5.1 テンプレート型生成手法の評価

提案したテンプレート型生成手法を用いて，イニングの要約文を生成した. 要約文を生成する際には. 収集した MLB の Play-by-play データからランダムに 100 イニング選択し, 生成された 100 文に対して，入力データと生成したデー夕に矛盾がないかを確かめ, 事実性を評価した. また, 本研究には関わっていない 4 人の被験者 ${ }^{10} により$, 生成された 100 の要約を 3 段階で可読性を評価した。事実性と可読性の評価結果を表 13 に示す。事実性の各行は，テストデー 夕 100 件から生成された文のうち, 入力されたイベントが正しく説明されていた文の数を記している。また, 可読性の値は 3 段階評価の平均値を記している.

評価結果からテンプレート型生成手法によって生成された要約文は事実性, 可読性ともに高い評価を得ていることが確認できた。 テンプレート型生成手法により生成された文の例を表 14 に示す。これらは事実性, 可読性ともに最も良い評価を受けた生成文である。テンプレート型生成手法は, 人手で書かれたイニング速報からテンプレートを自動生成しているため, 文法的にも正確であり，読みやすい要約文を生成することができた。また，GP 融合前と GP 融合後の要約文の事実性, 可読性の評価結果を比較すると, 大きな変化はなく, 図 1 に示した手順で適切に GPを融合することができたといえる。

生成された文の評価結果は高い評価であったが, 実際には事実でない文も 100 件中 3 件生成

表 11 収集したデー夕の統計量

表 12 可読性の評価基準

表 13 テンプレート型生成手法の評価結果


表 14 テンプレート型生成手法によって生成された要約文の例

Castilloの値千金のホームランで試合の均衡を破る。

生成文 (GP 無し)

Xander Bogaerts のタイムリーヒットで 2 点。David Ortiz のタイムリーヒットでさらに 1 点。この回計 4 点を取り、逆転に成功。

$
\text { 生成文（GP 有り） }
$

Boston Red Sox は 2 点ビハインドで迎えた 3 回裏、Xander Bogaerts のタイムリーヒットで 2 点。 David Ortizのタイムリーヒットでさらに 1 点。この回計 4 点を取り、逆転に成功。

されており，その主な原因は文圧縮処理でのエラーであった。 エラーを含む生成文の例を表 15 に示す.この例では, Kris Bryant 選手と Willson Contreras 選手の 2 打席が注目打席として選択され，その 2 打席に対する類似打席として田中選手と丸選手の 2 打席が検出されている. その後, 3.2.2 節で説明した文圧縮 1 の処理により, 田中選手と丸選手以外に言及している“続く菊池が三振”が削除され, テンプレートが生成されている。しかし, “一畦走者田中が二畦を狙うもタッチアウト”という部分は田中選手に言及しているが, 打席とは関係なく出畕した後に起きたイベントであるため, 削除する必要があるが残ったままテンプレートが生成され, 事実とは異なる文が生成されるエラーがあった。

## 5.2 ニューラル型生成手法の評価

実験データの詳細を表 16 に示す.また, テンプレート型生成手法の評価と同様に MLB の Play-by-playデータをテストデータとして利用した。語彙は事前学習用データ, 転移学習用デー 夕を MeCabで形態素解析し, 各形態素を 1 つの語彙とした. 語彙埋め込みべクトルの次元数は 128, 打席ベクトルの次元数は 48 , イニング情報ベクトルの次元数は 32 とした. Encoder,
表 15 テンプレート型生成手法によって生成されたエラーを含む要約文の例

注目打席 2016/10/28 Cleveland Indians 対 BChicago Cubs 4 回裏

類似打席 2016/10/14 横浜 DeNA ベイスターズ対広島カープ 6 回裏

注目打席 2016/10/28 Cleveland Indians 対 BChicago Cubs 4 回裏

類似イニング速報

先頭田中が四球で出塁し、続く菊池が三振の際に一畕走者田中が二塁を狙うもタッチアウト。丸も倒れ、この回結局 3 人で攻撃終了。

## 文圧縮処理

先頭田中が四球で出壘し、続く菊池が三振の際に一塁走者田中が二畕を狙うもタッチアウト。丸も倒れ、この回結局 3 人で攻撃終了。

$
\text { " テンプレート化 }
$

[NAME1] が [ACTION1] で出畦し、の際に一眰走者 [NAME1]が二畕を狙うもタッチアウト。[NAME2] も倒れ、この回結局 [ALLBATTER] 人で攻撃終了。

生成文 (GP 無し)

Kris Bryant が四球で出畕し、の際に一畦走者 Kris Bryant が二畦を狙うもタッチアウト。Willson Contreras も倒れ、この回結局 4 人で攻撃終了。

表 16 実験データの詳細

Decoderの隠れ層の次元数は 256 とした. モデルパラメータの最適化手法には Adam (Kingma and Ba 2015) $\left(\alpha=0.001, \beta_{1}=0.9, \beta_{2}=0.999, \epsilon=10^{-8}\right)$ を利用した. また, 事前学習ではミニバッチを適用し, サイズは 40 とした。転移学習ではバッチサイズを 1 とした。事前学習, 転移学習の epoch数はそれぞれ 30,5 とした。また, 出力系列を生成する際には貪欲法 (ビーム幅 1) を用いた。これらのパラメータは 1,400 件の開発データから生成された要約文において，文の事実性や GP の制御性などの観点から主観的に判断し決定した. モデルの実装には Chainer ${ }^{12}$ を利用した。


テンプレート型生成手法の入力打席系列は 2 打席であったが，ニューラル型生成手法は任意の入力打席系列に関して, 要約文を生成するように学習した。そこで, 入力打席系列が 1 打席, 2 打席， 3 打席の場合のデータをランダムに 100 件ずつ選択し，転移学習したモデルで生成された要約文を事実性, 可読性の観点からテンプレート型生成手法と同じ方法で評価した. 評価結果を表 17 に示す. ニューラル型生成手法により生成された文の例を表 18 に示す. これらは事実性，可読性ともに最も良い評価を受けた生成文である.

可読性の評価結果は，テンプレート型生成手法には劣るものの，概ね事前学習モデル，転移学習モデルともに高い評価を得ることができた。しかし，転移学習モデルにおける事実性の評

表 17 ニューラル型生成手法の評価結果

表 18 ニューラル型生成手法によって生成された要約文の例

生成文 (事前学習モデル)

先頭 Yasmany Tomas がヒットで出塁すると、Welington Castillo の\#Num 号 2 ランで 2 点を先制。

生成文（転移学習モデル）

Arizona Diamondbacks は 0-0 のまま迎えた 7 回表、無死から Yasmany Tomas がヒットで出畦すると、続くWelington Castilloの 2 ランで試合の均衡を破る。

2016/05/03 Detroit Tigers 対 Cleveland Indians 5 回裏

生成文 (事前学習モデル)

先頭 Carlos Santana の四球、Jason Kipnis のヒットで 12 壘とすると、Francisco Lindor の\#Num 号 3 ランで 3 点。

生成文（転移学習モデル）

Cleveland Indians は 2 点リードの 5 回裏、無死から Carlos Santana の四球、Jason Kipnis のヒットで 12 塁とすると、Francisco Lindor の 3 ランで加点する。
洒結果は事前学習モデルと比べて低い評価結果となった。事実でない文が生成されたエラーの分析を行ったところ，先頭13でない選手名の直前に “先頭”という単語が生成されるエラーが起きていた． Encoderへの入力である打席べクトルは，先頭か否かを表す情報を含んでいるにも関わらず, このような現象が観測された. 表 17 に示した 3 つの打席系列を入力した場合の事前学習モデルにより生成された非事実文 11 文のうち 3 件，転移学習モデルが生成した非事実文 27 文のうち 14 件がこのエラーであった。このエラーを含む生成された文の例を表 19 に示す.表 19 の Jacoby Ellsbury 選手は先頭の選手でないが, 転移学習モデルは “先頭 Jacoby Ellsbury” と生成している。転移学習モデルの学習データ中に“先頭”という単語が含まれているのは 58 件存在し, この 58 件のうち, 入力打席系列が 3 打席のデータは 51 件であった. つまり, 転移学習では，事前学習の知識を転用し，GP を生成するようにモデルを学習させたが，同時に，入力打席系列が 3 打席の場合, 入力ベクトルに関係なく, “先頭”という単語を生成しやすいモデルが学習されたと考えられる。また，“連続タイムリー”のような言い回しで使われる “連続”という単語についても，実際には連続タイムリーではない場面で誤生成が見られた。実際に，“連続”という単語は転移学習に用いた学習データ中に 65 件含まれており，この 65 件のうち， 50 件が “player1 と player2 の連続タイムリー”のようなパターンで出現していた。そのため, 上述した “先頭”を間違えて生成するエラーと同じように，“player2”という単語の後には，“連続”という単語を生成しやすい言語モデルを転移学習時に学習してしまい，連続でないにもかかわらず “連続”という単語を生成するエラーが見られた。このエラーは, 転移学習モデルにおける入力打席系列が 2 打席の場合の非事実文 32 文のうち， 24 件を占めていた。

テンプレート型生成手法では, GPごとに生成する基準を作成し, その基準にマッチしたイニ

表 19 ニューラル型生成手法によって生成されたエラーを含む要約文の例

1 死から Jacoby Ellsbury のヒット、Mark Teixeira の二穌打で 23 畦とすると、Brian McCann の内野ゴロ間に 1 点先制。

生成文（転移学習モデル）

New York Yankees は 1 回裏、先頭Jacoby Ellsbury のヒット、Mark Teixeira の二塁打で 1 死 23 塁とすると、Brian McCann の内野ゴロで幸先良く先制する。


ングの要約文に GP を融合した。一方，ニューラル型生成手法では，イニング情報ベクトルを Decode 時に追加的に入力することでモデルに GP を制御する機能を学習させた。そのため，表 10 に示したルールに該当するイニングで正確に該当する GP を生成できているかを各 GP 毎に正例と負例をそれぞれ 100 件ずつ用意し，F 值で評価した。ここでいう正例, 負例とは，GP毎に作成した基準にマッチするデータ，マッチしないデータのことである。たとえば，“幸先良く先制する”という GP の基準は “初回に先制”であり，正例は“初回に先制”したデータを指し，負例は “2 回以降に先制”したデータを指す. $\mathrm{F}$ 值の計算式を以下に示す.

$
\begin{gathered}
\text { F-measure }=\frac{2 \times \text { Precision } \times \text { Recall }}{\text { Precision }+ \text { Recall }} \\
\text { Precision }=\frac{T P}{T P+F P} \\
\text { Recall }=\frac{T P}{T P+F N}
\end{gathered}
$

$T P$ は正例データに対して, 該当の GP を生成したデータ数, $F P$ は負例データに対して該当の GP を生成したデータ数, $F N$ は正例データに対して該当の GP を生成しなかったデータ数を指す。また, 同じ基準の GPに対しては, どちらかの GP を生成しているか否かで評価した. たとえば，“試合の均衡を破る”と“待望の先制点を挙げる”というGP は同じ基準であるため,正例データに対してどちらかを生成できていれば， $T P$ をカウント，負例データに対して，どちらかを生成していれば，FPをカウントした，加えて，GP の基準にマッチしないデータが入力として与えられたときに，GPを生成しないこともGPの制御においては重要である。そのため, $\mathrm{F}$ 値に加えて, Accuracyを計算した. Accuracyの計算式を以下に示す. $T N$ は負例データに対して該当の GPを生成しなかったデー夕数である.

$
\text { Accuracy }=\frac{(T P+T N)}{200}
$

また，評価する際は，以下の 3 つの手法と比較した.

## - Mix

このモデルは転移学習は行わず, 事前学習と転移学習で利用したデー夕を混ぜて学習したモデルである。イニング情報ベクトルは Decode 時に追加的に入力している。転移学習の有効性を検証するため，提案手法とこのモデルを比較する.

## - NoInning

このモデルは転移学習は行うが, イニング情報ベクトルは Decode 時に追加的に入力しないモデルである，イニング情報を考慮することの有効性を検証するため，提案手法とこのモデルを比較する.

## - SideConstraints

2 章で説明したように, Sennrich ら (Sennrich et al. 2016) は, 英独機械翻訳において, 出力であるドイツ語側の敬意表現の制御に取り組んでいる。入力である英文の最後に “<T>” （敬意表現無し）や“くV>”（敬意表現有り）といった敬意表現の有無を表すトークンを付与したコーパスで学習し，テスト時にはユーザの所望する敬意表現トークンを入力文に付与することで付与した情報を考慮した翻訳文を出力することができたと報告している.また, Yamagishi ら (Yamagishi et al. 2016)は, Sennrich らの手法を基に “<Active>” （能動態）と “<Passive>”（受動態）といったトークンを利用することで，出力文の態制御に取り組んでいる。このように，入力系列の最後に特定の出力を制御するためのトー クンを付与する SideConstraints は，本研究の GP の制御に対しても有効に働くと考えられる. Sennrich らの手法は, Bahdanau らによる Attention 機構 (Bahdanau, Cho, and Bengio 2014) と Encoder には入力系列を順方向に読み込む LSTM と逆方向に読み込む LSTM の 2 つの LSTM (Bi-Directional LSTM) を利用している. 本モデルでは Sennrich らの手法を基に，入力打席系列の最後に“<GP>”（GP を付与する）と“<NoGP>”（GP を付与しない）の２つのトークンを利用し，GPの制御を試みる。学習データは出力文に GP が含まれている場合，つまり 4.4 節で新たに作成したデータを生成するように学習する場合，入力系列の最後に“<GP>”を付与した. 出力文に GP が含まれていない場合, つまりイニング速報を生成するように学習する場合は，“<NoGP>”を付与した。この学習データを利用して, 転移学習は行わず, 事前学習と転移学習で利用したデー夕を混ぜてモデルを学習した。ただし，イニング情報べクトルは Decode 時に追加的に入力する. Sennrich らはトークンベクトルを単語ベクトルと同時学習しているが，今回は簡単化のため，“<GP>”を表すトークンベクトルは 1 で埋めた 48 次元のべクトル，“<NoGP>”を表すトークンベクトルは 0 で埋めた 48 次元のべクトルを使用した14.

$\mathrm{F}$ 值による評洒結果を表 20 に示す. 表 20 中の Nan はゼロ除算による定義不可能を示している。提案手法と Mix, NoInning を比較すると，“試合を振り出しに戻す”という GPを除き，有意な差を確認することができた．また， $\mathrm{F}$ 値の平均値を比較すると, 提案手法の平均値が最も高く，転移学習，イニング情報の考慮ともに，GPの制御において有効に働いたと考えられる。一方で, SideConstraintsは, “\#Num 点リードで迎えた”や“\#Num 点ビハインドで迎えた”などのイニングを修飾する $\mathrm{GP}_{\mathrm{IP}}$ （3.2.3 節参照）において高い $\mathrm{F}$ 値を記録しているが， “幸先良く先制する”などのイニング結果を表現する $\mathrm{GP}_{\mathrm{RP}}$ においては低い $\mathrm{F}$ 值となっている.

SideConstraints は，GPを制御するトークンを打席系列の最後に入力するモデルであるため, Decoder の内部で行列演算が繰り返し行われるにつれて，トークンの影響が小さくなったと考え

表 20 各手法による $\mathrm{F}$ 値と Accuracy 値

} & P 0.906 & P 0.566 & P Nan & P 1.000 \\

*は各行について太字で示した最高値と比較して, 両側符号検定により, 有意な差が確認できた値を示している. 同様に, †は各行について提案手法の $\mathrm{F}$ 值と比較して, 有意な差が確認できた値を示している. また， Bonferroni の補正により，検定総数 $N$ により補正された有意水準 $\alpha=0.05 / N$ で検定を行った.

られる。実際に, 各 GP の学習データ中での出現位置 Position を表 20 に示している. この值は単語数で正規化されており，文頭に近いほど 0 ，文末に近いほど 1 に近い値となる。表 20 から $\mathrm{GP}_{\mathrm{RP}}$ は文末の近くで出現していることが確認でき, Decoder 内部で行列演算が繰り返し行われた後，トークンの影響が小さくなった状態で生成されるため，制御することができずに低い
$\mathrm{F}$ 値となったと考えられる。一方， $\mathrm{GP}_{\mathrm{IP}}$ は文頭の近くで出現していることが確認でき，トークンの影響が大きい状態で生成されるため，高い $\mathrm{F}$ 値となったと考えられる．また，今回はトー クンベクトルに 0 埋め，1 埋めベクトルを使用したが，Sennrich らと同様に学習ベースで獲得したトークンベクトルを利用する方法での実験は今後の調査すべき課題といえる.

同様の Play-by-play データを入力として与え，擬似的にイニング情報の一部を変化させた際の転移学習モデルによる生成文の例を表 21 に示す.イニング数が 1 回の生成文には“幸先良く先制する”という GP が適切に生成できていることが確認できる．イニング数を 6 回に変更した際の生成文においては“0-0のまま迎えた”と“試合の均衡を破る”という GPが適切に生成できていることが確認できる.

それぞれのモデルで生成された文の例を表 22 に示す。転移学習モデルによって生成された文には“0-0のまま迎えた”や“試合の均衡を破る”といった GP が正確に生成されていることが確認できる。一方，Mix と SideConstraintsには“試合の均衡を破る”といった GP は生成されていない．Mixは転移学習をせず，事前学習と転移学習に用いたデータを全て混ぜて学習するモデルであり，GPを含むデー夕数（557 件）と含まないデー夕数 $(8,937$ 件) に大きな差があることから, 正確に生成されなかったと考えられる。また, SideConstraints は, 上述したように Decoder の内部で行列演算が繰り返し行われるにつれて，トークンの影響が小さくなったと考えられ，実際の生成文からも同様の現象が起きているのが見て取れる，加えて，NoInning は，イニング情報べクトルを追加的に入力しないモデルであり，GP を制御するための情報を何も入力していない，そのため，“同点で迎えた”や“勝ち越し”といった事実とは異なる文を生成している。他にも“0点リードで迎えた”といった事実と異なる文も生成していた．表 20 の $\mathrm{F}$ 值の評価結果や実際の生成例を定性的に考慮すると，GPを制御するといったタスクにおいて，転移学習とイニング情報の考慮は有効に働いているといえる。

表 21 イニング情報中のイニング数を変化させた際の転移学習モデルによる生成文の違い

## 5.3 テンプレート型生成手法とニューラル型生成手法の比較

表 13 と表 17 の可読性の評価結果を比較すると, テンプレート型生成手法の方が高い評価を受けていた。実際に被験者による可読性評価で，ニューラル型生成手法が低い評価を受けた例を表 23 に示す。転移学習モデルが生成した文は“ 2 死から”という表現が 2 度出現しており，

表 22 各手法によって生成された要約文の例

生成文 (事前学習モデル)

先頭 Mitch Moreland の二壘打などで 1 死 3 塁とすると、Elvis Andrus のタイムリーヒットで 1 点を先制。

生成文（転移学習モデル）

Texas Rangers は 0-0 のまま迎えた 7 回表、無死から Mitch Moreland の二塁打などで 1 死 3 畦とすると、Elvis Andrusのタイムリーヒットで試合の均衡を破る。

$
\text { 生成文 (Mix) }
$

Texas Rangers は 7 回表、先頭 Mitch Moreland の二塁打などで 1 死 3 畦とすると、Elvis Andrus のタイムリーヒットで先制する。

## 生成文 (NoInning)

Texas Rangers は同点で迎えた 7 回表、先頭 Mitch Moreland の二魼打などで 1 死 3 魼とすると、Elvis Andrus のタイムリーヒットで勝ち越しに成功する。

## 生成文 (SideConstraints)

Texas Rangers は 7 回表、無死から Mitch Moreland が二塁打で出畕すると、Elvis Andrus のタイムリーヒットで先制に成功する。

表 23 可読性評価において転移学習モデルがテンプレート型生成手法と比べ，低い評価を受けた例

} \\

壳長な文であるため，低い評価を受けたと考えられる ${ }^{15}$.

事実性の評価結果を比較すると, 可読性の評価結果と同様にテンプレート型生成手法の方が高い評価を受けていた。これらの評価結果を考慮すると，テンプレート型生成手法の方が優れたイニング要約生成手法だと考えられる。一方で，テンプレート型生成手法も事実でない文を生成しており，主な原因は 3.2.2 節で説明した文圧縮 1 の処理であった. 文圧縮 1 の処理は，選手名からその選手の野球専門語までを削除するといった最もシンプルなアプローチであったため，まれに複雑な表現を含むイニング速報では関係のない情報を圧縮処理しきれずに，事実でない情報を含んだテンプレートが生成された。このエラーを解決するためには文圧縮処理手法の改善が必要であるが，関係のない情報を全て圧縮処理するように人手でルールを網羅するのは限界がある。したがって，文圧縮処理には統計的なアプローチを取り入れる必要があると考えられる。また, テンプレート型生成手法は 3.2 .3 節で説明したテンプレートと GP の融合手順 （図 1）によって，GP を融合する前後で事実性，可読性に大きな変化はないこと（表 13）や, ニューラル型生成手法の事前学習モデルは事実性の観点から転移学習モデルと比較すると優れていること（表 17）を考えると，ニューラル型生成手法の事前学習モデルでテンプレートを生成し, そのテンプレートに対して, 表 10 と図 1 に示した人手で作成したルールと融合手順により，GPを含む要約文を生成するのが，事実性，可読性の観点から質の高い要約文を生成することができると考えられる。

加えて，テンプレートと GP の融合手順（図 1）は，本質的には野球に特化したルールではないため，野球以外のスポーツにも適応することができる，実際に，我々はサッカーの要約生成タスクにおいて，同様のルール（例えば，開始 $n$ 分以内の場合は“幸先良く先制する”を生成など）を用いて，以下のような要約文の生成に成功している (Tagawa and Shimada 2018).

・ ネイマールのスルーパスからイニエスタのアシストをラキテイッチがゴール、バルセロナが幸先良く先制する.
- 両軍無得点のまま迎えた後半 42 分、岩㴊の値千金のゴール、日本が試合の均衡を破る.

このように，GPは野球以外のスポーツにおいても汎用的なフレーズであると考えられ，サッカーにおいてのGPの融合手順は簡単な手順で設定可能であった。今後の課題として, サッカー 以外のスポーツへの適用が挙げられる。


## 6 おわりに

本研究では, 日本で人気のある野球に着目し, Play-by-playデータからイニングの要約文の生成に取り組んだ．Web上で配信されている速報にはイニング速報と戦評があり，それぞれの以下のような特徴がある.
- イニング速報中の各文はシンプルな読みやすい文で構成されているが, イニング速報そのものはそれらの文の集合であり，全体としては長く，読みづらい.
- 戦評には“0-0のまま迎えた”や“待望の先制点を挙げる”のような試合の流れを考慮したフレーズ (Game-changing Phrase; GP) が含まれているのが特徴であり, 読み手は試合の状況を簡単に知ることができる。

・ 戦評は試合が動いたシーンにのみ着目したテキストであり, 試合終了後にしか更新されない.

このような特徴を踏まえ，任意の打席に対して，GP を含む要約文を生成することは，試合終了後だけでなく, リアルタイムで試合の状況を知りたい場合などに非常に有益であると考えた.また，イニング速報や戦評は現在人手で作成されているが，自動で生成することで人手で作成する際にかかるコストを削減することができる。そこで, Play-by-play データから GPを含む要約文の生成に取り組んた。

実際に，テンプレート型生成手法と Encoder-Decoder モデルを利用した手法の 2 つを提案し， それぞれの手法から生成された要約文に対して，事実性や可読性について人手評価をした。また Encoder-Decoder モデルについては，GP の生成に関していくつかの手法と比較し, 転移学習を用いる提案手法が最も良いことを $\mathrm{F}$ 値, Accuracyによって評価した. テンプレート型および Encoder-Decoder モデルの実験結果からそれぞれのメリット・デメリットを考察した. その考察に基づき，今後の課題としては Encoder-Decoder モデルにより入力打席系列を説明する文の雛形となるテンプレートを自動で生成した後, 各 GP 毎に人手で作成したルールを利用してテンプレートと融合することで最終的な要約文を生成するという手法の有効性の検証が挙げられる。加えて, 今回は攻撃側の視点たけに着目した手法を提案したが, 守備側の視点も加味した要約文生成にも取り組みたいと考えている.

## 謝 辞

本論文の查読にあたり，著者の曖昧な記述などに対して丁寧なご意見・ご指摘をくださいました査読者の方々へ感謝します。本論文の内容の一部は, The 21st International Conference on Asian Language Processing (IALP2017) で発表したものです. 本研究の一部は, 科研費 17 H01840 の助成を受けています.

## 参考文献

赤間怜奈, 稲田和明, 小林颯介, 乾健太郎 (2017). 転移学習を用いた対話応答のスタイル制御.言語処理学会第 23 回年次大会発表論文集, pp. 338-341.

Allen, N. D., Templon, J. R., McNally, P. S., Birnbaum, L., and Hammond, K. (2010). "StatsMonkey: A Data-Driven Sports Narrative Writer." In AAAI Fall Symposium Series, pp. 2-3.

Arnold, A., Nallapati, R., and Cohen, W. W. (2007). "A Comparative Study of Methods for Transductive Transfer Learning." In Data Mining Workshops, 2007. ICDM Workshops 2007. Seventh IEEE International Conference on, pp. 77-82. IEEE.

Bahdanau, D., Cho, K., and Bengio, Y. (2014). "Neural Machine Translation by Jointly Learning to Align and Translate." arXiv preprint arXiv:1409.0473.

Blitzer, J., Dredze, M., Pereira, F., et al. (2007). "Biographies, Bollywood, Boom-boxes and Blenders: Domain Adaptation for Sentiment Classification." In Proceedings of the 45th Annual Meeting of the Association for Computational Linguistics, Vol. 7, pp. 440-447.

Cho, K., van Merrienboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., and Bengio, Y. (2014). "Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation." In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing, pp. 1724-1734, Doha, Qatar. Association for Computational Linguistics.

Chopra, S., Auli, M., and Rush, A. M. (2016). "Abstractive Sentence Summarization with Attentive Recurrent Neural Networks." In Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 93-98, San Diego, California. Association for Computational Linguistics.

Hochreiter, S. and Schmidhuber, J. (1997). "Long Short-term Memory." Neural Computation, 9 (8), pp. 1735-1780.

岩永朋樹, 西川仁, 徳永健伸 (2016). テキスト速報を用いた野球ダイジェストの自動生成. 言語処理学会第 22 回年次大会発表論文集, pp. 238-241.

Jianmin, Z., Jinge, Y., and Xiaojun, W. (2016). "Toward Constructing Sports News from Live Text Commentary." In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics, pp. 1361-1371.

Kikuchi, Y., Neubig, G., Sasano, R., Takamura, H., and Okumura, M. (2016). "Controlling Output Length in Neural Encoder-Decoders." In Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing, pp. 1328-1338, Austin, Texas. Associa-
tion for Computational Linguistics.

Kingma, D. and Ba, J. (2015). "Adam: A Method for Stochastic Optimization." In The International Conference on Learning Representations.

Koehn, P. and Schroeder, J. (2007). "Experiments in Domain Adaptation for Statistical Machine Translation." In Proceedings of the 2nd Workshop on Statistical Machine Translation, pp. 224-227. Association for Computational Linguistics.

Kubo, M., Sasano, R., Takamura, H., and Okumura, M. (2013). "Generating Live Sports Updates from Twitter by Finding Good Reporters." In Proceedings of the 2013 IEEE/WIC/ACM International Joint Conferences on Web Intelligence and Intelligent Agent Technologies, pp. 527-534.

Li, J., Galley, M., Brockett, C., Spithourakis, G., Gao, J., and Dolan, B. (2016). "A PersonaBased Neural Conversation Model." In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics, pp. 994-1003.

Lin, C.-Y. and Hovy, E. (2003). "Automatic Evaluation of Summaries using N-gram Cooccurrence Statistics." In Proceedings of the 2003 Conference of the North American Chapter of the Association for Computational Linguistics on Human Language Technology-Volume 1, pp. 71-78. Association for Computational Linguistics.

Luong, M. T., Pham, H., and Manning, C. D. (2015). "Effective Approaches to Attention-based Neural Machine Translation." In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing, pp. 1412-1421.

McKeown, K. and Radev, D. R. (1995). "Generating Summaries of Multiple News Articles." In Proceedings of the 18th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval, pp. 74-82. ACM.

McRoy, S. W., Channarukul, S., and Ali, S. S. (2000). "YAG: A Template-based Generator for Real-time Systems." In Proceedings of the 1st International Conference on Natural Language Generation-Volume 14, pp. 264-267. Association for Computational Linguistics.

村上総一郎, 笹野遼平, 高村大也, 奥村学 (2016). 打者成績からのイニング速報の自動生成. 言語処理学会第 22 回年次大会発表論文集, pp. 338-341.

村上総一郎, 笹野遼平, 高村大也, 奥村学 (2017). 数値予報マップからの天気予報コメントの自動生成. 言語処理学会第 23 回年次大会発表論文集, pp. 1121-1124.

Murakami, S., Watanabe, A., Miyazawa, A., Goshima, K., Yanase, T., Takamura, H., and Miyao, Y. (2017). "Learning to Generate Market Comments from Stock Prices." In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics, pp. 1374-1384.

Nichols, J., Mahmud, J., and Drews, C. (2012). "Summarizing Sporting Events Using Twitter."

In Proceedings of the 2012 ACM International Conference on Intelligent User Interfaces, pp. 189-198.

Oh, A. and Shrobe, H. (2008). "Generating Baseball Summaries from Multiple Perspectives by Reordering Content." In Proceedings of the 5th International Natural Language Generation Conference, pp. 173-176.

Robin, J. (1994). "Revision-based Generation of Natural Language Summaries Providing Historical Background." Master's thesis, Ph.D. thesis New York University.

Rush, A. M., Chopra, S., and Weston, J. (2015). "A Neural Attention Model for Abstractive Sentence Summarization." In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing, pp. 379-389.

Sato, S., Yoshinaga, N., Toyoda, M., and Kitsuregawa, M. (2017). "Modeling Situations in Neural Chat Bots." In Proceedings of ACL 2017, Student Research Workshop, pp. 120-127. Association for Computational Linguistics.

Sennrich, R., Haddow, B., and Birch, A. (2016). "Controlling Politeness in Neural Machine Translation via Side Constraints." In Proceedings of the 15th Annual Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 35-40.

Sharifi, B., Hutton, M.-A., and Kalita, J. (2010). "Summarizing Microblogs Automatically." In Proceedings of HLT '10 Human Language Technologies: The 2010 Annual Conference of the North American Chapter of the Association for Computational Linguistics, pp. 685-688.

Smiley, C., Plachouras, V., Schilder, F., Bretz, H., Leidner, J. L., and Song, D. (2016). "When to Plummet and When to Soar: Corpus Based Verb Selection for Natural Language Generation." In Proceedings of The 9th International Natural Language Generation Conference, pp. 36-39.

Sutskever, I., Vinyals, O., and Le, Q. V. (2014). "Sequence to Sequence Learning with Neural Networks." In Advances in Neural Information Processing Systems, pp. 3104-3112.

Tagawa, Y. and Shimada, K. (2016). "Generating Abstractive Summaries of Sports Games from Japanese Tweets." In Proceedings of the 7th International Conference on E-Service and Knowledge Management, pp. 82-87.

Tagawa, Y. and Shimada, K. (2018). "Sports Game Summarization Based on Sub-events and Game-changing Phrases." In New Trends in E-Service and Smart Computing, Springer, 2018, pp. 65-80.

Takamura, H., Yokono, H., and Okumura, M. (2011). "Summarizing a Document Stream." In Proceedings of the 33rd European conference on Advances in Information Retrieval,
pp. 177-188.

Vinyals, O., Toshev, A., Bengio, S., and Erhan, D. (2015). "Show and Tell: A Neural Image Caption Generator." In Proceedings of Computer Vision and Pattern Recognition, pp. 3156-3164.

Xu, K., Ba, J., Kiros, R., Cho, K., Courville, A., Salakhudinov, R., Zemel, R., and Bengio, Y. (2015). "Show, Attend and Tell: Neural Image Caption Generation with Visual Attention." In Proceedings of the 32nd International Conference on Machine Learning, pp. 2048-2057.

Yamagishi, H., Kanouchi, S., Sato, T., and Komachi, M. (2016). "Controlling the Voice of a Sentence in Japanese-to-English Neural Machine Translation." In Proceedings of the 3rd Workshop on Asian Translation (WAT), pp. 203-210.

Zoph, B., Yuret, D., May, J., and Knight, K. (2016). "Transfer Learning for Low-resource Neural Machine Translation." In Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing, pp. 1568-1575.

## 付録

## A ROUGEによる評価

5 節ではテンプレート型生成手法, ニューラル型生成手法により生成された要約文を被験者により可読性, 事実性の観点から評価した。加えて, 自動評価指標である ROUGE (Lin and Hovy 2003)による評価も行った. 本研究の目的は任意の打席に対して GP を含むイニングの要約文を生成することであり，任意の打席に対して GP を含むイニングの要約文の正解デー夕は存在しない. そこで，テンプレート型生成手法の GP を含まない要約文とニューラル型生成手法の事前学習モデルによって生成された要約文に対して ROUGE 値を計算した（計算の際には品詞のフィルタリングなどは行っていない)，実際に， 100 件の NPB の Play-by-playデータを入力として与え, 生成された要約文と入力データに対応するイニング速報中の文を正解データとし, ROUGE 值を計算した。評価結果を表 24 に示す。評価結果からテンプレート型生成手法はニューラル型

表 24 ROUGE 値

生成手法と比べ低い ROUGE 值となった。これはテンプレート型生成手法では, 文圧縮処理の際に，アウト数や “先頭”, “代打” といった表現を削除しているため, 単語の一致率を基にしたROUGEではニューラル型生成手法と比べ低い ROUGE 值となったと考えられる。

## 略歴

田川裕輝：2016 年九州工業大学情報工学部知能情報工学科卒. 2018 年九州工業大学大学院情報工学府先端情報専攻修了. 現在, 富士ゼロックス株式会社.在学中は，スポーツデータを対象とした文章生成や要約に関する研究に従事.

嶋田和孝：1997 年大分大学工学部知能情報システム工学科卒. 1999 年同大大学院博士前期課程修了. 2002 年同大大学院博士後期課程単位取得退学. 同年より九州工業大学情報工学部知能情報工学科助手. 2007 年, 同助教. 2012 年, 九州工業大学大学院情報工学研究院知能情報工学研究系准教授. 博士 (工学). 自然言語処理, 特に評判分析や情報要約の研究に従事. 言語処理学会,電子情報通信学会, 情報処理学会, 人工知能学会, 観光情報学会各会員.

(2017 年 11 月 15 日受付)

(2018 年 3 月 2 日再受付)

(2018 年 4 月 23 日採録)