# 短歌における言語モデルの実応用一歌人の視点を通した生成と作歌支援の実践から一

浦川通 1 新妻巧朗 1 田口雄哉 1 田森秀明 1 岡崎直観 ${ }^{2}$ 乾健太郎 3,4
1 株式会社朝日新聞社 2 東京工業大学 3 東北大学 4 理化学研究所
\{urakawa-t,niitsuma-t, taguchi-y2, tamori-h\}@asahi.com,
okazaki@c.titech.ac.jp, inui@tohoku.ac.jp

## 概要

ニューラル言語モデルによる生成が多方面で実 サービス化され，その利用に関する実際的な検討が 始まっている.テキストによる創作活動である文芸分野でも，言語モデルの実応用化が進んでいるが，短詩形文学の一つである短歌においては，その応用可能性について積極的に議論される現状になく，実応用事例も存在しないため，モデル利用の有用性や 課題に不明点が多い. 本稿では，短歌を生成する言語モデルの評価や可能性について, 実際に歌壇で活動する歌人を取材し，そこで得られた作歌支援への 指摘にもとづき構築した，実応用事例の設計法や実施の結果を共有しながら，今後の課題を述べる.

## 1 はじめに

ニューラル言語モデル（以下，言語モデル）の 発展にともない, 対話応答 [1], プログラミング支援 [2], 論文執筆支援 [3] といった幅広い領域で言語 モデルの実応用化が進んでいる。これにしたがい，論文投稿の現場において言語モデルの利用に関する 方針策定 [4] が行われるなど，実応用における倫理 と有用性をふまえた検討がすでに始まっている。こ の流れはテキストによる創作活動である文芸にも及 び，執筆支援での言語モデル応用が検討され [5]，専門家による評価が行われているほか [6], 日本語で も実サービス化されたものが存在する [7].

短詩形文学の一つに数えられる短歌 1 におい ても，これまでに自動生成手法が提案されてき た $[8,9,10,11]$. 最近では, 言語モデルによる生成 を一部に含む短歌の連作が新人賞の最終選考を通過 するなど，実際の作歌の現場に生成が登場しはじめ ている $[12,13]$. しかし, 言語モデルの評価が歌人
 する.
をはじめとする実作者の立場から行われた例はいま だ少なく [14], 実際的な応用可能性について，積極的に議論されている現状にない，また，広く一般に 利用される形で実サービス展開された事例も存在し ないため，短歌を対象とした言語モデル応用の有用性や課題については，明らかでない点が多い.

本稿では，実際に歌壇で活動する歌人に対して短歌を生成する言語モデル（短歌生成モデル）に触れ る機会を設け，評価また応用可能性について取材 し，その結果をふまえ構築した実応用事例の設計法 や実施の結果を共有しながら，今後の課題について 述べる.

歌人への取材においては，先行研究であるモーラ を考慮した短歌生成モデル [11]を用意し，生成に関 する自由な意見をもらうとともに，今後考えられる 応用可能性について取材した. この結果として，作歌のヒントを得ることを目的とした言語モデル利用 の可能性に関する指摘が得られた。

実応用事例においては，ユーザの入力に従う作歌支援システムを構築した。これをウェブサービスと して公開するとともに，短歌の創作を行うワーク ショップにて展開し，ユーザが実際に触れる機会を 提供した. ここで得られた利用データの分析と利用者の声から，実際に言語モデルによる生成がユー ザの作歌に援用されうることを確認した。一方で， ユーザの創造性を引き出すためのより効果的な言語 モデル応用法の検討や，構築における学習データ利用環境の整備を今後の課題として議論する。

## 2 歌人からみた短歌生成モデル

短歌生成モデルの評価と応用可能性について，歌人の俵万智氏，永田和宏氏を対象に，以下の方法で 取材した。

## 2.1 方法

先行研究であるモーラを考慮した短歌生成モデ ル [11]を，日本語ウィキペディアから抽出した疑似短歌（5,7,5,7,7 モーラの短歌の定型を満たす文字列） でファインチューニングしたものと，このモデルを さらに俵の短歌データ約 2,000 件でファインチュー ニングしたものを用意し，永田には前者のみの，俵 には両者の出力結果を確認できる場をそれぞれ別個 に提供しながら（1）生成過程・結果についての自由な意見（2）今後にどんな影響・応用が考えられ るかの 2 点について意見を伺った. なお，以降の各人の発言内容は，記事 ${ }^{2}$ 3)4) からの引用とする.

モデルによる実際の生成例を表 1 に示す.また， モデル作成に関する詳細を付録 A に記す.

## 2.2 議論

生成過程と結果について 俵は，自作を学習した モデルの出力について「私っぽい」と指摘するとと もに，ある生成については「やられたな」とその結果に驚く反応を見せた. 永田は「まだ AI がこのレ ベルでよかった」としつつも，「それらしきいい歌 ができることは間違いない」と発言し, 両者それぞ れにモデルによって生成された短歌の質を評価し た. また両者から, 過去に詠まれた短歌を大量に学習する過程は，歌人が作歌を学ぶときとあまり変わ らないかもしれないと，短歌の学習における人とモ デルの類似性が指摘された.

可能性と課題 永田は「たとえば上の句で筆が止 まっている時に、AIに提案してもらった言葉を発展 させて下の句を付けるという使い方は、認めてもい いのかもしれない」と，言語モデルの創作における 応用について言及した.「歌をつくる前はこう思っ ていたけど、歌をつくるプロセスでこうも思ったん だという自分の発見があって（中略）そうした言葉


3) https://www.asahi.com/special/tawaramachi-aitanka/

4) https://www.asahi.com/articles/ASQ716V8VQ6QUCVL006. html

図 1 「花と歌」システム図

を AI が見つけてくれようと自分で見つけようと、本質は変わらないのかもしれない」と指摘する。俵 は， 1 秒間に 100 首程度生成できるという，モデル の高い量産性を挙げながら「壁打ち相手としては魅力的」と言及した. 一方で「AIに名歌をつくっても らう必要はない」「歌の種は人の心にある」とも発言している. 両者ともに，生成される短歌の質は認 めながらも，あくまで人が作歌を行うときにヒント を得ることを目的とした応用可能性を指摘している ことがわかる．これらの結果から，短歌の一部を入力し生成された結果を見ながら，より良い表現を探 すといった言語モデルの応用可能性が得られた。

## 3 短歌生成モデルの実応用

2 節での取材の結果，作歌におけるヒントを得る ために言語モデルを用いる可能性について指摘が得 られた。これをふまえ，ユーザの入力に従う作歌支援システムを構築した（図 1）.

## 3.1 短歌生成モデルによる作歌支援

システムこのシステムは，ふだん言えない気持 ちを花と歌（短歌）に込めて届けるウェブサービ ス「花と歌 $5^{5)}$ のために作られたものである（図 2）. ユーザの贈りたい相手に向けて，花のイラストと短歌を合わせた画像を共有できるというサービスで，作歌支援に言語モデルを用いている. ここでユーザ は（1）贈りたい相手に関する質問に答える（2）質問への回答内容に沿った短歌一首が生成される（3）生成された歌を自由に編集する，という手順を通し て短歌を作ることができる．今回の取り組みは，こ れまでに一度も短歌を作ったことのないユーザの利用を想定している．そのため，言語モデルの入力と して短歌の一部をユーザに考えさせる仕組みにする と、その難しさによってサービスからの離脱を招く

5) https://prtimes.jp/main/html/rd/p/000000014. $000054763 . \mathrm{html}$

図 2 「花と歌」スクリーンショット

表 2 「花と歌」学習データの例. 特殊トークン $<$ sep>， $<\mathrm{r}>$, $<\mathrm{k}>$ を用意し, 入力はキーワード $<\mathrm{sep}>$ 類語 $1<\mathrm{r}>$ 類語 $2 \ldots<\mathrm{sep}>$ 初句の形で作る. 出力は各句の間を $<\mathrm{k}>$ で挟む.

表 3 「花と歌」モデルによる生成例。 $\mathrm{s}$ は書き出し， $\mathrm{k}$ は キーワード， $\mathrm{t}$ は類語リストの入力値. $\mathrm{s}=$ いつまでも, $\mathrm{k}=$ ダンス, $\mathrm{t}=[$ 心地好い, 楽しい, 仲良し, すこやか, 瞬間]

いつまでも穏やかでいてくれるので 一緒にダンスするときもそう

可能性が考えられた。そこで，ユーザは簡単な質問 に答えるのみによって短歌を生成でき，その後に一首全体の編集権を得るという構成をとっている.

モデル 今回のシステムにおけるモデルは，短歌 の一部ではなくユーザの質問回答の内容を入力に短歌を生成する. そのため，2 節のようなデコーダの みによって構成された言語モデルではなく, seq 2 seq の機構を持ち入力をエンコードした結果を用いて生成するモデルを採用した. 具体的には，事前学習済 み言語モデルである BART [15] を CTRL [16] のよう にタグコントロールによる条件付き生成モデル学習 の枠組みでファインチューニングした ${ }^{6)}$. 入力とし て，出力される歌に含めたいキーワード，書き出し （第 1 句）に加え, 歌のテーマとして出力中に含ま れる単語の類語 5 つを与え，短歌を生成するものと する（表 2）キーワードのみユーザによる自由入

6）事前学習済み言語モデルは，朝日新聞社の保有記事約 900 万件で事前学習したものを使用した.力を受け付け，その他の入力はユーザの質問回答に よってシステム内部で自動的に与えられる。実際の 生成例を表 3 に示す. モデル作成に関する詳細を付録 Bに記す。

データセット 今回のように，広く一般に公開さ れ，創作支援として利用される言語モデルの作成に おいて，その学習データがどのようなものであるか が，サービスの信頼に関わる大きな問題となりう る。朝日新聞社の場合，保有するデータには「朝日歌壇」入選歌などの短歌が含まれるが，これを生成 に利用するための許諾は得ていない. 著作権や創作上のモラルといった観点もふまえて社内で議論し，既存の短歌を学習データとして意図的に利用するこ とは避けるという方針を定めた。そこで，学習デー タは [11] と同様にコーパスから疑似短歌を抽出する ことで作成した。コーパスは $\mathrm{CC}-100^{7)}$ の日本語文書 データセットで，抽出した疑似短歌は 65,770 件であ る. 各サンプルにおけるキーワードは TextRank [17] のスコア上位 3 件よりランダムに 1 つ抽出した. テーマとして与える類語群は, 朝日新聞単語べクト ル [18]により各サンプルにおける各単語の類似語上位 5 件ずつを得た中から，5 件をランダムに抽出し て作成した。


図 3 編集が与えられた短歌における, 編集前後での編集距離の分布. 横軸は編集距離. 縦軸は短歌数.

図4 編集が与えられた短歌における, 各句ごとの編集操作の分布。縦軸は文字数.

## 3.2 実施と議論

このシステムは，2022 年の 9 月から 1 ヶ月間の期間限定でウェブ上にて公開されるとともに，短歌創作のワークショップにおいて，参加者が作歌のヒン トを得るためのツールとして利用された.

システムが実際にどのように利用されたかを見る ため，ウェブ上にてユーザが作成し，実際に他者と 共有した短歌データから 254 件を抽出・分析した.図 3 に，編集が与えられた短歌における編集距離の 分布を示す. 編集の与えられた短歌の多くが，生成 の一部を編集することで作成されたことがわかる。 また, 図 4 に示す編集操作の分布を見ると，最も多 い操作が置換で，入力で与えられる第 1 句を除き，各句で偏りなく編集されていることがわかる. これ らの結果から，ユーザが生成された短歌の内容を生 かしながら，自身の歌を作っていることが窥える。表 4 ユーザによって共有された歌の編集前後の例. 波線，下線はそれぞれ編集前後における編集箇所.

ワークショップの参加者からも「出力したフレーズ を取り入れて作歌できた」「ヒントとなる言葉に出会えておもしろかった」といった反応が得られ，モ デルが作歌時の発想を広げる手助けとなったことが 確認できた ${ }^{8)}$. 表 4 に，実際の編集例を示す.

一方で，全体の 7 割近くの生成結果が，ユーザの 編集を経ずにそのまま共有されていたこともわかっ た. これは，生成された短歌の質がユーザに受け入 れられた結果とも考えられるが，作歌のヒントを与 える応用とはならなかった例が多い結果であるとも いえる.よりユーザの創造性を引き出す言語モデル の応用法の検討が，今後の課題である.

また，今回のモデル学習は疑似短歌によって行わ れている。実際の短歌を学習したモデル生成が歌人 による評価を得ている中で，今後の応用に向けた データセットの整備やデータ利用における合意形成 などが，より活発な実応用に向けて必要であると考 える。

## 4 おわりに

本稿では，短歌生成モデルの実応用について，歌人への取材を通してその可能性について整理した. また，取材の結果をふまえ構築・展開した作歌支援 システムについて説明し，ユーザの反応を分析する ことで，短歌生成モデルが実際にユーザの作歌を支援する形で利用されることを確認した. 今後の課題 として，よりユーザの創造性を向上させる言語モデ ル応用法の検討や，学習のための短歌データセット の整備などに取り組みたい。

8) https://digital.asahi.com/articles/ ASQ9P300309LUCVL01L.html

## 謝辞

取材に協力頂いた俵万智氏，永田和宏氏に感謝 する. データ提供を頂いた株式会社 電通クリエー ティブ Xに感謝する。

## 参考文献

[1] ChatGPT: Optimizing Language Models for Dialogue, （2023-1 閲覧）. https://openai .com/blog/chatgpt/.

[2] GitHub Copilot $\cdot$ Your AI pair programmer，（2023-1 閲覧）. https://github.com/features/copilot.

[3] Galactica Demo,（2023-1 閲覧）. https://galactica. org/.

[4] ACL 2023 Policy on AI Writing Assistance, (20231 閲 覧）. https://2023.aclweb.org/blog/ ACL-2023-policy/.

[5] Ann Yuan, Andy Coenen, Emily Reif, and Daphne Ippolito. Wordcraft: Story Writing With Large Language Models. In 27th International Conference on Intelligent User Interfaces, pp. 841-852, 2022.

[6] Daphne Ippolito, Ann Yuan, Andy Coenen, and Sehmon Burnam. Creative Writing with an AI-Powered Writing Assistant: Perspectives from Professional Writers. arXiv preprint arXiv:2211.05030, 2022.

[7] Hiroyuki Osone, Jun-Li Lu, and Yoichi Ochiai. BunCho: AI Supported Story Co-Creation via Unsupervised Multitask Learning to Increase Writers' Creativity in Japanese. In Extended Abstracts of the $2021 \mathrm{CHI}$ Conference on Human Factors in Computing Systems, pp. 1-10, 2021.

[8] Tomonari Masada and Atsuhiro Takasu. LDA-based scoring of sequences generated by RNN for automatic Tanka composition. In International conference on computational science, pp. 395-402. Springer, 2018.

[9] Makoto Nakatsuji and Sohei Okui. ConclusionSupplement Answer Generation for Non-Factoid Questions. In Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 34, pp. 8520-8527, 2020.

[10] Yuka Takeishi, Mingxuan Niu, Jing Luo, Zhong Jin, and Xinyu Yang. WakaVT: A Sequential Variational Transformer for Waka Generation. Neural Processing Letters, Vol. 54, No. 2, pp. 731-750, 2022.

[11] 浦川通, 新妻巧朗, 田口雄哉, 田森秀明, 岡崎直観, 乾健太郎. モーラを考慮した fine-tuning による口語短歌生成. 言語処理学会第 28 回年次大会, 2022.

[12] 浦川通. AI が俵万智さんの歌集を学習したら 開発者が言語モデルを解説. 朝日新聞デジタル, 2022-07-05. https://digital.asahi.com/articles/ ASQ744WG1Q71UCVL01Y.html.

[13] 第六十四回 短歌研究新人賞発表. 短歌研究, Vol. 78, No. 9, 092021.

[14] 中辻真, 奥井颯平, 野口あや子, 加古陽. 特集 作品二十首\&修業秘話 歌歴 1 年半でここまで上達! 歌人 $\mathrm{AI}$ (人工知能歌人) の歌力：ついに歌壇デビューか!筆名は「恋する AI 歌人」! 短歌研究, Vol. 76, No. 8, pp. 91-102, 082019.

[15] Mike Lewis, Yinhan Liu, Naman Goyal, Marjan
Ghazvininejad, Abdelrahman Mohamed, Omer Levy, Ves Stoyanov, and Luke Zettlemoyer. BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension. arXiv preprint arXiv:1910.13461, 2019.

[16] Nitish Shirish Keskar, Bryan McCann, Lav R Varshney, Caiming Xiong, and Richard Socher. CTRL: A Conditional Transformer Language Model for Controllable Generation. arXiv preprint arXiv:1909.05858, 2019.

[17] Rada Mihalcea and Paul Tarau. TextRank: Bringing Order into Text. In Proceedings of the 2004 conference on empirical methods in natural language processing, pp. 404-411, 2004.

[18] 田口雄哉, 田森秀明, 人見雄太, 西鳥羽二郎, 菊田洸 ほか. 同義語を考慮した日本語の単語分散表現の学習. 研究報告自然言語処理 (NL), Vol. 2017, No. 17, pp. $1-5,2017$.

[19] Taku Kudo and John Richardson. SentencePiece: A simple and language independent subword tokenizer and detokenizer for Neural Text Processing. In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing: System Demonstrations, pp. 66-71, Brussels, Belgium, November 2018. Association for Computational Linguistics.

## A 取材時に利用した短歌生成モデル

2 節の取材における言語モデルの構成や学習時のハイパーパラメータについて記す. Hugging Face 上で公開されている日本語 (GPT-29)を事前学習モデルとしてファインチューニングすることで作成した（表 5). 歌人データによるモデルは，疑似短歌によるモデルをさらにファインチューニングすることで作成している （表 6）.モデルの学習に用いたデータ数は，ウィキペディアによる疑似短歌が 10,000 件，俵による短歌デー タが 2,372 件である.

表 5 疑似短歌データによる短歌生成モデル構成とハイパーパラメータ

表 6 歌人データによるファインチューニングモデル構成とハイパーパラメータ

トークナイザ_Sentencepiece

最適化器

Adam

バッチサイズ

16

エポック数

10

## B「花と歌」短歌生成モデル

3 節のシステムにおける言語モデルの構成や学習時のハイパーパラメータを表 7 に示す. 実装 には，Hugging Face Transformers ${ }^{10}$ を用いている。トークナイザは朝日新聞社保有の記事を学習した Sentencepiece [19] で，語彙数は 32,000である。なお，事前学習済みモデルである BART-base は，朝日新聞社 の保有する記事約 900 万件で事前学習したモデルを利用した.

9) https://huggingface.co/rinna/japanese-gpt2-medium

10) https://github.com/huggingface/transformers
 浦川通 1 新妻巧朗 1 田口雄哉 1 田森秀明 1 岡崎直観 ${ }^{2}$ 乾健太郎 3,4 1 株式会社朝日新聞社 2 東京工業大学 3 東北大学 4 理化学研究所 \{urakawa-t,niitsuma-t, taguchi-y2, tamori-h\}@asahi.com, okazaki@c.titech.ac.jp, inui@tohoku.ac.jp  