# 企業情報を考慮したキャッチコピーの自動生成

昇夏海 $\dagger$, 平岡達也 $\dagger$, 丹羽彩奈 $\dagger$, 西口佳佑 $๋$, 岡崎直観 $\dagger$
†東京工業大学†株式会社サイバーエージェント
\{natsumi.nobori, tatsuya.hiraoka, ayana.niwa\}at nlp.c.titech.ac.jp
okazaki at c.titech.ac.jp
nishiguchi_keisuke at cyberagent.co.jp

## 1 はじめに

キャッチコピーは企業や商品のイメージを消費者に端的に伝えることを目的とした文章であり，イ ンターネット上で大量の広告が発信されるように なった現在では，その自動生成に注目が集まってい る $[1,2,3,4]$. キャッチコピーの自動生成に関する 研究の一例として，山根らはキャッチコピーの特徴 の分析を行い [5]，SNS 上のデータを活用して消費者の嗜好を反映させたキャッチコピーの生成に取り 組んだ [6]. また, Alnajjar ら [7] は韻や比喻を含む キャッチコピーの自動生成に取り組んだ。このよう に，これまでの研究は単語や文構造を制御し，修辞技法などの特定の特徵を持つようなキャッチコピー の生成を目指すことが多かった。

これに対し，本研究では特定の企業を想起させる 特徴的な単語（企業関連語）を含むキャッチコピー の自動生成に取り組む。例えば，住友林業の「木と 生きる幸福」の「木」のように広告対象を直接的に 示すものや，ニチレイの「おいしい瞬間を届けた い」の「おいしい」のようなものが企業関連語とし て挙げられる。このような企業関連語を含めること で，キャッチコピーと広告対象の結びつきが強くな り，広告の効果を引き出すことができる [8]. 実際 に，丹羽ら [9] は，収集したキャッチコピーのうち $57 \%$ に広告対象を想起させるような単語が含まれて いることを報告している．そのため，企業関連語を 組み込んだキャッチコピーの自動生成を行うこと は，低コストで効果的な広告の作成に役立つ。

従来のキャッチコピー生成では，既存のキャッチ コピーの単語を置換することで，新たなキャッチコ ピーを生成していた。このとき，置換を行う単語の リストは事前に作成し，モデルに与える必要があっ た. 例えば，ユーザからの入力情報や，Wikipedia
や SNS，商品情報を含む Web ページなどの外部文書をもとに単語リストを自動で抽出し，これを広告対象名やその関連語としてモデルに与えてい た $[3,2,6,10]$. しかしながら，このように事前に作成した企業関連語で置換を行うキャッチコピー生成 では，生成範囲が単語リストで限定されてしまうた め，多様性に欠けるという問題がある。さらに，事前に作成した単語リストに含まれる単語が置換対象 となる文脈にそぐわず，非文法的なキャッチコピー を生成してしまう恐れもある。

本研究では，事前学習済み言語モデルを用い，既存広告の一部を異なる企業の関連語で置き換える ことにより，既存広告を指定した企業の広告に転移 させることを試みる。具体的には，BERT [11]によ るマスク言語モデルを用いて，キャッチコピー内の 指定した単語を企業関連語に置き換える。ところ が，ある企業のキャッチコピーを別の企業に書き換 えた並列コーパスは存在しないため，このタスク で BERT を再学習するための訓練データは存在しな い。そこで，BERT のマスク言語モデルが指定した 企業の関連語を出力できるように制御するために， Plug and Play Language Model (PPLM) [12] の枠組みを 応用した新たなキャッチコピー生成の手法を提案す る. 実際のキャッチコピーを用いた実験を通して，提案手法が指定された企業を考慮し，適切なキャッ チコピーが生成できることを確認した。

## 2 提案手法

## 2.1 単語予測のためのマスク言語モデル

本研究の目的は, 既存のキャッチコピーの 1 単語 を書き換えることにより，別の企業のキャッチコ ピーへ転移させることである．例えば，図 1 に示 すように，佐川急便のキャッチコピーである「想

(1) 文書分類器とマスク言語モデルの学習

(2) 全単語探索による単語の予測

(3) 推論時のパラメータ更新による単語の予測

図 1: 手法概要:企業ラベルを用いたキャッチコピーの生成

いは一番重い。」について，「重い」という単語を置 き換えることで，「想いは一番甘い。」のような新た なキャッチコピーを作成する．具体的には単語の 系列 $s=w_{1}, \ldots, w_{N}$ について, 系列に含まれる単語 $w_{n}(1 \leq n \leq N)$ を単語 $w^{\prime}$ に置き換えることによっ て，新たなキャッチコピー $s^{\prime}$ の生成を行う.

単語 $w^{\prime}$ の予測には，事前学習済みのマスク言語 モデルである BERT [11]を利用する．マスク言語モ デルの学習では, 入力文 $\mathrm{s}$ に含まれる単語をランダ ムに一つ選択し，特殊なマスクトークン [MASK] に 置き換えた新たな入力文 $s_{\backslash w_{m}}$ を作成する.ここで $\backslash w_{m}$ は $m$ 番目の単語を [MASK] でマスクしたこと を表す. マスク済みの文 $s_{\backslash w_{m}}$ の [MASK] に対応す る BERT の出力 $\boldsymbol{h}_{\hat{m}}$ を用いて, マスク前の単語の確率を以下のように計算する。

$
p\left(w_{m} \mid s_{\backslash w_{m}}\right)=\operatorname{softmax}\left(\operatorname{MLP}^{(\mathrm{MASK})}\left(\boldsymbol{h}_{\hat{m}}\right)\right)_{w_{m}} \text {. }
$

ここで $\mathrm{MLP}^{(\mathrm{MASK})}(\cdot)$ は多層の全結合層であり， $\boldsymbol{h}_{\hat{m}}$ を語彙の規模と同じ次元数のベクトルへと変換す る. また, $(\cdot)_{w_{m}}$ は単語 $w_{m}$ に対応する要素を抜き出 す操作である.すなわち [MASK] に対応する入力か ら，語彙に含まれる各単語に対応する確率をソフト マックス関数で計算し，置き換え前の単語に対応す る確率を出力する。このマスク言語モデルの学習は 図1の(1)の MLP $^{\text {(MASK) }}$ の学習に対応する.

## 2.2 PPLM による予測の制御

本研究ではさらに，企業ラベルを用いたキャッチ コピー生成の制御を行う．上述の例のように「想い は一番重い。」というキャッチコピーを，ある特定 の企業（例えば「明治製菓」）のイメージを盛り込 んだ内容に書き換えるとする。この時，「明治製菓」 という企業ラベルをモデルに導入することで，「想 いは一番甘い。のように指定された企業を考慮し
た書き換えを実現したい。

企業ラベルを用いたキャッチコピー生成の制御の ために，PPLM [12] の枠組みを応用する．PPLM で は，事前にテキスト $s$ からラベル $l$ を予測する文書分類器を学習し, これを用いてラベル $l$ を考慮した 新たな単語 $w^{\prime}$ の予測を行う. 具体的には, 学習済 みの文書分類器がラベル $l$ を予測する確率 $p\left(l \mid s^{\prime}\right)$ を 用い，文書分類器がラベル $l$ を予測するような新た なテキスト $s^{\prime}$ を求める.

文書分類の確率 $p(l \mid s)$ は以下のように計算する.

$
\begin{aligned}
\boldsymbol{h}^{(\mathrm{CLS})} & =f(\operatorname{BERT}(s)) \\
p(l \mid s) & =\operatorname{softmax}\left(\operatorname{MLP}^{(\mathrm{CLS})}\left(\boldsymbol{h}^{(\mathrm{CLS})}\right)\right)_{l}
\end{aligned}
$

ここで， $\operatorname{BERT}(\cdot)$ は単語の系列 $s=w_{1}, \ldots, w_{N}$ を入力とし, 各時刻の単語 $w_{n}$ に対応する文脈を考慮 した分散表現 $\boldsymbol{h}_{1}, \ldots, \boldsymbol{h}_{N}$ を出力する事前学習済みの BERTを用いたエンコーダーである. ただし，入力 となる単語の系列の先頭 $w_{1}$ と末尾 $w_{N}$ は, それぞ れ文書分類に使用するための特殊トークン [CLS] と，文末を意味する特殊トークン [SEP] である。ま た $f(\cdot)$ は BERT の出力から文書分類に使用するべ

では特殊トークンの入力に対応する $\boldsymbol{h}_{0}$ を抜き出 す操作を採用する. $\mathrm{MLP}^{(\mathrm{CLS})}(\cdot)$ は式 (1) で用いた $\mathrm{MLP}^{(\mathrm{MASK})}(\cdot)$ とは異なる多層の全結合層であり，抜 き出した $h_{0}$ を文書ラベルの規模と同じ次元数のべ クトルへと変換する. この文章分類器の学習は図 1 の (1)の MLP $^{\text {(CLS) }}$ の学習に対応する.

## 2.3 置換後単語の予測戦略

キャッチコピー $s$ について, 単語 $w_{n}$ を $w^{\prime}$ に置換 して得られた $s^{\prime}$ が学習済みの文書分類器によって 企業ラベル $l$ に分類される確率を $p\left(l \mid s^{\prime}: w_{n}=w^{\prime}\right)$
表 1: 広告データのマスク処理の例

企業ラベル：牛乳石战共進社

[MASK] は、あなたのカドをまるくします。石けんは、あなたの [MASK]をまるくします。石けんは、あなたのカドを [MASK] します。

表 2: 実験に使用したデータの諸元

と表記する。本研究では，この確率が大きくなるよ うな $w^{*}$ を求めるために 3 つの手法を提案する。

全探索による単語の予測: 語彙 $V$ に含まれる全ての 単語候補を用いて $w^{*}=\operatorname{argmax}_{w^{\prime} \in V} p\left(l \mid s^{\prime}: w_{n}=w^{\prime}\right)$ となる $w^{*}$ を求める. これは図 1 の (2) に対応する.追加学習による単語予測: PPLM での予測と同様に,推論時に指定した企業ラベルを用いて文書分類器を 追加で学習することで， $p\left(l \mid s^{\prime}, w_{n}=w^{\prime}\right)$ が高くなる ように BERT のパラメータのみを更新し，その副産物としてマスクされた単語の予測結果が企業に特徴的な単語になるように誘導する。また，文書分類の 追加学習によるマスク言語モデルの忘却 [13] を防ぐ ために，マスクした $w_{n}$ 以外の単語はそのまま予測 できるように追加学習を行う. 追加学習を行なった BERT とマスク言語モデルを用いて，式 (1)による 単語の予測を行う.この学習と単語の予測の概要は 図1の(3)に対応する.

組み合わせによる単語の予測: 全探索と追加学習を 組み合わせた単語の予測を行う. 単語 $w_{n}$ を $w^{\prime}$ で置 き換えたときのスコアを以下によって計算する。

$
\operatorname{score}\left(w_{n}, w^{\prime}\right)=p\left(l \mid s^{\prime}: w_{n}=w^{\prime}\right) p\left(w_{n} \mid s_{\backslash w_{n}}\right)
$

ここで $p\left(l \mid s^{\prime}: w_{n}=w^{\prime}\right)$ は全探索による単語の予測 で求められたラベル $l$ のの分類確率, $p\left(w_{n} \mid s_{\backslash w_{n}}\right)$ は 追加学習を行なった BERT とマスク言語モデルを用 いて計算した単語の出現確率である。このスコアが 高くなる単語を最終的な予測単語として採用する.

## 3 実験

提案手法によるキャッチコピー生成の有効性を確 かめるために，実際のキャッチコピーを用いた実験 を行う. 本実験では，既存のキャッチコピーから単語をランダムに [MASK] に置き換え，さらに企業ラ ベルを用いることで置き換え前の単語の予測性能が 向上するかを確認する. 提案手法が企業ラベルを用 いて企業に特徴的な単語を予測できるのであれば，表 3: マスク予測の実験結果.

表 4: 「あのオトコ、どうやって [MASK] してやろう か。」への各手法の予測上位 3 単語. 企業ラベルは 「キッコーマン」で，正解の単語は「料理」である.

この実験の評価値は高くなるはずである。

## 3.1 実験設定

本研究では，多数のキャッチコピーを収録した データセット [14]を用いた実験を行う。データ セットに収録されているキャッチコピーの一部を [MASK] に置き換えることで，置換前の単語を予測 するマスク言語モデルのタスクを作成した。ただ し，[MASK]への置き換えは名詞，形容詞，動詞の みを対象とした。品詞の解析には $\mathrm{MeCab}$ [15] を用 いた。また，予測の制御を行うための企業ラベルに は，キャッチコピーのテーマとなる企業・団体名を 用いた。マスク済みのデータの例を表 1 に示した。 また，データセットに含まれる企業ラベルは 443 種類であり，このうちキャッチコピー数の多い 50 企業を選択して開発データと評価データを作成した。実験に用いたデータセットの諸元を表 2 に示した。

2 節で導入した各手法の性能を比較する。全ての 手法に共通する設定として，文書分類とマスク言語モデルに用いる事前学習モデルは Hugging Face ${ }^{1)}$ の日本語の事前学習済み BERT モデル “bert-basejapanese-whole-word-masking,"2)を用いた。また，文書分類器とマスク言語モデルの学習では Adam[16] による最適化を行う。

提案手法が企業ラベルを用いて予測を制御できる ことを確かめるために，マスク言語モデルのみを学習して置換後単語の予測を行うモデル (MASK) との 比較を行う．また， 2.3 節で説明した全探索による 単語の予測を行うモデル (全探索), 追加学習による 単語の予測を行うモデル (追加学習), これらの組み

表 5: 「想いは一番 $[\mathrm{MASK}]_{0} 」$ 対して，異なる企業ラベルを与えた時の各手法による Top9 の予測単語. 本来の企業ラベルは「佐川急便」で，単語は「重い」である。

 & 美しい & 重い & 強い & 長い & 短い & 多い & 早い & 甘い & 近い \\

合わせによって単語の予測を行うモデル (組み合わ せ) をそれぞれ比較し，正解単語に対する top- $k$ 正解率 (Acc@k) による評価を行う。

## 3.2 実験結果

表 3 の実験結果より，全探索と追加学習を組み合 わせて単語の予測を行う手法が，もっとも高い精度 で正しい単語を予測できることがわかった. また,追加学習を行うモデルが MASK モデルよりも性能 が高いことから, 企業ラベルを用いて追加学習を行 う提案手法によって, 企業に特徴的な単語を正しく 選択できていることがわかった. 一方で，提案手法 のうち全探索による単語の予測を行うモデルは, 他 のモデルと比べて性能が大きく劣る. これは, 文書分類器の分類確率が最も高くなる単語を全探索で選択するだけでは，企業に特徴的な単語を予測できて も，前後の文脈を考慮できないためである.

実際に，各手法によって予測された単語の例を表 4 に示す. 全探索によって単語を予測する手法は,企業関連語（キッコーマンと結びつきやすい「奨油」 など）を予測の上位に挙げているが，前後の文脈を 考慮していないことが分かる。一方で MASK モデ ルは前後の文脈のみを考慮した単語（「出世」など） を上位に挙げている. 追加学習や全探索との組み合 わせによる提案手法は, 企業関連語を考慮した単語 を上位に予測している。

## 3.3 異なる企業ラベルによる予測

本研究の目的である新しいキャッチコピーの生成のために，キャッチコピーの本来のターゲットと は異なる企業ラベルを用いて単語の予測を行う．実験で比較した各手法に対して，同一のマスク済み キャッチコピーを入力し，異なる企業ラベルを与え
た時の予測単語の Top 9 の予測結果を表 5 に示した.

表より, 全探索と追加学習を組み合わせた提案手法は，「佐川急便」に対して「重い」，「明治製菓」に 対して「甘い」のように，企業ごとに異なる関連語 を Top 1 として予測できていることが分かった. マ スク言語モデルのみを用いた手法は，企業ラベルを 推論時に使用しないため, 全ての企業に対して同じ 単語を予測する。追加学習のみを行う手法は，マス ク言語モデルのみを用いた手法と上位の予測結果 が変わらず，Top 1 の単語に関しては全ての企業に 対して「美しい」を出力している. 表 3 において， MASK モデルと追加学習モデルの性能差が小さいこ とからも示唆される通り, 追加学習を用いた単語の 予測はほとんどマスク言語モデルの性能と変わらな いことがわかった。また，全探索による手法は「佐川」「石賖」「チョコレート」のように，明らかな企業関連語を予測できているが，言語モデルとしての 働きはないため, 文脈にそぐわない単語の予測を行 なっている.

## 4 おわりに

本稿では，マスク言語モデルで単語の置換を行 い，既存のキャッチコピーを異なる企業へ転移させ る手法を提案した。 提案手法は，企業ラベルを用い た文書分類器とマスク言語モデルをを事前に学習す ることで，指定した企業ラベルに関連し，かつ前後 の文脈を考慮した単語の予測を行う. 単語の予測で は，語彙を用いた全探索手法と，PPLMをべースと した追加学習による手法，そしてこの二つを組み合 わせた手法を提案した. 実験結果より, 二つの手法 を組み合わせることで適切な単語の置き換えによる キャッチコピー生成ができることを確認した. 今後 は，複数の単語を書き換える手法に拡張したい。

## 参考文献

[1]Carlo Strapparava, Alessandro Valitutti, and Oliviero Stock. Automatizing two creative functions for advertising. In Proceedings of the 4th International Joint Workshop on Computational Creativity, pp. 99-108, 2007.

[2]Gözde Özbal, Daniele Pighin, and Carlo Strapparava. BRAINSUP: Brainstorming support for creative sentence generation. In Proceedings of the 51st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 1446-1455, 2013.

[3]Polona Tomašič, Gregor Papa, and Martin Žnidaršič. Using a genetic algorithm to produce slogans. Informatica, Vol. 39, No. 2, 2015.

[4]Yongzhen Wang, Heng Huang, Yuliang Yan, and Xiaozhong Liu. Quality-sensitive training! social advertisement generation by leveraging user click behavior. In Proceedings of the 2019 World Wide Web Conference, pp. 2045-2055, 2019.

[5]山根宏彰, 萩原将文. 複数コーパスを利用したキャッチ フレーズの特徴分析. 日本感性工学会論文誌, Vol. 11, No. 2, pp. 233-239, 2012.

[6]山根宏彰, 萩原将文. ウェブにおけるユーザの嗜好を反映させたキャッチコピー自動生成システム. 日本感性工学会論文誌, Vol. 13, No. 4, pp. 493-500, 2014.

[7]Khalid Alnajjar and Hannu Toivonen. Computational generation of slogans. Natural Language Engineering, p. 1-33, 2020.

[8]Chiranjeev Kohli, Lance Leuthesser, and Rajneesh Suri. Got slogan? guidelines for creating effective slogans. Business horizons, Vol. 50, No. 5, pp. 415-422, 2007.

[9]丹羽彩奈, 岡崎直観, 西口佳佑, 亀山千尋, 毛利真崇. 修辞技法を考慮したキャッチコピー自動生成に向けた研究. p. 63. YANS, 2019.

[10]脇本宏平, 川本峻頌, 張培楠. インターネット広告におけるキーワードに基づく広告文の自動生成. 人工知能学会全国大会論文集, Vol. JSAI2020, pp. 4Rin170-4Rin170, 2020.

[11]Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 41714186, 2019.

[12]Sumanth Dathathri, Andrea Madotto, Janice Lan, Jane Hung, Eric Frank, Piero Molino, Jason Yosinski, and Rosanne Liu. Plug and play language models: A simple approach to controlled text generation. In International Conference on Learning Representations, 2020.

[13]Sang-Woo Lee, Jin-Hwa Kim, JungWoo Ha, and Byoung-Tak Zhang. Overcoming catastrophic forgetting by incremental moment matching. CoRR, Vol. abs/1703.08475, , 2017.

[14]丹羽彩奈, 岡崎直観, 西口佳佑, 亀山千尋, 毛利真崇. キャッチコピーの自動生成に向けた分析. pp. 558-561.言語処理学会第 25 回年次大会, 2019.

[15]Taku Kudo. Mecab: Yet another part-of-speech and morphological analyzer. http://taku910.github.io/mecab/, 2006.

[16]Diederik P. Kingma and Jimmy Ba. Adam: A method for stochastic optimization. In International Conference on Learning Representations, 2015.
 昇夏海 $\dagger$, 平岡達也 $\dagger$, 丹羽彩奈 $\dagger$, 西口佳佑 $๋$, 岡崎直観 $\dagger$ †東京工業大学†株式会社サイバーエージェント \{natsumi.nobori, tatsuya.hiraoka, ayana.niwa\}at nlp.c.titech.ac.jp okazaki at c.titech.ac.jp nishiguchi_keisuke at cyberagent.co.jp  