# 中央銀行の要人発言に対するタカ・ハト極性付与タスクの検討

高野海斗 1 内藤麻人 ${ }^{1}$ 長谷川直弘 ${ }^{1}$ 中川慧 ${ }^{1}$
1 野村アセットマネジメント株式会社
$\{$ k-takano, a-naito, n-hasegawa, k-nakagawa $\}$ @nomura-am.co.jp

## 概要

金融業界でオルタナティブデータの活用が進む 中，金融テキストマイニングにおいて，文に対して センチメント付与を行うタスクは，重要な研究テー マである．金融分野におけるテキストへのセンチメ ント付与性能の向上のためには，少なくとも，否定表現，経済状況，時間軸の情報を加味できるモデル が必要であると考える. 本研究では，上記に挙げた 3 つの情報を加味する必要のある困難なタスクとし $\tau$ ，中央銀行の要人発言に対するタカ・ハト極性付与タスクを提案し, その重要性と必要性について述 べる.

## 1 はじめに

近年，機械学習などの手法が注目を集め，様々な 分野への応用研究が活発に行われている. 金融業界 でも人工知能分野の手法や技術を様々な場面に応用 することが期待されており，膨大な金融情報を分析 し投資判断を支援する金融テキストマイニングに注目が集まっている $[1,2,3]$.

金融業界でオルタナティブデータの活用が進む 中，金融テキストマイニングにおいて，文に対して センチメント付与を行うタスクは，重要な研究テー マである. 特にテキストを用いて景況感を示す指標 はセンチメントスコアと呼ばれ実際に活用されてい る. 例えば野村證券株式会社では, 政府や日本銀行 のレポートのセンチメントを指数化する野村 AI 景況感指数を公表し，実際に定量分析などで利用して いる1).

金融テキストマイニングにおいて，センチメント スコアが注目されているのには，以下に述べる背景が存在する。一般に金融テキストには，結果（事実）と評価が混在している。例えば，「今期の EPS ${ }^{2)}$


は 100 円であり、経営努力が実った。」と「今期の EPS は 100 円であり、経営陣の見通しの甘さが露呈 した。」というテキストには，「今期の EPS は 100 円 である」という同一の結果を伝えているが，評価は 正反対の内容を伝えている. このように，同一の結果に対してどのような評価，すなわち極性を付与す るかという点に市場あるいは投資家のセンチメント が含まれる。また結果を表す情報は財務データある いは経済データが多く，定量的に取得・分析できる のに対して，評価情報はテキストにのみ存在する定性的情報である。そのため，金融テキストの極性付与は投資意思決定において重要なタスクである.

本研究では，大量に存在する金融テキストの中で 中央銀行の要人 ${ }^{3}$ ) 発言に極性を付与することに焦点 を当てる．中央銀行に関しての詳細は，2 章で述べ ることとし，ここでは中央銀行の要人発言に注目す る理由を簡潔に述べる。

まず，中央銀行の公開情報は注目度が高く，マー ケットに与える影響が大きいことが焦点を当てた最大の理由である，日々運用者は，マーケット情報を 参考にし，仮説を立て，投資判断を行っているが， その中でもメディアや公式 HP から発表される中央銀行の金融政策方針や要人発言などの重要性は非常 に高く，実際に市場が予想していなかった発言が出 た直後には，株価や金利などが大きく変動すること があるのは周知の事実である [4]. そのため，公開 されているテキスト情報の定量的な活用を含めると 非常に多くの関連研究が存在する。関連研究の詳細 に関しては，3 章で取り上げるが，それらの研究の ほとんどがトピックの割合や，そのポジティブ単語 の割合・ネガティブ単語の割合と，マーケットとの 関連を分析したものとなっている。

本研究で焦点を当てている要人発言は，伝統的 に，金融引締のスタンスを取っているものは「タ カ」派の意見，金融緩和のスタンスを取っているも のは「ハト」派の意見に大別される．金融政策の決

3）金融政策方針を決定するメンバー
定権を持つ要人のタカ派あるいはハト派の発言の多萓が今後の金融政策の方向性に重要な影響を与え ることが想定される。そのため市場参加者は要人発言が，タカ・ハトのどちら側のスタンスであるかを 日々のニュースや公表物から波み取り, 将来の見通 しや投資判断の材料にしている. しかし，このタカ とハトという観点から極性を付与してマーケット への影響を分析するような研究は数が少ない. 例え ば，Amadeus[5] らは，オリジナルの辞書を用いてタ カ・ハトの極性を付与し，分析を行っているが，辞書やデータセットに関する詳細は伏せられており， このような極性が付与されたデータは公開されてい ない.

そこで，本研究では中央銀行の要人発言に対する タカ・ハト極性付与タスクを提案する。 そもそも文 の極性付与というタスク自体が，文の分類問題の中 ではトピックの分類などと比較して難しいタスクで はあるが，要人発言の分析を通して，このタカ・ハ トの極性付与タスクは従来の極性付与タスクより も難易度が高いことがわかってきた. 本研究では, どのような点においてタカ・ハトの極性付与が他タ スクと比較して難しいのかについて取り上げる。ま た，研究初期の段階であることから定義に関してな ど，課題が残っているが，そのような点を解消した 暁には，公開データを用いて正解ラベル付きデータ の共有を目標としている.このようなデータセット が公開されることで，極性付与モデルのさらなる発展と，これまでテキスト情報であることから定量的 に扱うことができなかった多くのテキストが有効活用されることで，より健全な市場の形成に繋がるこ とを期待している.

## 2 中央銀行の重要性

中央銀行は国家や特定の地域の金融機構の中核と なる機関である. 各国の中央銀行を取り上げたいと ころではあるが，市場に与える影響が最も大きい米国の連邦準備制度（Federal Reserve System，以降 Fed と省略して表記）を代表として取り上げる。

連邦準備制度において，金融政策の基本方針決定 に中心的な役割を果たす組織が，連邦準備制度理事会 (Board of Governors of the Federal Reserve System) である. Fedの金融政策の目的として，連邦準備法 では「最大の雇用」,「物価の安定」,「穏やかな長期金利」が規定されている. 特に，「最大の雇用 $」$,「物価の安定」は非常に重要視されている.
Fed は上記の目標を達成するために，状況に応じ ていくつかの金融政策手段を実施する．代表的な金融政策手段として，公開市場操作，公定歩合，預金準備率がある ${ }^{4)}$.これらの金融政策手段のうち最も 機動的なものが公開市場操作であり, FF 金利5)を誘導目標に沿うように，オペレーションを実施する。 したがって，市場参加者の注目は $\mathrm{FF}$ 金利の誘導目標に集まることから，その基本方針が決定される公開市場委員会（Federal Open Market Committee，以降 FOMC と省略して表記）に対する市場の関心は非常 に高いものとなっている. FOMC は日銀の政策委員会に相当する最高意思決定機関であり，年 8 回開催 される。投票権を有する参加者は，理事会から理事 7 名, 12 ある地区連銀から総裁 5 名（1 年交代の輪番）の計 12 名であり，投票権のない地区連銀総裁 はオブザーバーとして出席する。これらの理由か ら，FOMC 参加者の日々の発言，スタンスが市場参加者からは非常に重要視されている. 本研究では, オブザーバーを含めた FOMC 参加者を「要人」と定義する.

Fed の金融政策のスタンスを分析するのに有効となるテキストデータは，スペースの関係上, Appendix[A] に記載している。

## 3 関連研究

金融政策に関わるテキストを対象にした分析 は，盛んに行われている．その対象は Fed や ECB （欧州中央銀行）はもちろん $[6,7,8,9,10,4], \mathrm{BOJ}$ （日銀）やBOK（韓国）などの分析も行われている $[11,12,13]$. 例えば，Hansen[6] らは，FOMC 声明文 を LDA により分析し, Apel[7] らの金融極性辞書 を用いて，トピック別にセンチメント付与をした. そして，FAVAR モデルを用いてトピック別にマク 口変数や資産価格への影響を分析している。また， Jegadeesh[8] らは, FOMC 議事録をLDA により分析し，Loughran[14] らの金融極性辞書を用いて，卜 ピック別にセンチメントを付与した. そして，ト ピック別にそれらのマクロ変数や資産価格への影響を分析している．ECB の分析では，Schmeling[4] らは, Apel[7] らの金融極性辞書を用いて，ECB の 会見に対してセンチメント（ネガティブな単語の比率）を付与し，それが欧州各国の株価指数やイール

4）その他にも，超過準備への付利金利，翌日物リバースレポ などがある.

5） 米国の銀行間で資金を融通し合う際に適用され金利であ り，日本の無担保コール翌日物金利に対応する。

ドカーブに影響を与えることを示している.

このように，自然言語処理技術を用いて分析を 行っている研究は数多くあるが，それらの研究のほ とんどは金融極性辞書を用いた分析やトピックモ デルによる議題の変化に着目した分析である. 極性辞書を分析に用いるメリットは，分析が容易で あることや，恣意的な要素が入りにくいことが挙 げられる。また，極性辞書を用いた分析では，ど のような極性辞書を使用するかが非常に重要であ る. 例えば，広く利用されている一般的な極性辞書 （Harvard-IV-4 TagNeg）に含まれるネガティブ表現 は，金融の分野において，約 4 分の 3 も該当しない ことを Loughran[14] らは示している. したがって， センチメント分析を行うためには，その目的に特化 した極性辞書を使用する必要があり，特化した極性辞書を作成や拡張する研究は，盛んに行われてい る $[15,16]$. 金融政策の分析を行うのであれば，金融政策の分析に特化した極性辞書が本来望ましい.例えば，重要な経済指標の一つである失業率は，低下がポジティブであり，上昇がネガティブな出来事 である.このようなトピックが含まれることから， Ahrens[9] らは，GDP，CPI，失業率という 3つの主要な経済的側面に沿って，金融政策のシグナル分散指数を，教師有り学習を用いた方法を用いて構築し ている.

しかしながら，次の 4 章で述べる様々な理由か ら, 仮に特化した辞書を作成したとしても, 辞書 ベースでの分析には限界がある. 要人発言に関して は，その文がどのようなニュアンスを含んだ文であ るかを推測する必要があり，それを達成するには単語やフレーズによる極性付与では不十分である。こ れまで辞書ベースのナイーブな分析であっても，有益な効果を示すことができていたことから，センチ メント付与を工夫することができれば，より良い分析結果につながることが期待される。

## 4 タカ・ハト極性付与タスクの課題

まず，著者らは，タカ，ハト，その他の 3 つのラ ベルをテキストに対して人手で付与し，BERT 系モ デル [17]をファインチューニングすることで分類モ デルを作成したが，期待するような精度は出なかっ た6). 上記モデルの出力を検証したところ，タカ・ ハト極性付与タスクの困難は，(1) 要人発言のテキ ストの持つ特徴と (2) ラベル付けの困難にあると考


えている。

## 4.1 要人発言のテキストの特徵

まず上記モデルの出力の中から，誤分類していた 要人発言のテキストの特徴を取り上げる.

## 4.1.1 否定・婉曲表現

まず，中央銀行の要人発言では，否定表現や婉曲表現が多発する。これはマーケットへの影響を配慮 した結果であると考えられる。遠回しな表現を行い 含みを持たせることで，情報を受け取った人が内容 を解釈した上で行動を選択できるような発言が多い のが特徴である．実際にロイターニュースの要人発言に関するニュースを対象に分析を行ったところ， not (短縮形含む) , no, never などの否定を意味する単語を含んでいるへッドラインの割合は，全体の $10 \%$ を超える結果であった ${ }^{7)}$. この分析は単純な方法に よるものであり，実際に単語やフレーズによる極性付与では難しい文はもっと多く存在する. 例えば， $\lceil$ Fed's Bostic added that it's "really challenging" to slow the pace of policy tightening amid rising core inflation. $\lrcorner$ のように「slow the pace of policy tightening (政策の 引締ぺースを遅くする)」という表現が含まれてい るが，「"really challenging"（難しい)」とのことから，引き続き金融引締めを行っていくというニュアンス の文である．トピック分類などであれば，否定表現 の割合が分類精度に与える影響は少ないが，意味を 捉える必要のあるセンチメント付与においては大き な課題となる.

## 4.1.2 テキスト外 (経済) 情報の加味

次に問題となるのが，テキスト情報だけでは夕 カ・ハトを判定することができない文である．人間は与えられた文だけでなく，非常に多くの情報 を加味した上で文を読み，判定を行うのに対して，一般的なモデルは入力として与えられた文のみで 判定を行う必要がある. 例えば，「The Committee is strongly committed to returning inflation to its 2 percent objective.」のようなコメントは，現状のインフレ率 が高い場合，高いインフレ率を抑制するという意味 を持つタカ派的なコメントになるが，現状にインフ レ率が低い場合には，低いインフレ率を浮揚させる という意味を持つハト派的なコメントとなる。この

7）別のニュースソースでも検証を行ったが，否定表現の割合 は $12 \%$ 超える結果となった.

ように現状のインフレ率がどのくらいの水準である かに対して，意味合いが異なる．経済指標などを単純にモデルに組み込むことも考えらえるが，それら の数值情報によって過学習する恐れがあるため, ど のように組み込み，活用するかに関しても議論の余地が残る.

## 4.1.3 時間軸情報の加味

また，時間的常識を理解できる仕組みも重要とな る $[18,19]$. 例えば，「Many Fed officials have said they want to open the door to a possible rate hike in June.」の ようなコメントは, 現時点から 6 月がどのくらい先 の出来事を指しているかによって，意味合いが大き く異なる、コメントが出たのが 5 月である場合に は，早急な利上げが必要であるという意味を持つタ カ派的な発言となるが，コメントが出たのが 1 月で ある場合には, 利上げを急ぐ必要はないという意味 を持つハト派的な発言となる. 実際に，2015年 1 月後半から 3 月前半にかけて以下のようなへッドラ インのニュースがロイターから出ていたが，1文目 から順に，6月，夏または秋，2016 年（来年）から の利上げ開始を支持する内容であり, 議論のポイン トは利上げ開始の時期となっている。また，以下の ヘッドラインの例からわかる通り, 時期の表現方法 も様々である。
- Fed's George sticks with mid-year rate lift-off
- Fed's Williams sees first rate rise in summer or fall
- Fed's Evans wants no rate hikes until early 2016

## 4.2 テキストヘのラベル付け

次にタカ・ハトのラベル付与の課題を述べる.

## 4.2.1 金融政策文以外のテキスト

ここまで金融政策に言及する文を取り上げた が，Fed の目的は「最大の雇用」と「物価の安定」 のため，これらに関して言及している文も多い. また，金融政策の意思決定のために，「consumer spending $\lrcorner,\lceil$ energy $\lrcorner$, $\ulcorner$ agriculture $\lrcorner,\ulcorner$ manufacturing $\lrcorner$, $\lceil$ real estate $\lrcorner,\lceil$ retail trade $\lrcorner,\lceil$ construction $\lrcorner,\lceil$ services $\lrcorner$, $「$ banking $」$ 「finance」など，様々な材料を取り挙げ る.これらの文の場合，金融政策に言及している文 と比較して, タカ・ハトの判定が難しいものが含ま れる. 特に，材料はあくまで結果（事実）に対して 言及していることが多く，その結果に対してどのよ
うな評価を行っているかを汲み取ることが重要とな り，高い専門性が必要となる.

## 4.2.2 金融政策文

金融政策に言及している文に関しても，どの ようにラベル付与するか課題が残る. 例えば, $\lceil$ The Federal Reserve will deliver more interest rate hikes next year even as the economy slips towards a possible recession, Fed Chair Jerome Powell said on Wednesday, arguing that a higher cost would be paid if the U.S. central bank does not get a firmer grip on inflation.」のような 「景気後退が起こったとしてもさらなる利上げを 行う」という文は，容易にタカ派の発言と捉え ることができる. しかし, 「Jerome Powell supports 25 bp rate hike at March meeting.」, 「Fed's Mester says she doesn't see compelling case to start with 50 bps rate hike.」,「Fed's Powell will slow the pace of interest-rate increases next month.」などの文は，ラベル付けが難 しい，なぜならば，タカ派とハト派は相対的なス タンスで議論されることが多いためである. 1 文目 は，多くのメンバーが 50bp の利上げを支持してい る中での発言であれば，ハト派と捉える必要があ る. 2 文目は，仮にメスター総裁が $75 \mathrm{bp}$ の利上げを 支持しているのであればタカ派の文と捉える必要が あり，仮に $25 \mathrm{bp}$ の利上げを支持しているのであれ ば八ト派の文と捉える必要がある. 3 文目は，金融引締はするが，そのペースは落としていくとのこと で八ト派の文と捉えることができる。しかし，金融引締を積極的に行っていく中での相対的なハト派 の文と，金融緩和を支持するハト派の文を同じもの と捉えるのには問題が残る. したがってラベル付け は複雑にはなるが，より緻密な分析に繋げるために も，順序尺度によるラベル付けが必要である．後続 の分析に使用することも考えながら，現在その定義付けを進めている.

## 5 まとめと今後の展望

本研究では，中央銀行の要人発言に対するタカハ ト極性付与タスクの重要性・必要性とその難しさに 関して述べた. 今後は，ラベル付けの定義を策定 し，公開されているデータに対してラベル付けを 行ったものを公開する予定である。データセットの 公開によって, 否定表現の理解や時間軸の理解に対応可能なモデル開発やその評価に活用され，極性付与モデルの発展に貢献したいと考えている.

## 参考文献

[1] 和泉潔, 坂地泰紀, 伊藤友貴, 伊藤諒. 金融テキストマ イニングの最新技術動向 (特集 ai の金融応用 (実践編)). 証券アナリストジャーナル, Vol. 55, No. 10 , pp. 28-36, 2017.

[2] Aaryan Gupta, Vinya Dengre, Hamza Abubakar Kheruwala, and Manan Shah. Comprehensive review of text-mining applications in finance. Financial Innovation, Vol. 6, No. 1, pp. 1-25, 2020.

[3] 鈴木智也, 中川慧, 伊藤友貴, 坂地泰紀. 金融におけ るテキストマイニングと機械学習応用. 人工知能, Vol. 36, No. 3, pp. 270-278, 2021.

[4] Maik Schmeling and Christian Wagner. Does central bank tone move asset prices? 2015.

[5] Musa Amadeus, Rajeev Bhargava, Tim Graf, Michael Guidi, Michael Metcalfe, Gideon Ozik, and Ronnie Sadka. Central bank monetary tones and yields. Vol. 31, No. 4, pp. 5-19, 2022.

[6] Stephen Hansen and Michael McMahon. Shocking language: Understanding the macroeconomic effects of central bank communication. Journal of International Economics, Vol. 99, pp. S114-S133, 2016.

[7] Mikael Apel and Marianna Blix Grimaldi. The information content of central bank minutes. Technical Report 261, 2012.

[8] Narasimhan Jegadeesh and Di Wu. Deciphering fedspeak: The information content of fomc meetings. Monetary Economics: Central Banks - Policies \& Impacts eJournal, 2017.

[9] Maximilian Ahrens and Michael McMahon. Extracting economic signals from central bank speeches. In Proceedings of the Third Workshop on Economics and Natural Language Processing, 112021.

[10] Viorel Milea, Nurfadhlina Mohd Sharef, Rui J. Almeida, Uzay Kaymak, and Flavius Frasincer. Prediction of the msci euro index based on fuzzy grammar fragments extracted from european central bank statements.

[11] 和泉潔, 後藤卓, 松井藤五郎. 経済テキスト情報を用 いた長期的な市場動向推定. 情報処理学会論文誌, Vol. 52, No. 12, pp. 3309-3315, 2011

[12] 松田安咲子, 岡石一真, 白田由香利, 橋本隆子, 佐倉環. Lda 方式による金融経済月報からのトピック抽出～第 2 次安倍内閣の金融政策と経済動向分析 〜.信学技報, Vol. 114, No. 204, pp. 79-84, 2014.

[13] Ki Young Park, Youngjoon Lee, and Soohyon Kim. eciphering monetary policy board minutes through text mining approach: The case of korea. Technical report, 2019.

[14] Tim Loughran and Bill Mcdonald. When is a liability not a liability? textual analysis, dictionaries, and $10-\mathrm{Ks}$. The Journal of Finance, Vol. 66, No. 1, pp. 35-65, 2011.

[15] Tomoki Ito, Hiroki Sakaji, Kota Tsubouchi, Kiyoshi Izumi, and Tatsuo Yamashita. Text-visualizing neural network model: understanding online financial textual data. In Pacific-Asia Conference on Knowledge Discovery and Data Mining, pp. 247-259, 2018.

[16] 今井康太, 酒井浩之, 高野海斗, 北島良三, 末廣徹, 稲垣真太郎, 木村柚里. 債券市場における金融極性辞書の自動構築. 第 25 回金融情報学研究会, pp. 38-43, 2020.

[17] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 4171-4186, 2019.

[18] Siddharth Vashishtha, Benjamin Van Durme, and Aaron Steven White. Fine-grained temporal relation extraction. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, 7 2019.

[19] Qiang Ning, Hao Wu, Rujun Han, Nanyun Peng, Matt Gardner, and Dan Roth. TORQUE: A reading comprehension dataset of temporal ordering questions. In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP), 112020.

[20] Dogu Araci. Finbert: Financial sentiment analysis with pre-trained language models, 2019.

[21] Yinhan Liu, Myle Ott, Naman Goyal, Jingfei Du, Mandar Joshi, Danqi Chen, Omer Levy, Mike Lewis, Luke Zettlemoyer, and Veselin Stoyanov. Roberta: A robustly optimized bert pretraining approach, 2019.

## A テキストデータ

Fed の金融政策を理解するためのテキスト情報を 詳述する. Fed が公表するデータは，アーカイブさ れているため過去の情報を取得できる。しかし，公表される形式が年代によって異なるため，データ収集は困難であり，またデータを分析しやすい形に整 える必要がある.

FOMC 声明文: FOMC 開催日に即日公表される。経済，物価に対する評価，金融政策の変更の有無等の基本的な決定事項が簡潔に記載されてい る. 注目すべきテキスト情報としては，決定に 対して反対した人の主張が記載されている。ま た, 声明文公表の 30 分後に FRB 議長の記者会見が行われる。

ベージュブック（地区連銀経済報告）：各地区連銀の管轄地域の経済状況をまとめたもの であり，FOMC の 2 週間前に公開される。 FOMC での議論の材料になることから，次の FOMC の結果を推測する材料の 1 つとなって いる.

FOMC 議事録: FOMC での議論と公式見解が記述 された資料であり，FOMCの 3 週間後に公開さ れる。したがって情報の即時性はないが，記載内容の半分以上がメンバーの議論となってお り，景気見通しの議論や金融政策の是非につい ての議論などが含まれるため，非常に良質な データである.

Monetary Policy Report to the Congress: 翌々年 までの経済見通しと金融政策の基本方針 が記載されている資料であり，年 2 回公表さ れる.この報告書は, 議会に提出される際, FOMC 議長は議会証言を行うが，こちらの内容 は文書化され一般に公表される。

その他: 理事や地区連銀総裁は，様々な場で発言 を行う。これらの要人発言は，FOMC での決定を予想するのに非常に重要な情報源となる。 ニュースデータなどの活用ができれば理想的で あるが，分析可能な公開データは限定的であ る.また，ブラックアウト期間という金融政策 に関して踏み込んだ発言が禁じられる期間が各国で設けられている。その中でも米国は，この ブラックアウト期間が長く, 現在は FOMC が開催される前々週の土曜日から FOMC 終了時ま でがその期間となっている.

図 1 テキストデータの公開されるタイミング

FOMC を中心に，テキストデータの公開されるタ イミングを図 1 に示す.FOMC は年 8 回行われるた め，年に 8 回このサイクルを繰り返す.

## B 分類モデル作成の実験設定

テキストは 2015 年から 2022 年の期間のデータ を使用し，ラベル付けデータを学習 (training), 評価 (validation)，テスト (test)の 3 つに分けて実験を 行った. 2021 年以降の 2 年分のデータをテストデー タとし, 評価データは 2020 年 12 月 31 日に近いも のを各ラベルの割合が均等になるように各 60 文ず つ抽出したものを使用した. そして，残りのラベル 付けしたデータを学習データに使用した. 表 1 に各 データのラベルがどの程度であるかを示す. なお， ラベルが均等になるようにバッチデータを作成し， モデルの学習を行った。

ファインチューニングに使用した事前学習済みモ デルに関しては, finBERT[20] ${ }^{8}, \operatorname{RoBERTa}[21]^{9)}$ で比較検証を行った．比較した結果，RoBERTa モデルの 方が良好な結果が得られた. RoBERTa モデルの学習過程における精度の推移を図 2 に示す。

表 1 各データのラベル

図 2 学習過程における精度の推移

8) https://huggingface.co/ProsusAI/finbert

9) https://huggingface.co/roberta-large
 高野海斗 1 内藤麻人 ${ }^{1}$ 長谷川直弘 ${ }^{1}$ 中川慧 ${ }^{1}$ 1 野村アセットマネジメント株式会社 $\{$ k-takano, a-naito, n-hasegawa, k-nakagawa $\}$ @nomura-am.co.jp  