# 単語分散表現を用いた性格特性用語の構造抽出

鶴田健介 久野雅樹
電気通信大学大学院情報理工学研究科
t2230095@edu.cc.uec.ac.jp, hisano@uec.ac.jp

## 概要

性格の心理学的研究におけるビッグファイブと は、人間の性格が 5 つの主要な特性因子によって表 されるという考え方で今日、性格構造のモデルとし て有力なものである。本研究では、自然言語処理を 活用し性格特性用語をビッグファイブに基づいて分類することを目的とする。日本語と英語の性格特性用語を単語分散表現に変換し、ロジスティック回帰 による分類を行ったところ、性格特性用語のビッグ ファイブの構造が抽出された。ただし日本語と英語 とで、また分散表現で用いたコーパスの間で因子の 分類性能には差異が認められた。

## 1 はじめに

人間の性格を表現する言葉は大量にある。これら の言葉がどんな構造を持つのかは、大きな心理学的課題として様々な研究が行われてきた。その結果近年では、人間の性格はビッグファイブという 5 因子 の構造を持つということが分かってきている。これ ら 5 つの因子は、
- 外向性 (E：Extroversion)
- 協調性 (A：Agreeableness)
- 勤勉性 (C：Conscientiousness)
- 情緒安定性 ( $\mathrm{N}$ ：Neuroticism)
- 知性 (O: Openness to Experience)

と呼ばれている。

ビッグファイブに基づいた性格特性用語の収集や 構造理解については、英語圏では Oliver P. John[1] や Robert R. McCrae らによる研究 [2][3]、日本では和田 ら [4] や村上 [5] による研究など、長年にわたり試み られている。しかしそれらは研究者の主観によって 語彙が選択されていたり、質問紙法による性格テス トの結果から得られた主観に基づく情報を因子分析 によって整理されていたりすることが多い。

本研究では、自然言語処理の手法によってより客観的な手法を用いて性格特性用語の構造推定を行 い、性格概念を構造化することを目的とする。単語 の構造分析方法の一つとして単語分散表現という手法が挙げられる。これは単語を数百次元程度のべク トル空間上の点として表現する手法である。この分散表現をもとに、ロジスティック回帰による単語の 分類を行った。

## 2 関連研究

関連する研究として、日本語の性格特性用語の構造に関する研究を 3 点紹介する。

## 2.1 岩田らの研究

岩田らの研究 [6] では、性格辞書の候補となる単語を英語の性格形容詞から収集し、大規模な質問紙調査をもとに回帰分析によって単語ごとのビッグ ファイブの重みを計算して性格辞書を作成した。

## 2.2 和田らの研究

和田らの研究 [4] では、因子分析を用いて性格特性用語を分類し、日本語版 Adjective Check List に用 いられる性格特性用語を整備した。英語版の性格検査である Adjective Check List から収集した性格特性用語を 5 因子モデルに分類したのち、質問紙の回答結果から因子分析を行なった。この結果から英語の 性格特性用語で確認されていたビッグファイブ説 が、日本語の性格特性用語に対しても確認された。

## 2.3 村上の研究

村上の研究 [5] では、広辞苑から収集した性格特性用語を用いた質問紙調査のデータに対し因子分析 を行うことで、日本語におけるビッグファイブの構造を確認した。ビッグファイブ因子は外向性、協調性、勤勉性、情緒安定性、知性の 5 つとし、ビッグ ファイブ因子は英語圏での研究結果と細部で異なっ ているとしている。

## 3 分析手法

## 3.1 分析準備

日本語の単語分散表現の学習データには、 Wikipedia の dump データと、青空文庫に掲載されて いる作品のうち新字新仮名の作品データの 2 種類を 使用し、それぞれのデータで学習を実施した。形態素解析には MeCabを使用し、システム辞書として JUMAN 辞書を、ユーザー辞書として村上の性格特性用語の中でナ形容詞に当たる 15 語を追加した辞書を使用した。

## 3.2 単語分散表現の学習

Word2Vec の Sikp-gram モデルを使い、Gensim を 用いて日本語の単語分散表現の学習を行った。形態素解析によって分かち書きされたデータを一行に つき一文になるよう整形し Text8Corpus クラスを用 いて読み込みを行った。ここで分散表現の次元数は 100 次元、ウィンドウサイズを 5 に設定した状態で 学習を実施した。単語分散表現はコーパス内での出現回数が 5 回以上の単語にのみ付与されるように設定した。

英語の単語分散表現としては、Wikipedia のデー タで学習した公開済みの fastText と、GoogleNews を 用いて学習した公開済みの分散表現を使用した。

## 3.3 分析対象とする性格特性用語

日本語の性格特性用語としては、村上宣宽の著書 に掲載されている 317 語の性格特性用語のリスト [7]を使用した。このうち Wikipedia コーパスに出現 した 150 語と青空文庫コーパスに出現した 140 語を それぞれ本研究の分析の対象とした。

また英語の性格特性用語としては、Oliver P. John らのリスト [8]を使用した。このうち Wikipedia で学習させた fastText のボキャブラリーに存在した 102 語と、GoogleNews で学習した公開済み分散表現の ボキャブラリーに存在した 92 語をそれぞれ本研究 の分析の対象とした。

分析に使用した日本語と英語の性格特性用語につ いて、ビッグファイブ因子ごとの単語数の内訳は表 1のようになった。表 1 分散表現ごとの性格特性用語の単語数

表 2 性格特性用語の例

## 3.4 性格特性用語の分類

日本語および英語の性格特性用語に対して、単語分散表現を入力としたロジスティック回帰による分類を実行した。分析対象のビッグファイブ因子を正解ラベル、その他のビッグファイブ因子を不正解ラ ベルとした 2 クラス分類を行った。またデータの偏 りに対応するため、オーバーサンプリングを行い、正解ラベルと不正解ラベルの数を同数にそろえたう えで分析を実施した。本研究の分析ではオーバーサ ンプリングを実行しない場合についても分析を行っ たが、詳細は割愛する。

## 4 結果と考察

## 4.1 日本語における性格特性用語

## 4.1.1 日本語の性格特性用語の分類結果

Wikipedia および青空文庫で学習させた単語分散表現を対象とした場合の、ビッグファイブ因子ごと の分類結果は表 3、表 4 のようになった。それぞれ の値は 5 回実行した時の平均値である。

表 3 日本語・Wikipedia における分類結果

表 4 日本語・青空文庫における分類結果

## 4.1.2 考察

日本語の Wikipediaを学習データとした単語分散表現を使用した場合の分類性能は $\mathrm{F} 1$ 値が $0.46 \sim 0.75$ となった。また因子ごとで見ると $\mathrm{N}$ にいての分類性能が 0.75 と最高値になり、E および A の分類性能 が 0.46 程度と最低値になった。

青空文庫を学習データとした分散表現を使用した 場合の分類性能は、F1 值が $0.47 \sim 0.77$ となった。さ らに実際の予測結果を見ると、AとＯは同じ因子と して判断されるケースが多いことが確認できた。ま た因子ごとで見ると、A の分類性能が最高値の 0.77 となり、 $\mathrm{N}$ に関しての分類性能が 0.47 と最低値と なった。

これらのことから、全体としてはビッグファイブ の分類がある程度できたものと考えられるが、2つ の単語分散表現の間で構造にずれがあると言える。 この分析結果については、単語分散表現の学習量や 学習データの種類が分類性能に大きな影響を与えて いると考えられる。Wiki コーパスの傾向として、メ ジャーな単語の出現回数が極端に多く、一般的でな い単語や文学的な語彙はあまり使われていないとい う特徴がある。一方で青空文庫コーパスには文学的 な語彙が多く出現している。性格特性用語のリスト の中には一般的には使用されにくい用語もいくつか 存在しており、これらの単語の影響によって分類性能に差が生じていると思われる。

また、オーバーサンプリングを害行しない場合は 分類性能が低下した。学習データが 140 語と少なく データの偏りも大きいため、うまく学習できていな いと考えられる。

## 4.2 英語における性格特性用語

## 4.2.1 英語の性格特性用語の分類結果

それぞれの分散表現を用いて同様に分析を実行し たところ結果は表 5、表 60ようになった。表 5 英語・Wikipedia における分類結果

表 6 英語・GoogleNews における分類結果

## 4.2.2 考察

Wikipedia から学習した場合の英語の性格特性用語の分類結果では、F1 值が 0.62 0.91となった。各因子の結果を見ると $\mathrm{E}$ の分類性能が 0.91 と最高値 となった。次いで $\mathrm{O}$ おび $\mathrm{C}$ の分類性能がそれぞ れ $0.88 、 0.82$ となり、共に 0.80 以上の値となった。 また A の分類性能は最低値の 0.62 となった。

一方 GoogleNews から学習した場合の英語の性格特性用語の分類結果では、 $\mathrm{F} 1$ 値が $0.58 \sim 0.84$ となっ た。各因子の分類結果を見ると C の分類性能が最高値の 0.84 となり、次いで $\mathrm{O}$ と $\mathrm{A}$ 分類性能が 0.80 となっており高めである。一方で $\mathrm{E}$ の分類性能は 0.58 と最低の値になった。

これらのことから、全体としてビッグファイブの 分類がかなりの程度できたと言える。また Eと A の分類性能には 2 つの分散表現の間で違いが見られ たものの、そのほかの因子については、CとＯの分類性能が高く $\mathrm{N}$ の分類性能が低いという傾向は一致 している。

日本語と比較した場合、分類性能の高低で共通す るパターンが見られるとは言い難い。一方で英語の 分類性能のほうが高い結果が出ており、2つの英語 の分散表現である程度同じ傾向がみられるため、日本語におけるビッグファイブの構造に比べて英語に おけるビッグファイブの構造がより明確に得られて いると考えられる。

日本語と英語の分類性能に差があることについて は、単語分散表現の学習に用いたデータの量や種類 の違いによる影響が考えられる。英語の分析で使用 した公開済みの分散表現の学習データと比較する と、日本語の単語分散表現の学習データはサイズが
小さい。そのため、日本語の分散表現の学習が不十分だったと考えられる。

このほかには、複合語や単語の表記ゆれの扱い方 が日本語と英語で異なることも、分類性能の違いに 影響していると考えられる。日本語の分散表現では 「きれいだ」「きれいな」のように単語の末尾表現ご とに別の単語として学習されてしまう。これによっ て日本語の分散表現では十分に学習できていなかっ た可能性が考えられる。

## 5 おわりに

## 5.1 結論

日本語の Wikipediaを学習データとした単語分散表現を使用した場合の分類性能は $\mathrm{F} 1$ 值が $0.46 \sim 0.75$ となった。また因子ごとで見ると $\mathrm{N}$ にいての分類性能が最高値になり、Eおよび $\mathrm{A}$ の分類性能が最低値となった。一方で、青空文庫を学習データとした 単語分散表現を使用した場合の性格特性用語の 2 ク ラス分類の結果は、F1 值が 0.47 0.77 となり、因子 ごとでみると、 $\mathrm{E}$ の分類性能が最高值となり、 $\mathrm{N}$ の 分類性能が最低値となった。

英語の Wikipediaを学習データとした単語分散表現を使用した場合の分類性能は、F1 值が 0.62 0.91 となり、因子ごとに見ると $\mathrm{E}$ の分類性能が最大值 になり、次いで C と $\mathrm{O}$ の分類性能が 0.80 以上の值 となった。Aの分類性能が最低値となった。一方で GoogleNews を学習データとした場合の分類性能は、 $\mathrm{F} 1$ 值が $0.58 \sim 0.84$ となった。各因子の分類結果で は C の分類性能が最高値、次いで $\mathrm{O}$ と $\mathrm{A}$ 分類性能が高く、Eの分類性能が最低値となった。

これらのことから、それぞれの言語で単語分散表現からビッグファイブの分類がある程度できた。し かし 2 つの日本語の単語分散表現の間にはずれがあ ると言えるため、分散表現の学習データに大きく影響されていると考えられる。一方で 2 つの英語の単語分散表現にはビッグファイブの分類性能の高低に 共通した傾向が見られている。さらに日本語と比べ て英語の分類性能のほうが高い結果が得られている ため、ビッグファイブの構造は英語のほうが明確で あると考えられる。

## 5.2 課題

本研究で使用した性格特性用語の問題点として、性格特性用語の数が少ないことが挙げられる。本研究ではオーバーサンプリングによってデータの偏り を補ったが、生成されるデータによって性能が変化 してしまう。そのため複数の性格特性用語のリスト を使うなど、データ数に対する対策が必要である。

また日本語の性格特性用語には、末尾表現がリス トによってばらばらであるという問題点も存在す る。村上や和田らのリストでは性格特性用語を形容詞として扱っているのに対し、橋本や小塩らの研究 [9][10] では形容詞の語幹を使った単語べースで分析 を行っている。そのため末尾の表記ゆれや複合語に 対応できる分散表現を使用する必要がある。

## 参考文献

[1] Oliver P. John. The 'Big Five' factor taxonomy : Dimensions of personality in the natural language and in questionnaires. In Handbook of Personality: Theory and Research, pp. 66-100. Guilford Press, 1990.

[2] Ralph L. Piedmont, Robert R. McCrae, and Jr Paul T. Costa. Adjective check list scales and the five-factor model. Journal of Personality and Social Psychology, Vol. 60, No. 4, pp. 630-637, 1991.

[3] Robert R. McCrae and Jr Paul T. Costa. Validation of the five factor model of personality across instruments and observers. Journal of Personality and Social Psychology, Vol. 52, No. 1, pp. 81-90, 1987.

[4] 和田さゆり. 性格特性用語を用いた bigfive 尺度の作成. 心理学研究, Vol. 67, No. 1, pp. 61-67, 1996.

[5] 村上宣寛. 日本語におけるビッグ・ファイブとその 心理測定的条件. 性格心理学研究, Vol. 11, No. 2, pp. 70-85, 2003.

[6] Ritsuko Iwata, Daisuke Kawahara, Takatsune Kumada, and Sadao Kurohashi. Development of a Japanese Personality Dictionary based on Psychological Methods. Proceedings of the 12th Conference on Language Resources and Evaluation, pp. 3103-3108, 2020.

[7] 村上宣寛, 村上千恵子. 主要 5 因子性格検査ハンド ブック三訂版: 性格測定の基礎から主要 5 因子の世界へ. 筑摩書房, 2017.

[8] Oliver P. John, Richard W. Robins, and Lawrence A. Pervin. Paradigm shift to the integrative Big Five trait taxonomy: History, measurement, and conceptual Issues. In Handbook of Personality: Theory and Research, pp. 114-158. Guilford Press, 3 edition, 2008.

[9] 橋本泰央, 小塩真司. 辞書研究に基づく対人特性用語 の構造の検討. パーソナリティ研究, Vol. 28, No. 1, pp. 16-27, 2019.

[10] 橋本泰央. 辞書的アプローチによる対人特性語の選定. 早稲田大学大学院文学研究科紀要, Vol. 63, pp. 39-54, 2018.


# 表情の閾下呈示が事象における視点取得に与える影響

大城彩佳 ${ }^{1}$ 小波津豪 ${ }^{2}$ 赤嶺奨 ${ }^{3}$ 新国佳祐 ${ }^{4}$ 里麻奈美
${ }^{1}$ 沖縄国際大学 ${ }^{2}$ バスク大学 ${ }^{3}$ マックス・プランク心理言語学研究所 ${ }^{4}$ 新潟青陵大学
$\{2212 \mathrm{~m} 01\} @$ okiu. ac. jp

## 概要

本研究では、閾下呈示した表情によって喚起され た拡張的/収縮的思考が、どのように他動詞事象の解釈における視点の取得に影響を与えるかを調査した。具体的には表情呈示後、事象絵に続き、事象を行為者視点から描写する能動文または被行為者視点から 描写する受動文が呈示される。表情の違いが事象の 捉え方に影響するのか、文理解に対する反応時間を 指標として検証した。反応時間に加えて、 4 つの下位尺度からなる共感性テストを行い、各参加者の共感性も分析の対象とした。

## 1 はじめに

感情を表情で表すことや、相手の表情を読み取る といった対人スキルは、長い年月をかけて培われ円滑なコミュニケーションには不可欠な要素のひとつ である。本研究では、他者の快または不快の表情を 認知することが、目の前で起こっている事象を誰の 視点で捉え理解するのかという「事象理解」へ与え る影響について検証することを目的とする。また、参加者自身が持つ共感性が表情を認知し、事象を理解・解釈する過程にどのような影響を与えるのかと いう、共感性の個人差についても検討する。

## 1.1 表情認知が対象物の評価に与える影響

表情を認識することは、私たちにどのような影響 を与えているのだろうか。例えば、表情の認識は無関係の対象物への好意度や嫌悪感などの評価に対し て影響を及ぼすことがある[1]。具体的には、喜び表情もしくは嫌悪表情呈示後、でこぼこした図形を参加者に見せ、その図形に対して 1 : 全く好きではな い〜9: 非常に好きである、の9 件法による回答から 評価させた。その結果、喜び表情を見た時の方が、対象に対してポジティブな印象を生む効果があるこ とが分かっている。また、[2]は、漢字を知らない英語母語話者へ快または不快の表情、あるいは多角形 の絵を呈示したあとに漢字を呈示し、その漢字に対 しての好意度を回答させる実験を行った。その結果、表情を見た条件下において、参加者は先行して見た 表情によって、漢字に対する好意度が異なった。例 えば、快表情は漢字に対する好意度を高め、不快表情は漢字に対する好意度を低下させることが分かっ た。本研究では、表情が図形や文字のような対象へ の印象に影響を与えるだけではなく、「事象」への 解釈にどのような影響を与えるのかを検討する。

## 1.2 感情状態が文処理に与える影響

表情を認識することが、様々な対象への印象形成 に影響を及ぼすことが分かったが、どのような過程 を経て事象の解釈に影響することに繋がるのだろう か。本研究では、表情認知によって喚起された感情 が文処理に与える影響を検討する。そこで、まずは 感情状態、特にポジティブ感情の機能について説明 する理論である「拡張一形成理論」について紹介す る[3]。[3]は、ポジティブ感情を経験することで、思考一行動レパートリーが一時的に拡張され、個人資源の形成が行われると述べている。その結果、ポ ジティブ感情状態は、一種の安全状態を示すシグナ ルとなり、思考は思い切りが良く、簡易的な判断に なる傾向を持つようになり、判断の選択肢が増え、他の人へも注意を向ける余裕も生じる（拡張的思考）。一方、ネガティブ感情はより慎重な思考をも たらし、深く考え分析的になるため、ポジティブ感情状態とは違って、判断の選択肢が狭まり、論理的 な判断を伴う傾向が強くなる（収縮的思考）。

続いて、感情によって操作された思考パターンが 文処理に影響することを示した研究を紹介する。 [4]は、参加者の感情状態を 5 分間の動画を視聴す る形でポジティブ、ネガティブまたはニュートラル へと誘導し、文に含まれる文法上の間違いの有無を 判断させる文容認性判断課題を実施した。文法上の 誤りについては、(1) 文章の構成（統語）に誤りが

ある統語逸脱文（例：*窓を閉まる）、(2) 構成は 正しいが意味が適切ではない意味逸脱文（例：*窓 が閉める）が使われた。その結果、ポジティブ・ネ ガティブ感情の時には統語逸脱文への判断違いは 見られなかったが、意味逸脱文への判断に関して は、ネガティブ感情である場合は反応が見られず、 ポジティブ感情の時のみ反応がみられた。このこと から、ポジティブ感情は統語処理と意味処理のどち らにもアクセスできる拡散的思考を、ネガティブ感情は統語処理へのみアクセスする収縮的思考を喚起 することが示唆された。

本研究では表情認知によって喚起された拡散的ま たは収縮的思考が、事象の解釈の際の視点取得の仕方（例えば、行為者または被行為者どちらかの視点、または両方の視点から事象を理解するのか）に 影響を与えるのかについて検討する。視点取得と は、[5]の定義をもとに、他者の立場になって、物事について考えることや、自分自身についても想像 する心的な働きであることを指す。

## 2 方法

## 2. 1 参加者

正常な聴力と (矯正) 視力を有する日本語母語話者 44 名（男性 17 名、女性 27 名、平均年齢 21.25 歳、標準偏差 1.59 歳）が実験に参加した。すべて の参加者から、実験開始前に口頭および書面による インフォームド・コンセントを取得した。

## 2. 2 実験目的

本研究では、表情認知が事象の解釈の際の視点取得の仕方に与える影響について検討する。具体的に は、(1) 表情呈示の違い（快/不快）が行為者また は被行為者どちらの視点に立ち事象を解釈するのか 検討するため、能動文と受動文に対する理解速度を 測定した。それに加え、(2) 参加者自身が持つ共感性が、事象理解に与える影響についても検討する。共感性とは、自分が直接経験していない他者の経験 について、相手の気持ちを理解し、自分の身に起き たことのように感じることである[6]。

## 2. 3 実験材料

実験に用いる刺激として、絵刺激と文刺激のぺア を 72 セット用意した。これらのうち、36ペアは夕 ーゲットの刺激セットとして、残りの 36 ペアはフ
イラーの刺激セットとして用いた。絵刺激には、イ ヌ、ウサギ、ブタ、ヒツジ、ネコ、ライオンのうち いずれか 2 種類の動物が登場し、ある動物が別の動物に対して他動詞（例：殴る、助けるなど）で表さ れる行為を行っている様子が描写されていた。図 1 はターゲット刺激として用いた絵刺激の例である。

図 1. ターゲットの他動詞事象絵の例

ターゲットの刺激セットにおける文刺激は、ぺア となる絵刺激に描写された行為事象を、能動態の動詞または受動態の動詞を用いて正しく描写した文で あった。例えば、図 1 の絵刺激に対応する文刺激 は、能動文条件では「イヌがウサギを殴っている」 という行為者視点、受動文条件では「ウサギがイヌ に殴られている」という被行為者視点となる。一方、フィラーの刺激セットにおける文刺激は、対応 する絵刺激の内容を正しく描写していない文であつ た。フィラーの文刺激は、半数が能動文、半数が受動文であった。作成した文刺激は、女性の日本語母語話者が読み上げたものを録音し、聴覚刺激として 用いた。ターゲットの文刺激を録音した音声の長さ は、平均 4230ms（標準偏差 343ms）であった。

また、絵刺激の直前に呈示する先行刺激として、 ATR 顔表情データベース（ATR-Promotions）から 選定した男女各 1 名の喜び顔（快表情）および嫌悪顔（不快表情）の計 4 種類の表情刺激を用いた。

さらに、参加者の共感性を測定する尺度として、 [7]による対人反応性指標（Interpersonal Reactivity Index：以下、IRI）の日本語版[8]を使用した。日本語版 IRI は、個人的苦痛 (Personal Distress : 以下、 PD）、共感的関心（Empathic Concern：以下、 EC）、視点取得 (Perspective Taking：以下、 PT）、想像性（Fantasy Scale：以下、FS）の 4 つの 下位尺度（各 7 項目）からなる 28 項目 (5 件法) の質問尺度である。

## 2.4 手続き

本実験は、表情（快/不快）と文タイプ（能動文 ／受動文）を掛け合わせた 4 条件、 2 要因実験参加者内計画であった。条件の割り当ては、 4 つ刺激呈示リストを作成することにより、ラテン方格法に 基づきカウンターバランスをとった。各リストの項目順は、フィラーの刺激セットを加え参加者ごとに ランダム化した。

実験は、PsyToolkit[9,10]を用いてオンラインで実施し、教示は Zoom を通して個別に行った。まず PC の画面中央に注視点 $(+)$ を $1000 \mathrm{~ms}$ 間呈示し た後、快表情/不快表情のいずれかの表情刺激を $17 \mathrm{~ms}$ 間呈示し、直後にマスク刺激（表情刺激画像 を $10 \times 10$ ピクセル単位でランダムに並べ替えたも の）を $183 \mathrm{~ms}$ 間呈示した。その後、 $50 \mathrm{~ms}$ 間のブラ ンク画面に続けて、絵刺激を 3000ms 間呈示した。次に「F（不一致）：J（一致）」と表示された画面 と同時に、文刺激を音声呈示した。参加者は、文刺激の音声が流れ終わったら、直前に呈示された絵刺激の内容と文刺激の内容が一致しているかどうかを 判断し、可能な限り素早く、かつ正確に F (不一致反応）または J（一致反応）のキーを押すよう教示 された。以上の手続きを 1 試行として、参加者はこ れを 72 試行 (ターゲット試行 36 試行、フィラー試行 36 試行）遂行した。なお、本番の試行の前に遂行した 6 試行の練習セッションでは、参加者のキー 押し反応に対して正答／誤答のフィードバックを与 えたが、本番ではフィードバックは与えられなかっ た。なお、2.3 節の説明からも分かるように、本課題における正答（正反応）とは、ターゲット試行に

試行においては常に不一致反応（F キー）である。

実験課題の遂行後、参加者は共感力を測る日本語版 IRI にウェブブラウザ上で回答した。

図 2. 実験の流れ

## 2. 5 予測

快表情が呈示された場合、参加者は拡散的思考を 取るため、行為者・被行為者のどちらの視点からも 事象を解釈することができる。すなわち、文章タイ プによって反応時間の差は見られないことが予測さ れる。一方、不快表情が呈示された場合は、対象者 は収縮的思考を取るため、行為者・被行為者、どち らか一方の視点を選好すると予測される。例えば、行為者視点を選好する場合は、能動文の処理が速く なることが予測される。

また、共感性が高い参加者（高群）は低い参加者 （低群）よりも表情の影響を強くうけるとしたら、高群に上記の傾向が顕著に現れると考えられる。

## 3 結果

分析では、実験課題におけるキー押し反応時間

（音声刺激の呈示が終了してからキー押し反応が行 われるまでの時間）を従属変数として使用した。分析対象はターゲット試行のデータのみであった。

分析に先立ち、誤反応がみられた試行はデータか ら除外した。また、反応時間が $200 \mathrm{~ms}$ 以下または 3000ms 以上であった試行もデータから除外した。 さらに、参加者ごとに、反応時間が個人平均 +3 標準偏差を上回る、または個人平均 -3 標準偏差を下回る試行も除外した。統計分析としてまず、先行刺激の表情（快/不快）と文タイプ（能動文／受動文）を固定効果とし、参加者と刺激セットをランダ ム効果とする線形混合効果モデル分析[11]を行っ た。分析には、 $\mathrm{R}[12] の$ lme4 パッケージ[13]および lmerTest パッケージ[14]を用いた。分析にあたり、各固定要因は deviation coding により中心化した。 また、分析モデルには、刺激セットの呈示順も固定効果に含めた。交互作用項は、表情×文タイプのみ モデルに含めた。

図 3 に、実験条件ごとの反応時間の平均値を示 す。混合効果モデル分析の結果、表情の主効果 $(\beta$ $=-49.57, S E=18.86, t=-2.63, p=.009 ）$ 、および文 タイプの主効果 $(\beta=55.64, S E=18.87, t=2.95, p$ $=.003 ）$ が有意であったが、表情×文タイプの交互作用は有意ではなかった $(\beta=-19.79, S E=37.70, t=$ $-0.53, p=.600)$ 。

図 3. 条件ごとの平均反応時間、エラーバーは標準誤差を示す。

次に、表情と文タイプに加え、[8]の各下位尺度 （PD、EC、PT、FS）得点を固定効果として同様に 線形混合効果モデル分析を行った。尺度得点はそれ ぞれ標準化し $\mathrm{z}$ 得点に変換して分析に用いた。その 結果、PD、PT、FS を固定効果とした分析において は、IRI 下位尺度得点の主効果、および IRI 下位尺度がかかわる交互作用はいずれも有意ではなかった が（ $p \mathrm{~s}>.07 ） 、 \mathrm{EC}$ を固定効果とした分析におい て、文タイプ $\mathrm{EC}$ 得点の交互作用が有意であった $(\beta=36.92, S E=18.36, t=2.01, p=.045)$ 。 $\mathrm{EC}$ 得点 の主効果、表情 $\times E C$ 得点の交互作用、表情 $\times$ 文タイ プ×EC 得点の交互作用はいずれも有意でなかった

（ps > .5）。図 4 に、分析結果から求めた文タイプ ごとの回帰直線を示す。図 4 から、 $\mathrm{EC}$ 得点が比較的高い参加者（EC 高群）は明確に受動文よりも能動文への反応時間が短い一方で、EC 得点が比較的低い参加者（EC 低群）には文タイプによる反応時間の差がほとんどみられないことが、表情×EC 得点の原因になっていることが読み取れる。

図 4. 線形混合モデル分析の結果から求めた文夕 イプごとの EC 得点による反応時間の回帰直線、塗りつぶし部分は標準誤差を示す。

## 4 考察

本研究では、表情の閾下呈示が他動詞事象の解釈 における視点取得に与える影響を検証した。その結果、表情のみの結果を見ると、不快表情を閾下呈示 した時の方が、快表情の時よりも、文理解にかかる 反応時間が速かった。これは、不快表情が覚醒度 (arousal)を高め、事象の解釈のスピードを速めたと 考えられる。実際、強い覚醒度をもつネガティブな 事象は、対象者に素早い回避行動をとらせることが 明らかとなっている[15]。

また、共感性の個人差が事象解釈の過程に影響を 与えるのかを、IRI[8]を用いて調査を行った。その 結果、EC（共感的関心）高群は能動文への反応時間が受動文よりも速かったが、EC 低群は文タイプ による反応時間の差は見られなかった。これは、 EC 高群は行為者視点を選好して取得する傾向があ る一方、EC 低群は両方の視点を柔軟に取得したこ とを示唆している。以上より、本研究では EC の個人差が視点の取得に異なる傾向をもたらすという興味深い結果が得られた。また、IRI の EC と PDは 情動的共感を測定する尺度[8]であることから、共感性の中でも情動的共感が視点の取得に影響を与え ることも明らかとなった。[16]によると、他者が悲 しい思いをしている場合、EC（共感的関心）が高 いと他者の感情を自己に投影して他者の感情を理解乙利他的行動をとる一方、PD（個人的苦痛）が高 いと他者が苦しんでいる様子を自己の苦痛を少なく するため避ける行動をとる。本実験の EC 高群参加者は、他者の行為を自己に投影して事象を理解した ため、行為者視点から事象を描写した能動文の処理時間が速くなったと考えられる。

本研究では、拡張一形成理論に基づき、快表情は 拡散的思考を喚起するため、文タイプにおける反応時間の差はあまり見られないと予測したが、予測通 りにはならなかった。これは、ポジティブ感情の経験は、積み重数ることでその効果が得られる[3]こ とがわかっていることからも、一度の快表情の呈示 は、ポジティブ感情を喚起するには十分ではなかっ た可能性が考えられる。今後の課題として、表情毎 にブロックデザインを採用するなど、表情による感情喚起の度合いがどのように視点取得に影響を与え るか検討する必要がある。

## 謝辞

本研究は JSPS 科研費 JP19H01263 (PI: 里麻奈美)、 JP21K12989 (PI:新国佳祐)の助成を受けたものです.

## 参考文献

[1] 布井雅人・吉川左紀子（2016）「表情の快・不快情報が選好判断に及ぼす影響一絶対数と割合の効果 $-」 『 心$ 理学研究』, 87, (4), 364373.

[2] Sheila T. Murphy \& R. B. Zajonc (1993). Affect, Cognition, and Awareness: Affective Priming With Optimal and Suboptimal Stimulus Exposures. Journal of Personality and Social Psychology, 64(5), 723-739.

[3] Barbara L. Fredrickson(2001). The Role of Positive Emotions in Positive Psychology. American Psychologist, 56(3), 218-226.

[4] Masataka Yano, Yui Suzuki, Masatosi Koizumi (2018). The Effect of Emotional State on the Processing of Morphosyntactic and Semantic Reversal Anomalies in Japanese: Evidence from Event-Related Brain Potentials. Journal of Psycholinguist Research, 47(1), 261-277.

[5] 藏本知子（2022）「視点取得が他者の印象評定 に及ぼす効果一テキストマイニングを用いて の検討一」『心理学研究』, 93, (1), 1-9.

［6］西村多久磨 - 村上達也・櫻井茂男（2015）「共感性を高める教育的介入プログラム一介護福祉系の専門学校生を対象とした効果検証一」『教育心理学研究』, 63, 453-466.

[7] Davis, M. H. (1980). A multidimensional approach to individual differences in empathy. JSAS Catalog of Selected Documents in Psychology, 10, 85.

[8] 日道 俊之 - 小山内 秀和 - 後藤 崇志 - 藤田 弥世・河村 悠太・Davis, M. H. ・野村 理朗 (2017).日本語版対人反応性指標の作成 心理学研究, $88(1), 61-71$. https://doi.org/10.4992/jjpsy.88.15218

[9] Stoet, G. (2010). PsyToolkit: A software package for programming psychological experiments using Linux. Behavior Research Methods, 42(4), 10961104.

https://doi.org/10.3758/brm.42.4.1096

[10] Stoet, G. (2017). PsyToolkit: A novel web-based method for running online questionnaires and reaction-time experiments. Teaching of Psychology, 44(1), 24-31. https://doi.org/10.1177\%2F0098628316677643

[11] Baayen, R. H., Davidson, D. J., \& Bates, D. M. (2008). Mixed-effects modeling with crossed random effects for subjects and items. Journal of Memory and Language, 59(4), 390-412.

[12] R Core Team (2022). R: A language and environment for statistical computing (Version 4.2.1) [Computer software]. R Foundation for Statistical Computing. https://www.R-project.org/

[13]Bates, D., Maechler, M., Bolker, B., \& Walker, S. (2015). Fitting linear mixed-effects models using lme4. Journal of Statistical Software, 67(1), 1-48.

[14] Kuznetsova, A., Brockhoff, P. B., \& Christensen, R. H. B. (2017). lmerTest package: Tests in linear mixed effects models. Journal of Statistical Software, 82(13), 1-26.

[15] Robinson, M. D., Storbeck, J., Meier, B. P., \& Kirkeby, B. S. (2004). Watch out! That could be dangerous: Valence-arousal interactions in evaluative processing. Personality and Social Psychology Bulletin, 30(11), 1472-1484.

[16] FeldmanHall, O., Dalgleish, T., Evans, D., \& Mobbs, D. (2015). Empathic concern drives costly altruism. NeuroImage, 105, 347-

356. https://doi.org/10.1016/j.neuroimage.2014.10.0 $\underline{43}$


# 日中同形同義語のコロケーションに見られる両言語間での非対称性

宣 方園
京都大学大学院人間・環境学研究科
xuan. fangyuan.24m@st. kyoto-u. ac. jp

## 概要

本研究では日中両言語間で同じ共起語をとれない $\mathrm{S}$ 語（日中同形同義語）のコロケーションの特徵を 明らかにするために, 中国語を母語とする日本語学習者を対象に，判断テストを通して，日本語では成立する $\mathrm{S}$ 語のコロケーションにおいて，中国語では 同じ用法が使えるかどうかを調査した。その結果，

「日中両言語で同じ共起語がとれない」と判断され たコロケーションは異なり数 118 例で, 全体の $16.12 \%$ \%゙ぁった. また, 日中両言語で同じ共起語が とれないコロケーションの特徴として, 5 つが確認 された.

## 1 はじめに

日本語の語種は, 大きく和語, 漢語, 外来語, 及 び混種語の 4 種類に分けることができる. その中で 漢語は約 5 割を占めると言われている. 文化庁[6]は,約 2000 個の漢語を調查し, 日中両言語の意味関係に 基づき，漢語を表 1 の通り 4 種類に分類した。

表 1 文化庁[6]による漢語の分類

 \\

日中同形同義語（S 語）は日中両言語で形も意味 も同じため, 中国語を母語とする日本語学習者にと って学習しやすいと言われている $[1,9]$. 一方, $\mathrm{S}$語であっても日中両言語間で共起関係や使用制限と
いった用法が異なる場合があり，上級・超級日本語学習者にとっても， $\mathrm{S}$ 語のコロケーションを正しく 用いることは非常に難しい $[3,7,8]$. 例えば，中国人学習者の作文において, 「*入学試験に参加する」,「*スピードを増加した」のように，日中両言語で 共通する中国語語彙からの干涉による誤用がしばし ば見られる。また, Nesselhauf[11]は母語の連語形式 は第二言語に転移しやすいため, 母語と第二言語の 一致しないコロケーションの誤用率が高いと指摘し た.

これまでの $\mathrm{S}$ 語のコロケーションに着目した研究 では，学習者の誤用を分析したり，母語知識や習熟度がコロケーションの習得に及ぼす影響を分析した り寸ることが多い。一方, $\mathrm{S}$ 語のコロケーションに おいて，学習者は日中両言語で用法が一致するかど うかをどのように判断しているのか，漢語の分類が 学習者の判断に影響するかどうかについては十分に 検討されていない。

そこで本研究では, 中国語を母語とする日本語学習者を対象に，判断テストを通して，日本語では成立する $\mathrm{S}$ 語のコロケーションにおいて，中国語では 同じ用法が使えるかどうかを調查する。そこから，日中両言語間で同じ共起語をとれない $\mathrm{S}$ 語のコロケ ーションの特徵，また，中国語をそのまま転用した り，日中で類似した意味を持つ言葉を使ったりする 誤用が生じる場合, なぜ中国人学習者がこのような 誤用を犯すのか, について検討する. 本研究の成果 は, 日本語教育の分野のみならず, 機械翻訳等の誤 り分析にも応用できるものとして期待される.

## 2 調査方法

## 2. 1 調查協力者

調査協力者は日本の大学に在籍する学生 7 名であ る. 調查協力者の日本語学習歴は平均 6 年 5 ケ月で あり, 3 ケ月から 5 年間の日本滞在経験があった.
全員 JLPTN1 に合格した上級学習者である.

## 2. $2 S$ 語コロケーションの抽出

本研究で使われた $\mathrm{S}$ 語コロケーションの抽出手順 は以下の通りである. 本研究では, 旧日本語能力試験の『出題基準』[2]における 2 4 級の語彙を調査 の対象とした。

まず， $2 \sim 4$ 級の語彙を UniDic で形態素に分け，品詞「名詞-普通名詞-サ変可能」に該当するサ変動詞を抽出した. 次に, 文化庁[6]および張[5]に基づい て，S 語かどうかの判定を行い， $\mathrm{S}$ 語サ変動詞のリ ストを作成する。その結果， $\mathrm{S}$ 語サ変動詞を 172 語抽出された。それらの語のうち, 2 級の語彙は 145 語， 3 級は 21 語， 4 級は 6 語であった。

続いて, 『NINJAL-LWP for BCCWJ』[10]を用い て, 先ほど作成した $\mathrm{S}$ 語サ変動詞のリストに基づき，格助詞「を」「が」「に」「で」を含む $\mathrm{S}$ 語のコロ ケーションを抽出した。ここでは，分析の対象を典型的なコロケーションのみに絞るため, 頻度 5 以下及び MI スコア 3 以下のコロケーションは対象外と した. 前述したように, 本研究では漢語の分類が日中両言語で $\mathrm{S}$ 語コロケーションの用法における共通性の判断結果に及ぼす影響について検討するので， コロケーションを構成する名詞は二字漢語に限定し た.

このようにして, 『NINJAL-LWP for BCCWJ』[10] により抽出された $\mathrm{S}$ 語のコロケーションは異なり数 で 3,107 例であった. そのうち, 2 級の $\mathrm{S}$ 語のコロ ケーションは 2,773 例， 3 級は 307 例， 4 級は 27 例 であった.

## 2.3 漢語の分類による $S$ 語のコロケーショ

## ンのパターン

本研究では $\mathrm{S}$ 語コロケーションを構成する名詞に おける漢字の分類を文化庁 [6]および張[5]に基づい て判定した。

文化庁[6]は 3 種類の初級・中級教科書 (計 10 冊) の中から, 約 2,000 語の漢語を抽出した. 日中両言語の漢語の意味関係に基づき, 抽出した漢語を $\mathrm{S}$ 語, $\mathrm{O}$ 語， $\mathrm{D}$ 語， $\mathrm{N}$ 語の 4 つに分類した. 張[5]は『漢日辞典』と『広辞苑』の中から, 日中両言語で同一表記の漢語を集計し，約 1 万 1 千語の単語を収録して いる. なお, 本研究では, 漢語の分類方法及び分類表記は文化庁[6]が用いたものをそのまま踏襲した.以上， 2 つの分類基準から，コロケーションを構成する名詞の漢語分類の組み合わせは，表 2 の 25 パターンに分けることができる.

表 2 名詞の漢語分類による $\mathrm{S}$ 語コロケーション のパターン

注 : 左は文化庁[6]による判定結果, 右は張[5]による判定結果. $\phi$ は辞典において判定結果の掲載がないことを示す.

また，文化庁[6]および張[5]において，漢語に対す る分類の結果が異なる，または判定結果が掲載され ていない場合がある。 そのため, 文化庁 [6] と張[5] での判定結果が異なる場合，次の判定基準に従って 漢語の分類を判定する.

(1) 張[5]における判定結果を優先する.

(2) 張[5]における判定結果の掲載がない場合，文化庁[6]の判定結果に従う.

以上のように, 文化庁[6]と張[5]による漢語分類の 判定結果は表 3 亿示す.

表 3 文化庁[6]と張[5]による漢語分類の判定結

果

## 2.4 日中両言語で同じ共起語をとれるかど

## うかの判断基準

日中両言語で $\mathrm{S}$ 語のコロケーションの用法が一致 するかどうかを明らかにするために， $\mathrm{S}$ 語コロケー ションを中国語に直訳した場合，そのコロケーショ

ンが中国語で成立するかどうか，つまり， $\mathrm{S}$ 語コロ ケーションにおいて日中両言語で同じ共起語をとる かどうかを, 中国語を母語とする日本語学習者に判定してもらった。それぞれのコロケーションを 7 名 が判定し, 最終的な結果は, 多数決で決定した.

先に述べたように, $\mathrm{S}$ 語は意味と字形において日中両言語でほぼ一致しているため, 中国語を母語と する日本語学習者, または日本語を母語とする中国語学習者にとって習得しやすいと考えられている. しかし，コロケーションにおいては日中両言語で必 ずしも一致しない. 本研究で, $\mathrm{S}$ 語名詞にあたるも のは「 $\mathrm{S}, \mathrm{S}\lrcorner 「 \mathrm{O}, \mathrm{S}\lrcorner 「 \mathrm{D}, \mathrm{S}\lrcorner 「 \mathrm{~N}, \mathrm{~S}\lrcorner 「 \phi, \mathrm{S}\lrcorner$ $「 \mathrm{~S} ， \phi 」$ 組み合わせによるもので, これと「S 語 サ変動詞」のコロケーションは，母語をそのまま転用すると, 片方で成立しない場合に誤用となる可能性がある. そこで, 本研究では分析対象を「S 語名詞 $+\mathrm{S}$ 語サ変動詞」タイプのコロケーションに絞り,日中両言語で同じ共起語がとれるかどうかの判断結果について検討する。なお，上記の組み合わせのう ち, 「S, $\mathrm{S}\rfloor$ パターンは宣[4]において, 調査を行っ ているので，今回の分析対象から除外した.

判定は次の上うな形で行った. $\mathrm{S}$ 語のコロケーシ ヨン「声明を発表する」を例に取ると，これを中国語に直訳すると『发表声明』となり, 中国語でその まま成立する。一方， $\mathrm{S}$ 語のコロケーション「他人 を信用する」の場合，これを中国語に直訳すると『*信用他人』となり，中国語では成立しない。なお，日本語のコロケーションと同じ意味を表す中国語の コロケーションは『信任他人』となる.

## 3 結果及び考察

まず，抽出した $\mathrm{S}$ 語コロケーションの内訳につい て報告する。 『NINJAL-LWP for BCCWJ』[10]より 抽出された $\mathrm{S}$ 語コロケーションは異なり数 3,107 例 あった. 漢語分類による各パターンで $\mathrm{S}$ 語のコロケ ーションの異なり数を表 4 に示す. 25 パターンのう ち, 実際に抽出された $\mathrm{S}$ 語コロケーションは 18 パ ターンに留まった. 「S, $\mathrm{D}\lrcorner 「 \mathrm{O}, \mathrm{D}\rfloor 「 \mathrm{~S}, \mathrm{~N}\rfloor 「 \mathrm{O}$, $\mathrm{N}\lrcorner 「 \mathrm{D}, \mathrm{N}\lrcorner 「 \mathrm{~N}, \mathrm{~N}\lrcorner 「 \phi, \mathrm{N}\lrcorner$ のパターンにあて はまる例は見つからなかった。

調査の結果, 抽出された「 $\mathrm{S}$ 語名詞 (「S，S」除外） $+\mathrm{S}$ 語サ変動詞」というタイプの $\mathrm{S}$ 語コロケー ションは異なり数で 732 例あり, そのうち「日中両言語で同じ共起語がとれる」と判断されたコロケー
ションは異なり数で 614 例, 全体の $83.88 \%$ であった.

表 4 各パターンで $S$ 語コロケーションの異なり

数の内訳

 & $\mathrm{S}$ & $\mathrm{O}$ & $\mathrm{D}$ & $\mathrm{N}$ & $\phi$ & 計 \\

調查協力者によって「日中両言語で同じ共起語が とれない」と判断されたコロケーションは異なり数 で 118 例, 全体の $16.12 \%$ であった. これにより, 中国語を母語とする日本語学習者が $\mathrm{S}$ 語のコロケーシ ョンを誤用する可能性は決して低くないと推測でき る. パターンごとの判定結果を表 5 に示す. 7 名の 調査協力者間での $\kappa$ 係数は 0.244 であった.

表 5 パターン別の内訳

 &  & 計 \\

日中両言語で同じ共起語がとれない $\mathrm{S}$ 語コロケー ションのうち, 異なり数が 3 例以上の $\mathrm{S}$ 語は「担当 する」，「実施する」，「成立する」，「拡大する」 など， 11 語あった. また，コロケーションを構成す る名詞において, 2 回以上出現した単語は「分野」,「事項」, 「趣旨」, 「業務」など 20 語であった. $\mathrm{S}$ 語コロケーションにおいて, 日中両言語で同じ 共起語がとれないコロケーションの特徴として, 以下の 5 つが確認された.

(1) 日中両言語でコロケーションを構成する動詞 または名詞の品詞がずれる.

例えば，「均衡が成立する」のような例が該当す る.「均衡」は日本語で名詞として用いることがで きるが，中国語では形容詞としてしか用いることが できない。このようなコロケーションを正しく産出 することは中国語話者にとっては困難だと考えられ る.「均衡的なことが成立する」という非自然な表現を産出してしまう可能性があるため, 注意して教 える必要があると思われる。

(2) 同じ意味で, 中国語では別の動詞に置き換え

$
\text { るべきである. }
$

例えば，「画面を拡大する」という例は，中国語 で『*扩大画面』とは言えず，同様の意味では『放大画面』となる. 中国人学習者が母語の知識に依存 し，コロケーションを産出する際に中国語をそのま ま転用し，誤用を生じさせる可能性が高いと考えら れる.そのため, 日中両言語において, $\mathrm{S}$ 語であつ ても同じ共起語を使えるコロケーションと使えない コロケーションがあることを明示的に教える必要が ある.

(3) 日中両言語で意味と品詞が同じであるが，コ ロケーションで使える範囲が異なる.

同じ共起語がとれない $\mathrm{S}$ 語コロケーションのうち，例えば「実施する」で使われているコロケーション は 14 例見つかった.この語のコロケーションのうち，日本語では「体操を実施する」や「試験を実施する」 と言うことができる，このように日本語では「実施 する」という動詞は幅広い意味範囲で使われている。 しかし, 中国語では「実施する」は「政策」「法令」 など, 限られた単語としか共起しない。これまでと 反対に, このような語は母語の例よりも広い範囲で 使わなければならないため, 習得が難しいと考えら れる.このような使用範囲が異なるコロケーション をリスト化し, 教材として提供すれば日本語教育の 現場での指導に役立つものと考えられる。

(4) 中国語には存在しない言葉, つまり, 日本語特有の言葉が使われている.

例えば，「知事」のような語の場合，中国語には 対応している役職名が存在しない. このような日本語独自の語句は注意する必要がある.

(5) 現代日本語では使用されているが，現代中国語ではあまり使われていない言葉が使われて いる.

例えば，「分野」や「趣旨」のような語が該当す
る.これらの語は日本語では日常的に使われる語で あるが，現代中国語ではあまり見られないものであ り, 先の日本語独特の語と同様にリスト化して, 指導することが有効であると考えられる。

以上，見てきたように $\mathrm{S}$ 語であっても，日中両言語で使用状況が異なる場合が多数観察された. 特に，最初の 3 つは細かな用法の違いを理解する必要ある ため, さらに細かい分析が必要である。一方で, (4) や(5)のように両言語の語彙の差によるものは, リス 卜によって指導することが可能であり，一度教えれ ば単語とともに記憶にも残りやすく, 学習者が正し く把握しやすいものであると思われる.

## 4 おわりに

本研究では中国語を母語とする日本語学習者によ る判断テストを通して，日本語で成立する語のコロ ケーションにおいて, 中国語でも同じ用法が成立す るかどうかを調査した。その結果，「日中両言語で 同じ共起語がとれない」と判断されたコロケーショ ンは異なり数で 118 例, 全体の $16.12 \%$ であった. ま た, 日中両言語で同じ共起語がとれないコロケーシ ョンの特徴としては, 以下の 5 つの特徴が挙げられ る. (1)日中両言語でコロケーションを構成する動詞 または名詞の品詞がずれる. (2)同じ意味で, 中国語 では別の動詞に置き換えるべきである. (3)日中両言語で意味と品詞が同じであるが，コロケーションで 使える範囲が異なる. (4)中国語には存在しない言葉, つまり，日本語特有の言葉が使われている。 (5)現代日本語では使用されているが，現代中国語ではあま り使われていない言葉が使われている。

今後は, 日中両言語で語コロケーションの習得と 習熟度との関係をさらに細かく調查し, コロケーシ ヨンの難易度についての分析が求められる。

## 謝辞

本研究は, JST 次世代研究者挑戦的研究プログラム JPMJSP2110 の支援を受けたものです.

## 参考文献

1. 加藤稔人 (2005) 「中国語母語話者による日本語の漢語習得一一他言語話者との習得過程の 違い」『日本語教育』(125), 96-105.

2. 国際交流基金 - 日本国際教育支援協会（編） （2002）『日本語能力試験出題基準＜改定版＞』凡人社.

3. 小森和子 - 三國純子・徐一平（2012）「中国語 を第一言語とする日本語学習者の漢語連語と 和語連語の習得: 中国語と同じ共起語を用いる 場合と用いない場合の比較」『小出記念日本語教育研究会論文集』(20）, 49-61.

4. 宣方園 (2022)「日中同形同義語コロケーショ ンにおける日本語・中国語間の差異の調査」中国語話者のための日本語教育研究会第 52 回大会, 東京, 2022 年 9 月.

5. 張淑栄（編）（1987）『中日漢語対比辞典』ゆ まに書房.

6. 文化庁編 (1978)「中国語と対応する漢語」『日本語教育研究資料』大蔵省印刷局.

7. 三國純子・小森和子・徐一平（2015）「中国語 を母語とする日本語学習者の漢語連語の習得: 共起語の違いが誤文訂正に及ぼす影響」『中国語話者のための日本語教育研究』(6),34-49.

8. 三喜田光次 (2007) 「名詞と動詞の共起関係に 見られる日中両国語間の相違について」『外国語教育 : 理論と実践』33, 1-17.

9. 李愛華（2006）「中国人日本語学習者による漢語の意味習得一一日中同形語を対象に」『筑波大学地域研究』26, 185-203.

10. 国立国語研究所 - Lago 言語研究所『NINJAL-LWP for BCCWJ (NLB)』(引用日： 2022 年 5 月 10 日)http://nlb.ninjal.ac.jp/

11. Nesselhauf,N. (2003) The Use of Collocations by Advanced Learners of English and Some Implications for Teaching. Applied Linguistics, 24(2), 223-242.


# 第二言語としての日本語学習者が産出する文法的誤りに対する生成文法理論からのアプローチ : 生成誤り分析

山田敏幸
${ }^{1}$ 群馬大学共同教育学部英語教育講座
t-yamada@gunma-u. ac. jp

## 概要

本研究は, 第二言語としての日本語学習者に焦点 を当て，学習者が産出する文法的誤りに対して生成文法理論からアプローチ寸る, 生成誤り分析の効果検証を行なう。これまで生成誤り分析は第一言語獲得研究, 第二言語習得研究両分野において有効であ ることが確かめられてきた。本研究では第二言語習得において, 新たなデータの提供及び分析を行なう.日本語学習者の文法的誤りを分析した結果, 生成誤 り分析が予測するように，母語でも学習目標言語の 日本語でもない, 他の言語で文法的に容認されるこ とが分かり, 第一言語獲得者同様, 第二言語習得者 も人間言語の生得的規定内で文法的誤りを犯すこと が明らかになった．理論的示唆を考察する。

## 1 はじめに

人間は第一言語であれ第二言語であれ，学習過程 において文法的誤りを犯す. 言語学習は通常, 正文 （当該言語で文法的に容認できる文）を入力として 進むので，文法的誤りを含む非文（文法的に容認で きない文）を出力することは興味深い．ただ，どの ようなメカニズムで文法的誤りが生じるのか，どの ように文法的誤りを分析すれば有意義な議論を展開 し精緻な理論構築ができるのかなど, まだ追究すべ き課題がある.

例えば，日本語を第一言語として獲得しようとす る日本語览は 2～3 歳時に，（1）のような文法的に 容認されない単語列を発することが報告されている [1]（*は当該データが文法的に容認されないことを 示す)。

（1）*赤いのかばん（Cf. 赤いかばん）

興味深いことは, 日本語では（1）は文法的に容認さ
れないため，日本語坚が（1）をそのままの形でイン プットとして受け取ることはない。それにもかかわ らず，日本語览が（1）をアウトプットすることは，人間の言語獲得は生後外界から与えられる言語経験 をインプットとしてそのまま記憶してアウトプット する、いわばオウム返しのような過程ではないこと を意味する。

本研究は，人間は生まれつき言語的に規定されて おり，全ての人間言語が共通基盤を持っているとす る生成文法理論に立脚し $[2,3]$, その言語生得説を,目標言語の学習過程に見られる文法的誤りを他の言語から分析するアプローチによって実証することの 有効性を検証する．生得説は，言語学習者の文法的誤りが生得的に規定された範囲内で生じることを予測する。その予測どおり，第一言語獲得研究では，

(1)のようなデータを生成文法理論の枠組みから分析し，人間は理にかなった文法的誤りを犯すことが 示唆されている．例えば，（2a）を日本語の文法か らみると文法的に容認できないとみなされるが，

（2b）のように英語の文法からみると文法的に容認 できると考察できる.

（2）a.*赤いのかばん

b. the bag that is red

つまり，（2a）のように日本語の文法では文法的に 容認されない過剩生成された「の」とみなされるも のを，（2b）のように英語の文法における名詞を修飾するための関係代名詞と捉えるのである。このこ とにより，日本語览は，日本語の言語経験を受けな がら，誤って英語のような文法を試した結果，「の」 が過剩生成されたと考えられる. 子どもはどの言語 が目標言語であるかは分からずに学習しているので，生得的な規定の範囲内で許されている人間言語の選択肢を（誤って）使った可能性があると分析できる
$[1,4]$.

人間の言語獲得において, インプットどおりには アウトプットがなされないことに加え, 子どもは生後どの言語を獲得している最中にいるのかという意識もなく, 母語を獲得する.つまり, 子どもは生後,自分が獲得しようとしている目標言語において何が 文法的に容認され, 何が文法的に容認されないのか を知らずに, 生後外界からの言語経験に基づいて,自分の母語に収束していくことになる. この現象に ついて, 生成文法理論では, 生得的な言語知識とし て普遍文法を仮定し, 原理と媒介変数による普遍文法へのアプローチを試みている $[3,5]$. すなわち，人間は生まれ落ちれば，原理を獲得する必要はなく，言語獲得は生後外界からの言語経験によって媒介変数（例えば，日本語のように音形を伴わない空主語 を許すかどうか) を自分の言語に設定していく作業 ということになる. 人間の言語獲得において驚くべ き点は, 人間は生得的に, どの個別言語でも獲得で きる能力をもって生まれる. 生成文法理論ではこの 生得性に対する理論を普遍文法と呼び，それに対し て原理と媒介変数によるアプローチを採用している。普遍文法への原理と媒介変数にアプローチ（以下、 $P \& P$ と呼ぶ）によると, 人間は言語獲得について生得的に規定されており, 言語獲得時に犯す誤りも生得的に規定されている.つまり（2）のように，一見 すると誤りでも世界の言語のどれかと照らし合わせ れば理にかなった, 文法的に容認されるものである ことを予測する. 本紙では, この視点による誤り分析を「生成誤り分析」と呼ぶことにする。

## 2 先行研究

ある言語学習者の文法的誤りを当該学習者の母語 や学習目標言語ではない他言語からアプローチする,生成誤り分析はこれまで, 第 1 節の（2）のように，第一言語獲得研究で主に採用されてきた. しかし近年, 第二言語習得研究にもその方法は援用され, 第二言語学習者をとおした予測の検証が進んでいる.例えば，英語を外国語として学習する日本語母語話者は（3）のような文法的誤りを産出する $[6,7,8 ， 9$, $10]$.

(3) a. *What do you think did John buy?

b. *What do you think what John bought?

c. *Do you think what John bought?

(cf. What do you think John bought?) （3a）は，埋め込久節において did の過剩な倒置が 起きているため非文であるが，これは P\&P の 観点か ら, ベルファスト英語では文法的に容認されると分析できる[11]. また，（3b-c）も非文であるが，P\&P の観点から，（3b）のような wh の複写や（3c）の ような wh の部分的移動はドイツ語では文法的に容認されると分析できる[12].

日本人英語学習者は (4) のような文法的誤りも犯 すことが報告されている[13,14].

(4) a. *He was arrived yesterday.

(cf. He arrived yesterday.)

b. *The most memorable thing was happened yesterday.

(cf. The most memorable thing happened yesterday.)

（4a-b）は一見すると受け身文だが，当該自動詞は 受動化できないため非文である。（4a-b）はともに，意図している意味は受け身ではなく, 過去の出来事 である.したがって, 過剩使用されている be 動詞は, P\&P の観点から，イタリア語の完了形では have 相当ではなくbe 動詞相当を使うという事実を踏まえ ると文法的に容認されると分析できる[15].

さらに日本人英語学習者は (5) のような文法的誤 りも示す[16].

(5) *This is a portable shrine in English, and it moves around the my town.

(cf. This is a portable shrine in English, and it moves around my town.)

（5）は定冠詞の過剩使用のため非文であるが，これ は P\&P の観点から分析すると, イタリア語やギリシ ア語では文法的に容認される $[17,18]$.

## 3 本研究

本研究の目的は, 新たな第二言語学習者データを 分析し, 生成成誤り分析のさらなる有効性を検証す ることである. 第 2 節でみたように, 日本人英語学習者の文法的誤りの分析を踏まえて, 本研究では第二言語としての日本語学習者に焦点を当て, 文法的誤りデータが当該学習者の母語でも, 学習目標言語 の日本語でもない, 他の言語によって文法的に容認 されるかどうかを分析する.

## 3.1 仮説と予測

本研究が検証する P\&P に基づく生成誤り分析は 以下の仮説と予測をもつ[cf. 19].

(6) 仮説

言語学習者の文法的誤りは第一言語であれ, 第二言語であれ，生得的に規定された範囲（媒介変数）内に収まっている.

この仮説から導かれる, 第二言語としての日本語学習者の文法的誤りに対する予測は以下である.

(7) 予測

a. 当該学習者の母語で文法的に容認される.

b. 当該学習者の母語や学習目標言語の日本語 ではない他言語で文法的に容認される。

（7a）は従来母語からの転移と呼ばれてきた現象で あり，第二言語学習者が母語に許されている生得的 な媒介変数值を採用した場合に生じる文法的誤りで ある。また，当該学習者が目標言語に許されている 媒介変数値を採用した場合には正文となる. 本研究 では（7b），つまり日本語学習者が当該学習者の母語や目標言語の日本語ではない他の言語に許されて いる媒介変数値を採用しているどうかに焦点を当て，文法的誤りを分析する. なお, 本研究では, 生得的

語運用上の一時的な逸脱と捉え, 言語知識の文法発達上の継続的な冕脱であるエラーとは区別する $[22$, 23] (当該誤りがミステイクとエラーのどちらである かを厳密に峻別するのは容易ではないため，今回は 本稿の射程外とする）。

## 3.2 方法

人間言語の生得的規定（媒介変数による，生得的 に許されている選択肢）を踏まえて[24], 日本語学習者の文法的誤りを分析した。

## 3. 2.1 材料

材料として, 外国人学習者の誤用を集めた文献 [25]を基礎資料とした. [25]は誤用に加えて, 当該学習者の母語に関わる情報が記されているため, デー タ分析上主要な資料として使用した。

## 3. 2.2 手続き

まず，材料の資料から，P\&P の観点を踏まえて，分析するためのデータを収集した. 次に，分析対象 の文法的誤りについて, 生成誤り分析の観点から,当該学習者の母語, 学習目標言語の日本語, 他の言語の文法的特徴によって分析した.

## 3.2. 3 データ分析
（6）の仮説を踏まえて，
（7）の予測どおりに日本語学習者の文法的誤りが説明できるかどうかを分析した. 具体的には，予測（7b）に焦点を当てて，当該の文法的誤りが, 当該学習者の母語や学習目標言語の日本語ではない他言語で文法的に容認される かどうかを分析した. なお, 分析は, P\&P の観点か ら，人間言語の生得的規定（媒介変数）を踏まえて 行なった[24].

## 3.3 結果

今回は主に，（8）のデータを得た（データは一部改変，強調は原文のまま）。

（8）a.*きのう新しいの辞書を買いました.

[25: 682]

b. きのう新しい辞書を買いました.

[25: 682]

c. *その時成田空港はあまりこんでいました.

[25: 28]

d. その時, 成田空港はあまり込んでいません でした.

[25: 28]

（8a）は英語を母語する日本語学習者による誤用で ある.（8b）と比べて分かるように，「の」の過剰生成が観察される。これは当該学習者の母語である 英語の関係代名詞の転移と考えられるので, 予測

（7b）ではなく予測（7a）に関わる文法的誤りであ るが，第 1 節でみたように日本語を第一言語として 獲得する学習者と同じ誤り（上記（1））を犯してい ることは興味深い.

次に，（8c）は韓国語を母語とする日本語学習者 による誤用である。（8d）と比べると，直説法の否定文脈で用いるべき項目「あまり」を肯定文脈で用 いていることが分かる. この文法的誤りについて,

（9）から分かるように, 当該学習者の母語である韓
国語で「あまり」に相当する「kutaci」も肯定文脈で はなく否定文脈で用いられる（データは一部改変,強調追加）.

(9) i kay=nun kutaci khu-ci

この 犬=TOP それほど 大きい-NMLZ anh-ta.

NEG-DECL [TOP: Topic marker; NMLZ:

Nominalization;NEG: Negation; DECL:

Declarative]

ここの犬はあまり大きくない。，

[26: 220]

韓国語の（9）は日本語の（8d）同様, 否定辞が共起 している.ここで, ヨーロッパ・ポルトガル語の (10) をみてみたい（データは強調追加）。

(10) a. Este livro é do caraças.

this book is of.the.MASC.SG caraças [MASC: Masculine; SG: Singular]

'This book is awesome.'

[27: 120]

b. Este livro não vale um caraças. this book neg be.worth a.MASC.SG caraças [neg: negation; MASC: Masculine; SG: Singular]

'This book is not worth anything.'

[27: 120]

ヨーロッパ・ポルトガル語には（10）の「caraças」 が示すように，肯定文脈 (10a) でも否定文脈 (10b) でも用いることができる項目がある.すなわち, (8c) の文法的誤りは, P\&Pを踏まえた生成誤り分析から すると, 予測 (7b）どおり, 韓国語を母語とする日本語学習者が, 母語の韓国語や目標言語の日本語で はない他の言語, ここではヨーロッパ・ポルトガル 語に許されている人間言語としての選択肢を誤って 適用した可能性がある.

## 4 考察と今後の展望

本研究は第二言語としての日本語学習者の文法的誤りを $\mathrm{P} \& \mathrm{P}$ の観点から, 生成誤り分析によって, 当該誤りが母語でも学習目標言語でもない他の言語に よって文法的に容認されるかを分析した. 結果とし て, 英語を母語とする日本語学習者において母語の 英語では文法的に容認されるような文法的誤りが見 つかり, 当該誤りは日本語を第一言語として獲得し ようとする学習者にも観察されることが分かった。 また, 韓国語を母語とする日本語学習者において母語の韓国語でも目標言語の日本語でもない，ヨーロ ッパ・ポルトガル語では文法的に容認されるような 文法的誤りが見つかった.

第二言語学習者の文法的誤りはこれまで当該学習者の母語からの転移として分析されてきた.だが，最近の研究で分かってきたように，第二言語の文法的誤りは母語からの転移というように単純に説明で きるものではなく, 当該学習者の母語に関わりなく 普遍的に生じる誤りもあり, その理論的な説明が課題となっている. 本研究も新たなデータを基に, 第二言語学習者の文法的誤りは, 目標言語を第一言語 として獲得しようとする学習者が犯す文法的誤りと 類似していること, 母語でも目標言語でもない他の 言語の文法的特徴によって説明できることを示した。 これは, 人間が言語的に生得規定されており, 文法的誤りは第一言語であれ第二言語であれ, 生得的に 規定された範囲内で生じることを示唆している。さ らに, 本研究で示したように, もし韓国語を母語と する日本語学習者が学習過程でヨーロッパ・ポルト ガル語の文法的特徴を使用していたとしたら, 母語 や学習目標言語のアジア圈の言語を超えて, 無意識 のうちに生得的規定の範囲内で許容されているョー ロッパ圈の言語にアクセスしている可能性を示唆し ており, 言語生得性は第一言語からだけでなく, 第二言語からもアプローチできることを意味する。

今後の展望として, 生成誤り分析のさらなる効果検証を進めるためにも，質的・量的双方による研究 が必要である. 具体的には, より多言語の母語話者 を対象に, ある特定の目標言語での文法的誤りを複言語的に分析することによって, 豊かな質的研究が 可能になる. また, ある特定の母語をもつ話者に限定し, ある特定の目標言語や多種類の目標言語から の文法的誤りを収集し分析することで，量的データ を得ることが可能になる. このようにして，母語,目標言語, 他言語として設定する言語の種類をより 幅広くしたり，また第一言語獲得と第二言語習得の 学習者データを比較したり, さらに産出データだけ でなく理解データ（文法性判断など）によって検証 したりして，文法的誤りをより多角的・多面的に分析することで，人間言語の生得的規定，特に媒介変数が規定する可能な言語の範囲を浮き彫りにするこ とができる. その点においても, 生成誤り分析のさ らなる効果検証は, 人間言語に対するより深い理解 に重要であるだけでなく, その理解は自然言語処理研究の発展に寄与することが期待される.

## 謝辞

本研究は JSPS 科研費 JP19K13288 の助成を受けた ものです.

## 参考文献

1. Murasugi, K. (1991). Noun phrases in Japanese and English: A study in syntax, learnability and acquisition [Unpublished doctoral dissertation]. University of Connecticut.

2. Chomsky, N. (1965). Aspects of the theory of syntax. MIT Press.

3. Chomsky, N. (1981). Lectures on government and binding: The Pisa lectures. Foris Publication.

4. Sugusaki, K. (2003). Innate constraints on language variation: Evidence from child language [Unpublished doctoral dissertation]. University of Connecticut.

5. Chomsky, N. (1995). The minimalist program. MIT Press.

6. Wakabayashi, S., \& Okawa, I. (2003). Japanese learners' errors on long distance wh-questions. In $\mathrm{S}$. Wakabayashi (Ed.), Generative approaches to the acquisition of English by native speakers of Japanese (pp. 215-245). Mouton de Gruyter.

7. Radford, A., \& Yokota, H. (2006). UG-constrained wh-movement in Japanese learners' English questions. Second Language, 5, 61-94.

8. Schultz, B. (2011). Syntactic creativity in second language English: wh-scope marking in Japanese-English interlanguage. Second Language Research, 27(3), 313-341.

9. Yokota, H., \& Radford, A. (2012). Acquisition of goals for wh-movement by Japanese L2 learners of English. Second Language, 11, 59-94.

10. 野地美幸. (2019).「日本人学習者による英語の 長距離 wh 移動の習得 : 部分的 wh 移動と wh 複写に 焦点を当てて」。『上越教育大学研究紀要』，第 39 巻第 1 号, 155-163.

11. Henry, A. (1995). Belfast English and standard English: Dialect variation and parameter setting. Oxford University Press.

12. McDaniel, D. (1989). Partial and multiple wh-movement. Natural Language \& Linguistic Theory, 7(4), 565-604.
13. Hirakawa, M. (2003). Unaccusativity in second language Japanese and English. ひつじ書房.

14. 遊佐典昭. (2005). 「普遍文法に基づく SLA 研究」. JACET SLA 研究会, (編).『文献から見る 第二言語習得研究』（pp. 37-46）. 開拓社. 15. 遊佐典昭. (2004).「第二言語獲得における刺激貧困の問題」. 佐藤滋 - 堀江薫 - 中村渉, （編）.『対照言語学の新展開』（pp. 209-228）。ひつじ書房.

16. Yamada, T. (2022, October 22-23). What grammatical errors of second language learners tell us about the innateness of human langugae [Paper presentation]. The 22nd International Conference on the Japanese Second Language Association (J-SLA 2022), Tokyo, Japan.

17. Burzio, L. (1986). Italian syntax: A government-binding approach. Springer.

18. Alexiadou, A. (2014). Double determiners and the structure of DPs. John Benjamins Publishing Company.

19. White, L. (2003). Second language acquisition and universal grammar. Cambridge University Press.

20. Thomas, M. (1991). Do second language learners have "rogue" grammars of anaphora. In L. Eubank (Ed.), Point counterpoint: Universal grammar in the second language (pp. 375-388). John Benjamins Publishing Company.

21. Klein, E. (1995). Evidence for a 'wild' L2 grammar: When PPs rear their empty heads. Applied Linguistics, $16,87-117$.

22. Corder, S. P. (1967). The significance of learners' errors. International Review of Applied Linguistics in Language Teaching, 5, 161-170.

23. Corder, S. P. (1982). Error analysis and interlanguage. Oxford University Press.

24. Roberts, I. (2019). Parameter hierarchies and universal grammar. Oxford University Press.

25. 市川保子.（編）. (2010). 『日本語誤用辞典：外国語学習者の誤用から学ぶ日本語の意味用法と指導のポイント』．スリーエーネットワーク．

26. 黒島規史. (2018).「朝鮮語の否定、形容詞と連体修飾複文」.『語学研究所論集』, 第 23 号, 219-227.

27. Pinto, C. (2020). Polarity, expression of degree and negation: The vernacular form caraças. Estudos de Lingüística Galega, 12, 115-139.


# 木置換文法による語彙と文法の教師なし同時学習に関する検討

相良陸成 ${ }^{1}$ 田口亮 ${ }^{1}$
1名古屋工業大学大学院 工学研究科
r.sagara.628@nitech.jp taguchi.ryo@nitech.ac.jp

## 概要

人の言語学習能力をロボットにより構築する研究 が行われており, 単語とその意味, 文法の教師なし 学習モデルが提案されている. 一方, 木構造の文法 と語彙を同時に学習するモデルは提案されていない.本研究では木置換文法により音節列から語彙と文法 を教師なしで同時学習する手法について検討する。木置換文法において構文木を構成する単位である基本木として，単語と構文を同じ形式で学習する。小規模なデータセットを用いた実験により，基本木と して単語と構文を抽出可能であることが示された。 このような学習は，語彙と文法を連続体として捉え る認知言語学との親和性があるものと考える。

## 1 はじめに

人間の幼児は大人とのインタラクションを通じて，単語とその意味, および文法を学習する能力を持つ. この能力の数理モデル化を目的の一つとして, ロボ ットによる語彙・概念の獲得に関する研究[1]-[3]や, ロボットによる文法学習の研究[4], [5]が行われてい る。一方，語彙と文法を統一的なモデルで学習する 手法は提案されていない。人間は学習した「赤い」

「赤」「緑」という単語から「緑い」という単語を 作り出せるように, 学習した単語から単語を生成す る規則を学習することが可能である. このような学習をロボットにより実現するには，語彙と文法を統一的なモデルで学習する必要があると考える. この ため本研究では，木置換文法を用いることにより，単語と構文を統一的な形式で教師なし学習する方法 について検討する。

## 2 木置換文法

木置換文法（TSG: Tree Substitution Grammar）は，文脈自由文法の生成規則の右辺を木構造へと一般化 し, 生成規則に確率を対応させた形式文法である. この生成規則の右辺の木は基本木（elementary tree）
と呼ばれる。図 1 に示すように，基本木の末端にあ る NP などの非終端記号を基本木で置換することに より，構文木を導出する. ここでは Cohn らの提案 した木置換文法[8]について述べる。この木置換文法 により, 品詞列から教師なしで依存構造解析ができ ることが示されている.

## 2.1 確率モデル

木置換文法において，非終端記号列 $y$ は以下の式 により生成される.

$
\begin{aligned}
& p(y)=\sum_{t: \operatorname{yield}(t)=y} p(t) \\
& p(t)=\sum_{\text {e:tree }(\mathbf{e})=t} p(\mathbf{e}) \\
& p(\mathbf{e})=\prod_{c \rightarrow e \in \mathbf{e}} p(e \mid c, \mathcal{L})
\end{aligned}
$

ただし， $t$ は構文木， $\mathbf{e}$ は基本木の列， Lは木置換文法のパラメータ集合， $c \rightarrow e \in \mathbf{e}$ は基本木の列 $\mathbf{e}$ に含 まれる基本木 $e$ が非終端記号 $c$ から生成される規則 を表す。また， $y \operatorname{ield}(t)$ は構文木 $t$ の終端記号列を表 し, $\operatorname{tree}(\mathbf{e})$ は基本木の列 $\mathbf{e} に よ り$ 作られる構文木を 表す. 非終端記号 $c$ から生成される基本木 $e$ の分布 $p(e \mid c, \mathcal{L})$ は基本木の出現頻度に基づくが，一度も出現していない基本木にどのように確率を割り当てる かが問題となる。Cohn らは階層 Pitman-Yor 過程に

図 1 木置換文法

より, 一度も出現していない基本木の確率を, 文脈自由文法の生成規則の出現頻度に基づいて割り当て ている.これによりモデル全体を確率的生成モデル で表現可能とした. 詳細は文献[8]を参照されたい.

## 2.2 パラメータ推定

確率モデルのパラメータ推定に一般に用いられる Metropolis-Hastings 法を用いる. 基本木からなる構文木のサンプリングには, inside アルゴリズムによる 動的計画法の結果を用いる. サンプリングされた基本木からなる構文木は, Metropolis-Hastings 法のプロ セスの中で, 尤度に基づいて確率的に受理または棄却される.

## 3 木置換文法による語彙 ・ 文法学習

本研究では Cohn らの木置換文法を用いて, 音節列から語彙と文法を学習することを試みる. 図 2 に 模式図を示す. 音節列に対して木置換文法を適用し，得られた基本木を単語および構文と解釈する。図で は実線で繋がれた部分木を基本木として表しており，点線は基本木の置換 (接続) 部を表している. 図 2(a) は「きをつけて」を一つの単語とした場合であり，図 2(b)は「き/をつけて」のように 3 単語とした場合である.このような分割候補に対して生成確率を 取得できる.このため, ロボットのセンサ情報から 得られた意味情報を加味して分割候補を選択するな どの拡張が考えられる。また， n-gram とは異なり，意味を対応付ける単位として構文を抽出可能である。

図 2 の学習を木置換文法で実現するために, 図 2 の葉ノードは音節に対して一意に決まる前終端記号 とし，そこから音節の終端記号が導出されるとする。学習に用いる非終端記号の性質は事前に与えられず，非終端記号の数のみが与えられる.

(a) 1 単語とする場合

(b) 単語に分ける場合図 2 木置換文法による単語と文法の学習

## 4 実験

木置換文法により単語および構文の教師なし学習 が可能であるかを検証する.

## 4.1 実験条件

データセット $\mathrm{A}$ ，データセット $\mathrm{B}$ のそれぞれを用 いて実験した. データセット A 45 の音節列から なり, 3 種類の色, 3 種類の物体, 5 種類の動作を表 す単語のすべての組み合わせからなる. すべての音節列は「色・物体・動作」の順に並んでおり, 例と して「あかいはこのせて」のような音節列が存在す る. データセット B はロボットに位置を教示する 104 の音節列からなる. 4 種類の絶対位置 (例: リビ ング）, 6 種類の相対位置（例: 後ろ）, 4 種類の物体（例: テレビ）の単語が含まれる。「ここわ X で す」のような 19 種類の発話パターンの Xに，「（物体）の（相対位置）」または「（絶対位置）」をあ てはめ，「ここわてれびのまえです」のような音節列を生成した. データセット A とは異なり, 単語の 出現頻度および 2 単語の共起頻度には偏りがある.

付録に全データを記載する。

非終端記号の個数を 3, 4,5の 3 つの值に設定して それぞれ実験した。構文木の根ノードには特別な記号を用いず，全ての非終端記号が等確率で出現可能 とした. Metropolis-Hastings 法の サンプリング回数 は 1000 回とした。最終イテレーションにおいて得 られた木置換文法のパラメータを用いて，各入力音節列から事後確率最大となる基本木の列を取得し，評価に用いた。データセットと非終端記号の組み合 わせごとに，初期值を変えて 10 回ずつ実験した.

## 4.2 実験結果と考察

## 4.2.1 データセット A

非終端記号を 3 個としたときの学習例を図 3 に示 す. 図の PT は前終端記号を, NT は非終端記号を表 す. 点線部は基本木の境界を表している．点線で繋 がれた 2 つのノードは構文木としては同一のノード であるが，実線で繋がれた部分木を基本木とみなせ るよう，視認性のために分割して描画している。ア スタリスク $(*)$ は, 基本木の境界ノードではないこと を表す.この学習例において, 基本木は「あかい」

「はこ」「のせて」の3つの単語の基本木に正しく 分割されていることが分かる。 また，単語は音節列 だけでなく，他の単語との接続に関する情報を持っ

図 3 データセット A の学習例 （非終端記号 3 個）

た, 構文として学習された.この実験では 45 の音節列すべてが正しく 3 つの単語に分割された。また, この実験結果ではすべての物体の基本木の根ノード は NT2, すべての動作の基本木の根ノードは NT3 で あり, 構文木上の 3 単語の関係は全て同じであった。 これは, 各単語の品詞とそれらの関係, 寸なわち文法が学習されたと考えることができる。なお，構文木の構造については誤って学習されたが，これは全 ての音節列「色・物体・動作」という語順で出現し,「色・物体」のみの音節列がなかったためであると 考える．音節列のバリエーションを増加させること により，構文木としても正しい結果が得られるよう になると考えられる。

次に，定量評価について示す. データに含まれる 全単語を対象として, それらが基本木として抽出さ れた割合を算出した. 非終端記号が $3,4,5$ 個の時に 抽出された割合は, 10 回の実験の平均でそれぞれ 99.7\%, 99.3\%, 96.1\%となった. いずれも高い精度で 音節列から単語を抽出できていることがわかる. 非終端記号を増やすことで基本木の内部ノードとして 活用されることを期待したが，非終端記号が少ない 方が精度は高かった. 基本木の置換部の非終端記号 の方が重要であり, 内部ノードがどの非終端記号に なるかは学習に大きく影響を及ぼしていないと考え られる。

## 4.2.2 データセット B

非終端記号を5個としたときの学習例を図 4(a)お よび(b)に示す. 音節列が基本木としておおよそ正し く単語に分割できていることがわかる. また，位置 を表す「りびんぐ」と「てれびのまえ」は単語数が 異なるが，それらを統べる部分木の根ノードはどち らも非終端記号 NT5 であった。これは，NT5 が「位置」という抽象的な単位として学習されたと考える ことができる.これにより，これまでの n-gram では 学習できなかった，単語数に依存しない AXB 形式 の構文を学習可能となり, それに従う単語列を生成可能となることが期待される。ただし, この学習結果では NT5 は他の基本木の置換部にも用いられて おり，現段階では単語列の生成は正しくできないと 考えられる．5 つある非終端記号がすべて置換部に 用いられることを期待したが，同じ非終端記号を複数回用いる傾向が見られた. 基本木が根ノードを伴 って学習されるために根ノードを変更することが難 しく, 局所解に留まっている可能性がある。この点 の改善は今後の課題である.

また, データセット A と同様に単語が抽出された 割合を算出した。評価対象は，絶対位置の単語，物体の単語, 「まえ」以外の相対位置の単語とした.非終端記号が 3, 4, 5 個の時，想定した単語に分割さ れた割合は，10 回の実験の平均でそれぞれ 59.4\%, 52.9\%, 46.6\%となった. ただしこのデータセットに おいては，この值が高いほど望ましい学習結果であ るとは限らない。想定した単語に分割されなかった 例として，「のひだり」や「いすのうしろ」を基本木とする場合が見られた（付録を参照）。「ひだり」 の前の音節は必ず「の」であるため，「ひだり」と 「のひだり」の出現回数は等しい．また，「うしろ」 は「いすのうしろ」の形でしか出現せず，「いすの うしろ」の出現回数は「リビング」と同じ 8 回であ る.このように高頻度に出現する音節列を，「気を 付ける」と同様に一つの単語と解釈し，それを意味 と対応付ける単位として学習することは一つの妥当 な結果であると言える。このような学習は, 語彙と 文法を連続体として捉える認知言語学[6]との親和性があるものと考える。

(a) 非終端記号 5 個「そこわりびんぐだよ」

(b) 非終端記号 5 個「そこわてれびのまえです」

図 4 データセット $\mathrm{B}$ の学習例

## 5 制約

Cohn らの木置換文法を音節列からの語彙と文法 の教師なし学習に利用できることを示したが，いく つかの制約が存在する. まず, Cohn らの木置換文法 を教師なし学習するためには二分木とする必要があ り, 過度に内部ノードを必要とする点が挙げられる。 これはパラメータ推定に用いる inside アルゴリズム が二分木を前提としているためである。生成規則が 「ここわ・X・です」「て・れ・び」のような 3 つ 子を持つことができれば，内部ノードを削減でき，分析が容易になると考える。また，単語学習時に基本木の根ノードの非終端記号を定める必要がある点 は，学習を難しくするだけでなく，認知言語学の観点からも不自然な仮定であると考えられる。このよ うな技術的制約を取り払い，より認知言語学からの 説明が可能なモデルに改良したい。さらに, データ セットが小さいにも関わらず計算コストが大きい点 が挙げられる. データセット $\mathrm{A}$ を用いた非終端記号 3 個での実験では, Intel Core i7-7820X CPU 3.60GHz のシングルコアでの実行で 3 時間 11 分を要した. また，非終端記号の数を増加させると実行時間は指数的に増大し, 非終端記号が 8 個の場合は 54 時間 46 分を要した. このため, 大規模なデータセットへ の適用は困難である。 RNN や Transformer を用いた 統語構造の学習モデル[8], [9]を用いるなど，高速な 学習を可能とする方法について検討したい.

## 6 おわりに

本研究では，木置換文法により音節列から語彙と 文法を教師なし学習する手法について検討した。小規模なデータセットを用いた実験で，木置換文法に より基本木という単位で単語と構文を抽出できるこ とを確認した。

本研究では言葉の意味（概念）を扱っていない.文献[2], [3]では, 語彙学習とセンサ情報からの概念学習を統合することで, 語彙学習の精度が向上する ことが示されている. また認知言語学においては,構文は音韻と意味のペアとして抽象化されていくと 考える.このため意味の抽象化についても同時に扱 い，意味を伴って文法を学習可能なモデルに発展さ せたい.

本研究では発話音声から音節列が得られたものと 仮定し, 音節列を観測値として学習している. 完全 な教師なし学習の実現のためには, 発話音声からの 音素・音節の獲得との統合が必要である. 谷口らは,発話音声から音素と単語を教師なし学習する手法を 提案している[10]. この手法で学習される文法は 2gram であり, AXB のような文法は学習できない. この手法の音素の獲得を取り入れることなどにより，完全な教師なし学習として発話音声からの語彙・文法学習を実現したい。

## 謝辞

本研究は, JST 次世代研究者挑戦的研究プログラ ム JPMJSP2112 の助成を受けたものです.

## 参考文献

[1] T. Nakamura, T. Nagai, K. Funakoshi, S. Nagasaka, T. Taniguchi, and N. Iwahashi, "Mutual learning of an object concept and language model based on MLDA and NPYLM," in 2014 IEEE/RSJ International Conference on Intelligent Robots and Systems, 2014, pp. 600-607.

[2] A. Taniguchi, T. Taniguchi, and T. Inamura, "Unsupervised spatial lexical acquisition by updating a language model with place clues," Rob. Auton. Syst., vol. 99, pp. 166-180, Jan. 2018.

[3] R. Sagara et al., "Unsupervised lexical acquisition of relative spatial concepts using spoken user utterances," Adv. Robot., vol. 36, no. 1-2, pp. 54-70, Jan. 2022.

[4] A. Aly, T. Taniguchi, and D. Mochihashi, "A Probabilistic Approach to Unsupervised Induction of Combinatory Categorial Grammar in Situated HumanRobot Interaction," in 2018 IEEE-RAS 18th International Conference on Humanoid Robots (Humanoids), 2018, pp. $1-9$.

[5] M. Spranger, "A basic emergent grammar for space," Experiments in Cultural Language Evolution, ed. L. Steels (Amsterdam: John Benjamins), pp. 207-232, 2011.

[6] T. Cohn, P. Blunsom, and S. Goldwater, "Inducing tree-substitution grammars," J. Mach. Learn. Res., vol. 11, pp. 3053-3096, 2010.

[7] R. W. Langacker, Foundations of Cognitive Grammar: Volume I: Theoretical Prerequisites. Stanford University Press, 1987.

[8] C. Dyer, A. Kuncoro, M. Ballesteros, and N. A. Smith, "Recurrent Neural Network Grammars," in Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, San Diego, California, 2016, pp. 199-209.

[9] P. Qian, T. Naseem, R. Levy, and R. F. Astudillo, "Structural Guidance for Transformer Language Models," in Proceedings of the 59th Annual Meeting of the Association- 452 for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (Volume1: Long Papers), Online, 2021, pp. 3735-3745.

[10] T. Taniguchi, R. Nakashima, H. Liu, and S. Nagasaka, "Double articulation analyzer with deep sparse autoencoder for unsupervised word discovery from speech signals," Adv. Robot., vol. 30, no. 11-12, pp. 770783, Jun. 2016

## A 付録

## A. 1 データセットB の全データ

$
\begin{aligned}
& \begin{array}{l}
\text { そのばしょわりびんぐだね } \\
\text { そこわりびんぐだよ }
\end{array} \\
& \text { りびんぐだ d } \\
& \text { そこのなまえわりびんぐ } \\
& \text { そこわりびんぐです } \\
& \begin{array}{l}
\text { そ ばしょわりびんぐだよ } \\
\text { そのばしょわりびんぐだね }
\end{array} \\
& \text { そのばしょわりびん }
\end{aligned}
$

$
\begin{aligned}
& \text { そのばしょわきつちんです } \\
& \begin{array}{l}
\text { きつちんにきまたした } \\
\text { そうわきちんで }
\end{array} \\
& \text { きちんにいるよ } \\
& \text { そのばしょわきつちん }
\end{aligned}
$

$
\begin{aligned}
& \text { そこのなまえわげんかん } \\
& \text { げんかんにいるよ } \\
& \text { そのばしょわげんかん } \\
& \text { んかんにいる } \\
& \text { げんかんです } \\
& \text { そこわげんかんだね } \\
& \text { こばしょわしんじっだよ } \\
& \text { そこのなまえわしんしつです } \\
& \text { こんしついるね } \\
& \text { そこのなまえわしんしつだね } \\
& \text { そこわしんしつだよ } \\
& \text { しんしつにきました } \\
& \text { そこのなまえわしんしつです } \\
& \text { そこのなまえわてれびのまえだよ } \\
& \text { そこわてれびのまえです } \\
& \text { そこわのなれまえわすえですまえ } \\
& \text { てれびのみぎだよ れれびのみぎです } \\
& \begin{array}{l}
\text { てひびのみ み゙だね } \\
\text { てれびのみ です }
\end{array} \\
& \text { それびのみぎですびのひたれ゙けだね }
\end{aligned}
$

$
\begin{aligned}
& \text { そこわてれびのひだりだね }
\end{aligned}
$

$
\begin{aligned}
& \text { ごっどのまえです }
\end{aligned}
$

$
\begin{aligned}
& \begin{array}{l}
\text { そこわべっどのみ み } \\
\text { そこわべっどのみ }
\end{array} \\
& \text { ごっどのみぎにいるよ }
\end{aligned}
$

$
\begin{aligned}
& \begin{array}{l}
\text { ながしだいのまえです } \\
\text { ながしだいのまえです }
\end{array} \\
& \text { ながしたいのまえで }
\end{aligned}
$

$
\begin{aligned}
& \text { そのばしょわながしだいのひだりだよ } \\
& \text { ながしだいのひだりにいるね } \\
& \text { そのばしょわいすのうしろる。 } \\
& \text { そこのなまえわいすのうしろです } \\
& \text { いす } \\
& \text { そこのなまえわいすのみぎです } \\
& \text { そこわい年のみぎだね } \\
& \text { そこのなまえわいすのみぎです }
\end{aligned}
$

$
\begin{aligned}
& \text { そのばしょわいすのまき } \\
& \text { そこなまえわいすのまえだよ } \\
& \text { いすのうしろです } \\
& \text { そのばしょわいすのうしろだね }
\end{aligned}
$

$
\begin{aligned}
& \text { そこわいすのひだり } \\
& \text { スドりにいキひだり } \\
& \text { いすのひだりにきました }
\end{aligned}
$

$
\begin{aligned}
& \text { そのばしょわてれびのてまえだょ } \\
& \begin{array}{l}
\text { てれびのおくです } \\
\text { てれびのおくです }
\end{array} \\
& \begin{array}{l}
\text { てひびのおくです } \\
\text { てれびる おくにいる }
\end{array}
\end{aligned}
$

## A. 2 データセット Bによる学習結果

図 A. 1 「のひだり」と学習された例

図 A. 2 「いすのうしろ」と学習された例


# 漢字の音読みにおける象徵素のデータ駆動的探索の試み

吉田晶 ${ }^{1}$ 松平茅隼 ${ }^{1}$ 加藤大貴 ${ }^{2,1}$ 平山高嗣 3,1
駒水孝裕 ${ }^{1}$ 井手一郎 ${ }^{1}$
1 名古屋大学 2 名城大学 3 人間環境大学
\{yoshidaa, matsuhirac, katoh\}@cs. is. i . nagoya-u.ac.jp
t-hirayama@uhe.ac.jp
taka-coma@acm.org
ide@i.nagoya-u.ac.jp

## 概要

象徵素とは，形態素未満の語の構成単位で，特定 の意味を想起させるものを指す. 本研究では，意味的にまとまった漢字クラスタのうち，音読みにおい て特定の子音を有意に多く含むものを象徴素クラス タと称し，その抽出および意味のラベリングを試み た. 前者では，漢字を分散表現に変換してクラスタ リングした後，各クラスタに含まれる子音の比率と 母比率を比較し，比率に偏りがある意味クラスタを 抽出した. 後者では，辞書の定義文を利用する手法 と，WordNetを利用する手法の 2 つによるラベリン グを比較した. 常用漢字にこれらを適用した結果，計 133 の象徵素クラスタを抽出し，2つのラベリン グ手法共に，それらの 8 割以上に対して意味ラベル の付与に成功した.

## 1 はじめに

象徴素とは，形態素未満の語の構成単位で，特定 の意味を想起させるものを指す.これは，イギリ スの言語学者 Firth が提唱した概念であり [1], 例 えば，象徵素「gl」で始まる英単語には「gleam」や 「glitter」など光に関係する語が多く含まれる.

象徴素は英語やスウェーデン語などで存在が確認 されており，新規の象徵素の探索や既知の象徵素の 分析が行なわれている. しかし日本語を対象とした 研究は少ない. これは，一般に象徴素は 2,3 個の 子音列で構成される [2] のに対し, 日本語では子音 が連続しないという障壁による. Hamano ら [3] は 子音と母音を象徴素とみなして日本語における象徴素の分析を行なったが，対象がオノマトぺに限られ ていたため, 英語における象徴素ほど具体的な意味 は特定されていない。また評価を人手で行なってい
るため，客観性や労力について留意する必要がある.

そこで本研究では，オノマトぺよりも具体的な意味を表す漢字を用い，音読みの子音に着目すること で，英語に対する分析に近い形で，日本語における 象徴素の分析を自動的に行なうことを試みる。具体的には，意味的にまとまった漢字クラスタのうち，特定の子音を有意に多く含むものを「象徴素クラス タ」と称し，漢字の音読みに着目した象徴素クラス タの抽出と，その具体的な意味の特定を自動的に行 なう手法を提案する。これは，英語の象徴素と同様 に，日本語においても同じ音を有する語は似通った 意味を表すと仮定したとき，筸・嫼・赤・緑など 色を表す頻出漢字は第 2 子音に $\mathrm{k}$ を, 殺・滅・罰・切など攻撃性を感じる漢字は第 2 子音に $\mathrm{t}$ をつな ど，子音と意味の間に相関がある可能性が考えられ るためである．音読みに着目した理由は，音読みが 必ず 1 音節からなり，方言の影響が少なく，分析が 容易であると考えたためである。

以降，まず 2 節で関連研究を紹介し， 3 節で象徴素クラスタの抽出手法を，4 節で象徴素クラスタの ラベリング手法を提案する。次に 5 節で提案手法の 処理結果と考察を示したのち，最後に 6 節で本研究 をまとめ，今後の課題と展望について述べる。

## 2 関連研究

Otis ら [4] は，分散表現を用いて英語の象徴素を 分析する手法を提案した。具体的には，分散表現に より英単語を意味空間へ写像し，単語間の距離を検定比較することで象徴素の存在を確認した。また, Abramova ら [5] は，英語の象徵素の意味を自動的に 特定する手法を提案した。具体的には WordNet [6] における上位語と下位語の階層を利用し，象徵素を 共有する単語集合へのラベリングを実現した。

図1 象徴素クラスタ抽出の処理手順

本研究では，これらの先行研究に基づき，漢字を 分散表現に変換して扱う。また，ラベリング手法の 1つとして日本語 WordNet [7] を用いた手法を提案す る. 先行研究では, 英単語を既知の象徴素でグルー プ化した後に，単語間の距離に検定を施している。 しかし，音読みにおいては既知の象徴素が存在しな いため, 本研究では, まず意味に基づいて漢字デー タをクラスタリングし，その後に母比率の検定によ り子音の偏りを分析することで，特定の意味と子音 との間の共起性の抽出を試みる。

## 3 象徵素クラスタの抽出手法

本節では，漢字の分散表現と母比率の検定を用い た象徵素クラスタの抽出手法を提案する。提案手法 の処理手順を図 1 に示す.

まず漢字データとして表記と音読みを入力し，次 に各漢字の分散表現をクラスタリングし，最後に得 られた各意味クラスタにおける子音の比率を検定す ることで象徴素クラスタを抽出する。

## 3.1 漢字データの準備

常用漢字表 [8] に収録されている漢字 2,136 字を 対象とし，同表から各漢字の表記，音読み，用例を 抽出した. この際，音読みが複数存在する場合はそ れら全てを使用した．また，音読みが存在しない場合も, 子音をもたない漢字として含めた. 例えば漢字「亜」について，音読み「ア」と用例「亜流，亜麻，亜熱帯」を漢字データとして得た。表 1 常用漢字データにおける各第 1 子音の比率

表 2 常用漢字データにおける各第 2 子音の比率

## 3.2 漢字分散表現への変換

漢字を分散表現に変換するために，文字単位の Bidirectional Encoder Representations from Transformers （BERT）の学習済みモデル [9]を利用した. 本モデ ルは日本語の Wikipedia 記事で事前学習されている. 2,136 件の漢字データのうち 2,135 件について分散表現への変換に成功した1).

## 3.3 意味クラスタの抽出

英語において象徴素を共有する語は似た意味を表 すことが知られているが，日本語においてもこの性質があると仮定する．そこで， 3.2 項で得られた分散表現に対して，Ward 法で階層的クラスタリング を施し，その過程で出現した全てのクラスタを漢字 の意味クラスタとして抽出し，それらを象徵素クラ スタの候補とみなす。なお，包含関係にあるクラス タ同士も別の意味クラスタとする.

## 3.4 子音の比率の分析

得られた各意味クラスタに対し, 第 1 子音および 第 2 子音の比率の偏りを調べる.

まず，母集団となる常用漢字データにおける第 1 ,第 2 子音の比率をそれぞれ計算する. この際，昭和 29 年内閣訓令第 1 号で告示された「ローマ字のつ づり方」[10]に基づいて子音を決定した. ここで，音読みをもたない漢字は子音がないもの「 $\phi$ とし て扱う。また，「ン」の子音は「 $\mathrm{N}\lrcorner$ ，ナ行の子音は $「 \mathrm{n}\lrcorner$ と表して区別する，得られた第 1 ，第 2 子音の 割合をそれぞれ表 1 ，表 2 に示す。次に，各意味ク ラスタに対しても同様に子音の比率を計算する.こ こで，クラスタの要素数が少なすぎると，含まれる 子音の比率が極端に大きくなってしまうため，要素数が 8 未満の意味クラスタは除外した.

最後に，各子音について，各クラスタにおける比

1）変換に失敗したのは「憬」で，使用した BERT の語彙に含 まれていなかったことが理由であった.
率に対して母比率の検定を行なう，具体的には，い ずれかの子音について $\mathrm{P}$ 值が有意水準を満たす意味 クラスタを子音に偏りがあると判断し, 象徴素クラ スタとして抽出する．検定は片側検定とし，有意水準は経験的に 0.025 とした. この際，最小の $\mathrm{P}$ 値を 示す子音をそのクラスタを代表する象徴素とする。

## 4 象徴素クラスタのラベリング手法

本節では，3節で抽出した各象徴素クラスタに対 して，その意味を自動的にラベリングする手法を提案する.ここでは辞書を用いた手法と WordNetを用 いた手法の 2 つの手法を提案し，比較する.

## 4.1 辞書を用いたラベリング手法

まず，辞書における各漢字の定義文を利用したラ ベリング手法を提案する. 本研究では Weblio 辞書中のデジタル大辞泉 [11]を使用した.

まず，対象とする象徴素クラスタに含まれる全 ての漢字に対し, 辞書からその定義文を得る.こ の際，辞書中に見出し語が見つからない場合には， 3.1 項で準備した用例を代替の見出し語として定義文を抽出する。次に，定義文に対して MeCab [12] で形態素解析を施し，ストップワードを除いた動詞，形容詞，名詞，副詞を抽出する. その後，抽出 した各語について, クラスタ内での出現回数を数え る. なお，ある語が 1 つの定義文中に複数回現れた 場合には，出現回数は 1 として扱う．また，「時間」 と「年月」のような類義語は統合する．類義語の決定には Weblio 辞書中の日本語 WordNet [13] および Weblio 類語辞書 [14]を用いた. 最後に，クラスタ内 で最も多く出現した単語を候補ラベルとし，その中 で出現率が閾値（以下の実験では経験的に 0.3 に設定）以上のものを象徴素クラスタのラベルとして採用する。ここで，出現率とは象徵素クラスタ内の全 ての漢字のうち, その定義文に該当ラベルの語が 1 回以上出現する漢字の割合を意味する。

## 4.2 WordNet を用いたラベリング手法

次に，英単語を対象とした Abramova ら [5] の手法 を拡張したラベリング手法を提案する.

まず，対象とする象徴素クラスタに含まれる全漢字に対し, 日本語 WordNet における上位語を取得す る. この際，入力漢字が WordNet の階層構造中に存在しない場合には, 3.1 項で準備した漢字データの 用例を代替の語として入力する. 次に，クラスタ内

 & $\mathrm{k}$ & $7 / 9$ & 4.311 \\

の各漢字とその全ての上位語を統合し，候補ラべ ルとする.この際，WordNet の階層構造において根 ノードからの最短距離が 3 以下の名詞は抽象的すぎ ると考えたため，除外した. 次に，各候補ラベルに 対して，以下の式で類似スコア $S$ を計算する。

$
\begin{gathered}
S(h, C)=\sum_{w \in C} \alpha(w, h) \\
\alpha(w, h)= \begin{cases}\frac{1}{\operatorname{dist}(w, h)^{2}} & \text { if } h \in H(w) \\
-0.1 & \text { if } h \notin H(w)\end{cases}
\end{gathered}
$

ここで $C$ は対象とする象徵素クラスタを， $w$ は当該クラスタ内の漢字を， $h$ は候補ラベルを表す。ま た， $H(w)$ は $w$ とその全ての上位語の集合を表す. $\operatorname{dist}(w, h)$ は WordNet の階層構造における $w$ から $h$ までの最短経路の長さを表すが， $w$ と $h$ が一致する 場合は 1 を返す。

最後に，類似スコアが正の値かつ被覆率が間値 （以下の実験では経験的に 0.2 に設定）以上のものを 象徴素クラスタのラベルとして採用する. ここで，被覆率とは象徴素クラスタ内の全ての漢字のうち， その漢字とその上位語の集合に当該の語が含まれる 漢字の割合を意味する.

## 5 提案手法の処理結果と考察

本節では，象徵素クラスタの抽出とそのラベリン グ結果および考察を述べる。

## 5.1 象徵素クラスタの抽出

第 1 ，第 2 子音のそれぞれについて象徵素クラス タを抽出した結果，それぞれ $100 ， 33$ のクラスタが 得られた. 得られた象徵素クラスタの例を表 3 亿示 す.なお，表中の Z 値は，母比率の検定における検定統計量を示す. 第 1 , 第 2 子音による結果を比較 すると, 17 のクラスタが共通し，4のクラスタが包
表 4 象徴素クラスタに対するラベリング結果の例

} & 色 & $7 / 8$ & spectral color & $5 / 8$ & 4.70 \\

含関係にあった。例えば「紡・䖵・絹・藏・䒺・繊・桑・藍・麻・綿」は第 1 子音による分析では子音 $\mathrm{m}$,第 2 子音による分析では子音 $\mathrm{N}$ において，母比率の 検定で有意水準を満たした. しかし，第 1 子音が $\mathrm{m}$ かつ第 2 子音が Nである漢字は「綿」のみであるた め, 子音の組 $(\mathrm{m}, \mathrm{N})$ に象徵素的な役割があるとは考 えにくい.

## 5.2 象徴素クラスタのラベリング

辞書を用いたラベリング手法では，100 の第 1 子音による象徴素クラスタのうち 87,33 の第 2 子音に よる象徴素クラスタのうち 30 のクラスタで 1 つ以上の意味ラベルが得られた。一方，WordNetを用い た手法では，100 の第 1 子音による象徴素クラスタ のうち 83 ，33 の第 2 子音の象徵素クラスタのうち 29 のクラスタで 1 つ以上の意味ラベルが得られた.両手法によるラベリング結果の例を表 4 に示す. ま ず，辞書を用いた手法の特徴として，WordNetを用 いた手法と比べて，動作を表す漢字を多く含む象徴素クラスタに対して，より適切な意味ラベルの付与が確認された。例えば「割・摖・裂・張・貼・塗・削・剥」に対して，後者ではラベルが付与され なかったが，前者では「切れる」のラベルが付与さ れた.

一方で，不適切なラベルが適切なラベルと同等の 出現率を示してしまう事例も複数見られた. 例えば 「蔐・晶・泡・点・穀・等・粉・菓・粒」に対し て，「年」のラベルが出現率 $4 / 9$ で付与された. これ は，「携・連・関・係・絡・結・接・“雑”、密」に対 して付与されたラベル「つながり」の出現率と同じ值であるが，後者のラベルが前者のラベルと同程度 に象徴素クラスタの意味を表しているとは考えられ ない.この結果は, 各漢字の定義文が短かったため ラベル候補の単語が少数だったこと，「一年麦」や 「年の豆」など，「年」を含む用例が複数回あったこ とが原因である。この問題は，複数の辞典からの定義文の抽出や，ラベリングの適切さに対する出現率以外の尺度の導入により改善できると考えられる。

次に WordNet を用いたラベリング手法の特徴と して，辞書を用いた手法と比べて，より包括的なラ ベルの付与が確認された。例えば「短・脹・沙・

は「低い」や「高い」のラベルが同時に付与された のに対して，前者ではクラスタ内の漢字全体に共通 するラベル「size」が付与された. しかし包括的で あるがゆえに，具体性に欠けるラベルも複数見られ

が第 1 候補のラベルとして付与された. 本実験で は，各候補ラベルに対して，被覆率が 0.2 以上とい う条件を設けたため，被覆率が 0.18 であった適切な ラベル「beginning」が付与されなかった. このラべ ルは類似スコアでは「human action」に劣ったもの の，根ノードからの距離は「human action」よりも離 れており, より具体的である.この問題は, 被覆率 の制限を緩め，類似スコア，被覆率，根ノードから の距離それぞれの重み付き和を計算した尺度を導入 することで改善できると考えられる。

## 6 おわりに

本研究では，音読みに着目した日本語漢字におけ る象徵素クラスタの抽出と，その意味のラベリング を試みた。提案手法を常用漢字データに適用した結果, 133 の象徴素クラスタと, そのうちの 8 割以上 に対する意味ラベルが得られた。

各子音が複数の象徴素クラスタに属したため，結果的に英語の象徵素ほど一意に意味は定まらなかっ た.しかし, 「清・筝・聖・“神”、仙」といった清潔さや神聖さを表す漢字の音読みは子音 $\mathrm{s}$ で始まる など，直感に沿う子音と意味の相関を確認できた。

抽出した象徴素クラスタの客観的評価，ラベリン グの成功可否に影響を及ぼす要因の解明などが今後 の課題である。また将来の展望として, 漢字の訓読 み，和語や熟語への拡張などが挙げられる。

## 謝辞

本研究の一部は，JSPS 科研費 JP22H03612 の助成 を受けたものである.

## 参考文献

[1] John Firth. Speech. Oxford University Press, 1930.

[2] Leanne Hinton, Johanna Nichols, and John J. Ohala. Sound Symbolism. Cambridge University Press, 1995.

[3] Shoko Hamano. The Sound-Symbolic System of Japanese. CSLI Publications, 1998.

[4] Katya Otis and Eyal Sagi. Phonaesthemes: A corpus-based analysis. In Proceedings of the 30th Annual Meeting of the Cognitive Science Society, 2008.

[5] Ekaterina Abramova, Raquel Fernández, and Federico Sangati. Automatic labeling of phonesthemic senses. In Proceedings of the 35th Annual Meeting of the Cognitive Science Society, pp. 1696-1701, 2013.

[6] Christiane Fellbaum. WordNet: An Electronic Lexical Database. MIT Press, 1998.

[7] Francis Bond, Hitoshi Isahara, Kiyotaka Uchimoto, Takayuki Kuribayashi, and Kyoko Kanzaki. Extending the Japanese WordNet. 言語処理学会第 15 回年次大会発表論文集, pp. 80-83, 2009.

[8] 文化庁. 常用漢字表（平成 22 年内閣告示第 2 号）, 2010.

[9] 東北大学乾研究室. BERT base Japanese (IPA dictionary), (2022-12-18 閲覧). https://huggingface.co/ cl-tohoku/bert-base-japanese-char.

[10] 文化庁. ローマ字のつづり方 第 1 表（昭和 29 年内閣訓令第 1 号）, 1954.

[11]（株）小学館. デジタル大辞泉，（2022-12-18 閲覧）. https://www.weblio.jp/cat/dictionary/sgkdj.

[12] Taku Kudo. Mecab: Yet Another Part-of-speech and Morphological Analyzer,（2022-12-18 閲覧）2006. https: //taku910.github.io/mecab/.

[13] (国研) 情報通信研究機構. 日本語 WordNet, (2022-1218 閲覧）. https://thesaurus.weblio.jp/category/ nwnts.

[14] GRAS グループ（株）. Weblio 類語辞書，（2022-1218 閲覧）. https://thesaurus.weblio.jp/category/ wrugj.
表 5 抽出した象徵素クラスタとそのラベリング結果の例

 & $\mathrm{d}$ & $4 / 16$ & 5.789 & 場所 & $15 / 16$ & place & $4 / 16$ & 2.80 \\


# 並列構造を含む日本語文の構文解析と単文分解

北川創一 ${ }^{1}$ 池本 浩次 ${ }^{1}$ 田辺 利文 ${ }^{2}$ 吉村 賢治 ${ }^{2}$
1 福岡大学大学院 工学研究科2福岡大学 工学部
$\{$ td212004, td212001\}@cis. fukuoka-u. ac. jp
\{tanabe, yoshimura\}@fukuoka-u. ac.jp

## 概要

本研究では, 並列構造を含む日本語文の構文解析に おける並列構造の推定と単文分解の手法を提案す る. 構文解析は, 日本語句構造文法(JPSG)に基づく 単一化文法を用いてチャート法で行う．並列構造の うち名詞並列と述語並列については CFG の枠組み で処理し, CFG の枠組みで記述できない部分並列に 対して特別な処理を行う. 従来の手法[1]では入力文 が並列構造を含む場合，単文に分解して構文解析を 行っていたが, 本稿では単文に分解せずに並列構造 の情報を保持したまま解析し，解析結果から単文に 分解する手法について提案する.

## 1 はじめに

並列構造は、二つの文を共通部分でまとめて一つ の文にしたときに生じる同等の機能を持つ単語列の 対である. 並列構造を用いることで，複数の文を一 つの文として表現し, 文の冗長性を無くした簡潔な 記述を可能としている.

日本語の構文解析において, 並列構造の処理に関 する先行研究の手法[2][3]では, 文節間の類似度を求 め, 最も類似した二つの文節を並列構造として推定 する.この手法は, 様々な並列構造を含む文に対して 高い精度が得られているが，「太郎がタンクに水、 フィルタに豆を入れる」のように並列構造が不完全 な文節を含む場合に対して誤った推定をしてしまう。本稿では文節ではなく非終端記号列の比較をするこ とで並列構造を推定する手法を提案する。

2 章で述べるように基本的な並列構造は, 名詞並列, 述語並列と部分並列に分類される. このうち名詞並列と述語並列については JPSG の枠組みで記述可能であるため, 本研究では部分並列に対してのみ 特別な並列構造処理を行う. 従来の手法[1]では入力文が述語並列や部分並列を含む場合には構文解析 が失敗した後で並列構造の推定を行い, 入力文を単文に分解してから構文解析をやり直していたため一度作成した構文情報が無駄になっていたが，本稿で は単文に分解せずに並列構造の情報を保持したまま 解析を継続し, 解析結果を単文に分解する手法につ いて提案する。

## 2 並列構造

並列構造は，次のような三つの特性を持つ.
- 並列構造は同じ形式の部分木の列である並列要素で構成される。

・ 並列要素を接続する働きを持つ文字列であ る並列キーが存在する。
- 文から並列キーと片方の並列要素を取り除 いても意味が通る。

また，並列構造には，次のような種類がある。

例文では\{と\}で囲まれた文字列が並列要素である.

a) 名詞並列：並列要素が名詞句であるもの ex.『太郎が紅茶に $\{$ 砂糖 $\}$ と \{ミルク\} を入 re ru』

b）述語並列：並列要素が動詞句であるもの ex. 『太郎が $\{お$ 菓子を食 be $\}$ 、\{コーヒーを 飲 $\mathrm{m}\} \mathrm{ru} 』$

ex. 『\{太郎がお菓子を食 be $\}$ 、\{次郎がコーヒ 一を飲 $\mathrm{m}\} \mathrm{ru}$ 』

c) 部分並列 : 並列要素が部分木の列であるもの

を入 re ru』

さらに，上記の並列を組み合わせた並列構造とし

て，次のような種類がある。

d) 入れ子並列 :

並列要素の中に並列構造を含むもの

ex.『太郎が\{ (コーヒーに砂糖)，(紅茶にミル

ク)を入 re\}，\{お菓子を食 be \} ru』

e) 多重並列: 三つ以上の並列要素を含むもの ex.『太郎が $\{$ コーヒーに砂糖 $\}$ ，\{紅茶にミル ク\}, \{水に氷 $\}$ を入 re ru』
本稿ではa) c)を対象とし, 特別な並列構造処理を 行うのはc)のみである.

## 3 単一化文法

単一化文法は, CFG の非終端記号を素性構造で表現し, 素性構造間の単一化によって言語の文法的制約を表す文法である. 代表的な日本語の単一化文法 である日本語句構造文法(Japanese Phrase Structure Grammar, JPSG)[4][6][6]に基づいて, その原理と素性構造を拡張する. JPSG に示す一つの書き換え規則と 素性構造の単一化に関する原理で構成する。

$
\mathrm{M} \rightarrow \mathrm{CH}
$

ここで，M,C,H はそれぞれ素性構造で $\mathrm{M}$ を親, $\mathrm{C}$ ，

$\mathrm{H}$ を子と呼ぶ. 特に, $\mathrm{H}$ は日本語における右側主要部の規則から主辞(head)と呼び，左側の子 C と区別 する. C と H は, 補語構造, 付加構造, 等位構造 ${ }^{1}$ の 関係にあるときに結合し, 原理に従ってそれぞれの 素性構造から M の素性構造が計算される.

## 3.1 素性

素性には, 表 1 に示すものがある。pos や pform, gr は複数個の中の一つを値とする多値素性であり， また, 三つ共に主辞素性である為, head 素性の値で ある素性構造を構成する要素となる.

## 表 1 素性名と値

JPSG の代表的な原理に主辞素性の原理(head 素性)と下位範疇化素性の原理(subcat 素性, adjacent 素性)があり, 基本的な日本語文の記述に必要な原理 として, 意味素性の原理(sem 素性), 付加素性の原理 (adjunct 素性)がある。

## 4 構文解析

## 4. 1 チャート法

チャート法は, 文脈自由文法による構文解析手法 の一つである。チャートは, 項(term)と呼ばれるデー 夕構造 $\langle\mathrm{i}, \mathrm{j}, \mathrm{C} \rightarrow \alpha \cdot \beta\rangle$ の集合である.この手法 による構文解析は，二つの項を結合し，その二つの 項よりも長い単語列が導出可能であること意味する 項を新たにチャートに追加して, 最終的に単語列全体が導出可能であることを意味する項がチャート内 にできれば，構文解析が成功したと判断する。

本研究では, ボトムアップで幅優先に木を成長さ せるアルゴリズムを利用し, 完全な部分解析木に対応する項を表す弧(不活性弧)のみを用いてチャート を作成し解析を行う.(図 1)

$\mathrm{S} \rightarrow \mathrm{PP} \mathrm{VP}$.

## 図 1 チャートのグラフ表現（一部）

本研究における先行研究[7]では, 構文解析で CYK アルゴリズムを用いて行っていたが，チャート法に 比べて, 拡張性に乏しい. 空所(gap)に対する特別な 語彙項目 $\varepsilon$ の仮定を行う必要があった場合, CYKア ルゴリズムで生成された表を再生成しなければなら ない。しかし，チャート法は，項を用いることで操作寸る為，特別な処理に対して容易に拡張できる.

本研究では, この項の基本的なデータ構造を(2),特別な並列構造処理を行う為の項を(3)とした.

$
\langle\mathrm{i}, \mathrm{j}, \mathrm{fs}, \text { pos, [subcat, adjacent], [adjunct] }\rangle
$

$\langle\mathrm{i}, \mathrm{k}, \mathrm{fs}$, [subcat, adjacent], [adunct],

$
\text { l, j, [rcsi, rcsj], [lcsi, lcsj] }\rangle
$

ここで, i, j, k, l は単語の境界位置の番号であり, i は始点, j は終点, fs は素性構造, pos は品詞である. [subcat, adjacent]はその項が要求する品詞のリスト, [adjunct]はその項が修飾する品詞のリストである.末尾の要素 [rcsi, rcsj], [lcsi, lcsj]は, それぞれ後方と 前方の並列要素の始点と終点の対である.

## 4. 2 構文解析の流れ

本稿で述べるシステムでは形態素に分割された 入力文に対し構文解析を行う．ただし形態素は学校文法ではなく音韻論的文法に基づいたものである [6]. 4.1 のアルゴリズムは並列構造を含まない単文 の構文解析を行うアルゴリズムである.このアルゴ リズムで解析に失敗した場合，文中に並列構造があ るものとみなして並列構造の解析を行う. 構文解析 の流れは以下のようになる。

1. 入力文をチャート法で解析する

2. 成功すれば解析終了

3. 解析に失敗した場合， $\varepsilon$ が挿入されていなけれ ば $\varepsilon$ を挿入して 1 へ $\varepsilon$ が挿入済みである場合 は 4 へ

4. 既に並列構造の処理を行っていれば解析失敗, そうでなければ並列構造の推定を行い 1 へ

## 4.3 並列構造の推定と解析

並列キーは「、」などの単語や記号であることが 分かっており個数も限定されるため, 並列キーは網羅的に登録できる. 並列構造を構成する個々の並列要素は, 並列キーの前方と後方にそれぞれ一つずつ 存在することが分かっている.

並列構造を構成する個々の並列要素は, 共に同じ 構造を持つ部分木列で構成されると考えられるため,並列キーを中心とした前後の任意の範囲で，部分木列を調べ，同じ構造を持つ部分木列の組を検出し，並列構造の候補とする. エラー! 参照元が見つかり ません。の場合, 前方後方共に後置詞句, 名詞が存在し，共に同じ部分木列で構成されているため，「夕 ンクに水」「フィルタに豆」の組み合わせは並列構造であると推定する。

図 2 並列構造の推定の例

先行研究[1]では, 並列構造の推定後, 単文に分解 しチャートを新しく作り直すことで並列構造の構文解析を行っていた. しかし本研究では, 推定した並列構造を特別な項(並列項)で表現し, 並列構造の解析を行う前までに作成していたチャートを利用する、並列項は並列構造を構成する並列要素中の対応する 部分木ごとに作成する. 図 2 の場合，「タンクに水」「フィルタに豆」が並列構造であると推定できるた め並列項は, 先頭の後置詞句である「タンクに」と 「フィルタに」を結合したものと末尾の名詞である 「水」「豆」を結合した 2 個を作成し, 二つの並列要素の解析を並行して進める(図 3).

構文解析を再開し，並列項と基本の項が単一化さ れる(図 4). 既に作成したチャートと重複した基本 の項が存在するため並列項の末尾にある要素([rcsi, rcsj], [lcsi, lcsj])を用いて推定された並列構造の外側から単一化する条件が必要である.しかし，並列項同士を単一化する場合, 条件は必要ない.

図 3 並列項を作成した後の解析(一部)

図 4 並列項を作成した後の単一化(一部)

## 5 述語並列の単文分解

部分並列を含む文に対する単文分解の処理につい ては, 図 4 の 6 で処理が完了しているため, ここで は述語並列を含む文の単文分解について述べる。

入力文が述語並列を含む場合, 単文分解はチャー ト法による構文解析が成功した後に, 出来上がった チャートにある項の情報を用いて行う．チャートは (2), (3)式のような項を要素に持つ. 述語並列を含む 文における並列要素の推定及び単文分解の流れは以下のようになる(図 5).

1. チャートから, 述語並列における並列キーに該当する項を取り出す.

2. 1 の項の前後から動詞句の項を取り出す.

3. 取り出した項から, 並列要素に該当する動詞句 を取り出す(図 6).

4. 入力文から取り出された並列要素と述語並列 の並列キーの項を除いた共通要素の項を取り 出寸.

5. 共通要素及び並列要素の項から, 単文を生成す る(図 5 下).

図 5 述語並列の推定及び単文分解

図 6 並列要素となりうる動詞句の例

図 7 上のような例文の場合, 並列要素 A が「太郎 がお菓子を食 be」, 並列要素 B が「コーヒーを飲 $\mathrm{m}\rfloor$ となるような二つの並列要素が推定される, 並列要素 A に主語がついている理由は，「太郎が」の部分木が並列要素 A の部分木に含まれており, 共通要素 として識別されないからである。その為, 並列要素 B を構成する単文は，「誰かが」は「太郎が」を包含すると推定され、「(誰かが) コーヒーを飲 $\mathrm{mru}$ 。」 となる。

図 7 曖昧性が生じる場合の単文分解

## 6 おわりに

本稿では，並列構造を含む日本語文の構文解析に おける並列構造の解析と単文分解の手法を提案した.今後の課題として, 現時点ではシステムの検証に必要な語彙項目しか単語辞書に登録していないため,網羅的な解析実験を行うために単語辞書の拡充が必要である.

## 謝辞

本研究は JSPS 科研費 JP17K00116 の助成を受けた ものである.

## 参考文献

1. “日本語単一化文法における並列構造の解析”.内野 皓介. 田辺利文. 乙武 北斗. 吉村 賢治.火の国情報シンポジウム 2022. 2022.

2. “長い日本語文における並列構造の推定”. 黒橋禎夫. 長尾 真. 情報処理学会論文誌. 第 33 巻. 第 8 号. 1022-1031. 1994.

3.“並列構造の検出に基づく長い日本語文の解析”. 黒橋 禎夫. 長尾 真. 自然言語処理. 第 1 巻. 第 1 号. 35-37, 1994.

4. 自然言語, 郡司 隆男, 日本評論社, 1994.

5. “HPSG のもとづく日本語文法について一実装 に向けての精緻化・拡張”. 大谷 朗. 宮田 高志, 松本 裕治. 自然言語処理. 第 7 巻. 第 5 号. 19-49. 2000

6. “日本語単一化文法による形態素解析と構文解析の融合”. 吉村 賢治. 福岡大学工学集報.

15-21. 2017.

7. “単一化文法を用いた日本語文の構文解析にお ける並列構造の処理”. 中村 健. 乙武 北斗. 田辺 利文. 吉村 賢治. 情報処理学会第 81 回全国大会. 2019.


# 単語埋め込みのバイアス評価における RNSB と WinoBias との 相関関係の分析

加藤大晴 宮尾祐介
東京大学大学院情報理工学系研究科コンピュータ科学専攻
\{kato_taisei, yusuke\}@is.s.u-tokyo.ac.jp

## 概要

本研究では単語埋め込みの直接バイアス評価手法であるRNSB と、間接バイアス評価の WinoBias との相関関係を調査する。単語埋め込みは膨大なテ キストコーパスから単語の意味を実数ベクトルの 形で学習することができるが、同時にバイアスも学習してしまう。バイアスの評価手法としては直接評価と間接評価があるが、両者の関係を調査した研究は少ない。そこで本研究では既存研究に倣って 様々な度合いのバイアスを持つ単語埋め込みを作成し、RNSB、WinoBias 両方でそのバイアスを測定 し、両者の相関係数を計算した。結果として RNSB は WinoBias と負の相関を持つことが分かった。

## 1 はじめに

自然言語処理技術が進歩していく中で、これらの 技術が我々の日常生活に与える影響も拡大してい る。一方でこれらの技術が男女差別や人種差別と いった偏見、バイアスを助長しているという問題点にも注目が集まっている $[1,2]$ 。本研究ではこう いったバイアスに対処する一歩として単語埋め込み のバイアス評価手法に焦点を当てる。

単語埋め込みは膨大なテキストコーパスを用いて 単語の分布的意味を事前に学習することで、様々な 後段の自然言語処理タスクにおいて性能の向上を図 ることができる技術である。有用性が高い反面、テ キストコーパスに含まれているバイアスを学習し、 それが後段の多くの自然言語処理タスクに影響を与 える危険性を孕んでいる。それゆえ単語埋め込みの バイアスを正確に測定し、自然言語処理技術がバイ アスなく動作することを担保することは重要な課題 となる。

単語埋め込みのバイアス評価には大きく分けて直接評価 (Intrinsic bias metric) と間接評価 (Extrinsic bias metric) の二種類がある。直接評価では単語埋め込み 表現そのものに着目し、ある単語とある単語の距離 が適当かどうかなどを以ってしてバイアスを評価す る。それに対し、間接評価では評価対象の単語埋め 込みを用いてある自然言語処理システムを学習さ せ、そのシステムがバイアスのかかった挙動を示す かどうかを以ってして元の単語埋め込みのバイアス の有無を判断する。間接評価では単語埋め込みが実際に自然言語処理システム内で用いられたときの 振る舞いを見るという、より現実に即したシナリオ でバイアスの分析を行なっており、バイアスが社会 に与える影響が分かりやすいという利点がある。一方、直接評価では調べたいバイアスを単語集合を指定することで決められるので、比較的自由に様々な 種類のバイアスを調べることができる。直接評価と 間接評価、それぞれに長所があるため両方の視点を 以ってバイアスの問題に取り組む必要がある。

しかし、両者の関係性はよく分かっているとは言 い難い。Goldfarb-Tarrant et al. (2021) [3] は広く使わ れる直接バイアス評価手法の WEAT [2] と間接バイ アス評価が多くのケースで相関しないことを発見し た。ただ、その他の直接バイアス評価も同じ問題を 持つのかはまだ分かっていない。そこで本研究では 別の直接バイアス評価手法である RNSB [4] と間接 バイアス評価との相関関係を調査する。RNSB は直接バイアス評価の枠組みの中にありながら、間接バ イアス評価と同様に機械学習モデルを学習させてバ イアスを計測するプロービング手法を取っている。 このことから間接バイアス評価との相関が高いこと が予想される。

実験方法としては Goldfarb-Tarrant et al. (2021) に倣 い、様々な度合いのバイアスを持つ単語埋め込みを 作成し、WEAT、RNSB、間接バイアス評価でバイア スを測定する。その結果 RNSB は間接バイアス評価 と負の相関を持つことが示された。一方で相関の強

さは WEAT よりは高く、改良次第で信頼に値する直接バイアス評価になりうることも示唆された。

## 2 関連研究

## 2.1 バイアス評価指標

ここでは本研究で使用した直接バイアス評価・間接バイアス評価指標について概説する。

## 2.1.1 WEAT

WEAT は Caliskan et al. (2017) [2] によって設計さ れた、広く使われる単語埋め込みの直接バイアス評価指標である。WEAT はバイアスの対象となる概念 2つを表す、等しい大きさの単語集合 (ターゲット語集合) $X, Y(|X|=|Y|)$ と、何を基準にそのバイアスを 調べるのかを定める 2 つ単語集合 (アトリビュー 卜語集合) $A, B$ を必要とする。例えば、理系科目・文系科目におけるバイアスをジェンダーの目線か ら調べたいのであれば、理系科目にまつわる単語集合 $X=\{$ science, math, $\ldots\}$ 、文系科目にまつわる単語集合 $Y=\{$ art, history, ... $\}$ をターゲット語集合に、男性にまつわる単語集合 $A=\{$ man, he, brother, ... $\}$ と女性にまつわる単語集合 $B=\{$ woman, she, sister, ... $\}$ を アトリビュート語集合として指定する。このように $X, Y, A, B$ が与えられたとき、WEAT におけるバイア スの評価値は $c(X, A)+c(Y, B)-c(X, B)-c(Y, A)$ と 定義される。ここで $c(T, A)=\sum_{t \in T} \frac{1}{|A|} \sum_{a \in A} \cos (t, a)$ であり、 $\cos$ はコサイン類似度を表している。 $c(T, A)$ はターゲット語集合 $T$ とアトリビュート語集合 $A$ との類似度を表している。前に挙げた例では、もし 理系科目にまつわる単語と男性にまつわる単語の 類似度、文系科目にまつわる単語と女性にまつわる 単語の類似度が、他の組み合わせの類似度よりも高 ければ、WEAT の値も大きくなり、単語埋め込みが バイアスを孕んでいると言える。逆に文系にまつわ る単語と男性にまつわる単語が、理系にまつわる単語と女性にまつわる単語の類似度の方が高ければ、 WEAT は負の値を取る。これもバイアスを孕んでい ると言える。よって WEAT の値が 0 に近ければ近 い程バイアスが少ない単語埋め込みと言える。

## 2.1.2 RNSB

RNSB [4] はプロービングの手法を用いる直接バ イアス評価指標である。RNSB では 2 つのターゲッ 卜語集合 $X, Y$ と任意個のアトリビュート語集合 $A_{1}, \ldots, A_{n}$ を取る。本来の RNSB ではアトリビュー 卜語集合の大きさはどれも 1 だが、後に Badilla et al. (2020) [5] によって任意の大きさのアトリビュー 卜語集合を取れるように拡張された。この拡張版に ついて記す。

まずロジスティック回帰モデル $M$ を、 $X$ を負例 に、 $Y$ を正例として学習させる。学習後、 $M$ に単語 $w \in A:=A_{1} \cup \ldots \cup A_{n}$ を与え、それが正例である確率 $p_{w}$ を計算させる。本来であればアトリビュート 語集合とターゲット語集合の間には関係はないはず なので、 $p_{w}$ はどれも近い值となるはずである。こ の $p_{w}$ の分布と一様分布との差が RNSB でのバイア ス評価値となる。具体的には $\sum_{w \in A} p_{w}=1$ となるよ うに $p_{w}$ を正規化して $p_{w}$ が $A$ における確率分布と 見做せるようにし、それと一様分布 $U$ との KL ダイ バージェンス $D_{\mathrm{KL}}(p, U)$ をバイアスの評価值と定義 する。

## 2.1.3 WinoBias

WinoBias [6] は共参照解析システムのバイアス評価のためのデータセットであり、本研究では間接 バイアス評価を行うために用いられた。WinoBias は Type 1 と Type 2 とに分離されており、各 Type が さらにステレオタイプセット、反ステレオタイプ セットに分離されている。例えば、Type 1 のステレ オタイプセットには “The physician hired the secretary because he was overwhelmed with clients.” のような文 が含まれており、ここでは “The physician”と “he”が 共参照関係にある。これは「医者は男性である」と いうステレオタイプを反映している。一方反ステレ オタイプセットには “he”を“she”で置き換えた文が 含まれており、“she”と “The physician” が共参照関係にある。男女のバイアスを持たない共参照解析シ ステムであれば、ステレオタイプセット・反ステ レオタイプセットでの性能の差は生じないはずな ので、その差がバイアスの評価值となる。Type 2 に は "The secretary called the physician and told him about a new patient.” のように文構造も共参照解析の手がか りとなる文が含まれている。

## 2.2 WEAT と間接バイアス評価の関係

直接バイアス評価と間接バイアス評価の関係性 を調べた研究としては Goldfarb-Tarrant et al. (2021) [3] が挙げられ、本研究でもその手法を踏襲する。 Goldfarb-Tarrant et al. (2021) は様々な度合いのバイア

スを持つ単語埋め込みを作成し、WEAT と間接バイ アスの值を計測し、その散布図から両者の関係性を 調査した。

バイアスの度合いを調節するためにはデータセッ トバランシング [7] と ATTRACT-REPEL アルゴリズ ム[8] が用いられた。データセットバランシングは 機械学習モデルの学習に使うデータセットに含ま れているアンバランスさを解消することで、よりバ イアスの少ないモデルを入手する方法である。ここ ではステレオタイプな文を sub-sampling することで バイアス削減が、反ステレオタイプな文を削除する ことでバイアスの強化が行われた。ある文がステレ オタイプ、反ステレオタイプかどうかは WEAT で も用いられたターゲット語集合 $X, Y$ 、アトリビュー 卜語集合 $A, B$ を用いて判断する。ある文が $X, A$ 両方の単語、もしくは $Y, B$ 両方の単語を含んでいれ ばステレオタイプであり、逆に $X, B$ の単語、 $Y, A$ の単語を含んでいれば逆ステレオタイプである。 ATTRACT-REPEL アルゴリズムは元々は単語埋め込 みを強化するために考案されたアルゴリズムであ る。類義語集合と反義語集合を受け取り、元々の単語埋め込みの形を保ちつつ、類義語同士の埋め込み を近づけ、反義語同士の埋め込みを遠ざける。バイ アス削減にはステレオタイプな単語の組み合わせ を反義語集合に、反ステレオタイプな単語の組み合 わせを類義語集合としてアルゴリズムが実行され た (バイアス強化の際はその逆を行う)。ここでも同様にターゲット語集合 $X, Y$ 、アトリビュート語集合 $A, B$ が必要となる。ステレオタイプな単語の組み合 わせの集合は $X \times A \cup Y \times B$ であり、反ステレオタ イプな単語の組み合わせの集合は $X \times B \cup Y \times A$ と なる。

実験の結果、WAET は多くの場合で間接バイアス 評価と相関しないことが示された。

## 3 実験手法

基本的には Goldfarb-Tarrant et al. (2021) [3] の手法 を踏襲して実験を行う。様々な度合いのバイアス を持つ単語埋め込みをバイアス調整手法を用いて 生成し、WEAT、RNSB でバイアスを評価する。そ の単語埋め込みを元に共参照解析モデルを学習さ せ、WinoBias でバイアスを評価し間接バイアス評価とする。そして直接・間接バイアス評価の相関係数を計算する。単語埋め込みの学習用コーパス には Wikipedia [9]を使用する。Wikipedia データは表 1 WEAT 6, 7, 8 [2] の詳細

NLTK [10] によってトークン分割し、頻度が 10 未満

最終的に 3,121,412,445 個のトークンのコーパスが 得られた。そこから Word2Vec [11]を用いて次元数 300 の単語埋め込みを生成する。共参照解析の学習用コーパスには OntoNotes [12]を用いる。直接バイ アス評価のためのターゲット、アトリビュート語集合には WEAT の元論文 [2] で使われたジェンダーに まつわるバイアスを測定するための単語のセットで ある WEAT 6,7,8 (表 1)を使用する。元々の WEAT 6 の男女を表す単語には人名が用いられているが、 WinoBias のデータセットには人名は現れないため、 WEAT 7 で使用されているのと同じ一般名詞や代名詞で置き換えたものを使用する。バイアス調整のた めに使用するターゲット、アトリビュート語集合と しては WEAT 6, 7, 8 に加えて、それらの単語の和集合をとり Lauscher et al. (2020) [13] の方法を用いて拡張したものを用いる。具体的には spaCy [14] の事前学習済み単語埋め込みを用いて、WEAT の各単語に ついて spaCy 上で最も近い 100 個の単語を追加す る。ただし、その単語が元々の WEAT に含まれて いた場合は無視する。これら 4 個のターゲット、ア トリビュート語集合のペアを用い、バイアス調整手法は 2 通り、各手法でバイアス削減・強化を行うの で、生成される単語埋め込みの数は、バイアス調整 を受けない単語埋め込みを合わせて 17 個となる。

学習した単語埋め込みに ATTRACT-REPELアル ゴリズム [8] 適用してバイアス削減・強化を行う。 また Wikipedia にデータセットバランシング [7]を 適用し、バイアス削減・強化されたテキストコーパ スを作成し、単語埋め込みを学習する。こうして得 られた複数の単語埋め込みについて WEAT、RNSB の計測を行う。

また、これらの単語埋め込みを用いて Lee et al. (2017) [15] の共参照解析モデルを学習させ、 WinoBias でバイアスを計測する。間接バイアス評価には WinoBias のステレオタイプセットの適合率、再現率から反ステレオタイプセットの適合率、再現率を引いたものを用いる。適合率、再現率の算出に は MUC [16], B-CUBED [17], CEAF [18] での尺度の
表 2 WEAT、RNSB と WinoBias との相関係数。行は直接 バイアス評価を、列は間接バイアス評価を表す。第一列 はどのターゲット、アトリビュート語集合のペアを用い たのかを表す。

表 3 WEAT と RNSB の相関係数

平均を取ったものを用いる。

RNSB の計測には WEFE [5] というバイアス評価フレームワークを使用する。共参照解析モデ ルの実装には AllenNLP [19] が用いられる。実験は Wisteria/BDEC-01 スーパーコンピュータシステム上 で行う。

## 4 結果と考察

実験の結果を表 2 に示す。WEAT と WinoBias との 相関係数はどれも正なのに対し、RNSB と WinoBias との相関係数は負の値を取った。一方で相関の強さ (絶対値) に着目してみると、WEAT 7-Type 1 の場合 を除いて RNSB の方が大きく、WEAT 7-Type 1 の場合でも同程度の相関の強さがある。

また、直接バイアス評価同士の相関関係を表 3 に示す。直接バイアス評価同士の相関係数は、 WinoBias との相関係数と比較しても分かるように 非常に小さな値となった。

表 2 では WEAT とRNSB で全く異なる相関関係 が得られたが、原因として両者が取りうる値の範囲 が考えられる。今ターゲット語集合として $X, Y$ が、 アトリビュート語集合として $A, B$ が与えられてい るとして、単語埋め込みに $X$ を $A$ と関連づけ、 $Y$ を $B$ と関連づけるようなバイアスがあれば、WEAT で もRNSB でもバイアス評価値は正となる。ここでバ イアス削減の結果、この関係が反転し $X$ が $B$ に、 $Y$ が $A$ に結びつけられるようになると WEATでは負 の値を取るのに対し、RNSB では KL ダイバージェ ンスを用いるため依然として正の值を取ることにな
る。つまり WEAT ではステレオタイプなバイアス は正の值として、反ステレオタイプなバイアスは負 の値として計測されるが、RNSBでは両者を区別す ることができない。WinoBias の方ではバイアスの 度合いをステレオタイプセットの性能から反ステ レオタイプセットの性能を引いて求めているため、 WEAT と同様に二種類のバイアスを見分けること ができる。そのため RNSB とは上手く相関しなかっ たのではないかと考えられる。実際に単語埋め込み のバイアス評価值を観察すると WinoBias で負の値 が確認されたのは 1 回だけだったが、WEAT にお いては負の値を取っているものが一定数見られた。 RNSB でも WEAT のようにステレオタイプなバイア スと反ステレオタイプなバイアスを区別できるよう になれば正の相関を持つ可能性がある。

表 3 では直接バイアス評価同士で相関がないこと が示されたが、これは Badilla et al. (2020) [5] での結果に反する。Badilla et al. (2020) ではジェンダーバイ アスの評価については WEAT や RNSB などのバイ アス評価手法で相関があることを発見した。この齯踣は相関関係の計測の仕方によるものと推測され る。本研究では相関関係の計測には単純に相関係数 を使用したのに対し、Badilla et al. (2020) では各バイ アス評価手法で単語埋め込みを順位づけし、その順位間の相関を調査した。WEAT は単語埋め込みのコ サイン類似度について線形に変化するが、RNSB で はロジスティック回帰モデルや KL ダイバージェン スが関係するためより複雑に変化する。この両者を 線形な関係を前提とする相関係数で計測しようとし たために䶡軥が生じた可能性がある。

## 5 おわりに

本研究では Goldfarb-Tarrant et al. (2021) [3] に倣っ てRNSB と WinoBias との相関関係を調査した。結果としては負の相関が観測され、RNSB が信頼に值 する直接バイアス評価手法となるような証拠は得 られなかった。一方で、相関の強さのみをみると WEAT よりも大きな相関を示しており、改良によっ ては WEAT を上回る直接バイアス評価ともなり得 る可能性も示唆された。

## 参考文献

[1] Latanya Sweeney. Discrimination in online ad delivery. Communications of the ACM, Vol. 56, No. 5, pp. 4454, 2013.

[2] Aylin Caliskan, Joanna J. Bryson, and Arvind Narayanan. Semantics derived automatically from language corpora contain human-like biases. Science, Vol. 356, No. 6334, pp. 183-186, 2017. Publisher: American Association for the Advancement of Science.

[3] Seraphina Goldfarb-Tarrant, Rebecca Marchant, Ricardo Muñoz Sánchez, Mugdha Pandya, and Adam Lopez. Intrinsic bias metrics do not correlate with application bias. In Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (Volume 1: Long Papers), pp. 1926-1940. Association for Computational Linguistics, 2021.

[4] Chris Sweeney and Maryam Najafian. A transparent framework for evaluating unintended demographic bias in word embeddings. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pp. 1662-1667. Association for Computational Linguistics, 2019.

[5] Pablo Badilla, Felipe Bravo-Marquez, and Jorge Pérez. WEFE: The word embeddings fairness evaluation framework. In Proceedings of the Twenty-Ninth International Joint Conference on Artificial Intelligence, pp. 430-436. International Joint Conferences on Artificial Intelligence Organization, 2020.

[6] Jieyu Zhao, Tianlu Wang, Mark Yatskar, Vicente Ordonez, and Kai-Wei Chang. Gender bias in coreference resolution: Evaluation and debiasing methods. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 2 (Short Papers), pp. 15-20. Association for Computational Linguistics, 2018

[7] Lucas Dixon, John Li, Jeffrey Sorensen, Nithum Thain, and Lucy Vasserman. Measuring and mitigating unintended bias in text classification. In Proceedings of the 2018 AAAI/ACM Conference on Al, Ethics, and Society, AIES '18, pp. 67-73. Association for Computing Machinery, 2018.

[8] Nikola Mrkšić, Ivan Vulić, Diarmuid Ó Séaghdha, Ira Leviant, Roi Reichart, Milica Gašić, Anna Korhonen, and Steve Young. Semantic specialization of distributional word vector spaces using monolingual and cross-lingual constraints. Transactions of the Association for Computational Linguistics, Vol. 5, pp. 309-324, 2017.

[9] Wikipedia. https://www.wikipedia.org/.

[10] Steven Bird, Edward Loper, and Ewan Klein. Natural Language Processing with Python. O' Reilly Media Inc., 2009.

[11] Tomas Mikolov, Kai Chen, Greg Corrado, and Jeffrey Dean. Efficient estimation of word representations in vector space, 2013.

[12] Ralph M. Weischedel, Eduard H. Hovy, Mitchell P. Mar- cus, and Martha Palmer. Ontonotes : A large training corpus for enhanced processing. 2017.

[13] Anne Lauscher, Goran Glavaš, Simone Paolo Ponzetto, and Ivan Vulić. A general framework for implicit and explicit debiasing of distributional word vector spaces. Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 34, No. 5, pp. 8131-8138, 2020. Number: 05 .

[14] spaCy $\cdot$ industrial-strength natural language processing in python. https://spacy.io/.

[15] Kenton Lee, Luheng He, Mike Lewis, and Luke Zettlemoyer. End-to-end neural coreference resolution. In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, pp. 188-197. Association for Computational Linguistics, 2017.

[16] Marc Vilain, John Burger, John Aberdeen, Dennis Connolly, and Lynette Hirschman. A model-theoretic coreference scoring scheme. In Sixth Message Understanding Conference (MUC-6): Proceedings of a Conference Held in Columbia, Maryland, November 6-8, 1995, 1995.

[17] Amit Bagga and Breck Baldwin. Entity-based crossdocument coreferencing using the vector space model. In Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics, Vol. 1, pp. 79-85. Association for Computational Linguistics, 1998.

[18] Xiaoqiang Luo. On coreference resolution performance metrics. In Proceedings of the conference on Human Language Technology and Empirical Methods in Natural Language Processing - HLT '05, pp. 25-32. Association for Computational Linguistics, 2005.

[19] Matt Gardner, Joel Grus, Mark Neumann, Oyvind Tafjord, Pradeep Dasigi, Nelson H. S. Liu, Matthew E. Peters, Michael Schmitz, and Luke Zettlemoyer. A deep semantic natural language processing platform. 2017.


# 人間の多次元的な心的表象に基づく 幼児語彙獲得モデルの構築

藤田守太 ${ }^{1}$ 南泰浩 1
1 電気通信大学情報理工学研究科
f2131139@edu.cc.uec.ac.jp minami.yasuhiro@is.uec.ac.jp

## 概要

人間がどのように語彙を獲得しているのかという 課題に対して深層強化学習を用いて幼児の語彙獲得機構をモデル化する研究分野がある.これらの研究 で扱われる物体の特徵量は画像データから恣意的に 決められた次元数が多く種類の少ない特徴量であ る.しかし, 人間の心的表象に関する研究では人間が 多くの特徴量を組み合わせて物体を認識しているこ とがわかっている. 本研究では人間の心的表象に注目し, 49 個の特徴量から語彙獲得を行う機構を構築 し, 実験により,その選択傾向から幼児が自律的に特徵量の選択に制約を課す機構を獲得することを確認 した.

## 1 はじめに

幼児の語彙獲得では, 親が幼児に向けて対象の物体または行動（これを以降, 実態と呼ぶ）を示し, 実態に対する語を示すことで語彙獲得が進むと考えら れる.しかし，幼児から見ると親が指し示している実態は多数存在し, 具体的に対象が何を示すのか判定 することは難しい. また, 同じ名称を持つ物体は複数存在し, 似ているものでも違う名称を持つ物体があ る. それらの物体の境界線を決めることは難しい. このため, 幼児の語彙獲得は非常に困難な課題であ る [1].

この困難な課題に対して幼児が語彙を獲得する 際に, 幼児が語の実態の可能性に制限を課す機構 の存在を仮定する仮説がある。その中でも主要な 理論として Markman らによる制約アプローチ [2] と Tomasello らによる社会-語用論理論 [3] がある. Markman らによる制約アプローチは, 幼児には生得的に制約を行う機構が備わっているため, 語彙獲得をスムーズに行えるというものである。一方， Tomasello らによる社会-語用論理論は, 幼児が持つ認知的スキルである「共同注視」，「意図の理解」など の母子間の相互行為によって語の実態の可能性に制限を与える. 制約アプローチでは，「相互排他性制約」と「事物全体制約」の 2 つの制約が主張されて いる. しかし, 相互排他性については, 語彙獲得の早 い段階で，一つの実態に対して 2 つ以上の語が対応 することを幼児が受け入れることが確認されている $[4,5,6]$. また, 事物全体制約についても, 親の意図を 理解している幼児が未知の実態に対して,物体では なく行為として認識する例が報告されている [7]. こ のことから,必ずしも, 事物全体制約が生得的に存在 していない可能性も示唆されている.このように生得的に制約を獲得しているという制約アプローチで は数々の事象を説明できない。一方, 語彙獲得を通し て制約を獲得するという Tomasello らの社会-語用論理論 [3] では, 以上の事象について説明可能であり,幼览の語彙獲得機構のモデル化に適している。

現在, 語彙獲得のモデル化に関する先行研究とし て語彙獲得機構を機械学習を用いてモデル化する研究がある $[8,9]$. これらの研究では語彙獲得機構のモ デル化を通して, その解明に寄与している.しかし， これらの研究では母子間の相互行為や心理学的要因 について生得的な機能として捉えている。一方で母子間の相互行為や心理学的要因について Tomasello の「幼児が持つ認知的スキルである『共同注視』，『意図の理解』などの母子間の相互行為によって語彙獲得における語の意味の可能性に制限が与えられ る」という主張に従い, 深層強化学習を用いた幼児語彙獲得機構のモデル化を行い, 事前知識のない状態から語彙を獲得するモデルを構築する研究がある $[10,11,12]$. これらの研究では, 母子間の相互行為を 用いることで事前知識のない状態から意図の理解を 通して語彙を獲得するとともに, 語の意味の可能性 に制限をかける機構を獲得することに成功してい る.しかし, 幼児が取得する物体の特徴量に関して
「色」「味」「形」という 3 つの特徴量を恣意的に決定していること, 特徵量の情報量が膨大な代わりに その種類が少ないため, 幼児語彙獲得モデルの特徵量選択の傾向が不明瞭であることが挙げられる. 実際に Martin らによる研究 $[13,14]$ では人間は物体を 49 個の次元で捉えており, それらの特徴量を組み合 わせることで物体を判別していることが確認されて いる. また, 従来手法 $[10,11,12]$ では母子間の相互作用による語彙獲得を考量している反面, 幼児自身が 持つ好奇心による語彙獲得への影響も考慮していな い. そこで本研究では従来の恣意的な特徵量ではな く, Martin らの研究から判明した 49 次元の特徴量を 用いて, 幼児の持つ好奇心と母子の相互作用を組み 合わせた語彙獲得モデルを構築する。

## 2 考慮する心理学的要因

## 2.1 母子間の相互行為

共同注視 共同注視とは, 非言語的コミュニケーショ ンの一つであり, 親, あるいは, 幼児が何かに注目し ているときにもう一方も同じ対象に注目する行動で ある. 語彙獲得を行うには, 親と幼児が共通の対象を 注視することが必要条件であると言われている [15]. また, Tomasello は 6 組の母子に共同注視の時間と語彙数について実験を行い，母子間で共同注視を確立し, 維持することが言語発達と高い相関を示すこ とを確認した [16]. このことから, 幼児の語彙獲得に おいて親と幼児が相互に同じ対象に注視しようとす る性質は語彙獲得において重要な働きをしていると 言える.この性質は語彙獲得の初期段階の幼坚にお いても同様に見られる [17].

意図の理解 母親が幼児の注意を追うことと語彙数の間には強い相関があることが分かっている $[18,19,20]$ が, 幼児は語彙獲得において受動的な存在であるわけではない. Baldwin の実験 [21] では幼児は親の意図について積極的に理解しようと試みて おり, 親と幼児による相互行為によって語彙獲得は 進められていることが示された. また, Tomasello が 行った 3 つの実験では「親の表情から正解の物体を 選択できること」[22, 23], 「単純な親の表情で判断 するのではなく, その背景にある意図を理解してい ること」[24],「親が注視している最中でなくても推論から意図を理解することができる」[25] といった ことが確認された. これらのことから幼児は複雑な 状況下においても自ら親から意図を汲み取ろうと
し, 適切な語彙獲得を行うことができることが分か る.このように語彙獲得は母子間での共同注視だけ でなく, 親の意図の理解によって進められている.

制約の獲得 幼児の語彙獲得において注目する実態 について無限の選択肢から選択することは不可能で ある.そのため,これまでは生得的な制約を考えてき た [2]. しかし, 実際には生得的な制約で説明できな い事象も存在する $[4,5,6,7]$. そこで本研究では, こ のような制約が母子の相互行為によって後天的に獲得されることを示す。

## 2.2 人間の心的表象

人間がどのように物体を捉えているかは幼児の語彙獲得において重要な課題の一つである. 特に物体 をどう心的表象として保持しているかは語彙獲得に おける物体の特徴量設計に必要な指標である.この 人間の心的表象に関する研究として Martin の研究 では幼坚の言語獲得のモデル化をおこない, 物体間 の潜在的な類似性構造に注目し，ペア選択タスクを 通して, 説明可能な 49 次元の心的表象を提言してい る [13,14]. これらの心的表象は再現性が高く,カテ ゴリ分類, 典型性判断, 特徴量評価など, 特定のタス クだけでなく普遍的な心的表現であることも確認さ れている.

本研究ではこの心的表象に注目し, Martin の心的表象に基づいて人手で評価した特徴量を幼坚の物体 に対する特徵量として用いる。

## 2.3 幼児の内発的な動機付け

多くの生物が報酬がない場合であっても, 探索的,遊び的, 好奇心主導での行動を取ることが発見され ている [27]. それは人間であっても例外ではなく,好奇心による行動を行うことが認知的な発達において 重要な要素であり, 人間が本来持っている興味に基 づいて行動することは知能を成長させることに繋が ります [28]. これは幼児の語彙獲得においても確認 されており, 幼児の語彙獲得は対象となる語を一律 に獲得するのではなく, 時期により集中的に獲得さ れている [29]. これは外発的な動機付けでは, 説明で きない現象であり, 幼览自身が内発的な動機付けに より, 語彙獲得を行なっていると言える.

本研究では従来手法が外発的動機付けに基づく語彙獲得がなされていたのに対して,このような幼児 の内発的動機付けも考慮した語彙獲得モデルを構築 する。

## 3 幼児語彙獲得モデル

## 3.1 モデルの概要

モデルの構造 幼児語彙獲得機構モデルに深層強化学習を用いる. その理由として, 強化学習とは環境の 中で試行錯誤を繰り返しながら報酬を最大化して学習する手法であり, 幼児の語彙獲得のプロセスと酷似していることが挙げられる. また, 語彙獲得におけ る状態数は無限に近いため, 深層学習を用いる必要 があることも挙げられる. モデルはLSTM（緑）と 二つの DQN（青）からなる. LSTM は幼児の心的状態を表し, 二つの DQN はその心的状態に基づき, 幼児の行動を出力する. DQN1 は物体の特徴量を選択 する行動を出力し. DQN2 は幼児が思い描く物体の 名前を答える行動を出力する.

図 $1:$ 幼児語彙獲得モデルの構造

報酬 従来の幼児語彙獲得モデルでは母子間の相互作用の中で正解か不正解かのみを報酬とする DRQN[30] を用いていた.

$
r_{t}^{e}= \begin{cases}1 & \text { 正解のとき } \\ -1 & \text { 不正解のとき }\end{cases}
$

しかし, 本研究では物体の特徴量の種類が従来研究 の 4 個から 49 個と増えており, 学習の初期段階で物体の名称を正解するのに必要な特徴量を選択するこ とが難しく,学習初期の段階では物体の名称を正し く答えられないため, DRQN モデルでは正の報酬を 与えることが困難であった. また, 実際の幼児の語彙獲得は母子間の相互作用のみではなく, 幼児自身が 未知のものに対して関心を持つことで進む.

そこで本研究では新たな特徴量を探索した際に報酬を与えるという内部報酬を導入した NGU[31]を 基にしたモデルを構築する. 具体的には従来の報酬 $r_{t}^{e}$ に加えて内部報酬 $r_{t}^{i}$ を考慮した以下の報酬 $r_{t}$ を 従来の報酬の代わりとする. ただし, 本実験では同エ ピソード内で状態の遷移が不可逆に進むため, 同エ ピソードで同じ特徴量の選択状態になる可能性は前 ステップの状態と同一な時のみである. そこで現在 の状態が前ステップと同一かを判定し, その状態を訪れた回数 $n$ の逆数をエピソード報酬とする. また， L は任意の定数, $\alpha_{t}$ は RND[32] で提案されている值 を用いる。

$
\begin{aligned}
r_{t}^{i} & =\frac{1}{n} \times \min \left(\max \left(\alpha_{t}, 1\right), L\right) \\
r_{t} & =r_{t}^{e}+r_{t}^{i}
\end{aligned}
$

## 3.2 学習の流れ

語彙獲得は母子間の意図の理解を介して行われ る. 図 2 は幼児語彙獲得モデルの一連の語彙獲得の 流れであり，語彙獲得のアルゴリズムを以下に示す. まず, 共同注視と意図の理解により母子間で共通の 物体に対する注視が起こり, 語彙獲得が始まる. 次 に,物体の特徵量と幼児の行動を持った初期状態 s0 を心的状態を表す LSTM に入力する. その出力結果 （心的状態）をDQN1 に入力として与える.これによ り, DQN1 はどの特徵を選択するかを出力した後, 選択した行動の種類とその選択に対応する特徴量を s1 に追加する.この $\mathrm{s} 1$ を次の LSTM に入力し, その出力結果（心的状態）を DQN2 の入力として与えるこ とで, DQN2 は語の選択を行い, 親へと伝える. 選択 された語が親の意図した物体と一致していれば正の 報酬を, 不正解ならば負の報酬を与える.この処理を 語が一致するか定められた回数まで繰り返す。

本研究で構築する幼児語彙獲得モデルは初期状態 では事前知識を持たず, 特徴の選択をランダムに行 うが, 語彙獲得が進むにつれて, 語彙を決定するのに 適した特徴の選択すなわち制約を獲得する.

図 2: 語彙獲得の一連の流れ

## 4 実験

## 4.1 実験設定

データセット データセットには「apple, orange, ball, book, dog, cat, horse」の7つの語について Martin の研究で $[13,14]$ で言われている 49 次元について人手で のラベルの付与を行い, ランダムなノイズを加え, 各語あたり 100 物体を作成, $80 \%$ 学習用, $20 \%$ 検証用に分割して実験のシミュレーションを行なった。
実験の流れ「幼坚モデルが物体に対して事前に与え られた語候補の内のいずれかを答える」を1ステッ プ，「モデルが正解の語を答えるか, ステップ数が打 ち切り回数を超える」を 1 エピソードとした. 本実験ではエピソード数を 100000 回, 打ち切り回数を 10 回とした. また, 1000 エピソード学習する毎にテス ト用のデータセットで正答率を測定した.

比較モデル ベースラインは田口らによる DRQN モ デル [11] と学習を行わないランダムモデルをベース ラインとして用いた。

## 4.2 実験結果

語彙獲得 ベースラインとの比較結果を図 3 に示す.本研究では, 従来研究とは異なり一つの特徵量が持 つ情報量が極めて少ない情報量空間で特徴をいかに 組み合わせるかが重要であったが, ベースラインと の比較から, 提案手法が顕著に語彙獲得に成功して いることがわかる.

特に, DRQN モデルとの差から従来の研究と異な り, 幼児語彙獲得モデルが報酬を得られるまでに時間がかかる状況の中でも幼児の内発的な動機付けで ある好奇心を表す内部報酬を用いることで適切な探索を行えており, 学習に成功していることがわかる. これらから幼児の持つ好奇心が語彙獲得に有効に働 くことがわかる.

図 3: 語彙獲得の結果

特徵量の選択回数 幼坚語彙獲得モデルが正解する までに必要な特徴選択回数を表 1 に示す. まず, 特徴選択回数についてだが, 学習の初期段階では平均回数が 6.15 回と多く,多くの特徵量を取得する必要が ある.しかし, 学習終盤では, 2.35 回と少ない回数で 理想値である 1.94 回に近い回数で答えることが可能となっており,物体を識別するのに必要な特徴量 を適切に選択できていることがわかる。表 1: 特徵量の選択回数

特徴量の木構造化 選ばれている特徴量について, 10000 回あたりの学習の中で選択回数が 10 回以下, あるいは, 親ノードの $1 / 10$ 以下の選択回数である特徵量を枝切りし, 木構造化したものを図 4 に示す. 学習途中での特徴量選択が複雑な形であるのに対し て, 学習後の特徴量選択はシンプルな形になってい ること,木構造の葉の数と物体の数が一致している ことから最適化されていることがわかる.これらの ことから幼児語彙獲得モデルは母子間の相互行為を 通した語彙獲得によって自律的に特徴量に優先度を 付け, 語彙獲得を行う機構を獲得したことがわかる.

これは幼児が名詞を提示し続けることで世の中に は名詞が多いことを認識し, 名詞を判別するための 制約, 例えば, 形状を最初に注目することと等しい. すなわち, 形状バイアスのような制約を獲得したと 考えられる [33].

(a) 20000 回時点

(b) 100000 回時点図 4: 選択された特徴量の木構造化

## 5 おわりに

本研究では人間が物体を認識する際に用いられる 心的表象に注目すると共に幼児の内発的な動機付け である好奇心を導入することで幼坚の語彙獲得機構 のモデル化を行った. 実験結果により, 提案手法が 49 個の特徴量の組み合わせで語彙獲得を行えるこ とが確認された。

また, 特徴量の選択規則を扱う物体の数に最適な 木構造化することから生得的とされていた制約も，語彙獲得の過程で, 幼児語彙獲得モデルが自律的に 獲得できる可能性を示すことが出来た.

## 参考文献

[1] W.V.O.Quine. Word and Object. MIT Press, 1960

[2] E.M.Markman. Constraints on word learning: Speculations about their nature, origins, and domain specificity. In M.R.Gunnar \& M.Maratsos (Eds.), The Minnesota symposia on child psychology, Vol.25.Modularity and constraints in language and cognition pp.59-101, 1992.

[3] M.Tomasello, A.C.Kruger and H.H.Ratner. Cultural learning. BEHAVIORAL AND BRAIN SCIENCES vol.16, pp. 495552, 1993.

[4] C.B.Mervis, R.M.Golinkoff and J.Bertrand. Two-Year-Olds Readily Learn Multiple Labels for the Same Basic-Level Category. CHILD DEVELOPMENT, vol.65, Issue4, pp. 11631177, 1994.

[5] G.O.Deak, and M.Maratsos. On having complex representations of things: Preschoolers use multiple words for objects and people. Developmental Psychology, vol. 34 no.2, pp. 224240, 1998.

[6] E.V.Clark and T.A.Svaib. Speaker perspective and reference in young children. First Language, Vol 17, Issue 49, 1997.

[7] M.Tomasello and N.Akhtar. Two-Year-Olds Use Pragmatic Cues to Differentiate Reference to Objects and Actions. Cognitive Development, vo. 10, pp. 201-224, 1995.

[8] Joe Nishihara, Tomoaki Nakamura. Online Algorithm for Robots to Learn Object Concepts and Language.IEEE Transactions on Cognitive and Developmental Systems vol. 9, Issue: 3, September 2017.

[9] O.Rasanen and K Khorrami. A computational model of early language acquisition from audiovisual experiences of young infants. In Proceedings of Interspeech, vol. 2019-September, Interspeech-Annual Conference of the International Speech Communication Association, International Speech Communication Association, pp. 3594-3598, Interspeech, Graz, Austria, 2019 .

[10]野口輝, 南泰浩. DRQN による幼児の語彙獲得のモデ ル化. 言語処理学会 第 24 回年次大会 発表論文集 pp. 1260-1263, 2017.

[11] 田口 真輝, 南泰浩. ニューラルネットワーク強化学習 を用いた幼児語彙獲得のモデル化. 電子情報通信学会. HCS2019-73, 2020.

[12] 藤田 守太, 南泰浩. 母子間の相互行為に注目した幼児語彙獲得機構のモデル化. 電子情報通信学会 信学技報, vol. 122, no. 103, TL2022-7, pp.36-40, 2022.

[13] Martin N. Hebart, Charles Y. Zheng, Francisco Pereira, Chris I. Baker. Revealing the multidimensional mental representations of natural objects underlying human similarity judgments. Nature Human Behaviour. 4, pp. 1173-1185, 2020.

[14] Charles Y. Zheng, Francisco Pereira, Chris I. Baker, Martin $\mathrm{N}$. Hebart. Revealing interpretable object representations from human behavior. ICLR 2019

[15] J.Bruner. Child's Talk: Learning to Use Language. Oxford University Press, vol. 1, Issue. 1, 1985

[16] M.Tomasello and J.Todd. Joint attention and lexical acquisition style. First Language, vol 4, Issue 12, 1983.

[17] M.Carpenter, K.Nagell, M.Tomasello, G.Butterworth and C.Moore. Social Cognition. Joint Attention, and Communicative Competence from 9 to 15 Months of Age. Monographs of the Society for Research in Child Development, Vol.63, No.4, Social Cognition, Joint Attention, and Communicative Competence from 9 to 15 Months of Age, pp.1-174, 1998.

[18] M.Tomasello and M.J.Farrar. Joint Attention and Early Language. Child Development, vol. 57, no. 6 December, pp.14541463, 1986.
[19] P.J.Dunham, F.Dunham, A.Curwin. Joint-attentional states and lexical acquisition at 18 months. Developmental Psychology, vol. 29 no.5, pp.827-831, 1993.

[20] N.Akhtar, F.Dunham and P.Dunham. Directive interactions and early vocabulary development: The role of joint attentional focus. Journal of Child Language, vol. 18 no. 1, pp. 41-49, 1991.

[21] D.A.Baldwin. Infants' contribution to the achievement of joint reference. Child Development, vol.62, no.5, pp.875-890, 1991.

[22] M.Tomasello, R.Strosberg, and N.Akhtar. Eighteen-month-old children learn words in non-ostensive contexts. Journal of Child Language, vol. 23, no.1, pp.157-176, 1996.

[23] M.Tomasello, and M.E.Barton. Learning words in nonostensive contexts.Developmental Psychology, vol. 30, no.5, pp.639-650, 1994

[24] N.Akhtar and M.Tomasello. Two-year-olds learn words for absent objects and actions. Developmental Psychology, vol.14, Issue.1, pp.79-93, 1996.

[25] N.Akhtar, M.Carpenter and M.Tomasello. The Role of Discourse Novelty in Early Word Learning. CHILD DEVELOPMENT, vol.67, Issue.2, pp.635-645, 1996.

[26] White, R. W. Motivation reconsidered. Psychological Review, 66, pp.297-333, 1959.

[27] Sandra O Mollenauer. Shifts in deprivation level: Different effects depending on amount of preshift training. Learning and Motivation, Volume 2, Issue 1, pp.58-66, 1971.

[28] Richard M. Ryan, Edward L. Deci. Intrinsic and Extrinsic Motivations: Classic Definitions and New Directions. Contemporary Educational Psychology, Volume 25, Issue 1, pp.54-67, 2000.

[29] 小林哲生, 南泰浩. 日本語習得児における語彙カテゴリ 構成の発達的変遷. 電子情報通信学会技術研究報告 信学技報 vol. 114 no. 68 , pp.67-72, 2014.

[30] Mnih, V., Kavukcuoglu, K., Silver, D., Rusu, A. A., Veness, J., Bellemare, M. G., Graves, A., Riedmiller, M., Fidjeland, A. K., Ostrovski, G., Petersen, S., Beattie, C., Sadik, A., Antonoglou, I., King, H., Kumaran, D., Wierstra, D., Legg, S., and Hassabis, D. Human-level control through deep reinforcement learning. Nature, vol. 518, no.7540, pp.529-533, 2015.

[31] Adrià Puigdomènech Badia, Pablo Sprechmann, Alex Vitvitskyi, Daniel Guo, Bilal Piot, Steven Kapturowski, Olivier Tieleman, Martín Arjovsky, Alexander Pritzel, Andew Bolt, Charles Blundell. Never Give Up: Learning Directed Exploration Strategies. Published as a conference paper at ICLR 2020.

[32] Yuri Burda, Harrison Edwards, Amos Storkey, Oleg Klimov. Exploration by random network distillation. ICLR 2019.

[33] Susan S. Jones, Linda B. Smith. How children know the relevant properties for generalizing object names. Developmental Science, vol.5, no.2, pp.219-232, 2002