# 人間の多次元的な心的表象に基づく 幼児語彙獲得モデルの構築

藤田守太 ${ }^{1}$ 南泰浩 1
1 電気通信大学情報理工学研究科
f2131139@edu.cc.uec.ac.jp minami.yasuhiro@is.uec.ac.jp

## 概要

人間がどのように語彙を獲得しているのかという 課題に対して深層強化学習を用いて幼児の語彙獲得機構をモデル化する研究分野がある.これらの研究 で扱われる物体の特徵量は画像データから恣意的に 決められた次元数が多く種類の少ない特徴量であ る.しかし, 人間の心的表象に関する研究では人間が 多くの特徴量を組み合わせて物体を認識しているこ とがわかっている. 本研究では人間の心的表象に注目し, 49 個の特徴量から語彙獲得を行う機構を構築 し, 実験により,その選択傾向から幼児が自律的に特徵量の選択に制約を課す機構を獲得することを確認 した.

## 1 はじめに

幼児の語彙獲得では, 親が幼児に向けて対象の物体または行動（これを以降, 実態と呼ぶ）を示し, 実態に対する語を示すことで語彙獲得が進むと考えら れる.しかし，幼児から見ると親が指し示している実態は多数存在し, 具体的に対象が何を示すのか判定 することは難しい. また, 同じ名称を持つ物体は複数存在し, 似ているものでも違う名称を持つ物体があ る. それらの物体の境界線を決めることは難しい. このため, 幼児の語彙獲得は非常に困難な課題であ る [1].

この困難な課題に対して幼児が語彙を獲得する 際に, 幼児が語の実態の可能性に制限を課す機構 の存在を仮定する仮説がある。その中でも主要な 理論として Markman らによる制約アプローチ [2] と Tomasello らによる社会-語用論理論 [3] がある. Markman らによる制約アプローチは, 幼児には生得的に制約を行う機構が備わっているため, 語彙獲得をスムーズに行えるというものである。一方， Tomasello らによる社会-語用論理論は, 幼児が持つ認知的スキルである「共同注視」，「意図の理解」など の母子間の相互行為によって語の実態の可能性に制限を与える. 制約アプローチでは，「相互排他性制約」と「事物全体制約」の 2 つの制約が主張されて いる. しかし, 相互排他性については, 語彙獲得の早 い段階で，一つの実態に対して 2 つ以上の語が対応 することを幼児が受け入れることが確認されている $[4,5,6]$. また, 事物全体制約についても, 親の意図を 理解している幼児が未知の実態に対して,物体では なく行為として認識する例が報告されている [7]. こ のことから,必ずしも, 事物全体制約が生得的に存在 していない可能性も示唆されている.このように生得的に制約を獲得しているという制約アプローチで は数々の事象を説明できない。一方, 語彙獲得を通し て制約を獲得するという Tomasello らの社会-語用論理論 [3] では, 以上の事象について説明可能であり,幼览の語彙獲得機構のモデル化に適している。

現在, 語彙獲得のモデル化に関する先行研究とし て語彙獲得機構を機械学習を用いてモデル化する研究がある $[8,9]$. これらの研究では語彙獲得機構のモ デル化を通して, その解明に寄与している.しかし， これらの研究では母子間の相互行為や心理学的要因 について生得的な機能として捉えている。一方で母子間の相互行為や心理学的要因について Tomasello の「幼児が持つ認知的スキルである『共同注視』，『意図の理解』などの母子間の相互行為によって語彙獲得における語の意味の可能性に制限が与えられ る」という主張に従い, 深層強化学習を用いた幼児語彙獲得機構のモデル化を行い, 事前知識のない状態から語彙を獲得するモデルを構築する研究がある $[10,11,12]$. これらの研究では, 母子間の相互行為を 用いることで事前知識のない状態から意図の理解を 通して語彙を獲得するとともに, 語の意味の可能性 に制限をかける機構を獲得することに成功してい る.しかし, 幼児が取得する物体の特徴量に関して
「色」「味」「形」という 3 つの特徴量を恣意的に決定していること, 特徵量の情報量が膨大な代わりに その種類が少ないため, 幼児語彙獲得モデルの特徵量選択の傾向が不明瞭であることが挙げられる. 実際に Martin らによる研究 $[13,14]$ では人間は物体を 49 個の次元で捉えており, それらの特徴量を組み合 わせることで物体を判別していることが確認されて いる. また, 従来手法 $[10,11,12]$ では母子間の相互作用による語彙獲得を考量している反面, 幼児自身が 持つ好奇心による語彙獲得への影響も考慮していな い. そこで本研究では従来の恣意的な特徵量ではな く, Martin らの研究から判明した 49 次元の特徴量を 用いて, 幼児の持つ好奇心と母子の相互作用を組み 合わせた語彙獲得モデルを構築する。

## 2 考慮する心理学的要因

## 2.1 母子間の相互行為

共同注視 共同注視とは, 非言語的コミュニケーショ ンの一つであり, 親, あるいは, 幼児が何かに注目し ているときにもう一方も同じ対象に注目する行動で ある. 語彙獲得を行うには, 親と幼児が共通の対象を 注視することが必要条件であると言われている [15]. また, Tomasello は 6 組の母子に共同注視の時間と語彙数について実験を行い，母子間で共同注視を確立し, 維持することが言語発達と高い相関を示すこ とを確認した [16]. このことから, 幼児の語彙獲得に おいて親と幼児が相互に同じ対象に注視しようとす る性質は語彙獲得において重要な働きをしていると 言える.この性質は語彙獲得の初期段階の幼坚にお いても同様に見られる [17].

意図の理解 母親が幼児の注意を追うことと語彙数の間には強い相関があることが分かっている $[18,19,20]$ が, 幼児は語彙獲得において受動的な存在であるわけではない. Baldwin の実験 [21] では幼児は親の意図について積極的に理解しようと試みて おり, 親と幼児による相互行為によって語彙獲得は 進められていることが示された. また, Tomasello が 行った 3 つの実験では「親の表情から正解の物体を 選択できること」[22, 23], 「単純な親の表情で判断 するのではなく, その背景にある意図を理解してい ること」[24],「親が注視している最中でなくても推論から意図を理解することができる」[25] といった ことが確認された. これらのことから幼児は複雑な 状況下においても自ら親から意図を汲み取ろうと
し, 適切な語彙獲得を行うことができることが分か る.このように語彙獲得は母子間での共同注視だけ でなく, 親の意図の理解によって進められている.

制約の獲得 幼児の語彙獲得において注目する実態 について無限の選択肢から選択することは不可能で ある.そのため,これまでは生得的な制約を考えてき た [2]. しかし, 実際には生得的な制約で説明できな い事象も存在する $[4,5,6,7]$. そこで本研究では, こ のような制約が母子の相互行為によって後天的に獲得されることを示す。

## 2.2 人間の心的表象

人間がどのように物体を捉えているかは幼児の語彙獲得において重要な課題の一つである. 特に物体 をどう心的表象として保持しているかは語彙獲得に おける物体の特徴量設計に必要な指標である.この 人間の心的表象に関する研究として Martin の研究 では幼坚の言語獲得のモデル化をおこない, 物体間 の潜在的な類似性構造に注目し，ペア選択タスクを 通して, 説明可能な 49 次元の心的表象を提言してい る [13,14]. これらの心的表象は再現性が高く,カテ ゴリ分類, 典型性判断, 特徴量評価など, 特定のタス クだけでなく普遍的な心的表現であることも確認さ れている.

本研究ではこの心的表象に注目し, Martin の心的表象に基づいて人手で評価した特徴量を幼坚の物体 に対する特徵量として用いる。

## 2.3 幼児の内発的な動機付け

多くの生物が報酬がない場合であっても, 探索的,遊び的, 好奇心主導での行動を取ることが発見され ている [27]. それは人間であっても例外ではなく,好奇心による行動を行うことが認知的な発達において 重要な要素であり, 人間が本来持っている興味に基 づいて行動することは知能を成長させることに繋が ります [28]. これは幼児の語彙獲得においても確認 されており, 幼児の語彙獲得は対象となる語を一律 に獲得するのではなく, 時期により集中的に獲得さ れている [29]. これは外発的な動機付けでは, 説明で きない現象であり, 幼览自身が内発的な動機付けに より, 語彙獲得を行なっていると言える.

本研究では従来手法が外発的動機付けに基づく語彙獲得がなされていたのに対して,このような幼児 の内発的動機付けも考慮した語彙獲得モデルを構築 する。

## 3 幼児語彙獲得モデル

## 3.1 モデルの概要

モデルの構造 幼児語彙獲得機構モデルに深層強化学習を用いる. その理由として, 強化学習とは環境の 中で試行錯誤を繰り返しながら報酬を最大化して学習する手法であり, 幼児の語彙獲得のプロセスと酷似していることが挙げられる. また, 語彙獲得におけ る状態数は無限に近いため, 深層学習を用いる必要 があることも挙げられる. モデルはLSTM（緑）と 二つの DQN（青）からなる. LSTM は幼児の心的状態を表し, 二つの DQN はその心的状態に基づき, 幼児の行動を出力する. DQN1 は物体の特徴量を選択 する行動を出力し. DQN2 は幼児が思い描く物体の 名前を答える行動を出力する.

図 $1:$ 幼児語彙獲得モデルの構造

報酬 従来の幼児語彙獲得モデルでは母子間の相互作用の中で正解か不正解かのみを報酬とする DRQN[30] を用いていた.

$
r_{t}^{e}= \begin{cases}1 & \text { 正解のとき } \\ -1 & \text { 不正解のとき }\end{cases}
$

しかし, 本研究では物体の特徴量の種類が従来研究 の 4 個から 49 個と増えており, 学習の初期段階で物体の名称を正解するのに必要な特徴量を選択するこ とが難しく,学習初期の段階では物体の名称を正し く答えられないため, DRQN モデルでは正の報酬を 与えることが困難であった. また, 実際の幼児の語彙獲得は母子間の相互作用のみではなく, 幼児自身が 未知のものに対して関心を持つことで進む.

そこで本研究では新たな特徴量を探索した際に報酬を与えるという内部報酬を導入した NGU[31]を 基にしたモデルを構築する. 具体的には従来の報酬 $r_{t}^{e}$ に加えて内部報酬 $r_{t}^{i}$ を考慮した以下の報酬 $r_{t}$ を 従来の報酬の代わりとする. ただし, 本実験では同エ ピソード内で状態の遷移が不可逆に進むため, 同エ ピソードで同じ特徴量の選択状態になる可能性は前 ステップの状態と同一な時のみである. そこで現在 の状態が前ステップと同一かを判定し, その状態を訪れた回数 $n$ の逆数をエピソード報酬とする. また， L は任意の定数, $\alpha_{t}$ は RND[32] で提案されている值 を用いる。

$
\begin{aligned}
r_{t}^{i} & =\frac{1}{n} \times \min \left(\max \left(\alpha_{t}, 1\right), L\right) \\
r_{t} & =r_{t}^{e}+r_{t}^{i}
\end{aligned}
$

## 3.2 学習の流れ

語彙獲得は母子間の意図の理解を介して行われ る. 図 2 は幼児語彙獲得モデルの一連の語彙獲得の 流れであり，語彙獲得のアルゴリズムを以下に示す. まず, 共同注視と意図の理解により母子間で共通の 物体に対する注視が起こり, 語彙獲得が始まる. 次 に,物体の特徵量と幼児の行動を持った初期状態 s0 を心的状態を表す LSTM に入力する. その出力結果 （心的状態）をDQN1 に入力として与える.これによ り, DQN1 はどの特徵を選択するかを出力した後, 選択した行動の種類とその選択に対応する特徴量を s1 に追加する.この $\mathrm{s} 1$ を次の LSTM に入力し, その出力結果（心的状態）を DQN2 の入力として与えるこ とで, DQN2 は語の選択を行い, 親へと伝える. 選択 された語が親の意図した物体と一致していれば正の 報酬を, 不正解ならば負の報酬を与える.この処理を 語が一致するか定められた回数まで繰り返す。

本研究で構築する幼児語彙獲得モデルは初期状態 では事前知識を持たず, 特徴の選択をランダムに行 うが, 語彙獲得が進むにつれて, 語彙を決定するのに 適した特徴の選択すなわち制約を獲得する.

図 2: 語彙獲得の一連の流れ

## 4 実験

## 4.1 実験設定

データセット データセットには「apple, orange, ball, book, dog, cat, horse」の7つの語について Martin の研究で $[13,14]$ で言われている 49 次元について人手で のラベルの付与を行い, ランダムなノイズを加え, 各語あたり 100 物体を作成, $80 \%$ 学習用, $20 \%$ 検証用に分割して実験のシミュレーションを行なった。
実験の流れ「幼坚モデルが物体に対して事前に与え られた語候補の内のいずれかを答える」を1ステッ プ，「モデルが正解の語を答えるか, ステップ数が打 ち切り回数を超える」を 1 エピソードとした. 本実験ではエピソード数を 100000 回, 打ち切り回数を 10 回とした. また, 1000 エピソード学習する毎にテス ト用のデータセットで正答率を測定した.

比較モデル ベースラインは田口らによる DRQN モ デル [11] と学習を行わないランダムモデルをベース ラインとして用いた。

## 4.2 実験結果

語彙獲得 ベースラインとの比較結果を図 3 に示す.本研究では, 従来研究とは異なり一つの特徵量が持 つ情報量が極めて少ない情報量空間で特徴をいかに 組み合わせるかが重要であったが, ベースラインと の比較から, 提案手法が顕著に語彙獲得に成功して いることがわかる.

特に, DRQN モデルとの差から従来の研究と異な り, 幼児語彙獲得モデルが報酬を得られるまでに時間がかかる状況の中でも幼児の内発的な動機付けで ある好奇心を表す内部報酬を用いることで適切な探索を行えており, 学習に成功していることがわかる. これらから幼児の持つ好奇心が語彙獲得に有効に働 くことがわかる.

図 3: 語彙獲得の結果

特徵量の選択回数 幼坚語彙獲得モデルが正解する までに必要な特徴選択回数を表 1 に示す. まず, 特徴選択回数についてだが, 学習の初期段階では平均回数が 6.15 回と多く,多くの特徵量を取得する必要が ある.しかし, 学習終盤では, 2.35 回と少ない回数で 理想値である 1.94 回に近い回数で答えることが可能となっており,物体を識別するのに必要な特徴量 を適切に選択できていることがわかる。表 1: 特徵量の選択回数

特徴量の木構造化 選ばれている特徴量について, 10000 回あたりの学習の中で選択回数が 10 回以下, あるいは, 親ノードの $1 / 10$ 以下の選択回数である特徵量を枝切りし, 木構造化したものを図 4 に示す. 学習途中での特徴量選択が複雑な形であるのに対し て, 学習後の特徴量選択はシンプルな形になってい ること,木構造の葉の数と物体の数が一致している ことから最適化されていることがわかる.これらの ことから幼児語彙獲得モデルは母子間の相互行為を 通した語彙獲得によって自律的に特徴量に優先度を 付け, 語彙獲得を行う機構を獲得したことがわかる.

これは幼児が名詞を提示し続けることで世の中に は名詞が多いことを認識し, 名詞を判別するための 制約, 例えば, 形状を最初に注目することと等しい. すなわち, 形状バイアスのような制約を獲得したと 考えられる [33].

(a) 20000 回時点

(b) 100000 回時点図 4: 選択された特徴量の木構造化

## 5 おわりに

本研究では人間が物体を認識する際に用いられる 心的表象に注目すると共に幼児の内発的な動機付け である好奇心を導入することで幼坚の語彙獲得機構 のモデル化を行った. 実験結果により, 提案手法が 49 個の特徴量の組み合わせで語彙獲得を行えるこ とが確認された。

また, 特徴量の選択規則を扱う物体の数に最適な 木構造化することから生得的とされていた制約も，語彙獲得の過程で, 幼児語彙獲得モデルが自律的に 獲得できる可能性を示すことが出来た.

## 参考文献

[1] W.V.O.Quine. Word and Object. MIT Press, 1960

[2] E.M.Markman. Constraints on word learning: Speculations about their nature, origins, and domain specificity. In M.R.Gunnar \& M.Maratsos (Eds.), The Minnesota symposia on child psychology, Vol.25.Modularity and constraints in language and cognition pp.59-101, 1992.

[3] M.Tomasello, A.C.Kruger and H.H.Ratner. Cultural learning. BEHAVIORAL AND BRAIN SCIENCES vol.16, pp. 495552, 1993.

[4] C.B.Mervis, R.M.Golinkoff and J.Bertrand. Two-Year-Olds Readily Learn Multiple Labels for the Same Basic-Level Category. CHILD DEVELOPMENT, vol.65, Issue4, pp. 11631177, 1994.

[5] G.O.Deak, and M.Maratsos. On having complex representations of things: Preschoolers use multiple words for objects and people. Developmental Psychology, vol. 34 no.2, pp. 224240, 1998.

[6] E.V.Clark and T.A.Svaib. Speaker perspective and reference in young children. First Language, Vol 17, Issue 49, 1997.

[7] M.Tomasello and N.Akhtar. Two-Year-Olds Use Pragmatic Cues to Differentiate Reference to Objects and Actions. Cognitive Development, vo. 10, pp. 201-224, 1995.

[8] Joe Nishihara, Tomoaki Nakamura. Online Algorithm for Robots to Learn Object Concepts and Language.IEEE Transactions on Cognitive and Developmental Systems vol. 9, Issue: 3, September 2017.

[9] O.Rasanen and K Khorrami. A computational model of early language acquisition from audiovisual experiences of young infants. In Proceedings of Interspeech, vol. 2019-September, Interspeech-Annual Conference of the International Speech Communication Association, International Speech Communication Association, pp. 3594-3598, Interspeech, Graz, Austria, 2019 .

[10]野口輝, 南泰浩. DRQN による幼児の語彙獲得のモデ ル化. 言語処理学会 第 24 回年次大会 発表論文集 pp. 1260-1263, 2017.

[11] 田口 真輝, 南泰浩. ニューラルネットワーク強化学習 を用いた幼児語彙獲得のモデル化. 電子情報通信学会. HCS2019-73, 2020.

[12] 藤田 守太, 南泰浩. 母子間の相互行為に注目した幼児語彙獲得機構のモデル化. 電子情報通信学会 信学技報, vol. 122, no. 103, TL2022-7, pp.36-40, 2022.

[13] Martin N. Hebart, Charles Y. Zheng, Francisco Pereira, Chris I. Baker. Revealing the multidimensional mental representations of natural objects underlying human similarity judgments. Nature Human Behaviour. 4, pp. 1173-1185, 2020.

[14] Charles Y. Zheng, Francisco Pereira, Chris I. Baker, Martin $\mathrm{N}$. Hebart. Revealing interpretable object representations from human behavior. ICLR 2019

[15] J.Bruner. Child's Talk: Learning to Use Language. Oxford University Press, vol. 1, Issue. 1, 1985

[16] M.Tomasello and J.Todd. Joint attention and lexical acquisition style. First Language, vol 4, Issue 12, 1983.

[17] M.Carpenter, K.Nagell, M.Tomasello, G.Butterworth and C.Moore. Social Cognition. Joint Attention, and Communicative Competence from 9 to 15 Months of Age. Monographs of the Society for Research in Child Development, Vol.63, No.4, Social Cognition, Joint Attention, and Communicative Competence from 9 to 15 Months of Age, pp.1-174, 1998.

[18] M.Tomasello and M.J.Farrar. Joint Attention and Early Language. Child Development, vol. 57, no. 6 December, pp.14541463, 1986.
[19] P.J.Dunham, F.Dunham, A.Curwin. Joint-attentional states and lexical acquisition at 18 months. Developmental Psychology, vol. 29 no.5, pp.827-831, 1993.

[20] N.Akhtar, F.Dunham and P.Dunham. Directive interactions and early vocabulary development: The role of joint attentional focus. Journal of Child Language, vol. 18 no. 1, pp. 41-49, 1991.

[21] D.A.Baldwin. Infants' contribution to the achievement of joint reference. Child Development, vol.62, no.5, pp.875-890, 1991.

[22] M.Tomasello, R.Strosberg, and N.Akhtar. Eighteen-month-old children learn words in non-ostensive contexts. Journal of Child Language, vol. 23, no.1, pp.157-176, 1996.

[23] M.Tomasello, and M.E.Barton. Learning words in nonostensive contexts.Developmental Psychology, vol. 30, no.5, pp.639-650, 1994

[24] N.Akhtar and M.Tomasello. Two-year-olds learn words for absent objects and actions. Developmental Psychology, vol.14, Issue.1, pp.79-93, 1996.

[25] N.Akhtar, M.Carpenter and M.Tomasello. The Role of Discourse Novelty in Early Word Learning. CHILD DEVELOPMENT, vol.67, Issue.2, pp.635-645, 1996.

[26] White, R. W. Motivation reconsidered. Psychological Review, 66, pp.297-333, 1959.

[27] Sandra O Mollenauer. Shifts in deprivation level: Different effects depending on amount of preshift training. Learning and Motivation, Volume 2, Issue 1, pp.58-66, 1971.

[28] Richard M. Ryan, Edward L. Deci. Intrinsic and Extrinsic Motivations: Classic Definitions and New Directions. Contemporary Educational Psychology, Volume 25, Issue 1, pp.54-67, 2000.

[29] 小林哲生, 南泰浩. 日本語習得児における語彙カテゴリ 構成の発達的変遷. 電子情報通信学会技術研究報告 信学技報 vol. 114 no. 68 , pp.67-72, 2014.

[30] Mnih, V., Kavukcuoglu, K., Silver, D., Rusu, A. A., Veness, J., Bellemare, M. G., Graves, A., Riedmiller, M., Fidjeland, A. K., Ostrovski, G., Petersen, S., Beattie, C., Sadik, A., Antonoglou, I., King, H., Kumaran, D., Wierstra, D., Legg, S., and Hassabis, D. Human-level control through deep reinforcement learning. Nature, vol. 518, no.7540, pp.529-533, 2015.

[31] Adrià Puigdomènech Badia, Pablo Sprechmann, Alex Vitvitskyi, Daniel Guo, Bilal Piot, Steven Kapturowski, Olivier Tieleman, Martín Arjovsky, Alexander Pritzel, Andew Bolt, Charles Blundell. Never Give Up: Learning Directed Exploration Strategies. Published as a conference paper at ICLR 2020.

[32] Yuri Burda, Harrison Edwards, Amos Storkey, Oleg Klimov. Exploration by random network distillation. ICLR 2019.

[33] Susan S. Jones, Linda B. Smith. How children know the relevant properties for generalizing object names. Developmental Science, vol.5, no.2, pp.219-232, 2002
 藤田守太 ${ }^{1}$ 南泰浩 1 1 電気通信大学情報理工学研究科 f2131139@edu.cc.uec.ac.jp minami.yasuhiro@is.uec.ac.jp  