# ルールベース G2P による多言語固有表現の 国際音声記号表記付きデータセットの構築

的川雄飛 1 坂井優介 1 平野颯 1 澤田悠冶 ${ }^{1}$
大内啓樹 1,2 渡辺太郎 1
1 奈良先端科学技術大学院大学 2 理化学研究所
matogawa.yuhi.na2@is.naist.jp
\{sakai.yusuke.sr9, hirano. hayate.hc2, sawada.yuya.sr7\}@is.naist.jp
\{hiroki.ouchi, taro\}@is.naist.jp

## 概要

本研究では，多言語の固有表現（NE）をルール ベースの grapheme-to-phoneme（G2P）によって国際音声記号（IPA）に変換した表記の大規模データセッ トを構築した．多様な文字・音韻体系からなる複数 の言語の NE を IPA という一つの体系によって表記 したデータセットは，NE を対象とした G2P や通言語の言語モデル構築， $\mathrm{NE}$ 表記のリンキングなどの タスクへの有益な応用を期待できる。本研究は，既存データセットの NE 表記をルールベース G2P の フレームワークを用いて IPA 列に変換し，IPA 表記付きのデータセットを構築した。また，これに伴い 日本語から IPAへの変換ルールを作成し，フレーム ワークに追加した。

## 1 はじめに

ある言語における固有表現（NE）を表すテキス トとそれに対応する音声記号表記のデータは，テ キストの発音に関する情報が求められる諸タス クに NE を対象として取り組む場合において必要 となる。例えば，任意の文字体系で書かれた表記 を国際音声記号（IPA）などの発音記号に変換す る grapheme-to-phoneme (G2P) に，NEを対象として ニューラルベースの手法で取り組む場合，元の $\mathrm{NE}$表記と発音の関係を学習するためのデータが必要で ある。また，多様な言語・文字種の NE 表記を全て 統一的な IPA に変換したデータが存在すれば，特定 の言語に依らない非常に通言語性にすぐれた「IPA 言語モデル」の学習に利用できる.

これらに加え，特定の言語における $\mathrm{NE}$ 表記を正 しいID にリンキングさせるタスクにおいても，テ
キストと音声記号表記の対応データが必要な場合が ある．例えば，他の言語の NE 表記と ID のペアが明示された情報が存在する場合，NE 表記を IPA 列に 変換して，メインの研究対象である言語の $\mathrm{NE}$ 表記 から変換された IPA 列と他言語の NE 表記から変換 された IPA 列のあいだで音声的類似度を計算し1)，類似度が最も高い他言語の NE 表記と紐付いている ID をメインの研究対象である言語の NE 表記に紐付 くIDとする，という手法が考えられる。この場合 の音声的類似度の計算にも，やはり $\mathrm{NE}$ 表記と音声記号表記のマッピングのデータが必要となる。

元言語の表記と音声記号表記の対応データを公開 した先行研究として，オンライン辞書 “Wiktionary” の記述に基づくデータセットを公開したものが挙げ られる [2]. しかし，このデータセットは $\mathrm{NE}$ に特化 したものではなく，上に挙げたような $\mathrm{NE}$ 対象と するタスク・研究における利用には適さない。

本研究では，既存の $\mathrm{NE}$ 表記データセットを用い，複数言語の $\mathrm{NE}$ 表記をルールベース G2P のフレーム ワークを用いて IPA 列に変換することによって，上記のような NE 関連のタスクに必要な IPA 付き NE 表記データセットを構築した。また，日本語につい ては，このフレームワークにおけるサポートが存在 しなかったため，言語学・音声学分野の文献を基に G2P ルールを新たに作成した.

この結果，68 言語について，NE 表記と対応する IPA 列の組数が 6,900 万以上にのぼるデータセット が完成した.このデータセットは，NE を対象とし た研究における使用に適したものであるのみなら

1）具体的な音声的類似度の計算方法としては，IPA 同士でナ イーブな編集距離を計算する手法のほか，IPA の各シンボル を音声学的な素性の有無に基づくべクトルに変換してから類似度を計算する手法 [1] などが挙げられる。
表 1 ParaNames のデータの例

表 2 本研究において作成したデータの例

ず， 1 言語あたりのデータの量についても先行研究 の元言語表記-IPA 表記データセットを上回るものと なっている.

## 2 関連研究

既存研究で公開された特定の言語の表記と IPA 表記の対応データセットとして, “WikiPron”が挙げ られる2)[2]. WikiPron は, オンラインの多言語辞書 “Wiktionary”から，対象言語の表記とその IPA 表記 の組を自動抽出して構築され，251 言語について 3,509,051 組が登録されている. しかし, その抽出元 は辞書であるため，普通名詞・固有名詞や動詞，形容詞等に至るまで様々な種類の語が格納されてお り， 1 章で述べたような特に $\mathrm{NE}$ をターゲットとし た研究には適していない。

IPA のの変換は行っていないが複数の言語の $\mathrm{NE}$表記と ID のペアを格納したデータセットとしては， “ParaNames"3) [3], “TRANSLIT",4) [4] が存在する. 両者は，言語のカバレッジや $\mathrm{NE}$ 表記数，ID 数のほ か，データセットの作り方，データの形式などの面 で違いがある.これらのうち, 本研究は ParaNames を利用し, IPA 付き NE 表記の新たなデータセット を構築する。

468 の言語タグについて 124,343,696 個の NE 表記, 14,017,168 個の IDを持つ ParaNames は, Wikipedia の 項目を主に構造化した知識べースである “Wikidata” から全てのデータが作られている. 具体的に は, Wikidata において "human”, "geographic region”, “organization”の各タイプのインスタンスとして登録 されている NE 表記が, wikipedia でサポートされて いる各言語について抽出されている. 1 組のデー タは，Wikidataにおいて付与されている IDを表す “wikidata_id”，NE の表記を表す “label”, “label”の表記に紐づく言語タグを表す “language”，NEのタイ プを表す“type”によって構成されており，type には

2) https://github.com/CUNY-CL/wikipron

3) https://github.com/bltlab/paranames

4）https://github.com/fbenites/TRANSLIT. ある文字体系を 他の文字体系に変換するタスク「翻字（transliteration）」にお ける利用のために作られたデータセットである.
"PER”, "LOC", “ORG”の値が，元の Wikidata におけ るタイプ “human”, "geographic region”, "organization" それぞれに対応して割り当てられている（例：表 1).

いっぽう，185 の言語タグについて 2,987,508 個 の NE 表記，1,548,752 個の ID を持つ TRANSLIT は，独自に Wikipedia から収集した 1 種と既存の研究で 公開されていた 4 種，計 5 つのデータセットが混合 されて作られている。1 個の IDがキーとなり，それ に対応する値として各言語の表記のリストが格納さ れる形式となっている5)。

## 3 データセットの構築

本研究では，2 章に挙げた 2 つの $\mathrm{NE}$ 表記-ID の データセットのうち ParaNames を用い，“label”に格納されている $\mathrm{NE}$ 表記をルールベース手法による G2P フレームワーク “Epitran”6)[5] によって IPA 列 に変換して元の ParaNames のデータに加えることに より，IPA 付き NE 表記のデータセットを構築した (例: 表 2). 研究開始時には Epitran でサポートされ ていなかった日本語については言語学・音声学分野 の文献に基づいて自作した G2P ルールを，その他 の言語については Epitran の既存の G2P ルールを用 い，計 68 言語の NE 表記から IPAへの変換作業を 行った.

## 3.1 元データの選定

TRANSLIT ではなくParaNames を用いてデータ セットを作成した理由は，後者の方が言語タグ数， $\mathrm{NE}$ 表記数，ID 数いずれも前者よりも上回っている からのみならず，Wikidata という単一のソースに由来するデータセットを使用することでデータの質が より確保できる，と考えられるからである．複数の ソースに由来する TRANSLIT では，データの質の 面において，NE 表記と ID の紐付けが誤っているこ とがあるなどの問題が存在する。データの量の面で TRANSLIT を上回り，かつ一つのソースに由来する Paranames を基にデータを構築することで，量・質 の両面でよりすぐれたデータセットを完成させるこ とができると考えられる.

なお，ParaNamesの “language”に格納されている 言語タグの数は，実際の言語の数とは一致しない. 1 つの言語につき，文字種などの違いや話される地

5）簡易的な例を示す. ID 001: [“en_name1", “zh_name2", “]

6) https://github.com/dmort27/epitran
域の違いを反映して複数のタグが存在する場合があ るためである7). 言語が同じだが言語タグが異なる データであり, かつ文字種が同じデータについて, IPA 付きデータセットでは “wikidata_id”が重複して いるデータを排除した.

さらに，ParaNamesのうち，IPA に変換して新た なデータセットに組み込む対象は，95 個の言語タグ のいずれかが付与されている計 68 言語のデータに 絞った，これは，以下の 2 つの理由による。

1. 第一に，「Epitran がサポートする言語，あるい は日本語のいずれか」という制約を設けた. Epitran のサポート言語に絞った理由は，ルール ベースの手法により容易に G2P を実行できる 言語のデータを優先的に作成することが望まし いと考えられるからである．ただし，日本語の み，Epitranでは当初サポートされていなかった が本研究において新たにルールを作成し, その ルールを用いて IPA 変換を行った.これは， 1 章で述べた応用先のうち, NE 表記を正しい ID にリンキングさせるタスクを例として想定し， さらにカタカナの NE 表記をリンキング実験の 対象とすることを今後の研究の念頭に置いたた めである. 作成した日本語 G2P ルールについ ては， 3.3 節で詳述する。

2. 第一の制約に加え,「TRANSLIT のデータ中で,少なくとも 1 つのカタカナ $\mathrm{NE}$ 表記と同じ ID に紐づいている表記が存在する言語」という 制約を与えた。例えば，“ID 002: [“ja_\{ カタカ ナ表記 \}”, “en_...", “fr_...", ..]”というデータが TRANSLIT に存在する場合，英語（en）とフラ ンス語（fr）はいずれも本研究の対象に含まれ る.この制約を課したのは, 第一の制約の説明 で述べたカタカナ $\mathrm{NE}$ 表記のリンキング実験の 評価用データとして TRANSLIT を用いること を想定したためである。すなわち，任意のカ タカナ NE 表記について，実際の TRANSLIT の データ中で紐付いている IDを「正解 ID」とし， カタカナ $\mathrm{NE}$ 表記から変換された IPA 列と他言語の NE 表記から変換された IPA 列の音声的類似度を計算してリンキングを行う実験を想定し ている.


表 3 日本語 G2P ルールの “map”, “post”の例

## 3.2 NE 表記から IPA 列への変換

“label”の NE 表記から IPAへの変換は，すべて Epitranを用いて行った. Epitran は，各言語につい て用意された IPAへの変換ルールに基づいて G2P を実現する，多言語対応のフレームワークであり， 2023 年 1 月現在 97 言語についてサポートされてい る. 変換ルールは，全言語において存在する“map” と，一部の言語にのみ存在する “pre”, “post”の 3 種類がある. 基本的な変換は，各言語の文字（の組み 合わせ）と IPA シンボル（の組み合わせ）が 1 対 1 に対応する mapによって行うが，前後の音の環境に より発音が変わる場合などの 1 対 1 対応では処理で きない現象に対して，必要に応じ map の適用前に pre, 適用後に postがそれぞれ適用される。

また，表記と IPA の 1 対 1 対応によるマッピング が難しい言語については，外部の発音辞書が利用さ れる. 具体的には，英語については音声合成のた めのソフトウェア “flite”[6] が，中国語については “CC-CEDICT”[7] が使用される.

## 3.3 日本語の G2P ルール作成

日本語からの G2P については，日本語の音声・音韻の概要を述べた複数の文献 $[8,9]$ を基に，第一著者が Epitran の記法に準拠してカタカナ・ひらがな からの G2P ルールを作成した。これは，研究を開始 した時点で日本語が Epitran でサポートされておら ず，また言語学的に正確な G2P ルールを発表した先行研究も存在しなかったためである。 なお，漢字か らの G2P は，文脈依存による発音の特定が必要であ り対処が困難であるため，取り扱わなかった.

日本語について作成したルールは，3.2 節で挙げ た 3 種のルールのうち, map と postである. すなわ ち, カタカナ・ひらがなの組み合わせ 1 通りと IPA シンボルの組み合わせ 1 通りの各対応を map とし て，それだけでは処理できない事象に対応するため のルールを postとして作成した．両者の例を，表 3 に示す.

先に述べた日本語の音声・音韻に関する文献に基 づくカタカナ・ひらがなからの G2P ルールのほか,英語版ウィキペディアにおける日本語の文字・音韻

関連の記事 $[10,11]$ を基に，簡易的な G2P ルール8) も作成した. 後者についてもカタカナ・ひらがな双方のルールを構築したため，前者と合わせ計 4 種類 の G2P ルールを日本語の仮名について作成したこ ととなる。なお，IPA 付き NE 表記データセットの 構築における日本語の G2Pには，日本語の音声 - 音韻に関する文献に基づくルールの方を使用した。

本研究で作成した 4 種類の日本語 G2P ルールは, Epitran に統合された. カタカナ・ひらがなのような 音節文字9)を入力とするルールが Epitran に統合さ れたのは，初めてのことである. 本研究で作成した ルールは Epitran のフレームワーク内で現在利用可能であるほか，ルールを用いた IPA 変換のデモンス トレーションも作成済みである ${ }^{10)}$.

## 4 データセットの分析

データセットの統計的情報の概要を，表 4 に示す. NE 表記と IPA 表記の組数，および表記の ID の数は それぞれ 6,900 万以上，1,400 万以上にのぼり， 1 つ の ID につき平均 4.964 組の NE 表記-IPA 表記の組が 存在している. また，1 つの言語タグあたり， 1 言語あたりの表記の組数はそれぞれ平均 732,357.379 組，1,023,146.338 組であり， 1 言語につき平均して 100 万以上の NE 表記-IPA 表記の組が得られたこと になる. 1 言語あたりの表記数が 13,980.283 表記で

8）具体的には，日本語の音声 - 音韻に関する文献に基づく， より正確な方の map のルール数が 150 であるのに対し，簡易的な方の map のルール数は 112 である. post のルール数に ついても，前者が 46 であるのに対し，後者は 20 である.

9）「音節」は，音韻論における単位の一つ．通常は母音が 「核」となり，その前後に存在しうる子音とともに構成され るが，母音のみ，子音のみで構成される場合もある．ラテン 文字，キリル文字などが音素を表記の単位とする「音素文字」であるのに対し，カタカナ・ひらがな等は音節を表記の 単位とする「音節文字」である。

10) https://yusuke1997.com/Japanese_G2P/
1 万あまりである WikiPron と比較するとこれは非常 に規模の大きいデータである．したがって，本研究 で作成したデータセットは，NEに特化していると いう点で先行研究における多言語表記と IPA 表記の 対応データセットと区別されると同時に，1 言語あ たりのデータ量が既存のデータセットを大幅に上回っている，という点でも特徴づけられる。

最も多くのデータを得た NE のタイプは，PERで あった。また，データセットに格納されている元言語の NE 表記と IPA 表記の平均系列長はそれぞれ 15.085，15.894であり，ほとんど差がない.

$\mathrm{NE}$ 表記の文字種の数は，計 20 種である ${ }^{11)}$. 表記数が 100 万以上（およそ平均以上）にのぼる言語の 数は 15 言語であり，ロシア語，中国語を除き全て ラテン文字を使用する言語，またハンガリー語，中国語を除き全て印欧語族に属する言語である。言語 タグごとの表記数の統計を，付録 A に付す.

## 5 おわりに

本研究では，NE の G2P や通言語的な言語モデル の構築，NE 表記のリンキングなどへの応用を見据 え，複数の言語における $\mathrm{NE}$ 表記の既存データを基 に，ルールベース G2P のフレームワークを用いて 68 言語の 6,900 万以上の IPA 表記付き NE からなる 大規模データセットを構築した。また，これに伴っ て，日本語のカタカナ・ひらがなから IPAへの言語学的に正確な G2P ルールを作成し，フレームワーク に追加した. 今後の課題として，これまで応用先と して述べてきたタスク，すなわち言語モデルにおけ る事前学習や NE の G2P，NE 表記リンキングなど の実験を，本研究で作成したデータセットを用いて 行い，データセットの効果を検証する必要がある.

## 参考文献

[1] David R. Mortensen, Patrick Littell, Akash Bharadwaj, Kartik Goyal, Chris Dyer, and Lori Levin. PanPhon: A resource for mapping IPA segments to articulatory feature vectors. In Proceedings of COLING 2016, the 26th International Conference on Computational Linguistics: Technical Papers, pp. 3475-3484. The COLING 2016 Organizing Committee, December 2016.

[2] Jackson L. Lee, Lucas F.E. Ashby, M. Elizabeth Garza, Yeonju Lee-Sikka, Sean Miller, Alan Wong, Arya D. Mc-

11）ラテン文字，ゲエズ文字，アラビア文字，キリル文字， ベンガル文字，デーヴァナーガリー文字，カタカナ，ひらが な，クメール文字，ラーオ文字，マラヤーラム文字，ビルマ 文字，オリヤー文字，グルムキー文字，シンハラ文字，夕ミ ル文字，テルグ文字，タイ文字，漢字 (簡体字)，漢字 (繁体字).

Carthy, and Kyle Gorman. Massively multilingual pronunciation modeling with WikiPron. In Proceedings of the Twelfth Language Resources and Evaluation Conference, pp. 4223-4228. European Language Resources Association, May 2020.

[3] Jonne Sälevä and Constantine Lignos. ParaNames: A massively multilingual entity name corpus. In Proceedings of the 4th Workshop on Research in Computational Linguistic Typology and Multilingual NLP, pp. 103-105. Association for Computational Linguistics, July 2022.

[4] Fernando Benites, Gilbert François Duivesteijn, Pius von Däniken, and Mark Cieliebak. TRANSLIT: A large-scale name transliteration resource. In Proceedings of the Twelfth Language Resources and Evaluation Conference, pp. 3265-3271. European Language Resources Association, May 2020.

[5] David R. Mortensen, Siddharth Dalmia, and Patrick Littell. Epitran: Precision G2P for many languages. In Proceedings of the Eleventh International Conference on Language Resources and Evaluation (LREC 2018). European Language Resources Association (ELRA), May 2018.

[6] flite: A small fast portable speech synthesis system, (202301 閲覧）. https://github.com/festvox/flite.

[7] CC-CEDICT Home [CC-CEDICT WIKI], (2023-01 閲 覧）. https://cc-cedict.org/wiki/\#what_is_ cc-cedict.

[8] 斎藤純男. 日本語音声学入門 改訂版. 三省堂, 2006.

[9] 日本語教育学会編. 新版 日本語教育事典. 大修館書店, 2005.

[10] Katakana - Wikipedia，（2022-08 閲覧）. https://en.wikipedia.org/w/index. php?title= Katakana\&oldid $=1103341275$.

[11] Sokuon - Wikipedia,（2022-08 閲覧）. https://en.wikipedia.org/w/index.php?title= Sokuon\&oldid $=1096454475$.

## A 付録：作成したデータセットの言語タグ別表記数


 的川雄飛 1 坂井優介 1 平野颯 1 澤田悠冶 ${ }^{1}$ 大内啓樹 1,2 渡辺太郎 1 1 奈良先端科学技術大学院大学 2 理化学研究所 matogawa.yuhi.na2@is.naist.jp \{sakai.yusuke.sr9, hirano. hayate.hc2, sawada.yuya.sr7\}@is.naist.jp \{hiroki.ouchi, taro\}@is.naist.jp  