# Towards Unsupervised Remote Sensing Image Captioning and Retrieval with Pre-Trained Language Models

Megha Sharma, Yoshimasa Tsuruoka
The University of Tokyo
\{meghas, yoshimasa-tsuruoka\}@g.ecc.u-tokyo.jp
}

\begin{abstract}
Captioning and retrieval is an important yet underdeveloped task for large remote sensing databases due to limited training resources. We propose a captioning framework that does not require human-made annotations. Using land cover maps as statistical prompts, we use ChatGPT for natural caption generation. Our experiments with OpenEarthMap reveal that pre-trained language models are capable of inferring and describing high level environment information using land cover statistics of the image.
\end{abstract
## 1 Introduction

Recent improvements in remote sensing technology have led to an unprecedented growth in the applications of Remote Sensing Images (RSI) for Geo-spatial Information Systems. One such application is known as Land Usage / Land Cover Mapping (LULC), which aims to classify and understand the terrain and usage of the piece of land captured in the RSI [1]. Well-maintained LULC can aid in land cover monitoring, resource planning, and land management [1] [2].

With more data available than ever, accurate and robust image captioning and retrieval methods have become important to maintain such large databases. OpenEarthMap (OEM) is one such benchmark LULC dataset that offers diverse locations and high quality land cover annotations [2]. Historically, retrieval systems for these databases are queried by image or image patterns [3]. However, it is more intuitive for humans to annotate or query with textual descriptions instead [4]. Cross-modal text-image retrieval and captioning systems present an interesting opportunity to combine Geo-spatial information with Natural Language Processing (NLP) techniques. The opportunity explores the challenge of measuring cross-modal semantic similarity. Intuitively, this can be approached as a two-step process of converting and comparing the database mode to the query mode. Hoxha et al.[5] successfully used deep learning networks to measure similarities between captions generated from the RSI in the database with the queried text. However, these frameworks depend on a large amount of labelled training data to successfully annotate images and measure similarity with query text. Existing caption datasets, such as [6] [7], are limited by the resources required to generate captions. Moreover, the captions are often based on lower-level knowledge such as identified objects like airplanes and stadiums, which is difficult to evaluate without further expert knowledge on the location. On the other hand, LULC information is usually predefined and easier to distinguish even to a common eye.

We are motivated to study unsupervised approaches for RSI captioning to reduce the overhead of manually generating such annotations to train for retrieval systems. Template-based methods are popular to extract visual descriptions into a rule-based output. The annotations by this approach are arguably limited for describing higher level semantic information [5]. However, language models have since made considerable leaps, one such being the release of ChatGPT ${ }^{1)}$, a pre-trained language model trained to perform like a chat bot.

In this paper, we aim to explore if it is possible for such pre-trained language models to recognize higher-level information such as landscape (e.g., rural, urban, and forest) with controlled and uncontrolled generation based on statistical LULC information. We found that pre-trained models could successfully generate natural language captions for the RSI, bringing us one step closer to developing a framework of cross modal retrieval and captioning systems without labelled data. The code is available on GitHub ${ }^{2)}$.

## 2 Method

Let $I=\left.\{I_{1}, I_{2}, \cdots, I_{N}\right.\}$ be a database of $N$ images. For any image $I_{i}$ in the database, there is a corresponding LULC cover map for the image, $I_{i}^{L C}$. We can divide the unsupervised caption generation into three main steps:

1. Land Cover Mapping

2. Statistical Image Understanding

3. Natural Language Generation

The framework, illustrated in Fig. 1, can be used as is for annotation-based retrievals [5] or used to generate ground truth for few shot learning models for supervised image to text retrieval models, such as those proposed in [8].

## 2.1 Land Cover Mapping

To create a truly end-to-end model for unlabelled captioning, we first predict land cover maps from remote sensing images. We experimented with three different types of UNet models, in particular the recent UNetFormer, which gained traction for semantic segmentation [9]. An advantage of these models is that it can be adapted using many different types of vision transformers as its backbone encoder. The network is trained using labelled image pairs of RSI and LULC images. The predictions are a 2D array where each cell's location (row, column) corresponds to the predicted class of the pixel at the same location.

## 2.2 Statistical Image Understanding

Feature extraction plays a key role to project one mode of information to another. Historically, cross-modal textimage systems extract semantic topics using a statistical and semantic analysis of the captions [10]. We translate the image composition and land cover structure into a template statistical prompt for the next step. The land cover classes are mapped to their text labels pre-defined by the training dataset in the prompt. Examples of the statistical prompt is shown in Fig. 2. The image understanding steps are explained in subsections below.

## 2.2.1 Image Composition

Suppose class $C$ is one of the classes present in a predicted LULC image $I_{i}^{L C^{\prime}}$, we calculate the percentage of the composition for class $C$ as follows.

$
\text { Compostion }\left(C \mid I_{i}^{L C^{\prime}}\right)=\frac{\# \text { pixels predicted as } C}{\text { Total \# of pixels }}
$

## 2.2.2 Land Cover Structure

To support image composition, we also describe the locations of prominent land classes. Using the median location of top 2 classes in the LULC, we locate the centroid of each class. Unlike calculating mean, median is more robust to outliers. If the centroid falls into a circle with a radius of $10 \%$ of image size from the center, it is classified with Center location. This threshold accounts as a reasonable margin to describe the location of the LULC class. Any centroid outside of this area is classified as either Upper left, Upper Right, Lower Left, or Lower Right by dividing the image into four quadrants with the center of the image as the center of the quadrant.

## 2.3 Natural Language Generation

In the natural language generation stage, we use the inference of large pre-trained models to convert low level statistical text to a natural sounding caption. In this paper, we use ChatGPT, which was capable of summarising radiology reports without jargon for patients [11]. The statistical prompt is input to ChatGPT for either controlled or uncontrolled generation. In uncontrolled generation the ChatGPT is only asked to "write a natural image caption in 2 lines without numbers" for the given statistical prompt without a ground truth. Restrictions are placed on the length and usage of numbers to reflect annotations found in existing datasets [6]. To test the model against some ground truth, we created four captions as positive examples for ChatGPT. The motivation for controlled generation stems from supervised few-shot training, where we give ChatGPT a few positive examples for generated captions and then ask it to generate given novel statistical prompts, in an attempt to raise behavior expected from the model. We also used five examples from a popular dataset with annotations, RSICD dataset [6] for a more robust ground truth. The images selected from the RSICD dataset were selected to have annotations related to the environment or land cover, as most of the images in the dataset actually describe specific objects or buildings.

Figure 1 The 3-step framework for unsupervised natural language caption generation. In (a), the training data is used to train a model (e.g. UNetFormer) to generate land cover maps of the input. The inferred LULC outputs are used to extract visual information including composition and structure in (b). Finally, in (c), the template is sent as an input to a language model (here we use ChatGPT), to generate natural language captions inferring higher level semantics such as environment (e.g., city center).

## 3 Experiment with OpenEarthMap and ChatGPT

To test the framework, we train several UNet models on the OEM Mini, a smaller version of the OEM dataset with 1068 examples with sub-meter resolution classified into 8 land cover labels. We used a 70-30 train-test split of the dataset for training, and trained with a batch size of 16 . The RGB images were divided into three input channels, and each image was transformed into a $512 * 512$ size image. The learning rate was set at $10^{-3}$ with a weight decay $10^{-6}$. The model is trained with the Dice loss function [12] and Adam optimisation. We objectively evaluated the land cover model using pixel-wise mean Intersection over Union (mIoU), a standard metric to measure the coverage between the true and predicted classes. Our experiments found that the UNetFormer model with SE Res-Net encoder performs best with an mIoU of $53.4 \%$ on the validation dataset and $63.13 \%$ on the test dataset. Using the trained UNetFormer with SE Res-Net land cover model, we retrieved 6 land cover maps from the test split of the dataset, intentionally selecting images with diverse land composition to study the performance across a variety of environments. The extracted statistical information was fed with controlled and uncontrolled prompts into the ChatGPT, and we found that ChatGPT was able to successfully convert the prompts to natural sounding captions.

## 3.1 Uncontrolled Generation

Without seeing any ground truth, ChatGPT is still able to infer urban environments in the generation captions. As seen in the left-hand example in Fig.2, ChatGPT describes the image as urban (city-like) when "buildings" is one of the top two classes. This presents the inherent potential of language models to infer higher level information, such as understanding a high concentration of buildings and grass reflects a "mix or urban and natural elements". The language model is also able to describe quantitative information using relative descriptors, such as converting " $31.3 \%$ buildings" to "buildings taking up a significant portion of the frame" and " $1.2 \%$ Water" to "a hint of water". All of the generated captions were found to be complete, i.e., they used all information provided in the prompt.

The generated captions particularly featured prominent use of creative adjectives. These adjectives seem to be inferred from the language model's training data. For example, "lush trees", "tall buildings", "bustling cityscape" were used in the captions, when no such descriptions were used in the prompt. In the best case scenario, these are positive descriptors of the image; however at worst, these are classified as hallucinations. Hallucination is a common problem with ChatGPT [11]. Albeit not dangerous in this application, it can still raise false positives when querying the annotations. The quality of the land cover map also raises false artefacts in the description when predicting incorrect land classes. This is shown in the right hand example in Fig. 2. The buildings are described as "towering", and a non-existent "body of water" is also described in the caption.

Figure 2 A positive (left hand side) and negative (right hand side) run of the framework with controlled and uncontrolled generation. In the land cover maps (below original image), the orange dot in the center represents the center of the image and the magenta dots represent the median of the two most prominent classes. In the generations, yellow highlights the higher level environment information inferred from the statistics, green highlights the creative adjectives used by ChatGPT that may or may not be accurate to the image, and red highlights the incorrect inferences in the generated captions.

## 3.2 Controlled Generation

Despite a promising start, uncontrolled generation struggled to infer non-urban environments such as rural or forest areas. Hence, we gave ChatGPT examples of four positive examples of captions, using diverse statistical prompts and asked it to re-generate captions for the previous six land cover maps. One of the most important discovery was that controlled generation managed to solve the biggest issue at hand, and ChatGPT correctly inferred environment descriptors such as "forest", "countryside", "metropolis", and "city" in the controlled generation. In general, this also helps control the hallucinations in the generated captions, and strengthens the proposal of the methodology.

In order to truly test the framework against existing ground truth, we also explore results of controlled generations using the RSICD dataset [13]. We found that ChatGPT was able to successfully mimic the style of the RSICD dataset, with short and generic sentences about the images. This also highlights another ability of large pre-trained language models to mimic styles when generating captions. The generated captions contain similar keywords as the ground truth, and this was made apparent with the $50.1 \%$ BLEU1 score of the generated captions against ground truth of the RSICD and the $56.6 \%$ BLEU1 score with positive examples from OEM Mini as described in Tab.1. The BLEU1 and BLEU2 scores refer to overlapping 1-gram and 2-gram in the reference and candidate sentences.

## 3.3 Future Opportunities

ChatGPT and large pre-trained language models present a creative opportunity towards natural image captioning.
Table 1 BLEU1 and BLEU2 scores with the ground truth of RSICD and positive examples for OpenEarthMap

From our preliminary findings we propose the following opportunities and challenges ahead
- Few-shot Modeling - Using generated captions as ground truth for a few-shot learning captioning models such as those proposed in [14].
- Autonomous Caption and Retrieval Systems ChatGPT managed to recover higher level information about the environment using low level land class information. This presents an unprecedented opportunity with autonomous captioning and retrieval systems. Although there are risks of hallucination and misinformation, with controlled generation, we can explore a framework where a user can search for an RSI image using vague text descriptions. We can also expand the framework with multi-level information [15] [16].

## 4 Conclusion

We found that pre-trained models like ChatGPT are able to infer information about the image with just a statistical description of remote sensing images. Although the scope of the experiments was limited, the results spark an exciting conversation of using large pre-trained models to automate labour intensive tasks in the field of Remote Sensing Image Analysis. In future work, we plan to further elaborate the framework for caption and retrieval databases for land cover map images with more robust experiments and future opportunities.

## Acknowledgements

This paper would have not been possible without the work of Naoto Yokoya. Also extending our gratitude to Qiyu $\mathrm{Wu}$, who helped us gain an interesting take on our experiments.

## References

[1] John Rogan and DongMei Chen. Remote sensing technology for mapping and monitoring land-cover and land-use change. Progress in planning, Vol. 61, No. 4, pp. 301325, 2004.

[2] Junshi Xia, Naoto Yokoya, Bruno Adriano, and Clifford Broni-Bediako. Openearthmap: A benchmark dataset for global high-resolution land cover mapping. In Proceedings of the IEEE/CVF Winter Conference on Applications of Computer Vision, pp. 6254-6264, 2023.

[3] Jaroslaw Jasiewicz and Tomasz F Stepinski. Examplebased retrieval of alike land-cover scenes from nlcd2006 database. IEEE geoscience and remote sensing letters, Vol. 10, No. 1, pp. 155-159, 2012.

[4] Mohamad M Al Rahhal, Yakoub Bazi, Taghreed Abdullah, Mohamed L Mekhalfi, and Mansour Zuair. Deep unsupervised embedding for remote sensing image retrieval using textual cues. Applied Sciences, Vol. 10, No. 24, p. 8931, 2020.

[5] Genc Hoxha, Farid Melgani, and Begüm Demir. Toward remote sensing image retrieval under a deep image captioning perspective. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, Vol. 13, pp. 4462-4475, 2020.

[6] Xiaoqiang Lu, Binqiang Wang, Xiangtao Zheng, and Xuelong Li. Exploring models and data for remote sensing image caption generation. IEEE Transactions on Geoscience and Remote Sensing, Vol. 56, No. 4, pp. 21832195, 2017.

[7] Bo Qu, Xuelong Li, Dacheng Tao, and Xiaoqiang Lu. Deep semantic understanding of high resolution remote sensing image. In 2016 International conference on computer, information and telecommunication systems (Cits), pp. 1-5. IEEE, 2016.

[8] Qimin Cheng, Yuzhuo Zhou, Peng Fu, Yuan Xu, and Liang Zhang. A deep semantic alignment network for the crossmodal image-text retrieval in remote sensing. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, Vol. 14, pp. 4284-4297, 2021.

[9] Libo Wang, Rui Li, Ce Zhang, Shenghui Fang, Chenxi Duan, Xiaoliang Meng, and Peter M Atkinson. Unetformer: A unet-like transformer for efficient semantic segmentation of remote sensing urban scene imagery. ISPRS Journal of Photogrammetry and Remote Sensing, Vol. 190, pp. 196-214, 2022.

[10] Binqiang Wang, Xiangtao Zheng, Bo Qu, and Xiaoqiang Lu. Retrieval topic recurrent memory network for remote sensing image captioning. IEEE Journal of Selected Topics in Applied Earth Observations and Remote
Sensing, Vol. 13, pp. 256-270, 2020

[11] Katharina Jeblick, Balthasar Schachtner, Jakob Dexl, Andreas Mittermeier, Anna Theresa Stüber, Johanna Topalis, Tobias Weber, Philipp Wesp, Bastian Sabel, Jens Ricke, et al. Chatgpt makes medicine easy to swallow: An exploratory case study on simplified radiology reports. arXiv preprint arXiv:2212.14882, 2022.

[12] Carole H Sudre, Wenqi Li, Tom Vercauteren, Sebastien Ourselin, and M Jorge Cardoso. Generalised dice overlap as a deep learning loss function for highly unbalanced segmentations. In Deep learning in medical image analysis and multimodal learning for clinical decision support, pp. 240-248. Springer, 2017.

[13] Shan Cao, Gaoyun An, Zhenxing Zheng, and Qiuqi Ruan. Interactions guided generative adversarial network for unsupervised image captioning. Neurocomputing, Vol. 417, pp. 419-431, 2020.

[14] Haonan Zhou, Xiaoping Du, Lurui Xia, and Sen Li. Selflearning for few-shot remote sensing image captioning. Remote Sensing, Vol. 14, No. 18, p. 4606, 2022.

[15] Zhenwei Shi and Zhengxia Zou. Can a machine generate humanlike language descriptions for a remote sensing image? IEEE Transactions on Geoscience and Remote Sensing, Vol. 55, No. 6, pp. 3623-3634, 2017.

[16] Zhiqiang Yuan, Wenkai Zhang, Changyuan Tian, Xuee Rong, Zhengyuan Zhang, Hongqi Wang, Kun Fu, and Xian Sun. Remote sensing cross-modal text-image retrieval based on global and local information. IEEE Transactions on Geoscience and Remote Sensing, Vol. 60, pp. 1-16, 2022.

[17] Jie Hu, Li Shen, and Gang Sun. Squeeze-and-excitation networks. In Proceedings of the IEEE conference on computer vision and pattern recognition, pp. 71327141, 2018.

## A Appendix

## A. 1 Results from the LULC Modeling

Tab. 2 covers the results from training 8 different types of models for the land cover mapping. The results are shown on the validation dataset only. The SE Res-Net module uses Squeeze-and-Excitation blocks to model interdependencies between channels [17]. The ability for SE Res-Net to re-calibrate its features works well with semantic segmentation tasks.

Table 2 Results from LULC modeling experiments

## A. 2 Example Generations

## Statistical Prompt:

4.2\% Grass, 3.3\% Pavement, $1.2 \%$ Road, $50.5 \%$ Tree, $39.4 \%$ Cropland, 1.2\% buildings, Tree in upper right. Cropland in lower left. Uncontrolled Generation:

The [ush trees dominate the landscape, with a small amount of pavement and grass visible. In the lower left, fields of crops stretch out, while a few buildings dot the terrain Controlled Generation:

A Iush forest takes up the upper right of the image, with a sprawling field of crops in the lower left. A fiew patches of grass and a few scattered buildings and roads can be found throughout the area

Figure 3 Uncontrolled and controlled generations of the OEM Mini dataset. In the land cover maps, the orange dot in the center represents the center of the image and the magenta dots represent the median of the two most prominent classes.

Statistical Prompt:

17.3\% Grass, $4.6 \%$ Pavement, $7.7 \%$ Road, $39.3 \%$ Tree, $31.1 \%$ buildings, Tree in upper right. buildings in center. Ground Truth: buildings and many green trees are in a dense esidential are Generated Caption: a city with many buildings and trees

Statistical Prompt: 13.3\% Grass, $86.7 \%$ Tree, Tree in upper left. Grass in lower right. Ground Truth: a bare land in the middle of the forest Generated Caption: a forest with a small patch of grass

Statistical Prompt:

95.8\% Grass, $3.9 \%$ Tree, Grass in center. Tree in lower left.

Ground Truth:

many green trees are in a piece of forest Generated Caption: a grassy field with a few trees

Figure 4 Generations and ground truth of the RSICD dataset. In the land cover maps, the orange dot in the center represents the center of the image and the magenta dots represent the median of the two most prominent classes.


# ツイート発言の座標またはグリッドの予測基盤の開発

大西駿太朗 ${ }^{1}$ 矢田竣太郎 ${ }^{1}$ 若宮翔子 ${ }^{1}$ 荒牧英治 ${ }^{1}$
1 奈良先端科学技術大学院大学
\{shuntaro.onishi.or3,s-yada,wakamiya, aramaki\}@is.naist.jp

## 概要

Twitter をはじめとするソーシャルネットワークサービスの分析は．都市デザイン，災害・疾病把握や社会調査などに多く用いられてきた。しかし，位置情報の付与されたツイートは全体の $1 \%$ 未満と報告されている．そこで，位置情報を推定する研究が行われている.これらの研究は入力の形式と出力の形式で分けることができる．本稿では入力をツイー 卜発言，出力を緯度経度および地域メッシュとし，位置推定モデルを作成した. 作成したモデルのボトルネックを考察するとともに，今後開発されるであろう位置情報を用いたさまざまなサービスの基盤となる位置推定 Web APIを構築したので報告する.

## 1 はじめに

Twitter はソーシャルセンシングによく用いられている.ソーシャルセンシングとは既存のセンサでは捉えることができない情報を捉えるため，ソーシャルネットワークサービスのユーザをセンサとみなし，実世界の現象を観測することである [1]. ソー シャルセンサは，これまで，都市デザイン，災害・疾病把握や社会調査などに多く用いられてきた. 都市デザインにおいては，土地利用やランドマークの特定など，街並みの特徴付けの可能性が検討されてきた $[2,3,4]$. 災害・疾病予測では，対災害 SNS 情報分析システム ${ }^{1)}$, 台風軌道の予測 [5], インフルエンザの流行把握 [6] や COVID-19 のクラスタ検出 [7] が行われてきた. 社会調査における利用も多く, 選挙, 株価, 政治的思考の違い [8] などの研究や, 人々の気分を推定し, 時間変化や地域差を可視化する研究 $[9,10]$ も行われている.

このように，ソーシャルセンシング研究の多くにおいて位置情報は必須である．しかし，Twitter で得られる位置情報は十分でないことが多い。例えば， ツイートの投稿者の位置情報はユーザが任意に付与

1) https://disaana.jp/rtime/search4pc.jsp
するものであり，位置情報の付与されているツイー

このため，多くのソーシャルセンシングサービスは，メタ情報やテキスト中のランドマーク表現など，何らかの方法を用いて位置情報を推定することでカバレージを上げている，位置情報を補完するためのツイートの位置予測研究も，この 10 年ほど活発に行われてきた。 中でも，W-NUT2016の Twitter の位置情報予測シェアードタスク ${ }^{2)}$ [12] のデータは，現在でもベンチマークとしてしばしば利用されている.

位置推定タスクは，入力の形式と出力の形式の 2 つの軸で整理が可能である.

入力の形式: 位置推定の入力としては, 発言者・ユー ザの一連の文書か，単一文書（発言メッセージ，ツイート）かの 2 つのレベルがある. 本稿では，前者の発言者の居住地を予測することをユーザレベル，後者の発言メッセージが投稿された位置を予測することをメッセージレベルと呼ぶ.

出力の形式: 位置推定の出力は, 緯度経度, 県や都市など様々な形式がある．等間隔のグリッドに分割することや [13]，投稿の多い地域では細かいグリッド，投稿の少ない地域では大きいグリッドを生成する手法が提案されている [14]. またメッセージレべルにおいて，その推定の不確実性を表現するために, 出力位置の確率分布を出力する場合もある [15].代表的な等間隔のグリッドとして，地域メッシュがある。地域メッシュは緯度経度から算出され，行政区画の変更にも左右されないという利点から，統計調査によく用いられる.

このように考えると，例えば，前述のシェアー ドタスクの距離ベースの評価によるべストシステム [16] は，メッセージレベルを入力とし，緯度経度を出力すると捉えることができる.

位置情報を利用した多くのサービスが提案されているが，位置情報を推定するために，それぞれ個別

2) https://noisy-text.github.io/2016/geo-shared-task.html

入カテキスト：琵琶湖なう

予測メッシュコード : 5235

図 1: メッセージレベルの位置予測 Web API. 「琵琶湖なう」に対して予測した地域メッシュ（1 次メッシュ） を出力した例.

の実装を行っていたり，ブラックボックス化している場合も多い. そこで，我々は，標準的な位置予測基盤があれば，多くのサービス開発を簡素化できるだけでなく, 精度比較や再現性検証においても重要

ては，デモグラフィック解析，またはソーシャルリスニングツールとして商用サービスがあるものの， メッセージレベルの推定については，手法の透明性が高いスタンダードなサービスが存在しない。本稿では，今後開発されるであろうサービスの基盤となる座標と等間隔グリッド（地域メッシュ）の両方に対応したメッセージレベルの位置推定 Web $\mathrm{API}^{3}$ )を構築したので報告する. 図 1 に Web API の例を示す.「琵琶湖なう」というメッセージレベルの入力に対し，地域メッシュを（1 次メッシュ）を予測して地図上に出力した結果である.

## 2 データ

ツイート投稿者の日本国内における位置を予測するモデルを構築するために，日本における位置情報付きツイートを利用する. Twitter API v2 の Academic Research アクセスで “place_country:jp”のクエリを指定し，2022 年 7 月 1 日から同月 31 日まで， 1 時間あたり小よそ 1500 件，合計 $1,111,576$ 件の位置情報 (GeoTag) 付きツイートを取得した.

GeoTag には, 特定の緯度・経度を示す “Point” と特定のエリアを表す “Place”があり，それぞれ一意に

定まる place_id と関連付けられている。このplace_id に基づき，対応する緯度・経度を各ツイートに付与する。なお，GeoTag が特定のエリアを表す “Place” の場合は，そのエリアの南端と西端および北端と東端の緯度・経度を付与する。

次に，各ツイートの緯度・経度に基づき，地域メッシュコードを付与する，地域メッシュは，都道府県よりも粒度が小さく, 行政区画の変更にも左右されないという利点から，統計調査によく用いられる地域分割である. 1 次メッシュは地域メッシュのなかで最も粒度の大きい分割で， 1 辺が約 $80 \mathrm{~km}$ である. 2 次メッシュは 1 次メッシュを $8 \times 8$ マスに分割したもので 1 辺が約 $10 \mathrm{~km}$ である. 今回は，各ツイートの緯度・経度に基づき，1 次メッシュコー ドと 2 次メッシュコードを付与する。

本文に含まれる URL，メンションおよび半角・全角スペースは除去した。

## 3 提案手法

本研究では, 緯度・経度を回帰問題として推定するモデル（緯度経度推定モデル）と，地域メッシュを分類問題として推定するモデル（メッシュ推定モデル）を構築する.メッシュ推定モデルはさらに， 1 次メッシュ推定モデルと 2 次メッシュ推定モデルとで別個に作成する。 入力テキストをエンコードするモデルとして Bidirectional Encoder Representations from Transformers (BERT) [17]を日本語コーパスで事前学習したモデル ${ }^{4)}$ を採用した. 緯度経度推定モデルおよび 1 次メッシュ推定モデルでは日本全体を予測範囲とする。一方，2 次メッシュ推定モデルでは予測範囲を東京（1 次メッシュコード: 5339）に限定し，計算負荷が高くなり過ぎない程度の予測メッシュ数に抑えた. 1 次メッシュ推定モデルで 140,2 次メッシュ推定モデルで 61 のメッシュを予測する。

緯度経度推定モデルの目的関数と評価関数は，ともに緯度経度の平均二乗誤差とする。なお，地球が完全な球でないことによって起きる実際の距離のずれは補正しない。また。メッシュ推定モデルの目的関数と評価関数には cross entropy を用いた。

## 4 結果

位置情報付きツイートデータを 8 （訓練）:1（検証）：1（テスト）の割合で分割し，構築した緯度経

4) https://huggingface.co/cl-tohoku/ bert-base-japanese-whole-word-masking
表 1: 各モデルに対する test loss と test accuracy

度推定モデルとメッシュ推定モデルの精度を評価した.なお，ツイートの多くは東京近辺および人口の多い都市で投稿されるため，データの不均衡が生じる。そのため，1 次メッシュ推定モデルにおいては同一メッシュ内のデータを 300,000 件以内に制限し，1,111,576 件の位置情報付きツイートを用いた。また 2 次メッシュ推定モデルについては東京都の大部分を含む地域メッシュ（1 次メッシュコード： 5339) を対象としたため，323,234 件の位置情報付きツイートを用いた. 学習条件として最適化手法は Adam, 学習率は $1.0 \times 10^{-5}$, エポック数は 5 , バッチサイズは 2 とした. 表 1 に緯度経度およびメッシュ推定のテストデータ推定結果を示す.

## 5 考察

## 5.1 緯度経度推定モデル

日本周辺の緯度，経度 $1^{\circ}$ あたりの距離は約 $90 \mathrm{~km}$ であることから， $\sqrt{\text { test loss }}=\sqrt{24} \fallingdotseq 4.9$ は非常に大きなずれと言える。この原因を分析するために，緯度経度推定モデルによる「奈良公園なう」の予測位置と，学習データにおいて “奈良公園”を含むツイー 卜を地図上に可視化した (図 2a). 赤色のピンがモデルの出力であり，黄色の円で示された範囲に 25 件の学習データがあり，青色のピンに 1 件学習デー タが存在した. 実際には奈良公園は黄色の円内に存在する。青色のピンのツイート本文は「奈良公園の鹿みたいに白鳥がいます」であり。この投稿においては，投稿者が実際にいる地点と言及された地点が一致していない。この地点のずれは $\mathrm{A} / \mathrm{B}$ 問題 [18] と呼ばれている。この影響により予測位置が東側に大きく引っ張られている.

## 5.2 メッシュ推定モデル

1 次メッシュ推定モデルにおける「奈良公園なう」 の出力結果を図 $2 b$ に示す. 緯度経度推定モデルと異なり，奈良公園を含む地域メッシュを正しく出力している。これは緯度経度推定モデルが回帰問題を

(a) 緯度経度推定モデル

(b) 1 次メッシュモデル図 2: 「奈良公園なう」の予測結果，(a) 赤色のピンは緯度経度推定モデルによる「奈良公園なう」の予測位置,青色のピンと黄色の円は「奈良公園」を含む train データの位置を示す

扱っているのに対し，1 次メッシュ推定モデルはクラス分類問題を扱ったためであると考えられる。

続いて 1 次メッシュ推定モデルにおける本文に含まれる地名の数と推定精度の関係を分析した. 具体的には，Spacy の "ja_core_news_md"5) の GPE ラベルに基づき，ツイート中の地名を抽出した（表 3）.テストデータのうち，地名を含まないものが大半（約 $85 \%$ ）を占め，地名を 1 つ含むものが約 $11 \%$ ，地名を複数含むものが約 $4 \%$ であった.

同様に 2 次メッシュ推定モデルにおいても地名の有無と予測精度の関係を分析した。表 2 の (1)(4)(7)(10) は地名を含まない例，(2)(5)(8)(11) は地名を 1 つ含む例，(3)(6)(9)(12) は地名を複数含む例である.(1)のように地名を含まないツイートの予測精度は低い.このようなツイートの位置を予測することは人間にも難しいので妥当な結果と言える。地名を複数含むときは，地名を 1 つしか含まないときと比べ予測精度が高い。その要因として，(3)の旭川市と北海道のように包含関係にある地名が出現する，または同一の地名が繰り返し出現することが挙げられる. また同一の地名が繰り返し出現するツイートは，ハッシュタグにより地名が追加されていることが多かった. 一方で，(12)のように位置的に全く異なる地点を挙げている場合は予測が難しい.

また，1 次メッシュ推定モデルにおける地名を含まない正解データは 7,305 件であった. 地名以外の地点を特定できる要因を調べるために該当データを分析したが，有益な分析結果は得られなかった。

このように地名を含まないツイートが多いことが，予測精度が向上しない一因であると考える．加えて，隣接する地域メッシュにおいて，ツイート内容に大きな差が見られないことが，メッシュ推定モ

5) https://spacy.io/models/ja
表 2: メッシュ推定モデルにおける正解例と誤り例.(1)-(6) は 1 次メッシュ推定モデルによる結果，(7)-(12) は 2 次メッシュ推定モデルによる結果. 太字は固有表現抽出により抽出された地名を表す.

表 3: 地名の有無と推定精度の分析. 地名を含むツイートの方が Accuracy が高いことがわかる.

デルの正解率が $20 \%$ か $30 \%$とどまった原因であると考えられる。これは特に 2 次メッシュ推定モデルにおいて顕著である．例えば，観光地において $10 \mathrm{~km}$ 先に有名なスポットがある場合，もしくは， $80 \mathrm{~km}$ 離れた地点であれば方言など，ツイートに言語的な差が現れる可能性がある. しかし, 街中や住宅街において言語的な差が現れる可能性は低く，依然として難しい問題であると言える.

## 6 おわりに

本研究では Twitter API から取得した位置情報付きツイートを用いて位置推定モデルを作成した. 同時に Web API として公開した. 緯度経度推定モデルでは A/B 問題により予測が大きくずれること，また地域メッシュモデルでは地名を含まないツイートが多いために位置推定が困難であることを示した.

本研究で提案した手法の精度は, 緯度経度モデルで平均約 $441 \mathrm{~km}(\sqrt{\text { testloss }} * 90=\sqrt{24} * 90 \fallingdotseq 441)$, メッシュ推定モデルでは Accuracy が $20 \%$ から $30 \%$ であり，位置情報をもとにしたサービスや研究への応用のためには, さらなる精度の向上は不可欠である. ツイート本文には地名が含まれていないものが多く，人間にも推定が難しいと考えられる。ユーザのプロフィール情報や投稿時間など他の情報を用いることにより精度が改善する可能性がある。

また出力の提示方法についても検討の余地がある. 例えば「朝起きるのが辛かった」というツイー トがあったとき，人間であれば予測不可能な問題として扱うことになる. しかし，提案モデルは必ず特定の位置を出力するため，位置推定における曖昧性を適切に表すことができていない．特定の地域メッシュではなく，すべての地域メッシュに対する確率を出力する方法も検討したい. また，そもそも人間が正確に位置予測できるツイートの割合や典型的な誤りの粒度（地方レベル，都道府県レベル，ランドマークレベルなど）はあまり知られていない。人間にも予測可能なツイートのみを用いてモデルを評価し，課題を検討したい.

## 謝辞

本研究は, JSPS 科研費 JP22H03648, JP22K12041, JST SICORP JPMJSC2107, Yahoo 株式会社共同研究費の支援を受けたものである。

## 参考文献

[1] Kenta Sasaki, Shinichi Nagano, Koji Ueno, and Kenta Cho. Feasibility Study on Detection of Transportation Information Exploiting Twitter as a Sensor. In Proceedings of the International AAAI Conference on Web and Social Media, 2012.

[2] Vanessa Frias-Martinez, Victor Soto, Heath Hohwald, and Enrique Frias-Martinez. Characterizing Urban Landscapes Using Geolocated Tweets. In 2012 International Conference on Privacy, Security, Risk and Trust and 2012 International Confernece on Social Computing, pp. 239-248, 2012.

[3] Ryong Lee, Shoko Wakamiya, and Kazutoshi Sumiya. Urban area Characterization Based on Crowd Behavioral Lifelogs over Twitter. Personal and Ubiquitous Computing, Vol. 17, p. 605-620, 2013.

[4] Panote Siriaraya, Yuanyuan Wang, Yihong Zhang, Shoko Wakamiya, Péter Jeszenszky, Yukiko Kawai, and Adam Jatowt. Beyond the Shortest Route: A Survey on QualityAware Route Navigation for Pedestrians. IEEE Access, Vol. 8, pp. 135569-135590, 2020.

[5] Takeshi Sakaki, Makoto Okazaki, and Yutaka Matsuo. Earthquake Shakes Twitter Users: Real-Time Event Detection by Social Sensors. In Proceedings of the 19th International Conference on World Wide Web, WWW '10, p. 851-860, 2010.

[6] Eiji Aramaki, Sachiko Maskawa, and Mizuki Morita. Twitter Catches The Flu: Detecting Influenza Epidemics using Twitter. In Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing, pp. 1568-1576, 2011 .

[7] Shohei Hisada, Taichi Murayama, Kota Tsubouchi, Sumio Fujita, Shuntaro Yada, Shoko Wakamiya, and Eiji Aramaki. Surveillance of Early Stage COVID-19 Clusters Using Search Query Logs and Mobile Device-Based Location Information. Scientific Reports, Vol. 10, p. 18680, 2020

[8] Adam Badawy, Emilio Ferrara, and Kristina Lerman. Analyzing the Digital Traces of Political Manipulation: The 2016 Russian Interference Twitter Campaign. In 2018 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining (ASONAM), pp. 258-265, 2018.

[9] Alan Mislove, Sune Lehmann, Yong-Yeol Ahn, JukkaPekka Onnela, and J. Niels Rosenquist. Pulse of the Nation: U.S. Mood Throughout the Day inferred from Twitter, 2010. https://www.ccs.neu.edu/home/amislove/ twittermood/.

[10] Mark E. Larsen, Tjeerd W. Boonstra, Philip J. Batterham, Bridianne O'Dea, Cecile Paris, and Helen Christensen. We Feel: Mapping Emotion on Twitter. IEEE Journal of Biomedical and Health Informatics, Vol. 19, No. 4, pp. 1246-1252, 2015.

[11] ツイッターの空間分析. 古今書院, 2019.

[12] Bo Han, Afshin Rahimi, Leon Derczynski, and Timothy Baldwin. Twitter Geolocation Prediction Shared Task of the 2016 Workshop on Noisy User-generated Text. In Proceedings of the 2nd Workshop on Noisy Usergenerated Text (WNUT), 2016.

[13] Benjamin Wing and Jason Baldridge. Simple Supervised Document Geolocation with Geodesic Grids. In Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics: Human Language Technologies, 2011.

[14] Stephen Roller, Michael Speriosu, Sarat Rallapalli, Benjamin Wing, and Jason Baldridge. Supervised Text-Based Geolocation Using Language Models on an Adaptive Grid. In Proceedings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, EMNLPCoNLL'12, p. 1500-1510, 2012.
[15] Hayate Iso, Shoko Wakamiya, and Eiji Aramaki. Density Estimation for Geolocation via Convolutional Mixture Density Network. arXiv preprint arXiv:1705.02750, 2017.

[16] Yasuhide Miura, Motoki Taniguchi, Tomoki Taniguchi, and Tomoko Ohkuma. A Simple Scalable Neural Networks based Model for Geolocation Prediction in Twitter. In Proceedings of the 2nd Workshop on Noisy Usergenerated Text (WNUT), pp. 235-239, 2016.

[17] BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding, author $=$.

[18] Rabindra Lamsal, Aaron Harwood, and Maria Rodriguez Read. Where id you Tweet from? Inferring the Origin Locations of Tweets Based on Contextual Information. arXiv preprint arXiv:2211.16506, 2022.

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/


# 場所参照表現と位置情報を紐付ける ジオコーディングの概観と発展に向けての考察

久本空海 ${ }^{1}$ 西尾悟 ${ }^{1}$ 井口奏大 ${ }^{1}$ 古川泰人 ${ }^{1}$

1 株式会社 MIERUNE 2 奈良先端科学技術大学院大学 3 情報通信研究機構
4 理化学研究所
\{hisamoto,nishio, iguchi, furukawa\}@mierune.co.jp,
\{otomo.hiroyuki.ob7, hiroki.ouchi\}@is.naist.jp, shohei.higashiyama@nict.go.jp

## 概要

ジオコーディングは、住所や施設名といった間接的に位置を表す「場所参照表現」と、緯度経度のように直接的な「位置情報」を紐付ける処理である。本稿ではその問題設定を解説し、関連する言語処理タスクとの関係や各種用語を整理した上で、言語資源やソフトウェア実装、既存サービスといったリソースを概観し、現状の課題と、更なる発展へ向けての方向性を検討する。

## 1 はじめに

計算機と地図アプリケーションの発展や、GPS など衛星測位システムを利用できるスマートフォンの普及により、位置情報の利用は身近になった。言語処理分野では対象となるデータの多くに、住所や地名をはじめ、位置を指し示す様々な情報が散りばめられている。しかしそれらの語句は、そのままの表現では機械処理による活用が限定される。言語情報と位置情報を紐づける処理は、既存の地図サービスに見られる検索などでも欠かせないものであるし、また分野を横断したまだ見ぬ実応用の実現へ向けても重要なピースとなる。この処理を担うのがジオコーディングである。ジオコーディングは、住所や地名、施設名といった間接的に位置を表す「場所参照表現」を、緯度経度のように直接的な 「位置情報」へと紐付ける処理である。

本稿ではまず問題設定を解説し、関連タスクと用語を整理したのち、データや実装、既存サービスといったリソースを概観し、現状の課題と、発展へ向けての方向性を検討する。加えて付録 A で関連デー タセット、付録 B で関連サービスを紹介する。

## 2 ジオコーディングと関連タスク

## 2.1 ジオコーディング

ジオコーディングでは入力として、テキストによる場所参照表現が与えられる ${ }^{1}$ 。場所参照表現は奈良県生駒市高山町 8916-5 といった「住所・所在地」 や、日本橋のような「地名」、さっぽろテレビ塔といった「関心がある場所 (Point of Interest, POI)」を含む。また固有名による具体的な名称だけでなく、県、病院、コンビニ、自然言語処理研究室のような、一意に位置の特定ができない一般名詞句による記述も対象とすることがある。

入力された場所参照表現に対して、ジオコーディングでは対応する適切な位置情報（地理座標）を出力する。この時、位置情報を直接出力することもできるが、まずデータベースなどへ登録されている識別子との紐付けを行い、次にその識別子に付随する属性としての位置情報を出力することもできる [1]。図 1 に入出力の流れを示した。識別子を介すことで

図 1 ジオコーディングの入出力例。Aでは位置情報を直接出力し、Bでは識別子を介してから出力している。

入出力が疎結合となり、用途にあわせて異なる属性を利用したり、その識別子を他の知識ベースと紐付けることが可能となる。

出力される位置情報は、多くの場合では地球上の緯度・経度が想定されるが、位置を特定する情報であればそれに限らない（例えば平面直角座標系の座標値)。経緯度のように縦横軸での位置情報だけでなく、標高や建物内の位置といった高さの情報を必要とするケースも考えられる。また、出力を「点 （ポイント）」ではなく「面（ポリゴン）」としたいこともある。例えば札幌という入力に対し用途によっては、ある一点ではなく、その行政区域全体を得たいことがあるだろう。行政区域より小さい敷地や建物であっても、それを点ではなく詳細なスケー ルで適切にポリゴンとして表現する場合もある。図 2 に小スケールでの複雑なポリゴンの例を示す。

図 2 国会議事堂を示すポリゴン ⓞOpenStreetMap contributors

出力を点としたいが、対象が一定の領域を占める場合には、その「代表点」を選択する必要がある。例えば札幌の代表点としては、意味的な中心として“札幌市役所”であったり“札幌駅”を選ぶこともできるし、その行政区域の地理的な中心（ポリゴンの重心）を選択することも可能である。ポリゴンの重心を代表点とするとき、領域が三日月のように凹多角形であったり、円環のようにその内へ非領域を含んでいたり、もしくは飛地のように対象が複数の領域を持つ場合には、点が領域外へ配置されることがあり得る。図 3 に、いくつかの形状に対する重心の例を示す。領域外に代表点を配置することは、ジオコーディングの用途を考えると適切ではないため、単に重心を算出するのではなく、なにかしら対処する必要がある（例えば領域内の点から、重心に最も近いものを選択)。

このように、ジオコーディングの出力は自明ではなく、データや用途によって異なる。また、狭義にはジオコーディングは位置情報の出力までを指すが、多くの場合で出力はその後、人間の解釈がしやすいよう地図上に可視化される。

A. 凸多角形

B. 凹多角形

C. 円環

D. 飛地図 3 様々な領域へ対する重心の例。形状によっては重心が領域外に配置される。

## 2.2 逆ジオコーディング

位置情報から、その地点を示すテキストでの所在地や、その点を含む地域の名前などを求める夕スクを「逆ジオコーディング」という。用途としては、自動車に搭載された GPS センサーによる経緯度データから、人間にとって可読性が高いテキスト表記へと変換し、経由地点記録を自動生成したり、事故現場の報告に利用するといった例が挙げられる。

## 2.3 自然言語処理における関連タスク

自然言語処理、特に情報抽出分野における固有表現抽出（Named Entity Recognition, NER）は、テキストに含まれる人名や組織名、地名などの固有名や、日付や時間、金額などの数値表現といった固有表現を抽出するタスクである [2]。エンティティ曖昧性解消（Entity Resolution/Disambiguation）は、固有表現をデータベース上の項目と対応づけるタスクである。固有表現抽出とエンティティ曖昧性解消をあわせたタスクはエンティティ・リンキング

（Entity Linking）と呼ばれる。

地理的な固有表現や一般名詞句の表現、つまり場所参照表現に特化した処理の場合、エンティティ曖昧性解消はジオコーディングに相当する。 またその場合、固有表現抽出は Geotagging または Toponym Extraction、エンティティ・リンキングは Geoparsing と呼ばれることがある [3]。図 4 に各タスクの関係を示す。

Geolocation は対象の位置情報を推定・特定するタスクを表し、自然言語処理分野の文献では、文書やユーザーの位置情報推定を論じるときに用いられることがある $[4,5,6]$ 。

図 4

ジオコーディングと関連する情報抽出タスクの関係

## 2.4 ジオコーディングに関連する用語

地理情報システム (Geographic Information System, GIS）は、位置に紐づく情報の管理・加工・分析・可視化などを行うシステム、及びそれを取り巻く分野を指す。ジオコーディングも GIS が扱う問題の一つである。

ジオコーディングは、文献や文脈によって異なる呼称が用いられることがある。自然言語処理の分野では同様の処理が Toponym Resolution[7] や場所参照表現解析 $[8,9,10]$ と呼ばれることがある。また、特に住所を対象とした処理は Address Geocoding2) やアドレスマッチング $[11,12]$ と呼ばれることがある。Geocoding は住所や郵便番号のみを対象とし、 Toponym Resolution は文書中の表現を対象とするとして区別されることもある3)。

ジオコーディングを行うソフトウェアはジオコーダー (Geocoder) と呼ばれる。英単語としての Geocode は、動詞として使用される際はジオコー ディング処理を表すが、名詞としては位置情報を示す“コード”（例えば国名コードや郵便番号）を指すことに注意が必要である。

## 3 リソース

ジオコーディングには、地名などの「場所参照表現」と経緯度などの「位置情報」が対になったデー タが不可欠である。そのようなデータは、地名辞書、ジオコーディングデータベース、Gazetteer（ガゼッティア）などと呼ばれる。

入力されたテキストをもとに、上記の地名辞書に対する検索を行い、マッチした項目の位置情報を返すことでジオコーディング処理が実現できる。これは全文検索と同じ枠組みであり、実際に全文検索エンジンを用いてジオコーダーを構築することができる。なお、入力されたテキストは辞書項目と文字列として完全に一致するとは限らず、部分一致であったり、誤字や表記摇れが含まれていることも想定される。

## 3.1 データ

既存の様々なデータセットは、それぞれ対象範囲が異なる。日本国内の領域のみを対象としているものや、全世界をカバーしていると標榜しているもの

がある。また、範囲の粒度や対象の種類にも差異がある。例えば国内を対象としたデータセットでも、 あるものは行政区域レベルまでしかなく、他のデー 夕は更に細かい街区単位での情報を持つ。加えて対象として、一般的な住所だけでなく、2.1 節でも述べた施設などの POI が望まれるケースも多い。

言語の観点からもデータセットには差異がある。例えば日本を対象としていても、札幌という漢字表記か Sapporo という英字表記かでは利用できる状況が大きく異なる。他にも、もとにする言語や、翻字の形式によってテキストが異なりうる。例えばウクライナの首都は、ウクライナ語をもとにしたキー ウとも、ロシア語をもとにしたキエフなどとも表記されうる。同じ言語であっても、表記の摇れがあったり、正式名称に加えて別称が存在する場合もある。例えば京都市では、住所に通り名を含む場合と含まない場合で摇れがみられることがある [13]。他には、過去に使われた歴史的な名称を考慮したい状況も考えられるだろう。

付録 A で、ジオコーディングへ活用できるオープンな関連データセットを紹介している。

## 3.2 実装とサービス

ジオコーダー構築に利用できるソフトウェア実装や、既存のサービスを紹介する。

Elasticsearch ${ }^{4}$ は汎用的な全文検索エンジンであり、地名辞書の検索に利用できる。位置情報に関連する機能も実装されており、点や線、ポリゴンなど位置情報を保持し、それらに対して空間検索クエリを実行することができる。

Nominatim ${ }^{5}$ は、オープンな世界地図をつくる共同作業プロジェクト「OpenStreetMap」（OSM）のデータを利用したジオコーダーで、OSM ウェブサイトの検索部分にも利用されている。コードはオー プンソースソフトウェアとして公開されている。

carmen ${ }^{6}$ は、Mapbox 社によるジオコーダー実装である。ベクトルタイル技術を応用しており、デー タベースではなくファイルを利用するためデータの入れ替えが容易である。実装には [14] で提案された誤字や部分一致入力からの効率的な探索手法が参考にされている。元々はオープンソースだったが7)、現在は非公開となっている。

4) https://www.elastic.co/elasticsearch/

5) https://nominatim.org/

6) https://www.npmjs.com/package/@mapbox/carmen

7) https://github.com/mapbox/carmen
国立情報学研究所の北本らによる GeoNLP プロジェクト $[1,15,16]$ は、オープンな地名情報処理のためのソフトウェア、データ、サービスを研究開発する取り組みである。その中で PyGeoNLP ${ }^{8}$ は、テキストから地名を抽出して、曖昧性を解消し、地名語辞書とリンクして位置情報を出力するソフトウェアである。また jageocoder ${ }^{9}$ は、住所を対象としたもので、PyGeoNLP と連携させることで文章中の住所をジオコーディングできる。

東京大学空間情報科学研究センターによる位置参照技術を用いたツールとューティリティ10) は、住所・地名フィールドを含む CSV 形式データにアドレスマッチング処理を行う「CSVアドレスマッチングサービス」や、日本語で記述された住所・地名・駅名・公共施設名を経緯度に変換し、結果を XML 形式で返す「シンプルジオコーディング実験」を提供している。

ジオコーダーの実装としてはここで紹介したほかにも、オープンソースソフトウェアが多数が存在する11)。しかし多くの実装は、それ自体ではデータやアルゴリズムを持っておらず、既存のジオコーディング・サービスを利用するためのクライアントであることに注意が必要である。

上記に加え付録 B で、商用を含む関連サービスを紹介している。

## 4 課題と発展に向けての考察

曖昧性の解消ジオコーディングの大きな課題として曖昧性の解消が挙げられる。入力された場所参照表現に対応するエントリがデータベースに登録されていたとしても、追加情報がないと曖昧性解消ができないケースは多い。例えば日本橋という地名は大阪にも東京にも存在し曖昧性がある。

曖昧性解消のために、外部の情報源を参考にしたり（例えば人口が一番多い場所を選択）、ユーザー の現在位置などを活用することが考えられる。加えて実応用においては、複数の検索候補をサジェストし、かつ入力ごとに候補を提示するインクリメントサーチにより、ユーザーが望む情報へ辿り着きやすくする工夫が可能である。しかし依然として、十分な情報が与えられていない状況では、それ以上の対処は難しい。

8) https://geonlp.ex.nii.ac.jp/pygeonlp/

9) https://geonlp.ex.nii.ac.jp/jageocoder/

10) https://geocode.csis.u-tokyo.ac.jp/

11) https://github.com/topics/geocoder
より適切に曖昧性を解消するための一つの方向性として、入力の拡張が考えられる。図 4 で示したように、多くの場合にジオコーディングの前には、固有表現抽出ステップ (Toponym Resolution / Geotagging）がある。システムへ、抽出された“固有表現”を入力するのではなく、“文・文書”を入力として二つのタスクを同時に解くことで、文脈を考慮でき、曖昧性解消の性能を向上できる可能性がある。例えば銀座から日本橋へ歩いたという文であれば、この日本橋は東京のものを指す可能性が高い。そしてそのような処理には、従来の全文検索ベースのジオコーディングにも増して、自然言語処理や機械学習の技術の活用が重要となる。

画像やユーザー履歴など、文書以外の情報を併用することも曖昧性解消に有効と考えられる。画像などのデータ自体にジオタグ（位置情報）が付随していることもあり、共に存在するテキストの位置情報を間接的に把握でき、学習データの拡張や辞書項目の半自動収集などへ活用できる可能性がある。

データの整備性能評価や知見の蓄積を容易にするため、評価のためのデータセットを整備することも重要な課題である。関連する既存資源として日本語では、場所参照表現タグ付きコーパス $[9]^{12)}$ や日本語 Wikification コーパス [17] ${ }^{13)}$ がある。前者は構築されたデータ全体が公開されていない、後者はジオコーディングへ特化したデータではないという制限がある。公平な性能比較のできる新たな評価用データセットを構築することで、技術的発展の加速が期待できる。

産学官民それぞれで、これからデータの更なる増加が予想される。例えば、デジタル庁は社会の基本データとしてべース・レジストリ14）を整備しており、これにはアドレス (町字・字番) や不動産登記情報など土地・地図に関するデータも含まれている [18]。他方で、行政の役割は正確な情報の管理であり、通称や読み間違いなどの情報は民間領域となる。公的情報以外にも、ソーシャルネットワークのデータや、各種のユーザー生成コンテンツ、アプリのログなど、これまで存在しなかった多様なデータは急増している。それぞれを適切に連携させることで、まだ見ぬ資源の構築が可能となり、それによって位置情報処理の更なる展開が拓けるだろう。

12) http://www.cl.ecei.tohoku.ac.jp/ matsuda/ LRE_corpus/

13) http://www.cl.ecei.tohoku.ac.jp/jawikify/

14) https://www.digital.go.jp/policies/base_registry/

## 参考文献

[1] 北本朝展. 地名の情報学とデータ駆動型研究の展開.日本学術会議公開シンポジウム「地名標準化の現状と課題: 地名データベースの構築と地名標準化機関の設置に向けて」, 2022. https://www. scj.go.jp/ja/event/pdf3/321-s-1218-t5.pdf,（参照 2023-01-11)

[2] 岩倉友哉, 関根聡. 情報抽出・固有表現抽出のための基礎知識. 近代科学社, 2020 .

[3] Milan Gritta, Mohammad Taher Pilehvar, and Nigel Collier. A pragmatic guide to geoparsing evaluation. Language resources and evaluation, Vol. 54, No. 3, pp. 683-712, 2020.

[4] Stephen Roller, Michael Speriosu, Sarat Rallapalli, Benjamin Wing, and Jason Baldridge. Supervised textbased geolocation using language models on an adaptive grid. In Proceedings of the $\mathbf{2 0 1 2}$ Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, pp. 1500-1510, Jeju Island, Korea, July 2012. Association for Computational Linguistics.

[5] Mark Dredze, Miles Osborne, and Prabhanjan Kambadur. Geolocation for Twitter: Timing matters. In Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 1064-1069, San Diego, California, June 2016. Association for Computational Linguistics.

[6] Afshin Rahimi, Trevor Cohn, and Timothy Baldwin. A neural model for user geolocation and lexical dialectology. In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers), pp. 209-216, Vancouver, Canada, July 2017. Association for Computational Linguistics.

[7] Davy Weissenbacher, Arjun Magge, Karen O'Connor, Matthew Scotch, and Graciela Gonzalez-Hernandez. SemEval-2019 task 12: Toponym resolution in scientific papers. In Proceedings of the 13th International Workshop on Semantic Evaluation, pp. 907-916, Minneapolis, Minnesota, USA, June 2019. Association for Computational Linguistics.

[8] 佐々木彬, 五十嵐祐貴, 渡邊陽太郎, 乾健太郎. 場所参照表現のグラウンディングに向けて. 言語処理学会第 20 回年次大会発表論文集, 2014.

[9] 松田耕史, 佐々木彬, 岡崎直観, 乾健太郎. 場所参照表現タグ付きコーパスの構築と評価. 情報処理学会研究報告. 自然言語処理研究会報告, Vol. 2015, No. 12, pp. 1-10, 12015.

[10] 大友寛之, 大内啓樹, 星野智紀, 井手佑翼, 渡辺太郎.訪問場所表現グラウンディングのためのアノテー ション. 言語処理学会第 28 回年次大会発表論文集, 2022.

[11] 浅見泰司, 矢野桂司, 貞広幸雄, 湯田ミノリ. 地理情報科学: GIS スタンダード. 古今書院, 2015.

[12] 東京大学空間情報科学研究センター. CSV アドレスマッチングサービスー位置参照技術を用いたツールとユーティリティ.https://geocode.csis.u-tokyo. ac.jp/home/csv-admatch/，（参照 2023-01-11）

[13] 矢野桂司. ジオコーディングのための京都市の住所表記に関する現状と課題. 立命館文學, Vol. 666,pp. 30-44-, 32020.

[14] Christian Jung, Daniel Karch, Sebastian Knopp, Dennis Luxen, and Peter Sanders. Efficient error-correcting geocoding. arXiv preprint arXiv:1102.3306, 2011.

[15] 北本朝展. 地名情報処理環境 geonlp の紹介と歴史的な地名に関する課題. 第 9 回人間文化研究機構情報資源共有化研究会, pp. 43-60, 72014.

[16] 北本朝展, 村田健史. 歴史的行政区域データセット $\beta$ 版をはじめとする地名情報基盤の構築と歴史ビッグデータへの活用. 情報処理学会技術報告, 第 2020-CH-124 巻, pp. 1-8, 92020.

[17] Davaajav Jargalsaikhan, Naoaki Okazaki, Koji Matsuda, and Kentaro Inui. Building a corpus for Japanese Wikification with fine-grained entity classes. In Proceedings of the ACL 2016 Student Research Workshop, pp. 138144, Berlin, Germany, August 2016. Association for Computational Linguistics.

[18] 平本健二.アドレス・ベース・レジストリの推進について. 日本学術会議公開シンポジウム「地名標準化の現状と課題 : 地名データベースの構築と地名標準化機関の設置に向けて」, 2022. https://www. scj.go.jp/ja/event/pdf3/321-s-1218-t3.pdf,（参照 2023-01-11）.

## A 関連データセット

オープンなデータをいくつか紹介する。データを検討する上での観点は 3.1 を参照のこと。

国土数値情報15） 国土交通省。地形、土地利用、公共施設などの国土に関する基礎的な情報を整備したデータ。

位置参照情報16） 国土交通省。国の都市計画区域相当範囲を対象に、街区単位の位置座標を整備したデータ。

地名集日本 ${ }^{17 ）}$ 国土交通省国土地理院。4,000 以上の地名と、その経緯度や種別を収録。元は PDF ファイルだが、第三者により CSV・JSON 形式へ整形されたデータもある ${ }^{18)}$

国勢調査町丁・字等別境界データ19）国勢調査の実施毎に設定された調査区の境界情報。

GeoNLP データ 20）国立情報学研究所の北本らによるプロジェクト $[1,15,16]$ 。地名の識別子 （GeoLOD ID）を付与した各種の地名語辞書を公開。

Geolonia 住所データ21）株式会社 Geolonia と一般社団法人不動産テック協会によるオープンデー タ。位置参照情報や日本郵便の郵便番号データをもとに月次更新。

OpenStreetMap ${ }^{22)}$ オープンな世界地図データベースをつくる共同作業プロジェクト。地名や住所に限らず POI などのデータも含む。

GeoNames ${ }^{23)}$ オープンな地理データベース。世界中の様々な公のソースからのデータに加え、ユー ザーによる共同編集も可能。

OpenAddresses ${ }^{24 ）}$ オープンな世界規模のアドレスデータ。ユーザーからのコントリビュートにより構築。

Who's On First ${ }^{25)}$ オープンな世界規模の地名辞書。既存の複数ソースをもとに統合して構築26)。

## B 関連サービス

3.2 節で言及したものに加えていくつか紹介する。

Google Maps Platform ${ }^{27)}$ 現時点の利用規約では、手元への保存や、Google Maps 以外の地図上での表示は禁止されていることに注意。

Yahoo! Open Local Platform (YOLP) ${ }^{28)}$ 地図、地域情報に関する API・SDK。現時点では一般公開された無償サービスでの利用は無料。

MIERUNE Search ${ }^{29}$ オープンソースソフトウェアとオープンデータを活用した住所・施設検索サー ビス・API。住所に加え POIにも対応。

OpenCage ${ }^{30)}$ ドイツの OpenCage 社が提供する日本語にも対応したジオコーディング API。

Geolonia Community Geocoder ${ }^{31)}$ Geolonia によるオープンソースの住所ジオコーディング API。位置参照情報を利用、大字町丁目単位までが対象。

など、京都市内で広く使われている独特の住所表記「通り名住所」をジオコーディングする API。

ケンオール ${ }^{33 ）}$ 郵便番号住所検索・住所逆引き・法人情報 $\mathrm{API}$ 。京都市の通り名や岩手県の地割、ビル名と町名の分割などに対応。

この他にも、地図サービス MapFanを提供する GeoTechnologies $^{34)}$ や地図情報を調査・制作・販売するゼンリン35）、昭文社グループの MAPPLE ${ }^{36)} 、$地図サービス会社の ESRI ジャパン37)、HERE ${ }^{38)} 、$

スの Amazon Web Services (AWS) ${ }^{40)}$ や Microsoft


# 文化財報告書データベースにおけるテキスト可視化と地理情報

高田祐一 ${ }^{1}$ Yanase Peter ${ }^{1}$ 武内樹治 ${ }^{2}$
${ }^{1}$ 奈良文化財研究所 ${ }^{2}$ 立命館大学大学院
takata-y23@nich. go. jp yanase-p7g@nich. go. jp
mikihdqt812@gmail.com

## 概要

文化財そのものは位置情報を保持し，関連する調查成果はテキスト媒体である。成果は報告書としてまとめられ報告書データベースには 27 億文字が登録されている。データベースは全文検索可能であるものの巨大であるため, 人間可読が難しく機械で読んでいくことが求められている.テキストの頻出語や地域ごとの特徴語の算出によって可視化した. また海外でも日本の成果を位置付けていくために国際連携のためのシソーラスマッピングを推進している. さらに文化財 WebGIS の構築によって文化財位置情報 61 万件を地理データとして扱えるようになり,文化財テキストと地理を組み合わせた新たな可能性の基盤となる.

## 1 全国遺跡報告総覧

奈良文化財研究所（以下，奈文研）は，文化財報告書を全文電子化しインターネット上で検索・閲覧できるようにした全国遺跡報告総覧 (以下, 遺跡総覧 ${ }^{\mathrm{i}}$ をを 2015 年 6 月から運営している (図 1 ). 遺

図 1 全国遺跡報告総覧トップページ
^{i}$ https://sitereports.nabunken.go.jp/ja
}

跡総覧には, 全国の文化財調查機関が報告書類の書誌および全文 PDF を Web 登録する．PDF にはテキストが含まれることから，遺跡総覧では，登録デー夕に全文検索が可能である. 2023 年 1 月 13 日時点で, PDF がある書誌数 33,893 件, PDF410 万ページ, 総文字数 27 億文字に対して全文検索が可能である. 従来は，書庫に籠り，1 ページずつ必要とする情報を探すという地味な作業であったため, 劇的に資料調查が効率的かつ網羅的になった。書誌情報には，国立国会図書館の JP 番号, CiNii Books の NCID を付与し, 各書誌の DB ヘリンクを設定しているので，実際の図書の所蔵館を調べることも可能である。遺跡総覧の利用状況として, 2021 年度には 197 万件の PDF のダウンロード， 9997 万件のページ閲覧数があった。

## 1.1 巨大データを可視化する

全文検索は至便であるもののテキスト量が巨大であるため，人間可読に適さない。そこで，機械的にテキストを可視化するために, 遺跡総覧の内部には,文化財関係用語シソーラスを保持している。シソー ラスに登録された文化財専門用語をもとに，テキス卜解析を実施し, 用語を切り出している. 奈文研が独自開発した言語リソースである. 専門の語彙数としては 190594 件であり, そこによみや類義語, 多言語対訳を付与している.

このシソーラスを活用することで，報告書に記載されている文化財関係用語で頻出用語や地域独自の特徴語を可視化できる（図2）。報告書ごとに特徵語を算出することで, 内容の類似度に応じたサジェスト機能も実装している.

報告書全体のテキストに対し, 考古学関係用語の出現回数を集計し, 図化した. 報告書ワードマップ iiという機能で閲覧できる. 用語をクリックすると

頻出用語のみを検索キーとした高精度検索が可能である。検索語を入力するには事前に専門知識が必要であるが，そういった知識がなくとも選択だけで検索が可能である. また都道府県ごとに考古学関係用語の特徴語を, 図化した. 当該都道府県内にて頻出する用語（よく使われる用語は重要）かつ他都道府県では出現頻度が低い用語（希少用語は重要）であることを勘案するため, 当該都道府県の強い特徴を

図 2 報告書ワードマップ（頻出用語俯瞰図）

図 3 報告書特徴語ワードマップ-福岡県示す用語を可視化できる. 自然言語処理技術のべクトル空間モデルの TF（索引語頻度）と IDF（逆文書頻度）を組み合わせた TF-IDF にて算出した。

全国的な専門用語の使い方と都道府県ごとの地域性を可視化した。

## 2 国際連携のための自然言語処理

日本の調査成果を海外からアクセスできるようにするため，多言語化対応を推進している．奈文研は ARIADNEplus という国際プロジェクトに参加している. ARIADNEplus とその前身であった ARIADNE は,欧州委員会の資金を受けて 2013 年から 2022 年までの間に実施された考古学研究プロジェクトであった。 その主な目的は，言語の壁と国境を乗り越え，ヨー ロッパの諸国の考古学データを整理し，その目録を公開することであった. ARIADNE は本来ヨーロッパ内のプロジェクトであったが，最終的にヨーロッパ圈外の国からの参加機関も関わるようになった. 2022 年 12 月の時点で公開カタログには約 350 万件ものデータセットが含まれていた. ARIADNEplus の名義で行われたプロジェクト自体が 2022 年に完了したが，公開カタログの維持と更新はこれからも予定されている.

ARIADNEplus のカタログは「時間」，「空間」と 「モノ」で検索ができる．日本のデータをこの国際的なカタログに統合するためには，奈文研には(1)デ一タのクレンジング, (2)データベースのスキーマの変換, (3)データマッピングの三つを行う必要があつた. その中で，日本の考古学用語の英語へのマッピングがとりわけ困難であった。 ARIADNE は言語を問わない横断検索を実現するために，それぞれの言語・

図4 マッピング作業の流れ
分野のシソーラスを米国の Getty 財団が運営している芸術関係用語のシソーラスである Art \& Architecture Thesaurusにマッピングさせた.ただ， ご存知の通り，日本ではそもそも芸術・文化財に関する整備されたシソーラスが存在していない. そのうえ, 日本考古学の用語は, 日本の特有な文化・歴史に由来するものも多いが，それより独自の道を歩んできた日本考古学そのもの文化・伝統に由来する表現が多い.

これらの用語を AAT にマッピングするためにはまず遺跡総覧から抽出した用語をいったん手動でマッピングした. ただ，それだとマッピングの再現性が低いので，次は手動で作ったマッピングを分析し， シンプルな自然言語処理に基ついてもう一度機械的にマッピングを作成した。これによってデータのばらつきがなくなり, 再現性も高まった.この処理ができるためには, ARIADNEplus が本来想定していた 1 対 1 のマッピングではなく, 1 対多の採用が前提となっていた. また, マッピング作業においてはマッピング・プロパティーも明記する必要があった. そのため, 複合名詞に含まれているそれぞれの名詞に対して，その位置に基づいて自動でマッピング・ プロパティーを付与した（図4）。

## 3 文化財総覧 WebGIS

奈文研では，全国の文化財に関する約 61 万件のデータを文化財総覧WebGIS ${ }^{\text {iii }}$ (図 5 ）として公開しており，地域・場所に根差した文化財を地図上で調べることができる。これまで報告書などでは位置情報を把握しづらいという課題があったが，この WebGIS によって位置情報を頼りに文化財情報を検索することが可能になった.

## 3.1 WebGIS に登録されているデータ

ここでは, 当WebGIS に登録されているデータを紹介する.

まず，背景地図として，地理院地図（標準地図や単色地図など）, 空中写真, 色別標高図, 傾斜量図などが備わっているのに加えて, 奈文研空中写真や平城宮跡の遺構図や地形図も含まれている. 兵庫県・静岡県・岐阜県については CS 立体図も追加している. また, 土砂災害警戒区域や地すべり危険箇所などのハザードマップも背景地図として表示することができる（図6）.

文化財情報として，文化庁や国土交通省が公開している国・都道府県指定文化財情報や，奈文研作成データ（遺跡データベース，平城宮・跡に関するデ一夕，遺跡地図データ），地方公共団体が公開している遺跡範囲等のデータなどが登録されている.

図 5 文化財総覧 WebGIS

## 3. 2 WebGIS の機能

図 6 ハザードマップと文化財分布（東京駅周辺）

当WebGIS では, 対象文化財のポイントやポリゴンをクリックすることで，対象文化財の名称や種別などの文化財情報を知ることができるとともに，その文化財の報告書が遺跡総覧で電子公開されているものであれば, 当該報告書のページへ遷移し, 報告書を閲覧することができる. WebGIS の機能として「都道府県」「種別」「時代」のそれぞれの項目で地図上に表示する対象文化財を絞ることができ，ある地域の古代の集落遺跡のみを表示することなどが可能である。「フリーワード検索」として，文化財名や遺構・遺物の名称などからも検索をかけることができる. 背景地図との重放合わせでは, 文化財情報とハザードマップを重ねることで文化財の災害リスクなどを予測することができ文化財防災の観点でも利用可能である. そして, 平城宮跡で出土した木簡や墨書土器について, 木簡に書かれた内容で検索できるなど, 平城宮の調査研究として役立つ機能もある.以上のような機能を用いて, 利用者は地域の文化財の再発見や地域学習, 学術研究の基盤として活用することができる.

## 3. 3 文化財地理情報と自然言語処理

ここでは今後の文化財総覧 WebGIS の発展可能性について, 自然言語処理の応用という点を中心に述べる.

地図上で検索した遺跡の情報をさらに知りたい場合には，報告書があれば閲覧できるものの，必ずしも報告書は万人に対して読みやすいようには書かれていない. そのため, 数百字程度で報告書内容の要約を生成し表示する機能などもあれば様々な利用者にとって情報を得やすいシステムになると思われる。 さらに, 発掘調查報告書では, 調查成果などをもと
に対象遺跡の付近や関連のある遺跡との関わりが記される場合が多い．報告書で言及された遺跡名を抽出することができれば，ある遺跡を調べた際にその報告書内で言及された他の遺跡を GIS 上に表示し，調べた遺跡と関連する遺跡へと利用者のデータ閲覧の流れを作ることに繋げられ，より深く文化財情報を活用する機会を提供できる可能性がある.さらに，関わりの深い遺跡であれば報告書内で言及されることが多いと仮定すると，その遺跡間の関わりを報告書内の遺跡名の出現頻度を自然言語処理の手法によって算出し，地図上でその関わり度合が表示されることで，誰もが容易に遺跡同士の関連性を知ることができると思われる。


# Double cross model による位置情報フレームアノテーション

川端 良子
国立国語研究所
}

大村舞
国立国語研究所
}

浅原正幸

国立国語研究所

竹内 誉羽
ホンダリサーチインスティチュート

## 概要

ことばに出現する空間情報の記述手法として Spatial ML や ISO-Space が提案されている。これらはテキスト中の固有位置情報や絶対参照（東西南北）を記述するためには有効ではあるが、話者自身が空間内実体である対話中の相対参照（前後左右） を記述するには不向きである。相対参照の曖昧性解消には有向辺（順序付き2つ組）のみによっては行えず、 2 つ以上の有向辺を実体の向きも含めてフレームとして保持する必要がある。一方、空間論理の分野では、位置情報の曖昧性解消手法として Double cross model が用いられる。本研究では対話中の相対参照を Double cross model によって表現することを試みたので報告する。

## 1 はじめに

どこかに連れて行ってもらいたいときに、連れて行ってもらう場所を緯度経度情報のみならず、さまざまなことばで表現する。位置情報を共有する目的指向の対話においては、お互いに知っている位置情報を交換するために、自身の位置や向きに基づく相対位置をことばで表現する。しかしながら、複数の場所 (Landmarks) もしくは空間内実体 (Spatial Entities) の相対位置を言語情報で表現する場合、単純な有向辺構造 (順序付き 2 つ組: ordered pairs) では表現しきれないことがある。

例えば「東京タワーを背にして右前方にすすんでください」といった表現を有向辺のみで表現するには、東京タワー (Landmark) と話者 (Spatial Entity) の相対位置を表現する辺と、話者 (Spatial Entity) の現在位置と進む方向 (Orientation) を表現する辺の $2 \supset$ を話者の向きとともに保持することを必要とする。位置情報を正確に同定するためには、この 2 つの辺
の相対的な位置情報を定義し、これらの情報を 1 つの位置情報フレームとしての保持することが、本質的に必要である。

空間論理 (Spatial Logic) の分野では、Double cross model と呼ばれる位置情報フレーム表現がある。 Double cross model は、字義どおり方向を示す cross (十字)を2つ用いる位置情報フレームであり、2つの cross の中心に場所・空間内実体を配置することで、向きや第 3 の場所・空間内実体をその 2 つの cross との相対位置で表現する。

本稿では、位置情報を共有する目的指向の対話における言語表現を、Double cross model を用いて表現することを試みる。さらに、向き (Direction and Orientation) ・距離 (Time and Space measurements) ・位相 (Mereotopological Relations) などをどのように表現するかを検討する。

## 2 位置情報フレーム表現

以下では、Spatial ML[1] や ISO-space [2, 3] などをベースに位置情報フレームの主要概念について説明する。検討にあたっては、Spatial Logic 関連の論文 [4] や日本国内の ISO-space の利用状況 [5] なども確認した。

## 2.1 タグ付け対象となる表現 (Mention)

本研究は以下のものをタグ付け対象とする。
- 場所表現 (Landmarks)：緯度・経度や住所地番など、固有の位置情報が定義される場所。
- 空間内実体表現 (Spatial Entities) : 空間上に配置される実体。話者もこれに相当する。
- 手がかり表現 (Signal)：位置情報・向き情報・距離情報などを示す表現。

本稿では、厳密にタグ付け表現のスパン（テキスト中の範囲）を定義しない。

## 2.2 位置情報の形式化

図 1 Cone-based model (absolute, relative)

南

後

図 2 Project-based model (absolute, relative)

位置情報の形式化については、その参照表現の型として3 種類あるとされる：
- 固有 (Intrinsic)：場所に内在する固有の向き・位置。
- 絶対 (Absolute)：鳥瞰による指示参照（東西南北)。
- 相対 (Relative)：実体からの視点に基づく指示参照（前後左右）。前提として、視点を持つ主体が向き (Orientation)を持つ。

一般に、位置情報の曖昧性解消は、緯度経度情報や住所地番により一意に定まる「固有」の情報から、鳥瞰による「絶対」指示参照や実体からの視点に基づく「相対」指示参照がある。

相対位置を形式化する際に用いられるモデルとして、cone-based model と project-based model について説明する。cone-based model (図 1)[6] は、場所・空間内実体の配置・向きを主体を中心とした範囲を持つ角度 (cone) で表現する。project-based model (図 2)[7] は、場所・空間内害体の配置・向きを主体とした範囲を持たない方向 (projection) で表現する。 cone-based と project-based は、いずれも有向辺構造 （順序付き 2 つ組：ordered pairs）で表現されるもので、 2 つの違いはその解釈もモダリティ（範囲を持つか否か）にある。

言語表現において、「固有」の位置情報に基づく、東西南北の「絶対」指示参照のみが出現する場合には、上記有向辺構造に基づくモデルのみで位置情報を特定できる。実際には、空間内の実体として、話
し手・聞き手が存在し、それぞれの視点からの「相対」指示参照表現に基づき、位置情報をやりとりすることが多い。

次に示す Double cross model は、空間内実体の視点からの相対位置を自然に表現できる位置情報の形式化である。

## 2.3 Double cross model

図 3 Double cross model

Double cross model (図 3)[8]、場所・空間内実体のうち 2 つを図中の 14 と 15 に配置したうえで、先の 2 つの要素の配置に基づいて、残り 1 つの相対位置や向きを表現する。

図 4 亿位置情報フレーム記述例を示す。本稿では、Double cross model をハッシュのリスト（順不同）で表現することのみを定義し、記述方法にはこだわらない。

なお、絶対参照（東西南北）のような表現の場合は Double cross model を用いる必要がないが、本研究では一貫して Double cross model のサブセットを用いて記述し、必要に応じて、2.6 節・2.7 節に示す情報を付与する。

## 2.4 Double cross model に含める情報

以下では、現状、我々が Double cross model に含める情報について示す。

・id: テキスト中のメンションの識別子。あらかじめ上流工程で付与された場所表現・手がかり表現の $\mathrm{ID}^{2}$ 。追加で空間内実体表現を新たに付与し、対話参与者を $\mathrm{S} 0$ ・H0 とする。

・type: テキスト中のメンションの型。以下のものからなる：
- landmark: 場所表現。
- se: 空間内害体表現。話し手、聞き手も含む。
- signal: シグナル表現。
- slot: Double cross model 中の配置番号。
【作例】「[東京タワー](ID:T1)を [背にして右前方に](ID:T2) すすんでください」聞き手は ID:H0。

$
\left.\{\left[\begin{array}{ll}
\text { id } & \mathrm{T} 1 \\
\text { type } & \text { landmark } \\
\text { slot } & 15
\end{array}\right]\left[\begin{array}{ll}
\text { id } & \mathrm{T} 2 \\
\text { type } & \text { signal } \\
\text { slot } & 12
\end{array}\right],\left[\begin{array}{ll}
\text { id } & \text { H0 } \\
\text { type } & \text { se } \\
\text { slot } & 14 \\
\text { ir } & 1
\end{array}\right]\right.\}
$

AVM による記述
[

JSONによる記述

YAML による記述

図 4 位置情報フレーム記述例 (AVM, JSON, YAML)

$\cdot$dir: 実体が向いている方向 (Double cross model 中の配置番号で指示)。向いている方向であって、進む方向ではない。

図 4 の例では、「東京タワー」(T1)・「(背にして)右前方に」(T2)・聞き手 $(\mathrm{H} 0$ ) を、それぞれ Double cross model の $15,12,14$ に配置し、聞き手 (H0) が 1 の方向を向いていることを意味する。

## 2.5 同型 (isomorphic)

図 5 同型の異表現 (inversion)

図 6 同型の異表現 (homing)

3 つ要素がある Double cross model では、同型の異表現が発生する場合がある。例えば、先の記述例は図 5 (inversion), 6 (homing) などの表現 [9] がある。

アノテーション作業者は、自分がアノテーションしやすい好きな表現によるアノテーションを行う。機械処理を行う場合、適切な空間論理の unary operation (inversion, homing) を実装する必要がある。

## 2.6 距離情報 (distal)

南

後図 7 距離情報（絶対と相対）

Double cross model は、相対の方向のみを指示し、距離は指定しない。距離情報にも絶対距離表現 $[10,6]$ と相対距離表現 [11] がある (図 7)。

絶対距離表現 (図 7 左) は 2 点間の距離もしくは到達にかかる時間を指定する。以下の例では、新たに type=distance を定義し、src に T13・tgt に T16を記述し、その距離を absdist に $20 \mathrm{~m}$ を記述する。

$
\begin{aligned}
& \text { 【03-06】 } \\
& \text { [ジングウマエコウバン](ID:T13) } \\
& \text { から [ [メイジジングウ](ID:T14) の } \\
& \text { ほうに [2 } 0 \text { メートル](ID:T15)[行っ } \\
& \text { た歩道](ID:T16) で [待ってて](ID:T17) } \\
& \left.\{\begin{array}{l}
{\left[\begin{array}{ll}
\text { id } & \text { T13 } \\
\text { type } & \text { landmark } \\
\text { slot } & 15
\end{array}\right],\left[\begin{array}{ll}
\text { id } & \text { T14 } \\
\text { type } & \text { landmark } \\
\text { slot } & 1
\end{array}\right],\left[\begin{array}{ll}
\text { id } & \text { T16 } \\
\text { type } & \text { landmark } \\
\text { slot } & 14
\end{array}\right],} \\
{\left[\begin{array}{ll}
\text { type } & \text { distance } \\
\text { id } & \text { T15 } \\
\text { type } & \text { signal }
\end{array}\right],\left[\begin{array}{ll}
\text { Src } & \text { T13 } \\
\text { tgt } & \text { T16 } \\
\text { absdist } & 20 \mathrm{~m}
\end{array}\right]}
\end{array}\right.\}
\end{aligned}
$

距離計量の直接的な表現でない場合には、 $\{\mathrm{cl}:$ 近

い, med: 中程度, far: 遠い\} などの表現を用いる。以下の例では、配置がわからないために Double cross model 上に配置は行わないが、type=distance を規定する。

## 【01-88】

[マンション街](ID:T413) の[えー](ID:T414)、 [近く](ID:T415)の [道路](ID:T416)

$
\left.\{\begin{array}{l}
\left.\{\begin{array}{ll}
\text { id } & \text { T413 } \\
\text { type } & \text { landmark }
\end{array}\right],\left[\begin{array}{ll}
\text { id } & \text { T415 } \\
\text { type } & \text { signal }
\end{array}\right],\left[\begin{array}{ll}
\text { id } & \text { T416 } \\
\text { type } & \text { landmark }
\end{array}\right], \\
\left.\{\begin{array}{ll}
\text { type } & \text { distance } \\
\text { src } & \text { T413 } \\
\text { tgt } & \text { T416 } \\
\text { absdist } & \text { cl }
\end{array}\right]
\end{array}\right.\}
$

相対距離表現 (図 7 右) は、ソとの距離と比して、\{n: 近い, e: 等しい, f: 遠い \} などの表現を用いる提案もある。しかしながら、単純に同一直線上にある場合には、Double cross model の 1-14-15-7 の相対位置で遠近を表現できるため、特に規定しない。具体的に距離が 2 倍、半分などわかる場合には、 2X, 1/2X などと記述することも検討したが、現在まで確認した対話データには出現しなかった。

## 2.7 位相情報 (topology)

$\langle S, T\rangle \in D C$

$\langle S, T\rangle \in P O$

$\langle S, T\rangle \in E C$

$\langle S, T\rangle \in E Q$

$\langle S, T\rangle \in \mathrm{TPP}$

$\langle S, T\rangle \in$ NTPP

$\langle S, T\rangle \in T P P^{-1}$

$\langle S, T\rangle \in N T P P^{-1}$図 8 位相情報 (RCC8)

空間内の場所・実体は、大きさを持つ。その大きさがあるがゆえに規定する必要がある、位相情報 (mereotopological relation)をその全体部分関係や境界の状態に応じて、以下のとおり RCC8 (Region Connection Calculus Relations) [12] により規定する。
- DC: Disconnected（非連結）
- EC: External connection（外接）
- PO: Partial overlap（部分一致）
- EQ: Equal（完全一致）
- TPP: Tangential proper part（内接：source が target に接して内包）
- TPP ${ }^{-1}$ : Inverse of TPP（内接：target が source に接して内包)
- NTPP: Non-tangential proper part (内包：source が target に接せずに内包）
- NTPP ${ }^{-1}$ : Inverse of nTPP (内包 : target が source に接せずに内包）

以下に内包 (NTPP) の場合の type=topology の記述例を示す。

【01-88】

[公園](ID:T412) のある [マンション街](ID:T413)の

$
\left.\{\left[\begin{array}{ll}
\text { id } & \text { T412 } \\
\text { type } & \text { landmark }
\end{array}\right],\left[\begin{array}{ll}
\text { id } & \text { T413 } \\
\text { type } & \text { landmark }
\end{array}\right],\left[\begin{array}{ll}
\text { type } & \text { topology } \\
\text { src } & \text { T412 } \\
\text { tgt } & \text { T413 } \\
\text { absdist } & \text { NTPP }
\end{array}\right]\right.\}
$

まったく同じ実体を指す同一指示は、 $\mathrm{EQ}$ を用いて表現する。

## 【01-26】

[亢っと](ID:T109)[アニバー サ

リー](ID:T110)ってゆう [お店](ID:T111)

$
\left.\{\left[\begin{array}{ll}
\text { id } & \text { T109 } \\
\text { type } & \text { landmark }
\end{array}\right],\left[\begin{array}{ll}
\text { id } & \text { T110 } \\
\text { type } & \text { landmark }
\end{array}\right],\left[\begin{array}{ll}
\text { type } & \text { topology } \\
\text { src } & \text { T109 } \\
\text { tgt } & \text { T110 } \\
\text { absdist } & \text { EQ }
\end{array}\right]\right.\}
$

なお、本研究ではDC は Double cross model で配置するために用いない（デフォルトはDC)。また、TPP ${ }^{-1}\langle S, T\rangle, \mathrm{NTPP}^{-1}\langle S, T\rangle$ は、それぞれ TPP $\langle T, S\rangle$, NTPP $\langle T, S\rangle$ として表現するため、用いない。

## 3 おわりに

本研究では、位置情報を共有する目的指向の対話に出現する位置表現を扱うために、空間論理で用いられる Double cross model を利用し、位置情報フレームとして記述することを試みた。Double cross model を用いることにより、相対参照情報を 3 つ組で記述することができるようになり、位置情報の表現力が向上した。さらに、距離情報や位相情報の記述についても試みた。

なお、上記空間論理の曖昧性解消の自動推論は多項式時間では解けないとされている [4]。言語処理系が、言語から論理形式の写像を行ったとしても、空間論理ソルバー側が曖昧性解消処理できるとは限らない。

## 謝辞

本研究はホンダリサーチインスティチュート-国立国語研究所共同研究プロジェクト「行き先目標物の参照表現に関する日本語話し言葉の分析」・国立国語研究所基幹型共同研究プロジェクト「アノテー ションデータを用いた実証的計算心理言語学」・科研費 JP22K13108, JP19K13195によるものです。

## 参考文献

[1] Inderjeet Mani, Janet Hitzeman, Justin Richer, Dave Harris, Rob Quimby, and Ben Wellner. SpatialML: Annotation scheme, corpora, and tools. In Proceedings of the Sixth International Conference on Language Resources and Evaluation (LREC'08), Marrakech, Morocco, May 2008. European Language Resources Association (ELRA).

[2] James Pustejovsky and Zachary Yocum. Image annotation with ISO-space: Distinguishing content from structure. In Proceedings of the Ninth International Conference on Language Resources and Evaluation (LREC'14), pp. 426-431, Reykjavik, Iceland, May 2014. European Language Resources Association (ELRA).

[3] James Pustejovsky. ISO-Space: Annotating Static and Dynamic Spatial Information, pp. 989-1024. Springer Netherlands, Dordrecht, 2017.

[4] Jochen Renz and Bernhard Nebel. Qualitative spatial reasoning using constraint calculi. In Handbook of spatial logics, pp. 161-215. Springer, 2007.

[5] 後藤大希, 西川仁, 徳永健伸. 空間配置課題に向けた iso-space の拡張による向きの表現. 言語処理学会第 22 回年次大会発表論文集, pp. 115-118. The Association for Natural Language Processing., 2016.

[6] Eliseo Clementini, Paolino Di Felice, and Daniel Hernández. Qualitative representation of positional information. Artificial intelligence, Vol. 95, No. 2, pp. 317-356, 1997.

[7] GÉ Ligozat. Reasoning about cardinal directions. Journal of Visual Languages \& Computing, Vol. 9, No. 1, pp. 23-44, 1998.

[8] Christian Freksa. Using orientation information for qualitative spatial reasoning. In Theories and methods of spatio-temporal reasoning in geographic space, pp. 162-178. Springer, 1992.

[9] Kai Zimmermann and Christian Freksa. Qualitative spatial reasoning using orientation, distance, and path knowledge. Applied intelligence, Vol. 6, No. 1, pp. 49-58, 1996.

[10] Daniel Hernández, Eliseo Clementini, and Paolino Di Felice. Qualitative distances. In Andrew U. Frank and Werner Kuhn, editors, Spatial Information Theory A Theoretical Basis for GIS, pp. 45-57, Berlin, Heidelberg, 1995. Springer Berlin Heidelberg.

[11] Amar Isli and Reinhard Moratz. Qualitative spatial representation and reasoning: algebraic models for relative position. Technical report, 1999.

[12] David A Randell, Zhan Cui, and Anthony G Cohn. A spatial logic based on regions and connection. In Principles of Knowledge Representation and Reasoning: Proceedings of the 3rd International Conference, pp. 165-176, 1992.

[13] James Pustejovsky and Jessica L. Moszkowicz. Integrating motion predicate classes with spatial and temporal annotations. In Coling 2008: Companion volume: Posters, pp. 95-98, Manchester, UK, August 2008. Coling 2008 Organizing Committee.

[14] Collin F. Baker, Charles J. Fillmore, and John B. Lowe. The Berkeley FrameNet project. In 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics, Volume 1, pp. 86-90, Montreal, Quebec, Canada, August 1998. Association for Computational Linguistics.

[15] Philippe Muller. A qualitative theory of motion based on spatio-temporal primitives. A.G. Cohn, L. Schubert, and S.C. Shapiro, editors, KR' 98: Principles of Knowledge Representation and Reasoning, pp. 131-141, San Francisco, California, 1998. Morgan Kaufmann.

[16] Nicholas Asher and Pierre Sablayrolles. A typology and discourse for motion verbs and spatial PPs in french. Journal of Semantics, Vol. 12, pp. 163-209, 1995.

[17] Kai Zimmermann and Christian Freksa. Enhancing spatial reasoning by the concept of motion. Prospects for Artificial Intelligence, pp. 140-147, 1993.
表 1 動作表現における STML, FrameNet, Muller, Asher/Sablayrolles の 10 クラス ([3] より)

## A 今後の方向性

## A. 1 合成 (composition)

今回は、テキストの情報を空間論理の Double cross model に形式化することを目的とする。適切な生成系言語モデルを用いることで、テキストから直接形式化したものが得られると考える。形式化されたものから、場所・実体の位置情報の曖昧性解消を空間論理を用いて行う必要がある。そのためには Double cross model の合成を行う必要がある。Double cross model の合成は大きく分けて 2 つある [9,8]。1 つは Coarse composition で、2つの double cross model (ab:c)（abに対する c の相対参照）と (bc:d)（bc に対する d の相対参照）から (ab: d)（abに対する d の相対参照）を求めるもので、可能な配置をすべて枚挙するものである。もう 1 つは Fine composition で、同様の操作に距離の情報まで入れて、より狭い範囲で可能な配置候補を枚挙するものである。

## A. 2 経路情報 (path)

合成により、位置情報の曖昧性解消が可能であることを示した。次に静的な経路情報 (path)を double cross model の系列により示す [17] ことを考える。Double cross model の 14-15 の直列により、静的な経路情報を指定する。経路を辿る移動を伴う動的な経路情報は、Double cross model の系列に対して、次に示す移動表現のクラスを紐づける。

## A. 3 移動表現 (STML)

Pustejovsky [13]により、空間・時間情報付与時に移動表現の述語を分類するフレームワーク (STML: Spatio-Temporal Markup Language) が提案されている。移動表現を 10 クラスに分けるとともに、移動元・移動先の位相情報を RCC8 により表現するフレームワークである。ISO-space 論文 [3] には、STML と FrameNet [14]・Muller 論文 [15]・Asher 論文 [16] との比較が掲載されているので、表 1 に引用して示す。

具体的な位置情報の共有を行うためには、日本語においても RCC8 に紐づいた移動表現の体系化が必要である。

## A. 4 情報構造

本研究は、対話による位置情報伝達のモデル化を応用として考えている。対話において位置情報が特定できているかどうかを、話し手・聞き手・第三者（アノテータ）の観点から付与必要がある。


# 位置属性を有しない事物に対する地理的特定性の分析

陰山宗一 ${ }^{1}$ 乾孝司 1
1 筑波大学大学院 システム情報工学研究群情報理工学位プログラム
s2120577@s.tsukuba.ac.jp inui@cs.tsukuba.ac.jp

## 概要

ある事物に対する言及が文書内に現れた時にその言及が地理的位置を特定する程度をあらわす指標として地理的特定性指標がある [5]。本稿では、地理的特定性指標の利用可能範囲を調査する一環として、地理的特定性指標の構成要素のひとつである名称専有性指標に注目し、地理的位置属性を有しない５つのカテゴリ （列車、特産品、祭り、苗字、植物）に属するエンティティへの言及を対象にして、名称専有性の值の特徴を分析したので、その結果を報告する。

## 1 はじめに

SNS サービスに投稿される文書にはジオタグのような地理的位置を示すメタ情報が付与される場合がある。近年、この位置情報を利用することで投稿文書データから「今どこで何が起きているか」を把握するソーシャルセンシング技術への関心が高まっているが、SNS 投稿への位置メタ情報の付与は縮小傾向にある [1]。このため、位置情報の補完処理として、位置情報付きでない投稿文書の投稿場所（地理的位置）を自動推定する文書ジオロケーションに関する研究が進められている $[2,3,4]$ 。

文書ジオロケーションでは、文書内に現れる地名やランドマークへの言及（例えば、「東京」や「東京タワー」）が、投稿がなされた地理的位置を推定する有力な手がかりになることが多いが、それらの中には地理的な曖昧性を含む場合もあり、文書ジオロケーションの誤り原因となる問題が存在する。例えば、「中華街」を含んでいる投稿は、その投稿がなされた地理的位置を、横浜や神戸などの中華街が所在する場所へ絞り込む手がかりになり得るが、特定の一箇所に絞り込むまでには至らない。この手がかりの地理的曖昧性問題へ対応するため、陰山ら [5] は、文書内に出現する、地名やランドマーク等の地理的位置属性をもつエンティティへの言及に対して、その地理的位置の特定のしやすさを表す指標である地理的特定性指標を提案
し、Wikipedia データの情報に基づいて具体的な指標値を求めた。そして、地理的特定性指標の情報を文書ジオロケーションへ適用することで、その有効性を報告している。しかし、彼らの報告では、地理的特定性指標の文書ジオロケーション以外への活用に関しては議論がなされておらず、その活用可能範囲は未知である。

そこで我々は、狯山らの地理的特定性指標 [5] の活用可能範囲を明らかにすることを目標に研究を進めているが、その一環として現在、各対象に対して推定した指標值がどのような特徴をもつかを分析している。具体的には、文献 [5]では、文書ジオロケーションへの適用を見据えていたため、地理的位置属性をもつエンティティへの言及のみに注目して指標值を推定していたが、本研究では、地理的位置属性をもたないエンティティへの言及に対して指標値を求め、指標値の観察を通して、その特徴分析を試みる。地理的位置属性をもつエンティティの場合、基本的に、地理的位置属性はエンティティの所在地をあらわし、地理的特定性の值へも所在地情報が反映される。しかし、地理的位置属性をもたないエンティティの場合は所在地という概念が無い（あるいはあっても希薄である）ため、地理的特定性の值が何を反映するかは自明ではない。

なお、地理的特定性指標は、地理的曖昧性と名称専有性の対で構成されるが、このうち地理的曖昧性は同一の名称をもつ対象の数を表し、直感的にもわかりやすい。そこで今回は特に名称専有性に注目し、その分析結果を報告する。

## 2 名称専有性

名称専有性（name exclusivity）は、エンティティと言及との対応関係に関する人々の一般的な認知の度合いに関する指標である。例えば、一般的な文脈において現れた「横浜」という言及は、高知県や福岡県に所在する地域である横浜よりも人々の認知度のより高い地域であると考えられる神奈川県横浜市の事であると認知されやすいだろう。このように、名称が同じエン

ティティが複数存在したとしても、それらのエンティティがすべて同程度に認知されるとは限らず、「横浜」 における神奈川県横浜市のように特定のエンティティに偏って認知される場合がある。名称専有性は、このような現象を捉えることを目的とした指標であり、 ある対象が特定のものとして認知される程度をあらわす。

以下では、文献 [5] に従い、言及に対する名称専有性の值の求め方について述べる。この値は、エンティティに対する名称専有性の値から求めるため、まず、エンティティに対する名称専有性の值の推定方法について説明する。なお、以降の説明では、日本語 Wikipedia のエントリページをエンティティ、また、日本語 Wikipedia 内で各エンティティを参照する（アンカーリンクを張る）ために使用されているアンカ文字列をエンティティに対する言及であるとする。

日本語 Wikipedia において、地理的特定性を求めた

ての言及からなる言及集合を $M_{e}$ とし、その要素を $m_{i}\left(i=1,2, \ldots,\left|M_{e}\right|\right)$ とする。次に、 $M_{e}$ の要素である各言及に対して、それがリンクしているすべてのエンティティを抽出する。抽出されたエンティティ集合を $P_{e}$ とし、その要素を $p_{j}\left(j=1,2, \ldots\left|P_{e}\right|\right)$ とする。そして、ある言及 $m_{i}$ が、あるエンティティ $p_{j}$ ヘリンクを形成している回数を $l_{p_{j}}^{m_{i}}$ としたとき、このリンク回数がある対象が認知される程度を近似的に表していると考え、エンティティ $p_{t}$ の名称専有性 $\operatorname{exc}\left(p_{t}\right)$ は式 (1) で表されるとする。

$
\operatorname{exc}\left(p_{t}\right)=\frac{\sum_{m \in M_{e}} l_{p_{t}}^{m}}{\sum_{p \in P_{e}} \sum_{m \in M_{e}} l_{p}^{m}}
$

ここで、 $0<\operatorname{exc}\left(p_{t}\right) \leq 1$ である。

次に、exc $\left(p_{t}\right)$ を利用して、言及に対する名称専有性の値を求める。文献 [5] では、47 都道府県に分類する文書ジオロケーションへの適用が想定されていたため、言及に対する值は、エンティティのようなスカラー值ではなく、47 次元べクトルである。名称専有性を求めたい言及を $m_{t}$ としたとき、日本語 Wikipedia において、 $m_{t}$ がアンカ文字列となってリンクしているすべてのエンティティを抽出し、その集合を $P_{m}$ とする。この時、Okajima ら [6] の手法に基づき、 $P_{m}$ の各要素となるエンティティ $p_{j}$ に対して、そのページの本文内容に初めて登場する都道府県名の情報をそのページの都道府県要素として記憶する。次に、この都

道府県要素の値に基づいて、 $P_{m}$ を 47 個の部分集合に分割する。ある都道府県 $k$ に対応する $P_{m}$ の部分集合を $P_{m}^{k}$ としたとき、 $P_{m}^{k}$ の要素に従って、都道府県 $k$ に関する、エンティティの名称専有性の最大值 max_exc $(k)$ を求める。

$
\max \_e x c(k)= \begin{cases}\max _{p \in P_{m}^{k}} \operatorname{exc}(p) & P_{m}^{k} \neq \phi \\ 0 & \text { otherwise }\end{cases}
$

最後に、以上で求めた 47 都道府県に対応する max_exc $(k)$ を要素とする 47 次元ベクトルを構成し、 これを言及 $m_{t}$ に対する名称専有性の值とする。

例として、後述の分析作業と同じデータを用いて言及「厳島神社」に対して求めた名称専有性の値を表 1 に示す。日本国内には「厳島神社」という名称をもつエンティティは複数存在するが、広島県廿日市市に所在するものが一般的な認知度がもっとも高いと予想される。表の値は確かに広島県の値が高くなっていることが確認できる。なお、この例でも示されているように、名称専有性の值は形式的には 47 次元を仮定しているが、ベクトル要素の値が 0 となる次元（都道府県）も存在する。

## 3 名称専有性の分析

## 3.1 分析対象

本研究では、住所をもたないエンティティを地理的位置属性をもたないエンティティとして、以下のカテゴリに属するエンティティを選択し、それらへの言及に対する名称専有性を分析対象とした。

-【列車】

-【特産品】

・【祭り】

-【苗字】

$\cdot$【植物】

このうち、【列車】および【特産品】カテゴリのエンティティは、直接的には住所をもたない1) が、出発地や産地として間接的に特定の地域と関連が深いと考えられる。それら関連地域での名称専有性の値がどのような值かをこの後確認していく。つぎに、【祭り】のエンティティは、実施される地域が必ず存在するため、実施地域を地理的位置属性としてもつエンティティであるとも言えるが、ランドマーク「東京タワー」のようなモノ的なエンティティではなくコト的なエンティティであるため、その特徴を観察するために分析対象に含めることにした。【苗字】は、これまで述べたカテゴリに比べてエンティティ数が多いと考えられ、そのような場合の特徴を観察するために含めることにした。最後の【植物】は、これまで述べたカテゴリのエンティティは固有名を持ちやすい特徵があるため、そうでない場合の特徴を観察するために含めた。

## 3.2 データ

分析のために指標値の推定に用いる Wikipedia デー タは、文献 [5] と同じであり、2021 年 5 月 20 日付の日本語 Wikipedia ダンプデータ2)を用いた。

## 3.3 分析結果

## 3.3.1 表記について

求めた名称専有性の値を確認する前に、以降で事例を示す際の表記について説明する。各言及に対する名称専有性を求めた結果、多くの事例で 47 次元のうちの多数の次元で要素の値が 0 となっていた。そこで、以下では要素の值が 0 以外となっている場合のみ記載する。要素の值が 0 以外となる次元が複数存在する場合は、値の降順に並べて示す。各言及事例において、言及の一部に地名を含む場合はその箇所を下線で示す。また、推定結果が誤りと思われる箇所は丸括弧をつけて示す。

前節で述べたように、名称専有性の値は、ベクトルの各要素の最大值が 1 であり、要素和の最大値が 1 ではない。以降の分析結果を読む際は注意されたい。

## 3.3.2 カテゴリ【列車】

列車のうち、急行列車や特急列車などの列車名をもつエンティティへの言及に対して名称専有性の值を求めた。その結果、走行路線上の地域で名称専有性の値を持ちやすいことが確認できた。走行路線によっては都道府県をまたぐ場合があるため、複数の地域で高い名称専有性を有する可能性があるが、走行路線上の地域を網羅することはなく、網羅性に関しては不十分であることがわかった。なお、網羅性に関しては、以降のどのカテゴリでも同様な傾向であった。
- 踊り子静岡県:1

$\cdot$きたぐに福井県:1

・ムーンライト信州山梨県:1
- 阿波徳島県:0.974, 岡山県:0.119, (千葉県:0.016)

・うずしお徳島県:0.908, 愛媛県:0.685

## 3.3.3 カテゴリ【特産品】

ご当地グルメを含む各地域の特産品を対象に名称専有性の値を確認する。地域特産品のうち、名称に地名を冠しているエンティティへの言及では、そのエンティティを生産したり、水揚げする地域が名称専有性の值を持ちやすく、かつ、それらは名称に冠している地名が所在する都道府県と一致することが多かった。「讃岐うどん」は、都道府県の中では香川県で最大値をもっていたが、その値は小さい。この原因を調べたところ、広く普及し知名度が高いと考えられるエンティティは Wikipedia 内での言及回数が多く、それに合わせて言及表現が多様となる場合があり、特に地名 (「讃岐」) や、「うどん」のような当該エンティティの上位概念となるエンティティをあらわす表現で言及されると、それらとの間で指標值が分散されるため、值が低くなりやすいことが確認できた。

・喜多方ラーメンバーガー 福島県:1

・水沢うどん群馬県:1

$\cdot$川俣シャモ福島県:1

・関あじ大分県:1

・讃岐うどん香川県:0.127

つぎに、名称に地名を冠していないエンティティへの言及では、当然ながら、エンティティの名称には地名を連想させる手がかりが含まれないものの、宮城県仙台市で有名な「牛タン」など、そのエンティティで知られている地域が值を持つことができている。ただし、名称に地名を冠しているエンティティへの言及と

は異なり、一般的な名称としての言及（「牛タン」の場合は特産品ではなく食品としての対象）との間で表現の重なりが生じやすいため、名称専有性の値は高くなりにくい特徵がある。

・牛タン宮城県:0.522

・スタミナラーメン茨城県:0.833, 埼玉県:0.429

・玉子焼兵庫県:0.741

## 3.3.4 カテゴリ【祭り】

祭りは、各地域で実施される行事であるため、その実施地域との関連が深いと考えられる。「さっぽろ雪まつり」や「仙台七夕まつり」といった名称に地名を冠する行事では、先述の地名を冠する地域特産品と同様に、名称に冠している地名に対して高い名称専有性の値を持ちやすいため、ここでは、名称に地名を冠しない場合について確認する。この場合の事例を見ると、それぞれの祭りの実施で有名な地域が名称専有性の値を持ちやすいことが確認できた。「さっぽろ雪まつり」ではなく「雪まつり」のように、実施地域をあらわすであろう地域を冠しないエンティティへの言及を分析対象としているにも関わらず、このような結果が得られた。このことから、名称専有性の観点から言えば、祭りは、ランドマークなどの地理的位置属性を持つエンティティと同様の特㣲をもつカテゴリと見なして良さそうである。

・雪まつり北海道: 0.879 , 新潟県:0.467

・ねぶた祭り青森県:0.448

・だんじり祭り大阪府:0.324

・よさこい祭り高知県: 0.510

・七夕まつり愛知県:0.786, 富山県:0.714, 宮城県:0.046

## 3.3.5 カテゴリ【苗字】

苗字と地域の関連性としては、その苗字の起源となる地域や、その苗字を持つ人の人口が多い地域などが考えられる。各苗字に対する推定値を確認した結果、苗字の起源となる地域で値を持つ傾向があった。一部の苗字では、人口が多い地域と名称専有性の值に相関が見受けられたが、多くの苗字に関してはそのような特徴は見受けられなかった。このカテゴリのエンティティは、「大井」のように、要素が 0 以外の値をもつ次元の数が今回扱った他のカテゴリに比べて多い特徵があった。このカテゴリはエンティティ数が比較的多
く、また、他カテゴリと多様な関係性をもつと考えられ、そのことが結果に影響していると考えられる。
- 河西北海道:1

-川名神奈川県:1
- 米原滋賀県:0.913

$\cdot$芳賀栃木県:0.994
- 磯部山口県:0.671, 群馬県:0.575, 三重県:0.531,茨城県:0.176

-大井東京都: 0.844 , 静岡県:0.536, 三重県: 0.25 , 埼玉県:0.084, 岐阜県:0.0831, 神奈川県:0.0243, 山梨県:0.0153

## 3.3.6 カテゴリ【植物】

今回、固有名でないエンティティへの言及に対する名称専有性の値を確認するために、その例として植物に注目した。その結果、まず、固有名でない場合でも固有名の場合と同じように名称専有性の値をもつことが確認できた。植物では、群生地をもつ都道府県が值を持ちやすいことがわかった。また、植物の中には、 その果害や、植物から抽出した油などの関連商品を生産でき、それらの生産を目的とした植物栽培が盛んな地域で大きな値を持つ傾向が確認できた。

・エゾマツ北海道:1

・サクラソウ北海道:1

・ヒバ青森県:1

・ウメ和歌山県:0.939，（鹿児島県:0.086）

・オリーブ香川県:0.914, 三重県:0.24, 東京都:0.085

## 4 まとめ

本稿では、地理的位置属性を有しないエンティティへの言及を対象にして、地理的特定性指標の構成要素のひとつである名称専有性の値を求め、その特徴を分析した。その結果、今回題材にした 5 つのカテゴリに関して幾つか特徴があることが確認できた。地理的特定性指標の活用可能範囲を明らかにするためには、今後も継続的な分析が必要である。例えば、本稿で示した分析結果は、一部のエンティティに対する限定的な結果であり、規模を広げた詳細かつ定量的な分析を実施する必要がある。また、名称専有性の値は元データである Wikipedeia のページ記述スタイルの影響を受けるが、エンティティのカテゴリごとに影響の度合いを調査する必要がある。

## 謝辞

本研究の一部は JSPS 科研費 $21 K 12137$ の助成を受

けたものです。

## 参考文献

[1] Anna Kruspe, Matthias Häberle, Eike J. Hoffmann, Samyo Rode-Hasinger, Karam Abdulahhad, and Xiao Xiang Zhu. Changes in Twitter geolocations: Insights and suggestions for future usage. In Proceedings of the Seventh Workshop on Noisy User-generated Text, pp. 212-221, 2021.

[2] Bo Han, Paul Cook, and Timothy Baldwin. Geolocation prediction in social media data by finding location indicative words. In Proceedings of International Conference on Computational Linguistics, pp. 1045-1062, 2012.

[3] Lianhua Chi, Kwan Hui Lim, Nebula Alam, and Christopher J Butler. Geolocation prediction in Twitter using location indicative words and textual features. In Proceedings of the 2nd Workshop on Noisy User-generated Text, pp. 227-234, 2016.

[4] Jey Han Lau, Lianhua Chi, Khoi-Nguyen Tran, and Trevor Cohn. End-to-end network for Twitter geolocation prediction and hashing. In Proceedings of the Eighth International Joint Conference on Natural Language Processing, pp. 744-753, 2017.

[5] 狯山宗一, 乾孝司. 言及に対する地理的特定性指標の提案と文書ジオロケーションへの適用. 情報処理学会自然言語処理研究会 (NL-253-19), 2022.

[6] Seiji Okajima and Tomoya Iwakura. Japanese place name disambiguation based on automatically generated training data. In 19th International Conference on Computational Linguistics and Intelligent Text Processing, 2018 .


# テキスト中の場所表現認識と 係り受けに基づく緯度経度推定ツールの開発

大野けやき 1 西村太一 ${ }^{1}$ 亀甲博貴 2 森信介 ${ }^{2}$
1 京都大学大学院 情報学研究科 2 京都大学 学術情報メディアセンター
\{ohno.keyaki.57r,nishimura.taichi.43x\}@st.kyoto-u.ac.jp
\{kameko,forest\}@i.kyoto-u.ac.jp

## 概要

文献中の地名の緯度経度を自動推定することは,文献調査を必要とする研究等の場面において有益である。緯度経度を推定する課題は，地名を認識するステップと認識した地名の緯度経度を推定するステップの 2 段階で実現される.この後段のステップについて，単語間の係り受け構造を利用して推定精度向上を図る手法を提案する。本手法を組み込んだ緯度経度推定ツールを鉱山に関する記事に適用し，係り受け構造を利用することで推定精度が向上することを確認した。

## 1 はじめに

行政区画や施設を表す言葉は，ある場所を表す表現＝場所表現として用いられる. 文献調査を必要とする研究等において，ある場所について記された文献を探したい場面はしばしばある．ところが，場所表現は時間と共に変わることがあり, また，その付近の人々の間だけで使われることも多いため，想定する文献に合わせて適切な場所表現を使い分けたり複数使ったりしなければならない (表現の一意性がない問題). また，ある 2 つ場所表現が示す場所が実世界上でどれほど近いかまたは同じなのかが，一見して分からないため, 対象付近の情報を探しそびれる可能性がある (関連性が不明膫な問題).このような問題を避けるため, 文字の場所表現ではなく緯度経度で場所を取り扱うことは有用であり，テキスト中の場所表現が示す緯度経度を推定する課題は従来より研究されてきた $[1,2,3,4,5]$.

この推定課題は，場所表現認識と緯度経度推定の 2 ステップからなる. 前段の場所表現認識は系列ラベリングの一つである. CRF [6] 等の利用により，効率的に機械学習ができるようになった一方，認識精度の向上のためには膨大な学習データが必要である. 後段の緯度経度推定は, 文脈を考慮して場所表現が示す緯度経度を推定する作業であり，曖昧性解消タスクの一つである．具体的には，地名や緯度経度，人口等が収録されている地理辞典から適切なデータを選ぶ方法が一般的である.この方法では曖昧性解消アルゴリズムと地理辞典を分けて開発できるため，地理辞典として有志のデータベースを利用したり，利用者専用のデータベースを利用したりでき，応用の幅が広い.しかしながら，地理辞典に同じ表記の異なる場所が収録されている場合やある場所表現が全く収録されていない場合に精度が落ちてしまう問題がある.

本研究では, 後段の緯度経度推定タスクに着目し，精度向上を目的として単語間の係り受け構造を利用する手法を提案する. 係り受けは言語の構造であり，テキストの内容に依らず存在する。したがって，係り受け構造を利用する手法は，テキストの分野を限定せずに幅広いテキストに利用できる。この普遍性は，ある場所に関するあらゆる文献を集めたい地域研究などにおいて必須の条件である.

本手法を組み込んだ緯度経度推定システムを鉱山に関する英語記事に適用した結果，係り受け構造を利用することで推定精度が向上することが分かった. また，精度向上の要因となった場所表現を調べることにより，テキスト中の場所表現と地理辞典上の表現との間にはそれなりの差があることがあることが示唆された。

## 2 緯度経度推定ツール

## 2.1 課題設定

本研究が対象とする緯度経度推定ツールは, 式 1 に示すような 2 段階のタスク構成になっており，入

カテキストに緯度経度が挿入されたテキストを出力する.

$
\begin{aligned}
t^{\prime} & =F_{N E R}(t) \\
t^{\prime \prime} & =F_{N E L}\left(t^{\prime}\right)
\end{aligned}
$

ただし， $F_{N E R}, F_{N E L}$ はそれぞれ場所表現推定器，緯度経度推定器である. また, $t, t^{\prime}, t^{\prime \prime}$ はそれぞれ入力テキスト，場所表現かどうかのタグ付きテキスト，タグおよび緯度経度付きのテキストである. テキストは一般にまとまった複数文である。下記に具体例を示す。 タグの $\mathrm{L}$ は場所表現を，O はそれ以外の表現を表している。

$t$ : 岩手の清水寺へ行く.

$t^{\prime}$ : 岩手/L-B の/O 清水/L-B 寺/L-Iへ $/ O$ 行く/O．/O

$t^{\prime \prime}$ : 岩手/L-B $(39.60000,141.35000)$ の/O

清水/L-B(39.37035, 141.03056) 寺/L-I(39.37035, 141.03056) $/ \mathrm{O}$ 行く/O . /O

## 2.2 場所表現認識

テキスト中の場所表現認識には，場所表現をアノテーションしたテキストを用いて学習した場所表現推定器を用いた. この推定器は, BERT [7] と CRF [6] と点予測 [8] を組み合わせたものである. 推定器の詳細は付録に示した. Stanford NLP Group の $\mathrm{Stanza}^{1)}$ [9] を用いて入力テキストをトーカナイズし, この推定器で各トークンにIOB2 形式のタグを付与した. すなわち各トークンには下記のいずれかのタグが付与される.

L-B :場所表現の最初のトークン

$\mathrm{L}-\mathrm{I}:$ :場所表現の 2 つ目以降のトークン

$\mathrm{O}:$ 場所表現ではないトークン

## 2.3 緯度経度推定

ベースラインとなる緯度経度推定手法は, 原ら [4] の手法を参考にした。

1. 特別に用意した地名-緯度経度辞典がある場合は，場所表現の文字列と一致するデータがあるか検索し，あればその緯度経度を出力する。

2. 場所表現の文字列を地理辞典 GeoNames ${ }^{2)}$ で検索し, 見出し語 (name) または別名 (alternate names)のいずれかに一致するデータがあった場合，それらの中から下記のスコアが最も高いデータの緯度経度を出力する。

2) https://www.geonames.org/
- 文字列が見出し語の場合: 20 点 + 別名の数 $\times 1$ 点

・文字列が見出し語ではないが別名に含まれる場合: 別名の数 $\times 1$ 点

このスコアリングは，重要な地名ほどたくさんの別名が収録されているという考えのもと設定した.

3. 場所表現の文字列と一致するデータが無かった場合は，具体的な緯度経度は出力せず，代わりに推定失敗の旨を表す記号を出力する。

## 3 係り受け構造の利用

本研究では, 上記の緯度経度推定ツールに, 単語間の係り受け構造を利用する手法を 2 つ追加する. これらの手法は，係り受け木構造上で上下関係のある 2 つ場所表現が実世界上で包含または近接した位置関係にあり，木構造のより頂点に近い場所表現の方が詳細な情報を有している (実世界上でより)狭い領域を表している) という仮定に基づいている. 3.2 節では地理辞典上の複数候補から適切なデータを選択する工夫を， 3.3 節では地理辞典上にデータが収録されていない場合の改善策を述べる.

## 3.1 Universal Dependencies

テキスト中の単語間の係り受けを表すものとして, 本研究では Universal Dependencies ${ }^{3}$ (以下，UD) を用いる。UDは，特定の言語に依存することなく普遍的な係り受け構造を表そうとする取り組みであり， 100 以上の言語に対応している。緯度経度推定ツールは，利用者が詳しくない言語圈のテキストに対しても用いられうることを考え，幅広い言語に対応している UDに着目した. UD 解析ツールとして, Stanza [9]を用いた.

## 3.2 文構造の利用

文の係り受け構造から，ある単語と意味的に関連の強い単語を推測することができる．例えば，「岩手の清水寺から京都の清水寺へ行く.」という文を考えると，1つ目の清水寺は岩手と関係していて， 2 つ目と清水寺は京都と関係している。この関係は UDにも表れ，例ではそれぞれの清水寺から岩手や京都に係っている (図 1). 場所表現間の係り受けの場合，たいていは狭い領域を表す場所表現からそれを補足説明する知名度の高い場所表現に向かって係

り受け構造が存在する.

図1文の係り受け構造

ツールへの実装として，以下の手順をべースライン手法に追加した. まず，ベースラインの手順に先立ち，入力文に対する係り受け木構造を推定し，それぞれの場所表現に対して自身より下層に別の場所表現が存在するか確認しておく，存在すればその別の場所表現を，自身が参照すべき参照表現として設定する。その後，ベースラインの手順に沿って緯度経度推定を行うが，以下の点が異なる.

1. 参照表現が設定さている場合には，その参照表現の緯度経度推定を先に行う

2. その参照表現に対して具体的な緯度経度が推定できた場合には，ベースライン手法のスコアリングに関わらす，参照表現の推定緯度経度に最も近い緯度経度の候補を出力する

例えば図 1 の例では, 清水寺の緯度経度推定に先立って岩手や京都の緯度経度推定を行い，それらに近い清水寺の緯度経度を出力する。

## 3.3 表現構造の利用

複数単語からなる一つの場所表現についても，その構造を考えることができる。例えば「京都三条」 という場所表現は，京都と三条という 2 つの地名からなり，かつ，三条の場所を示す表現である。このような複合場所表現は，そのままの文字列で地理辞典に収録されていな場合が多いため，この例であれば「京都三条」を「三条」と読み換えて地理辞典を検索する必要がある.この様な構造解析を行う際，対象言語を限定しないためには，文字列の表面的な構造ではなく意味的な構造に着目するのが望ましい. 複合場所表現においても，表現内に登場する地名間にそれらが示す領域の包含・近接関係が存在し, 前節と同様の係り受け構造が存在する (図 2). よって，ある場所表現内の係り受け構造の頂点となる単語は，その場所表現の核になる (最も狭い領域を表す地名) 単語だと推測できる.

$
\text { 京都三条 }
$

図 2 表現内の係り受け構造
ツールへの実装として，以下の手順をベースライン手法に追加した. 複数トークンからなる場所表現が地理辞典に収録されていなかった場合，そのトー クン数より 1 少ない部分トークン列で再度ベースラインの手法により緯度経度推定を行う.この際，必然的に複数の部分トークン列で辞書引きを行うことになるが，複数で地理辞典のデータにヒットした場合は，その中から下記で求めるスコアの大きい部分トークン列に対する辞書引き結果を優先して出力を選択する。

1. 元の場所表現に対する係り受け木構造を考え，各要素 (トークン)に対して子孫要素が何層あるかスコアを付ける

2. その部分トークン列に含まれるトークンの上記スコアを合算する (図 3)

いずれの部分トークン列でも地理辞典のデータがヒットしなければ，さらにこの手順を繰り返す。

図 3 部分トークン列のスコアリング

## 4 実験

提案手法を組み込んだ緯度経度推定ツールを鉱山に関する英語記事に適用し評価を行った。評価対象は 2 つで，場所表現アノテーション済みテキストに対する緯度経度推定と，何もアノテーションされていないテキストに対する場所表現認識 + 緯度経度推定の全自動タスクである.

## 4.1 コーパス

評価には鉱山に関する専門記事を用いた． 2.2 節で述べた場所表現推定器の学習には, 同様の専門記事に加え，データ不足を補うために一般ニュース記事も用いた (表 1). AFP 通信と MINING.COM の記事は人手でアノテーションを行い，ロイター通信の記事は CoNLL2003 [10] から LOC タグが付与されているトークンを含む文を抽出して用いた。

## 4.2 評価指標

緯度経度推定については，推定した緯度経度と正解緯度経度の誤差が $X \mathrm{~km}$ 以内に収まっている場所表現を合格とし，全場所表現中の何件が合格したか

表 1 コーパスの場所表現数 (のべ/重複なし)

を表す “ $X \mathrm{~km}$ 正確度”を用いた. 全自動タスクについては，上記と同様に合格をもって推定值が正解値と一致したとみなし，精度，再現率， $\mathrm{F}_{1}$ 值を用いて評価した.これらの計算式は付録に示した。

## 4.3 結果

場所表現アノテーション済みテキストに対する緯度経度推定精度を図 4 および表 2 に示す. 図の横軸は，左側は線形で右側は対数軸になっている。係り受け構造を利用する手法 (提案手法) はベースラインと比べて精度が向上し, 例えば $5 \mathrm{~km}$ 正確度が 0.11 向上した.

図 4 緯度経度推定タスクの精度

表 2 緯度経度推定タスクの精度

場所表現認識 + 緯度経度推定の全自動タスクの精度 $(5 \mathrm{~km}$ 合格)を表 3 に示した. 提案手法は，わずかながらいずれの指標でもべースラインを上回った.

## 5 考察

文構造の利用と表現構造の利用のうち，推定精度の向上はほぼ後者の寄与であった. これは 2 つの手法がもたらす効果の違いに関係していると考えられる.まず，文構造の利用が効果を発揮するのは，同

表 3 全自動タスクの精度 (誤差 $5 \mathrm{~km}$ 以内を合格)

じ文字列で異なる場所を示しているいわゆる曖昧地名に対してである．例えば実験では，アリゾナ州のエイボンデールとペンシルベニア州のエイボンデー ルの区別に効果があった。しかしながら，そもそも地理辞典に 0 または 1 件しかデータが収録されていないような場所表現に対しては効果がない. 一方，表現構造の利用が効果を発揮するのは，場所表現のそのままの文字列が地理辞典に収録されていない場面である。例えば実験では「New Castle County, Del」 といった州，群，市などが併記された複合場所表現に対して効果を発揮していた。文構造の利用が効果を発揮する曖昧地名と表現構造の利用が効果を発揮する複合場所表現の出現頻度を考えると，後者の方が多いため，今回の実験では表現構造の利用による効果が比較的大きかったと考えられる。

また同時に，後者の頻度が多いということは，地理辞典に収録されていない場所表現が多いということを意味している。このことは，地理辞典を利用する緯度経度推定に限界があることを示唆しており，地理辞典への依存度が小さい手法が実用上望ましいと考えられる。

## 6 終わりに

本研究では，テキスト中の場所表現に対する緯度経度推定タスクにおいて，単語間の係り受け構造を利用することでより尤もらしい緯度経度を推定する手法を提案し，その手法を組み込んだ緯度経度推定ツールを開発した。実験により，提案手法は緯度経度推定精度を向上させることを確認した. 今後は，地理辞典に収録されていない場所も出力できるように，提案手法に加えて地理辞典を用いない方法も融合したような緯度経度推定手法を検討する。

## 7 謝辞

本研究は JSPS 科研費 JP21H04376 の助成を受けたものです.

## 参考文献

[1] Michael Speriosu and Jason Baldridge. Text-driven toponym resolution using indirect supervision. In Proceedings of the 51st Annual Meeting of the Association
for Computational Linguistics, 2013.

[2] Takashi Awamura, Daisuke Kawahara, Eiji Aramaki, Tomohide Shibata, and Sadao Kurohashi. Location name disambiguation exploiting spatial proximity and temporal consistency. In Proceedings of the 3rd International Workshop on Natural Language Processing for Social Media, 2015.

[3] Davy Weissenbacher, Arjun Magge, Karen O'Connor, Matthew Scotch, and Graciela Gonzalez-Hernandez. SemEval-2019 task 12: Toponym resolution in scientific papers. In Proceedings of the 13th International Workshop on Semantic Evaluation, 2019.

[4] Shoichiro Hara, Akira Kubo, Masato Matsuzaki, Hirotaka Kameko, and Shinsuke Mori. Development of methods to extract place names and estimate their places from web newspaper articles. In Pacific Neighborhood Consortium Annual Conference and Joint Meetings, 2021.

[5] Maithrreye Srinivasan and Davood Rafiei. Location-aware named entity disambiguation. In Proceedings of the 30th ACM International Conference on Information \& Knowledge Management, 2021

[6] John Lafferty, Andrew McCallum, and Fernando CN Pereira. Conditional random fields: Probabilistic models for segmenting and labeling sequence data. In Proceedings of the 18th International Conference on Machine Learning, 2001

[7] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, 2019.

[8] Tetsuro Sasada, Shinsuke Mori, Tatsuya Kawahara, and Yoko Yamakata. Named entity recognizer trainable from partially annotated data. In Proceedings of the 14th International Conference of the Pacific Association for Computational Linguistics, 2016.

[9] Peng Qi, Yuhao Zhang, Yuhui Zhang, Jason Bolton, and Christopher D. Manning. Stanza: A Python natural language processing toolkit for many human languages. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics: System Demonstrations, 2020.

[10] Erik F. Tjong Kim Sang and Fien De Meulder. Introduction to the CoNLL-2003 shared task: Language-independent named entity recognition. In Proceedings of the 7th Conference on Natural Language Learning at HLTNAACL, 2003.

## A 付録 (Appendix)

## A. 1 場所表現推定器

場所表現認識に用いた推定器は，図 5 に示すような構造になっており, 下記の手順で場所表現タグを推定する.

図 5 場所表現推定器

1. BERT モデルを用いて，トークン列の各トークン $(w)$ を 768 次元のベクトルに埋め込む. 学習の際は，テキストのまとまりに関係なく文毎に入力する．推定の際は，段落毎に入力する。 $\left[v_{1}^{B}, \ldots, v_{n}^{B}\right]=\operatorname{BERT}\left(\left[w_{1}, \ldots, w_{n}\right]\right)$

2. あるトークンが場所表現か否か，すなわちタグとして L-B，L-Iがそれぞれありうるかを記したタグ辞書に従い，上記べクトルに 32 次元増結する。例えば，三条が L-B としても L-I としてもありうると記されていた場合には，L-B タグに対応する 32 次元のベクトルと L-I タグに対応する 32 次元のべクトルの和を (1) に増結する. タグ辞書に登録されていないトークンの場合，もしくは $\mathrm{O}$ タグとして登録されていた場合，このベクトルは零ベクトルである. $v_{i}^{D}=\operatorname{dictionary}\left(w_{i}\right)$
3. $\mathrm{CRF}$ モデルを用いて，この 800 次元のベクトル列からタグ列を推定する。学習の際は，CRF モデルおよびその下層の BERT モデル，辞書層を学習する。この際， $\mathrm{CRF}$ 損失関数とその中の観測素性部分だけの損失関数を合わせた損失関数を最小化するように学習する。これは，テキストの一部 (特に場所表現) だけをアノテーションした学習データも利用できるようにするためで
ある. Loss $=$ Loss $^{C R F}+$ Loss $^{\text {Pointwise }}$

BERT モデルは Hugging Face により提供されている事前学習済みモデル bert-base-uncased ${ }^{4}$ を用いた.

## A. 2 評価指標の計算式

推定緯度経度と正解緯度経度の誤差が $X \mathrm{~km}$ 以内に収まっている場所表現を合格として

$
\begin{aligned}
X \mathrm{~km} \text { 正確度 } & =\frac{\text { 誤差 } X \mathrm{~km} \text { 以内の空間表現数 }}{\text { アノテーション空間表現数 }} \\
\text { 精度 } & =\frac{\text { 合格の空間表現数 }}{\text { ツールが認識した空間表現数 }} \\
\text { 再現率 } & =\frac{\text { 合格の空間表現数 }}{\text { 評価データ中の空間表現数 }} \\
\mathrm{F}_{1} \text { 値 } & =\left[\frac{(\text { 精度 })^{-1}+(\text { 再現率 })^{-1}}{2}\right]^{-1}
\end{aligned}
$

## A. 3 対象とした場所表現

場所表現の基準は原らの基準 [4] を参考にした. この基準では場所表現を，大きく2つに分類している.それは，「京都」や「市役所」といったそれ自体がある絶対的な場所を示している表現 (以下，絶対表現)と,「〜の $10 \mathrm{~km}$ 東」といった絶対表現が示す場所を参照して別の場所を示している表現 (以下，相対表現)である．絶対表現はさらに，「京都」のような固有名詞と「市役所」のような一般名詞に分けられる。絶対表現が示す場所は文脈によって決定されるべき曖昧性を含んでいる場合もあるが，高々有限個の絶対位置を示しているという点で相対表現とは区別される。一方相対表現は，「(欧州から見た)極東」といったように絶対表現が省略される場合もあるが，ほとんどは絶対表現に付随して用いられ，絶対表現が示す場所をずらす機能がある.

本研究の緯度経度推定ツールでは，場所表現の内，絶対表現に着目し自動認識を行った.これは原らの基準において，Lタグで表される表現である.特に，固有名詞の絶対表現のみを取り扱うことにした.これは，一般名詞の絶対表現が用いられる場合は，そのテキスト内で既に固有名詞により同じ場所が記述されている場合がほとんどであるため，固有名詞の絶対表現さえ把握すれば，テキスト中の絶対表現が示す場所をほぼ全て把握できるからである。


# 地球の歩き方旅行記データセット

大内啓樹 ${ }^{1,4, *}$ 進藤裕之 ${ }^{1}$ 若宮翔子 ${ }^{1}$ 松田裕貴 ${ }^{1}$
井之上直也 ${ }^{2}$ 東山翔平 ${ }^{3,1}$ 中村哲 ${ }^{1}$ 渡辺太郎 ${ }^{1}$
1 奈良先端科学技術大学院大学 2 北陸先端科学技術大学院大学
3 情報通信研究機構 4 理化学研究所
*責任著者：hiroki.ouchi@is.naist.jp
\{shindo, wakamiya, yukimat, s-nakamura, taro\}@is.naist.jp
naoya-i@jaist.ac.jp shohei.higashiyama@nict.go.jp

## 概要

「地球の歩き方旅行記データセット」を構築し，学術研究用に無償提供を開始した. 本データセットは日本語テキストデータであり，4,500 の国内旅行記と 9,500 の海外旅行記から構成され，全体で 3,100 万単語を超える規模である.これまでは，研究目的で共同利用可能な旅行記データがほとんどなく，各研究者が自前でデータを用意するしかなかった. 本データセットの提供によって, 公平な手法の比較をはじめとするオープンサイエンスの進展および一層の学術研究の発展が期待できる. 本稿では, 本デー タセットの学術的意義, 特徴, 今後の展望を述べる.

## 1 はじめに

人間と「場所」の関係性に注目が集まっている。 コロナ禍において，ある場所の混雑度 (人間の集中) や場所間での往来（人間の移動）に関する情報は,政府・地域自治体・個人といった粒度を問わず，行動の促進/抑制の意思決定に極めて重要である。こうした背景から我々は，人間の行動を「場所」という観点から分析するための方法論を探求している。特に「テキスト」を分析対象データとし，計算機によって，登場人物の行動の舞台背景となる「場所」 を読み取り，実世界の地図上淁地することを目指している。その第一歩であり, システムの開発および評価の基盤として，「地球の歩き方旅行記データセット (Arukikata Travelogue Dataset)」[1]を構築した. 本データセットは, 学術研究機関が研究目的で使用するために，株式会社地球の歩き方が提供元となり, 国立情報学研究所情報学研究データリポジトリ（IDR）より無料配布されている11).

1) https://www.nii.ac.jp/dsc/idr/arukikata/
なぜ「テキスト」を用いるのか？ 人間の位置を把握するだけなら，スマートフォンなどのモバイル端末に搭載された GPS 機能を利用することによって可能である. しかし GPS データから，人間と場所の相互関係を把握することは難しい．例えば，その場所における人間の行為, その場所に対する価値付与，その場所から受ける印象や感覚である. こうした情報は，特に地理学や文化人類学において，人間活動のダイナミクスと環境条件を分析するための情報として極めて重要な役割を担う。この種の情報を含む代表的な資源がテキストである．テキストをうまく構造化し，整理することによって，こうした価値ある情報を引き出せる可能性がある. 以上の理由から，テキストデータを対象として採用した.

なぜ「旅行記」を用いるのか？旅行記を解析対象とする従来研究では，「観光客」や「観光地」，およびそれらの関係という視座から研究の意義を捉え，研究目的を設定することが多い $[2,3,4]$. 一方で我々は，それより一段抽象度の高い視座から意義を捉えている．つまり，「人間」と「場所」という実世界の基礎的な構成要素がどのように関わり合っているのか，その関わりはどのようにテキストに描かれるのかという視座である。そのような内容を含む典型的なテキスト (ジャンル) が「旅行記」である.同種の内容が，「小説」「新聞記事」「SNS 投稿」に含まれる場合も少なくない，将来的には，より多様なテキストを対象とすることを見据えつつ，その出発点として「旅行記」を題材に設定した.

本データセットの学術的意義これまでも旅行記は，テキストマイニングの分析対象テキストとして頻繁に用いられてきた. 特に観光情報学分野において，旅行記は各場所・施設の評判分析および種々の情報抽出の題材として用いられてきた [5]. しかし
表 1 旅行記の例.

会津若松へ向かう磐越西線の接続を考慮して選んだやまびこ 203 号は E5 系での運転でした。何度も乗っているE2 系よりも座席が広く感じ、快適な移動でした。

会津若松駅から快速あいづ 4 号に乗車し、郡山へ向かいました。

会津若松は晴れ間がありましたが、山を上るにつれて雲が増えて行き、途中から雨が降り出しました。关気予報通りでしたが、今回の旅行は暖かい 2 日間で移動時間を除いて雨に降られることがなかったのはラッキーでした。

表 2 旅スケジュールの例。

 &  &  \\

ながら，それぞれの研究者がウェブ上の旅行記投稿サイトなどから独自に取得した旅行記データを用いることが多く2)，研究の再現や実験結果の公平な比較分析が困難であった．本旅行記データセットを一定条件下での利用機会についてオープン化することによって，大須賀ら [6] が指摘するように，大学等の研究者が実社会のデータや実用性の高いデータを使用できるだけでなく, 使用したデータセットが特定可能となることにより, 研究の透明性・再現性が担保され，他の研究との比較も格段に容易となる. ひいてはオープンサイエンスを進展させ，研究の知見の蓄積が加速することで, 一層の学術研究の発展が期待されるため, 将来にわたって学術的意義は大きいと考えられる。

## 2 本データセットの構成と特徵

本データセットは，2007 年 11 月から 2022 年 2 月までの期間に，株式会社地球の歩き方が運営するサイト ${ }^{3)}$ 上の旅行記投稿サービズ) に投稿された情報に基づいている。具体的には，ユーザが書き記した 「旅行記」とその旅程を記した「旅スケジュール（旅スケ）」から構成される。旅行記として，国内旅行記に加え，海外旅行記も含まれる。

## 2.1 国内・海外旅行記

表 1 は旅行記の実例を示している。一般的に旅行記は，著者（ユーザ）の視点から書かれた一人称視点の文章である．読者は著者の視点を借りて，著者の辿った旅路やその過程で見た景色などを疑似体験することができる。旅行記の各記事はある程度まとまった分量であるため，著者の行動の系列，場面展開，共参照関係をはじめとする文間・段落間にまたがる談話的要素も多い．その点は，ツイッターの投稿を代表とする SNS の短い文章とは異なる特徴と言える。典型的な記述内容として，人間（著者）の 1 日の（旅行）行動が描かれており，行動の時系列的な分析にも適したテキストであると言える.その他にも，場所や風景の描写，各場所や全旅程についての感想をはじめ多彩な内容が含まれるため, 種々の応用へつながる可能性がある。

## 2.2 旅スケジュール

表 2 は旅スケの実例を示している. 主な構成要素のひとつは，著者が滞在した「場所」である．例えば，表 2 中の「自宅」「最寄駅」「庄助の宿瀧の湯」などが場所に該当する。旅スケの入力は任意であり，本文中に記載のある「場所」が旅スケにも記載されているとは限らない。逆に，旅スケに記載されている「場所」でも本文中には記載がない場合もある. もうひとつの主な構成要素は，著者が各場所に滞在した「時間帯」である．例えば，表 2 中の $「 05: 40$ - 05:50」「05:50-05:53」などが時間帯に該当する。時間帯に関する情報は，著者が自由に記述できるため，「朝」や「夕刻」といった粗い粒度のものもある. 以上の情報を踏まえると，人間の 1 日の行動を「場所」に加え「時間」の観点から分析するためにも本データセットは利用可能である.

## 2.3 データの記述統計

前述したように，本データセットの旅行記は「国内旅行記」と「海外旅行記」に分けられ，さらに「旅
表 3 本データセットの記述統計.

スケ付き」のものと「旅スケなし」のものに分けられる. 日本語自然言語処理オープンソースライブラリ GiNZA ${ }^{5}$ で各記事を解析し，単語分割および固有表現抽出を行なった. 解析した全ファイルについての記事数, 段落数, 文字数, 単語数6), 固有表現数，地名・施設名数7)を表 3 に記載する。「*/記事」 は 1 記事あたりの平均値を表す. 例えば，「段落数/記事 $=24.2 」$ は 1 記事あたりの段落数が平均で 24.2 となることを表す。本データセットの特徴として，各記事の平均文字数が 2,000 文字を超え，まとまった分量であることがわかる. また，概算で 30 個以上の地名・施設名が各記事に出現していることもわかる. この点から，本データセットには多くの「場所」が含まれ，「場所」に関する分析をする上で望ましい性質を持つと言える。

## 2.4 国内旅行記のカバーする都道府県

図 1 に，各都道府県へ言及している国内旅行記記事数の分布を示す ${ }^{8)}$. ひとつの特徴は，すべての都道府県がカバーされている点である．そのため，各都道府県の旅行行動の傾向分析も可能である.これ

5） ja_ginza_electraバージョン 5.1 .2 を使用. 詳しくは次のページを参照: https://github.com/megagonlabs/ginza.

6）単語数は「単語の定義（単語分割基準)」に依存して変わる. 本データセットでは GiNZA の単語分割モード C（長単位）を使用して単語分割し，その結果をカウントした。

7） GiNZA で抽出した固有表現の中でも，地名・施設名に該当する LOC，GPE，FAC のいずれかと認識されたものをカウントした.

8） 著者（ユーザ）の自己申告のため，概算として考えた方がいい点に注意. また，記事によっては複数の都道府県へ言及しているため，国内旅行記全記事数 4,672 よりも都道府県への言及記事数の方が多くなる点にも注意.

図1 各都道府県へ言及している国内旅行記記事数の分布.

は，旅行先として「東京」が最も多く選ばれることを必ずしも意味しない。旅行記には，目当ての旅行先に行くまでの過程を含むものも多い. そのため,旅行の出発地点としての「東京」，および，旅行先への中継地点としての「東京」が記述されることも多く，それらを総合した結果として「東京」が最も多い結果となっている. 表 4 は，各都道府県に言及している記事数のランキングである。「東京」に関する記事は 1,206 記事で最も多い。一方で，最も少ないのが「福井」の 29 記事である.
表 4 都道府県のランキング. 各都道府県に言及している記事数と国内旅行記全記事 $(4,762)$ における割合を表示.

表 5 国・地域のランキング，各国・地域に言及している記事数と海外旅行記全記事（9,607）における割合を表示.

## 2.5 海外旅行記のカバーする国・地域

海外旅行記は，世界 150 以上の国と地域をカバー している。そのため, 各国・地域への旅行行動の傾向分析なども可能である. 表 5 は，各国・地域に言及している記事数のランキングである。国内旅行記とは異なり，突出して記事数の多い国・地域はない点が特徴である。また，上位の国・地域は，日本政府観光局による「日本人旅行者の国別訪問者数 9 )」 と概ね一致する傾向が見られる。

## 3 関連研究

学術目的で利用可能な現代語旅行記データセットは非常に少ない，数少ない例外である現代語旅行記データセットを表 6 に示す. Diachronic News and Travel コーパス ${ }^{10)}$ [7] は，2つの時代区分（1862-1939 と 1998-2017）の 3 つの分野（ニュース，旅行報告，旅行ガイド）の英語テキストを収録している。そのうち，表 6 には「現代（1998-2017）」の「旅行報告」 のテキストの情報を記載している。 The SpaceBank

9) https://www.jnto.go.jp/jpn/statistics/20220610_4.pdf 10) https://github.com/tommasoc80/DNT.表 6 既存の旅行記データセット.

Corpus ${ }^{11}$ [8] は空間情報をタグ付けしたコーパスであり，SemEval-2015 Task 8 [9] でも利用された。表 6 には，旅行ブログ「Ride for Climate」のエントリから構築したサブセットの情報を記載している。KNB コーパス ${ }^{12}$ ) [10] は，4 つの分野 (「京都観光」「携帯電話」「スポーツ」「グルメ」）の日本語テキストから構成される. 形態素, 係り受け，格・省略・照応，固有表現などの言語情報がアノテーションされている. 表 6 では，「京都観光」分野のテキストの情報を記載している。これらのデータセットは人手アノテーションを含むため, 単純に我々のデータセットと「量」の観点で比較できない，将来的には我々のデータセットにも多彩なアノテーションを施し，より広範な応用へつなげていく予定である.

## 4 おわりに

「地球の歩き方旅行記データセット」について, 学術的意義と特徴を中心に述べてきた. 本節ではこれからの展望を述べる. 本データセットの生テキストに有用な情報を付与していく予定である。特に，(1)場所に関する言語表現の情報と (2) 人間と場所の相互作用に関わる情報が挙げられる。(1)に関しては,地名や施設名などの固有表現だけでなく，「この店」「レストラン」などの一般名詞句も含め, 場所に関する言語表現を総合的にカバーする予定である。また実世界との接続を見据え，地図座標や地理データベースとの紐付けも視野に入れている。(2)に関しては，その場所における人間の「行動」「思考」「感情」に関する情報を付与する予定である. それらの情報を場所の情報と併せて抽出できるようなツー ルを開発して各種応用につなげる. 直接的な応用として，旅行者の移動行動分析，観光地のトレンド分析，穴場の観光スポットの発掘，旅行計画・推薦への利活用が考えられる. 以上のように，多様な展開が考えられる. 我々のみならず，幅広い分野の研究者に本データセットを利用していただき，独創的な研究開発を進めていただけたら幸いである.

## 謝辞

本研究は JSPS 科研費 JP22H03648，JST さきがけ JPMJPR2039 の助成を受けたものです. また，デー タセットの構築・提供にあたり，株式会社地球の歩き方の上原康仁氏と国立情報学研究所の大須賀智子氏，大山敬三氏から多大なご協力をいただいたことを深謝します。

## 参考文献

[1] 株式会社地球の歩き方. 地球の歩き方旅行記データセット, 2022. 国立情報学研究所情報学研究データリポジトリ. (データセット). https://doi.org/10.32130/idr.18.1.

[2] Qiang Hao, Rui Cai, Xin-Jing Wang, Jiang-Ming Yang, Yanwei Pang, and Lei Zhang. Generating Location Overviews with Images and Tags by Mining UserGenerated Travelogues. In Proceedings of the 17th ACM International Conference on Multimedia, pp. 801-804. Association for Computing Machinery, 2009.

[3] Qiang Hao, Rui Cai, Changhu Wang, Rong Xiao, JiangMing Yang, Yanwei Pang, and Lei Zhang. Equip Tourists with Knowledge Mined from Travelogues. In Proceedings of the 19th International Conference on World Wide Web, pp. 401-410. Association for Computing Machinery, 2010.

[4] Yanwei Pang, Qiang Hao, Yuan Yuan, Tanji Hu, Rui Cai, and Lei Zhang. Summarizing Tourist Destinations by Mining User-Generated Travelogues and Photos. Computer Vision and Image Understanding, Vol. 115, No. 3, pp. 352-363, 2011.

[5] Gary Akehurst. User generated content: the use of blogs for tourism organisations and tourism consumers. Service Business, Vol. 3, No. 1, pp. 51-61, 2009.

[6] 大須賀智子, 大山敬三. 情報学研究データリポジトリIDRにおける研究用データセット共同利用の取り組み. 情報処理学会論文誌デジタルプラクティス (DP) , Vol. 2, No. 2, pp. 47-56, apr 2021.

[7] Tommaso Caselli and Rachele Sprugnoli. DNT: un Corpus Diacronico e Multigenere di Testi in Lingua Inglese. In AIUCD2021 - Book of Abstracts, Quaderni di Umanistica Digitale., 2021.

[8] James Pustejovsky and Zachary Yocum. Capturing Motion in ISO-SpaceBank. In Proceedings of the 9th Joint ISO-ACL SIGSEM Workshop on Interoperable Semantic Annotation, pp. 25-34, 2013.

[9] James Pustejovsky, Parisa Kordjamshidi, Marie-Francine Moens, Aaron Levine, Seth Dworman, and Zachary Yocum. SemEval-2015 Task 8: SpaceEval. In Proceedings of the 9th International Workshop on Semantic Evaluation (SemEval 2015), pp. 884-894, 2015.

[10] 橋本力, 黒橋禎夫, 河原大輔, 新里圭司, 永田昌明. 構文・照応・評価情報つきブログコーパスの構築. 自然言語処理, Vol. 18, No. 3, pp. 175-201, 2011.