# 材料科学論文の表の意味解釈データセットの構築

加藤明彦 1 近藤修平 1 進藤裕之 ${ }^{1,2}$ 渡辺太郎 2
1 奈良先端科学技術大学院大学 データ駆動型サイエンス創造センター
2 奈良先端科学技術大学院大学情報科学研究科
\{kato.akihiko.ju6, shuhei-k, shindo, taro\}@is.naist.jp

## 概要

本研究では材料科学論文の表の意味解釈, 即 ち，セルに記載されている物性や単位の検出と リンキングを行うタスクに取り組む。そこでモ デル構築の基盤となる言語資源として，近年の 高分子論文集の論文約 200 本に含まれる全ての 表に対して注釈を行った網羅的なデータセット を構築した。また，文字レベルの系列ラベリン グと辞書マッチングを組み合わせた解析を行っ たので合わせて報告する.

## 1 はじめに

日々多数出版される科学技術論文の全てを人手で読解する事は物理的に不可能であるため，論文から自動で情報抽出を行う技術の研究開発 が求められる. 特に, 論文の表には実験に関す る情報が整理されているため, 表からの情報抽出は重要な研究課題である. たとえば高分子化学の論文では, 実験によって合成されたポリ マー（重合体）の物性値や実験条件が表に記載 されているため, これらの情報を表から抽出し たいというニーズがある（図 1).ここでポリ マ一の例としては，ポリアセチレンやポリエス テルが挙げられ, 物性值とは, 融点や引張弾性率など，ポリマーの持つ特性情報を指す。

上記を踏まえ, 本研究では, 材料科学論文の 表からの情報抽出において最も重要なタスク の 1 つである, 表中のセルの意味解釈に取り組 む. このタスクでは, 主にヘッダ部分のセルに 記載されている物性や単位といったエンティ ティの表層文字列（メンション）を検出した上

図 1 表の意味解釈の例.

で, 材料科学分野に特化したエンティティ辞書 への紐付けを行う.たとえば図 1 の表中の枠線で囲ったセルには, エンタルピー変化 (エン ティティ名: enthalpy_change）という物性の表層文字列である $\Delta \mathrm{H}_{\mathrm{i}}$ と，その単位の表層文字列である $10^{2} \mathrm{~mJ} \mathrm{~g}^{-1}$ が出現している. 表の意味解釈ではこれらの各表層文字列が物性および 単位のメンションであることを予測し，かつ，前者を enthalpy_change エンティティに紐付け，後者を基本単位のべき乗の積に分解する必要が ある（図 1).

しかし, 材料科学分野において，表の意味解釈のための言語資源はあまり存在しておらず,一定以上の規模のアノテーションを付与した データセットの入手は困難である. そこで本研究では, 材料科学分野に現れる単位や物性の辞
書を構築した上で, 近年の高分子論文集 ${ }^{11}$ の論文約 200 本に含まれる全ての表に対して意味解釈アノテーションを行った網羅的なデータセッ 卜を構築した。また，文字レベルの系列ラベリ ングと辞書マッチングを組み合わせた解析を 行ったのでその結果も合わせて報告する.

## 2 関連研究

Web ページ中の表の意味解析に取り組んだ 研究として [1] が挙げられる．彼らは表の列の タイプ（アルバムのリリース日などの属性名） と, 列のペアの関係を予測するという課題に取 り組んでいる．また，予測するラベルの候補と しては，知識べースのオントロジーに登録され ているものを用いている. 彼らはこの課題に取 り組むために，テーブル内およびテーブル間の 文脈情報の両方を考慮した新しいテーブル表現の学習手法を提案している. 本研究は, Web ページではなく論文中の表を扱っている点，ま た, 列ではなく, 表のセル内に出現しているエ ンティティのリンキングを行っている点におい て [1] とは異なる.

材料科学論文からの情報抽出に関する研究と しては [2] が挙げられる．彼らは XML 形式の 論文中の表からルールベースで構造化データを 抽出している。一方, 本研究では PDF 形式の 論文中の表を解析対象としており，また，エン ティティ・メンションの検出を系列ラベリング として定式化して機械学習ベースのモデルを用 いている点において [2] とは異なる.

材料科学分野に限らず，学術文書一般からの 情報抽出については，論文間の関係性を予測す る研究 [3] や，個々の論文に記載されている知見を抽出する事を目的とした研究がある．後者 についてはキーフレーズ抽出とキーフレーズ間 の関係抽出に関する Shared task [4] も実施され ている. また, PDF や画像など, 非構造化文書中の表の構造解析については，テーブル画像と 対応する構造化 HTML 表現を収録したデータ セットを [5] が公開している. なお, 本研究で

1) https://main.spsj.or.jp/c5/koron/koron.php取り組んでいる表の意味解釈は, 表の構造解析 の下流タスクとして位置づけられる。

## 3 材料科学論文の表のセルの意味解釈

本タスクでは，入力として受け取ったセル文字列中に出現している物性や単位（以下，組立単位）の表層文字列の範囲を予測し（メンショ ン検出), 辞書中の特定のエンティティへの紐付けを行う。ここで組立単位とは，複数の基本単位のべき乗の積で構成される単位のことであ り,たとえば図 1 の $10^{2} \mathrm{~mJ}^{-1}$ という組立単位 は $10^{2},(\text { milli joule })^{1}, \mathrm{~g}^{-1}$ という 3 つの構成要素 の積に分解できる ${ }^{2)}$. 図 1 からも分かるよう に，単位の意味解釈とは，基数，基本単位，指数などのカテゴリに情報を埋めていくタスクで ある．特に基本単位については，あらかじめ材料科学分野の辞書に登録してある単位一覧から 特定の単位を選択する問題となる。

## 4 データセットの構築

## 4.1 アノテーション仕様の策定

材料科学論文の表には，合成した物質（高分子など）の物性（融点など）や高次構造情報 (数平均分子量など), 基本単位や指数などの各種数量表現の他にも，実験手法や，物質の合成時に用いる溶媒や触媒などがしばしば記載され

料科学論文から収集したセルを整理して，本研究でアノテーション対象とする材料科学分野 のエンティティ・タイプの一覧を作成した（表 1).

## 4.2 各タイプのエンティティ辞書の 作成

次に，表から検出したエンティティを紐付け るために，材料科学分野に特化したエンティ ティの辞書を各タイプについて構築した。辞書の構築にあたっては，まずPoLyInfo から，単位，物性，実験手法等，各タイプに属するエン

表 1 検出対象とするエンティティタイプ一覧と本研究で構築したコーパスにおける出現数.

ティティの一覧を収集した。これだけでは網羅率が十分ではないと考えられるため, 表の意味解釈アノテーション（4.3 節）において, 各タ イプの辞書に紐付けることができないエンティ ティの内, Wikidata ${ }^{4}$ にリリク可能なものを辞書に追加した。辞書中の各エンティティにつ いては, ID, 正式名, 同義語リスト（当該エン ティティが取りうる表層文字列のリスト）を収録している。

## 4.3 高分子化学論文の表に対する意味解釈アノテーション

第 3 に，高分子論文集 ${ }^{5)}$ の 2004 年 1 月 2013 年 3 月（Vol.61～Vol.70）の論文約 200 本に含ま れる全ての表に対して以下のアノテーション を行った。まず各セルにおいて，検出対象とす るいずれかのタイプ（表 1）を有するエンティ ティが出現している場合, セル文字列中のスパ ンと, 当該エンティティの辞書 ID を注釈する.単位についてはスパンを注釈した後に, 基本単


位や基数のべき乗の積への分解アノテーション （3 節）を行った。この分解作業の目的は以下 の 2 点である. 第 1 の目的は，組立単位間の相互変換を可能にすることによって，各物性に紐 づく単位の複数の表記方法の比較・照合を行う ことにある. 第 2 の目的は, 構成要素中の接頭辞や基本単位をエンティティ辞書に紐付けるこ とで，組立単位の意味内容を理解することにあ る.なお，表のセルに対してアノテーションを 行う際には, PDFのアノテーションツールであ る PDFAnno [6] を用いた。

## 5 解析手法

本節では 4 節で構築したデータセットを学習 データとして用い、セルの意味解釈を行うモデ ルの訓練と評価を行う。

セル文字列の解析は，(1) 文字レベルの系列 ラベリングと, (2) 辞書マッチングによるエン ティティ・リンキングの 2 ステップで行う．ま ず (1)ではセルの文字系列を入力として，系列 ラベリングによってエンティティのスパンを同定する。ただし物性と高次構造情報については 全エンティティを単一のラベルに集約したもの を用いる。また，単位についても，基本単位に 属する全エンティティを単一のラベルに集約 する. 次に (2)では，スパンが同定されたエン ティティの内, 物性, 高次構造情報, または基本単位であると予測されたものを入力として,辞書マッチングによるエンティティ・リンキン グを行う．各エンティティを別々のラベルとし て扱えば，文字レベルの系列ラベリングのみ で解析を行うことも可能だが，物性または高次構造情報のエンティティ総数は約 140 種類,基本単位のエンティティ総数も約 80 種類と多 く，データスパースネスの影響が無視できない ことから, 上述の様にパイプライン型のモデル を採用している. また, 系列ラベリングのタグ 付けスキームは BIEOS 方式とし，スパンが取 りうるラベル集合は，表 1 に示したエンティ ティ・タイプ一覧に基づいて定めた。ネット ワーク構造としては，畳み込みネットワークに
skip-connection [7] を入れたブロックを $\mathrm{N}$ 層 6)，積層したものの上に線形層と CRF 層 [8] を持つ アーキテクチャーを採用した。

## 5.1 辞書マッチング

辞書マッチングでは，系列ラベリングで同定 したエンティティ・メンションを，各候補エン ティティに紐づく同義語辞書とマッチさせるこ とで、エンティティ・リンキングを行う．ただ しメンションと同義語の完全一致を必要条件に すると Recall が低下するため，メンションが同義語を部分文字列として含むならば，当該エン ティティを候補に加えるものとする．また，辞書のどのエンティティのどの同義語ともマッチ しなかった場合はリンキングに失敗したと判定 する。

## 6 実験

構築したデータセットを学習データとテス トデータが約 4:1 となるように分割を行った結果，学習データが 3,046 事例，テストデータが 762 事例となった. なお, 各表の各セルの（文字列，タグ系列）を 1 事例としている. 確率的勾配降下法を用い，学習率を 0.001 として 30 工 ポック学習を行った後にテストデータでの評価 を行った結果を表 2 に示す. まず数量表現につ いては，基本単位に属する主要なエンティティ や，指数，基数などについて $90 \%$ を超える $\mathrm{F} 1$值が得られた。次に物性や高次構造情報につい ては，エンティティによって $\mathrm{F} 1$ 值にばらつき が見られた。これらのカテゴリでは基本単位に 比べて表記摇れの度合いが大きいため, 辞書 マッチングが上手く機能しないケースがより多 く発生していると考えられる．第 3 に，実験手法や溶媒については F1 值が 50\%前後に留まっ ており, Precisionに比べて Recall が低い傾向が 見られた。ただしこれらのタイプについては， ドメイン知識を活用することである程度，網羅率の高いエンティティ辞書と同義語辞書を編纂可能であると期待されるため，辞書素性の活用
=5$ を採用した。
}

表 2 セルの意味解釈モデルの実験結果. 一部のエ ンティティ・タイプのみを示している.

} & 指数 & 0.989 & 0.966 & 0.977 \\

等によって性能を向上させることができると考 えられる。

## 7 おわりに

本研究では材料科学論文の表から物性や単位 を検出し，辞書への紐付けを行うタスクに取り 組んだ。まずモデル構築の基盤となる言語資源 として，高分子論文集の論文約 200 本に含まれ る全ての表に対して意味解釈アノテーションを 行った網羅的なデータセットを構築した. 次 に，文字レベルの系列ラベリングと辞書マッチ ングを組み合わせた解析を行った。今後は表の 複数のセルを考慮した大域的なモデルの有効性 を検討する予定である.

## 謝辞

本研究の一部は, 国立研究開発法人新エネル ギー・産業技術総合開発機構（NEDO）の助成 による.

## 参考文献

[1] Daheng Wang, Prashant Shiralkar, Colin Lockard, Binxuan Huang, Xin Luna Dong, and Meng Jiang. Tcn: Table convolutional network for web table interpretation. Proceedings of the Web Conference 2021, Apr 2021.

[2] Hiroyuki Oka, Atsushi Yoshizawa, Hiroyuki Shindo, Yuji Matsumoto, and Masashi Ishii. Machine extraction of polymer data from tables using xml versions of scientific articles. Science and Technology of Advanced Materials: Methods, 1(1):12-23, 2021.

[3] Kelvin Luu, Xinyi Wu, Rik Koncel-Kedziorski, Kyle Lo, Isabel Cachola, and Noah A Smith. Explaining relationships between scientific documents. arXiv preprint arXiv:2002.00317, 2020.

[4] Isabelle Augenstein, Mrinal Das, Sebastian Riedel, Lakshmi Vikraman, and Andrew McCallum. SemEval 2017 task 10: ScienceIE - extracting keyphrases and relations from scientific publications. In Proceedings of the 11th International Workshop on Semantic Evaluation (SemEval-2017), pages 546555, Vancouver, Canada, August 2017. Association for Computational Linguistics.

[5] Xu Zhong, Elaheh ShafieiBavani, and Antonio Jimeno Yepes. Image-based table recognition: data, model, and evaluation. In Computer Vision-ECCV 2020: 16th European Conference, Glasgow, UK, August 23-28, 2020, Proceedings, Part XXI 16, pages 564-580. Springer, 2020.

[6] Hiroyuki Shindo, Yohei Munesada, and Yuji Matsumoto. Pdfanno: a web-based linguistic annotation tool for pdf documents. In Proceedings of the Eleventh International Conference on Language Resources and Evaluation (LREC 2018), 2018.

[7] Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun. Deep residual learning for image recognition. In Proceedings of the IEEE conference on computer vision and pattern recognition, pages 770-778, 2016.

[8] John Lafferty, Andrew McCallum, and Fernando CN Pereira. Conditional random fields: Probabilistic models for segmenting and labeling sequence data. 2001.
 加藤明彦 1 近藤修平 1 進藤裕之 ${ }^{1,2}$ 渡辺太郎 2 1 奈良先端科学技術大学院大学 データ駆動型サイエンス創造センター 2 奈良先端科学技術大学院大学情報科学研究科 \{kato.akihiko.ju6, shuhei-k, shindo, taro\}@is.naist.jp  