# 学会記事
## 化学分野への言語処理の応用

岩倉友哉 $\dagger \cdot$ 吉川和 $\dagger$

## 1 はじめに

新材料や新薬の開発, 材料を用いた製品開発には化学物質に関する知識が必要不可欠であり,論文や特許で日々報告される化学物質間の相互関係や化学物質の物性值といった情報を構造化し蓄積することが行われている。しかしながら， 2015 年の時点で 2 分 30 秒に 1 件のペースで新たな物質が CAS (Chemical Abstracts Service) に追加されているという報告が示すように ${ }^{1}$,刻々と増え続ける化学物質に対して，専門的な知識を必要とし，現状人手に大きく頼る作業である化学物質の知識構造化作業が課題となっている.

この問題に対し, 新規の化学物質の情報の多くは特許や論文のテキストで報告されることから，自然言語処理技術の適用が注目を集めており，研究も盛んになってきている．日本国内であれば, 言語処理学会第 25 回, 26 回年次大会にて,「化学分野への言語処理の応用」というテーマセッションが開催され，それぞれ，9件，12 件の発表が集まった。国外においても，CHEMDNER (Krallinger, Leitner, Rabal, Vazquez, Oyarzabal, and Valencia 2015) や CHEMPROT (Krallinger, Rabal, Akhondi, et al. 2017), ChEMU (He, Nguyen, Akhondi, Druckenbrodt, Thorne, Hoessel, Afzal, Zhai, Fang, Yoshikawa, Albahem, Cavedon, Cohn, Baldwin, and Verspoor 2020) といった化学文献からの情報抽出タスクのデータセットが作成され，研究が進められている.

化学の知識構築技術は, 従来から言語処理分野で研究されてきた情報抽出技術に関連が深いものの, 一つの化学物質名が複数の表記を持つ, 化学物質が刻々と発見され続けられているなどの特徴から, 従来の情報抽出とは異なる課題への取り組みやアプローチが必要になることもある。そこで本稿では，化学分野の知識構築に焦点を当て，化学分野の特徴や問題を交えながら, 化学分野の固有表現抽出, 関係抽出, 同一性判定およびプロセス抽出について紹介する.

## 2 固有表現抽出

化学分野における固有表現抽出は, 知識構築に必要な化学物質名や沸点や融点など化学物質に関連する表現を抽出することが目的となる. 固有表現に関わる化学物質の特徴として, 一つの化学物
^{1}$ https://www.jaici.or.jp/annai/img/20150709_CAS_PressRelase.pdf
}
質が複数の表記を有することが挙げられる。たとえば, フェニルアラニンは, L- $\beta$-phenylalanine, (S)-2-Benzylglycine や Phenylalanine などの異表記を有する.

この問題に対して, 化学物質名抽出と化学物質名言い換えのマルチタスク学習が提案され, CHEMDNER タスクで，精度改善が報告されている (Watanabe, Tamura, Ninomiya, Makino, and Iwakura 2019)。また, 別の方向性として, BioBERT (Lee, Yoon, Kim, Kim, Kim, So, and Kang 2019) や SciBERT (Beltagy, Lo, and Cohan 2019)のように, バイオ分野などの化学に関わる文献から事前学習することで，精度改善が行われることも報告されている.

## 3 関係抽出

化学分野の関係抽出は, 化学物質間の関係や, 沸点や融点といった数値と化学物質との関係などを抽出し知識化するために研究が進められている。関係抽出の実現のためには, CHEMPROT のような，ドメインごとに正解が付与された教師データを用いて学習を行う手法が広く用いられている。しかしながら, 化学分野の関係抽出タスクは, 教師データ作成に高度な専門知識を必要とするなど, 精度改善のための大規模な教師データの構築コストが問題となる.

そこで，関係抽出においても，BioBERT やSciBERT といった化学に関わる文書での事前学習により，精度改善が行われている。また，外部知識の活用も研究されている。テキストからの薬物相互作用抽出では, 薬物の相互作用情報と分子構造に関する外部薬物データベースからの事前学習モデルを用いることで精度改善が報告されている (Asada, Miwa, and Sasaki 2018).

## 4 同一性判定

論文や特許文書中に出現する化学物質の知識を統合するために，異なる表記であっても同一の化学物質と認識する必要がある。この実現方法の一つとして, Named Entity Linkingのように，規範データベースに対し，紐づける方法が考えられる。しかしながら，供給業者が提供可能な化学物質は既に 10 億以上 (Hoffmann and Gastreich 2019)とも言われているのに対し, CAS や PubChem²のような最大規模のものでも 1 億から 2 億件程度というのが現状である.

別の方法としては, 化学物質名からの構造推定が挙げられる。異なる名称でも同一構造が推定されれば，同一と判定する方法である。化学分野では, IUPAC (International Union of Pure and Applied Chemistry) をはじめとした命名法があり, 命名法に従っていれば, 異なる表記でも, 専門家であれば同一構造と推定可能であるという。また, 化学物質の構造表記法としては, Simplified Molecular Input Line Entry System (SMILES) (Weininger 1988) や InChI (IUPAC International


Chemical Identifier) (Heller, McNaught, Pletnev, Stein, and Tchekhovskoi 2015) が制定されており, 化学物質名からの SMILES や InChIによる構造推定のフリーソフト OPSIN (Lowe, Corbett, Murray-Rust, and Glen 2011)や, ChemAxon ${ }^{3}$, ChemDraw $^{4}$ といった製品もある.

しかし, OPSINのようなルールベース手法は, 規則が適用できない化学物質名を変換できず,実際の文書中でも，IUPACの命名規則が非常に膨大で複雑であることに起因してか，命名規則に違反した名称が散見され，変換できない例も少なくない。この問題に対して，化学物質名から構造を予測する手法として, ニューラル翻訳を応用した化学物質名から SMILESへの変換手法が提案されている (表, 松下, 岩倉, 田村, 二宮 2020). PubChem から自動構築した学習デー 夕からの学習により, 既存の変換器より高い精度を達成している.

## 5 プロセス抽出

化学物質そのものの情報に加え, 目的の化学物質を生成するための化学反応プロセス情報の構造化も応用上重要である. 化学反応プロセスの情報源としては論文や特許が挙げられるが,特に特許は報告される化学物質の数が多いこと, および論文に先立って新規の化学物質が報告される傾向にあることから重要視されている (Senger, Bartek, Papadatos, and Gaulton 2015).

化学特許は一般に数十ページにわたり, 複数の類似の化学反応を記載していることが多い. そのため, 特許文書から化学反応に関する情報を自動抽出するには (1) 個々の化学反応に関する記述を特定し, (2) 各反応プロセスの具体的な情報（材料となる化学物質, 試薬, 反応時間,温度など）を先述の固有表現抽出や関係抽出などを用いて構造化するといった手順を踏む.

自然言語処理技術を用いた化学文献からの反応プロセス情報の抽出としては,ルールベースの手法と比較的単純な機械学習手法を用いた文書分類を組み合わせた方法が提案されている (Jessop, Adams, and Murray-Rust 2011; Lowe 2012). しかし, 多様な記述パターンをカバーできない,複数の手順を踏む化学反応プロセスを正確に抽出できないといった課題がある. Yoshikawa ら (Yoshikawa, Nguyen, Zhai, Druckenbrodt, Thorne, Akhondi, Baldwin, and Verspoor 2019)は,特許文書中の化学反応に関する記述を特定するタスクを文書のパラグラフ系列に対する系列ラベリング問題として定式化し, 化学特許で事前学習されたニューラルネットワークモデルを用いた手法を提案した。これにより，文書レベルの文脈情報を利用することで抽出精度が大幅に向上することが明らかになった。一方，化学特許には表や画像の形で表現された情報も多いほか, 段落をまたぐ参照解析が必要なケースもある. これらを網羅した化学反応プロセス抽出手法の確立は今後の課題である.
^{4}$ http://www.cambridgesoft.com/
}

## 謝 辞

本稿の執筆にあたりまして，松本裕治様，徳永健伸様, Timothy Baldwin 様, 二宮崇様, 嶋田和孝様, 乾孝司様, 田村晃裕様, 西川仁様, ジェプカラファウ様, 進藤裕之様をはじめとした化学分野の言語処理技術を共同で研究いただいた皆様に感謝申し上げます.

## 参考文献

Asada, M., Miwa, M., and Sasaki, Y. (2018). "Enhancing Drug-Drug Interaction Extraction from Texts by Molecular Structure Information." In Gurevych, I. and Miyao, Y. (Eds.), Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics, ACL 2018, Melbourne, Australia, July 15-20, 2018, Volume 2: Short Papers, pp. 680-685. Association for Computational Linguistics.

Beltagy, I., Lo, K., and Cohan, A. (2019). "SciBERT: A Pretrained Language Model for Scientific Text." In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing, pp. 3615-3620.

He, J., Nguyen, D. Q., Akhondi, S. A., Druckenbrodt, C., Thorne, C., Hoessel, R., Afzal, Z., Zhai, Z., Fang, B., Yoshikawa, H., Albahem, A., Cavedon, L., Cohn, T., Baldwin, T., and Verspoor, K. (2020). "Overview of ChEMU 2020: Named Entity Recognition and Event Extraction of Chemical Reactions from Patents." In Experimental IR Meets Multilinguality, Multimodality, and Interaction. Proceedings of the 11th International Conference of the CLEF Association, Vol. 12260. Lecture Notes in Computer Science.

Heller, S. R., McNaught, A., Pletnev, I., Stein, S., and Tchekhovskoi, D. (2015). "InChI, the IUPAC International Chemical Identifier." Journal of Cheminformatics, 7 (1), p. 23.

Hoffmann, T. and Gastreich, M. (2019). "The Next Level in Chemical Space Navigation: Going Far Beyond Enumerable Compound Libraries." Drug Discovery Today, 24 (5), pp. 1148-1156.

Jessop, D. M., Adams, S. E., and Murray-Rust, P. (2011). "Mining Chemical Information from Open Patents." Journal of Cheminformatics, 3 (1), pp. 1-17.

Krallinger, M., Leitner, F., Rabal, O., Vazquez, M., Oyarzabal, J., and Valencia, A. (2015). "CHEMDNER: The Drugs and Chemical Names Extraction Challenge." Journal of Cheminformatics, 7 (1), p. S1.

Krallinger, M., Rabal, O., Akhondi, S. A., et al. (2017). "Overview of the BioCreative VI Chemical-protein Interaction Track." In Proceedings of the 6th BioCreative Challenge Eval-
uation Workshop, Vol. 1, pp. 141-146.

Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., and Kang, J. (2019). "BioBERT: A Pre-trained Biomedical Language Representation Model for Biomedical Text Mining." Bioinformatics, 36 (4), pp. 1234-1240.

Lowe, D. M., Corbett, P. T., Murray-Rust, P., and Glen, R. C. (2011). "Chemical Name to Structure: OPSIN, an Open Source Solution." Journal of Chemical Information and Modeling, 51 (3), pp. 739-753. PMID: 21384929.

Lowe, D. M. (2012). Extraction of Chemical Structures and Reactions from the Literature. Ph.D. thesis, University of Cambridge.

表悠太郎，松下京群，岩倉友哉，田村晃裕，二宮崇 (2020). Transformer を用いた化合物名から化学構造への変換. 言語処理学会第 26 回年次大会, pp. 1161-1164.

Senger, S., Bartek, L., Papadatos, G., and Gaulton, A. (2015). "Managing Expectations: Assessment of Chemistry Databases Generated by Automated Extraction of Chemical Structures from Patents." Journal of Cheminformatics, 7 (1), pp. 1-12.

Watanabe, T., Tamura, A., Ninomiya, T., Makino, T., and Iwakura, T. (2019). "Multi-Task Learning for Chemical Named Entity Recognition with Chemical Compound Paraphrasing." In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing, pp. 6243-6248.

Weininger, D. (1988). "SMILES, a Chemical Language and Information System. 1. Introduction to Methodology and Encoding Rules." Journal of Chemical Information and Computer Sciences, 28 (1), pp. 31-36.

Yoshikawa, H., Nguyen, D. Q., Zhai, Z., Druckenbrodt, C., Thorne, C., Akhondi, S. A., Baldwin, T., and Verspoor, K. (2019). "Detecting Chemical Reactions in Patents." In Mistica, M., Piccardi, M., and MacKinlay, A. (Eds.), Proceedings of the the 17th Annual Workshop of the Australasian Language Technology Association, pp. 100-110.

## 略歴

岩倉友哉: 2003 年 (株) 富士通研究所入社. 2011 年東京工業大学大学院総合理工学研究科物理情報システム専攻博士課程修了. 博士 (工学). 現在,（株）富士通研究所プロジェクトマネージャー。言語処理学会, 情報処理学会各会員.

吉川和：2015 年（株）富士通研究所入社. 2015 年東京大学大学院情報理工学系研究科数理情報学専攻修士課程修了. 2019 年から現在, メルボルン大学客員研究員. 現在，（株）富士通研究所研究員. 自然言語処理の研究開発に従事.