# 症例報告を対象とした個人情報匿名化のための 病名の識別と評価

細谷 健登 北橋 竜雄
株式会社インテック
\{hosoya_kento, kitahashi_tatsuo\}@intec.co.jp

## 概要

本稿では, データ利活用を見据えて, 営業日報など のテキストデータから個人情報に相当する用語を識別, 除去することを目的に症例報告コーパスを用い て, 固有表現認識による病名識別精度の改善および 実用性を重視した固有表現認識の評価方法について 提案する. 固有表現認識を個人情報の匿名化に活用 する際には, 精度が $100 \%$ とはならない以上, 人の手 による確認作業が必要になるため, そのことを前提 としてどれだけ目的の固有表現の存在を示せるかの 評価指標を提案する. 症例報告のような専門的な内容のコーパスにおける固有表現認識の改善方法とし て,そのドメインコーパスのみを用いた分散表現の モデルを作成し, 固有表現認識の学習に加えること で精度を向上させる手法を提案する。

## 1 はじめに

近年様々な分野において, 営業日報やコールセン ターの応対記録, 臨床データなどのテキストデータ の利活用が進んでいる, しかし, 個人情報の取り扱い や情報漏えい防止に関する各種法令およびガイドラ インが強化されていく中で, データの活用には個人情報や機微情報の匿名化が必要となっている. 構造化データの場合は個人情報の位置の特定は比較的容易のため, $\mathrm{k}$-匿名化 [1] 等の確立された手法で自動的 に行うことは可能である.一方,テキストデータのよ うな非構造化データの場合, どこに個人情報が埋め 込まれているかわからないため, 匿名化するには手作業で行わなければならないが, その作業負荷は大 きい. これがテキストデータの利活用が進まない一 つの要因となっている. これらの作業の負荷軽減の ために, 個人情報の自動マスキングというタスクの コンペティションが行われる [2] など, 固有表現認識 の活用が求められている.本研究では, 機微情報として病名に注目した固有表現認識を行う. 病名は非常にセンシティブな情報 であるため, 機微情報として扱う必要性があるため である. 機微情報である病名を自動的に識別するこ とにより, 匿名化の作業負荷軽減を図ることができ る.しかし, 人名や地名などは固有表現認識のための データセットが充実し始めているが [3], 病名につい てはそのようなデータセットが少なく,一般的に使用することのできる固有表現認識のためのコーパス は確立されていない. 本研究においては, 病名の識別 のため, 奈良先端科学技術大学院大学ソーシャル・ コンピューティング研究室 (SOCIOCOM) より提供 される MedTxt-CR: 症例報告 (Case Reports) コーパス [4] を用いて病名の固有表現認識モデルを構築し,さ らにモデルの精度向上のための手法を提案する。

固有表現認識を個人情報の識別に活用する際に，課題となる点として精度の問題がある. 個人情報の 識別では限りなく $100 \%$ に近い精度が求められるが,固有表現認識の精度を $100 \%$ にすることは困難であ り, 実際に固有表現認識を活用する場合には, 人の目 で確認するという作業が必要となる [5]. 一般的に使用される固有表現認識の精度評価では, 固有表現の アノテーションを正確に予測できた場合のみが正解 となり,その正解数に応じて精度の計算を行う. しか し, 個人情報を匿名化する場合は, 予測したアノテー ション位置が完全である必要性は高くない. 予測し たい部分の一部でもアノテーションされていれば，手作業で修正することは容易であるためである. そ のため本稿では, より実用性を重視し, どれだけ目的 の固有表現の存在を示せるかについての固有表現認識の評価方法を提案する。

## 2 関連研究

## 2.1 固有表現認識

固有表現認識は文中の固有表現の位置を識別し， それらのラベルを予測する自然言語処理技術であ る. 固有表現とは人名, 地名, 団体名などの固有名詞 や，時刻や数量などのあらかじめ定義された表現の 総称である. 文書中の固有表現を正しく認識するこ とは, 情報抽出や情報検索などの自然言語処理の応用において重要となる.

固有表現認識の多くの研究は系列ラベリングによ る手法に基づいており，近年では BERT[6]を用いた 事前学習によるニューラル言語モデルを用いた BIO タグ付けによる手法において高い精度が確認されて いる.

## 2.2 MedTxt-CR: 症例報告 (Case Reports) コーパス

MedTxt-CR: 症例報告 (Case Reports) コーパスは, J-Stage でオープンアクセス公開されている症例報告論文 PDF から OCR 抽出したテキストのコーパス である [4]. OCR エラーによる非文を削除した OCR 抽出テキスト全文書 (3148 件), および単語レベルの OCR エラー修正・NERアノテーション [7] 済みの頻度バランスサブセット (224 件) が提供されているお り, NER アノテーションは病名/症状, 臟器/部位, 特徵/尺度, 変化, 時間表現など, 症例にかかわる様々な アノテーションがされている. 本研究では, 特に病名の識別に注目するため, NERアノテーション済み のテキストから病名/症状のアノテーションのみを 残し, その他のアノテーションを除去したものを用 いる.

## 3 実験

ニューラル固有表現認識の精度は文字や単語の埋 め込みの手法に影響される. 本実験では単語埋め込 みの手法を変化させ, 固有表現認識モデルを作成す る.また, 本研究における, 固有表現認識モデルには,固有表現認識タスクにおいて高い精度が報告されて いる, Bi-LSTM + CRF[8] を用いる。

## 3.1 ベースラインモデル

ベースラインモデルとして, 埋め込み表現に文字 ベースの言語モデルを使って単語分散表現を構築す る Akbik らの手法 (Flair embedding)[9] を用いる。ま た比較のため, 一般的に高い精度が出るとされる Flair embedding と BERT の分散表現を組み合わせた
ものでも実験を行う.ここで, BERT の事前学習モデ ルとしては情報通信研究機構 データ駆動知能シス テム研究センターより公開されている NICT BERT 日本語 Pre-trained モデル BPE あり [10]を使用する.

## 3.2 提案手法: ドメインコーパスのみを用 いた分散表現の作成

BERT 等の事前学習モデルを用いる手法の場合,事前学習モデルの学習には大量のデータが必要にな るため, 基本的に Wikipedia など, 一般的に見られる テキストを使用して学習が行われている. しかし, 症例報告のようなあるドメインに特化したコーパスを 用いる場合, そのドメイン内でのみ見られる単語が 多く使用されており, 事前学習モデルでは補い切れ ないという問題がある. 本研究ではその問題の解決 のために, 入力する単語埋め込みに事前学習モデル の分散表現に加え, ドメインコーパスのみを用いて 学習した分散表現を加えることで精度の向上を図 る. ドメインコーパスにおける分散表現の学習には Word2Vec[11]を用いる. 本実験では, 下記の通りに 入力する単語埋め込みを組み合わせたもので実験を 行う.
- Flair embedding + Word2Vec
- BERT + Word2Vec
- Flair embedding + BERT + Word2Vec

## 3.3 症例報告コーパスの追加アノテー ション

学習データ量を増やすため, OCR 抽出テキスト全文書から NERアノテーション済みの頻度バランス サブセットに使用されていない文書を取り出し, 手動でアノテーションを行った. アノテーションの手 がかりとして, SOCIOCOM で提供される万病辞書 （MANBYO_202106）を用いた形態素解析結果 [12], および標準病名マスター病名検索結果 [13] を元に実施した. 今回追加でアノテーションしたのは 159 件 である.ここでアノテーションしたコーパスを学習 データに追加し, ベースモデルと同様の手法で学習 を行った。

## 3.4 提案評価指標

本実験で作成したモデルの評価指標として, F1 值に加えて実用性を重視した評価指標 (正解指示率) を用いる. 正解指示率では, テストデータのア ノテーションにおいて,一部でもアノテーションが されている場合には正解としてカウントする. テス
を識別

## 正解 長与甲型肝硬変と急性アルコール性肝炎と判明した。 \\ 予測 長与甲型肝硬変と急性アルコール性肝炎と判明した。

(c) 1 つの正解部分を 2 つに分けて識別

正解 長与甲型肝硬変と急性アルコール性肝炎と判明した。

予測 長与甲型肝硬変と急性アルコール性肝炎と判明した。

(d) 2 つの正解部分をまとめて識別

図1 正解指示率において正解とするアノテーション例 トデータ内の正解アノテーション数を $N_{c}$, 予測し たアノテーション数を $N_{p}$ とし, 正解アノテーショ ンを $s_{c i}\left(b_{c i}, e_{c i}\right)\left(i=1,2, \ldots, N_{c}\right)$, 予測したアノテー ションを $s_{p j}\left(b_{p j}, e_{p j}\right)\left(j=1,2, \ldots, N_{p}\right)$ と表すとす る.ここで $, b, e$ はそれぞれアノテーションの開始位置, 終了位置である. このとき, 正解指示率 Score は

$
\begin{aligned}
\text { Score } & =\frac{\sum_{i=1}^{N_{c}} f\left(s_{c i}, S_{p}\right)}{N_{c}} \\
S_{p} & =\left.\{s_{p 1}, s_{p 2}, \ldots, s_{p N_{p}}\right.\} \\
f\left(s_{c i}, S_{p}\right) & = \begin{cases}1 & \exists s_{p j}\left(b_{p j}, e_{p j}\right) \in S_{p} \\
& :\left(b_{c i} \leq b_{p j} \leq e_{c i}\right) \cup\left(b_{c i} \leq e_{p j} \leq e_{c i}\right), \\
0 & \text { otherwize }\end{cases}
\end{aligned}
$

と表される.

図 1 に正解指示率で正解とするアノテーションの 例を示す.

## 4 結果

表 1 に固有表現認識の結果を示す. ※を付与した ものが提案手法である。

ベースラインの手法と比較すると埋め込みの手法を複数組み合わせた場合は精度が高くなること がわかる. F1 值について比較すると, 提案手法であ る Flair+W2V, BERT+W2V の結果は, Flair+BERT に は劣るものの, ベースラインを上回る精度となり, Flair+BERT+W2V と 3 つを組み合わせた場合が最も 高いという結果になった. また, 正解指示率について 比較すると, Flair+BERT, および BERT+W2V が同等 の値で最も高いという結果となった.表 1 実験結果

新たにアノテーションをしたデータを追加した場合の結果については, F1 值および正解指示率ともに 減少するという結果となった.これは, 提供されて いる NER アノテーション済みの頻度バランスサブ セットと新規でアノテーションしたデータでアノ テーションの規準が統一されていなかったためであ ると考えられる。

## 5 おわりに

本稿では症例報告コーパスにおける病名の識別モ デルの構築と実用のための固有表現認識の評価指標 を提案した. 症例報告コーパスでの病名の識別では，単語埋め込みにドメインコーパスより学習した分散表現を追加することで, 固有表現認識の精度を向上 させる手法を提案した. 固有表現認識の評価におい て正解指示率を用いることで, どの程度目的の固有表現の存在を示すことができるのかの指標となるた め, 匿名化に必要なタスクについても固有表現認識 モデルの有用度を示すことができる。

個人情報の匿名化について実用化を意識した場合 の課題として, まず提案評価指標においての精度を 100\%に近づける必要がある. そのための今後の展望 として, モデルの学習方法工夫だけでなく, 辞書や ルールベースの手法を組み合わせることでより精度 を向上させることが挙げられる. また, データの不足 を補うために, 同基準によるアノテーションデータ を拡充するための作業フローの整備をしていく必要 があると考えられる。

## 謝辞

本研究を行うにあたり, 症例報告コーパスのデー タを提供いただいた奈良先端科学技術大学院大学 ソーシャル・コンピューティング研究室の皆様に心 より感謝いたします。

## 参考文献

[1] Pierangela Samarati and Latanya Sweeney. Protecting Privacy when Disclosing Information: k-Anonymity and its Enforcement through Generalization and Suppression. Technical report, Computer Science Laboratory, SRI International, 1998.

[2] Nishika 株式会社. 判例の個人情報の自動マスキ ングコンペ振り返り,2021. https://note.com/ nishika_inc/n/n78447a423abe\#N58Rd.

[3] 近江崇宏. Wikipedia を用いた日本語の固有表現抽出 のデータセットの構築. 言語処理学会 第 27 回年次大会, 2021.

[4] MedTxt-CR: 症例報告 (Case Reports) コーパス, 2020. https://sociocom.naist.jp/medtxt/cr/.

[5] 荒牧英治, 奥村学. 医療言語処理. コロナ社, 2017.

[6] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding, 2019.

[7] Shuntaro Yada, Ayami Joh, Ribeka Tanaka, Fei Cheng, Eiji Aramaki, and Sadao Kurohashi. Towards a Versatile Medical-Annotation Guideline Feasible Without Heavy Medical Knowledge: Starting From Critical Lung Diseases. Proceedings of The 12th Language Resources and Evaluation Conference, pp. 4567-4574, 2020.

[8] Zhiheng Huang, Wei Xu, and Kai Yu. Bidirectional LSTMCRF Models for Sequence Tagging, 2015.

[9] Alan Akbik, Duncan Blythe, and Roland Vollgraf. Contextual String Embeddings for Sequence Labeling. Proceedings of the 27th International Conference on Computational Lingistics, pp. 1638-1649, 2018.

[10] NICT BERT 日本語 Pre-trained モデル, 2020. https: //alaginrc.nict.go.jp/nict-bert/.

[11] Tomas Mikolov, Kai Chen, Greg Corrado, and Jeffrey Dean. Efficient Estimation of Word Representations in Vector Space, 2013

[12] 万病辞 書 Manbyo-Dictionary, 2021. https:// sociocom.naist.jp/manbyou-dic/.

[13] 標準病名マスター病名検索, 2021. http://www. byomei.org/Scripts/Search/index_search.asp.
 細谷 健登 北橋 竜雄 株式会社インテック \{hosoya_kento, kitahashi_tatsuo\}@intec.co.jp  