# 文書単位の日本語テキスト平易化コーパスの構築に向けて

長井慶成 岡照晃 小町守
東京都立大学
nagai-yoshinari@ed.tmu.ac.jp \{teruaki-oka, komachi\}@tmu.ac.jp

## 概要

日本語の平易化の研究は，英語など第二言語学習者の多い言語に比べ言語資源に乏しく, 研究も盛ん でない現状である。その打開に向け，我々は新たな 文書単位の日本語テキスト平易化コーパスの構築 を目指している。本稿ではまず毎日新聞と毎日小学生新聞を対象に，同じ内容を扱った記事同士を比較 する予備調査を行った. その結果から，5つの平易化操作を定義し, 平易化前後の文アライメント評価 データを作成した. さらにテキスト平易化に向けて 作られた既存の文アライナーでの評価分析に取り組 んだ.

## 1 はじめに

テキスト平易化とは，理解が困難な文書である 「難解文書」の持つ意味を保ちながら，語彙や文法的な複雑さの抑えられた解釈のしやすい「平易文書」へと換言するタスクである. 平易化の利点とし て，テキストの読解レベルを下げることで子供や第二言語学習者などの非ネイティブスピーカーの読解支援 [1] が可能な点がある.

英語には「Wikipedia と Simple English Wikipedia」 や，「ニュース記事とそれを平易に書き換えたもの」 など大規模なコンパラブルテキストが既に存在して おり，これらを対応付けたテキスト平易化コーパス は英語の平易化の研究促進に貢献している。一方,日本語の平易化のための言語資源は，英語に比べて 乏しいのが現状である. 既存の日本語の平易化コー パスの多くは, 語彙平易化や文法平易化といった特定の平易化に焦点を当て，また文単位の平易化のみ を考慮したものとなっている. 英語のような大規模 なテキスト平易化コーパスが存在しないため, 日本語では文書単位の平易化がどのような操作により実現されているかの調査は十分に行われておらず，未 だ不透明な部分が多い.

このような課題に対処すべく，我々は日本語の文書単位で，かつ平易化の操作を網羅した新たな日本語テキスト平易化コーパスの構築に取り組んでい る. 本稿ではその前段階としてコンパラブルテキス トである毎日新聞と毎日小学生新聞の記事データの 同じ内容を扱った記事同士を比較する予備調査を 行う. 調査の結果から日本語の文書単位の平易化に 必要な平易化操作を定義し，それに基づきアノテー ションを行なって「文アライメント評価データ」を 作成した。最後に作成したデータを用いて，既存の 自動文アライナーの評価を行なった。

本稿の主な貢献は, 以下の 3 点である.
- 予備調査から，日本語の文書単位の平易化にお ける 5 つの平易化操作を新たに定義した.

・定義した平易化操作や文の対応が付与された 「文アライメント評価データ」を作成した。

$\cdot$文アライナーでの評価分析により, 平易化操作 や文の対応の自動付与の可能性を示した.

## 2 関連研究

## 2.1 英語の平易化コーパス

英語の代表的な平易化コーパスには, Wikipediaと ニュース記事をドメインとした 2 種類が存在する。

Wikipediaをドメインとした平易化コーパス [2][3] は, Simple English Wikipedia と English Wikipedia を 対応付けることで構築されている. Simple English Wikipedia ${ }^{1}$ は，一部の English Wikipedia ${ }^{2}$ の記事を平易化したテキストである。平易化はユーザーが行っ ており，基本的な語彙や文法に限定した書き換え，詳細追加などで記事を作成している。

ニュースドメインの平易化コーパスとして， $\mathrm{Newsela}^{3)}$ コーパス [4] がある. この平易化コーパス は，ニュース記事を人手により 4 段階のレベルで書 き換えることで構築されたコーパスである。

日本語の Wikipedia には Simple English Wikipedia にあたるような平易化された記事は存在しない. ま た Newsela のような複数の難易度を考慮したコーパ スも存在しないため, 日本語の平易化のための言語資源は乏しい現状にある。

## 2.2 日本語の平易化コーパス

『SNOW T15: やさしい日本語コーパス』[5] は, 語彙平易化に焦点を当てたコーパスである. 日本語の 基本的な語として 2,000 語を選定し，難解な文をそ の語彙のみを用いた表現に書き換えて構築された。

他にこのコーパスを参考にした『SNOW T23: やさ しい日本語拡張コーパス』[6] や文法平易化に焦点 を当てた『日本語文法平易化コーパス』[7]などもあ るが，いずれも特定の平易化に特化し，また文単位 の平易化のみを考慮したものである.

我々は日本語の文書単位での平易化を見据えて いる。それに向けて，以上のような文単位の日本語平易化コーパスとは異なり，特定の平易化に限定せ ず，平易化の操作を網羅した文書単位の日本語テキ スト平易化コーパスの構築に取り組んでいる.

## 3 予備調査

この章では，文書単位での平易化に必要となる平易化操作を新たに定義するための予備調査を行う.次の 4 章で，定義した平易化操作や対応する平易文書の文 IDを難解文書の各文にアノテーションして 文アライメント評価データを作成する.

## 3.1 データセット

難解文書と平易文書の関係があると期待される日本語のコンパラブルテキストとして，毎日新聞と毎日小学生新聞の記事がある. 毎日小学生新聞は小学生向けの日刊紙であり，公式からの言及はないが，毎日新聞の記事を小学生が理解できるような平易な 表現に書き換えたと思われる記事が散見される。そ のため本稿では毎日新聞記事を「難解文書」，毎日小学生新聞記事を「平易文書」として扱う.

予備調査では，まず毎日新聞と毎日小学生新聞の 記事集合に対して記事アライメントを行い，同じ内容を扱った記事ぺアを抽出する。次に目視で記事ぺ アの文の対応付けを行い，どのような操作により平易な表現への書き換えが行われているかを調査す る.その結果から日本語の文書単位の平易化に必要 な平易化操作を新たに定義する。表 1 平易化操作の種類と操作

予備調査には毎日新聞，および毎日小学生新聞の 一年分の掲載記事を収録した 2014 年版の『CD-毎日新聞データ集』, 『CD-毎日小学生新聞 記事データ 集』を使用する。

## 3.2 記事の対応付け

毎日新聞と毎日小学生新聞の記事集合から同じ 内容を扱った記事ぺアを抽出する．毎日小学生新聞 の特徴として，漢字の後に括弧でふりがなを振る傾向がある。これを取り除くため，両方のデータセッ 卜で前処理として丸括弧とその中の文字列は削除 する．前処理を加えた記事に対し，ユーザー辞書に 「令和」を登録した mecab ipadic-NEologd で形態素解析を行い，2 文字以上の動詞，形容詞，名詞を抽出 する．ただし数字，ストップワード（一部の非自立語動詞)，基本形が「*」のものなどは除く．毎日小学生新聞の掲載日ごとの記事を形態素解析して抽出 した単語の頻度ベクトルを作成, tf-idf で重み付けし た. 掲載日の前後 7 日の毎日新聞記事と余弦類似度 をとることで記事を自動抽出した。

bag-of-words での記事アライメントでは，掲載時間のずれにより詳細まで完全に一致したものを得 る事はできない（例：被害状況が更新されるなど）. また毎日小学生新聞への書き換えでは不要な句や節 を削除する平易化の操作が行われており，記事の類似度が高いからといって必ずしも良い対応の取れた 記事のペアとは限らない。そのため目視で確認し,内容が一致した類似度が 0.70 以上の記事ぺアから 類似度 0.05 刻みに 3 件ずつ計 18 件を抽出した。

## 3.3 結果

抽出した各記事を鍵括弧外の「。」，「？」，「!」」で 文分割し，文の対応を目視で確認した．対応が付い ていると判断した文同士を比較して平易化のために 行われている操作を調査した。操作の種類ごとに分類した結果，表 1 に示す計 5 つの平易化操作を新た に定義した．各平易化操作の例は，付録 $\mathrm{A}$ 参照.
表 2 毎日新聞記事へのアノテーション（一部抜粋）

 & 3 & 0 & 囲碁：10歳・仲邑初段、悔しい船出【大阪】 \\
スプリット & 1,2 & 1 &  \\

表 3 対応する毎日小学生新聞記事（一部抜粋）

4月 1 日付で囲基の史上最年少棋士になった仲邑董初段が 22 日、大阪市で公式戦の初めての対局に臨みました。第 29 期竜星戦予選 B 1 回戦で、同期の大森らん初段に敗れ、ほろ苦いプロデビューとなりました。序盤は互角の戦いだったものの、大森初段が中盤で優勢を築きました。

表 4 平易化操作ラベルの割合と平均文長

## 4 評価データの作成

## 4.1 データセット

文アライメント評価データの作成には，2019 年版の『CD-毎日新聞データ集』, 『CD-毎日小学生新聞 記事データ集』のデータセットを使用する．記事が対応付いていると判断する閾値を類似度 0.75 以上として，3.2 節と同様に記事アライメントを行 う. その結果, 毎日新聞 66,858 件と毎日小学生新聞 3,529 件から 442 件の記事ペアを抽出した. そのう ちの 287 件がすべて文が「。」，「?」，「!!ののいずれ かで終わる記事であった. 見出しなどではなく文に 加えられる平易化操作に関心があるので，この 287 件の中から目視で対応がとれていることを確認した 50 件の記事ペアを抽出した。

## 4.2 アノテーション

抽出した記事ぺアの毎日新聞と毎日小学生新聞の 記事を読み比べ，毎日新聞記事の各文に対して表 1 の平易化操作，毎日小学生新聞記事の対応する文の ID を付与するようにアノテーションを 1 名の作業者に依頼した. 依頼時, 毎日小学生新聞で插入され た文 ID を記録するため文 ID が 0 の行を用意し，文 のカラムには記事の見出しを入れた。毎日新聞記事 への人手アノテーションの結果の例と, その記事に 対応付く毎日小学生新聞記事を表 2 と表 3 に示す.

## 5 分析

## 5.1 平易化操作ラベルの割合

毎日新聞と毎日小学生新聞の間で行われる平易化操作の傾向をつかむために，毎日新聞記事の各文に 対して付与された表 1 の 5 つの平易化操作の総数と 割合, 付与された文の平均文長を調査した。その結果を表 4 に示す. ただし，付録 B のように毎日新聞と毎日小学生新聞には文書の性質に違いがある. そのため毎日小学生新聞の文に付与される「文の挿入」は，毎日新聞の文に付与する他の平易化操作の 平均文長とは単純な比較はできない.

最も多く行われた平易化操作は「文の削除」で あった.これは難解な文を平易な文へと変換するこ とを前提とした「文単位の平易化」にはない「文書単位の平易化」特有の操作である. すべての難解な 文を平易なものにするのではなく，ときには削除し て文書全体を要約する形で毎日新聞記事から毎日小学生新聞記事へ書き換えていることが伺える.

スプリットのラベルの付いた文の対応 IDをみる と文の対応は $1 \mathrm{n}$ となっており, $\mathrm{n}: \mathrm{m}$ のような複数文が対応するような複雑な平易化操作は抽出した 50 件ではみられなかった. スプリットで連続する 文に分割されるのは 32 回のうち 30 回であり，また 付与された文の平均文長は他の操作よりも長いこと から，文書の構造を変化させるのではなく，文長を 短くすることで理解しやすいものに書き換える傾向 があるといえる.

マージはスプリットと同数だが，マージは $\mathrm{n}: 1$ の 関係をとる平易化操作であり，毎日新聞の各文にア ノテーションを行っているため実際の操作回数より も多くなっている。連続するマージを 1 回とカウン トした場合の総数は 24 回であり, 平易化操作とし てはスプリットの方が多用されている.
表 5 平易化操作ラベルの条件

## 5.2 アライナーによる文の対応付けと分類

既存の文アライナーで作成した評価データの文ア ライメントを行い，その結果をもとに「平易化操作」 と「対応 ID」を自動付与する。これを評価データの 人手アノテーションと比較して一致率を調査する.

## 5.2.1 アライナー

$\mathrm{CATS}^{4)}$ [8][9] は，段落や文を $\log$ tf-idf で重み付け した文字 3-gram で表現し, 文書間で最大類似度の ものと対応付けるアライナーである. 本稿では文ア ライナーとして使用し，対応元文書の各文の「対応 ID（対応する文の ID）」と「余弦類似度」を求める。 1:n の対応をとるスプリットやマージの検出のため に「毎日新聞-毎日小学生新聞」の両方向で行う.

## 5.2.2 平易化操作ラベルの自動付与

作成した評価データの 50 記事から抽出した 15 記事をもとに以下の 4 つの条件を設定し，表 5 のよう に満たすかで平易化操作を自動付与する. ラベルを 付与する毎日新聞の文を $\left.「 S_{m a i}\right.\lrcorner$, CATS での毎日新聞から毎日小学生新聞への対応付けで $S_{m a i}$ と最大類似度をとる毎日小学生新聞の文を $\left.「 S_{s h o}\right.\lrcorner$ とする。

条件 1 毎日小学生新聞から毎日新聞への対応付け で $S_{s h o}$ の最大類似文は $S_{m a i}$ で, 類似度は 0.20 以上

条件 2 毎日小学生新聞の文に $S_{s h o}$ 以外に $S_{m a i}$ が 最大類似文, かつ類似度が 0.20 以上の文がある

条件 3 毎日新聞の文に $S_{m a i}$ 以外に $S_{s h o}$ が最大類似文, かつ類似度が 0.20 以上の文がある

条件 4 毎日小学生新聞の文で, 毎日新聞のすべて の文との類似度が 0.13 以下

## 5.2.3 評価

各平易化操作ラベルの総数と, それが人手アノテー ションしたラベルと対応 ID のどちらとも一致する

4) https://github.com/neosyon/SimpTextAlign表 6 平易化操作ラベルの一致率

表 7 自動付与と人手によるアノテーションの比較人手 自動 毎日新聞

ものの総数と割合を表 6 に示す.「なし」は自動付与では文の挿入は行われていないとされたが, 人手 アノテーションではあると判断されたものを表す.

マージを除く平易化操作は人手アノテーションと 高い一致率であった. マージの一致率が低い要因と して 2 点考えられる. 1 点目として文字 3-gram での 対応付けにより内容は異なるが出現単語が類似した 文とも高い類似度となり，誤った対応付けをするこ とがある. 2 点目としてマージの判断は人手でも困難なことが挙げられる。毎日小学生新聞の『「N 7 ００Ｓ」は来年の東京オリンピック直前にデビュー する予定で, アメリカの高速鉄道や台湾新幹線など への売り込みを目指しています。』という文に対応 する毎日新聞の文に人手と自動では表 7 のように異 なるラベルを付与した. この場合は自動付与の方が 適切なラベルといえる. 文アライナーの活用するこ とで人手付与の誤りを検知でき, より高い精度で平易化操作ラベルを付与することが期待される.

## 6 おわりに

本稿では，毎日新聞と毎日小学生新聞の記事ペア から平易化の予備調査を行った。「調査により新た に設計した 5 つの平易化操作」と「対応する文 ID」 が付与された文アライメントの評価データを作成し た. また，文アライナーにより自動での平易化操作 を分類した結果，人手アノテーションと高い一致率 であった. このことから, 文アライナーを活用して 自動で平易化操作ラベルや対応する文 IDを付与す ることで，十分なコンパラブルテキストさえ用意す れば，大規模な文書単位の平易化コーパスを構築で きる可能性を示した。

## 謝辞

本研究成果は, 国立研究開発法人情報通信研究機

構（NICT）の委託研究「自動翻訳の精度向上のため のマルチモーダル情報の外部制御可能なモデリング の研究開発」により得られたものである.

## 参考文献

[1] Jan De Belder and Marie-Francine Moens. Text simplification for children. In SIGIR Workshop on Accessible Search Systems, pp. 19-26, 2010.

[2] Zhemin Zhu, Delphine Bernhard, and Iryna Gurevych. A monolingual tree-based translation model for sentence simplification. In International Conference on Computational Linguistics, 2010.

[3] William Coster and David Kauchak. Simple English Wikipedia: A new text simplification task. In Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics: Human Language Technologies, pp. 665-669, Portland, Oregon, USA, June 2011. Association for Computational Linguistics.

[4] Wei Xu, Chris Callison-Burch, and Courtney Napoles. Problems in current text simplification research: New data can help. Transactions of the Association for Computational Linguistics, Vol. 3, pp. 283-297, 2015.

[5] Takumi Maruyama and Kazuhide Yamamoto. Simplified Corpus with Core Vocabulary. In Nicoletta Calzolari (Conference chair), Khalid Choukri, Christopher Cieri, Thierry Declerck, Sara Goggi, Koiti Hasida, Hitoshi Isahara, Bente Maegaard, Joseph Mariani, Hélène Mazo, Asuncion Moreno, Jan Odijk, Stelios Piperidis, and Takenobu Tokunaga, editors, Proceedings of the Eleventh International Conference on Language Resources and Evaluation (LREC 2018), Miyazaki, Japan, May 7-12 2018. European Language Resources Association (ELRA).

[6] Akihiro Katsuta and Kazuhide Yamamoto. Crowdsourced Corpus of Sentence Simplification with Core Vocabulary. In Nicoletta Calzolari (Conference chair), Khalid Choukri, Christopher Cieri, Thierry Declerck, Sara Goggi, Koiti Hasida, Hitoshi Isahara, Bente Maegaard, Joseph Mariani, Hélène Mazo, Asuncion Moreno, Jan Odijk, Stelios Piperidis, and Takenobu Tokunaga, editors, Proceedings of the Eleventh International Conference on Language Resources and Evaluation (LREC 2018), Miyazaki, Japan, May 7-12 2018. European Language Resources Association (ELRA).

[7] 稲岡 夢人, 山本和英. 日本語文法平易化コーパスの構築. 言語処理学会第 25 回年次大会, pp.375-378, March 2019.

[8] Sanja Stajner, Marc Franco-Salvador, Simone Paolo Ponzetto, Paolo Rosso, and Heiner Stuckenschmidt. Sentence alignment methods for improving text simplification systems. In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics, ACL 2017, Vancouver, Canada, July 30 - August 4, Volume 2: Short Papers, pp. 97-102, 2017.
[9] Sanja Štajner, Marc Franco-Salvador, Paolo Rosso, and Simone Paolo Ponzetto. CATS: A tool for customized alignment of text simplification corpora. In Proceedings of the Eleventh International Conference on Language Resources and Evaluation (LREC 2018), Miyazaki, Japan, May 2018. European Language Resources Association (ELRA).

## A 平易化操作ごとの例

 &  \\

## B 作成した文アライメントの評価データの統計量

図1評価データの文字数のヒストグラム

図 2 評価データの文数のヒストグラム
 長井慶成 岡照晃 小町守 東京都立大学 nagai-yoshinari@ed.tmu.ac.jp \{teruaki-oka, komachi\}@tmu.ac.jp  