# 特許情報の時系列解析結果と売上データを利用した 半導体に関する重要技術の抽出方法

上田 紗綾宮前 義範奥 良彰中原健
ローム株式会社 研究開発センター 融合技術研究開発部
\{saya. ueda, yoshinori.miyamae, yoshiaki.oku, ken. nakahara\}@dsn.rohm.co.jp

## 概要

技術開発において、どんな技術が売上に貢献でき そうか、という判断は重要である。この目的達成の ため、市場に供する事を目的とする技術が記載され た特許の解析は非常に重要である。特許は、学術論文に比して発行量が多く、精読してその全容を把握 することは常に困難である。そこで、本研究では、特許文献に対して自然言語処理を行い、何が重要技術であるかを抽出可能な手法を提案する。重要かど うかの判断は、対象技術を保有する企業の売上の推移という検証可能な数值と比較することで行った。

具体的には、既知の技術である白色 LED(Light Emitting Diode)の 1990 年代から 2000 年代にかけて の大量の特許情報に対して適用し、白色 LED $の$ 売上 が拡大し始める年の 3 年前に、その基礎となる技術 が出願されていたことを明らかにした。

## 1 背景

知的財産は産業上重要な権利であるが、権利の範井やその権利の所有者の情報などから各企業の将来 にわたる技術のトレンドを表すものとして、分析の 対象となってきた。近年ではそうした分析の手法と して、各統計データを見える化する「知財ランドス ケープ」の概念の活用が進んでいる[1]。しかしなが ら、一度に多数の特徵量を考慮することが難しく、出願特許の個々の詳細や傾向について適切な解析は できない。

そこで、本研究で既存の解析の改善を試みる事と した。そのために自然言語処理を活用し、多次元の 特徴量を言語ベクトルとして出願特許から抽出し、 そのどれが重要か、を売上の推移との相関があるか どうかで決定する、という手法を取った。

## 2 関連研究

大量の出願特許における解析手法の研究としては、新規性の評価[3][4][5][6]、概要の要約[7]、特許記載技術の価値判断などがある。この内本研究で対象と する、特許記載技術の時系列解析を用いた価值判断手法としては、特許の引用数を使用して対象とする 技術の価値を判断する手法[8]や、SCDV(Sparse Composite Document Vectors)による文書ベクトルと 財務諸表のデータを使用して評価する手法[9]、論文本数を用いて評価する手法[10]がある。しかしこれ らの手法は、客観的な数値に基づく評価は行ってい るものの企業全体の評価にとどまっており、技術卜 ピックスのどの部分がそれぞれの数值に貢献してい るかまでの分析は行っていない。

これらに対して本研究では売上の推移に着目し、出願特許を年ごとに単語ベクトル化し売上の推移を 比較することで、各技術における重要なトピックス を見つけ出すことを提案する。また手法の評価のた めに、既知の技術である白色 LEDについて、市場に 出始めた 1990 年代から 2000 年代前半にかけての LED に関する特許を調査し、事前の知識を前提とせ ずに白色 LED の市場拡大となった技術を抽出する ことに成功した。企業の評価だけではなく、売上拡大につながる技術の特定まで行うことで、企業にお ける技術開発の方向性を判断する材料を提供できる と考えている。

## 3 提案手法

本章では最初にデータセットの収集方法及び解析手法を示す。

## 3.1 解析対象とするデータ

データは 1986 年から 2021 年に出願された白色 LED 特許を収集した。特許総数は 7552 本ですべて 米国特許である。

## 3.2 アルゴリズム

本手法の提案アルゴリズムは Word 2vec における

「skip-gram」を基本とする[11]。「skip-gram」の特徴 は、中央の単語(ホットワード)から周囲の複数ある
単語を推測するところである。中央の単語(ホットワ 一ド)を $w_{t}$ とした時、その前後に存在する可能性が高 い単語 $w_{t-1}$ と $w_{t+1}$ について推測する。これは $w_{t}$ が与 えられた時に、 $w_{t-1}$ と $w_{t+1}$ が同時に起こる条件付き 確率 $P\left(w_{t-1}, w_{t+1} \mid w_{t}\right)$ を計算することで行う。

図 1 本手法のアルゴリズム

図 1 にその概要を示す。中央の単語に対して、文章中のすべての単語について条件付き確率を計算す る。最終的には最も大きい数值の単語が、中央の単語(ホットワード)に対して最も関連性があると判断 する。

モデルは「入力層」と「出力層」、および $\mathrm{N} \mathrm{N}($ ニ ユーラルネットワーク)を構成するために複数の「隠 れ層」がある。「入力層」に単語が入力されると、

「隠れ層」によって入力側 $W_{i n}$ と出力側 $W_{\text {out }}$ に対し て重みの更新が行われる。例えば、ある自然言語デ 一夕において「LED」という単語の周辺に「Light」 や「Emitting」という単語が出現したとする。この場合、入力層の「LED」に対応した要素に 1、それ以外 の要素に 0 が入力される。「Light」、「Emitting」に 対応した出力層の出力が 1 に近づくように $W_{\text {in }}$ と $W_{\text {out }}$ が更新される。更新式は(1)(2)式のようになる。 なお、ここでは $W_{\text {in }}$ を $W 」 、 W_{\text {out }}$ を $W^{\prime} 」$ で表記し ている。vは 1 つの単語ベクトルでallは文章中に登場する全ての単語に関する単語ベクトルの集合を意味する。 $W_{I}$ はI番目の入力単語の行ベクトルで、 $W^{\prime}{ }_{j}$ は $j$ 番目の出力単語の列ベクトル、 $i$ は各ベクトルの $i$番目の重从、 $\eta$ は学習率で、 0 から 1 の範囲をとる。 また $t_{j}$ は $j$ 番目の出力単語がI番目の入力単語に対し て正解単語であるかどうかの可能性を表している。

$
\begin{aligned}
& W_{I j}^{(\text {new })}=W_{I j}^{(\text {old })}-\eta \sum_{v \in \text { all }}\left(p_{v}-t_{v}\right) W_{i v}^{\prime} \\
& W_{i j}^{\prime(\text { new })}=W_{i j}^{\prime(\text { old })}-\eta\left(p_{j}-t_{j}\right) W_{I j}
\end{aligned}
$

ここで $P_{j}$ はI番目の入力単語と $j$ 番目の出力単語の 共起確率を表しており、式(3)で表される。

$
P_{j}=\frac{\exp \left(W_{I} \cdot W^{\prime}{ }_{j}\right)}{\sum_{v \in \text { all }} \exp \left(W_{I} \cdot W^{\prime}{ }_{v}\right)}
$

 & 分かち青き &  &  &  \\

## 3.3 解析フロー

図 2 本手法のフローチャート

図 2 に本研究のフローチャートを示す。取得した 特許に対して単語ごとに分解する「分かち書き処理」 を行う。次に 1 つの単語に対して 1 つのべクトルを 割り当て、文章中に登場するすべての単語をべクト ルで表現する。作成されたべクトルは多次元(本手法 では 100 次元)となっているので t-SNE(Stochastic Neighbor Embedding)[12]により次元削減を行い人間 が理解できる 2 次元マップを作成する。最後に、作成された 2 次元マップ上の各点について、近傍にあ る点同士を DBSCAN(Density-based Spatial Clustering of Application)[13]によってクラスタ化した。それぞ れのクラスタがどんな意味を持つのか、については 本研究グループで判断した。

## 3.4 LED 特許解析

提案フローの評価のために、すでに既知の技術で ある白色 LED に関して、売上が急拡大した 1990 年代にどのような技術トレンドがあったのかを評価し た。まず入力データについては、 1986 年から 2021 年 の米国 LED 特許を選定し、分析をしたいホットワー ドとして、白色 LEDを最もよくあらわす単語である 「LED」と「white」を選択した。次に年代ごとに「skipgram」モデルによる機械学習を実行したのち, 年代 ごとの 2 次元分布マップを出力する。最後に出力さ れた分布マップを年代ごとに並べることにより時系列変化を明確にする。実際に出力したマップの例と して、1990 年の「LED」をホットワードとした出力分布マップを示す。「赤色」グルーピング群は 「junction」「hetero」や「un turbulent」といった「異 なる物質の安定的な接合について」のクラスタが、
「青色」グルーピング群は「Blue」「reacting」や 「semiconductor」といった「青色反応と半導体につ いて」のクラスタが構成された。このようにしてグ ルーピングされた群に対して群名を決定しこれを全
ての年代に対して行い、時系列に並べる。なお出力分布マップの $\mathrm{X}$ 軸と $\mathrm{Y}$ 軸は $\mathrm{t}-\mathrm{SNE}$ により次元圧縮 される過程で生成したものであり、無次元である。

図 3:本手法の処理フロー(LED 米国特許解析 1986-2021)

図 4 ホットワードLEDに関する出力分布マップ

## 4 結果

ここでは「3.4出力分布マップ」で出力された年代 ごとのマップの解析結果について述べる。下記マッ プは白色 LED の市場を創生した日亜化学工業の業績推移[14]である。白色 LED の売上は 1998 年から生 じており、その後の売上拡大の起点であることがわ かる。よってこの年代の前後で何らかのホットワー ドが取り出せれば、それに関する技術が売上に貢献 した可能性が高いと考えた。

図 5 日亜化学工業の業績推移

## 4.1 ホットワード「LED」によるクラスタ

解析を行い出力されたマップを時系列に並べた結果、1990 年は「青色 LED」について、1995 年から 1998 年の間には「白色 LED」「光」「RGB マトリ ックス」について、2000 年には「照明の生産につい て」のクラスタの存在が確認できた。

マップによる解析結果と白色 LED の売上げを併記した結果を図 6 に示す。1998 年が白色 LED の売上拡大の起点であるが、本手法では 3 年前の 1995 年 は「白色 LED」がコア技術であったことがわかる。

つまり、市場を形成する数年前に有効な「白色 LED 特許」が出願されており、この特許群は市場獲得に先行している。また白色 LED という技術が市場 を獲得するまでに 3 年間のタイムラグが発生してい ることがわかった。

## 4.2 ホットワード「white」によるクラスタ

次に「white」をホットワードとして解析を行った。「LED」同様にマップと売上げを併記したものを図 7 に示す。「white」の場合は 1994 年に「アプリケー ション」についてのクラスタ、1997 年から 2000 年 の間では「光を効率的に役立たせることについて」 クラスタが出現していることが確認でき、「LED」同様売上が生じる数年前から特許化が始まっている ことが判明した。「white」の変遷についてまとめる と「アプリケーション」「光の効率」「生産」「LED、 バックライト、ヘッドライト」「開発保証」「一般化」といった状況が解析の結果得られ、こうした技術が量産に貢献していたものと推測される。

図 6 日亜化学工業の業績推移にホットワード「LED」を重ね合わせたもの

図 7 日亜化学工業の業績推移にホットワード「white」を重ね合わせたもの

## 5 おわりに

本研究では、特許情報の解析手法の 1 つとして、 ホットワードに関する重要な単語群を年代別に取り 出し、それらを実際に実証可能な数値と比較するこ とで、売上拡大につながった重要な技術を取り出す ことに成功した。本手法は、解析を担当する者が解析分野に関する詳細な知識を事前に知っておく必要 がないため、特許以外にも活用が可能であると考え る。

一方で本手法は特計情報が多数公開されている技術分野には有用であるが、各企業や大学において特許化されていない分野、ノウハウといった技術分野
については、適用することが難しい。また一般的に も使われる単語がホットワードや重要な単語群とな る技術については、ホットワードの意味づけが難し く、やはり解析が難しい。そうした技術分野では、単語ではなく文節や文章の単位でクラスタリングで きる手法がより適切であり、今後はトピックモデル やBERTへの適用も検討していく。

## 参考文献

[1]特許庁. 知的人財スキル標準

(Version2. 0) https://www.jpo.go.jp/sesaku/kigyo_chiza i/chizai_skill_ver_2_0.htm

[2]Patent Result.企業の成長性がひと目で分かる「権利者スコアマップ 時系列分析」を開発.(オンライ

ン)(引用日:2021 年 12 月 13 日.)

https://www.patentresult.co.jp/news/2011/02/jikeretsu.ht ml

[3] 難波英嗣.手順オントロジー構築のための特許請求項の構造解析.(オンライン)(引用日:2021 年 12 月

13 日.)

http://nlp.indsys.chuo-

u.ac.jp/pdf/2020/nanba_ifat202003.pdf

[4] 安藤俊幸.特許調查のためのプログラム事例紹

介.(オンライン)(引用日:2021 年 12 月 13 日.)

https://www.jstage.jst.go.jp/article/jkg/70/4/70_203/_df

/-char/ja

[5] 安藤俊幸,桐山勉.分散表現学習を利用した効率

的な特許調查.(オンライン)(引用日:2021 年 12 月 13

日.)

https://www.jstage.jst.go.jp/article/infopro/2019/0/2019_

31/_pdf/-char/ja

[6] 安藤俊幸.機械学習による予備検索を考慮した効率的な特許調査.(オンライン)(引用日:2021 年 12 月 13 日.)

https://www.jstage.jst.go.jp/article/infopro/2020/0/2020 43/_pdf/-char/ja

[7]特許庁. 特許出願技術動向調査.(オンライン)(引用日: 2021 年 12 月 13 日.)

https://www.jpo.go.jp/resources/report/gidou-

houkoku/tokkyo/index.html
[8]山本雄太.技術コミュニティの成長性を加味した 特許価値評価手法の開発.(オンライン)(引用日: 2021 年 12 月 13 日.)

https://www.jstage.jst.go.jp/article/pjsai/JSAI2020/0/JSA I2020_4K2GS305/_df/-char/ja

[9]米村崇.特許分析を通じた製薬企業の研究開発と 企業価値との関連性の研究.(オンライン)(引用日: 2021 年 12 月 13 日.)

https://koara.lib.keio.ac.jp/xoonips/modules/xoonips/deta il.php?koara_id=KO40003001-00002020-3761

[10]柴田洋輔. 特許と論文の複合解析による有望応用分野の予測一印刷技術を例にー(オンライン) ( 引用日: 2021 年 12 月 13 日.)

[11] Tomas Mikolov, Kai Chen, Greg Corrado, Jeffrey Dean (2013) "Efficient Estimation of Word

Representations in Vector Space”. (online) (引用日:

2022 年 1 月 12 日.)

[12]Laurens van der Maaten, Geoffrey

Hinton.Visualizing Data using t-SNE(online) (引用日:

2022 年 1 月 12 日.)

[13] a b Simoudis, Evangelos; Han, Jiawei; Fayyad, Usama M., eds (1996). "A density-based algorithm for discovering clusters in large spatial databases with noise". Proceedings of the Second International Conference on Knowledge Discovery and Data Mining (KDD-96). AAAI Press. pp. 226-231. ISBN 1-57735004-9 (引用日: 2022 年 1 月 12 日.)

[14]宮地電機株式会社 照明 $\cdot$ LED 担当室.LED $の$ 市場 (オンライン)(引用日: 2021 年 12 月 12 日.)

http://www.eco-glass.com/ibox/data/07-11-13_LED-

Communication-06.pdf
 上田 紗綾宮前 義範奥 良彰中原健 ローム株式会社 研究開発センター 融合技術研究開発部 \{saya. ueda, yoshinori.miyamae, yoshiaki.oku, ken. nakahara\}@dsn.rohm.co.jp  