# リスク学研究 32(4): 251-252 (2023)
Japanese Journal of Risk Analysis doi: 10.11447/jjra.SRA-E324

【巻頭言】

# エマージングテクノロジー界隈で
リスク人材が求められている*

Risk Analysis Talent are Needed in Emerging Technology Community

岸本 充生**

Atsuo KISHIMOTO
## 1. はじめに

ひと昔前は「バイオ人材」，少し前には「DX人材」や「AI人材」, さらには「量子人材」というふうに，必要とされる人材像は時々刻々と変わっていく。しかし, こうした新規科学技術, すなわちエマージングテクノロジーのイノベーションには当該技術に関する「○○人材」だけでなく,「リスク人材」こそ必要不可欠であると考えている。特に $\mathrm{AI}$ の社会実装におけるリスク人材の参入は喫緊の課題である。その理由を説明したい。

## 2.「安全」に対する態度の転換

20 世紀初頭にガソリン自動車が社会実装された頃と, 自動運転車が社会実装されようとしている現在を比べてみよう。ガソリン自動車がその後社会にもたらすことになる交通事故，排気ガスによる大気污染，大きな道路によるコミュニティの分断などを予想したり，懸念したりした人は当初いなかった。しかし今, 自動運転技術は事故件数や死傷者数を大幅に削減できると予想されているにもかかわらず，事故が起こるとその原因が解明されるまで実証実験をストップさせるなど，非常に慎重に進められている。

このようにアプローチが対称的である背景には，20世紀後半あたりに安全に対する態度が 180 度転換したことが背景にある。すなわち, 図 1 のように，分からないものはひとまず「安全」と仮

図1「安全」に対する態度の転換

定して社会実装してみようという態度から，分からないものはひとまず「危険」とみなして，事前に安全性が説得力をもって示されたと社会が認識したものだけが社会実装に進むという態度に変わったのである。いま私たちが，エマージングテクノロジーと捉えている技術はすべて，後者の価值観のもとで社会実装される必要があることを認識しなければならない。

## 3.「守りたいもの」のスコープの拡大安全に対する態度が転換したことに加えて，「安全」すなわち「私たちが守りたいもの」のス コープも拡大しているという事実も重要である。図 2 のように，人命や財産という狭い範囲から，人権や民主主義など，目に見えないものにも拡大 している。エマージングテクノロジーの「安全」 を検討する際には忘れてはいけない視点である。 EUで検討されている AIの規制案では，保護すべ き対象として，安全や健康に加えて，「基本的権利」が明記されている。


図2「守りたいもの」のスコープの拡大

## 4. 安全を主張するにはリスク学が不可欠 それでは，スコープの拡大された「安全である」 ということを示すにはどうすればよいだろうか。 ISO/IEC(国際標準化機関/国際電気標準会議) のガ イド 51 には，安全とは「許容できないリスクが ないこと(freedom from risk which is not tolerable)」 と定義されている。すなわち,「安全である」こ とを示すためには，リスクの大きさを見積もり，対策等によってその大きさが許容できるレべル以下であることを示す必要がある。安全であること を示すためにはリスク評価とリスク管理，そして リスクコミュニケーションが必要なのである。エ マージングテクノロジーの安全性を事前に確認 し，社会に示すためには「リスク人材」が必要不可欠な理由である。

## 5. 情報技術におけるリスク評価

日本の個人情報保護法への対応においてはこれまでは適法か否かを外形的に判断できることが多かった。しかし, 近年の改正によって, 「個人情報取扱事業者は，違法又は不当な行為を助長し，又は誘発するおそれがある方法により個人情報を利用してはならない」(第19条) という文言が入ったことから分かるように，違法か否かに加え，不当であるかどうかを判断しなけれげならなくなった。これは，グレーゾーンに線引きをする，すなわち個人データを利用する主体が事前に「安全であること」を示す必要が出てきたことを意味する。

情報技術に関するリスク評価は一般的に「プライバシー影響評価(PIA)」と呼ばれ, 米国, 英国, カナダ，オーストラリアなどですでに制度化されている。EUの一般データ保護規則 (GDPR)では個人データの高リスクな利用に対して「データ保護影響評価(DPIA)」の実施が求められている。人権への影響を中心に検討するリスク評価は「人権影響評価(HRIA)」と呼ばれることもある。

図3 情報技術分野のリスク評価の概念図

## 6. AIの社会実装に必要なリスク人材

先にも触れた EUで提案された $\mathrm{AI}$ 規制案においても，「リスクに基づいたアプローチ（risk-based approach)」が採用された。この提案は二重の意味で「リスクに基づいた」ものとなっている。1 点目は，AIシステムをリスクレベルに基づき 4 種類に分類したことである。2 点目は，上から2番目の「高リスク」のAIシステムにはリスクマネジメントを中心とする適合性評価が義務付けられている点である。しかし少なくとも日本では 1 点目のみをもって「リスクに基づいたアプローチ」 と解釈されることが多く，より本質的な 2 点目が十分に理解されているとは言い難い。図3に示すように，PIAを含む情報技術に関するリスク評価は，工学的あるいは化学的なリスク評価と同様，事象の発生可能性と起きた場合の影響度の二軸で評価されるが，客観的・定量的な評価を行うことは困難であり，それぞれ3～5段階ずつの主観的$\cdot$定性的な評価として実施される。自らが，対策を行うことによって「安全なものとなった」ことを示すという目的に特化しているのである。今後, $\mathrm{AI}$ の社会実装が進むと， AI 分野での「リスク人材」へのニーズがますます高まるうえに，リスクトレードオフの評価，主観的リスクと客観的リスクのギャップ，リスクコミュニケーションのノウハウといったリスク学の様々な既存の知見が役に立つはずである。

## 参考文献

岸本充生 (2021) 新興技術を社会実装するということ，国立国会図書館調査及び立法考査局，ゲノム編集の技術と影響（令和 2 年度科学技術に関する調査プロジェクト報告書)，国立国会図書館, 101-121.

岸本充生 (2023) デジタル化に伴う ELSI とリスクコミュニケーション，奈良由美子（編著）リスクコミュニケーションの探求，放送大学，253-272.