【連載】AIの社会的リスクとガバナンス（第１回）

　近年の AI（Artificial Intelligence、人工知能）技術への関心の高まりと相まって、その利用による社会的リスクについても関心が高まり、そのガバナンスの必要性が指摘されています。
　計 10 回にわたる本コラムでは、このような AI 技術による社会的リスクとそのガバナンスを巡る全体像について俯瞰していきます。
　本連載の筆者は、市川類 東京科学大学 データサイエンス・AI全学教育機構 特任教授 ／ 一橋大学 イノベーション研究センター 特任教授 です。
©2024 Tagui Ichikawa（本コンテンツの著作権は、市川 類 様に帰属します）

第１回　イノベーションのためのガバナンス

（１） 近年の AI 技術の発展とそのリスクへの関心の高まり

　AI 技術は、非常に革新的な技術であるとともに、いわゆる「汎用技術（Generic Technology）」として、機械システムに組み込まれうることはもちろんのこと、非常に幅広い分野で利用されるという特徴を有する技術です。
　この AI 技術は、半導体などのハードウェア技術の継続的な進展や、インターネットの普及等を通じたデータの利用拡大等を背景にして、近年、急速にその高度化と普及（イノベーション）が進展してきているのはご存じのとおりです。具体的には、概ね 2015 年以降、深層学習を始め、機械学習技術をベースにした AI システムの進化・普及が進展し、また、概ね 2023 年以降は、大規模言語モデル（LLM：Large Language Model）を始め、基盤モデルをベースとした生成 AI システムの登場・普及によるイノベーションが爆発的に進展しつつあります。
　一方、このような AI 技術の開発・普及のイノベーションと併せて、AI の利用によって生じる社会的リスクへの関心も急速に高まってきています。実際に、グーグルの検索数の推移（グーグルトレンド）で見ると、第三次 AI ブーム以降は、主に「AI 倫理」という用語が、次いで、特に生成 AI が登場した 2023 年以降は、それに加えて「AI リスク」あるいは「AI安全」などといった AI の社会的リスクに係る用語が急激に検索されるようになり、また、そのための対応策としての「責任ある AI」、「AI ガバナンス」などのキーワードへの関心も急速に高まりつつあります（図１参照）。
　本連載では、このような AI 技術のイノベーションの進展に伴って生じる、AI がもたらす社会的リスクや、そのための対応としての AI ガバナンスの在り方について、説明します。

図１：AI の社会的リスクへの関心の高まり（グーグルトレンド）

（２） 技術による社会的インパクト

　もともと、技術とは、それを利用することにより、人間の能力を拡充することを可能にするものです。その中でも、特に汎用的な技術は、幅広い分野でのイノベーションを引き起こし、この結果、これまで、社会に大きなインパクトを与えてきました。
　具体的には、産業革命以降の蒸気・内燃機関、電力などの「エネルギー・交通分野」でのイノベーションにより、人間の物理的な能力を急速に拡充してきました。また、電信・電話から始まりコンピュータなどの「情報通信・デジタル分野」でのイノベーションにより、人間の知的能力は急速に拡充してきており、そのような技術的進化の一環として、革新的な技術である AI 技術が登場したものと位置づけられます。
　その際、技術やイノベーションとは、一般的に、社会にとって役に立つものと理解されて います。実際に、多くの技術者・起業家は、社会をより良くするために技術の開発やイノベーションに取り組んでいますし、その結果、技術のイノベーションは、社会の効率性の向上や、新たな事業・サービスの創出などを通じた経済成長・経済発展に資することはもとより、気候変動問題、防災・減災などの社会的課題の解決にも資することが可能となります。
　一方、イノベーションとは「創造的破壊」としての側面を有します。このため、場合によ っては既存産業を破壊し、既存の雇用に対して悪影響を与えるなど、社会全体としては負の側面があることも否定できません。また、技術とは、原則として「ツール」にしか過ぎません。このため、その利用方法によっては、安全や環境などの問題や、各種の社会的な問題などのいわゆる「社会的リスク」を引き起こす可能性があります（図２参照）。本連載では、このイノベーションの進展に伴って生じる社会的リスクについて焦点を当ててご説明します。

図２：技術による社会的インパクトの分類

	便益（価値）	リスク
経済面	・ 新事業・サービスの創出 ・ 経済成長・発展	・ 既存産業・雇用への影響 ・ 経済格差の拡大
社会面	・ 社会的課題の解決 （気候変動、災害、医療、・・・）	・ 社会的リスク （安全、環境、人権・・・）

（３） イノベーションのためのガバナンスの必要性

　イノベーションとは、基本的には、新たな技術・方法が開発され、それが社会に普及していく一連のプロセスを指します。したがって、イノベーションを進めていくためには、当該技術・方法が社会で受容されることが前提になり、そのためには、当該技術の利用によって生じる社会的リスクを、社会での受容可能な範囲に抑えていくことが必要となります。これは、世の中に対して安全な製品を提供しないと、結局社会に受け入れられず、イノベーションが生じないということと同義です。
　すなわち、新しい技術をもとにイノベーションを進めるためには、その技術が社会に受け入れられるような適切なガバナンスが必要となります（図３参照）。ここで、技術に係るガバナンスとは、「技術によって生じるリスク」を、ステークホルダーにとって「受容可能な水準で管理」しつつ、 それらからもたらされる「正のインパクトを最大化」することを目的とする、技術的、組織的、社会的システムの設計、運用と定義されます（総務省・経産省定義）。
　革新的で汎用的である AI 技術においても、近年そのイノベーションが急速に進展しつつある中、その能力がゆえに、社会的なリスクをもたらす可能性があり、したがって、そのイノベーションの進展と合わせて、そのガバナンスに係る取り組みの必要性が高まってきているものと理解することが大切です。

図３：イノベーションとガバナンスの両立

筆者紹介　市川 類（いちかわ たぐい）

東京科学大学 データサイエンス・AI全学教育機構 特任教授
一橋大学 イノベーション研究センター 特任教授