「GOVERNANCE INNOVATION: Society5.0の時代における法とアーキテクチャのリ・デザイン」報告書(案)を読む

「GOVERNANCE INNOVATION」報告書(案)の公表

「GOVERNANCE INNOVATION: Society5.0の時代における法とアーキテクチャのリ・デザイン」報告書(案)の意見公募手続(パブリックコメント)が開始されています(以下「ガバナンス・イノベーション報告書案」)。

 筆者は、AIと法律を考えるにあたって、「AIが社会で使われた場合、従来の法律が当然の前提としていた意志主義や責任主義は通用しなくなり、従来の法制度では対応できないのではないか。法制度についてもパラダイム変換が必要ではないか?」と考えていました。

 例えば、人間が大まかにした指示を受けてAIがAI同士で締結した契約の法的有効性であるとか、完全自動運転車が起こした事故の刑事責任は誰が取るのか、といった問題です。

 さらに、実務を考えた場合、立証の問題もあります。完全自動運転車が事故を起こした場合、被害者や検察官は、責任を取るべき者の過失や欠陥を立証することができるのでしょうか。複雑なシステムやソフトウェアの問題点を素人が解き明かすことは難しいですし、特にディープラーニングが使われている場合には、これらの立証をすることは相当困難なことが想定されます。そうだとすると、被害者は、立証の観点からも泣き寝入りせざるを得ないということになりますし、逆に、問題のあるAIを製造・販売しても、なかなか責任を問うことができないということが起こり得ます。それは、社会全体から見て、適切でないと思われます。

 そのようなことを考えていた中、ガバナンス・イノベーション報告書は、AI時代における新しい法制度について示唆を与えてくれるものであり、その観点から興味深く読みました。

「GOVERNANCE INNOVATION」報告書(案)の概要

 ガバナンス・イノベーション報告書案は、現時点でパブリックコメント中ですし、修正される部分もあるとは思いますが、とりあえず現時点の案について、筆者が興味を持った観点から概要を述べたいと思います。なお、この項目は、報告書案の要約に過ぎない(しかも長い)ので飛ばして、次の項目の筆者の見解をまず読んでいただくのもありと思っています。

ガバナンスとは

 「ガバナンス・イノベーション」とは、あまり聴き慣れない用語ですが、この報告書でのガバナンスとは社会のガバナンスを意味しているようです。

 そして、「ガバナンス・イノベーション」とは、創造的破壊をもたらすイノベーションを促進するようなガバナンス(Governance for Innovation)を設計することが必要という文脈と、イノベーションがもたらすリスクを社会が適切にコントロールし、財産・生命・ 心身の安全、プライバシー、民主主義、公正な競争といった様々な社会的価値を実現するガバナンス(Governance of Innovation)を設計する必要があるという文脈の2つの文脈があるようです。

 ガバナンス・イノベーション報告書案は、ガバナンスのプロセスを、(a)ルール形成、(b)モニタリング、及び(c)エンフォースメントという三段階に整理しています。

 そして、ガバナンスの主体を、(i)国家・政府、(ii)企業、及び(iii)コミュニティ・個人、の三種類に分類すしています。

 さらに、ガバナンスの手法として、レッシグにならって、(i)法、(ii)アーキテクチャ、(iii)市場、(iv)社会規範の4つの要素を挙げ、国家・政府は法を、企業はアーキテクチャを、コミュニティ・個人は市場と社会規範を主に担うとしています。

既存のガバナンスモデル

 ガバナンス・イノベーション報告書案では、既存のガバナンスモデルについては、国家の定める法律と、
法律の執行を担う政府の規制当局が、ガバナンスの中心的な役割を担ってきたとし、ガバナンスのプロセスについて以下のようであったとしています。

(1) ルール形成
国家が法規制を制定し、特定の規制対象(業)を定め、当該規制対象に対してどのような行為をすべきか(行為義務)を規定する。

(2) モニタリング
規制当局が、法令違反の有無を含むオペレーションの状況を、年に一度、四半期に一度、といった一定期間ごとに監督する。データは、検査官等が実地に赴くことで収集する。

(3) エンフォースメント
規制当局や裁判所は、企業に法令違反や権利侵害行為があった場合に、典型的には行為者に故意又は過失があったかどうかを判断し、それが認められる場合に法的制裁(一定の刑事罰・行政罰や許認可の剥奪等)を科す。

 しかし、このような既存のガバナンスモデルは、以下のような問題に直面しているとしています。

(1) ルール形成

 データやAIを用いて安全・安心といった社会的価値を実現する場面において、実際にどのような仕組みやシステムによって、これらの社会的価値を確保するかは、企業によって様々であるため、法によって特定の技術や方法の使用を義務付けることは困難であるばかりでなく、適切ではない場合が増えてきている。

 AIについては、機械学習を用いたAIについては、ルールベースで記述されるシステムとは異なり、与えられたデータに基づく統計的な処理を行うものであることから、予測可能性や安全性の確保を達成することが従来のシステムに比して、必ずしも容易ではなく、従来のルールベースのシステムを前提としたシステム・ソフトウェアの品質保証の手法によっては、システムの予測可能性や説明可能性を確保することが困難になる。

(2) モニタリング

 サイバー空間は外形的に不可視であり、仮にソースコードが開示されたとしても、それをヒトが直ちに読み解くことは困難である。また、モニタリングに必要な情報も、企業側に非対称的に蓄積されている。そのため、事前に一定の法や規範を定めたとしても、実際に企業がそれらを遵守しているか、どのように信頼の確保を行っているかを、規制当局が外部から監督することは困難になってきている。

(3) エンフォースメント

 リアルとサイバーの融合が一層進み、AIを組み込んだ様々なデータが統合・分析される複雑なシステムが現実世界に働きかけたり、人間と協調動作した場合に、個々のシステムの判断の影響を予見することが一層困難になることは確実である。このような状況下では、望ましくない結果が生じた場合にも、その法的責任の所在を特定することは容易ではなく、また、誰か特定の主体に制裁を加えることが、今後の事故の予防効果を発揮するともいえない場合が増加すると考えられる。

 この現状認識については、筆者は違和感はありませんでした。

改革の方向性

 そこで、ガバナンス・イノベーション報告書案は、以上の問題がある既存のガバナンスモデルの改革の方向性として以下を挙げています。

  • ルール形成については、社会のスピードや複雑さに法が追い付けない問題を克服するために、細かな行為義務を示すルールベースの規制から、最終的に達成されるべき価値を示すゴールベースの規制にする。さらに、法規制の実効性と影響について、継続的にフィードバックを受け、見直しができるようにする。
  • モニタリングについては、企業がソフトウェア・アーキテクチャを用いて実装するサービスが、どのように法令を遵守し、どのように人々の行動に影響を及ぼしているのか、政府において網羅的かつ詳細に把握することは困難であることから、企業による開示・説明を促す。また、モニタリングの困難性を克服するための方策の一つとして、政府、企業、コミュニティ・個人が、リアルタイムデータを活用したリスクのモニタリングや、場合によっては、それを実現するためのAPI開放やソフトウェア・アーキテクチャ自体の導入を企業に促すような制度設計を行うことも考えられる。
  • エンフォースメントについては、執行対象(ヒトの行為や設備・機器の振る舞い等)の特定を可能にするために、官民が連携してオンラインでのID基盤となるシステム、制度を整備する。また、AI等を搭載した複雑なシステムについて、「人への帰責」を重視するのではなく、将来のより良い社会状態の実現を目指して、エンフォースメントのプロセスに企業が協力するインセンティブが働くようなルールやモニタリング体系の設計を行う。また、Society5.0の時代に対応できる利便性の高い実効的な紛争解決手段の構築(注:例としてODRが挙げられています)も進める。
  • 企業や個人の活動のグローバル化を踏まえ、域外適用の整理、国際的なルール形成や執行協力を行う。

 上記はガバナンス・イノベーション報告書案の第5章において、具体的に次のように述べられています。

<総論>

  • ルール形成・モニタリング・エンフォースメントのガバナンスの各プロセスにおいて、サイバー空間のアーキテクチャを設計・運用している企業や、これらを利用するコミュニティ・個人によるガバナンスへの積極的な関与を確保する。

<ルール形成>

  • 社会のスピードや複雑さに法が追い付けない問題を克服するために、規制を、細かな行為義務を示すルールベースから、最終的に達成されるべき価値を示すゴールベースにする。
  • 法律が自然言語によって示したゴールを、サイバー空間のプログラム言語を通じて達成するにあたり、企業がアーキテクチャの設計又はコードの記述において参照できるようなガイドラインや標準を、マルチステークホルダーの関与によって策定する。
  • 制定された法規制や、ガイドライン・標準については、その効果や影響の評価を継続的に行い、頻繁に見直しの機会を設ける。その際は、モニタリング段階で収集されたデータや、エンフォースメント段階における当事者の主張等を参照し、証拠に基づいた影響評価を行う。
  • ガバナンスに必要な情報が民間主体に集中していること(情報の非対称性)を踏まえ、企業自身による自主規制を促すため、企業が保有する情報をガバナンスに活用するようなインセンティブ設計を行う。
  • 市場や社会規範による規律を有効に機能させるため、情報開示に関する義務付けやインセンティブ設計(透明化ルール)を充実させる。また、需要者側からの競争圧力を確保するため、デジタル時代に合わせた競争ルールの整備・運用を行う。
  • どこまでを法規制で規律し、どこまでを自主ルールに委ね、どのような情報を誰に開示することを求めるか等を検討するため、産業構造に対する専門家によるアーキテクチャ分析を行う。

<モニタリング>

  • 企業による革新的なコンプライアンス手法を奨励すると共に、自社の取組みに関する説明責任(コンプライ&エクスプレイン)を重視する。また、社会からの信頼を確保するために、自己チェック、ピアレビュー、内部監査、合意された手続、第三者によるレビューや監査等といった、リスクに応じた様々なアシュアランス(保証)の態様を活用する。
  • 企業、政府、個人といった各ステークホルダーが、リアルタイムデータへアクセスして効率的かつ実効的なモニタリングを実施できるような技術や仕組みについて検討する。
  • ステークホルダー間でモニタリングの結果を報告・評価し、今後のルール改正やシステム改善に繋げられるような、定期的なモニタリング・レビューを行う。

<エンフォースメント>

  • 政府は、企業の行為の社会的影響に応じた法執行を行うと共に、透明化ルールや競争ルール等の運用によって、コミュニティや個人の規律力を強化する。
  • 動作の予測が困難なAI等の判断により生じた事故について、特定の個人に帰責するのではなく、企業が事案の究明に積極的に協力するようなインセンティブを付与する。
  • 企業、自主規制団体、外部監査法人等、民間主体による事実上のエンフォースメントを活用すると共に、その適切性を確保する。
  • 企業・個人・政府の間で生じ得る紛争の解決を迅速かつ実効的にするため、訴訟やADRのオンライン化(ODR: Online Dispute Resolution)を進める。
  • サイバー空間での行為に対するエンフォースメントを確実にするため、共通の個人・法人ID基盤を整備する。

<国際協力>

  • 容易に国境を越えるデジタル技術やビジネスについて、国内企業と海外企業の イコールフッティングを達成する観点から、域外適用規定の整備、国際的な執行協力や、ルールの標準化・相互互換性の確保を推進する。

ガバナンス・イノベーション報告書案のポイント

 企業法務の観点からの、ガバナンス・イノベーション報告書案の改革案のポイントは、次のようになると思います。

 ルール形成については、従来のルールベースの規制から、ゴールベースの規制に転換し、ガイドライン・標準や、企業の自主ルールを重視しています。また、これに伴って、企業に対して、情報開示に関する義務付けやインセンティブ設計を充実させることを求めています。

 モニタリングについては、企業に対しては、コンプライアンスを奨励すると共に、自社の取組みに関する説明責任(コンプライ&エクスプレイン)を重視するとしています。

 エンフォールメントについては、動作の予測が困難なAI等の判断により生じた事故について、企業が事案の究明に積極的に協力するようなインセンティブを付与し、また、企業、自主規制団体、外部監査法人などの民間主体による事実上のエンフォースメントを活用するとしています。

 このように、従来の法律中心のルールベースの規制から、企業による自主規制と説明責任を重視する規律に転換することを目指しているように読めます。

 実際に、日本の社会の法制度がこのような方向に進んでいくのか(それは政治の問題ですし)、また、そのような方向性に進むとしてもいつ実現するのかということは現時点ではわかりません。特に、自主規制(自主規制というとなにか一定のイメージがつきまとうのでself-regulationと言った方がよいかもしれません)を重視する点については、欧米のクラスアクションや制裁金のようなシリアスなペナルティがないとすれば、そのような中で全ての企業が本当にself-regulationに真剣に取り組むのか、仮に日本企業が真面目に取り組むとしても無視する外国企業は出てくるのではないか(年末に日本の法制度を蔑ろにする事件もありました)という懸念はあります。

 しかし、AI化(サイバー化)が進んでいく社会では、既存の法制度はいつか通用しなくなり、大きな点では、この報告書のような企業の自主規制を重視する方向に進んでいくのではないかと個人的には思います。なお、最近、ホワイトハウスがAIについての政府機関向けのメモランダム案(Guidance for Regulation of Artificial Intelligence Applications )を公表しましたが、視点は異なるものの、イノベーションを妨げないように、過剰な法規制は避けて、ガイドラインや自主規制を活用する方向性が示されています。

 筆者は、AIに関して企業の法務部の方に講演などする機会もあるのですが、その中で良くある質問の一つが、「AI時代になったら企業法務部の役割はどうなるのですか。求められるスキルはどんなものですか。」というものがあります。

 もし、将来の社会が、この報告書のような方向に進むのであれば、企業法務は、企業のself-regulationを適切に行うことが求められるのではないかと思います。それには、従来の契約書レビューや交渉などといったスキルではなく、self-regulationのための新たなスキルが求められると思います(コンプライアンスのスキルは生きるでしょう)。また、self-regulationの導入(特に情報開示)には、経営陣・フロントとの間でも相当な軋轢が生じると予想されます。そうした勢力をいかい上手く説得し、会社を良くしていくことが求められるような気がしています。

 

タイトルとURLをコピーしました