fc2ブログ

Entries

弥永真生、宍戸常寿編『ロボット・AIと法』


とても面白かった。機械学習による予測の発展と、それを処理プロセスに組み込んだロボットが普及していくにあたって生じる法的問題について、それぞれの著者が論じている。国内・国外の法政策の動向から、近代の法システムが前提とする自由で自律した個人という考えの批判、契約や責任、刑事司法、知的財産権、ロボット兵器といったトピックが扱われている。

扱われているトピックは多様。なかには現在すでに問題が生じている契約、手術ロボット、知的財産権などの話題もある。一方で自由で自律した個人観、自動運転、刑事司法プロセスにおける機械学習(裁判官の代替など)、ロボット兵器といったまだまだ実現が遠い話もある。こうした遠い未来の話は、あまり検討する必要はないのではないかと個人的には思っていた。たしかにロボット・AIの開発原則と利用指針は、実際の事例に裏打ちされていない机上の空論の検討だという批判がある。しかしロボット・AIが利用される場面は様々なので、場当たり的にルールを形成すると、全体として整合性のない精度ができてしまうおそれがある。多様な利用局面において、統一的な視点を持っておくことが望ましい(p.41-43)。

あまり知らない分野の話なので、基本的なところから興味を引く。法は技術が実装され、健全に競争しながら、社会に受容されていくための一種のインフラだとする記述(p.34-37)に惹かれる。厳格すぎる規制はイノベーションを抑圧するおそれがあるが、過少規制は開発者や利用者に法的不確実性という法的リスクを負わせ、取引費用の増大を招く。過大評価と過小評価、両方のバランスを取ることが大事。法は明文化したルールに過ぎず、現実社会ではルールが杓子定規に適用できる事例は少ない。法の適用はアナログな判断、柔軟な判断が求められる。法は硬直化したもののように思われることもあるが、実際はずっと柔軟なものだ(p.246-248)。

自分にはやはり近代法システムの前提となる、自由で自律した個人という考えが崩れるかもという話が面白い。現代の法体系は、個人が自律して意思決定することを前提としている。しかし制度的なナッジや、AIによるリコメンドなどで選択が誘導されたり選択肢がそもそも限られていたりすると、我々の行為とか選択と呼びうる事態は存在しているのか。そのような状況で我々は責任を追うべきなのか(p.63-71)。機械学習では大量のデータでパターンを見出すため、予測においてはどれかのパターンに当てはまることになる。これは個人を個人として尊重するという近代の人権思想と相反しており、個人を何らかのセグメントに属する者としてステレオタイプで判断することではないのか(p.86-88)。また、人は自動的なアルゴリズムによる判断結果を信じ込む傾向がある。個別化広告がその人の性向に基づいていなくても、自分はそうした性向があると思いこむというオハイオ州立大学の研究結果。例えば本人の性向にかかわらず環境保護の広告を見せ続けると、環境に配慮した製品の購入率が上がる、など。ここではAIによる予測結果が自己を形成している。個人が自律的な存在だという近代法システムの前提が虚構としてさえ維持できなくなる可能性。これには対策としてAIが完璧でないことを周知していく必要がある(p.98-100)。さらには、今後の一つの選択肢は結果責任のみを問う方向に社会が向かうことも考えられている。責任を担える人格からなる自由な社会から、損害の発生があらかじめ除去された幸福な社会への移行は、社会という観念を根本的に変える(p.74f, 250)。

他にはAIに人格を付与すべきかという話も興味深い。法的な場面では、責任主体としてのAIと、契約主体としてのAIという論点がある。基本的に機械は意思を持たず、したがって責任や契約の主体にはなりえない。意思を持つのは個々の人間だけだ。ただ、法的には法人格という仕組みもある。AIを人間の代理人と位置づけたり法人格を与えて、AIによる契約を解釈する考えがアメリカにあるが、どちらも問題を含んでいる。代理人の場合は、どのように契約責任を負えるのかが明らかではない。法人格の場合には、法人格を付与される対象物は意思決定を行わない存在という前提なので、AIが自ら意思決定を行うと考えるならば、この前提を満たしていない。結局、AIが行う行為は、すべて道具を扱う人の意図に結びつけることができ、AIを利用して契約を締結させようとする人の意思を前提に、契約の成立を考えるべきだろう(p.155-160)。

なお、機械と意思表示という点では、株式の高速取引における機械間の売買や、もっと身近な事例で自動販売機ですでに論点がある。自動販売機では設置した売主は、任意のタイミングで現れる買主を事前に特定できない。買主は、意思表示のできない機械と売買契約を結んでいるように見える。だが機械は契約主体になりえないので、お金を入れて商品が出なかったり、商品に瑕疵があっても誰にも責任がないことになる。これは、売主が商品を装置に収めるときに、「商品の引渡し時には一定の価格を請求する」という意思が装置に蓄積されるとして解釈される(p.136-138)。実際に買主が現れたときに、蓄積された意思が装置の中から引き出されて買主に対して意思表示が行われると考える。なんと意思が行為者から分離して保存され、時間を超えて蓄積され、しかも人為的に引き出し可能だという解釈!これは非常に面白い話だ。遺書だと書いた時点で意思が表明され、その記録を後から見ているだけだが、ここでは買主が現れた時点で初めて意思が表明される。

ほか、著作権についても軽妙で素晴らしい章がある。AIによる生成物の著作権については、1970年代から議論されている。コンピュータをツールとして人が作ったものは著作物だが、ボタンを押すだけで自動生成されたものは著作物ではない。ただ1988年のイギリス改正著作権法178条は例外で、自動生成されたものに著作物性を認める。著者の見解では、いまのところAIの生成物に保護を与える必要はない。保護による独占のメリットがデメリットを上回っていないし、よりデメリットの少ない代替手段が存在する(p.281-283)。

さて本書を通じて感じた大きな問題は、現在の機械学習技術の延長線上で発展する以上、動作が確率的だということがほぼ踏まえられていない点だ。従来のルールベースのソフトウェアと同じように考えられているのではないか。この点はクリティカルで見逃してはならない論点だろう。例えば、自動運転のトロッコ問題(生命法益のディレンマ状況)において年齢の若いほうを優先すると決めたとして、ルールベースで設定するのではなく機械学習で学習するとした場合、優先順位を決めたにも関わらず、実際はそう機能しない可能性がどこまでも残る。これは単にハードウェア由来のノイズや揺らぎとは別の問題だ。

この論点による問題は例えば、製造物責任法や消費者法といった現在の製品に対する観点からAIに対する安全確保を求める論考に現れている。機械学習による製品は確率的動作という、従来にない考えを含んでおり、この点を考慮しないのは過剰な法・行政規制に傾く危険性が高いように思える。2016年末に総務省情報通信政策研究所で行われた「AI開発ガイドライン」の検討において、機械学習の開発側としてPFN丸山氏は、機械学習とAGIが区別されず議論が行われており現在の技術水準を踏まえていないこと、および、機械学習は確率的に動作することが踏まえられていないと批判して検討会議を脱退している。この批判に対して著者は、このガイドラインは総論的で理念レベルのものを想定していたのに個別法のように捉えられたための誤解と退けている(p.124-129)。明らかに、そもそも批判点が理解されていないように思われる。ただ、確率的に動作するとはどういうことで、そのようなものにどう品質保証を行うかはまだまだ不明な点で、この理解の不足は個々の法律家の問題ではないだろう。これはKarpathyの言うSoftware 2.0の話題で、丸山氏はまさにこの点を巡って機械学習工学を提唱している。
スポンサーサイト



この記事にトラックバックする(FC2ブログユーザー)
https://exphenomenologist.blog.fc2.com/tb.php/1035-de7afc81

トラックバック

コメント

コメントの投稿

コメントの投稿
管理者にだけ表示を許可する

Appendix

プロフィール

坂間 毅 (Sakama Tsuyoshi)

Author:坂間 毅 (Sakama Tsuyoshi)
コンサルティングファームに所属。数学の哲学を専攻して研究者を目指し、20代のほとんどを大学院で長々と過ごす。しかし博士号は取らず進路変更。以降IT業界に住んでいる。

別館:note

検索フォーム

QRコード

QRコード