ビジネスサイエンス系
木村 真生子（きむら まきこ）教授
PROFILE
津田塾大学学芸学部卒業。
外資系証券会社に勤務中、社会人大学院の存在を知り、筑波大学大学院ビジネス科学研究科企業法学専攻に入学。同研究科博士後期課程へ進学し、博士（法学）を取得。2010年筑波大学大学院企業法学専攻助教に就任。2016年から現職。専門は、商法、会社法、金融商品取引法。法とテクノロジーの関係性を民商法の観点から分析・検討している。最近では、行動科学のレンズを通した法分析に関心があり、「行動経済学と証券規制」（筑波ロー・ジャーナル）などを執筆。
法学と行動科学から考える望ましいAI規制
近年、めざましい発展を続けるAI（人工知能）やロボット。
さまざまなことが自動化される中、AI開発における規制やルール作りの議論が始まっています。
一方で、これらの機械を妄信したり、逆に嫌悪するといった、人間の極端な傾向も指摘されています。
適切なAI活用に向けたこれからの法体系を考える時、行動科学とのコラボが鍵になりそうです。
自動化技術と法
自動化技術と法
ネットショッピングをするとき、画面の向こうには店員がいるわけではありません。コンピュータのアルゴリズムが自動的に応答しているだけです。民法では、契約は当事者双方の合意により成立する、とされていますが、ネットショッピングにはそれがなく、売買契約が成立しているのか、実は曖昧です。また、年収や生活スタイルなどの個人情報を入力すると、それに応じた商品が提案されるようなシステムでは、特定の方向に誘導するようにプログラミングされていたとしても、利用者がそれを知る術はありません。
このように、ロボットやAIによる自動化が進むと、これまでの法体系では扱いきれない問題が生じます。それらは、契約法、知的財産法、個人情報保護法、そして憲法など、多くの法律と関わります。
例えば、自動運転車が事故を起こした場合、誰がどういった割合で責任を負うのでしょうか。運転者か製造者か販売者か、裁判では、起こった事象の因果関係が争点になりますが、現在の機械学習やディープラーニングといった技術では、AIが行う計算過程はブラックボックスになっており、法的な判断を下すのは困難です。
人間のバイアスを考慮する
そこで検討されているのが事前規制です。AIの倫理原則のようなものをあらかじめ作っておき、開発の段階で何らかの歯止めをかけよう、ということです。利便性向上のためとはいえ、中身がよくわからないアルゴリズムに頼ってもよいのか、法律の専門家たちがAIの問題を指摘し始めたことで、技術者たちの間でも、開発に伴うリスクを未然に防ぐための議論が始まっています。
しかしながら実際に厄介なのは、人間のバイアスです。人々には、AIを崇拝し妄信してしまったり、やみくもに嫌悪して全く信用しないとする、両極端の認知パターン、すなわちバイアスがあることが、行動科学の分野で指摘されています。しかも、バイアスを減らそうとすること自体にもバイアスが含まれるため、AIとの「ほどよい信頼関係」を定義するのは容易ではありません。そこで、そもそも人間の判断にはバイアスが含まれることを前提に、つまり、行動科学の知見を生かして法や規制を構築する、という研究領域が新たに登場してきました。
新しい法学の研究手法へ
もともとの研究テーマは、自動化されたアルゴリズムに基づく契約の有効性。証券会社で働いていたときに感じた、機械に仕事を奪われるのでは、という危機感がきっかけでした。法学における一般的な研究手法である「比較法」によって、海外の先行事例を調べ、どのような背景でどのような法律が作られているのかを分析しました。ここから発展して、AIをはじめとする新しいテクノロジーが、商取引や投資行動に関わるルールに及ぼす影響を考察してきました。
そんな中で出会ったのが、行動科学の視点からAI規制にアプローチするアメリカでの研究です。AI倫理原則を作っても、結局は、各自の判断で正しい行動をとるしかなく、その実効性には限界があります。そこに、人間の行動や認知の特徴を取り込む、という斬新な考え方に惹かれました。行動科学は、経済学などでも応用されており、これからの法学での展開にも大きな可能性を感じています。
どこまで任せるかを考えよう
一定の歯止めが整うまでAIの開発をストップすべき、という提案もありますが、同時に、どこまでAIを使うべきか、という議論も必要です。完全自動運転車は、便利かもしれませんが、運転の楽しみを失って反発する人も出てくるでしょう。人間らしさや、何のために自動化するのか、ということも考えなければ、人間の力を奪ってしまうことにもなりかねません。ひたすら自動化を進めようとすれば、規制が過剰になったり、あるいは緩くなりすぎる弊害も生じます。
ロボットやAIはあくまでも道具。なんでも任せるよりも、任せるべきことと、そうでないことを区別し、人と機械が調和する社会を模索すべきです。それには何かしらの基準やルールが必要で、法律家や技術者だけではなく、多くの人の意見や幅広い研究分野の知見にも目を向けなくてはなりません。行動科学とのコラボが、その第一歩になりそうです。
筑波大学ビジネスサイエンス系 企業法学研究グループ
木村教授の写真
グローバル化・IT化や、コンプライアンスやガバナンスの強化など、企業を取り巻く環境が大きく変化し、企業法務の機能強化が重要視される中で、企業が直面する法的な課題に対して、理論に基づいた実効性のある解決策を提示することを目的とする研究を行う。また、その研究成果を政策提言として社会に還元することを目指す。
（URL:https://www.blaw.gsbs.tsukuba.ac.jp/about/）
（文責：広報局 サイエンスコミュニケーター）
TSUKUBA FRONTIER（印刷用PDF）