■湯島サロン「先端技術の応用と倫理」報告

「遺伝子検査」のテーマから始まった山森さんのサロンも３回目。今回は、自律型致死兵器システムを例に「先端技術の応用と倫理」を問題提起してくださいました。
その根底にあるのは、「進化し続けるテクノロジーは人々の生活を豊かにしてゆくのか？」という問いかけです。 

山森さんは次のように話を始めました。
先端技術が人類の進む方向を大きく変えていくかもしれなくなってきているのに、先端技術に関する倫理的・法的・社会的問題（ELSI)についての議論はあまり進んでいない。そればかりか、私たちは、先端技術に関する動きに無関心で、実情をあまりにも知らないのではないか。
そして、ひとつの切り口として、今回は自律型致死兵器システムの動きについて紹介してくれました。情報技術や人工知能（AI)は、いまや私たちの生活になくてはならないものであり、大きな利便性を与えてくれていますが、それはまた兵器の分野を大きく変えつつあるのです。

ちなみに、自律型致死兵器システムは、“Lethal Autonomous Weapons Systems”、略してLAWSというそうですが、それが「法」を意味する単語と同じなのは偶然なのでしょうか。なにやら時代の行き先を暗示しているような気がしました。

たとえば、LAWSのひとつ、人間に代わって自ら判断して攻撃するキラーロボット（殺傷ロボット）はまだ実戦配備はされていないものの、米国・ロシアなど10数か国が開発中で、核兵器に次ぐ兵器革命をもたらすと言われているそうです。
ほかにもさまざまな新兵器が生まれだしていますが、そうした最新兵器をたくさん紹介してくれました。ここまで来ているのか！と、私にとっては「ぞっとする」話でした。

どんな高性能な機械でも間違いは起こる。そして間違いから完全自律型兵器どうしの戦いがひとたび始まってしまったら，人間は暴走を止められず，世界が破壊されていくのをただ見ているしかなくなる。それでも機械に殺しの最終判断を委ねてよいのか、と山森さんは言います。もし完全自律型のAI兵器が実際に使われてしまったら、私たちの未来はどうなってしまうのか。

「自律型」という言葉には、人間の手を離れていくようなイメージを感じます。
山森さんは、自動兵器と自律兵器とが混同されて議論や批判が行われがちだが、それらは全く違うものだといいます。倫理の問題を考えるときにも、自動兵器はそれを扱う人間の倫理の問題ですが、自律兵器の場合は、開発する人間の倫理の問題になるでしょう。
山森さんも言及されましたが、まさに映画「ターミネーター」の話です。
自律兵器が開発された後では、すでに遅いのかもしれません。

さすがに、実戦投入前に禁止条約を作ろうという国際的な動きは進んでいるそうですし、ロボット倫理学（ロボエシックス）に関する議論も行われているようです。
日本でも、こうしたことに関する専門家会議も始まっており、また政府も「致死性を有する完全自律型兵器を開発する計画はない」と表明しているそうです。恥ずかしながら、そうしたことさえ私はあまり知りませんでした。

そういうこともあって、やはりこうした問題は専門家だけではなく、私たち一般の生活者も関心を持って、しっかりと考えていかなければいけません。
テクノロジーを暴走させないためにも、専門家の意見を相殺あるいは改良できる知識ある市民集団をつくることが大切だと山森さんは言います。そして、いろいろな方面から集まった市民が専門家の知識を利用しつつ専門家とは離れて自分たちの意見を形作る欧米で芽生えているコンセンサス会議（市民パネル）を山森さんは紹介してくれました。

日本でも20年ほど前に「コンセンサス会議」が行われていたことがあり、私も大きな関心をもっていましたが、残念ながら結局、定着せずに、最近はあまり聞かなくなりました。山森さんが言うように、今こそコンセンサス会議が必要な気がします。山森さんが取り組んでいる活動は、その一環と位置づけられるかもしれません。湯島のサロンがその場の一つになればと思いました。

話し合いにはいろいろの話題が出ました。
技術者倫理の動きを日本に導入し、大学での講座開設にも取り組んでいた杉本さんも参加してくださっていたので、その話も少ししてもらいました。

私は、「自律した機械」は意志を持ち出し、人間の倫理とは全く異質な「倫理」が生まれるのではないかという不安を持ちました。かつてＳＦ作家のアシモフが「ロボット３原則」を提唱し、機械は人間に害を与えないというルールを機械に埋め込むことを提唱していましたが、それはたぶん超えられてしまうでしょう。
倫理が人間を超えだす？

そこで次回の山森サロンでは、トランスヒューマニズム（新しい科学技術を用い、人間の身体と認知能力を進化させ、人間の限界を前例の無い形で向上させようという思想）を話題にしてもらうことになりました。たぶん今回よりもさらに「ぞっとする話」が出てくるでしょう。

そういう話に触れると、単に科学技術の利便性の享受を喜ぶだけではなく、どうしても「倫理」が気になってくるでしょう。
山森さんの意図に少しずつ引き込まれているようです。
次回は4月25日の予定です。
初めての方も歓迎です。
みなさんもぜひご参加ください。