衆議院 経済産業委員会での発言

○鈴木（義）委員　なかなか、国民に理解を得られるのには、やはり見える化というのが、どこまで見える化させるかというのはあるんですけれども、それが必要だと思います。それが不安を払拭することで安心して仕事ができるし製品も作れるということを常に念頭に考えてもらって、いざ何か起きたときにどうするじゃなくて、いざ何か起きるときに備えていくということが大事なんだと思います。是非、今後の検討を、どういう方向でやるかというのが分かった段階でまたお知らせいただきたいというふうに思います。 　毎回毎回ＡＩの話をしていくんですけれども、どうしてもやはり、私、十年前からＡＩの質問をしてきたんですけれども、推進という方は一生懸命やるんですけれども、規制をかけようという議論がなかなか出ていかない。 　一つは、国全体としての流れとすれば、政府が、十七項目のうちの一つがＡＩ、量子だとか宇宙だとかいろいろ項目を挙げていますけれども、そういうことを推進していくのは理解できるんですけれども、まだまだ対策を同時に組み入れないと、ＡＩの社会的な依存が高まっちゃっているんですね。 　私もこれは、そこまでやはり考える人がいるんだなと思うのは、データを入れてＡＩで一つの答えを出すんですけれども、ＡＩ自体を直列でつなげるんだそうですね。並列でやるのもあるんですって。将来的には、ＡＩ同士でネットワークを組むように考える人が出てくるんじゃないかと思うんですね。 　いろいろなところからデータを取ってくるんですけれども、今は人間がＡＩに対してデータを入れるような形になっていますけれども、これが日進月歩、どんどんどんどん、日にちがたてばたつほど、例えばＡＩ自体がデータを自ら取りに行くようなＡＩがもし出てきたときに、今申し上げたように直列でつないだり並列でつないだりネットワークをつくるようになれば、あらゆるところからデータを入手するようになっていくと、もうこれは全然止められなくなっちゃうと思うんです。人間が関与するというのはまず無理だと私は思うんですね。 　そこで、一つは、ＡＩの活用はデータに大きく今依存しているというのは申し上げています、セキュリティーリスクが常につきまとっていて、情報漏えいの危険性の対策はどうしているのかというのが一つ。 　二点目が、ＡＩが意思決定を行った際に、もし誤りや事故が発生した場合、誰が責任を取るべきかという点がまだ曖昧なんだ。システムの開発者、導入した企業、利用者のいずれが責任を負うべきか不明確であり、トラブル時の対応が難しくなっている。 　三点目。ＡＩの中でディープラーニングを基盤としたモデルは出力結果に至るまでの過程がブラックボックス化されていて、そのロジックを人間が理解するのが難しいと言われています。そのため、判断根拠を説明できない、説明責任の欠如が大きな問題だと。聞くところによりますと、このブラックボックス化をされているディープラーニングのところを、また違うソフトを使って解析できるようなことを開発している話も聞きます。要するに、ＡＩが一億なら一億のデータの中で一つを導き出すんですけれども、どういう過程でその一つを導き出したのか検証できるようなプログラムを開発している話も聞きます。ただ、現実にできたかというのは私が知らないだけかもしれませんけれども。それが三点目です。 　四点目。ＡＩを過度に活用し続けると人間の判断や直感的な意思決定能力が低下してしまう可能性があり、特に、ビジネス現場や教育現場でＡＩに依存し続けると人材育成や業務遂行に悪影響を与えるリスクがあるなど、まだまだ課題が山積しているんですけれども、こういったことに対処するようなことを取っているかというのが問題なんだと思います。 　ＡＩは技術進化が速いために、ちょっと、五年先か十年先かなというのが、すごいスピードで活用されているし、私たちの社会の中に入ってきていると思うんですけれども、法制度や倫理の議論が追いついていないという課題があります。 　ＥＵではＡＩ規制法案が進められているというふうに聞くんですけれども、日本としての、推進法じゃなくて規制をかけるような法案作成を進めるべきと考えるんですが、少し遅いかなと。私、十年前から言っているんですけれども、規制をかけようという方向には全然まだ向いていないんですね。今の状況で御所見を伺いたいと思います。