参議院 デジタル社会の形成及び人工知能の活用等に関する特別委員会での発言

○岩本麻奈君　参政党の岩本麻奈です。 　本日は、ＡＩ時代の国家のＯＳ、すなわち行政や制度の土台となる仕組みについてお伺いします。 　個人情報がＡＩの学習や解析に用いられる時代に行政がＡＩを利活用するのであれば、単にＡＩを導入するだけでは不十分だと思います。そのＡＩがどのようなデータを用い、どのような診断を行い、どのようなリスクを持つのかを行政自身が理解し、説明し、必要に応じて監督できる体制というのが必要であると思います。ＡＩ時代に問われるのは、ＡＩを理解し、個人情報の取扱い、データの品質、診断のバイアスですね、隔たり、説明責任を確認できる専門性を備えた監督体制そのものではないかと思います。 　さて、その監督体制に関連して一つ御提案したいと思います。それは、行政の個人情報を用いてＡＩを活用する場合のＡＩシステム自体を継続的に点検、検証する、言わばＡＩ監査の仕組みを整備するべきではないかという点です。 　ここで申し上げるＡＩ監査とは、ＡＩを使って監査を行うことではございません。先日、私は、ＡＩを活用した個人情報漏えいの監査について御提案したんですが、今回申し上げるのは、そのＡＩ監査、ＡＩを使った監査ではなく、行政が利用するＡＩシステムそのものを人間が点検、検証する仕組みのことです。 　具体的には、どのようなデータで開発、運用されているのか、判断に不合理な隔たりはないか、個人情報は適切に取り扱われているか、人間による関与や監督は担保、確保されているか、こうした点を専門家が必要に応じて技術的な検証を交えながら継続的に確認する仕組みのことです。 　海外では、ＡＩオーディットを始めＡＩアシュアランス、アルゴリズミックオーディットなど、ＡＩシステムの信頼性を担保する考え方が広く論議されております。アメリカではＮＩＳＴがＡＩリスクマネジメントフレームワークを公表し、ＥＵのＡＩアクトでも、高リスクＡＩについてリスク管理、データ品質、人間による監査、監督などが求められております。一方、日本でも、総務省及び経済産業省のＡＩ事業者ガイドラインは策定されていることは存じております。 　そこで、伺います。 　今後、行政におけるＡＩの利活用は急速に広がっていくと思いますが、その際、ＡＩを導入すること自体を急ぐだけでなく、このＡＩシステムについて、開発段階、導入段階、運用段階を通じて継続的に点検するＡＩ監査の仕組みを整備していくことは極めて重要な視点ではないかと思いますが、この点について政府の認識と今後の方向性をお伺いします。