衆議院 内閣委員会での発言

○川委員　プロファイリングの範囲ということに関してはなかなかちょっと明確ではなかったかと思うんですけれども、個人自身が、この法律を作ったことによって不利益を受けないように是非ともしっかりと対応をいただきたい、これはお願いであります。 　次に、ＡＩ、アルゴリズムの活用の透明性について、これも国家公安委員長にお伺いをします。 　今後、国家情報会議における情報分析においてＡＩやアルゴリズムの活用が進むことは避けられません。しかしながら、その判断過程は極めて不透明になりやすく、いわゆるブラックボックス化の問題が指摘をされています。特に、アルゴリズムによるリスク判定や対象抽出が行われる場合、その前提となるデータや設計思想に偏りがあれば、結果そのものがゆがんでしまう可能性があります。にもかかわらず、その判断過程が検証できないのであれば、国民から見れば、なぜ自分が対象になったのか分からないという極めて不透明な状況が生じかねません。 　そこで、お伺いをします。 　国家情報会議においてＡＩを活用する場合、その分析の妥当性をどのように検証をするのか。また、判断過程においてどの程度の説明可能性を確保するのか。さらに、誤ったアルゴリズム判断によって不利益が生じた場合、その責任は誰が負うのか、システムの開発者なのか、運用主体なのか、それとも最終判断を行った行政なのか。所見をお聞きしたいと思います。