衆議院 安全保障委員会での発言

○河西委員　技術の活用とリスクの軽減、非常にＡＩ分野で大事でありますので、よろしくお願いをいたします。 　このガイドラインの技術的審査が想定するリスクなんですけれども、いわゆるバイアス、誤作動、信頼性の低下、あるいは人間の責任の明確化、また運用者の理解の醸成など、多くがシステム側の欠陥でありましたり、あるいはＡＩをどう使わせるのかに関するものでありまして、ＡＩを運用する自衛官自身に生ずる心理的、認知的負担を審査する項目、つまり、使う側、使う人間、自衛官がどう傷つくのか、この視点が欠けているというふうに感じました。 　私もカーナビの開発をしているときは、絶対にその車に事故を起こさせないような設計をする、これは技術者として当然の視点であるわけであります。諸外国では、遠隔で敵を制圧する任務については、無人機操縦者の間でＰＴＳＤ、道徳的負傷、長時間監視による認知負荷、繰り返し報告をされているところであります。 　そこで、伺いますけれども、このガイドラインは継続的に改定する文書とされております。次期改定で、運用者、これは自衛官でありますけれども、心理的、健康面の負担評価を技術的審査に加えるべきではないか。 　あわせて、このガイドラインの四章にありますが、設計、試験評価に運用者を関与させる仕組みを生かして、試験運用フェーズで自衛官の負担を計測、フィードバックをするような、そういう仕組みを制度として担保してはどうでしょうか。御答弁をお願いします。