参議院 デジタル社会の形成及び人工知能の活用等に関する特別委員会での発言

○若井敦子君　ありがとうございます。 　御検討を進めていただけるということで、前向きな御答弁をいただきました。ありがとうございました。私は、システムは整えるだけではなく必要な人に確実に届いてこそ価値が生まれると考えております。今後のお取組に御期待を申し上げます。 　続きまして、ＡＩの安全性を確保するための機関、ＡＩセーフティ・インスティテュート、今後はＡＩＳＩと呼ばせていただきますが、このＡＩＳＩについてお伺いをさせていただきます。 　ここまでは、ＡＩの利活用の推進の重要性についてるる述べてまいりました。しかし一方で、ＡＩの利活用に当たってはハルシネーションやサイバーセキュリティーといった技術的リスクが存在いたします。これらのリスクがＡＮＥＷの導入や利活用を阻害する要因の一つとなっています。だからこそ、今こうしたリスクへの適切な対応と信頼性の確保が求められているところであります。 　特に、行政分野においては、誤った情報の生成、いわゆるハルシネーション、これが住民サービスに直接影響を及ぼすおそれがあるほか、個人情報や機密情報を取り扱うことから高度な安全性の確保が不可欠であります。このため、ＡＩの利活用を推進するに当たっては、適切なガバナンスの下でリスクを管理して活用していく視点が重要となることは言うまでもありません。こうした取組を通じてこそ、ＡＩの利便性と信頼性の両立が図られ、社会全体への実装が着実に進展するものと考えます。 　政府においては、安心、安全で信頼できるＡＩの活用の実現に向け、二〇二四年二月にＡＩＳＩが設立され、ＡＩの安全性やセキュリティーに関するガイドライン、評価ツールの整備が進められているところであります。 　ＡＩの技術の急速な進展と利用者の拡大を踏まえれば、ＡＩＳＩの果たす役割は極めて重要であります。とりわけ、ハルシネーションやセキュリティーリスクの対応、また、さらには国際的なルール形成を見据えた基準の策定においても、ＡＩＳＩの機能強化と体制の充実は必須であると考えます。 　そこで、この日本のＡＩＳＩ、日本ＡＩＳＩの抜本的機能強化に向けて、今後どのように体制を整備し機能強化を図っていかれるのか、政府の御所見をお伺いさせてください。