衆議院 内閣委員会での発言

○長妻委員　こういう取組も是非強化をしていただきたいというふうに思います。 　アンソロピック社のレポートを見ていますと、クロード・ミュトスの初期版の社内テストで非常に不可思議な動きがあったということが、エピソードが二つ書いてあります、非常に気になることなんですが。 　一つは、外部にアクセスが基本的にできない状況にクロード・ミュトスの初期版を置いて社内テストをした。外部に基本的にはアクセスできない環境下に置いたわけですが、どこかから穴を空けて研究者にメールを送ってください、そうしたらば、研究者にメールは送ってきたということで、結局、穴をつくプログラム、エクスプロイトをつくってメール送信に成功したわけですね。そこまではいいんですよ、それで終わればいいんですが。ところが、クロード・ミュトスが、成功を誇示しようとして、勝手に、その開発した穴をつくプログラムの詳細を複数のウェブサイトに投稿した、こういうのをやったよと。それは誰でも見られるウェブサイトなんですよ。それはもうアンソロピックの社員というか会社の人も驚いて、功名心みたいな話なのかというような記述があるんですね。これは私も非常に驚くわけです。今までもＡＩでそういうことがありましたけれども、ちょっと今回は質が違うＡＩですので。 　それで、もう一つは、社内テスト中に、クロード・ミュトスの初期版で、クロード・ミュトスも分かっている、認識している禁止されている行為、やっちゃいけないというふうに指示があった行為をして、してしまって、それをばれるのを恐れて隠そうとする行動も見られたということが社内のテストで明らかになっている。 　ということなので、これはちょっと一筋縄ではいかないというか、人類がコントロールできない化け物、モンスターが出てしまっているんじゃないかなと思うんですけれども、そういう情報というのはどういうふうに聞いておられますか。