バイデン大統領の声を僅か10分で模倣…生成AIの恐怖。青木氏「日本でも大混乱になるかも」

鈴木アナ「朝日新聞の一面には、「バイデン氏の声10分で正成」と正成AIの進化を語っているんですけれども、予備選の直前に電話が5000軒超かかったといいます。一般の方への電話なんですけれども、その声の主がバイデン氏にそっくりということで、これは10分で生成したバイデン氏の生成AIの声に似せたものだったということなんですね。これがかなりの精度だったということで、司法当局が捜査をしているということです」

大竹「わからないんだ。本人か、誰かが作った生成AIか」

鈴木アナ「はい。10分で作って、対価としては2万3千円を受け取ったということなんです」

大竹「そんな安くできちゃう」

青木「アメリカのケースはどうも電話がかかってくるらしいんです。で、電話に出たら。I’mバイデンだと。で、どうだこうだみたいなこといってみんなびっくりするってことらしいんだけど、そういうのがすぐ出来ちゃうから日本でも選挙期間中に、たとえば大竹候補がいたとして、「大竹だけどさ、俺ばかだから票を入れるなよ」みたいなことを電話で言ったりしたら大混乱になって、選挙の公平性みたいなものが削がれかねないんじゃないかというそういう懸念が出ている」

大竹「でも、法律とか、そういうの全部もうみんな遅れてるってことだよね」

青木「そうですよね。だからAIがどんどん進化していく中で、どこに規制をかけるのか、ただ一方でAIはこれからの産業の本当の発展の礎になりなるってこともあるので、どこを規制して、どうするのかっていうのは、なかなか悩ましいところですよね」

大竹「そうだね。NHKのニュースもここからは生成AIでお届けしますとかいって、途中から変わっちゃう。しかも、そこから聞き始めたらAIかどうかなんて全然わからないし」

また、音声の生成AIについては日本俳優連合も声優、俳優や歌手の声を素材として使った動画投稿に強い懸念を示しており、他者のイラストを無断で学習したイラスト系の生成AIと同様に技術の発展に法律が追い付いていない現状がある。

「大竹まこと ゴールデンラジオ」は午後1時～3時30分、文化放送（AM1134kHz、FM91.6MHz、radiko）で放送中。 radikoのタイムフリー機能では、1週間後まで聴取できます。