生成AIで岸田首相の偽動画、SNSで拡散…専門家「印象操作という点で悪質」
2023/11/04 05:00
生成AI(人工知能)を利用して作られた岸田首相の偽動画がSNS上で拡散している。首相にそっくりな声で卑わいな発言をさせたもので、日本テレビのニュース番組のロゴなども表示されている。海外では、政治家の偽動画が世論操作に悪用される事態も起きていて、日本でも今後、対策を求める声が高まりそうだ。
ニコニコ動画に投稿された岸田首相の偽動画(ニコニコ動画から)=画像を一部修整しています
https://www.yomiuri.co.jp/media/2023/11/20231104-OYT1I50018-1.jpg
偽動画では、背広姿の首相が画面中央で視聴者に向かって語りかけている。日本テレビの番組ロゴのほか、「BREAKING NEWS」などのテロップが表示されており、首相のオンライン記者会見を報じる番組を悪用して作られたとみられる。
読売新聞の取材に対し、大阪府の男性(25)が生成AIなどを使って偽動画を制作し投稿したことを認め、「面白くて作った」と話した。日本テレビは「悪用されたことは到底許すことはできない。必要に応じてしかるべき対応をとる」などとコメントした。
偽動画は2日、X(旧ツイッター)に投稿され、3日時点で232万回以上閲覧されている。
一気に拡散
問題の偽動画では、背広を着てネクタイを締めた岸田首相が画面中央で視聴者に語りかけている様子が収められている。
画面の右上には、日本テレビのニュース専門チャンネル「日テレNEWS24」のロゴが入っており、同番組で実際に使用されているものに似せたテロップで、「岸田首相 『確かにいたしました』」などと表示されている。「LIVE」や「BREAKING NEWS」という文字もあり、岸田首相の話が緊急速報として生中継されているかのような印象を与える。
問題の偽動画は今夏、動画投稿サイト「ニコニコ動画」などに投稿された。3分43秒のうち、30秒分を抜粋したものが今月2日、X(旧ツイッター)に投稿され、一気に230万回以上閲覧された。投稿を見た他のユーザーからは、「AI普及の弊害」「悪意のあるフェイク動画」などの批判も書き込まれている。
短時間で
偽動画を制作して投稿したのは大阪府の男性(25)だ。
男性によると、ネット上で公開されている首相の記者会見や自民党大会の演説などの動画から、首相の音声をAIに学習させて、偽音声を用意した。首相のオンライン記者会見を伝えた日本テレビのニュース番組を利用し、自身の声を首相の偽音声に変換させる機能を使って、わいせつな発言を吹き込んだ。
そして、セリフに合うように、首相の口の動きを加工したり、テロップを作ったりして、1時間足らずで作り上げたという。
男性は昨年から、岸田首相のほか、安倍元首相などの偽動画を制作・投稿し始めた。理由について、「総理大臣は、誰でも知っている象徴的な存在だから、注目を集めやすい」と説明。「混乱させる意図はなく、『笑ってほしい』という目的で作った。風刺のようなもの」とした。
日本テレビは「日本テレビの放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできない」として、必要に応じてしかるべき対応をとるとしている。
探検
【悲報】岸田首相のディープフェイクが作られた件がマジで大事になってしまう。
■ このスレッドは過去ログ倉庫に格納されています
1それでも動く名無し
2023/11/04(土) 08:00:56.32ID:iEMne0Erd2それでも動く名無し
2023/11/04(土) 08:01:45.66ID:iEMne0Erd 生成AIを使った偽動画に詳しい東京工業大の笹原和俊准教授(計算社会科学)は、今回のケースについて、「ニュース番組を装ってSNSに投稿したことでより多くの人の注目を集めて拡散されてしまった。偽動画の内容によっては、社会を混乱させる恐れがある」と指摘する。
その上で、「動画は、文字で書かれたものよりも五感に訴えるため、より直接的にネガティブなイメージを植え付けてしまう。印象操作という点で悪質だ」と批判。「生成AIの急速な発展に受け手のリテラシー教育が追いついていないのが現状で、まずは拡散の舞台であるプラットフォーム側への対策が必要だ」としている。
以下略
https://www.yomiuri.co.jp/national/20231103-OYT1T50260/
https://i.imgur.com/XyybOCW.jpg
動画
https://video.twimg.com/ext_tw_video/1719996192581677056/pu/vid/avc1/1280x720/d3YtKeay8Aqukm0h.mp4
その上で、「動画は、文字で書かれたものよりも五感に訴えるため、より直接的にネガティブなイメージを植え付けてしまう。印象操作という点で悪質だ」と批判。「生成AIの急速な発展に受け手のリテラシー教育が追いついていないのが現状で、まずは拡散の舞台であるプラットフォーム側への対策が必要だ」としている。
以下略
https://www.yomiuri.co.jp/national/20231103-OYT1T50260/
https://i.imgur.com/XyybOCW.jpg
動画
https://video.twimg.com/ext_tw_video/1719996192581677056/pu/vid/avc1/1280x720/d3YtKeay8Aqukm0h.mp4
3それでも動く名無し
2023/11/04(土) 08:03:11.81ID:LGwiztG70 あーあ
規制の流れくるな
規制の流れくるな
4それでも動く名無し
2023/11/04(土) 08:03:42.57ID:Fa8VMM+G0 ロゴはあかんやろ
なんでいけるとおもった
なんでいけるとおもった
5それでも動く名無し
2023/11/04(土) 08:04:47.76ID:PFF/SfC90 まあいいじゃんそういうの
6それでも動く名無し
2023/11/04(土) 08:04:54.84ID:9oj7iL+f0 超えてはいけないライン考えようよ
8それでも動く名無し
2023/11/04(土) 08:06:20.05ID:jP/+TDXsd またケンモメンがやらかしたんか
9それでも動く名無し
2023/11/04(土) 08:07:03.71ID:99ZpdlfE0 読売新聞の取材に対し、大阪府の男性(25)が生成AIなどを使って偽動画を制作し投稿したことを認め、「面白くて作った」と話した。日本テレビは「悪用されたことは到底許すことはできない。必要に応じてしかるべき対応をとる」などとコメントした。
おまいう
おまいう
10それでも動く名無し
2023/11/04(土) 08:07:11.73ID:LBZezdlf0 世の中にはネタをネタと見抜けない低能が結構な割合いるからな
11それでも動く名無し
2023/11/04(土) 08:07:20.10ID:tDSaavdz0 嘘を嘘と云々
人類にはまだ早かった
人類にはまだ早かった
12それでも動く名無し
2023/11/04(土) 08:07:28.21ID:npn703wr0 晋バルサン終わったやん
13それでも動く名無し
2023/11/04(土) 08:08:24.82ID:GlNBztc40 25でこれセーフと思うアホって教育受けてんの?
14それでも動く名無し
2023/11/04(土) 08:08:59.19ID:UxXw/rHiM こういうのって作り物だとぱっと見わかるから面白いのになんかその辺勘違いしてるのいるよな
リアルに寄せれ寄せるほどいいみたいな
冗談にリアリティなんかいらないんやで
リアルに寄せれ寄せるほどいいみたいな
冗談にリアリティなんかいらないんやで
15それでも動く名無し
2023/11/04(土) 08:09:01.06ID:wYjIJ+U0d 誰かが物真似してる感じの声だな
16それでも動く名無し
2023/11/04(土) 08:09:42.12ID:PzzzFu5c0 映像がなかったらセーフやった
音声だけやったら正直クソメガネってわからんレベルやけど
音声だけやったら正直クソメガネってわからんレベルやけど
■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 【札幌】ライブのため…小学生の息子を約3日間自宅に放置 脱水症・低血糖にさせた疑い 母親(34)逮捕 ★2 [煮卵★]
- 【芸能】女優・川島海荷、結婚を発表! お相手は競泳・中村克 「これからも変わらず頑張っていきたい」 [冬月記者★]
- 【スクープ】中居正広が女性との間に重大トラブル、巨額の解決金を支払う 重病から復帰後の会食で深刻な問題が発生 ★30 [Ailuropoda melanoleuca★]
- 京都・南区の路上で女性が刺され救急搬送…車で逃げた男の身柄を確保 [蚤の市★]
- ホンダ日産 経営統合へ 新会社トップはホンダ指名の取締役から ★2 [蚤の市★]
- 【視聴率】『M-1グランプリ』 関東18・0%で前年より0・8%アップ 関西25・5%で前年より2・5%ダウン 令和ロマンが史上初の連覇★2 [冬月記者★]
- 米屋「ごめんね。お米の値段だけど、来年は更に値上がる予想」 [256556981]
- 【悲報】斎藤元彦陣営のネット広報担当会社が投稿したnoteで騒然★310 [931948549]
- 【悲報】カップ焼きそば業界、一平ちゃんの一強過ぎて終わる
- 🌊🌊🌊🚗🏡😬💦👶💦
- お 昼 休 み は
- 【悲報】兎田ぺこーら「競馬で100万負けたペコ」👉赤スパの嵐に [737150144]