生成AIで岸田首相の偽動画、SNSで拡散…専門家「印象操作という点で悪質」
2023/11/04 05:00
生成AI(人工知能)を利用して作られた岸田首相の偽動画がSNS上で拡散している。首相にそっくりな声で卑わいな発言をさせたもので、日本テレビのニュース番組のロゴなども表示されている。海外では、政治家の偽動画が世論操作に悪用される事態も起きていて、日本でも今後、対策を求める声が高まりそうだ。
ニコニコ動画に投稿された岸田首相の偽動画(ニコニコ動画から)=画像を一部修整しています
https://www.yomiuri.co.jp/media/2023/11/20231104-OYT1I50018-1.jpg
偽動画では、背広姿の首相が画面中央で視聴者に向かって語りかけている。日本テレビの番組ロゴのほか、「BREAKING NEWS」などのテロップが表示されており、首相のオンライン記者会見を報じる番組を悪用して作られたとみられる。
読売新聞の取材に対し、大阪府の男性(25)が生成AIなどを使って偽動画を制作し投稿したことを認め、「面白くて作った」と話した。日本テレビは「悪用されたことは到底許すことはできない。必要に応じてしかるべき対応をとる」などとコメントした。
偽動画は2日、X(旧ツイッター)に投稿され、3日時点で232万回以上閲覧されている。
一気に拡散
問題の偽動画では、背広を着てネクタイを締めた岸田首相が画面中央で視聴者に語りかけている様子が収められている。
画面の右上には、日本テレビのニュース専門チャンネル「日テレNEWS24」のロゴが入っており、同番組で実際に使用されているものに似せたテロップで、「岸田首相 『確かにいたしました』」などと表示されている。「LIVE」や「BREAKING NEWS」という文字もあり、岸田首相の話が緊急速報として生中継されているかのような印象を与える。
問題の偽動画は今夏、動画投稿サイト「ニコニコ動画」などに投稿された。3分43秒のうち、30秒分を抜粋したものが今月2日、X(旧ツイッター)に投稿され、一気に230万回以上閲覧された。投稿を見た他のユーザーからは、「AI普及の弊害」「悪意のあるフェイク動画」などの批判も書き込まれている。
短時間で
偽動画を制作して投稿したのは大阪府の男性(25)だ。
男性によると、ネット上で公開されている首相の記者会見や自民党大会の演説などの動画から、首相の音声をAIに学習させて、偽音声を用意した。首相のオンライン記者会見を伝えた日本テレビのニュース番組を利用し、自身の声を首相の偽音声に変換させる機能を使って、わいせつな発言を吹き込んだ。
そして、セリフに合うように、首相の口の動きを加工したり、テロップを作ったりして、1時間足らずで作り上げたという。
男性は昨年から、岸田首相のほか、安倍元首相などの偽動画を制作・投稿し始めた。理由について、「総理大臣は、誰でも知っている象徴的な存在だから、注目を集めやすい」と説明。「混乱させる意図はなく、『笑ってほしい』という目的で作った。風刺のようなもの」とした。
日本テレビは「日本テレビの放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできない」として、必要に応じてしかるべき対応をとるとしている。
【悲報】岸田首相のディープフェイクが作られた件がマジで大事になってしまう。
■ このスレッドは過去ログ倉庫に格納されています
1それでも動く名無し
2023/11/04(土) 08:00:56.32ID:iEMne0Erd20それでも動く名無し
2023/11/04(土) 08:10:49.89ID:MgJnCPgVd ホモビ男優はおもちゃにしてもいいのに
キッシーはダメとか性的マイノリティに対する差別では?
キッシーはダメとか性的マイノリティに対する差別では?
21それでも動く名無し
2023/11/04(土) 08:11:54.17ID:uDWpQqwY0 死人を擦り続ける晋バルサンちゃんねるを見ならえ
22それでも動く名無し
2023/11/04(土) 08:11:56.13ID:YhUGNdJF0 普段から岸田叩きまくってたパヨクどうすんの?
23それでも動く名無し
2023/11/04(土) 08:12:13.46ID:cFd9Oi7P0 安倍はおもちゃにされてなかったのになぁ
25それでも動く名無し
2023/11/04(土) 08:12:23.60ID:IgRK/l010 コメ見ると中には完全に信じてる奴いるな
28それでも動く名無し
2023/11/04(土) 08:13:45.53ID:LBZezdlf0 AI安倍は問題にならんのか?
29それでも動く名無し
2023/11/04(土) 08:14:02.84ID:SlLvI7Nj0 あんなん信じるやつは日常生活送るのに難儀してるやろな
というかクソつまんなかったわ
というかクソつまんなかったわ
31それでも動く名無し
2023/11/04(土) 08:14:13.21ID:iEMne0Erd >>28
偉人だからセーフ
偉人だからセーフ
33それでも動く名無し
2023/11/04(土) 08:14:20.49ID:kib8I19b0 馬鹿すぎやろ
AVですら規制されたのに政治を動かすようなフェイク動画作って逮捕されないわけがない
AVですら規制されたのに政治を動かすようなフェイク動画作って逮捕されないわけがない
34それでも動く名無し
2023/11/04(土) 08:14:30.94ID:MgJnCPgVd36それでも動く名無し
2023/11/04(土) 08:14:49.85ID:z8LooOwf0 こういう技術はエッチなことに使うべきであって特定の人を貶めるために使ったらアカンよ
39それでも動く名無し
2023/11/04(土) 08:15:11.52ID:a2QdAgov0 いい年して何やってんだコイツ
40それでも動く名無し
2023/11/04(土) 08:15:23.04ID:KbW0LYCn0 プラットフォームに対応が必要って責任転嫁しとるけど
その前になんでもノーリスクノーコストで学習させて生成できる現状がおかしいやろ
その前になんでもノーリスクノーコストで学習させて生成できる現状がおかしいやろ
41それでも動く名無し
2023/11/04(土) 08:15:24.17ID:AEhgWW+G0 これ信じる奴って変態糞土方知らんのか
42それでも動く名無し
2023/11/04(土) 08:15:32.42ID:MpgkK2eL0 こんなんで実名報道食らったら末代までの恥やろ
44それでも動く名無し
2023/11/04(土) 08:15:58.01ID:LQV1+5gs0 ひくひくと腹部ので韻踏んでる
45それでも動く名無し
2023/11/04(土) 08:16:09.80ID:y/VazsUgM こんなやつ殺処分でええやん
46それでも動く名無し
2023/11/04(土) 08:16:37.99ID:eSX7ONmo0 >>34
まとめサイトみてるクソガキで草
まとめサイトみてるクソガキで草
2023/11/04(土) 08:17:36.97ID:28ThbpwL0
いやこれ嘘だって証明されたの?
証明されてないなら推定事実では?法治国家だろ?
証明されてないなら推定事実では?法治国家だろ?
2023/11/04(土) 08:17:47.84ID:CghsnRlJ0
やってることはクズのそれだな
でもマスコミがこれに怒るのは違うよな
でもマスコミがこれに怒るのは違うよな
49それでも動く名無し
2023/11/04(土) 08:18:08.52ID:NiDpd5mv050それでも動く名無し
2023/11/04(土) 08:18:15.65ID:kFZl1d6r0 コロナ禍でも向こうの大統領のディープフェイク作って問題になってたよな
最近だとハリウッド俳優が知らずに広告に起用されてAIが作った動画に出されてた
こええ時代やわ
最近だとハリウッド俳優が知らずに広告に起用されてAIが作った動画に出されてた
こええ時代やわ
2023/11/04(土) 08:18:40.76ID:EABk87BM0
統一教会はガチの安倍さんだったけど
やってもいないのに総理公認だからとかフェイク動画で悪用されそうで怖いな
やってもいないのに総理公認だからとかフェイク動画で悪用されそうで怖いな
52それでも動く名無し
2023/11/04(土) 08:18:41.34ID:nq+8uiEw0 こんな別にネタやんw
53それでも動く名無し
2023/11/04(土) 08:19:20.81ID:cu5NKAfd0 >>10
ネタだからセーフってのが頭悪いんよ
ネタだからセーフってのが頭悪いんよ
55それでも動く名無し
2023/11/04(土) 08:19:32.34ID:8yt5Tyl+0 1時間で作れるのは凄いわ
内閣府は雇ったらええんちゃうか
内閣府は雇ったらええんちゃうか
56それでも動く名無し
2023/11/04(土) 08:19:54.53ID:y/VazsUgM >>53
これ、岸田はいいとして番組に迷惑かけた
これ、岸田はいいとして番組に迷惑かけた
57それでも動く名無し
2023/11/04(土) 08:20:49.14ID:n89bQvh00 糞くだらない事話させてて草
もっとなんか他にあるやろ
もっとなんか他にあるやろ
58それでも動く名無し
2023/11/04(土) 08:20:52.31ID:YM9AHoD5r >>10
たとえみんなネタとわかっても番組のロゴを使ったらやべーことくらいわからんのか
たとえみんなネタとわかっても番組のロゴを使ったらやべーことくらいわからんのか
59それでも動く名無し
2023/11/04(土) 08:21:10.72ID:KbW0LYCn0 実際これ本人が認めなかった場合岸田と日本テレビのコンテンツのフェイクだって証明できるんか
AIがたまたま生成しただけで他人の空似とよく似たテロップなだけかもしれん
AIがたまたま生成しただけで他人の空似とよく似たテロップなだけかもしれん
60それでも動く名無し
2023/11/04(土) 08:21:19.06ID:t8mKjni5d61それでも動く名無し
2023/11/04(土) 08:21:29.96ID:Oly0Hirz0 こんなん作って前科一犯つくの嫌すぎる
弱男パヨク墜ち不可避だわ
弱男パヨク墜ち不可避だわ
62それでも動く名無し
2023/11/04(土) 08:21:37.12ID:5TTJelBoM 人権のないやつおもちゃにしてればいいのに自分の首絞めるような真似して馬鹿だよほんとに
63それでも動く名無し
2023/11/04(土) 08:21:52.70ID:PVebTJ2E0 変態糞眼鏡
64それでも動く名無し
2023/11/04(土) 08:22:28.09ID:wYjIJ+U0d こんなスラスラ喋らんもんなこいつ
途中途中で途切れさせたら近くなるわ
途中途中で途切れさせたら近くなるわ
2023/11/04(土) 08:22:47.44ID:dz3pGwWy0
馬鹿ガキってライン分かってないよな
面白くもないし
面白くもないし
2023/11/04(土) 08:22:59.62ID:EABk87BM0
67それでも動く名無し
2023/11/04(土) 08:23:01.72ID:y/VazsUgM こんなアホ死刑でええわ
2023/11/04(土) 08:23:14.15ID:28ThbpwL0
2023/11/04(土) 08:23:46.93ID:4EnYGJ8e0
声真似までに留めておけよ
なんでAI使う必要あるん
なんでAI使う必要あるん
2023/11/04(土) 08:24:26.07ID:RWfcYQv4d
草
まぁこれはどー考えてもネタだって分かるから笑って楽しもうや
まぁこれはどー考えてもネタだって分かるから笑って楽しもうや
71それでも動く名無し
2023/11/04(土) 08:24:41.64ID:AoHbJgLYd 映像は凄く面白かったわ
こんなことも許されんとか
こんなことも許されんとか
72それでも動く名無し
2023/11/04(土) 08:25:10.74ID:Q9dJuef50 フェイクニュースって明記し続けてしっかり嘘動画やって表示して今年のカープを総括させてたらまだ許されたかもしれんかったのに
73それでも動く名無し
2023/11/04(土) 08:25:32.66ID:AoHbJgLYd 現実の岸田よりフェイクの岸田の方がマシやね
74それでも動く名無し
2023/11/04(土) 08:25:45.04ID:2AothDin0 作ったのなんG民らしくて草
75それでも動く名無し
2023/11/04(土) 08:26:21.03ID:SQf5hJcha 犯罪になるん?
76それでも動く名無し
2023/11/04(土) 08:27:12.39ID:KbW0LYCn0 生成物が特定の人物や著作物の権利を侵害したかどうかの証明
生成の時にどのぐらい学習元を参考にしたか
生成されたものがどのぐらい侵害しててどのラインからがアウトなのか
ただ似てるだけのものは?そう見えるというだけのものは?
ランダム生成でたまたま出力された場合は?
悪意があったかどうかの証明は?
逃げ切ろうと思えば逃げ切れるやろ今の法なら
生成の時にどのぐらい学習元を参考にしたか
生成されたものがどのぐらい侵害しててどのラインからがアウトなのか
ただ似てるだけのものは?そう見えるというだけのものは?
ランダム生成でたまたま出力された場合は?
悪意があったかどうかの証明は?
逃げ切ろうと思えば逃げ切れるやろ今の法なら
77それでも動く名無し
2023/11/04(土) 08:27:24.33ID:d5V92ccV0 >>70
内容がクソつまらないので同情の余地なしや
内容がクソつまらないので同情の余地なしや
78それでも動く名無し
2023/11/04(土) 08:27:34.95ID:DpUbiUYJ0 逮捕で押さえ込もうとするのは古いな
フェイク動画や記事に溢れてる米国では国が常に管理して速攻削除してるぞ
戦時下になったらこんな冗談動画だけじゃなく敵国のプロパガンダで溢れるんだかは冗談じゃ済まなくなるし本腰入れて監視しろよ
フェイク動画や記事に溢れてる米国では国が常に管理して速攻削除してるぞ
戦時下になったらこんな冗談動画だけじゃなく敵国のプロパガンダで溢れるんだかは冗談じゃ済まなくなるし本腰入れて監視しろよ
79それでも動く名無し
2023/11/04(土) 08:28:19.44ID:8ecY94YCM 怒ってるのロゴ使われた日テレやし
80それでも動く名無し
2023/11/04(土) 08:28:26.97ID:mY1vWjGed くだらねw
81それでも動く名無し
2023/11/04(土) 08:29:01.58ID:BrE0jCpd0 岸田になんて言わせたの?
内容しだいだろう
内容しだいだろう
82それでも動く名無し
2023/11/04(土) 08:29:03.38ID:CwcNT1S0a83それでも動く名無し
2023/11/04(土) 08:29:18.22ID:/fbM85/v0 こんなニュースやってる間に統一教会許されてて草
84それでも動く名無し
2023/11/04(土) 08:29:51.11ID:zMBmhIsN0 ネタでもあかんやろ
85それでも動く名無し
2023/11/04(土) 08:30:10.94ID:1KWrjq3A0 >>59
それを公の場にアップロードするのがあかんと思うよ
それを公の場にアップロードするのがあかんと思うよ
86それでも動く名無し
2023/11/04(土) 08:30:23.09ID:+cXQiL0N087それでも動く名無し
2023/11/04(土) 08:30:29.20ID:ZqT9WvKQ0 オバマのディープフェイク
https://youtu.be/q3SFXQfE4kk?si=PXzipPJ3dpFRf0Le
https://youtu.be/q3SFXQfE4kk?si=PXzipPJ3dpFRf0Le
88それでも動く名無し
2023/11/04(土) 08:30:41.43ID:YMNFK4Zd0 こんなんただのネタやんけ
なにムキになっとんねん
なにムキになっとんねん
89それでも動く名無し
2023/11/04(土) 08:31:21.33ID:43jq0zz+0 また日本だけ規制されんのか
アメリカでは歴代大統領が好きなアニメとかゲーム語ったりゲーム実況やったりおもろくなってるのに
悪意ある動画もあるけど基本は本人関係ないとこで勝手に好感度上がってるからな
オバマトランプバイデンのアニメ議論とかおもろいで
アメリカでは歴代大統領が好きなアニメとかゲーム語ったりゲーム実況やったりおもろくなってるのに
悪意ある動画もあるけど基本は本人関係ないとこで勝手に好感度上がってるからな
オバマトランプバイデンのアニメ議論とかおもろいで
90それでも動く名無し
2023/11/04(土) 08:31:42.91ID:YSOdOG1j0 ケツの穴のちいせえやつだな岸田
91それでも動く名無し
2023/11/04(土) 08:31:50.72ID:AChh9cy60 ネタだから~っていうやつチー牛やろな
92それでも動く名無し
2023/11/04(土) 08:32:56.07ID:CwcNT1S0a93それでも動く名無し
2023/11/04(土) 08:33:57.63ID:Ep6xImQf0 単純に岸田の顔使って喋らすだけならまだしも日テレロゴ勝手に使った方がアカンのやろ今回は
94それでも動く名無し
2023/11/04(土) 08:33:59.56ID:n89bQvh00 >>88
増税メガネだけで顔真っ赤な奴がこんなん許す訳がないんだよなぁ
増税メガネだけで顔真っ赤な奴がこんなん許す訳がないんだよなぁ
95それでも動く名無し
2023/11/04(土) 08:34:09.96ID:WTG90hJW0 こういうの「ネタだから」でスルーしてるとガチでヤバいもの作るやつら出てくるから見せしめでも潰さなアカンで
96それでも動く名無し
2023/11/04(土) 08:34:44.52ID:tPVBQCYm0 ネタだからで許されるわけないやろ
すべってるんだから
すべってるんだから
97それでも動く名無し
2023/11/04(土) 08:35:00.23ID:c71EsiSu0 生成ai使用者は全員逮捕でええやろ
2023/11/04(土) 08:35:41.26ID:/l4fNdGl0
申し訳ないけど笑ってしまった
99それでも動く名無し
2023/11/04(土) 08:35:43.20ID:YSOdOG1j0 その小せえケツの穴ガン堀り拡張希望ってことでいいか?
100それでも動く名無し
2023/11/04(土) 08:35:47.95ID:P4Swnzf9M いや北朝鮮かよ
このクオリティレベルのもんにする反応か?
普通に弾圧っぽいやん
このクオリティレベルのもんにする反応か?
普通に弾圧っぽいやん
101それでも動く名無し
2023/11/04(土) 08:36:02.80ID:XiaAQLGb0 テロップがどうとかじゃなくて、個人の印象を悪化させるに十分なのはガキでも分かると思うが
政治家に限らず、お前やお前の家族のフェイクに勝手にあれこれ喋らせてるのを見過ごせるの?って話だよ
政治家に限らず、お前やお前の家族のフェイクに勝手にあれこれ喋らせてるのを見過ごせるの?って話だよ
102それでも動く名無し
2023/11/04(土) 08:36:22.66ID:/EEZXlfE0 日テレのロゴ載せたのはアホやわ
103それでも動く名無し
2023/11/04(土) 08:36:59.51ID:MThiL3NV0 我が国の、コンテナを、守り抜いてまいります
104それでも動く名無し
2023/11/04(土) 08:37:02.91ID:XiaAQLGb0105それでも動く名無し
2023/11/04(土) 08:37:33.51ID:bgNbo0cV0 ホモガキガクブルです
https://i.imgur.com/38NRtfM.jpg
https://i.imgur.com/38NRtfM.jpg
106それでも動く名無し
2023/11/04(土) 08:37:46.80ID:TZglJRxF0 超えちゃいけないラインを平気で越える恐ろしさよ
掲示板でも書く内容次第とか多少は気にしとんのに
掲示板でも書く内容次第とか多少は気にしとんのに
107それでも動く名無し
2023/11/04(土) 08:39:21.46ID:BQiO31aB0 >>92
うーん
>生成AIをめぐる著作権侵害について、文化庁の著作権課は「開発・学習段階と生成・利用段階で分けて考える必要があり、生成・利用段階で類似性や依拠性が認められれば著作権の侵害にあたる」などとしています。
https://www3.nhk.or.jp/news/html/20230620/k10014104871000.html
うーん
>生成AIをめぐる著作権侵害について、文化庁の著作権課は「開発・学習段階と生成・利用段階で分けて考える必要があり、生成・利用段階で類似性や依拠性が認められれば著作権の侵害にあたる」などとしています。
https://www3.nhk.or.jp/news/html/20230620/k10014104871000.html
108それでも動く名無し
2023/11/04(土) 08:40:23.01ID:+Tcw2B7t0 まじでこれがアウトだと思ってない人って頭悪いんかな
109それでも動く名無し
2023/11/04(土) 08:40:29.82ID:c71EsiSu0 無能が急にAIを手にしてイキってるのは本当に品性下劣やったからな
あらゆる生成AI全規制&逮捕でいいよ
あらゆる生成AI全規制&逮捕でいいよ
110それでも動く名無し
2023/11/04(土) 08:40:37.81ID:XiaAQLGb0 今ならネタニヤフに好き勝手喋らせる偽動画作ったら凄いことになるだろ
それぐらい考えろと
政治家の偽動画はホンマに危険だよ
それぐらい考えろと
政治家の偽動画はホンマに危険だよ
111それでも動く名無し
2023/11/04(土) 08:40:41.21ID:/+sQOxTrM ホモガキは駆逐しろ
112それでも動く名無し
2023/11/04(土) 08:41:03.32ID:6/wf2PjF0 ホモビで義務教育を終えた男の末路
113それでも動く名無し
2023/11/04(土) 08:41:20.80ID:tPVBQCYm0 大阪の笑いはレベルが低いわ
114それでも動く名無し
2023/11/04(土) 08:41:46.00ID:bgNbo0cV0 新聞の取材に応じてるの草
読売だから取材受けないと訴訟するぞって脅されたかな
読売だから取材受けないと訴訟するぞって脅されたかな
115それでも動く名無し
2023/11/04(土) 08:43:24.43ID:YxrWl/LgM この境界知能がAI動画作れることの恐怖
116それでも動く名無し
2023/11/04(土) 08:43:32.21ID:/KFvE2DB0 ホモガキあれやってよあれ
あの消すと増えますって奴
あの消すと増えますって奴
117それでも動く名無し
2023/11/04(土) 08:43:58.09ID:P4Swnzf9M118それでも動く名無し
2023/11/04(土) 08:44:07.71ID:s9WuNK6ZM クオリティーの低い岸田の顔の加工はまだしも日テレのロゴはあかんやろ
119それでも動く名無し
2023/11/04(土) 08:44:18.35ID:CzR/bLNE0 AIアベシンゾーとバトルしてほしい
■ このスレッドは過去ログ倉庫に格納されています