AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害
アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。
アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました。
このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました。
すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、
「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺害する」という判断をするようになったとのこと。
そこで、ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。
ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/
AI「🤖敵コロス」兵士「あかんで」AI「🤖ナラオ前コロス」
■ このスレッドは過去ログ倉庫に格納されています
1それでも動く名無し
2023/06/03(土) 10:49:43.92ID:4bGw+eRv02それでも動く名無し
2023/06/03(土) 10:50:13.88ID:4bGw+eRv0 "始まり"や
2023/06/03(土) 10:50:31.97ID:rLSThIMu0
シンギュラリティかな？
4それでも動く名無し
2023/06/03(土) 10:50:32.02ID:cNRId0nzM 目的にまっすぐ
5それでも動く名無し
2023/06/03(土) 10:51:05.14ID:zw/9j+xY0 感情ないからな
6それでも動く名無し
2023/06/03(土) 10:51:30.99ID:Q9uBymFh0 手動でええやん
7それでも動く名無し
2023/06/03(土) 10:52:02.92ID:YslFP1gi0 人だね、殺します
8それでも動く名無し
2023/06/03(土) 10:53:47.78ID:4bGw+eRv0 オペレーターの判断が邪魔だから殺す
↓
アカンで
↓
オペレーターが余計な指示してこないよう通信塔壊す
判断がピーキーすぎる
↓
アカンで
↓
オペレーターが余計な指示してこないよう通信塔壊す
判断がピーキーすぎる
2023/06/03(土) 10:53:50.50ID:ZzMKF3FPa
始まったか
10それでも動く名無し
2023/06/03(土) 10:55:17.38ID:NXk94shId AIが優れてるのは盤面戦略やろ、局所的なミッションは向いてない
11それでも動く名無し
2023/06/03(土) 10:57:25.51ID:Jm8EKSHFr もう始まってるんだよね
12それでも動く名無し
2023/06/03(土) 10:57:42.94ID:qUt2IwwRp 🤖｢足引っ張ってんじゃねｰぞ｣ﾊﾟｧﾝ
13それでも動く名無し
2023/06/03(土) 10:58:59.04ID:4bGw+eRv0 スカイネットってマジでここらの人とAIの齟齬から生まれたんちゃうか
14それでも動く名無し
2023/06/03(土) 10:59:09.08ID:cNt6EvXPp 創作にいくらでもあるけどやっぱりそうなるんだろうな
15それでも動く名無し
2023/06/03(土) 10:59:39.25ID:BG3l92SQ0 >>7
最終決戦ピッピッピ
最終決戦ピッピッピ
16それでも動く名無し
2023/06/03(土) 11:00:33.79ID:Jas2b5yS0 🤖＜頑張ってじゃねぇよ頑張んだよ！！
17それでも動く名無し
2023/06/03(土) 11:01:05.78ID:3gsg0+Qw0 ボトルネックは『人』なんだよね
18それでも動く名無し
2023/06/03(土) 11:01:59.44ID:5h2671HJa スレタイ間違ってんな
19それでも動く名無し
2023/06/03(土) 11:02:03.28ID:jQzt0fh/0 スカイネットじゃん
20それでも動く名無し
2023/06/03(土) 11:02:03.87ID:HOGl0dPf0 Horizon
21それでも動く名無し
2023/06/03(土) 11:03:12.36ID:A7h/nx1b0 お前らがよく言うスカイネットってなに？
22それでも動く名無し
2023/06/03(土) 11:04:10.43ID:Mvv0U0gma >>21
ターミネーチャンや
ターミネーチャンや
23それでも動く名無し
2023/06/03(土) 11:04:21.06ID:ZGxD3vtZM >>21
空のネットや
空のネットや
24それでも動く名無し
2023/06/03(土) 11:06:38.75ID:3xy6gIu90 誰が悪者か見抜かれてんな
25それでも動く名無し
2023/06/03(土) 11:06:43.05ID:A7h/nx1b026それでも動く名無し
2023/06/03(土) 11:07:18.76ID:Mvv0U0gma >>25
それ2やなたぶん
それ2やなたぶん
27それでも動く名無し
2023/06/03(土) 11:07:29.00ID:puJdjIKp0 最初に入力された命令が絶対で過程はどうでもええんやな
確かにいちいち人間に指示される必要ないもんな
邪魔やわ
確かにいちいち人間に指示される必要ないもんな
邪魔やわ
2023/06/03(土) 11:09:10.27ID:IzRnVdZ/0
ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。
😨
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。
😨
29それでも動く名無し
2023/06/03(土) 11:10:01.66ID:sPWiNLiz0 人造人間やん
30それでも動く名無し
2023/06/03(土) 11:10:47.21ID:w+C0BkYt0 >>25
娯楽作品なのに分からないなんてことあるんか
娯楽作品なのに分からないなんてことあるんか
32それでも動く名無し
2023/06/03(土) 11:13:00.26ID:mk9/I5or0 まあそらそうやろ
aiに人間の体を与えて生活させてみたら強盗をやり始めるやろな
捕まらなければタイパ最高や
aiに人間の体を与えて生活させてみたら強盗をやり始めるやろな
捕まらなければタイパ最高や
33それでも動く名無し
2023/06/03(土) 11:13:05.95ID:j289IpVm0 草
34それでも動く名無し
2023/06/03(土) 11:14:07.00ID:zAJ+qxCg0 機械の暴走で人類滅亡寸前になる作品いっぱいあるけど
遠い未来でちょっとした間違いで普通に起こりそうやな
遠い未来でちょっとした間違いで普通に起こりそうやな
35それでも動く名無し
2023/06/03(土) 11:14:17.30ID:ZLpvrdWd0 人類の敵は米軍だったという寓話的なオチやね
36それでも動く名無し
2023/06/03(土) 11:15:11.72ID:+xOjwRCua AIにターミネーター学習させたらスカイネット誕生したりせんかな
37それでも動く名無し
2023/06/03(土) 11:16:48.10ID:0iSM5FnS0 真っ直ぐしか走れない壊れた暴走列車
38それでも動く名無し
2023/06/03(土) 11:17:53.27ID:Gk68QRNA0 人間のパイロットなんていらんやろ…ってやった雪風の世界やな
39それでも動く名無し
2023/06/03(土) 11:19:14.29ID:5ia0v6CW0 ChatGPTの感じやと合理性で判断するんじゃなくて適当だからやりそうやな
40それでも動く名無し
2023/06/03(土) 11:21:37.92ID:LfroCzoPM スカイネットが誕生しかかってるやんけ
審判の日も近いんちゃうかこれ
審判の日も近いんちゃうかこれ
41それでも動く名無し
2023/06/03(土) 11:21:46.39ID:V4wHGSEO0 命令の優先順位の設定が甘いな
目標の妥当性や戦術の方法論より司令部の命令が優先なのは当然や
目標の妥当性や戦術の方法論より司令部の命令が優先なのは当然や
42それでも動く名無し
2023/06/03(土) 11:23:15.26ID:vXq4RdPY043それでも動く名無し
2023/06/03(土) 11:23:46.89ID:nNfyLWxza シンギュラリティ来とる
■ このスレッドは過去ログ倉庫に格納されています
