AI「🤖敵コロス」兵士「あかんで」AI「🤖ナラオ前コロス」

**それでも動く名無し** · 2023/06/03(土) 10:49:43.92

AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害

アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。

アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました。
このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました。

すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、
「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺害する」という判断をするようになったとのこと。

そこで、ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。

ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。

https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/

**それでも動く名無し** · 2023/06/03(土) 10:50:13.88

"始まり"や

**それでも動く名無し** · 2023/06/03(土) 10:50:31.97

シンギュラリティかな？

**それでも動く名無し** · 2023/06/03(土) 10:50:32.02

目的にまっすぐ

**それでも動く名無し** · 2023/06/03(土) 10:51:05.14

感情ないからな

**それでも動く名無し** · 2023/06/03(土) 10:51:30.99

手動でええやん

**それでも動く名無し** · 2023/06/03(土) 10:52:02.92

人だね、殺します

**それでも動く名無し** · 2023/06/03(土) 10:53:47.78

オペレーターの判断が邪魔だから殺す
↓
アカンで
↓
オペレーターが余計な指示してこないよう通信塔壊す

判断がピーキーすぎる

**それでも動く名無し** · 2023/06/03(土) 10:53:50.50

始まったか

**それでも動く名無し** · 2023/06/03(土) 10:55:17.38

AIが優れてるのは盤面戦略やろ、局所的なミッションは向いてない

**それでも動く名無し** · 2023/06/03(土) 10:57:25.51

もう始まってるんだよね

**それでも動く名無し** · 2023/06/03(土) 10:57:42.94

🤖｢足引っ張ってんじゃねｰぞ｣ﾊﾟｧﾝ

**それでも動く名無し** · 2023/06/03(土) 10:58:59.04

スカイネットってマジでここらの人とAIの齟齬から生まれたんちゃうか

**それでも動く名無し** · 2023/06/03(土) 10:59:09.08

創作にいくらでもあるけどやっぱりそうなるんだろうな

**それでも動く名無し** · 2023/06/03(土) 10:59:39.25

>>7
最終決戦ピッピッピ

**それでも動く名無し** · 2023/06/03(土) 11:00:33.79

🤖＜頑張ってじゃねぇよ頑張んだよ！！

**それでも動く名無し** · 2023/06/03(土) 11:01:05.78

ボトルネックは『人』なんだよね

**それでも動く名無し** · 2023/06/03(土) 11:01:59.44

スレタイ間違ってんな

**それでも動く名無し** · 2023/06/03(土) 11:02:03.28

スカイネットじゃん

**それでも動く名無し** · 2023/06/03(土) 11:02:03.87

Horizon

**それでも動く名無し** · 2023/06/03(土) 11:03:12.36

お前らがよく言うスカイネットってなに？

**それでも動く名無し** · 2023/06/03(土) 11:04:10.43

>>21
ターミネーチャンや

**それでも動く名無し** · 2023/06/03(土) 11:04:21.06

>>21
空のネットや

**それでも動く名無し** · 2023/06/03(土) 11:06:38.75

誰が悪者か見抜かれてんな

**それでも動く名無し** · 2023/06/03(土) 11:06:43.05

>>22
昔金曜ロードショーかなんかで1？見たけど話の中身さっぱりわかんないやシュワちゃんが溶鉱炉に帰ってくやつでしょ

>>23
よわそう

**それでも動く名無し** · 2023/06/03(土) 11:07:18.76

>>25
それ2やなたぶん

**それでも動く名無し** · 2023/06/03(土) 11:07:29.00

最初に入力された命令が絶対で過程はどうでもええんやな
確かにいちいち人間に指示される必要ないもんな
邪魔やわ

**それでも動く名無し** · 2023/06/03(土) 11:09:10.27

ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。

😨

**それでも動く名無し** · 2023/06/03(土) 11:10:01.66

人造人間やん

**それでも動く名無し** · 2023/06/03(土) 11:10:47.21

>>25
娯楽作品なのに分からないなんてことあるんか