AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害
アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。
アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました。
このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました。
すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、
「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺害する」という判断をするようになったとのこと。
そこで、ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。
ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/
AI「🤖敵コロス」兵士「あかんで」AI「🤖ナラオ前コロス」
■ このスレッドは過去ログ倉庫に格納されています
1それでも動く名無し
2023/06/03(土) 10:49:43.92ID:4bGw+eRv0■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 【速報】トランプ米大統領は、米国製以外のすべての輸入自動車に25%の関税を課すと発表した ★2 [蚤の市★]
- 広がる転勤NG 「わがまま」「世代の違い」じゃない本当の理由 [蚤の市★]
- 「ナプキン」県議が主張、税金は「性と生殖に関する困りごとを福祉的に解決することに使うべき」 (共産・吉田紋華氏) [少考さん★]
- 国民民主 「苦しい民間を自民・公明・野党第1党が分かってくれないから、悲鳴SOSで支持された。我々が認められたからではない」 ★2 [お断り★]
- 47都道府県「会社員の平均給与」最新ランキング1位と47位の酷すぎる格差「実感なき賃上げの実情」 [七波羅探題★]
- 【野球】ドジャース 日本企業とのスペンサー契約ラッシュ… 『東京エレクトロン』『JTB』と異例の同日2件目発表 米唖然「そしてまた」 [冬月記者★]
- 新卒ジャップ、初任給50万時代突入… [667744927]
- サイゼリヤ「庶民の給料が上がる前までは値上げは行わない、なんならもっと安くする」 [449534113]
- がん罹患者「私はこれを食べて癌になりました😔」謎の日本人「惑わされないで!癌は運!増加要因は高齢化😡!」 [441660812]
- (ヽ´ん`)「ん、AIに聞いてきてあげた」AI回答をコピペするケンモメンが急増 [144161739]
- 【悲報】欧州、めちゃくちゃピリつき始める。ロシアがポーランドやバルト三国に侵攻しても防衛不可能で即陥落と判明 [308389511]
- 【悲報】トランプ「米国外で生産される全ての自動車に25%の関税を課す」 [733893279]