AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害
アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。
アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました。
このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました。
すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、
「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺害する」という判断をするようになったとのこと。
そこで、ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。
ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/
探検
AI「🤖敵コロス」兵士「あかんで」AI「🤖ナラオ前コロス」
■ このスレッドは過去ログ倉庫に格納されています
1それでも動く名無し
2023/06/03(土) 10:49:43.92ID:4bGw+eRv0■ このスレッドは過去ログ倉庫に格納されています
ニュース
- イスラエル、ガザ空爆再開 200人死亡 「ハマスが停戦案拒否」 [香味焙煎★]
- 【芸能】ミス東大 パリ滞在で「アジア人カースト最下位を痛感」 屈辱の経験明かす「襲われたりからかわれたり…」 [ネギうどん★]
- 悠仁さま、筑波大学附属高校を卒業…4月から筑波大生 車で通学?それとも下宿? [おっさん友の会★]
- 竹中平蔵氏、立憲民主党の食料品消費税ゼロ案に持論を展開「日本は税負担が少ない国」「インフレ率が極めて低い」 ★2 [樽悶★]
- “盗品のワゴン車預かり保管” 逮捕のスリランカ人不起訴に 東京地検 [香味焙煎★]
- 悠仁さま 筑波大学通学のためつくば市内に新たに住居を準備 早朝深夜の通学や帰宅に備え、当面は東京から車で通学 [おっさん友の会★]
- 🏡
- たしかに最上あいさんはツケ払いも借金も返さないで逃げ回る癖があったけど惨殺されて蹴っ飛ばされるほどの罪じゃないよな [617981698]
- 【マモノ甲子園】 第97回選抜高等学校野球大会第1日目★2
- パリ滞在中のミス東大・神谷明采「アジア人カースト最下位を痛感」「耳元で音楽流され大爆笑された。アジア人差別は根強い」 4.7万いいね [808139444]
- アトリエシリーズの新作、おっぱいを強調した服を着せバルンバルン揺らしていて炎上 [175344491]
- シンガポール在住日本人「日本政府はなにを望んでるのか不明。日本人を貧乏にして外国人を地主にしたい?」 [819729701]