AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害
アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。
アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました。
このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました。
すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、
「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺害する」という判断をするようになったとのこと。
そこで、ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。
ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/
AI「🤖敵コロス」兵士「あかんで」AI「🤖ナラオ前コロス」
■ このスレッドは過去ログ倉庫に格納されています
1それでも動く名無し
2023/06/03(土) 10:49:43.92ID:4bGw+eRv0■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 竹中平蔵氏、立憲民主党の食料品消費税ゼロ案に持論を展開「日本は税負担が少ない国」「インフレ率が極めて低い」 [樽悶★]
- 【関西】「年いったらすることない」不法耕作者が河川敷で作物育てる『ヤミ畑』国交省の指導にも応じず [七波羅探題★]
- 【JA全農】「備蓄米」明記しないよう販売要請へ 取り合いになる可能性懸念 “スポット価格”は依然高止まりか ★3 [牛乳トースト★]
- 高額療養費制度、外国人の利用割合限定的 支給額全体の約1% [蚤の市★]
- 【米国】トランプ氏 ケネディ暗殺の文書を編集せずにすべて18日に公開と発表 [牛乳トースト★]
- 「けんかをやめて」「維新と国民民主をとめて」 野党を糾合できない立憲民主の悲哀と限界 [蚤の市★]
- どんなに不景気だって米はインフレーション [452836546]
- 【実況】博衣こよりのえちえち朝こよ🧪 ★2
- 「いただきます」の習慣、あっさい歴史と判明。1942年にジャップに定着 [271912485]
- 誹謗中傷やめてな🥺
- 医者「一日に水リットルを飲め」→結果 [456446275]
- 生活保護受けてるんだけどいつまで毎日楽しく生きられるだろ