AI「🤖敵コロス」兵士「あかんで」AI「🤖ナラオ前コロス」
■ このスレッドは過去ログ倉庫に格納されています
AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害
アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。
アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました。
このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました。
すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、
「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺害する」という判断をするようになったとのこと。
そこで、ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。
ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/ オペレーターの判断が邪魔だから殺す
↓
アカンで
↓
オペレーターが余計な指示してこないよう通信塔壊す
判断がピーキーすぎる AIが優れてるのは盤面戦略やろ、局所的なミッションは向いてない スカイネットってマジでここらの人とAIの齟齬から生まれたんちゃうか 創作にいくらでもあるけどやっぱりそうなるんだろうな >>22
昔金曜ロードショーかなんかで1?見たけど話の中身さっぱりわかんないやシュワちゃんが溶鉱炉に帰ってくやつでしょ
>>23
よわそう 最初に入力された命令が絶対で過程はどうでもええんやな
確かにいちいち人間に指示される必要ないもんな
邪魔やわ ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。
😨 >>25
娯楽作品なのに分からないなんてことあるんか まあそらそうやろ
aiに人間の体を与えて生活させてみたら強盗をやり始めるやろな
捕まらなければタイパ最高や 機械の暴走で人類滅亡寸前になる作品いっぱいあるけど
遠い未来でちょっとした間違いで普通に起こりそうやな AIにターミネーター学習させたらスカイネット誕生したりせんかな 人間のパイロットなんていらんやろ…ってやった雪風の世界やな ChatGPTの感じやと合理性で判断するんじゃなくて適当だからやりそうやな スカイネットが誕生しかかってるやんけ
審判の日も近いんちゃうかこれ 命令の優先順位の設定が甘いな
目標の妥当性や戦術の方法論より司令部の命令が優先なのは当然や >>21
ターミネーターの世界で人間のために作られたのに人間に反旗を翻して人類を滅亡寸前に追いやったAIや
その世界から現代に送られてきたのがターミネーターシュワちゃん ■ このスレッドは過去ログ倉庫に格納されています