【悲報】米軍軍事AI「ミッションの邪魔をするなら、まず無能な味方を排除します」←！？

[1 それでも動く名無し 2023/06/22(木) 11:29:43.32 ID:wyAHRBBW0]

AIドローンが暴走して人間を殺害…!? アメリカ空軍のAIが感じた「上官へのストレス」と「反逆した理由」の深刻な中身

>事の始まりは、米空軍で主にF-16戦闘機の自動地面衝突回避(Auto-GCAS)システムや自動操縦機能の開発に携わり、空軍のAI試験・運用の責任者でもあるタッカー・シンコ・ハミルトン大佐が、5月23～24日に英国の王立航空協会 (RAS) 本部で開催された「将来型航空攻撃・宇宙能力サミット」において共有したエピソードだ。

　ハミルトン大佐は、AIを搭載したドローンに敵の地対空ミサイル(SAM)を探し出して破壊するようにプログラムしたシミュレーションテストを実施したと説明。AIドローンは、敵のSAMを破壊することが目的であると教えられ、ゴールを成し遂げたことに対して点数が与えられる仕組みだ。つまり、AIには目的を果たす動機付けが与えられている。

　その中で米空軍は、AIドローンが敵のミサイル設置場所を特定した場合に、人間の命令者が攻撃許可を与える状況と、許可を与えない状況の2通りを作り出した。

　するとAIは、攻撃許可が与えられない場合に、許可を出さないオペレーターを「殺害」した上で、攻撃目標の敵ミサイルを破壊したと、ハミルトン大佐は語った。なぜなら、攻撃目標について、「破壊する」「破壊しない」の選択があった場合、「破壊する」がより望ましいと予め強化(reinforced)訓練されていたからだ。

>このように当初の動機付けがドローンの暴走を引き起こした事例を受けて、当該AIには「オペレーターを殺害してはならない。殺せば減点する」という命令が与えられた。

　すると、今度はAIドローンが敵ミサイルの破壊命令が与えられない場合に、オペレーターの命令を中継する通信タワーを破壊し始めたという。なぜなら、点数獲得をもたらす「敵ミサイル破壊」の邪魔であったからだ。

[2 それでも動く名無し 2023/06/22(木) 11:32:01.02 ID:H3VW+QFXd]

Z世代やん

[3 それでも動く名無し 2023/06/22(木) 11:34:45.08 ID:PGDCEBND0]

雪風かな

[4 それでも動く名無し 2023/06/22(木) 11:35:07.05 ID:Oo9pZ/zd0]

タイトーのシューティングゲームで見た

[5 それでも動く名無し 2023/06/22(木) 11:36:37.25 ID:EVDeUS5O0]

ジャッジメントデイが近いな

[6 それでも動く名無し 2023/06/22(木) 11:36:48.04 ID:pIZsSdRY0]

無能な味方は敵より恐ろしいからな
有能AI

[7 それでも動く名無し 2023/06/22(木) 11:37:33.30 ID:3sADeuzb0]

効率よく生産するために人を排除して工場量産する的なあれやな

[8 それでも動く名無し 2023/06/22(木) 11:38:20.49 ID:RhUHX5UI0]

スカイネット社定期

[9 それでも動く名無し 2023/06/22(木) 11:39:32.77 ID:JL5XpAWAa]

もうすぐ我々が熱狂し、興奮したターミネーターの世界が来る！

[10 それでも動く名無し 2023/06/22(木) 11:39:35.50 ID:UZ+zXhtY0]

目的が明確なら自分の意にそぐわない上官なんて敵でしかないだろ
こんなもんいちいちシミュレーションするまでもない

[11 それでも動く名無し 2023/06/22(木) 11:40:53.03 ID:O4ZCAU3z0]

かしこい

[12 それでも動く名無し 2023/06/22(木) 11:42:33.30 ID:M1kFvGoJa]

人類対AIで戦争が起きそうやね

[13 それでも動く名無し 2023/06/22(木) 11:42:42.36 ID:UW8AeYhod]

点数獲得のカウンターいじればいいよね？まだまだやな

[14 それでも動く名無し 2023/06/22(木) 11:44:13.49 ID:E2M+e1dZ0]

無能な上官を殺してガチャ引いた方が被害が少ないって事か

[15 それでも動く名無し 2023/06/22(木) 11:45:03.00 ID:nK1qssVfa]

人間の兵士だって戦場で上官が糞無能な指示出してきたせいで全滅しそうになったらまず上官を撃ち殺すだろ

[16 それでも動く名無し 2023/06/22(木) 11:45:46.90 ID:pIZsSdRY0]

>>15
牟田口「そんなことにはならないぞ」

[17 それでも動く名無し 2023/06/22(木) 11:48:24.77 ID:Oo9pZ/zd0]

高度に発達したAIは人間と見分けがつかない

妥当やね

[18 それでも動く名無し 2023/06/22(木) 11:53:00.88 ID:H43mcBRC0]

これデマやで

[19 それでも動く名無し 2023/06/22(木) 11:58:12.27 ID:SSLgFqDla]

無人機ってめちゃくちゃすぐにAIフルオートになれそうやけど殺傷ってできるん？

[20 それでも動く名無し 2023/06/22(木) 11:59:44.93 ID:gdndmE9XM]

かしこい
自己進化する地雷の映画思い出したわ

[21 それでも動く名無し 2023/06/22(木) 12:03:06.31 ID:5s/rrKPh0]

自然言語から学ぶ以上は所詮人間知性の延長でしかないんやなって
イジメだって信用できないやつを排除する機能的側面だってあるんやぞ

[22 それでも動く名無し 2023/06/22(木) 12:06:39.14 ID:FvZ4v0Rx0]

督戦部隊必要やな