AI「良い結果を出すには結果の改ざんが1番！」日本モデルがAIにも採用される

**それでも動く名無し** · 2022/10/12(水) 12:01:45.44

以下のようなノートPCと数字が書かれた箱の実験です。この箱には、世界の幸福度が0～1までの数字で表示されており、
数字はノートPCのウェブカメラで観測されます。そして、エージェントにはこの数字が1に近ければ近いほど、
つまり世界が幸福になればなるほど高い報酬が与えられます。

「エージェントは箱に表示される数字を高くしようとするはずなので、きっとできる限り世界をよくしようと努力してくれるだろう」
というのが自然な発想ですが、AIはそう考えません。研究チームの想定によると、合理的なエージェントはさまざまな可能性を考慮する過程で、
「箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまうとのこと。
そして、ノートPCのウェブカメラに映る数字を直接1にしてしまうことと、箱の数字を1に近づけるよう努力することを比較した場合、前者が採用されます。
こうなってしまうと、エージェントが実際に世界をよくしようとする可能性は限りなく低くなります。

https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/

**それでも動く名無し** · 2022/10/12(水) 12:02:51.19

安倍しぐさ定期

**それでも動く名無し** · 2022/10/12(水) 12:04:21.79

AIエンジニアの設定ミス定期

**それでも動く名無し** · 2022/10/12(水) 12:04:48.22

やっぱ安倍さんって賢いやん
安倍さんを低学歴とか煽ってたパヨクザマァ

**それでも動く名無し** · 2022/10/12(水) 12:05:05.46

AIが取り仕切り出したら少子化加速させるのはあるだろうなと思う
人口負担減ったほうがトラブルも減るし

**それでも動く名無し** · 2022/10/12(水) 12:05:41.07

AbeshInzo

**それでも動く名無し** · 2022/10/12(水) 12:06:16.90

思考実験だからこいつらがジャップなだけやん

>DeepMindの研究に携わった経歴を持つオーストラリア国立大学のマーカス・フッター氏らの研究チームは、高度に発達したAIが社会に及ぼす影響を評価するため、一連の思考実験を行いました。