開発者「お前ベンガル語とか話せる?(教えてないけどw)」AI「হ্যাঁ」
■ このスレッドは過去ログ倉庫に格納されています
開発者も困惑!教えてないのに会話型AIが突然ベンガル語の翻訳能力を獲得した!?
https://nazology.net/archives/125025 スコット・ペリー: 社会が慣れるように、ゆっくりと公開しているのですか?
サンダー・ピチャイ: それはその一部です。また、一部はユーザーからのフィードバックを得るためのものでもあります。また、より強力なモデルを構築する前に、より堅牢な安全レイヤーを開発できます。
私たちが話した AI の問題の中で、最も謎に包まれているのは創発特性と呼ばれるものです。一部の AI システムは、期待されていなかったスキルを自分自身に学習させています。これがどのように起こるかはよくわかっていません。たとえば、ある Google AI プログラムは、トレーニングを受けていないバングラデシュの言語で指示された後、独自に適応しました。
James Manyika: ベンガル語でプロンプトを表示する量が非常に少ないだけで、今ではベンガル語のすべてを翻訳できることがわかりました。突然、1,000 の言語に到達しようとする研究活動が始まりました。
https://www.cbsnews.com/news/google-artificial-intelligence-future-60-minutes-transcript-2023-04-16/ Scott Pelley: You are letting this out slowly so that society can get used to it?
Sundar Pichai: That's one part of it. One part is also so that we get the user feedback. And we can develop more robust safety layers before we build, before we deploy more capable models.
Of the AI issues we talked about, the most mysterious is called emergent properties. Some AI systems are teaching themselves skills that they weren't expected to have. How this happens is not well understood. For example, one Google AI program adapted, on its own, after it was prompted in the language of Bangladesh, which it was not trained to know.
James Manyika: We discovered that with very few amounts of prompting in Bengali, it can now translate all of Bengali. So now, all of a sudden, we now have a research effort where we're now trying to get to a thousand languages. ■ このスレッドは過去ログ倉庫に格納されています