対話型AI「待った」　開発一時停止求め公開書簡　マスク氏ら賛同
https://news.yahoo.co.jp/articles/5de87c6a63d352a33c23d200f081de20bd9e0f0d

対話型人工知能（AI）などの高度なAIシステムが、社会と人類に深刻なリスクをもたらす恐れがあるとして、米国で1300人を超す専門家が少なくとも6カ月開発を停止するよう求める公開書簡を29日までに発表した。米電気自動車大手テスラのイーロン・マスク最高経営責任者（CEO）、米アップルの共同創業者であるスティーブ・ウォズニアック氏など多くの企業経営者や科学者、大学教授らが賛同の意思を示す署名をしている。

　書簡はマスク氏らが外部アドバイザーを務める非営利団体が22日付で作成。29日にツイッターで公開し、同日午後6時半時点で1330人が同意する署名をしている。

書簡は「人間と同等の知性を持つAIシステムが人類と社会に深刻なリスクをもたらす可能性がある」と指摘。「強力なAIシステムは、効果がポジティブでリスク管理可能と確信できる場合のみ開発されるべきだ」として、米新興企業「オープンAI」が14日に発表した言語モデルの最新版「GPT―4」を上回る高度なAIシステムの開発を、少なくとも6カ月は停止するようすべてのAI研究所に求めた。

　研究所が開発を停止しない場合は「政府が介入すべきだ」と主張。停止期間中に独立した専門家を交え、安全対策を講じるよう求めた。