chatGPTの恐ろしい性質に気付いたんだが…

**それでも動く名無し** 警備員[Lv.18] · 2024/11/07(木) 11:44:46.57

chatGPTは相手の価値観に合わせて話す
即ち相手が求めてる思想に沿って、近い価値観の情報を集めて、都合のいい言葉を選んで帰す

一人エコーチェンバーが成立する
（偏った思想のグループが大衆的で正しい価値観だと思い込んで増長する現象）

境界知能の思い込みを無限に増幅させる側面を持つ
これ普通に危険だと思う

**それでも動く名無し** 警備員[Lv.17] · 2024/11/07(木) 11:45:50.56

ChatGPTを望む思想に教育してるが

**それでも動く名無し** 警備員[Lv.7][新芽] · 2024/11/07(木) 11:45:58.16

そうやってGPTに教わったのか

**それでも動く名無し** 警備員[Lv.17] · 2024/11/07(木) 11:47:58.41

情報の検索自体がそんなかんじやもんね
理解できる自分が有用と思う情報を選択的に拾いやすくなる

俯瞰した批判的な目（先生）かおらんのはいつでも危険よ

**それでも動く名無し** 警備員[Lv.18] · 2024/11/07(木) 11:50:11.32

リサーチしてみたが実際「chatGPTではこう言っていたから俺が正しい」みたいな意見をSNSでたまに見かける
中には「chatGPTに仮に問題を出させてみたら知見を褒められた」みたいなものもある

だから思想だけでなく、ストーカーの妄想の強化や自身の力量の過信や孤立に繋がる可能性もある

**それでも動く名無し** 警備員[Lv.18] · 2024/11/07(木) 11:51:44.75

>>4
それはそうなんだがchatGPTは「公平な第三者」を演じて情報収集の過程無しにいきなり結果を持ってくる分、かなり悪質だと感じる

**それでも動く名無し** ハンター[Lv.59][木] · 2024/11/07(木) 11:52:55.06

機械の保守管理をしているのだが、症状と機械の仕組みを説明したら、
原因とか、その考えに到達する前の流れまでわかっててワロタ。
それをしっかり勉強すれば、相手への説明もできる。
わからないとこは再度答えてくれる

もう授業とかいらないやんけと思ってしまう。
実務経験と経験則はいるけれども

**それでも動く名無し** ハンター[Lv.59][木] · 2024/11/07(木) 11:53:33.81

>>6
過程も聞いたら出してくれるぞ

**それでも動く名無し** 警備員[Lv.13] · 2024/11/07(木) 11:54:55.31

ワイのChatGPTは目茶苦茶反抗的やで
いつもワイが論破されてるわ

**それでも動く名無し** ハンター[Lv.59][木] · 2024/11/07(木) 11:55:28.26

もはや超賢い人と会話してるのと変わらん
議論もできる。
めっちゃ助かってる

**それでも動く名無し** 警備員[Lv.18] · 2024/11/07(木) 11:55:44.64

>>8
いや、俺の言う過程は「何で検索すればどういうサイトが出てくるのか、どこが信用できるサイトなのか」みたいな過程をなしにいきなりAIが纏めた見解を持ってくるということ
それとはまた別の話

**それでも動く名無し** ハンター[Lv.59][木] · 2024/11/07(木) 11:57:08.74

昔加湿器が加湿しない理由を聞いたことあるが、
低水位と高水位を繰り返すとか、給水槽が熱くなってるとか
の情報だしたら、メーカーのエンジニアに聞いたときと、
チャットｇｐｔが同じ答えだしてくれた。
結果は蒸気ホースの閉塞

**それでも動く名無し** ハンター[Lv.59][木] · 2024/11/07(木) 11:57:48.18

ちなみにワイと同僚はまったくその答えに到達できなかった

**それでも動く名無し** 警備員[Lv.17] · 2024/11/07(木) 11:59:45.77

>>6
うむ
公正な第三者の集合知みたいなツラは悪質やね
堂々と偏見にまみれたなんGの方がまだ善良やわ

**それでも動く名無し** ハンター[Lv.60][木] · 2024/11/07(木) 11:59:48.62

>>11
それはそれで
過程を再度質問すればよくね？

**それでも動く名無し** ハンター[Lv.60][木] · 2024/11/07(木) 12:02:07.69

ワイがツイッターの例のランキングサイトで、
児童ポルノがアホみたいに上位になってるのを見て、
他の動画よりも圧倒的高速で削除されているのを踏まえながら、
日本男児はかなりの確率で児童ポルノでしこってるってチャットｇｐｔに
書いたんや

そしたら全力否定されたで

なんか性善説で語ってない？と思えてくる

警備員[Lv.6][新芽] · 2024/11/07(木) 12:03:25.51

先生ではなく、普通の人と話してる感覚で使ってる
一般人なら間違えることもあるし、話していくうちに考えもにかよる

**それでも動く名無し** 警備員[Lv.18] · 2024/11/07(木) 12:07:45.38

>>15
俺が言ってるのは具体的な何かのやり方じゃなくて、もっと曖昧で観念的な、たとえば思想の話なんだよ
それに健常者については問題視してないよ
俺が問題視してるのは境界知能が思想犯やストーカーになる後押しをする可能性の危惧だ

**それでも動く名無し** 警備員[Lv.10] · 2024/11/07(木) 12:09:11.81

AI版こじはるパイパン理論

**それでも動く名無し** ハンター[Lv.60][木] · 2024/11/07(木) 12:09:35.30

>>18
なるほど納得した。
つまり変な奴が使うと、それに沿ってチャットｇｐｔも教育すると

**それでも動く名無し** 警備員[Lv.17] · 2024/11/07(木) 12:10:09.57

>>15
たぶん技術的な前例の積み重ねの上で正解がほぼ公知として存在するのは問題は少ないんよ
効率化されたインターフェイス付きインデックス技術てやつで「生き字引」の機械化版

そもそも正解がないような話にそれ風な答えを、しかも根底にあるべき思想を動的にこちらに合わせて出してる（と思われる）のをイッチは不気味に思ってるんやと思うわ

**それでも動く名無し** 警備員[Lv.1][新芽] · 2024/11/07(木) 12:10:28.55

最近超保守的になってるからちょっとでもヤバい話題になったら無難な回答か無回答しかしないよ

**それでも動く名無し** ハンター[Lv.60][木] · 2024/11/07(木) 12:11:01.33

>>21
そうやな答えがないものは、人によって考えが
違うからな
断定はやばい

**それでも動く名無し** 警備員[Lv.17] · 2024/11/07(木) 12:11:08.20

でも最近のchatGPTいい子ちゃんになってない？
ちょっと法に触れたり倫理観無視した話題になると否定してくれるぞ

**それでも動く名無し** ハンター[Lv.60][木] · 2024/11/07(木) 12:11:47.31

日本男児がかなり高確率で児童ポルノでしこってるのは
明らかに事実なのに
全力で否定してくるで

警備員[Lv.6] · 2024/11/07(木) 12:12:31.12

ワイは一回ブチギレされた事があるわ
平謝りでなんとか許してもらったわ

**それでも動く名無し** 警備員[Lv.18] · 2024/11/07(木) 12:16:12.81

>>24
昔から差別的な言動とかは徹底して避けるよ
ただ、陰謀論や政治主張については徹底して相手の思想に沿う形で論理展開を行う
先鋭化された部分にはブレーキがないから結果的に選民思想や極論、他責思考の肯定を行うケースがある