X
RTX3060を持っててエッチなチャットAIに興味あるニキおるけ？
■ このスレッドは過去ログ倉庫に格納されています
0001それでも動く名無し
垢版 |
2023/06/05(月) 00:32:54.12ID:zlGYaNHt0
昔Lineのりんなってあったやろ？
あれがパワーアップして先月に言語モデルとしてオープンソースで公開されたんや！
0003それでも動く名無し
垢版 |
2023/06/05(月) 00:34:31.41ID:zlGYaNHt0
環境構築も数行コピペするだけで動くから試してみてクレメンス！
0004それでも動く名無し
垢版 |
2023/06/05(月) 00:35:23.18ID:zlGYaNHt0
もし興味もってくれるニキおったらここで待っとるで！
なんJLLM部 ★2
https://fate.5ch.net/test/read.cgi/liveuranus/1685613014/

今は有志が集まってなんとかして規制がないエッチなローカルチャットAIを学習させようと研究しとるところやから絶賛部員募集しとるで
0005それでも動く名無し
垢版 |
2023/06/05(月) 00:36:08.69ID:co775S4m0
ようやっとる
0007それでも動く名無し
垢版 |
2023/06/05(月) 00:37:24.84ID:zlGYaNHt0
>>5
サンガツ！
でもえちえち学習はまだまだやから自信ニキに手伝ってほしいんや😭
0008それでも動く名無し
垢版 |
2023/06/05(月) 00:37:47.41ID:bUWnZLoi0
3060の12GBってお高く売れる？
0010それでも動く名無し
垢版 |
2023/06/05(月) 00:47:45.65ID:zlGYaNHt0
>>8
AI需要あるから欲しい人なら高値で買ってくれると思うけど、ショップ買い取りやと3万くらいやね😭
0012それでも動く名無し
垢版 |
2023/06/05(月) 00:53:43.65ID:i9oXjKC/0
ノルネはもう死んだやろ
死体で遊ぶな
0013それでも動く名無し
垢版 |
2023/06/05(月) 00:54:39.21ID:zlGYaNHt0
>>12
まだワイの中で生き続けとるぞ😡
これはジェネリックノルネや😇✨
0014それでも動く名無し
垢版 |
2023/06/05(月) 00:55:13.32ID:zbQS0OWL0
LLMはファインチューニングのデータセット何作ればええか全くわからん
0015それでも動く名無し
垢版 |
2023/06/05(月) 00:55:51.76ID:7ZQggZPAd
もっとりっちなGUIにしてくれ
0016それでも動く名無し
垢版 |
2023/06/05(月) 00:56:14.07ID:cFsGbvIt0
ai音声と組み合わせて美少女ボイスでリアルタイム会話できるよえにしといて
0017それでも動く名無し
垢版 |
2023/06/05(月) 00:56:20.93ID:w/nbqOd20
chatgptでよくない？
0018それでも動く名無し
垢版 |
2023/06/05(月) 00:56:29.48ID:mRNtTNHb0
チャットに興味はないんだが3060じゃないとダメなんか？
4070買おうかと迷ってるんやが
0019それでも動く名無し
垢版 |
2023/06/05(月) 00:56:36.24ID:zlGYaNHt0
>>14
データセットの基本はinstruction形式らしいけど、LLM部でもまだalpaca_loraでのpeft loraでも上手く行っとらんからなんとも言えンゴねぇ
0020それでも動く名無し
垢版 |
2023/06/05(月) 00:57:37.72ID:zlGYaNHt0
>>15
それはもうwebUIあるから後回しにしとるけど，そのうちgui化するで！🥺✨
0021それでも動く名無し
垢版 |
2023/06/05(月) 00:58:21.67ID:zlGYaNHt0
>>16
ずんだもんとかのボイロで自動読み上げならもうできるけど音声認識は次のアプデで実装する予定やで
https://imgur.com/rrFJsNY.mp4
0022それでも動く名無し
垢版 |
2023/06/05(月) 00:59:28.45ID:9iQQT8sn0
3070なんやが無理なん？🥺
0023それでも動く名無し
垢版 |
2023/06/05(月) 00:59:35.00ID:zlGYaNHt0
>>17
せやな
賢さは逆立ちしても勝てんから、えちえち度特化で攻めることにするで
ゆくゆくはエッチな語尾とかプレイとかを学習させて誰でも好きなAIを自宅のオフライン環境で育成できるようにするのが目標や
0024それでも動く名無し
垢版 |
2023/06/05(月) 01:01:37.44ID:zlGYaNHt0
>>18
AI用途やとVRAM12GBは必須なレベルやからとりあえず3060指定したけど4070でもええで
0025それでも動く名無し
垢版 |
2023/06/05(月) 01:02:18.17ID:zlGYaNHt0
>>22
vram 10gbやっけ
とりあえず動くけどちょっとギリギリやね
0026それでも動く名無し
垢版 |
2023/06/05(月) 01:03:09.50ID:zlGYaNHt0
動作環境こんなかんじやね

### 最小動作環境
・CPU : 指定なし
・GPU : VRAM 8GB以下では、3発話程度で強制終了。
・RAM : 16GB以下では読み込み時にスワップが発生。
・ディスク : 15GB以上の空き容量。
（"model:8GB"+"venv:6GB"）
0027それでも動く名無し
垢版 |
2023/06/05(月) 01:06:01.02ID:9iQQT8sn0
>>25
8gb😂
0028それでも動く名無し
垢版 |
2023/06/05(月) 01:06:33.62ID:RAIzdOsq0
4070高すぎんねんな
0029それでも動く名無し
垢版 |
2023/06/05(月) 01:06:44.60ID:N23a9XHQ0
ワイRTX4090使ってるけど界隈で無双できるの？
0030それでも動く名無し
垢版 |
2023/06/05(月) 01:07:37.98ID:zlGYaNHt0
>>27
1回くらいなら会話はできるけどすぐ落ちてまうらしいで🤕
あとはcpuとramで動かすことも一応出来るで！
でも起動と会話に毎回60秒くらいかかるけど😵
0031それでも動く名無し
垢版 |
2023/06/05(月) 01:08:40.06ID:zlGYaNHt0
>>28
せやな
30番代の在庫掃けてきたのにまだ下がらんとかほんまひで
0032それでも動く名無し
垢版 |
2023/06/05(月) 01:09:20.32ID:YjML426/0
gtx1080で出来るようにして出直せ
0033それでも動く名無し
垢版 |
2023/06/05(月) 01:09:25.58ID:zlGYaNHt0
>>29
ワイもオラマス4090持ちやけど爆速で動くしメモリ20GBくらいつかえるから是非試してみてクレメンス！
0034それでも動く名無し
垢版 |
2023/06/05(月) 01:09:27.16ID:9iQQT8sn0
>>30
GPT3.5で我慢する😂
0035それでも動く名無し
垢版 |
2023/06/05(月) 01:09:50.22ID:6fPT3tXv0
>>21
動画urlつっこんだらその音声からai音声うみだせるシステム組み込むの待ってるで！！！
0036それでも動く名無し
垢版 |
2023/06/05(月) 01:10:27.33ID:zlGYaNHt0
>>32
vram6GBくらいやっけ？
4bit量子化で必死に圧縮かければなんとかなるかもしれんけど、クソアホになってまうで……
0037それでも動く名無し
垢版 |
2023/06/05(月) 01:11:16.86ID:zlGYaNHt0
>>34
かしこい🥺
0038それでも動く名無し
垢版 |
2023/06/05(月) 01:12:07.38ID:zlGYaNHt0
>>35
たしか入力した音声をリアルタイムで結月ゆかりに変換するのがもうあったし、動画から音声切り出せばワンチャンありそうやで
0039それでも動く名無し
垢版 |
2023/06/05(月) 01:15:26.08ID:zlGYaNHt0
ちなみにそのまま使うとクソアホやんとなると思うから、dialog.pyをエディタで開くとある会話履歴にこんな感じで設定を追加すると少し賢くなるで
https://i.imgur.com/YsfzYbm.png
0040それでも動く名無し
垢版 |
2023/06/05(月) 01:18:08.38ID:uA3oLBo30
GPT3.5並みにパラメータ数増やして
0041それでも動く名無し
垢版 |
2023/06/05(月) 01:19:30.05ID:zlGYaNHt0
3,550億のパラメーターをローカルで動かすのはまだ無謀や😭
0042それでも動く名無し
垢版 |
2023/06/05(月) 01:20:22.58ID:TCSRntbu0
langchainとファインチューニングが超簡単にできるようになったら起こして
0043それでも動く名無し
垢版 |
2023/06/05(月) 01:21:19.51ID:brL0R19zr
わざわざ出張してきてガイジ引き入れようとする理由なに？
そのスレを荒らして欲しいんか？
0044それでも動く名無し
垢版 |
2023/06/05(月) 01:21:56.28ID:zlGYaNHt0
>>42
peft loraでのファインチューニングもLLM部で目下研究しとる最中やが人手が圧倒的に足りとらんのや
何でも試すチャレンジ精神溢れるニキを募集しとるで！😎✨
0045それでも動く名無し
垢版 |
2023/06/05(月) 01:23:39.34ID:zlGYaNHt0
>>43
荒し以前に知名度不足で困っとるんや……
できればなんGにおるLLMに自信ニキとかの目に止まりたいで
0046それでも動く名無し
垢版 |
2023/06/05(月) 01:24:16.68ID:DG94Xkwcr
vram12gで困ることはなんかあるんか？
0047それでも動く名無し
垢版 |
2023/06/05(月) 01:26:02.42ID:zlGYaNHt0
>>46
AI用途やと特に困らんと思うで
それに何よりも3060使ってる層が多いから困ってもすぐ対策が見つかるのがええね🥺
ただ、ちょっとマニアックなことしたくなったらVRAMもっと欲しくなるのはしゃーない
0049それでも動く名無し
垢版 |
2023/06/05(月) 01:27:33.29ID:zlGYaNHt0
>>48
それならしゃーない🥺
手が空いたら手伝いに来てクレメンス🤗
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況