openart
Forum Üyesi
Merhaba aranızda yeniyim, yapay zeka konu başlığının beni cezbetmesiyle forumunuza üye oldum ancak sadece RVC için bir konu bulabildim. Hazır üye olmuşken GPTQ VE LLAMA modelleri ile kendi lokal chatgpt ara yüzünüzü kurmanız için katkıda bulunmayı amaçlayan bu konuyu açmayı uygun gördüm.
Text generation adından da anlaşıldığı üzere metin üretimi yapan modellere verilen bir tagdır. Webui ise dil modellerinizi kişisel bilgisayarınızda online olmadan çevrimdışı bir şekilde kullanabilmenize olanak tanıyan lokal bir arayüzdür.
Minimum donanım gereksinimi olarak " 8 gb" bir gpu gerekir. nvidia olması daha iyidir.
Gelelim kuruluma.
öncelikle sanal bir ortam hazırlamak için gereksinimleri indirmeliyiz.
1 - python 3.10.6 sürümünü kurun
2 - depoyu klonlamak ve update işlemleri için git kurun
3 - Bu bağlantıdan indirdiğiniz zip dosyasını çıkarın ve içinde ki start_windows.bat dosyasına tıklayın, bu toplu iş dosyası kalan gereksinimleri kendi indirecektir.
5 - kurulum esnasında GPU bilginiz sorulacaktır, gpunuzu seçin. ( nvidia gpu istememizin başlıca nedeni cuda çekirdeklerinin çok işe yaraması ve süreyi bir hayli kısaltmasıdır)
4 - sonrasında
..........................
Bu aşamada herhangi bir dil modeli tavsiye etmiyorum, kurulumu tamamladıktan ve arayüzü açtıktan sonra gpu bilginizi verirseniz, çalıştırabileceğiniz uygun bir dil modeli linki veririm, bu arada dil modelleri censored ve uncensored olarak var, bu tamamen kendi tercihinizdir.
Text generation adından da anlaşıldığı üzere metin üretimi yapan modellere verilen bir tagdır. Webui ise dil modellerinizi kişisel bilgisayarınızda online olmadan çevrimdışı bir şekilde kullanabilmenize olanak tanıyan lokal bir arayüzdür.
Minimum donanım gereksinimi olarak " 8 gb" bir gpu gerekir. nvidia olması daha iyidir.
Gelelim kuruluma.
öncelikle sanal bir ortam hazırlamak için gereksinimleri indirmeliyiz.
1 - python 3.10.6 sürümünü kurun
Ziyaretçiler için gizlenmiş link, görmek için lütfen üye olunuz.
Giriş yap veya üye ol.
(bilgisayarınız 32 bitse 32 bit, 64 ise 64 bit windows seçeneğini indirin )2 - depoyu klonlamak ve update işlemleri için git kurun
Ziyaretçiler için gizlenmiş link, görmek için lütfen üye olunuz.
Giriş yap veya üye ol.
3 - Bu bağlantıdan indirdiğiniz zip dosyasını çıkarın ve içinde ki start_windows.bat dosyasına tıklayın, bu toplu iş dosyası kalan gereksinimleri kendi indirecektir.
Ziyaretçiler için gizlenmiş link, görmek için lütfen üye olunuz.
Giriş yap veya üye ol.
5 - kurulum esnasında GPU bilginiz sorulacaktır, gpunuzu seçin. ( nvidia gpu istememizin başlıca nedeni cuda çekirdeklerinin çok işe yaraması ve süreyi bir hayli kısaltmasıdır)
4 - sonrasında
Ziyaretçiler için gizlenmiş link, görmek için lütfen üye olunuz.
Giriş yap veya üye ol.
: şeklinde sizin için lokal bir link belirecektir, ctrl + enter tıklayarak arayüzü açtıktan sonra bir dil modeli üzerinde çalışmaya başlayabilirsiniz...........................
Bu aşamada herhangi bir dil modeli tavsiye etmiyorum, kurulumu tamamladıktan ve arayüzü açtıktan sonra gpu bilginizi verirseniz, çalıştırabileceğiniz uygun bir dil modeli linki veririm, bu arada dil modelleri censored ve uncensored olarak var, bu tamamen kendi tercihinizdir.
Son düzenleme: