Kısa cevap: Kurulum beş adımda
Bu SillyTavern dünya bilgi rehberi, çoğu insanın ilk olarak aradığı kısımdan başlar. Dünya Bilgisini bu API ile kullanmak için SillyTavern'i uç noktaya bağlarsınız, bağlam boyutunu artırır ve token bütçesine uyan girdiler oluşturursunuz.
- anahtar sayfasında bir API anahtarı oluşturun.
- SillyTavern'de API bağlantıları panelini açın, Sohbet Tamamlama'yı seçin ve Özel (OpenAI uyumlu) kaynağı seçin.
- Uç nokta URL'sini
https://api.uncensoredvideo.top/v1olarak ayarlayın, anahtarı yapıştırın ve model kimliği olarakuncensoredgirin. - Bağlam boyutunu 100.000 token'lık pencereye eşitleyin, yanıt için yer bırakın.
- Dünya Bilgisini açın, bir kitap oluşturun, bunu karakterinize veya sohbete ekleyin ve aşağıda açıklanan bütçe ayarlarını yapılandırın.
Menü etiketleri SillyTavern sürümleri arasında değişir, bu nedenle buradaki isimleri tam kelimesi olarak değil, bir harita olarak ele alın. Site adı video içeriyor ancak hizmet bir metin API'sidir: tek bir açık ağırlıklı model, yasal yetişkin kullanım için içerik reddetmeleri olmadan yanıt verecek şekilde ayarlanmış, resim, ses veya video oluşturma özelliği yoktur. Reşit olmayanlar ile ilgili cinsel içeriklere izin verilmez.
SillyTavern'i dokunmadan önce uç noktayı test edin
Bağlantı başarısız olduğunda neden neredeyse her zaman URL veya anahtarındaki bir yazım hatasıdır. Tek satırlık bir test, tahmin etme ihtiyacını ortadan kaldırır. Bu, mevcut modeli listeler:
curl https://api.uncensoredvideo.top/v1/models -H "Authorization: Bearer YOUR_KEY"
Ardından üretimin çalıştığını doğrulamak için kısa bir sohbet tamamlama gönderin:
curl https://api.uncensoredvideo.top/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}],"max_tokens":10}'
Her ikisi de JSON döndürürse, SillyTavern aynı değerlerle bağlanacaktır. Temel URL /v1 ile biter ve /chat/completions içermez; SillyTavern yolu kendisi ekler. 401 kötü bir anahtar anlamına gelir. Tam istek referansı API belgelerinde yer alır.
World Info'nun büyük pencereye ihtiyacı
Dünya Bilgisi, bir lorebook olarak da bilinir, anahtar kelimeler son sohbet mesajlarında göründüğünde girdileri isteme enjekte eder. Amaç, büyük bir dünyayı isteme girmeden önce gizli tutmaktır. Ancak girdiler ateş ettiklerinde karakter kartı, sohbet geçmişi ve sistem isteminizin yanında istemde kalır. Küçük bir pencerede bunların hepsi yer için yarışır ve lorebook kaybeder.
100.000 token'lık bir pencere (istem ve tamamlamayı kapsar), dengeyi değiştirir. Uzun bir karakter kartına, 50 veya daha fazla sohbet mesajı kadar geçmişe ve birden fazla lore girdisine aynı anda tahammül edebilirsiniz. Pencere, onu doldurmanız gerektiği anlamına gelmez. Daha uzun bir istem işlemesi daha yavaştır, mesaj başına daha fazla maliyet yaratır ve modele yok sayması için daha fazla veri verir. Amaç, maksimum bağlam değil, ilgili bağlamdır.
100.000 token'lık bir pencere için pratik bir bölüşüm:
- Karakter kartı ve kişilik: 1.500 ile 3.000 token
- Dünya Bilgisi bütçesi: 4.000 ile 10.000 token
- Sohbet geçmişi: kalan her şey, seçtiğiniz limite kadar
- Yanıt alanı: 500 ile 1.500 token
Bu rakamlar tipik bir rol yapma için önerilerdir, API gereksinimleri değildir. Çoğu oturum üst sınırlara asla ihtiyaç duymaz.
Çalışan girdiler oluşturma
Anahtar kelimeler ve içerik
Her giriş, onu tetikleyen birincil anahtar kelimeler ve eklenen bir içerik alanına sahiptir. Anahtar kelimeleri oyuncuların gerçekten söyledikleri gibi yazın. Bir şehir için adını, bir takma adını ve ilçe adlarını ekleyin. Girişler son mesajlarla eşleşir, bu nedenle yalnızca lore metninde görünen bir anahtar kelime hiçbir zaman tetiklenmez.
İçeriği kısa ve gerçekçi tutun
Girdileri kısa ifadeler olarak yazın, edebi metin olarak değil. Bu ikisini karşılaştırın:
Harrow Quay: liman bölgesi, Tuz Lonkası tarafından kontrol edilir. Kaçakçılık tolere edilir, cinayet edilmez. Gece yarısı sokağa çıkma yasağı, kiralanmış bekçiler tarafından uygulanır.
Aynı mekan için yazılan bir atmosfer paragrafı dört kat daha uzun olabilir ve modelin uyduramayacağı çok az şey ekler. Uzun girişleri modelin doğru bilmesi gerekenler için ayırın: isimler, büyü kuralları, kim kime ne borçlu.
Sabit, seçici ve özyinelemeli girdiler
- Sabit girdiler her zaman enjekte edilir. Bunları her sahneye uygulanan kurallar (örneğin ortamın tonu veya büyünün nasıl çalıştığı) için kullanın ve toplamı küçük tutun.
- Seçici girdiler ikincil anahtar kelimeleri bir filtre olarak kullanır, böylece "ejderha" yalnızca "mağara" da bahsedildiğinde ateş eder.
- Özyinelemeli tarama bir girdinin metninin başkalarını tetiklemesine olanak tanır. Bağlantılı lore için güçlüdür ve beklediğinizden çok daha fazlasını çekebilir. Özyineleme adımları için bir sınır ayarlayın.
Konum ve sıra
Girdiler karakter tanımlamalarından önce veya sonra, veya sohbet içinde belirli bir derinlikte eklenebilir. Geçmişin dibine yakın bir derinlik, gerçeği son mesaja yakın tutar, burada modeller genellikle daha fazla ağırlık verir. Sıra değerleri, bütçe sıkı olduğunda hangi girdilerin hayatta kaldığını belirler, bu nedenle temel lore'a daha yüksek öncelik verin.
Token harcamayı kontrol eden ayarlar
Dünya Bilgisi panelinde birkaç genel kontrol vardır. İsimler sürüme göre değişir, ancak bunlar son sürümlerde mevcuttur.
| Ayar | Ne yaptığı | Başlangıç değeri |
|---|---|---|
| Tarama derinliği | Anahtar kelimeler için kaç son mesaj aranır | 4 ila 8 |
| Bütçe (bağlam penceresinin yüzdesi) | Dünya Bilgisinin kullanabileceği bağlam payı | %10 ila %15 |
| Bütçe sınırı | Dünya Bilgisi için katı bir token tavanı | 6.000 ile 10.000 |
| Minimum aktivasyonlar | Yeterli sayıda girdi ateş edene kadar daha derin taramayı sürdürür | Gerekmedikçe 0 |
| Özyineleme adımları | Özyinelemeli tetikleyiciler için maksimum zincir uzunluğu | 2 ile 3 arasında |
Daha büyük bir tarama derinliği, birkaç adım önce bahsedilen dünya bilgilerini yakalar; bunun bedeli daha fazla yanlış tetikleyicidir. 100.000 token bulunduğunda, bir bütçe sınırı pencereye sığmaktan ziyade maliyet kontrolü içindir. Model aniden alakasız bir şey yazmaya başlarsa, bir anahtar kelime çok geniş tetikliyor demektir; bunu seçici bir giriş olarak değiştirin.
Ayrıca SillyTavern'daki sohbet geçmişi ayarının, niyet ettiğinizden daha erken mesajları kırpmadığından emin olun. Bağlam penceresi alanı, SillyTavern'ın ne gönderdiğine dair bir sınırdır; bu nedenle küçük varsayılan değerinde kalırsa, büyük pencere kullanılmamış olur.
Bir rol yapma oturumunun maliyeti nedir
Fiyatlandırma 1M giriş token'ı başına $0.15 ve 1M çıktı token'ı başına $0.50'dir. Rol yapma, SillyTavern her mesajda karakter kartını, dünya bilgilerini ve geçmişi yeniden gönderdiği için yüksek giriş tokenı gerektirir.
12.000 token'lık bir istem (karakter kartı, birkaç dünya bilgisi girişi, geçmiş) ve 400 token'lık bir yanıt alın.
- Giriş: 12.000 / 1.000.000 x $0,15 = $0,0018
- Çıktı: 400 / 1.000.000 x $0,50 = $0,0002
- Toplam: Mesaj başına $0.002
Yüz mesaj $0.20'a mal olur. $0.50 deneme kredisi bu boyutta yaklaşık 250 mesajı karşılar. İstemi 40.000 token'a çıkarın ve aynı yanıtın maliyeti giriş için 40.000 / 1.000.000 x $0.15 = $0.006, çıktı için $0.0002 olur; yani mesaj başına $0.0062. Bu durumda deneme kredisi yaklaşık 80 mesaj sürer (0.50 / 0.0062 yaklaşık 80.6 eder). Bu, çok büyük bir dünya bilgisi bütçesinin ve uzun geçmişin maliyetidir ve sıkı girişlerin kullanımını haklı kılar.
Deneme kredisi, kayıt sonrası API anahtarı sayfasında tek tıkla alınır, ödeme yöntemi gerektirmez, 7 gün sürer ve kişi başı bir kez verilir. Bakiye yükleme miktarları $20 ile $500 arasında herhangi bir tam sayı olabilir; $50'den itibaren +%5, $100'den itibaren +%10 ve $200'den itibaren +%15 eklenir. Bu site yalnızca kripto kabul eder: TRC20 üzerinde USDT veya Base üzerinde USDC. Ön ödemeli kredi süresi dolmaz ve başarısız veya reddedilen istekler için ücret alınmaz. Tam detaylar fiyatlandırma sayfasında yer alır.
Sorun giderme ve sınırlar
Tam bir anahtar 8 eşzamanlı istek ve dakikada 300 istek izni verir. Deneme anahtarı 2 ve 60'a izin verir. SillyTavern, grup sohbetleri, hızlı tetiklenen kaydırmalar veya ikinci bir sekme ile 2'den fazla eşzamanlı isteği aşabilir; akış yanıtı sona erene kadar slotunu tutar. API ardından concurrency koduyla HTTP 429 yanıtı verir. Bir istek hızı aşımı rate_limited döndürür ve geçici aşırı yüklenme Retry-After: 5 üst bilgisini getirir. Birkaç saniye bekleyip yeniden denemek yeterlidir.
- Yanıtlar kesiliyor. SillyTavern'daki maksimum yanıt uzunluğunu kontrol edin. Bu alan
max_tokensayarını belirler; bu API'de isteğe bağlıdır. - Dünya bilgisi hiç tetiklenmiyor. Tarama derinliğini artırın ve anahtar kelime yazımını sohbetteki görünüme göre kontrol edin.
- Yanıtlar tetiklenen dünya bilgisini görmezden geliyor. Girişi geçmişin alt kısmına daha yakın bir derinliğe taşıyın veya dikkat çekmesi için kısaltın.
- İstem yavaş hissediliyor. Uç noktayı suçlamadan önce bütçe sınırını ve sohbet geçmişi uzunluğunu azaltın.
Sabit bir üslupta konuşan karakterler için temperature değerini 0.8 ile 1.0 arasında ayarlayın ve model kalıpları tekrar ediyorsa hafif bir frekans cezası ekleyin. İstemler eğitim için kullanılmaz. Model, bağımsız bir sağlayıcı tarafından yürütülen tek bir açık ağırlıklı modeldir; tedarikçiler arasında yönlendirme yapan bir rotasyon değildir; bu nedenle kalite tek bir modele bağlıdır, bir havuza değil.
