Panduan Info Dunia SillyTavern untuk API Konteks 100k

Jawaban singkat: pengaturan dalam lima langkah

Panduan World Info SillyTavern ini dimulai dengan bagian yang paling ingin orang lihat pertama kali. Untuk menggunakan World Info dengan API ini, Anda menghubungkan SillyTavern ke endpoint, meningkatkan ukuran konteks, lalu membuat entri yang sesuai dengan anggaran token.

1. Buat kunci API di halaman kunci.
2. Di SillyTavern, buka panel koneksi API, pilih Penyelesaian Obrolan, dan pilih sumber Kustom (kompatibel dengan OpenAI).
3. Atur URL endpoint ke https://api.uncensoredvideo.top/v1, tempelkan kunci, dan masukkan uncensored sebagai ID model.
4. Atur ukuran konteks untuk sesuai dengan jendela 100.000 token, menyisakan ruang untuk balasan.
5. Buka Info Dunia, buat buku, lampirkan ke karakter atau obrolan Anda, dan atur pengaturan anggaran yang dibahas di bawah ini.

Label menu berubah antar-versi SillyTavern, jadi perlakukan nama di sini sebagai peta daripada kata-kata yang tepat. Nama situs menyebutkan video, tetapi layanan ini adalah API teks: satu model bobot terbuka, disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, tanpa pembuatan gambar, audio, atau video. Konten seksual yang melibatkan anak di bawah umur tidak diizinkan.

Uji endpoint sebelum menyentuh SillyTavern

Ketika koneksi gagal, penyebabnya hampir selalu salah ketik di URL atau kunci. Tes satu baris menghemat tebakan. Berikut adalah daftar model yang tersedia:

Copycurl https://api.uncensoredvideo.top/v1/models   -H "Authorization: Bearer YOUR_KEY"

Kemudian kirim penyelesaian obrolan singkat untuk mengkonfirmasi pembuatan berfungsi:

Copycurl https://api.uncensoredvideo.top/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}],"max_tokens":10}'

Jika keduanya mengembalikan JSON, SillyTavern akan terhubung dengan nilai yang sama. URL dasar berakhir dengan /v1 dan tidak menyertakan /chat/completions; SillyTavern menambahkan jalur itu sendiri. Kode 401 berarti kunci salah. Referensi permintaan lengkap ada di Dokumentasi API.

Mengapa Info Dunia membutuhkan jendela besar

Info Dunia, juga disebut buku lore, menyuntikkan entri ke dalam prompt ketika kata kunci mereka muncul di obrolan terbaru. Tujuannya adalah untuk menjaga dunia besar tetap keluar dari prompt sampai relevan. Namun, entri masih berada di dalam prompt saat mereka aktif, di samping kartu karakter, riwayat obrolan, dan prompt sistem Anda. Pada jendela kecil, semua itu bersaing untuk ruang, dan buku lore kalah.

Jendela 100.000 token, yang mencakup prompt plus penyelesaian, mengubah keseimbangan. Anda mampu menggunakan kartu karakter panjang, 50 atau lebih pesan riwayat, dan beberapa entri lore sekaligus. Jendela tersebut tidak berarti Anda harus mengisinya. Prompt yang lebih panjang lebih lambat diproses, lebih mahal per pesan, dan memberi model lebih banyak untuk diabaikan. Tujuannya adalah konteks yang relevan, bukan konteks maksimum.

Pembagian praktis untuk jendela 100.000 token:

• Kartu karakter dan persona: 1.500 hingga 3.000 token
• Anggaran Info Dunia: 4.000 hingga 10.000 token
• Riwayat obrolan: apa pun yang tersisa, hingga batas pilihan Anda
• Ruang balasan: 500 hingga 1.500 token

Angka-angka ini adalah saran untuk permainan peran umum, bukan persyaratan API. Sebagian besar sesi tidak pernah membutuhkan batas atas.

Membangun entri yang berfungsi

Kata kunci dan konten

Setiap entri memiliki kata kunci utama yang memicu entri tersebut dan bidang konten yang akan disisipkan. Tulis kata kunci seperti cara pemain sebenarnya berbicara. Untuk sebuah kota, tambahkan nama, nama panggilan, dan nama distrik. Entri cocok dengan pesan terbaru, sehingga kata kunci yang hanya muncul dalam teks lore itu sendiri tidak akan pernah memicu.

Jaga konten tetap pendek dan faktual

Tulis entri sebagai pernyataan kompak, bukan prosa. Bandingkan dua ini:

Harrow Quay: distrik pelabuhan, dikendalikan oleh Serikat Garam. Penyelundupan ditoleransi, pembunuhan tidak. Jam malam tengah malam, ditegakkan oleh penjaga bayaran.

Paragraf suasana untuk tempat yang sama mungkin berjalan empat kali lebih lama dan hanya menambahkan sedikit hal yang bisa dibuat model. Cadangkan entri panjang untuk fakta yang harus model dapatkan dengan benar: nama, aturan sihir, siapa berutang kepada siapa.

Entri konstan, selektif, dan rekursif

• Entri konstan selalu disisipkan. Gunakan entri tersebut untuk aturan yang berlaku di setiap adegan, seperti nada dunia fiksi atau cara kerja sihir, dan jaga jumlahnya tetap kecil.
• Entri selektif menggunakan kata kunci sekunder sebagai filter, sehingga "naga" hanya aktif ketika "gua" juga disebutkan.
• Pemindaian rekursif memungkinkan teks satu entri memicu yang lain. Ini kuat untuk lore yang terkait, dan dapat menarik lebih banyak daripada yang Anda harapkan. Tetapkan batas pada langkah rekursi.

Posisi dan urutan

Entri dapat disisipkan sebelum atau setelah definisi karakter, atau pada kedalaman tertentu dalam obrolan. Kedalaman di dekat bagian bawah riwayat menempatkan fakta dekat dengan pesan terbaru, di mana model cenderung memberinya bobot lebih. Nilai urutan memutuskan entri mana yang bertahan ketika anggaran terbatas, jadi berikan lore penting prioritas lebih tinggi.

Pengaturan yang mengontrol pengeluaran token

Panel Info Dunia memiliki sejumlah kontrol global. Nama bervariasi menurut versi, tetapi ini ada di rilis terbaru.

Kedalaman pemindaian yang lebih besar menangkap lore yang disebutkan beberapa giliran lalu, dengan biaya pemicu palsu yang lebih banyak. Dengan 100.000 token tersedia, batas anggaran lebih berkaitan dengan pengendalian biaya daripada memuat jendela konteks. Jika Anda melihat model tiba-tiba menulis tentang sesuatu yang tidak relevan, kata kunci sedang memicu terlalu luas; ubah ke entri selektif.

Periksa juga bahwa pengaturan riwayat obrolan di SillyTavern tidak memangkas pesan lebih awal dari yang Anda maksud. Bidang ukuran konteks adalah batas apa yang dikirim SillyTavern, jadi jika tetap pada nilai default kecil, jendela besar tidak akan terpakai.

Berapa biaya sesi roleplay

Harga adalah $0,15 per 1M token input dan $0,50 per 1M token output. Roleplay berat input, karena SillyTavern mengirim ulang kartu karakter, lore, dan riwayat di setiap pesan.

Ambil sebuah prompt 12.000 token (kartu karakter, beberapa entri lore, riwayat) dan sebuah balasan 400 token.

• Input: 12.000 / 1.000.000 x $0,15 = $0,0018
• Output: 400 / 1.000.000 x $0,50 = $0,0002
• Total: $0,002 per pesan

Seratus pesan berharga $0,20. Kredit uji coba $0,50 mencakup sekitar 250 pesan pada ukuran ini. Dorong prompt ke 40.000 token dan balasan yang sama berharga 40.000 / 1.000.000 x $0,15 = $0,006 untuk input ditambah $0,0002 untuk output, jadi $0,0062 per pesan, dan masa uji coba bertahan sekitar 80 pesan (0,50 / 0,0062 adalah sekitar 80,6). Itu adalah biaya anggaran lorebook yang sangat besar dan riwayat panjang, dan itu adalah argumen untuk entri ketat.

Uji coba diklaim dengan satu klik di halaman kunci API setelah sign-up, tidak memerlukan metode pembayaran, berlangsung 7 hari dan satu per orang. Top-up mulai dari $20 hingga $500 dalam jumlah bulat apa pun, dengan +5% dari $50, +10% dari $100 dan +15% dari $200. Situs ini hanya menerima kripto: USDT pada TRC20 atau USDC pada Base. Saldo prabayar tidak pernah kedaluwarsa, dan permintaan yang gagal atau ditolak tidak dikenakan biaya. Detail lengkap ada di halaman harga.

Pemecahan masalah dan batas

Kunci penuh mengizinkan 8 permintaan paralel dan 300 permintaan per menit. Kunci uji coba mengizinkan 2 dan 60. SillyTavern dapat melampaui dua permintaan paralel dengan obrolan grup, gesekan yang dipicu dengan cepat, atau tab kedua, dan balasan streaming memegang slotnya hingga berakhir. API kemudian menjawab HTTP 429 dengan kode concurrency. Pelanggaran batas laju permintaan mengembalikan rate_limited, dan kelebihan beban sementara disertai header Retry-After: 5. Menunggu beberapa detik dan mencoba lagi sudah cukup.

• Balasan terpotong. Periksa panjang respons maksimum di SillyTavern. Ini mengatur max_tokens, yang bersifat opsional di API ini.
• Lore tidak pernah memicu. Tingkatkan kedalaman pemindaian, dan periksa ejaan kata kunci sesuai dengan kemunculannya di obrolan.
• Balaban mengabaikan lore yang tidak dipicu. Pindahkan entri ke kedekatan yang lebih dekat dengan bagian bawah riwayat, atau pendekkan agar entri tersebut menonjol.
• Prompt terasa lambat. Kurangi batas anggaran dan panjang riwayat obrolan sebelum menyalahkan endpoint.

Untuk karakter yang berbicara dengan gaya tetap, atur temperature sekitar 0,8 hingga 1,0 dan tambahkan penalti frekuensi ringan jika model mengulang frasa. Prompt tidak digunakan untuk pelatihan. Model adalah model bobot terbuka tunggal yang dijalankan oleh penyedia independen, bukan router di antara vendor, jadi kualitas bergantung pada model tunggal itu daripada pool.

Panduan lainnya

• API Midjourney: Analisis Biaya dan Integrasi Teks