簡短回答:五個步驟的設定
這份 SillyTavern 世界資訊指南從大多數人最想要的部分開始。要使用 World Info 搭配此 API,請將 SillyTavern 連線至端點,提高上下文大小,然後建立符合 token 預算的條目。
- 在 金鑰頁面 建立 API 金鑰。
- 在 SillyTavern 中開啟 API 連線面板,選擇聊天補全,並選擇自訂(OpenAI 相容)來源。
- 將端點 URL 設為
https://api.uncensoredvideo.top/v1,貼上金鑰,並將uncensored輸入為模型 ID。 - 將上下文大小設定為符合 100,000 token 視窗,並為回覆預留空間。
- 開啟 World Info,建立書籍,將其附加至您的角色或聊天,並調整下方涵蓋的預算設定。
選單標籤在不同版本的 SillyTavern 之間會有所差異,因此請將此處的名稱視為對照表,而非精確的文字。網站名稱雖提及影片,但該服務為文字 API:單一開放權重模型,針對合法成人用途進行微調,可在無內容審查的情況下回答,且不支援圖片、音訊或影片生成。涉及未成年人的性內容則不允許。
在操作 SillyTavern 之前,先測試端點
當連線失敗時,原因幾乎總是 URL 或金鑰的拼寫錯誤。一行測試可避免猜測。以下列出可用模型:
curl https://api.uncensoredvideo.top/v1/models -H "Authorization: Bearer YOUR_KEY"
然後發送短聊天補全以確認生成運作正常:
curl https://api.uncensoredvideo.top/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}],"max_tokens":10}'
如果兩者都回傳 JSON,SillyTavern 將使用相同值連線。基礎 URL 以 /v1 結尾,不包含 /chat/completions;SillyTavern 會自行新增路徑。401 代表金鑰無效。完整請求參考資料位於 API 文件。
為什麼 World Info 需要大型視窗
世界資訊(又稱設定書)會在關鍵字於近期對話中出現時,將條目注入提示詞。其目的是將龐大的世界觀保留在提示詞之外,直到與情境相關為止。但當觸發時,條目仍會出現在提示詞中,與角色卡、對話歷史和系統提示詞並列。在較小的上下文視窗中,這些內容會互相競爭空間,導致設定書在注意力競爭中落敗。
100,000 token 視窗(涵蓋提示詞與補全)改變了平衡。您可以負擔長角色卡、長達 50 則以上的聊天歷史以及同時數個設定條目。視窗並不意味著您應將其填滿。較長的提示詞處理較慢,每則訊息成本更高,並讓模型有更多內容可忽略。目標是相關上下文,而非最大上下文。
100,000 token 視窗的實用分配:
- 角色卡與人格:1,500 到 3,000 token
- 世界資訊預算:4,000 至 10,000 token
- 聊天歷史:剩餘空間,直至您選擇的限制
- 回覆空間:500 到 1,500 token
這些數字是典型角色扮演的建議,而非 API 需求。大多數會話從不需要達到上限範圍。
建立有效的條目
關鍵字與內容
每個條目都有觸發它的主要關鍵字和注入的內容欄位。以玩家實際說話的方式撰寫關鍵字。對於城市,請新增名稱、暱稱和區域名稱。條目匹配近期訊息,因此僅出現在設定文本本身的關鍵字永遠不會觸發。
保持內容簡短且事實性
將條目寫成精簡陳述,而非散文。比較以下兩者:
哈羅碼頭:港口區,由鹽業公會控制。容忍走私,禁止謀殺。午夜宵禁,由僱傭警衛執行。
描述相同場景的氛圍段落可能長達四倍,且對模型無法自行創造的內容幫助有限。將長條目保留給模型必須準確掌握的資訊:名稱、魔法規則、誰欠誰。
常態、選擇性和遞迴條目
- 常駐條目 會始終被注入。用於適用於每個場景的規則,例如場景基調或魔法運作方式,並保持總數量較少。
- 選擇性條目 使用次要關鍵字作為過濾器,因此「龍」僅在同時提到「洞穴」時才會觸發。
- 遞迴掃描 讓一個條目的文本觸發其他條目。對於關聯 lore 非常強大,且可能引入超出預期的內容。請設定遞迴步驟限制。
位置與順序
條目可插入在角色定義之前或之後,或設定在聊天中的特定深度。接近歷史底部的深度將事實置於最新訊息附近,模型傾向於賦予較高權重。順序值決定在預算緊縮時哪些條目存活,因此為重要 lore 賦予較高優先級。
控制 token 支出的設定
World Info 面板包含少數幾個全域控制項。名稱因版本而異,但在近期的版本中均存在這些控制項。
| 設定 | 功能 | 起始值 |
|---|---|---|
| 掃描深度 | 搜尋關鍵字的近期訊息數量 | 4 到 8 |
| 預算(上下文百分比) | World Info 可使用的上下文比例 | 10% 到 15% |
| 預算上限 | World Info 的硬式 token 上限 | 6,000 到 10,000 |
| 最小觸發次數 | 持續掃描直到足夠條目觸發 | 除非你需要,否則為 0 |
| 遞迴步驟 | 遞迴觸發的最大鏈長度 | 2 到 3 |
較大的掃描深度可以捕捉到幾輪之前提到的背景設定,代價是會產生更多誤觸。在擁有 100,000 token 的情況下,預算上限更多是為了控制成本,而非為了塞滿上下文視窗。如果你發現模型突然開始寫一些無關的內容,表示某個關鍵字觸發範圍太廣;請將其改為選擇性條目。
同時請檢查 SillyTavern 中的聊天歷史設定,確認沒有在你預期的範圍之前截斷訊息。上下文大小欄位是 SillyTavern 發送內容的限制,因此如果它保持在小預設值,大視窗就無法使用。
角色扮演會話的成本
定價為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。角色扮演輸入量較大,因為 SillyTavern 會在每則訊息中重新傳送角色卡、背景設定和歷史紀錄。
假設提示詞為 12,000 token(包含角色卡、幾筆背景設定、歷史紀錄),回覆為 400 token。
- 輸入:12,000 / 1,000,000 x $0.15 = $0.0018
- 輸出:400 / 1,000,000 x $0.50 = $0.0002
- 總計:每則訊息 $0.002
一百則訊息成本為 $0.20。$0.50 的免費試用額度在此大小下可支援約 250 則訊息。將提示詞推高至 40,000 token,同樣的回覆成本為 40,000 / 1,000,000 x $0.15 = $0.006 的輸入費用加上 $0.0002 的輸出費用,即每則訊息 $0.0062,此時免費試用額度僅能維持約 80 則訊息(0.50 / 0.0062 約為 80.6)。這就是非常龐大的背景設定預算和長歷史紀錄的成本,也是為什麼需要精確條目的原因。
免費試用額度可在註冊後於 API 金鑰頁面一鍵領取,無需綁定付款方式,有效期為 7 天,每人限領一次。儲值金額從 $20 到 $500 不等,可任選整數金額,$50 起贈加 5%,$100 起贈加 10%,$200 起贈加 15%。本站僅接受加密貨幣:TRC20 上的 USDT 或 Base 上的 USDC。預付額度永不過期,失敗或遭拒的請求不會計費。完整詳情請見定價頁面。
故障排除與限制
完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。SillyTavern 在群組聊天、快速連續觸發或開啟第二個分頁時,可能會超過兩個並行請求,且串流輸出的回覆會佔用槽位直到結束。此時 API 會回傳 HTTP 429 並附上錯誤類型 concurrency。請求速率超限會回傳 rate_limited,暫時過載則會附上 Retry-After: 5 標頭。等待幾秒後重試即可。
- 回覆被截斷。 檢查 SillyTavern 中的最大回覆長度。它會設定
max_tokens,此參數在此 API 為選填。 - 背景設定未觸發。提高掃描深度,並檢查關鍵字拼寫是否與對話中的顯示方式一致。
- 回覆忽略了已觸發的背景設定。將條目移至更接近歷史紀錄底部的深度,或縮短條目內容以使其更顯眼。
- 提示詞處理速度慢。 在歸咎於端點之前,先減少預算上限和聊天歷史長度。
對於以固定風格說話的角色,將 temperature 設定在 0.8 到 1.0 之間,如果模型重複語句,可加入輕度的頻率懲罰。提示詞不會用於訓練。該模型是由獨立供應商運行的單一開放權重模型,並非跨供應商的路由器,因此品質取決於該單一模型,而非模型池。
