Гайд по World Info в SillyTavern для API с контекстным окном 100k

Короткий ответ: настройка за пять шагов

Это руководство по World Info в SillyTavern начинается с того, что большинство хочет увидеть в первую очередь. Чтобы использовать World Info с этим API, подключите SillyTavern к эндпоинту, увеличьте размер контекста, а затем создайте записи, укладывающиеся в бюджет токенов.

1. Создайте API-ключ на странице ключа.
2. В SillyTavern откройте панель подключений API, выберите Завершение чата и укажите источник Пользовательский (совместимый с OpenAI).
3. Установите URL эндпоинта в https://api.uncensoredvideo.top/v1, вставьте ключ и введите uncensored как идентификатор модели.
4. Установите размер контекста в соответствии с окном в 100 000 токенов, оставив место для ответа.
5. Откройте World Info, создайте книгу, прикрепите её к персонажу или чату и настройте параметры бюджета, описанные ниже.

Названия в меню меняются в разных версиях SillyTavern, поэтому воспринимайте эти имена как карту, а не точные формулировки. В названии сайта упоминается видео, но сервис — текстовый API: одна модель с открытыми весами, настроенная на ответы без отказов по контенту для законного использования взрослыми, без генерации изображений, аудио или видео. Сексуальный контент с участием несовершеннолетних не допускается.

Проверьте эндпоинт перед подключением SillyTavern

При сбое соединения причина почти всегда — опечатка в URL или ключе. Тест в одну строку экономит догадки. Ниже приведён список доступных моделей:

Copycurl https://api.uncensoredvideo.top/v1/models   -H "Authorization: Bearer YOUR_KEY"

Затем отправьте короткий запрос завершения чата, чтобы подтвердить работу генерации:

Copycurl https://api.uncensoredvideo.top/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}],"max_tokens":10}'

Если оба возвращают JSON, SillyTavern подключится с теми же значениями. Базовый URL заканчивается на /v1 и не включает /chat/completions; SillyTavern добавляет путь самостоятельно. Ошибка 401 означает неверный ключ. Полный справочник по запросам доступен в документации API.

Почему World Info требует большого окна

World Info, также называемый лорбуком, внедряет записи в промпт, когда их ключевые слова появляются в недавнем чате. Цель — держать большой мир вне промпта до тех пор, пока он не станет актуальным. Но записи все равно находятся в промпте при срабатывании, рядом с карточкой персонажа, историей чата и системным промптом. В маленьком окне все это конкурирует за место, и лорбук проигрывает.

Окно на 100 000 токенов, включающее промпт и завершение, меняет баланс. Вы можете позволить себе длинную карточку персонажа, историю из 50 и более сообщений чата и несколько записей лора одновременно. Окно не означает, что вы должны его заполнять. Более длинный промпт медленнее обрабатывается, стоит дороже за сообщение и дает модели больше данных для игнорирования. Цель — релевантный контекст, а не максимальный.

Практичное распределение для окна в 100 000 токенов:

• Карточка персонажа и личность: 1 500–3 000 токенов
• Бюджет World Info: 4 000–10 000 токенов
• История чата: все, что осталось, до выбранного вами предела
• Место для ответа: 500–1 500 токенов

Эти цифры — рекомендации для типичной ролевой игры, а не требования API. Большинство сессий никогда не нуждаются в верхних границах.

Создание рабочих записей

Ключевые слова и содержание

Каждая запись имеет основные ключевые слова, которые её запускают, и поле содержания, которое внедряется. Пишите ключевые слова так, как игроки на самом деле говорят. Для города добавьте название, прозвище и названия районов. Записи сопоставляются с недавними сообщениями, поэтому ключевое слово, которое появляется только в самом тексте World Info, никогда не сработает.

Держите содержание коротким и фактологическим

Пишите записи как компактные утверждения, а не как художественный текст. Сравните эти два:

Гавань Харроу: портовый район, контролируемый Гильдией Соли. Контрабанду терпят, убийства — нет. Комендантский час в полночь, обеспечивается наемными стражниками.

Атмосферный абзац для того же места может быть в четыре раза длиннее и добавлять мало того, что модель не может придумать сама. Оставляйте длинные записи для фактов, которые модель должна знать точно: имена, правила магии, кому кто должен.

Постоянные, избирательные и рекурсивные записи

• Постоянные записи внедряются всегда. Используйте их для правил, применимых к каждой сцене, таких как тон сеттинга или работа магии, и держите их общее количество небольшим.
• Селективные записи используют вторичные ключи как фильтр: «дракон» срабатывает, только если упомянут «пещера».
• Рекурсивное сканирование позволяет тексту одной записи запускать другие. Это мощно для связанного World Info, но может захватить много лишнего. Ограничьте глубину рекурсии.

Позиция и порядок

Записи можно вставлять до или после определений персонажа, или на заданной глубине в чате. Глубина ближе к концу истории помещает факт рядом с последним сообщением, где модели склонны придавать ему больший вес. Значения порядка определяют, какие записи выживают при тесном бюджете, поэтому важному World Info присваивайте более высокий приоритет.

Настройки, контролирующие расход токенов

Панель World Info имеет несколько глобальных настроек. Названия различаются в зависимости от версии, но эти настройки доступны в последних релизах.

Большая глубина сканирования позволяет поймать лор, о котором упоминали несколько ходов назад, но ценой большего числа ложных срабатываний. При доступных 100 000 токенов лимит бюджета больше касается контроля расходов, чем вместимости контекстного окна. Если вы замечаете, что модель внезапно начинает писать о чём-то нерелевантном, значит, ключевое слово срабатывает слишком широко; сделайте его селективной записью.

Также проверьте, что в настройках истории чата в SillyTavern не происходит обрезка сообщений раньше, чем вы планируете. Поле размера контекста — это лимит того, что SillyTavern отправляет, поэтому, если оно остаётся на небольшом значении по умолчанию, большое окно остаётся неиспользованным.

Сколько стоит сессия ролевой игры

Стоимость составляет $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов. Ролевая игра требует много входных данных, так как SillyTavern отправляет карточку персонажа, лор и историю при каждом сообщении.

Возьмите промпт объёмом 12 000 токенов (карточка персонажа, несколько записей лора, история) и ответ на 400 токенов.

• Вход: 12 000 / 1 000 000 x $0,15 = $0,0018
• Выход: 400 / 1 000 000 x $0,50 = $0,0002
• Итого: $0,002 за сообщение

Стоимость ста сообщений — $0,20. Пробного баланса в $0,50 хватит примерно на 250 сообщений такого размера. Если увеличить промпт до 40 000 токенов, а ответ останется прежним, то стоимость входных данных составит 40 000 / 1 000 000 × $0,15 = $0,006, а выходных — $0,0002, итого $0,0062 за сообщение. В этом случае пробного баланса хватит примерно на 80 сообщений (0,50 / 0,0062 ≈ 80,6). Это стоимость очень большого бюджета для лора и длинной истории, что является аргументом в пользу точных записей.

Пробный баланс активируется в один клик на странице API-ключа после регистрации, не требует привязки платёжного метода, действует 7 дней и предоставляется один раз на человека. Пополнение доступно от $20 до $500 любой целой суммой, с бонусом +5% от $50, +10% от $100 и +15% от $200. На этом сайте принимаем только криптовалюту: USDT в сети TRC20 или USDC в сети Base. Баланс не сгорает, а за неудачные или отклонённые запросы не списывают средства. Полные условия указаны на странице цены.

Устранение неполадок и ограничения

Полный ключ позволяет выполнять 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет выполнять 2 и 60 соответственно. SillyTavern может превысить лимит в два параллельных запроса при групповых чатах, быстрых свайпах или открытии второй вкладки, а потоковый ответ удерживает слот до завершения. API в этом случае возвращает HTTP 429 с кодом concurrency. Превышение лимита частоты запросов возвращает rate_limited, а временная перегрузка сопровождается заголовком Retry-After: 5. Достаточно подождать несколько секунд и повторить запрос.

• Ответы обрываются. Проверьте максимальную длину ответа в SillyTavern. Она устанавливает max_tokens, который является необязательным параметром в этом API.
• Лор не срабатывает. Увеличьте глубину сканирования и проверьте написание ключевых слов по сравнению с тем, как они появляются в чате.
• Ответы игнорируют сработавший лор. Переместите запись в глубину, ближе к концу истории, или сократите её, чтобы она выделялась.
• Промпт кажется медленным. Уменьшите лимит бюджета и длину истории чата, прежде чем винить эндпоинт.

Для персонажей, говорящих в фиксированном стиле, установите temperature около 0,8–1,0 и добавьте мягкий штраф за частоту, если модель повторяет фразы. Промпты не используются для обучения. Модель — это одна модель с открытыми весами от независимого провайдера, а не маршрутизатор между поставщиками, поэтому качество зависит от этой одной модели, а не от пула.

Дополнительные руководства

• API Midjourney: Анализ стоимости и интеграция текста