Guia de World Info do SillyTavern para uma API de Contexto de 100k

Resposta curta: a configuração em cinco etapas

Este guia de world info do SillyTavern começa pela parte que a maioria das pessoas quer primeiro. Para usar o World Info com esta API, você conecta o SillyTavern ao endpoint, aumenta o tamanho do contexto e, em seguida, cria entradas que se encaixem em um orçamento de tokens.

1. Crie uma chave de API na página de chaves.
2. No SillyTavern, abra o painel de conexões de API, escolha Conclusão de Chat e selecione a fonte Personalizada (compatível com OpenAI).
3. Defina a URL do endpoint como https://api.uncensoredvideo.top/v1, cole a chave e insira uncensored como o ID do modelo.
4. Defina o tamanho do contexto para corresponder à janela de 100.000 tokens, deixando espaço para a resposta.
5. Abra o World Info, crie um livro, anexe-o ao seu personagem ou chat e ajuste as configurações de orçamento abordadas abaixo.

Os rótulos do menu variam entre as versões do SillyTavern, então trate os nomes aqui como um mapa, não como texto exato. O nome do site menciona vídeo, mas o serviço é uma API de texto: um modelo de pesos abertos, ajustado para responder sem recusas de conteúdo para uso adulto legal, sem geração de imagem, áudio ou vídeo. Conteúdo sexual envolvendo menores de idade não é permitido.

Teste o endpoint antes de mexer no SillyTavern

Quando uma conexão falha, a causa é quase sempre um erro de digitação na URL ou na chave. Um teste de uma linha elimina adivinhações. Isso lista o modelo disponível:

Copycurl https://api.uncensoredvideo.top/v1/models   -H "Authorization: Bearer YOUR_KEY"

Em seguida, envie uma conclusão de chat curta para confirmar que a geração está funcionando:

Copycurl https://api.uncensoredvideo.top/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}],"max_tokens":10}'

Se ambos retornarem JSON, o SillyTavern se conectará com os mesmos valores. A URL base termina em /v1 e não inclui /chat/completions; o SillyTavern adiciona o caminho sozinho. Um 401 significa uma chave inválida. A referência completa da solicitação está na documentação da API.

Por que o World Info precisa de uma janela grande

O World Info, também chamado de livro de lore, injeta entradas no prompt quando suas palavras-chave aparecem na conversa recente. O objetivo é manter um mundo grande fora do prompt até que seja relevante. Mas as entradas ainda ficam no prompt quando são acionadas, ao lado do cartão do personagem, do histórico de chat e do prompt do sistema. Em uma janela pequena, tudo isso compete por espaço, e o livro de lore perde.

Uma janela de 100.000 tokens, que abrange prompt mais conclusão, altera o equilíbrio. Você pode suportar uma ficha de personagem longa, 50 ou mais mensagens de histórico de chat e várias entradas de lore de uma vez. A janela não significa que você deve preenchê-la. Um prompt mais longo é mais lento para processar, custa mais por mensagem e dá ao modelo mais para ignorar. O objetivo é contexto relevante, não contexto máximo.

Uma divisão prática para uma janela de 100.000 tokens:

• Cartão de personagem e persona: 1.500 a 3.000 tokens
• Orçamento de tokens do World Info: 4.000 a 10.000 tokens
• Histórico de chat: o que restar, até o seu limite escolhido
• Espaço de resposta: 500 a 1.500 tokens

Esses valores são sugestões para um roleplay típico, não requisitos da API. A maioria das sessões nunca precisa dos limites superiores.

Construindo entradas que funcionam

Palavras-chave e conteúdo

Cada entrada tem palavras-chave primárias que a acionam e um campo de conteúdo que é injetado. Escreva palavras-chave da maneira que os jogadores realmente falam. Para uma cidade, adicione o nome, um apelido e os nomes dos distritos. As entradas correspondem às mensagens recentes, então uma palavra-chave que aparece apenas no próprio texto do lore nunca será acionada.

Mantenha o conteúdo curto e factual

Escreva entradas como declarações compactas, não como prosa. Compare estas duas:

Harrow Quay: distrito portuário, controlado pela Guilda do Sal. Contrabando tolerado, assassinato não. Toque de recolher à meia-noite, aplicado por guardas contratados.

Um parágrafo de atmosfera para o mesmo lugar pode ter quatro vezes o tamanho e adicionar pouco que o modelo não possa inventar. Reserve entradas longas para fatos que o modelo deve acertar: nomes, regras de magia, quem deve a quem.

Entradas constantes, seletivas e recursivas

• Entradas constantes são sempre injetadas. Use-as para regras que se aplicam a todas as cenas, como o tom do cenário ou como a magia funciona, e mantenha o total pequeno.
• Entradas seletivas usam palavras-chave secundárias como filtro, então "dragão" só é acionado quando "caverna" também é mencionado.
• Varredura recursiva permite que o texto de uma entrada dispare outras. É poderoso para lore vinculada, e pode trazer muito mais do que você espera. Defina um limite de etapas de recursão.

Posição e ordem

As entradas podem ser inseridas antes ou depois das definições do personagem, ou em uma profundidade definida no chat. Uma profundidade próxima ao final do histórico coloca o fato perto da mensagem mais recente, onde os modelos tendem a ponderar mais. Os valores de ordem decidem quais entradas sobrevivem quando o limite de tokens está apertado, então dê ao lore essencial uma prioridade maior.

Configurações que controlam o gasto de tokens

O painel do World Info tem alguns controles globais. Os nomes variam por versão, mas estes existem nas versões recentes.

Uma profundidade de varredura maior captura lore que foi mencionada algumas mensagens atrás, ao custo de mais gatilhos falsos. Com 100.000 tokens disponíveis, um limite de orçamento é mais sobre controle de custo do que ajuste da janela. Se você notar o modelo escrevendo repentinamente sobre algo irrelevante, uma palavra-chave está disparando muito amplamente; altere-a para uma entrada seletiva.

Verifique também se a configuração do histórico de chat no SillyTavern não está cortando mensagens anteriores ao que você pretende. O campo de tamanho de contexto é um limite do que o SillyTavern envia, então se permanecer no padrão pequeno, a janela grande não será utilizada.

Quanto custa uma sessão de roleplay

O preço é $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída. Roleplay é pesado em entrada, porque o SillyTavern reenvia o cartão de personagem, lore e histórico a cada mensagem.

Considere um prompt de 12.000 tokens (cartão de personagem, algumas entradas de lore, histórico) e uma resposta de 400 tokens.

• Entrada: 12.000 / 1.000.000 x $0,15 = $0,0018
• Saída: 400 / 1.000.000 x $0,50 = $0,0002
• Total: $0,002 por mensagem

Cem mensagens custam $0,20. O crédito de teste de $0,50 cobre cerca de 250 mensagens neste tamanho. Aumente o prompt para 40.000 tokens e a mesma resposta custa 40.000 / 1.000.000 x $0,15 = $0,006 de entrada mais $0,0002 de saída, totalizando $0,0062 por mensagem, e o teste dura cerca de 80 mensagens (0,50 / 0,0062 é cerca de 80,6). Esse é o custo de um orçamento de lorebook muito grande e histórico longo, e é o argumento para entradas mais apertadas.

O teste é obtido com um clique na página da chave de API após o login, não precisa de método de pagamento, dura 7 dias e é um por pessoa. Recargas vão de $20 a $500 em qualquer valor inteiro, com +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Este site aceita apenas cripto: USDT na TRC20 ou USDC na Base. O crédito nunca expira e requisições falhas ou recusadas não são cobradas. Detalhes completos estão na página de preços.

Solução de problemas e limites

Uma chave completa permite 8 requisições simultâneas e 300 requisições por minuto. A chave de teste permite 2 e 60. O SillyTavern pode exceder duas requisições simultâneas com chats em grupo, deslizes disparados rapidamente ou uma segunda aba, e uma resposta em streaming mantém sua posição até o fim. A API então responde HTTP 429 com o código concurrency. Uma excedência de taxa de requisição retorna rate_limited, e sobrecarga temporária vem com o cabeçalho Retry-After: 5. Aguardar alguns segundos e tentar novamente é suficiente.

• Respostas cortadas. Verifique o comprimento máximo de resposta no SillyTavern. Ele define max_tokens, que é opcional nesta API.
• Lore nunca dispara. Aumente a profundidade de varredura e verifique a ortografia da palavra-chave conforme aparece no chat.
• Respostas ignoram Lore que disparou. Mova a entrada para uma profundidade mais próxima do final do histórico, ou encurte-a para que se destaque.
• Prompt parece lento. Reduza o limite de orçamento e o comprimento do histórico de chat antes de culpar o endpoint.

Para personagens que falam em um estilo fixo, defina temperature em torno de 0,8 a 1,0 e adicione uma penalidade de frequência leve se o modelo repetir frases. Os prompts não são usados para treinamento. O modelo é um único modelo de pesos abertos executado por um provedor independente, não um roteador entre fornecedores, então a qualidade depende desse único modelo, e não de um pool.

Mais guias

• API do Midjourney: Análise de Custo e Integração de Texto