JA ▾

無検閲ビデオパイプライン向けAPI

1M入力トークンあたり$0.151M出力トークンあたり$0.50100,000トークンのコンテキストウィンドウ$0.50の無料トライラークレジット300リクエスト/分

100kコンテキストAPI用SillyTavern World Infoガイド

World Infoが効果を発揮するのは、バックエンドがそれを保持できる場合のみです。このチュートリアルでは、100,000トークンのAPIに接続し、lorebookエントリとスキャン深度のサイズ調整方法、およびロールプレイセッションの実コストを示します。

更新日:

マップテーブルから広いフレームへ浮遊するloreタイル。World Infoが大きなコンテキストウィンドウに読み込まれる様子を示しています

主要ポイント

  • SillyTavernにエンドポイントを追加し、モデルuncensoredを持つカスタムOpenAI互換チャット完了ソースとして設定します。
  • 12,000トークンのプロンプトと400トークンの返信の場合、コストは$0.002です。したがって、$0.50の試用クレジットで約250件のメッセージをカバーできます。
  • 定数エントリは少なく短く保つべきです。キーワードエントリがloreの大部分を担います。
  • APIはテキストのみです。サイト名にvideoが含まれていても、動画は生成しません。

簡単な答え:5つのステップでセットアップ

このSillyTavern向けWorld Infoガイドは、多くのユーザーがまず必要とする部分から始めます。このAPIでWorld Infoを使用するには、SillyTavernをエンドポイントに接続し、コンテキストサイズを増やしてから、トークン予算に収まるエントリを作成します。

  1. キーページでAPIキーを作成します。
  2. SillyTavernでAPI接続パネルを開き、チャット完了を選択し、カスタム(OpenAI互換)ソースを選択します。
  3. エンドポイントURLをhttps://api.uncensoredvideo.top/v1に設定し、キーを貼り付け、モデルIDとしてuncensoredを入力します。
  4. 返信の余地を残し、コンテキストサイズを10万トークンのウィンドウに合わせて設定します。
  5. World Infoを開き、ブックを作成してキャラクターまたはチャットにアタッチし、以下の予算設定を調整します。

メニューラベルはSillyTavernのバージョンによって異なるため、ここでの名称は正確な表記ではなく地図として扱ってください。サイト名には「動画」が含まれていますが、このサービスはテキストAPIです。1つのオープンウェイトモデルを使用し、法的な成人用途においてコンテンツ拒否なしで回答するようにチューニングされています。画像、音声、動画の生成は行われません。未成年者が関与する性的コンテンツは許可されていません。

SillyTavernをいじる前にエンドポイントをテストしてください

接続が失敗した場合、その原因はURLまたはAPIキーの入力ミスであることがほとんどです。1行のテストで推測が不要になります。利用可能なモデルの一覧は次の通りです:

curl https://api.uncensoredvideo.top/v1/models   -H "Authorization: Bearer YOUR_KEY"

その後、生成が機能することを確認するために短いチャット完了を送信します:

curl https://api.uncensoredvideo.top/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}],"max_tokens":10}'

両方がJSONを返す場合、SillyTavernは同じ値で接続します。ベースURLは/v1で終わり、/chat/completionsは含まれません。パスはSillyTavernが自身で追加します。401はキーが不正であることを意味します。完全なリクエストリファレンスはAPIドキュメントにあります。

World Infoに大きなウィンドウが必要な理由

World Info(lorebookとも呼ばれる)は、キーワードが最近のチャットに表示されたときにエントリをプロンプトに挿入します。目的は、関連性がない限り大きな世界をプロンプトの外に保つことです。ただし、エントリは発動した際にキャラクターカード、チャット履歴、システムプロンプトの隣にプロンプト内に残ります。小さなウィンドウではそれらがスペースを競合し、lorebookは負けます。

100,000トークンのウィンドウは、プロンプトと生成結果の両方をカバーします。これにより、長いキャラクターカード、50件以上のチャット履歴、複数のloreエントリを同時に保持できます。ウィンドウが大きいからといって、それを埋める必要があるわけではありません。長いプロンプトは処理が遅く、メッセージあたりのコストが高くなり、モデルが無視すべき情報が増えます。目標は最大限のコンテキストではなく、関連性の高いコンテキストです。

100,000トークンウィンドウの実用的な分割:

  • キャラクターカードとペルソナ:1,500〜3,000トークン
  • World Info予算:4,000〜10,000トークン
  • チャット履歴:選択した制限まで残ったすべて
  • 返信スペース:500〜1,500トークン

これらの数値は典型的なロールプレイのための提案であり、APIの要件ではありません。ほとんどのセッションでは上限値は必要ありません。

機能するエントリの作成

キーワードとコンテンツ

各エントリには、それをトリガーする主要キーワードと、挿入されるコンテンツフィールドがあります。プレイヤーが実際に話す方法でキーワードを書いてください。都市の場合、名前、愛称、地区名を追加します。エントリは最近のメッセージに一致するため、loreテキスト自体にしか現れないキーワードは決して発火しません。

コンテンツは短く事実ベースに保つ

エントリは文章ではなく、コンパクトな文として書いてください。以下の2つを比較してください:

ハロークォーイ:港湾地区、ソルトギルドが支配。密輸は容認、殺人は禁止。深夜12時に夜間外出禁止令、雇われた見張りによって執行。

同じ場所の雰囲気を描写する段落は、4倍の長さになる可能性があり、モデルが容易に推測できる情報を追加するだけです。長いエントリは、名前や魔法のルール、誰が誰に借金をしているかなど、モデルが正確に把握すべき事実に限定してください。

定数、選択的、再帰的エントリ

  • 恒常的エントリは常に注入されます。すべてのシーンに適用されるルール(設定のトーンや魔法の仕組みなど)に使用し、合計数を小さく保ってください。
  • 選択的エントリは二次キーワードをフィルタとして使用するため、「ドラゴン」は「洞窟」も言及された場合にのみ発火します。
  • 再帰スキャンは、1つのエントリのテキストが他のエントリをトリガーできるようにします。リンクされたloreには強力ですが、予想以上に多くのエントリを引き込む可能性があります。再帰ステップの制限を設定してください。

位置と順序

エントリはキャラクター定義の前または後に挿入するか、チャット内の設定された深さに挿入できます。履歴の下部に近い深さにすると、モデルがより重視する最新のメッセージの近くに事実が配置されます。順序値は予算が逼迫したときにどのエントリが生き残るかを決定するため、必須のloreには高い優先度を割り当ててください。

トークン支出を制御する設定

World Infoパネルにはいくつかのグローバルコントロールがあります。バージョンによって名称は異なりますが、最近のリリースにはこれらがあります。

設定機能初期値
スキャン深度キーワードを検索する最近のメッセージの数4〜8
予算(コンテキストの割合)World Infoが使用できるコンテキストのシェア10〜15%
予算上限World Infoのトークン上限6,000〜10,000
最小発火数十分な数のエントリが発火するまで深くスキャンする不要な場合は 0
再帰ステップ数再帰トリガーの最大連鎖長2〜3

より大きなスキャン深度は、数ターン前に言及されたloreを検出しますが、その代償としてより多くの誤ったトリガーが発生します。100,000トークンが利用可能な場合、予算上限はウィンドウに収めることよりもコスト管理に関するものです。モデルが突然無関係なことを書き始めたら、キーワードが広範囲にトリガーしています。それを選択的なエントリに切り替えてください。

また、SillyTavern のチャット履歴設定が意図したよりも前のメッセージを切り捨てていないか確認してください。コンテキストサイズフィールドは SillyTavern が送信する内容の上限を示すため、デフォルトの小さな値のままにしておくと、大きなウィンドウが活用されません。

ロールプレイセッションのコスト

料金は1M入力トークンあたり$0.15、1M出力トークンあたり$0.50です。ロールプレイは入力が多くなります。これは、SillyTavernがメッセージごとにキャラクターカード、lore、履歴を再送信するためです。

プロンプトを 12,000 トークン(キャラクターカード、数件のローアールールエントリ、履歴)とし、返信を 400 トークンとします。

  • 入力: 12,000 / 1,000,000 x $0.15 = $0.0018
  • 出力: 400 / 1,000,000 x $0.50 = $0.0002
  • 合計: メッセージあたり $0.002

100メッセージのコストは$0.20です。$0.50の無料トライアルクレジットは、この規模で約250メッセージをカバーできます。プロンプトを40,000トークンに拡張すると、同じ応答の入力コストは40,000 / 1,000,000 x $0.15 = $0.006、出力コストは$0.0002となり、メッセージあたり合計$0.0062となります。これにより、無料トライアルは約80メッセージ(0.50 / 0.0062は約80.6)持続します。これは非常に大きなlorebook予算と長い履歴のコストであり、エントリを厳密に管理する根拠となります。

トライアルクレジットはサインアップ後に API キーページでワンクリックで取得でき、支払い方法の登録は不要で、7 日間有効、1 人あたり 1 回限りです。トップアップは $20 から $500 まで任意の整数金額で行え、$50 以上で +5%、$100 以上で +10%、$200 以上で +15% が付与されます。当サイトは暗号資産のみを受け付けます:TRC20 上の USDT または Base 上の USDC。クレジットは期限切れにならず、失敗または拒否されたリクエストには課金されません。詳細は料金ページをご覧ください。

トラブルシューティングと制限

フルキーでは同時 8 リクエスト、1 分あたり 300 リクエストが可能です。トライアルキーでは同時 2 リクエスト、1 分あたり 60 リクエストです。SillyTavern はグループチャット、素早いスワイプ、または2つ目のタブで同時リクエストが2件を超えることがあり、ストリーミング中の返信は終了までスロットを占有します。API はその後、コードconcurrency付きの HTTP 429 を返します。リクエストレート超過の場合はrate_limitedが返され、一時的な過負荷時にはRetry-After: 5ヘッダーが付きます。数秒待ってから再試行するだけで十分です。

  • 返信が途中で切れる。 SillyTavern の最大応答長を確認してください。これはこの API ではオプションである max_tokens を設定します。
  • ロアは発動しません。 スキャン深度を上げ、チャットでの表記に合わせてキーワードのスペルを確認してください。
  • 返信がローアールールを無視する。 エントリを履歴の下部に近い深度に移動するか、目立つように短くしてください。
  • プロンプトが遅く感じる。 エンドポイントを責める前に、予算上限とチャット履歴の長さを減らしてください。

一定のスタイルで話すキャラクターの場合、temperatureを0.8から1.0に設定し、モデルがフレーズを繰り返す場合は軽度のfrequency penaltyを追加してください。プロンプトはトレーニングには使用されません。このモデルは独立したプロバイダが運用する単一のオープンウェイトモデルであり、ベンダー間のルーターではないため、品質は1つのモデルに依存します。

質問と回答

SillyTavern にはどの URL を入力しますか?

カスタムエンドポイントに https://api.uncensoredvideo.top/v1 を、API キーにあなたのキーを、モデル ID に uncensored を使用します。/chat/completions は自分で追加しないでください。

ローアールールブックはどれくらい大きくできますか?

ウィンドウは返信を含む 100,000 トークンです。実際には、ワールドインフォの予算を 4,000 から 10,000 トークンに抑えれば、ほとんどのチャットで十分であり、各メッセージを安価に保つことができます。

この API は動画を生成しますか?

いいえ。これはテキストのみのチャット完了 API です。画像、音声、動画の生成や、埋め込みもありません。

1メッセージの料金は?

12,000 トークンのプロンプトと 400 トークンの返信の場合、料金は $0.002 です。SillyTavern が毎回ローアールールと履歴を再送信するため、コストはプロンプトのサイズとともに増加します。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得