Tips - Zuntan03/EasyNovelAssistant GitHub Wiki
- 速度優先のモデルでGenerate Foreverをして、SSR が来たら採用する考え方の UI です。
- アホな文章が生成されはじめたら、
F5ですぐに次の生成に移れます。 - 生成結果には番号を振ってありますので、「～なものの番号を5つ挙げて、理由も添えて」とより賢い LLM に頼むこともできます（出力のログは
log/にあります）。
- アホな文章が生成されはじめたら、
- EasyNovelAssistant は自動的に指示タグを挿入していません。
- 入力欄を右クリックすると
指示タグを挿入できます。
- 入力欄を右クリックすると
- 入力欄の 行頭 に
//で、その行をコメントとして扱い、LLM の入力に含めません。 - EasyNovelAssistant は
KoboldCpp/にモデルをL0で立ち上げる bat ファイルを生成します。- この bat ファイルでモデルサーバーを起動すると、
LightChatAssistantの起動時に自動的に接続し、終了時にモデルサーバーを終了しません。 - bat ファイルをコピーして、
set GPU_LAYERS=0などをお好みに変更してご利用ください。
- この bat ファイルでモデルサーバーを起動すると、
- KoboldCpp と同様に
Style-Bert-VITS2/Server.batやStyle-Bert-VITS2/ServerCpu.batで、あらかじめ読み上げサーバーを立ち上げておくこともできます。 - モデルを追加するには
EasyNovelAssistant/setup/res/default_llm.jsonを参考にしつつ、llm.jsonにモデルを追加します。 - 指示タグを追加するには
EasyNovelAssistant/setup/res/default_llm_sequence.jsonを参考にしつつ、llm_sequence.jsonにモデルを追加します。- 辞書のキーがモデルファイル名に含まれていると、その指示タグが使用されます。
KoboldCpp
KoboldCpp/koboldcpp.exe を実行すると、通常の KoboldCpp として利用できます。
モデルサーバー起動中に http://localhost:5001 を開くと、EasyLightChatAssistant のように KoboldCpp の Web UI を利用できます。
Style-Bert-VITS2
Style-Bert-VITS2/ フォルダ内は通常の Style-Bert-VITS2 として利用できます。
- Style-Bert-VITS2 のチュートリアル: YouTube, ニコニコ
Style-Bert-VITS2/Editor.batで、音程調整ありの音声生成ができます。Style-Bert-VITS2/App.batでお手元の音声データからモデルを作成できます。- 音声の分割、読みの追加などモデルの学習に必要な機能が一通り揃っています。
詳細は 公式ページの学習説明 を確認ください。
- 音声の分割、読みの追加などモデルの学習に必要な機能が一通り揃っています。