KrugleSquad‐Deployment‐Guide - krugle-jp/Krugle-Library GitHub Wiki
本手順書では、以下の2つのパッケージを使用して、Flow LiteとArcFactを導入する手順を説明します。
| 区分 | 製品 / コンポーネント | パッケージ例 | GPU |
|---|---|---|---|
| A | Flow Lite GPU | flow-lite-gpu-*.tar.gz |
必須 |
| B | ArcFact | krugle-squad-*.tar.gz |
- |
導入順序は必ず以下の順番で実施してください。
A → B
本書では、Krugle Squad(ArcFact)とFlow Liteを同一のGPU搭載ホスト上に導入するシナリオに沿って記載します。
既に導入済みで稼働中のFlow Liteサービスを利用する場合は、手順中の指示に従ってください。
以下の3つのパッケージが、あらかじめ導入対象サーバー上に配置されていることを確認してください。
https://downloads.krugle.org/.archaea/
flow-lite-gpu-*.tar.gz
krugle-squad-*.tar.gz
checkpoints.tgz [Option]また、HTTPS通信用の証明書ファイルを準備してください。
例:自己証明書の場合
openssl req -newkey rsa:4096 -nodes -sha256 -keyout server.key -x509 -days 3650 -out server.crt以降の手順では例として以下のファイル名を使用します。
server.crt
server.key
Flow LiteをArcFact(Squad)と同一のGPUホスト上に導入します。
#### 別サーバ上で既に稼働中のFlow Liteを使用する場合はこの手順3をスキップしてください。
tar -xzf flow-lite-gpu-*.tar.gz
cd flow-lite-gpusudo ./install.shインストール中に表示されるプロンプトに従って、以下の内容を入力します。
- 出力言語
- マルチモーダルモデル名
- マルチモーダルモデル用のAPIキー
このステップは、デフォルトの日本語パーサーLinguastarに替えてIngestarを使用する場合にのみ必要ですので、通常はスキップしてください。
tar -xzf checkpoints.tgz -C /opt/flow-lite/sudo systemctl start flow-liteFlow Lite のみライセンス登録が必要です。
まず、フィンガープリントファイルを作成します。
cd /opt/flow-lite
sudo ./fingerprint.sh > fingerprint.txt作成された fingerprint.txt をKrugle担当者へご送付ください。
ライセンスファイルarchaea.licを受領したら、以下の場所に保存します。
/opt/flow-lite/archaea.lic
ライセンスファイル配置後、Flow Lite を再起動します。
sudo systemctl restart flow-liteKrugle Squad (ArcFact) を導入します。
tar -xzf krugle-squad-*.tar.gz
cd krugle-squadsudo ./install.shインストール中に表示されるプロンプトに従って、以下の内容を入力します。
- LLM APIキー
- LLM API URL
- 利用するLLMモデル名
- Flow Lite URL [同一ホスト上の場合は http://flow-lite:8000]
Squad Web UI 用のSSL証明書を配置します。
sudo cp server.crt server.key /opt/arcfact/ssl/sudo vi /opt/arcfact/.env- エージェントがプロンプトで使用する言語を日本語化
PROMPT_LANGUAGE=jp ##デフォルトはenになっている箇所をjpに変更してください
- 暗号化キー設定を無効化
#RECIPE_ENCRYPTION_KEY=
- HTTPSサーバ設定の追記
ALLOW_INSECURE_DEFAULTS=true
Krugle Squad (ArcFact) を起動します。
sudo systemctl start arcfact導入完了後、ブラウザから以下のURLにアクセスします。
<host> には、Combo Gateway を導入したサーバーのホスト名またはIPアドレスを指定してください。
https://<host>/
- 初回のログインには
今すぐ登録から招待コードを使用したアカウント登録が必要です。 -
招待コードは/opt/arcfact/.env中のINVITATION_CODEで設定してください。(default:ano94great)
| 区分 | コンポーネント | systemdサービス名 |
|---|---|---|
| A | Flow Lite | flow-lite |
| B | ArcFact | arcfact |
例:ArcFact を再起動する場合
sudo systemctl restart arcfact例:ArcFact の状態を確認する場合
sudo systemctl status arcfact一般的な操作は以下の形式で実行します。
sudo systemctl start <service-name>
sudo systemctl stop <service-name>
sudo systemctl restart <service-name>
sudo systemctl status <service-name>Dockerコンテナの稼働状況を確認します。
docker ps
docker stats例:manufact-api コンテナのログを確認する場合
docker logs -f manufact-api製品の設定ファイルを変更した場合は、対象サービスを再起動します。
例:ArcFact の設定を変更する場合
sudo nano /opt/arcfact/.env
sudo systemctl restart arcfact各サービスの起動、停止、再起動には、原則として systemctl を使用してください。
sudo systemctl restart arcfactdocker compose を直接使用して起動・停止することは推奨されません。
やむを得ず docker compose を手動で実行する場合は、必要な環境変数を読み込んだ上で実行してください。
例:ArcFact の compose 状態を確認する場合
cd /opt/arcfact
sudo bash -c 'set -a; . ./compose.env; docker compose ps'以下のサービスは、サーバー再起動時に自動起動します。
flow-lite
arcfact
| 操作 | 影響 |
|---|---|
arcfact の再起動 |
ArcFact のみ再起動されます。比較的安全で、他サービスへの影響は限定的です。 |
flow-lite の再起動 |
Flow Lite を利用する処理に一時的な影響があります。 |
以下を確認してください。
- Flow Lite が起動していること
- Flow Lite のライセンスファイル
/opt/flow-lite/archaea.licが配置されていること - Squad(ArcFact) のインストールが完了していること
- Squad(ArcFact) が起動していること
-
https://<host>/で ArcFact にアクセスできること -
docker psで関連コンテナが起動していること
以上で、Krugle Squadの導入は完了です。