pyopenjtalk‐plus 変更点 - WariHima/pyopenjtalk-mod GitHub Wiki
Changes in this fork
- パッケージ名を
pyopenjtalk-plus に変更
- 明示的に Python 3.11 / 3.12 / 3.13 をサポート対象に追加
- CI 対象の Python バージョンも 3.11 以降メインに変更した
- Windows・macOS (x64 / arm64)・Linux すべての事前ビルド済み wheels を PyPI に公開
- pyopenjtalk は hts_engine_API・OpenJTalk・Cython に依存しており、ビルド環境の構築難易度が比較的高い
- 特に Windows においては MSVC のインストールが必要となる
- 事前ビルド済みの wheels を PyPI に公開することで、ビルド環境のない PC でも簡単にインストール可能にすることを意図している
- Python 側と Cython 側の両方に型ヒント (Type Hints) を追加
- Cython を 3.0 系に更新
- numpy 2.x 系に対応
- numpy 2.x 系では互換性のない変更が多数行われているが、公式ドキュメント によると「numpy 2.x 系でビルドした wheel であれば numpy 1.x 系でも動作する」らしい
- pyopenjtalk-plus では、numpy 2.x 系でビルドした wheel を公開することで対応した
- ただし、marine (marine-plus) のコードは numpy 2.x 系との互換性がないため (OverflowError が発生する) 、marine と併用する際は引き続き numpy 1.x 系が必要となる
pyopenjtalk.run_frontend() 関数に CLI インターフェイスを追加
- コマンドライン引数としてテキストを受け取り、そのテキストを処理した結果を標準出力に出力する
- 実行例:
python -m pyopenjtalk "あらゆる現実を、すべて自分の方へねじ曲げたのだ。"
- OpenJTalk 向けシステム辞書を、pyopenjtalk では初回実行時に自動ダウンロードされる open_jtalk_dic_utf_8-1.11.tar.gz から、独自にカスタマイズした pyopenjtalk-plus 向け辞書 (wheel に同梱) に変更
- この辞書は n5-suzuki/pyopenjtalk にかつて含まれていた mecab-naist-jdic のカスタム版をベースに、jpreprocess/naist-jdic での改良点を取り込み、さらに独自に改良したもの
- jpreprocess/naist-jdic では mecab-naist-jdic に jpreprocess 向けの改良が施されており、辞書データのミスの修正など有用な変更が多かったことから、修正内容をほぼすべて適用した
- pyopenjtalk 本家で実装されていた
_lazy_init() 関数内での辞書ダウンロード処理は pyopenjtalk-plus での辞書同梱に伴い削除している
- 辞書データがなければ pyopenjtalk は動作しないため (つまり辞書をダウンロードしない選択肢はなく必須) 、毎回追加でダウンロードするよりも wheel に直接含めた方が安定性の面でよりベターだと考えた
- pyopenjtalk-plus の辞書データは 100MB 以上あるが (wheel 自体は圧縮が効いて 25MB 程度) 、せいぜい数十 MB のサイズ節約よりもアクセント・読み推定精度の向上を優先した
- カスタム辞書は pyproject.toml のあるディレクトリで
task build-dictionary を実行するとビルドできる
- 管理の簡便化のため、ビルド済みの辞書データ (*.bin / *.dic) はこの Git リポジトリに含めている
pyopenjtalk.run_frontend() や pyopenjtalk.g2p() でも run_marine=True を指定し marine によるアクセント推定を行えるようにした
- 以前から
pyopenjtalk.extract_fullcontext() では marine による AI アクセント推定が可能だったが、pyopenjtalk.run_frontend() や pyopenjtalk.g2p() にも実装した
- 「デフォルトの学習済みモデルは JSUT コーパスのみから学習されており、論文に記載されている性能とは異なる」(≒ marine 開発元の LINE 社内では独自の音声コーパスを用いてより高性能な学習済みモデルを作成・運用している) 旨が marine の README に記載されている
- このためデフォルトの学習済みモデルを使う限り、現状 OpenJTalk のアクセント推定の方が精度が高い傾向にある
- pyopenjtalk-plus では PyTorch への依存が発生することからデフォルトの依存関係には含めていないが、別途 marine / marine-plus をインストールすれば利用可能
- marine 本家は Windows や Python 3.12 以降に非対応な上、非推奨警告が多数出力される問題があるため、これらの問題に対処した marine-plus の利用を推奨します
pip install marine-plus で marine 本家の代わりに marine-plus をインストールできる
- litagin02/pyopenjtalk での変更を取り込み、
pyopenjtalk.unset_user_dict() 関数を追加
- VOICEVOX で利用されている VOICEVOX/pyopenjtalk には、VOICEVOX ENGINE で利用するためのユーザー辞書機能が独自に実装されている
- その後、pyopenjtalk v0.3.4 で VOICEVOX/pyopenjtalk と同等のユーザー辞書機能が実装された
- VOICEVOX/pyopenjtalk の
set_user_dict() 関数が update_global_jtalk_with_user_dict() 関数になるなど、同等の機能ながら関数名は変更されている
- …が、どういう訳か VOICEVOX/pyopenjtalk には存在した「設定したユーザー辞書をリセットする」関数が実装されていない
- このため litagin02/pyopenjtalk では VOICEVOX/pyopenjtalk から
pyopenjtalk.unset_user_dict() 関数が移植されており、pyopenjtalk-plus でもこの実装を継承した
- このほか、クロスプラットフォームで wheel をビルドするための GitHub Actions ワークフローもこのフォークから取り込んだもの
- VOICEVOX/pyopenjtalk での変更を取り込み、多数の改良点を反映
- OpenJTalk の VOICEVOX 向けフォーク (VOICEVOX/open_jtalk) での変更内容を前提とした変更が多数含まれる
- 取り込んだ変更点 (一部):
- text2mecab() 関数を安全に改良し、エラー発生時に適切な RuntimeError を送出する
- ARM 版 Windows でビルド可能にする
- Windows で辞書の保存先パスに日本語を含むマルチバイト文字が含まれるとエラーが発生する問題を修正
- 各環境でのビルドに関連する諸問題を修正
- (OpenJTalk 側のみ) OpenJTalk 本体だけでユーザー辞書を読み込める
Mecab_load_with_userdic() 関数を追加
- (OpenJTalk 側のみ) 辞書のコンパイルに利用される
mecab-dict-index モジュールにログ出力を抑制する --quiet オプションを追加
- (OpenJTalk 側のみ)
mecab-dict-index モジュールの main() 関数 (元は CLI コマンド用) をコメントアウト
- OpenJTalk は MeCab のソースコードがベース、その MeCab 自体も非常にレガシーなソフトウェアで、お世辞にも綺麗なコードではない
- このためか pyopenjtalk の辞書コンパイル機能は「CLI コマンド
mecab-dict-index の argv と argc に相当する値を、ライブラリ側から OpenJTalk の mecab_dict_index() 関数 (mecab-dict-index コマンドのエントリーポイント) の引数として注入する」という非常にトリッキーかつ強引な手法で実装されている
- どのみち pyopenjtalk 向け OpenJTalk では
mecab-dict-index コマンドをビルドする必要がない
- n5-suzuki/pyopenjtalk での変更を取り込み、多数の改良点を反映
- 複数の読み方をする漢字の読みに対し SudachiPy で形態素解析を行い、得られた結果を使い OpenJTalk から返された
list[NJDFeature] 内の値を補正する実装がユニーク
- 「何」を「なん」と読むか「なに」と読むかを判定するための scikit-learn で実装された機械学習モデルによるロジック に関して、学習済みモデルを ONNX に変換し、scikit-learn 0.24.2 への依存なしに動かせるよう改良した
- 当該モデルは scikit-learn 0.24.2 でしか動作しないが、3年以上前にリリースされた極めて古いバージョンにつき Python 3.11 以降では動作せず、依存関係の問題もありインストール自体が困難になってきている
- 学習用コードは含まれていなかったため推測するしかないが、モデルのバイナリに含まれる文字列から、RandomForestClassifier を用いた比較的単純な機械学習モデルだと推測される
- ONNX 変換ツール を自作した上で ONNX に変換し、推論コード も ONNXRuntime を用いて推論するよう変更した
- この変更により依存関係に ONNXRuntime が追加されるが、すでに機械学習関連の他ライブラリの依存関係に含まれていることも多く、実用上問題ないと判断した
- korguchi/pyopenjtalk での変更を取り込み、多数の改良点を反映
- このフォークで利用されている korguchi/open_jtalk では、「クァ」「グヮ」「デェ」「フュ」「シィ」などの比較的珍しい音素のサポートが追加されている
- ほかにも「！」（感嘆符）を「記号/一般」として正しく推定するための改良など、概ね副作用なしに精度向上が見込めることから、有用性を鑑みほぼそのままマージした
- この関係で、pyopenjtalk 本家とは一部音素での挙動が異なる
- sabonerune/pyopenjtalk での変更を取り込み、スレッドセーフ化と一部 Cython コードの nogil 化を達成
- submodule の OpenJTalk を tsukumijima/open_jtalk に変更
- このフォークでは、pyopenjtalk-plus 向けに下記のフォーク版 OpenJTalk での改善内容を取り込んでいる
- submodule の hts_engine_API を syoyo/hts_engine_API に変更
- ライブラリの開発環境構築・ビルド・コード整形・テストを
taskipy によるタスクランナーでの管理に変更
- 利用予定のない Travis CI 向けファイルを削除
- 不要な依存関係の削除、依存バージョンの整理
- その他精度の改善・コードのクリーンアップ、非推奨警告の解消など