- GLM Legal の必要動作環境の中心は law-glm-10b モデル、つまり 100億パラメータ の GLM ベースの法律 AI モデルです。
- モデルリポジトリは約 39.5 GB あるため、50 GB 以上の空きディスク容量を確保してください。
- Transformers によるローカル推論には通常、24 GB 以上の VRAM を搭載した GPU、または速度は低下しますが CPU のみでのフォールバックが必要です。
- ソフトウェアスタック：Python、PyTorch、Hugging Face Transformers、および
trust_remote_code設定。 - このモデルは Apache-2.0 ライセンスで公開されており、Hugging Face でホストされています。
GLM Legal 必要動作環境の理解
GLM Legal は、Hugging Face 上の law-llm 組織から公開されている law-glm-10b および law-glm-10b-v2 モデルを指します。これらは中国語の法律テキスト理解向けにファインチューニングされた GLM アーキテクチャの言語モデルであり、その必要動作環境は 100 億パラメータ級のオープンウェイトモデルの標準的なパターンに従います。ボトルネックは GPU メモリ、次にディスク容量と CPU RAM です。
ダウンロードの前に、以下のベースラインプロファイルを確認してください。「GLM Legal」は law-glm-10b モデルファミリーのコミュニティ／コンテンツサイト上の名称であり、別途インストーラーやランチャーを心配する必要はありません。
| 項目 | 最小 | 推奨 |
|---|---|---|
| モデルパラメータ | 10B (law-glm-10b) | 10B (law-glm-10b-v2) |
| モデルファイルサイズ | 約 39.5 GB | 約 39.5 GB ＋ キャッシュ余裕 |
| 空きディスク容量 | 50 GB | 80 GB 以上 (SSD) |
| GPU VRAM (FP16) | 24 GB | 32–48 GB またはマルチ GPU |
| GPU VRAM (量子化) | 12–14 GB (INT8/INT4) | 24 GB |
| システム RAM | 32 GB | 64 GB |
| OS | Linux (Ubuntu 20.04 以降) | CUDA 11.8 以降搭載の Linux |
モデルリポジトリで現在のファイル一覧を必ず確認してください。ウェイトシャード、トークナイザー、設定ファイルは law-glm-10b と law-glm-10b-v2 の間で変更される可能性があります。
ハードウェアティア比較
どのマシンでも 10B モデルを快適に動かせるわけではありません。このティア分類を参考に、自分のハードウェアに合った現実的なデプロイ方式を選びましょう。
エントリーティア（量子化）
- 12–14 GB VRAM または CPU のみ
- INT4/INT8 量子化が必須
- 推論は低速だがテストには十分
- プロンプト実験に適している
スタンダードティア（単一 GPU）
- 24 GB VRAM（RTX 3090/4090 クラスなど）
- FP16 または BF16 推論
- バッチサイズ 1–4 なら快適
- 多くの開発者に最適
プロティア（マルチ GPU）
- GPU 合計 48 GB 以上の VRAM
- より大きなバッチ、より長いコンテキスト
- ファインチューニングも現実的に
- 研究ワークロードに適している
| デプロイ方式 | 必要 VRAM | 速度 | 適した用途 |
|---|---|---|---|
| CPU 推論 | 0 GB (32–64 GB RAM) | 非常に遅い | 動作確認のみ |
| INT4 量子化 GPU | 約 12–14 GB | 中程度 | ノート PC、単一 GPU テスト |
| FP16 単一 GPU | 約 22–24 GB | 高速 | 日常的な法律 QA ワークフロー |
| マルチ GPU FP16 | 48 GB 以上 | 最速 | バッチ処理、評価 |
10B モデルを FP16 で読み込むと、ウェイトだけで約 20 GB が割り当てられます。チェックポイントの要求量より VRAM が少ない GPU では、緩やかな性能低下ではなくメモリ不足（OOM）エラーが発生します。モデルを量子化またはシャーディングしてください。
ソフトウェア要件とセットアップ手順
ソフトウェアスタックはシンプルです：Python 3.8 以降、CUDA 対応の PyTorch、そして Hugging Face Transformers。GLM アーキテクチャはカスタムモデリングコードを同梱しているため、トークナイザーとモデルの両方を読み込む際に trust_remote_code=True が必要になります。
| ソフトウェア | バージョン目安 | 目的 |
|---|---|---|
| Python | 3.8–3.10 | ランタイム環境 |
| PyTorch | CUDA 11.8 以降搭載の 2.x | GPU テンソル演算 |
| Transformers | 最新の安定版 | モデル／トークナイザーの読み込み |
| CUDA ドライバー | 11.8 以降 | GPU アクセラレーション |
| Git LFS | 最新 | 大容量ウェイトシャードの取得 |
環境を準備する
専用の Python 仮想環境または conda 環境を作成し、CUDA バージョンに合った PyTorch をインストールします。簡単なデバイスチェックで GPU が認識されているか確認しましょう。
Transformers をインストール
Hugging Face Transformers と依存パッケージをインストールします。GLM 系はリモートのモデリングコードに依存するため、Transformers はできるだけ最新に保ってください。
モデルをダウンロード
Hugging Face のモデルページから law-llm/law-glm-10b（または -v2）を取得します。約 39.5 GB のウェイトシャードを完全にダウンロードするため、Git LFS がインストールされていることを確認してください。
trust_remote_code で読み込む
トークナイザーとモデルの両方を trust_remote_code=True で読み込みます。これによりリポジトリ内のカスタム Python コードが実行されます。信頼できるソースに対してのみ行い、厳格なセキュリティポリシー下で運用する場合はコードをレビューしてください。
初回推論を実行
短い中国語の法律質問や条項抽出プロンプトを送り、出力を確認してから長いドキュメントやバッチ処理へ拡張しましょう。
trust_remote_code パラメータは、Transformers コアライブラリ外でホストされる GLM 系チェックポイントに必要です。このモデルファミリーでは標準的な手法ですが、企業チームはセキュリティレビューのチェックリストに含めるべきです。
ストレージ、ネットワーク、データに関する考慮点
純粋な計算能力之外，ストレージ増加と帯域幅も計画が必要です。各バリアントは約 39.5 GB であり、law-glm-10b と law-glm-10b-v2 の両方を保持するとフットプリントは倍になります。
- ウェイトは SSD に置く — HDD から 20 GB 以上のシャードを読み込むと、起動のたびに数分余計にかかります。
- Hugging Face キャッシュの余裕を確保してください。不完全なダウンロードが破損読み込みの最も一般的な原因です。
- 安定したブロードバンド接続が重要です：35 GB 地点でダウンロードに失敗すると何時間も無駄になります。
- 評価時の混乱を避けるため、量子化コピーは FP16 のオリジナルと分けて管理してください。
ダウンロード前チェックリスト：
- 両バリアント用に 80 GB 以上の SSD 空き容量を確認
- Git LFS をインストールし Hugging Face で認証
- CUDA ドライバーのバージョンが PyTorch ビルドと一致するか確認
- HF_HOME キャッシュを十分な容量のあるドライブに設定
- フルウェイトの前に config とトークナイザーのダウンロードをテスト
モデルページには Apache-2.0 ライセンスが明記されており、研究や多くの商用目的でのローカルデプロイが許可されています。ただし本番環境への統合の前に、リポジトリ上のライセンス文を確認してください。
FAQ
Q: GPU なしで GLM Legal を実行できますか？
できますが、遅いです。32–64 GB のシステム RAM があれば、10B モデルの CPU のみでの推論は短いプロンプトに対して動作しますが、生成には数分かかることもあります。日常的に使うなら、（量子化込みで）12 GB 以上の VRAM を持つ GPU を強く推奨します。
Q: RTX 3090 または 4090 1 枚での GLM Legal 必要動作環境は？
24 GB のコンシューマー GPU がベストポイントです。law-glm-10b の FP16 ウェイトを適度なコンテキスト長で収められ、バッチサイズ 1–4 に対応し、典型的な法律 Q&A や条項要約タスクを快適に処理できます。
Q: law-glm-10b と law-glm-10b-v2 にはどれだけのディスク容量が必要ですか？
各バリアントは約 39.5 GB です。Hugging Face キャッシュのオーバーヘッドと量子化コピーの分を含め、1 つのバリアントなら 50 GB、両方保持するなら 80 GB 以上を見込んでください。
Q: GLM Legal で trust_remote_code を有効にするのは安全ですか？
GLM アーキテクチャのコードは Transformers コアライブラリではなくリポジトリから読み込まれるため、このモデルファミリーでは必須です。標準的な手法ですが、規制環境で有効にする前に、リポジトリのコードをレビューするかセキュリティチームに相談してください。