- GLM Legal ウェイトは、Hugging Face 上の
law-llmおよびlaw-glm-10b-v2として Apache-2.0 ライセンスで公開されています。 - リポジトリの合計サイズは約 39.5 GB で、各バリアントは 10B パラメータ です。
- GLM はカスタムモデルコードを使用するため、読み込みには
trust_remote_code=Trueが必要です。 - マルチ GPU 推論または CPU オフロードを計画してください。単一のコンシューマー GPU には fp32 ウェイトが収まりません。
- 本番利用の前に、必ずライセンス条件と出力の引用を確認してください。
GLM Legal ウェイトの概要
GLM Legal ウェイトとは、Hugging Face の law-llm 組織で公開されている GLM ベースの法律特化言語モデルのチェックポイントを指します。2つのバリアントが用意されています:オリジナルの law-glm-10b と後継の law-glm-10b-v2 です。どちらも THUDM/GLM リポジトリの GLM アーキテクチャをベースにしており、中国語の法律テキスト理解、法律 Q&A、文書分析タスクに向けたものです。
「GLM Legal」はこれらのチェックポイントに対するコミュニティコンテンツサイト上の名称であり、公式な商用製品名として確認されたものではありません。これらのウェイトを、Z.ai の GLM-Legal 製品ラインや LawGLM オープンソース研究プロジェクトと混同しないでください。
| 項目 | law-glm-10b | law-glm-10b-v2 |
|---|---|---|
| パラメータ数 | 10B | 10B |
| アーキテクチャ | GLM | GLM |
| ライセンス | Apache-2.0 | Apache-2.0 |
| リポジトリサイズ | 約 39.5 GB | 同様のチェックポイント構成 |
| ホスト | Hugging Face(law-llm 組織) | Hugging Face(law-llm 組織) |
| ダウンロード統計 | 月間少数、変動あり | 月間少数、変動あり |
オリジナル版
- law-glm-10b
- ベースラインとなる法律 GLM チェックポイント
- 中国語法律コーパスに特化
アップデート版
- law-glm-10b-v2
- 改良されたリリース
- 変更点はモデルカードを確認
上流ベース
- THUDM/GLM
- GLM アーキテクチャのソース
- 学習・推論コード
ウェイトファイルとダウンロード
チェックポイントファイルは各モデルリポジトリのファイルツリーにあります。huggingface-cli、git lfs、または Transformers ライブラリからダウンロードできます。リポジトリが大きいため、ブラウザでの取得よりも再開可能な CLI ダウンロードを推奨します。
| 手法 | コマンド例 | 適した用途 |
|---|---|---|
| huggingface-cli | huggingface-cli download law-llm/law-glm-10b | リポジトリ全体、再開可能 |
| Git LFS | git clone https://huggingface.co/law-llm/law-glm-10b | リポジトリのミラーリング |
| Transformers | from_pretrained("law-llm/law-glm-10b") | 読み込み時に自動取得 |
HF_HOME を、両バリアントとキャッシュのオーバーヘッドを収容できる 80 GB 以上の空き容量があるディスクに設定してください。モデルページのファイルツリー一覧と SHA 値を照合して、ファイル整合性を検証しましょう。
ハードウェア要件
10B パラメータの GLM ウェイトの実行はメモリを大量に消費します。ダウンロード前に、この表でデプロイ計画を立ててください。
| 精度 | 必要メモリ(目安) | 実用的な構成 |
|---|---|---|
| fp32 | 約 40 GB | マルチ GPU サーバー(2x A100 40G など) |
| fp16 / bf16 | 約 20 GB | 単一 A100 40G、または 2x 24 GB GPU |
| 8 ビット量子化 | 約 10-12 GB | 単一の 16-24 GB GPU |
| CPU(オフロード) | 64 GB 以上の RAM | テスト専用、非常に低速 |
GLM チェックポイントはカスタムモデリングコードを読み込みます。trust_remote_code=True を渡すと、リポジトリのコードがローカルで実行されます。実行前にコードをレビューし、公式の law-llm 組織からのみウェイトを取得してください。
ローカルデプロイの手順
環境を準備する
Python 3.8 以上、CUDA 対応の PyTorch、Transformers をインストールします。上記のハードウェア表を参考に、GPU メモリが目標精度に合致していることを確認してください。
ウェイトをダウンロードする
huggingface-cli download law-llm/law-glm-10b を実行し、読み込み前にチェックポイントファイルが正常に完了したことを確認します。
trust_remote_code で読み込む
AutoModel.from_pretrained("law-llm/law-glm-10b", trust_remote_code=True) を呼び出し、トークナイザーも同様に読み込みます。
初回推論を実行する
明確なプロンプトテンプレートとともに短い中国語の法律質問を入力します。事実に基づいた法律出力のために、生成パラメータは控えめ(低温度)に保ちましょう。
出力を検証する
すべての法律引用と事実的主張を、元の法令や判例資料と照合してください。ハルシネーションの事例は評価ログに記録しましょう。
デプロイ チェックリスト:
- ディスク空き容量を確認(80 GB 以上)
- GPU メモリが目標精度に合致しているか確認
- trust_remote_code の前にカスタムコードをレビュー
- 既知の法律質問で推論をテスト
- 引用の正確性とエラー事例を記録
サンプルプロンプトで推論が正常に動作したら、公開ベンチマークスコアのみに頼らず、独自の法律文書セットでモデルを評価しましょう。
ライセンスと FAQ
ウェイトは Apache-2.0 と明記されており、適切な帰属と通知の記載の下で商用利用・改変・再配布が許可されます。下流の法的正確性に関する責任は利用者側にあるため、商用デプロイの前にモデルカードを確認してください。
Apache-2.0 は公開されたウェイトを対象とし、出力の正確性を保証するものではありません。GLM Legal ウェイトで構築する法律アドバイスのワークフローには、弁護士によるレビューと管轄の確認を含めるべきです。
Q: GLM Legal ウェイトはどこでダウンロードできますか?
ウェイトは Hugging Face の law-llm 組織でホストされており、law-glm-10b と law-glm-10b-v2 のそれぞれに個別のリポジトリがあります。どちらも Apache-2.0 ライセンスです。
Q: GLM Legal ウェイトのサイズはどのくらいですか?
law-glm-10b リポジトリには、10B パラメータのチェックポイントとして約 39.5 GB のモデルファイルが含まれています。両バリアントを保持する場合は、それに応じたディスク容量を計画してください。
Q: GLM Legal ウェイトは単一のコンシューマー GPU で動作しますか?
量子化またはオフロードを使用する場合のみ可能です。フル精度の 10B ウェイトは約 40 GB のメモリを必要とするため、40 GB カードでの fp16、または 16-24 GB カードでの 8 ビット量子化が現実的な選択肢です。
Q: 読み込みに trust_remote_code が必要なのはなぜですか?
GLM チェックポイントには、Transformers がローカルで実行する必要があるカスタムモデリングコードが含まれています。まずリポジトリのコードをレビューし、このフラグは公式の law-llm リポジトリに対してのみ有効化してください。