- Los pesos de GLM Legal están publicados para
law-glm-10bylaw-glm-10b-v2en Hugging Face bajo Apache-2.0. - El tamaño total del repositorio es aproximadamente 39.5 GB con 10B de parámetros por variante.
- La carga requiere
trust_remote_code=Trueporque GLM utiliza código de modelo personalizado. - Planifica la inferencia multi-GPU o la descarga a CPU; una sola GPU de consumo no podrá alojar los pesos en fp32.
- Verifica siempre las condiciones de la licencia y las citas de salida antes del uso en producción.
Descripción General de los Pesos de GLM Legal
Los pesos de GLM Legal se refieren a los checkpoints de modelos publicados públicamente de los modelos de lenguaje legales basados en GLM alojados bajo la organización law-llm en Hugging Face. Hay dos variantes disponibles: la law-glm-10b original y su sucesora law-glm-10b-v2. Ambas están construidas sobre la arquitectura GLM del repositorio THUDM/GLM y están orientadas a la comprensión de textos legales chinos, respuesta a preguntas legales y tareas de análisis de documentos.
"GLM Legal" es un nombre de sitio de contenido comunitario para estos checkpoints, no un nombre oficial confirmado de producto comercial. No confundas estos pesos con la línea de productos GLM-Legal de Z.ai ni con el proyecto de investigación de código abierto LawGLM.
| Propiedad | law-glm-10b | law-glm-10b-v2 |
|---|---|---|
| Parámetros | 10B | 10B |
| Arquitectura | GLM | GLM |
| Licencia | Apache-2.0 | Apache-2.0 |
| Tamaño del repo | ~39.5 GB | Distribución de checkpoint similar |
| Host | Hugging Face (org law-llm) | Hugging Face (org law-llm) |
| Estadísticas de descarga | Volumen mensual bajo, fluctuante | Volumen mensual bajo, fluctuante |
Variante original
- law-glm-10b
- Checkpoint GLM legal de referencia
- Enfoque en corpus legales chinos
Variante actualizada
- law-glm-10b-v2
- Versión refinada
- Consulta la tarjeta del modelo para ver los cambios
Base ascendente
- THUDM/GLM
- Fuente de la arquitectura GLM
- Código de entrenamiento e inferencia
Archivos de Pesos y Descarga
Los archivos de checkpoint se encuentran en el árbol de archivos de cada repositorio de modelo. Descárgalos mediante huggingface-cli, git lfs o la biblioteca Transformers. Dado que el repositorio es grande, prefiere las descargas por CLI reanudables en lugar de la descarga por navegador.
| Método | Ejemplo de comando | Ideal para |
|---|---|---|
| huggingface-cli | huggingface-cli download law-llm/law-glm-10b | Repositorio completo, reanudable |
| Git LFS | git clone https://huggingface.co/law-llm/law-glm-10b | Replicar el repositorio |
| Transformers | from_pretrained("law-llm/law-glm-10b") | Descarga automática al cargar |
Configura HF_HOME en un disco con al menos 80 GB de espacio libre para alojar ambas variantes más la sobrecarga de la caché. Verifica la integridad de los archivos comparando los valores SHA con el listado del árbol de archivos en la página del modelo.
Requisitos de Hardware
Ejecutar los pesos GLM de 10B de parámetros es intensivo en memoria. Usa esta tabla para planificar el despliegue antes de descargar.
| Precisión | Memoria aproximada | Configuración práctica |
|---|---|---|
| fp32 | ~40 GB | Servidor multi-GPU (2x A100 40G o similar) |
| fp16 / bf16 | ~20 GB | Una sola A100 40G, o 2x GPUs de 24 GB |
| Cuantizado de 8 bits | ~10-12 GB | Una sola GPU de 16-24 GB |
| CPU (offload) | 64 GB+ de RAM | Solo pruebas, muy lento |
Los checkpoints de GLM cargan código de modelado personalizado. Pasar trust_remote_code=True ejecuta código del repositorio localmente. Revisa el código antes de ejecutarlo y descarga los pesos únicamente de la organización oficial law-llm.
Despliegue Local Paso a Paso
Prepara el entorno
Instala Python 3.8+, PyTorch con soporte CUDA y Transformers. Confirma que la memoria de la GPU coincide con la precisión objetivo de la tabla de hardware anterior.
Descarga los pesos
Usa huggingface-cli download law-llm/law-glm-10b y verifica que los archivos del checkpoint se completen correctamente antes de cargarlos.
Carga con trust_remote_code
Llama a AutoModel.from_pretrained("law-llm/law-glm-10b", trust_remote_code=True) y carga el tokenizador de la misma manera.
Ejecuta una primera inferencia
Introduce una pregunta legal china breve con una plantilla de prompt clara. Mantén los parámetros de generación conservadores (temperatura baja) para obtener salidas legales factuales.
Valida las salidas
Verifica cada cita legal y afirmación factual contra las leyes o materiales de casos originales. Registra los casos de alucinación en tu registro de evaluación.
Lista de Verificación de Despliegue:
- Verificar el espacio en disco (80+ GB libres)
- Confirmar que la memoria de la GPU coincide con la precisión objetivo
- Revisar el código personalizado antes de usar trust_remote_code
- Probar la inferencia con una pregunta legal conocida
- Registrar la precisión de las citas y los casos de error
Una vez que la inferencia funcione sin problemas con prompts de muestra, evalúa el modelo con tu propio conjunto de documentos legales en lugar de depender únicamente de las puntuaciones de benchmarks públicos.
Licencia y Preguntas Frecuentes
Los pesos están marcados como Apache-2.0, lo que permite el uso comercial, la modificación y la redistribución con la atribución adecuada y la inclusión del aviso. Verifica la tarjeta del modelo antes del despliegue comercial, ya que las obligaciones de precisión legal posteriores siguen siendo tuyas.
Apache-2.0 cubre los pesos publicados, pero no certifica la precisión de las salidas. Cualquier flujo de trabajo de asesoría legal construido sobre los pesos de GLM Legal debe incluir la revisión de un abogado humano y comprobaciones de jurisdicción.
Q: ¿Dónde puedo descargar los pesos de GLM Legal?
Los pesos están alojados en Hugging Face bajo la organización law-llm, con repositorios separados para law-glm-10b y law-glm-10b-v2. Ambos tienen licencia Apache-2.0.
Q: ¿Qué tamaño tienen los pesos de GLM Legal?
El repositorio law-glm-10b lista aproximadamente 39.5 GB de archivos de modelo para un checkpoint de 10B de parámetros. Planifica el espacio en disco en consecuencia si conservas ambas variantes.
Q: ¿Pueden los pesos de GLM Legal ejecutarse en una sola GPU de consumo?
Solo con cuantización o descarga de carga (offloading). Los pesos de 10B a plena precisión necesitan alrededor de 40 GB de memoria, por lo que fp16 en una tarjeta de 40 GB o la cuantización de 8 bits en una tarjeta de 16-24 GB son las opciones prácticas.
Q: ¿Por qué la carga requiere trust_remote_code?
Los checkpoints de GLM incluyen código de modelado personalizado que Transformers debe ejecutar localmente. Revisa primero el código del repositorio y habilita esta opción únicamente para los repositorios oficiales de law-llm.