- GLM Legal 가중치는 Hugging Face의
law-llm조직에서law-glm-10b및law-glm-10b-v2로 Apache-2.0 라이선스 하에 공개되었습니다. - 전체 리포지토리 크기는 약 39.5 GB이며, 각 변형당 10B 파라미터입니다.
- GLM은 커스텀 모델 코드를 사용하므로 로드 시
trust_remote_code=True가 필요합니다. - 멀티 GPU 추론 또는 CPU 오프로딩을 계획하세요. 단일 소비자용 GPU로는 fp32 가중치를 수용할 수 없습니다.
- 상용 사용 전에 라이선스 조건과 출력 인용을 항상 확인하세요.
GLM Legal 가중치 개요
GLM Legal 가중치는 Hugging Face의 law-llm 조직에서 호스팅되는 GLM 기반 법률 언어 모델의 공개된 모델 체크포인트를 의미합니다. 두 가지 변형이 제공됩니다: 원본 law-glm-10b와 후속 버전인 law-glm-10b-v2입니다. 두 버전 모두 THUDM/GLM 리포지토리의 GLM 아키텍처를 기반으로 하며, 중국어 법률 텍스트 이해, 법률 질의응답, 문서 분석 작업에 초점이 맞춰져 있습니다.
"GLM Legal"은 이 체크포인트에 대한 커뮤니티 콘텐츠 사이트의 명칭일 뿐, 공식 상용 제품명으로 확인된 것이 아닙니다. 이 가중치를 Z.ai의 GLM-Legal 제품군이나 LawGLM 오픈소스 연구 프로젝트와 혼동하지 마세요.
| 속성 | law-glm-10b | law-glm-10b-v2 |
|---|---|---|
| 파라미터 | 10B | 10B |
| 아키텍처 | GLM | GLM |
| 라이선스 | Apache-2.0 | Apache-2.0 |
| 리포지토리 크기 | 약 39.5 GB | 유사한 체크포인트 구성 |
| 호스트 | Hugging Face (law-llm 조직) | Hugging Face (law-llm 조직) |
| 다운로드 통계 | 월간 볼륨 낮음, 변동 있음 | 월간 볼륨 낮음, 변동 있음 |
원본 변형
- law-glm-10b
- 기준 법률 GLM 체크포인트
- 중국어 법률 코퍼스 중심
업데이트 변형
- law-glm-10b-v2
- 개선된 릴리스
- 변경 사항은 모델 카드 확인
업스트림 베이스
- THUDM/GLM
- GLM 아키텍처 소스
- 학습 및 추론 코드
가중치 파일 및 다운로드
체크포인트 파일은 각 모델 리포지토리의 파일 트리에 있습니다. huggingface-cli, git lfs 또는 Transformers 라이브러리를 통해 다운로드하세요. 리포지토리 용량이 크므로 브라우저 다운로드보다 재개 가능한 CLI 다운로드를 권장합니다.
| 방법 | 명령어 예시 | 적합한 용도 |
|---|---|---|
| huggingface-cli | huggingface-cli download law-llm/law-glm-10b | 전체 리포지토리, 재개 가능 |
| Git LFS | git clone https://huggingface.co/law-llm/law-glm-10b | 리포지토리 미러링 |
| Transformers | from_pretrained("law-llm/law-glm-10b") | 로드 시 자동 다운로드 |
두 변형과 캐시 오버헤드를 수용하려면 최소 80 GB의 여유 공간이 있는 디스크에 HF_HOME을 설정하세요. 모델 페이지의 파일 트리 목록과 SHA 값을 비교하여 파일 무결성을 검증하세요.
하드웨어 요구 사항
10B 파라미터 GLM 가중치를 실행하는 것은 메모리 집약적입니다. 다운로드 전에 이 표를 활용해 배포를 계획하세요.
| 정밀도 | 대략적 메모리 | 실용적인 구성 |
|---|---|---|
| fp32 | 약 40 GB | 멀티 GPU 서버 (2x A100 40G 등) |
| fp16 / bf16 | 약 20 GB | 단일 A100 40G 또는 2x 24 GB GPU |
| 8비트 양자화 | 약 10-12 GB | 단일 16-24 GB GPU |
| CPU (오프로드) | 64 GB+ RAM | 테스트 전용, 매우 느림 |
GLM 체크포인트는 커스텀 모델링 코드를 로드합니다. trust_remote_code=True를 전달하면 리포지토리 코드가 로컬에서 실행됩니다. 실행 전에 코드를 검토하고, 공식 law-llm 조직에서만 가중치를 받으세요.
단계별 로컬 배포
환경 준비
Python 3.8 이상, CUDA 지원 PyTorch, Transformers를 설치하세요. 위 하드웨어 표의 목표 정밀도에 GPU 메모리가 부합하는지 확인하세요.
가중치 다운로드
huggingface-cli download law-llm/law-glm-10b를 사용하고, 로드하기 전에 체크포인트 파일이 완전히 다운로드되었는지 확인하세요.
trust_remote_code로 로드
AutoModel.from_pretrained("law-llm/law-glm-10b", trust_remote_code=True)를 호출하고, 토크나이저도 동일한 방식으로 로드하세요.
첫 추론 실행
명확한 프롬프트 템플릿과 함께 짧은 중국어 법률 질문을 입력하세요. 사실에 기반한 법률 출력을 위해 생성 파라미터는 보수적으로(낮은 temperature) 유지하세요.
출력 검증
모든 법률 인용과 사실적 주장을 원본 법령이나 판례 자료와 대조 확인하세요. 평가 로그를 위해 환각(hallucination) 사례를 기록하세요.
배포 체크리스트:
- 디스크 여유 공간 확인 (80 GB 이상)
- GPU 메모리가 목표 정밀도에 부합하는지 확인
- trust_remote_code 사용 전 커스텀 코드 검토
- 알려진 법률 질문으로 추론 테스트
- 인용 정확도 및 오류 사례 기록
샘플 프롬프트에서 추론이 원활하게 실행되면, 공개 벤치마크 점수에만 의존하지 말고 자체 법률 문서 세트로 모델을 벤치마크하세요.
라이선스 및 FAQ
이 가중치는 Apache-2.0으로 표기되어 있으며, 적절한 저작권 표시와 고지 포함 시 상업적 사용, 수정, 재배포를 허용합니다. 상업적 배포 전에 모델 카드를 확인하세요. 다운스트림 법률 정확성 의무는 사용자에게 남아 있습니다.
Apache-2.0은 공개된 가중치를 포괄하지만, 출력 정확도를 보증하지 않습니다. GLM Legal 가중치를 기반으로 구축된 법률 자문 워크플로에는 변호사의 검토와 관할권 확인이 포함되어야 합니다.
Q: GLM Legal 가중치는 어디서 다운로드할 수 있나요?
가중치는 Hugging Face의 law-llm 조직에서 호스팅되며, law-glm-10b와 law-glm-10b-v2는 별도의 리포지토리로 제공됩니다. 둘 다 Apache-2.0 라이선스입니다.
Q: GLM Legal 가중치의 크기는 얼마나 되나요?
law-glm-10b 리포지토리에는 10B 파라미터 체크포인트에 대해 약 39.5 GB의 모델 파일이 있습니다. 두 변형을 모두 보관할 경우 디스크 공간을 그에 맞게 계획하세요.
Q: GLM Legal 가중치는 단일 소비자용 GPU에서 실행할 수 있나요?
양자화 또는 오프로딩을 사용하는 경우에만 가능합니다. 전체 정밀도 10B 가중치는 약 40 GB의 메모리가 필요하므로, 40 GB 카드에서 fp16 또는 16-24 GB 카드에서 8비트 양자화가 실용적인 선택지입니다.
Q: 로드에 trust_remote_code가 필요한 이유는 무엇인가요?
GLM 체크포인트에는 Transformers가 로컬에서 실행해야 하는 커스텀 모델링 코드가 포함되어 있습니다. 먼저 리포지토리 코드를 검토하고, 공식 law-llm 리포지토리에만 이 플래그를 활성화하세요.