Aller au contenu
ModelPrésentéExterne
Télécharger

Qwen3 8B LegalCitation GRPO 200

基于 Qwen/Qwen3-8B 的 rank-64 GRPO LoRA。训练奖励只使用可确定验证的法条引用信号,覆盖 nocontext、ragclean 和 ragdistractor 三种模式。

TypeOtherModèle de baseQwen/Qwen3-8BVersionRevision 8a2cee9BClasse

Source du modèle

Type
Other
Taille du fichier
666 MB
Modèle de base
Qwen/Qwen3-8B
Version
vRevision 8a2cee9
Mis à jour
20 oct. 2026
Téléchargements
12
Source
Hugging Face

Description de la source

Qwen3-8B LegalCitation GRPO 200

基于 Qwen/Qwen3-8B 的 rank-64 GRPO LoRA。训练奖励只使用可确定验证的法条引用信号,覆盖 no_context、rag_clean 和 rag_distractor 三种模式。

dev84 结果

指标BaseGRPO-200
no-context 无依据引用行40/4236/42
RAG grounded citation precision0.77030.7874
RAG required 行召回率0.83330.9286
RAG required marker coverage0.67650.7794
正常停止行41/8449/84
语义均分变化--0.039

模型最终判定为 FAIL:引用精度、no-context 无依据引用、停止与重复等硬门禁仍未全部通过。它是行为移动研究 checkpoint,不是部署就绪模型。

加载

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

adapter = "haofue2i1z3/Qwen3-8B-LegalCitation-GRPO-200"
base = "Qwen/Qwen3-8B"

tokenizer = AutoTokenizer.from_pretrained(adapter, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(base, device_map="auto", torch_dtype="auto")
model = PeftModel.from_pretrained(model, adapter)

限制

  • 无 RAG 上下文时仍可能生成无依据法条。
  • 强化学习移动的是输出分布期望,不能替代运行时引用校验。
  • 仅供研究与作品展示,不提供法律服务。

Sources

1 source
Hugging FacePrincipalVersion 8a2cee9c570a968b75d63be439dd8d7dce5a644f
huggingface.co/haofue2i1z3/Qwen3-8B-LegalCitation-GRPO-200/tree/8a2cee9c570a968b75d63be439dd8d7dce5a644f

Vérifié 20 oct.

Artefacts du modèle

1 artefact

adapter_model.safetensors

safetensors · 666 MB · SHA-256 2de202e3419b…60ca · Hugging Face

Download file

Extraits de sources

3 extraits

--- language: - zh license: apache-2.0 base_model: Qwen/Qwen3-8B library_name: peft pipeline_tag: text-generation tags: - legal - chinese - lora - grpo - rag --- # Qwen3-8B LegalCitation GRPO 200 基于 `Qwen/Qwen3-8B` 的 rank-64 GRPO LoRA。训练奖励只使用可确定验证的法条引用信号,覆盖 `no_context`、`rag_clean` 和 `rag_distractor` 三种模式。 ## dev84 结果 | 指标 | Base | GRPO-200 | |---|---:|---:| | no-context 无依据引用行 | 40/42 | 36/42 | | RAG grounded citation precision | 0.7703 | 0.7874 | | RAG required 行召回率 | 0.8333 | 0.9286 | | RAG required marker coverage | 0.6765 | 0.7794 | | 正常停止行 | 41/84 | 49/84 | | 语义均分变化 | - | -0.039 | 模型最终判定为 `FAIL`:引用精度、no-context 无依据引用、停止与重复等硬门禁仍未全部通过。它是行为移动研究 checkpoint,不是部署就绪模型。 ## 加载 ```python from transformers import AutoModelForCausalLM, AutoTokenizer from peft import PeftModel adapter = "haofue2i1z3/Qwen3-8B-LegalCitation-GRPO-200" base = "Qwen/Qwen3-8B" tokenizer = AutoTokenizer.from_pretrained(adapter, trust_remote_code=True) model = AutoModelForCausalLM.from_pretrained(base, device_map="auto", torch_dtype="auto") model = PeftModel.from_pretrained(model, adapter) ``` ## 限制 - 无 RAG 上下文时仍可能生成无依据法条。 - 强化学习移动的是输出分布期望,不能替代运行时引用校验。 - 仅供研究与作品展示,不提供法律服务。

Source context: 12 downloads · 0 likes · Pipeline text-generation · Library peft · Repo haofue2i1z3/Qwen3-8B-LegalCitation-GRPO-200

Source context: 16 downloads · 0 likes · Pipeline text-generation · Library peft · Repo haofue2i1z3/Qwen3-8B-LegalCitation-GRPO-200