Instructions to use yuxinlu1/qwen3-6-27b-chinese-crime-fiction-lora-v2 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use yuxinlu1/qwen3-6-27b-chinese-crime-fiction-lora-v2 with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("C:\\AI\\models\\Qwen3.6-27B-HF") model = PeftModel.from_pretrained(base_model, "yuxinlu1/qwen3-6-27b-chinese-crime-fiction-lora-v2") - Notebooks
- Google Colab
- Kaggle
lora的使用反馈
测试方法:
*两套user prompt。1、列出场人物并注明关系+非结构化详细plot point+篇幅要求+Show, Don't Tell的Narrative note;2、一句话简略摘要+列出场人物并注明关系+篇幅要求;
*使用官方模型为user prompt 1找到3个 正文中有“我”视角 的seed(有明文“我”,但只算是伪第1人称);
*用两套user prompt 交叉 3个seed 挂载此仓库的lora后输出;
*system prompt明确要求CoT,采样参数使用官方建议的通用任务设置。未指定视角。
结果:
1、正文输出字数减少。(所有seed)
2、对白占比减少明显,但无法统计出旁述的感官化描写是否增加,因为在1个seed的两套user prompt中均发现它输出“我知道他在想什么……”之类的来用第1人称描写其它角色的内心状态。(官方模型输出中没有相关内容,属于使用lora后新增的细节。我判定这和“某某心想:”等效。)
3、user prompt 1中“我”的身份互换。官方模型中2个seed以事件执行者为“我”,1个seed以事件旁观者为“我”(还有1个事件承受者)。而此仓库的lora输出,3个seed都将“我”的身份在事件执行者/事件旁观者间进行了对调。
4、对话句子的改善明显。官方模型会在 前后两对引号之间 写出超60字的人物动作+感性修辞。在此仓库的lora的输出中,未发现这种情况。说话内容不自然、强行抖线索的长句的情况略有改善,也可能属于样本太少的偏差,因为共6个输出里发现了两处在对白引号内写“某人曾对我说[内容陈述总结]”这样的偏好(导致句子过长,当然这可以用提示词约束),在官方模型的输出中未发现。
5、总结性收尾/过渡偏好的纠正。官方模型特别喜欢用心境、环境音/影描写、价值/道德评述来强行收尾或形成一种“我要切情景了”的过渡(5个seed用了3段较长篇幅。均未在prompt中去要求)。仓库的lora输出有4个seed有这种倾向,但均篇幅较短,有3个seed使用“可视化”描写的来进行收束(例如:雷子走过来,递给我一杯水。我接过来,没喝,只是看着水面上的倒影。倒影里,有我的脸,有……),而非空泛的情绪化文字。
6、仍有不少受限视角中不应该知道的信息,被不合理的写出来。如“某某指尖带着凉意……”,此时“我”的身份既不是动作施加者,也不是动作承受者,可就是喜欢起“凉意”这种本来不应该知道的东西。(官方模型固有的习惯,只是lora对此并没有明显的纠正。)
7、CoT中的预写明显变长。看了此仓库的自述文档,并没有涉及思维链方面的调整。但6个seed中,user prompt 1的3个seed和user prompt 2的1个seed,均用了超长的篇幅在CoT中去预写。在官方模型输出时,CoT进行预写的seed共3个,但所用篇幅均较短。
8、用语更精准,但不太通俗。这个变化没去统计,只是和我之前用的qwen3.5-27b对照看较明显的印象。例如:[官方]摸了那块透明的地方/[lora]摸了透明区域的外侧;[自用3.5]像被捂住嘴的猫/[lora]像被电击;[自用3.5]……拍在那醒目的按钮上,没有丝毫犹豫。/[lora]在控制台前,按下启动键。
9、(你没有提及的改善)使用user prompt 1时,输出正文的节奏安排更偏向传统作家,而非流行的网络小说。官方模型输出,有前期极度发散,后期赶工写完plot point的现象。而此仓库的lora输出,在3个seed中,都不同程度的缓解了这种现象(测试中要求的篇幅为5000中文字符)。看你的介绍,应该没有针对细致提纲进行训练。但在使用这样的prompt时,它不会追求网络小说常见“临场感”而将文字划分成很零碎的小段落(如频繁使用拟声词、同一场景使用流动视角频繁切换)。
感谢这么细的反馈,说实话你写得这些问题比我自己跑的时候对照都清楚。 你提到的几个问题我刚刚检查训练集时的确都对上了,数据集数据分布并不是完全均匀的,所以出现了这些问题,我之后如果推出v3版本的话,会重做训练集,对齐阶段可能在还会尝试KTO或 GRPO等。尤其是你把"我"的身份在事件执行者和旁观者之间对调这点观察出来,对我帮助很大,之前我没从这个角度去审视过训练集的角色分布。