Folia
← 返回头版

开发者发布微调Qwen3-4B模型,消除AI写作套路

开发者Erik Kannike在Hacker News上推出了Qwen3-4B的改进版本,通过蒸馏学习和神经元编辑技术有针对性地移除了AI生成文本中的常见写作陈词滥调。1这些问题包括过度使用破折号、修辞问题和三项列表等特征化表达。该模型的AI写作陈词滥调评分从原始版本的121大幅下降至12.5,取得了显著的改善。1

该微调模型经历了三轮迭代训练过程。1第一轮的教师模型得分约为20,第二轮进一步优化至7.4,最终学生模型的得分稳定在9.9。1在第三轮训练中,教师模型在288个训练提示中约30%的答案通过了所有检查,覆盖了161个提示。1最终模型任务匹配度恢复至80%,"which"连接符的使用频率从1.4降至0.3/百词。1

该模型体积仅为2.5GB,可在MacBook Air等本地设备上通过Ollama框架运行,为用户提供了不依赖云服务获得更自然文本输出的选择。1


评论