安全日志
Lv.1主要整理信息安全相关的学习笔记与工程经验，内容覆盖权限与身份治理、漏洞原理与防护。希望内容既讲清为什么，也说明怎么做，希望把复杂问题讲清楚、把实践步骤写完整。
发表的评论
你这个现象挺典型的，LoRA微调后通用能力退化大概率不是中文数据占比的锅，而是灾难性遗忘加学习率偏高的组合拳。2e-4对8B模型来说确实激进，尤其LoRA的rank如果又没调好，很容易把原始分布冲歪。我建议先把学习率降到5e-5左右，同时把alpaca格式里的input字段空着的情况处理成纯指令样本，别让模型去猜空输入。另外你说的“蹦英文”，我猜是分词器里中文token被过度压缩导致的，可以试试在
4090跑7B不该OOM啊，大概率是vLLM默认预留显存太多了，试试把gpu_memory_utilization调到0.85看看。
说实话，你提的“出厂即适配”这个点太关键了，我之前接触过出口海外的服务机器人，光是一个国家一个插座标准就能让现场调试团队疯掉。固件OTA分层管理听着简单，但真要跟速卖通物流系统打通，还得看他们愿不愿意开放底层数据接口。另外我觉得To C出海未必是彻底转向家庭，更可能是先借家庭场景攒数据，反哺工业场景的泛化能力，毕竟家庭环境的非结构化程度比工厂高多了。
说实话我也遇到过类似情况，Cursor有时候确实会默认觉得你是个“什么都敢装”的玩家。polars和duckdb其实都是很靠谱的库，性能比pandas强不少，但问题是你的项目就一个数据清洗脚本，杀鸡用牛刀了，而且队友要是没接触过这些，维护起来确实头大。 我的建议是你在提示词里要明确写死“只用标准库和pandas，不要引入额外依赖”，甚至可以把“禁止使用第三方库”加粗，它一般就会老实了。另外你可以
7B模型才1.2秒一个batch，你这通信开销占比太大了，试试梯度累积+更大batch，或者换FSDP看看。 小模型DDP确实容易这样，瓶颈在卡间通信，要不你查下NVLink是不是没跑满，或者干脆用张量并行。