LLaMA-Factory训练可视化：Loss曲线与指标监控

【免费下载链接】LlamaFactoryUnified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)项目地址: https://gitcode.com/GitHub_Trending/ll/LlamaFactory

在大型语言模型（LLM, Large Language Model）微调过程中，实时监控训练指标是确保模型质量的关键环节。LLaMA-Factory作为一站式LLM微调框架，内置了完善的训练可视化工具，帮助开发者通过Loss曲线、性能指标等直观判断模型训练状态。本文将详细介绍如何利用LLaMA-Factory的可视化功能追踪训练过程，定位常见问题，并优化模型性能。

可视化模块架构

LLaMA-Factory的可视化功能主要通过src/llamafactory/extras/ploting.py模块实现，该模块依赖Matplotlib绘制静态图表，并与训练日志系统深度集成。核心功能包括：

• 数据平滑处理：采用EMA（指数移动平均）算法消除Loss波动噪声
• 多指标绘图：支持训练Loss、验证准确率等关键指标可视化
• 自动文件保存：训练过程中自动生成PNG格式图表并保存至指定目录

图1：LLaMA-Factory可视化模块与训练流程的集成关系

Loss曲线绘制原理

Loss曲线是反映模型训练状态最直观的指标。LLaMA-Factory采用改进的EMA平滑算法处理原始Loss数据，具体实现如下：

def smooth(scalars: list[float]) -> list[float]: r"""EMA implementation according to TensorBoard.""" if len(scalars) == 0: return [] last = scalars[0] smoothed = [] # 动态权重计算：根据数据量自适应平滑强度 weight = 1.8 * (1 / (1 + math.exp(-0.05 * len(scalars))) - 0.5) for next_val in scalars: smoothed_val = last * weight + (1 - weight) * next_val smoothed.append(smoothed_val) last = smoothed_val return smoothed

src/llamafactory/extras/ploting.py中的平滑函数通过Sigmoid动态调整权重，在数据量较少时保留更多细节，数据量较大时增强平滑效果，解决了传统固定权重EMA在不同训练阶段的适应性问题。

实战：生成训练Loss曲线

基础使用方法

LLaMA-Factory在训练结束后会自动调用plot_loss函数生成可视化结果，默认保存路径为训练日志目录。典型调用流程如下：

# 从训练日志JSON文件加载数据 with open(os.path.join(save_dictionary, TRAINER_STATE_NAME), encoding="utf-8") as f: data = json.load(f) # 提取Loss数据并绘图 steps, metrics = [], [] for i in range(len(data["log_history"])): if "loss" in data["log_history"][i]: steps.append(data["log_history"][i]["step"]) metrics.append(data["log_history"][i]["loss"]) # 绘制原始曲线与平滑曲线 plt.plot(steps, metrics, color="#1f77b4", alpha=0.4, label="original") plt.plot(steps, smooth(metrics), color="#1f77b4", label="smoothed")

src/llamafactory/extras/ploting.py中的plot_loss函数实现了完整的绘图逻辑，生成的PNG图片默认保存路径为：

<训练输出目录>/training_loss.png

自定义指标监控

除默认Loss曲线外，用户可通过修改配置文件添加自定义监控指标。例如在训练配置YAML文件中添加：

# 示例：examples/train_lora/llama3_lora_sft.yaml training_args: logging_steps: 10 evaluation_strategy: steps eval_steps: 50 metric_for_best_model: accuracy

examples/train_lora/llama3_lora_sft.yaml配置文件中设置的logging_steps和eval_steps参数控制日志记录频率，配合src/llamafactory/train/sft/metric.py中的自定义指标计算函数，可实现准确率、BLEU分数等多维度指标的可视化监控。

常见问题诊断与解决

通过分析Loss曲线形态，可快速定位训练过程中的典型问题：

例如当Loss曲线出现持续震荡时，可通过修改examples/train_lora/llama3_lora_sft.yaml中的训练参数：

finetuning_args: learning_rate: 5e-6 # 降低学习率 warmup_ratio: 0.1 # 增加预热比例

高级可视化技巧

多实验对比分析

通过修改src/llamafactory/extras/ploting.py中的plot_loss函数，可实现多组实验结果对比：

# 扩展plot_loss函数支持多日志目录 def plot_multiple_runs(log_dirs: list[str], keys: list[str] = ["loss"]): for log_dir in log_dirs: with open(os.path.join(log_dir, TRAINER_STATE_NAME), encoding="utf-8") as f: data = json.load(f) # 提取并绘制各实验曲线 # ...

修改后的函数可生成包含多条Loss曲线的对比图，便于分析不同超参数组合的影响。

集成TensorBoard

对于需要实时监控的场景，LLaMA-Factory支持与TensorBoard集成。在训练命令中添加--report_to tensorboard参数即可启用：

python src/train.py \ --config examples/train_lora/llama3_lora_sft.yaml \ --report_to tensorboard

启动TensorBoard后可查看动态更新的Loss曲线：

tensorboard --logdir=./runs

总结与扩展

LLaMA-Factory的训练可视化模块通过src/llamafactory/extras/ploting.py提供了开箱即用的Loss曲线绘制功能，结合灵活的配置系统和扩展接口，可满足从基础监控到高级分析的全流程需求。建议开发者在模型微调过程中重点关注：

1. 训练初期Loss下降趋势（前100步）
2. 平滑曲线与原始曲线的偏差程度
3. 验证指标与训练Loss的一致性

通过本文介绍的可视化方法，开发者可显著提升模型调优效率，减少盲目实验带来的时间成本。更多高级用法可参考官方文档README_zh.md中的"训练监控"章节，或参与社区讨论获取定制化分析方案。

提示：训练可视化结果默认保存在训练输出目录的training_*.png文件中，结合examples/inference/llama3.yaml配置的模型推理参数，可实现"监控-评估-调优"的闭环工作流。

【免费下载链接】LlamaFactoryUnified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)项目地址: https://gitcode.com/GitHub_Trending/ll/LlamaFactory