diff --git a/11月8日本周科研工作进展.md b/11月8日本周科研工作进展.md index 7cf3f24..6fe0f2d 100644 --- a/11月8日本周科研工作进展.md +++ b/11月8日本周科研工作进展.md @@ -94,7 +94,7 @@ torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=1.0) # 下周任务 #### 1.优化投影头结构与训练流程,提升训练效果 -###目前思路 +### 目前思路 ## 1.InfoNCE阶段 stage1,训练两个mlp都没有的模型; 0-19epoch stage2,编码器q、k都增加一个mlp层a/b,冻结编码器参数,专心调整mlp; 20-24epoch