超参调整如何手动设置初始值（如学习率、warmup、batch size、正则化、dropout、激活函数）？

回答思路

1. 能说明学习率、batch size、warmup 等参数的常见经验范围
2. 能阐述各参数之间的相互影响和调整优先级
3. 能结合实际任务给出合理的初始值设定思路