megatron.optimizer.grad_scaler.ConstantGradScaler#

class megatron.optimizer.grad_scaler.ConstantGradScaler(initial_scale)#

Bases: MegatronGradScaler