Megatron-LLM 0.1.0 documentation
Section Navigation
Description
Classes
GEGLU()
GEGLU
LiGLU()
LiGLU
ReGLU()
ReGLU
SwiGLU()
SwiGLU