|
16 | 16 |
|
17 | 17 | from __future__ import annotations |
18 | 18 |
|
| 19 | +from megatron.bridge.peft.base import PEFT |
19 | 20 | from megatron.bridge.recipes.gemma.h100 import gemma2 as _h100_module |
20 | 21 | from megatron.bridge.recipes.gemma.h100.gemma2 import ( |
21 | 22 | _adjust_gemma2_vocab_size, |
22 | 23 | ) |
23 | | -from megatron.bridge.recipes.utils.aliases import call_h100_recipe |
24 | 24 | from megatron.bridge.training.config import ConfigContainer |
25 | 25 |
|
26 | 26 |
|
27 | 27 | AutoBridge = _h100_module.AutoBridge |
28 | 28 |
|
29 | 29 |
|
30 | | -def gemma2_27b_peft_config(*args: object, **kwargs: object) -> ConfigContainer: |
31 | | - """Compatibility alias for ``gemma2_27b_lora_4gpu_h100_bf16_config``.""" |
32 | | - return call_h100_recipe( |
33 | | - globals(), |
34 | | - _h100_module, |
35 | | - _h100_module.gemma2_27b_lora_4gpu_h100_bf16_config, |
36 | | - *args, |
37 | | - **kwargs, |
38 | | - ) |
| 30 | +def gemma2_27b_peft_config(peft_scheme: str | PEFT = "lora") -> ConfigContainer: |
| 31 | + """Compatibility alias for ``gemma2_27b_peft_4gpu_h100_bf16_config``.""" |
| 32 | + _h100_module.AutoBridge = AutoBridge |
| 33 | + return _h100_module.gemma2_27b_peft_4gpu_h100_bf16_config(peft_scheme=peft_scheme) |
39 | 34 |
|
40 | 35 |
|
41 | | -def gemma2_27b_pretrain_config(*args: object, **kwargs: object) -> ConfigContainer: |
| 36 | +def gemma2_27b_pretrain_config() -> ConfigContainer: |
42 | 37 | """Compatibility alias for ``gemma2_27b_pretrain_16gpu_h100_bf16_config``.""" |
43 | | - return call_h100_recipe( |
44 | | - globals(), |
45 | | - _h100_module, |
46 | | - _h100_module.gemma2_27b_pretrain_16gpu_h100_bf16_config, |
47 | | - *args, |
48 | | - **kwargs, |
49 | | - ) |
| 38 | + _h100_module.AutoBridge = AutoBridge |
| 39 | + return _h100_module.gemma2_27b_pretrain_16gpu_h100_bf16_config() |
50 | 40 |
|
51 | 41 |
|
52 | | -def gemma2_27b_sft_config(*args: object, **kwargs: object) -> ConfigContainer: |
| 42 | +def gemma2_27b_sft_config() -> ConfigContainer: |
53 | 43 | """Compatibility alias for ``gemma2_27b_sft_16gpu_h100_bf16_config``.""" |
54 | | - return call_h100_recipe( |
55 | | - globals(), |
56 | | - _h100_module, |
57 | | - _h100_module.gemma2_27b_sft_16gpu_h100_bf16_config, |
58 | | - *args, |
59 | | - **kwargs, |
60 | | - ) |
61 | | - |
62 | | - |
63 | | -def gemma2_2b_peft_config(*args: object, **kwargs: object) -> ConfigContainer: |
64 | | - """Compatibility alias for ``gemma2_2b_lora_1gpu_h100_bf16_config``.""" |
65 | | - return call_h100_recipe( |
66 | | - globals(), |
67 | | - _h100_module, |
68 | | - _h100_module.gemma2_2b_lora_1gpu_h100_bf16_config, |
69 | | - *args, |
70 | | - **kwargs, |
71 | | - ) |
72 | | - |
73 | | - |
74 | | -def gemma2_2b_pretrain_config(*args: object, **kwargs: object) -> ConfigContainer: |
| 44 | + _h100_module.AutoBridge = AutoBridge |
| 45 | + return _h100_module.gemma2_27b_sft_16gpu_h100_bf16_config() |
| 46 | + |
| 47 | + |
| 48 | +def gemma2_2b_peft_config(peft_scheme: str | PEFT = "lora") -> ConfigContainer: |
| 49 | + """Compatibility alias for ``gemma2_2b_peft_1gpu_h100_bf16_config``.""" |
| 50 | + _h100_module.AutoBridge = AutoBridge |
| 51 | + return _h100_module.gemma2_2b_peft_1gpu_h100_bf16_config(peft_scheme=peft_scheme) |
| 52 | + |
| 53 | + |
| 54 | +def gemma2_2b_pretrain_config() -> ConfigContainer: |
75 | 55 | """Compatibility alias for ``gemma2_2b_pretrain_2gpu_h100_bf16_config``.""" |
76 | | - return call_h100_recipe( |
77 | | - globals(), |
78 | | - _h100_module, |
79 | | - _h100_module.gemma2_2b_pretrain_2gpu_h100_bf16_config, |
80 | | - *args, |
81 | | - **kwargs, |
82 | | - ) |
| 56 | + _h100_module.AutoBridge = AutoBridge |
| 57 | + return _h100_module.gemma2_2b_pretrain_2gpu_h100_bf16_config() |
83 | 58 |
|
84 | 59 |
|
85 | | -def gemma2_2b_sft_config(*args: object, **kwargs: object) -> ConfigContainer: |
| 60 | +def gemma2_2b_sft_config() -> ConfigContainer: |
86 | 61 | """Compatibility alias for ``gemma2_2b_sft_1gpu_h100_bf16_config``.""" |
87 | | - return call_h100_recipe( |
88 | | - globals(), |
89 | | - _h100_module, |
90 | | - _h100_module.gemma2_2b_sft_1gpu_h100_bf16_config, |
91 | | - *args, |
92 | | - **kwargs, |
93 | | - ) |
94 | | - |
95 | | - |
96 | | -def gemma2_9b_peft_config(*args: object, **kwargs: object) -> ConfigContainer: |
97 | | - """Compatibility alias for ``gemma2_9b_lora_1gpu_h100_bf16_config``.""" |
98 | | - return call_h100_recipe( |
99 | | - globals(), |
100 | | - _h100_module, |
101 | | - _h100_module.gemma2_9b_lora_1gpu_h100_bf16_config, |
102 | | - *args, |
103 | | - **kwargs, |
104 | | - ) |
105 | | - |
106 | | - |
107 | | -def gemma2_9b_pretrain_config(*args: object, **kwargs: object) -> ConfigContainer: |
| 62 | + _h100_module.AutoBridge = AutoBridge |
| 63 | + return _h100_module.gemma2_2b_sft_1gpu_h100_bf16_config() |
| 64 | + |
| 65 | + |
| 66 | +def gemma2_9b_peft_config(peft_scheme: str | PEFT = "lora") -> ConfigContainer: |
| 67 | + """Compatibility alias for ``gemma2_9b_peft_1gpu_h100_bf16_config``.""" |
| 68 | + _h100_module.AutoBridge = AutoBridge |
| 69 | + return _h100_module.gemma2_9b_peft_1gpu_h100_bf16_config(peft_scheme=peft_scheme) |
| 70 | + |
| 71 | + |
| 72 | +def gemma2_9b_pretrain_config() -> ConfigContainer: |
108 | 73 | """Compatibility alias for ``gemma2_9b_pretrain_8gpu_h100_bf16_config``.""" |
109 | | - return call_h100_recipe( |
110 | | - globals(), |
111 | | - _h100_module, |
112 | | - _h100_module.gemma2_9b_pretrain_8gpu_h100_bf16_config, |
113 | | - *args, |
114 | | - **kwargs, |
115 | | - ) |
| 74 | + _h100_module.AutoBridge = AutoBridge |
| 75 | + return _h100_module.gemma2_9b_pretrain_8gpu_h100_bf16_config() |
116 | 76 |
|
117 | 77 |
|
118 | | -def gemma2_9b_sft_config(*args: object, **kwargs: object) -> ConfigContainer: |
| 78 | +def gemma2_9b_sft_config() -> ConfigContainer: |
119 | 79 | """Compatibility alias for ``gemma2_9b_sft_4gpu_h100_bf16_config``.""" |
120 | | - return call_h100_recipe( |
121 | | - globals(), |
122 | | - _h100_module, |
123 | | - _h100_module.gemma2_9b_sft_4gpu_h100_bf16_config, |
124 | | - *args, |
125 | | - **kwargs, |
126 | | - ) |
| 80 | + _h100_module.AutoBridge = AutoBridge |
| 81 | + return _h100_module.gemma2_9b_sft_4gpu_h100_bf16_config() |
127 | 82 |
|
128 | 83 |
|
129 | 84 | __all__ = [ |
|
0 commit comments