Update README.md
Browse files
README.md
CHANGED
|
@@ -87,6 +87,8 @@ parser.add_argument('--quant_path', type=str)
|
|
| 87 |
parser.add_argument('--calib_size', type=int, default=256)
|
| 88 |
parser.add_argument('--dampening_frac', type=float, default=0.1)
|
| 89 |
parser.add_argument('--observer', type=str, default="minmax")
|
|
|
|
|
|
|
| 90 |
args = parser.parse_args()
|
| 91 |
|
| 92 |
model = SparseAutoModelForCausalLM.from_pretrained(
|
|
|
|
| 87 |
parser.add_argument('--calib_size', type=int, default=256)
|
| 88 |
parser.add_argument('--dampening_frac', type=float, default=0.1)
|
| 89 |
parser.add_argument('--observer', type=str, default="minmax")
|
| 90 |
+
parser.add_argument('--actorder', type=str, default="dynamic")
|
| 91 |
+
|
| 92 |
args = parser.parse_args()
|
| 93 |
|
| 94 |
model = SparseAutoModelForCausalLM.from_pretrained(
|