Spaces:
Paused
Paused
Update finetunning.py
Browse files- finetunning.py +2 -2
finetunning.py
CHANGED
|
@@ -39,10 +39,10 @@ dataset = load_dataset("Aniemore/resd")
|
|
| 39 |
|
| 40 |
# Функція для токенізації данних
|
| 41 |
def tokenize_function(examples):
|
| 42 |
-
return tokenizer(examples["
|
| 43 |
|
| 44 |
# Токенізация датасету
|
| 45 |
-
tokenized_dataset = dataset.map(tokenize_function, batched=True, remove_columns=
|
| 46 |
|
| 47 |
# Створення data collator
|
| 48 |
data_collator = DataCollatorForLanguageModeling(tokenizer=tokenizer, mlm=False)
|
|
|
|
| 39 |
|
| 40 |
# Функція для токенізації данних
|
| 41 |
def tokenize_function(examples):
|
| 42 |
+
return tokenizer(examples["speech"], truncation=True, padding="max_length", max_length=512)
|
| 43 |
|
| 44 |
# Токенізация датасету
|
| 45 |
+
tokenized_dataset = dataset.map(tokenize_function, batched=True, remove_columns=["name", "path", "emotion", "speech"])
|
| 46 |
|
| 47 |
# Створення data collator
|
| 48 |
data_collator = DataCollatorForLanguageModeling(tokenizer=tokenizer, mlm=False)
|