MMTEB: Massive Multilingual Text Embedding Benchmark
Paper
•
2502.13595
•
Published
•
43
Datasets:
Tasks:
Text Classification
Modalities:
Text
Formats:
parquet
Languages:
Norwegian Bokmål
Size:
< 1K
ArXiv:
License:
sentences
sequencelengths 512
512
| labels
sequencelengths 512
512
|
|---|---|
["Bakgrunn Bech ble utdannet ved Journalistakademiet i 1960, med deleksamener i kunstvitenskap og et(...TRUNCATED)
| ["Store norske leksikon,Samfunn,Medier","Store norske leksikon,Geografi,Verdens geografi","Store nor(...TRUNCATED)
|
["Størrelse og utseende Brugda kan bli opptil 13,6 meter lang. Maksimal vekt er mer usikker, idet b(...TRUNCATED)
| ["Store norske leksikon,Biologi,Dyreriket","Store norske leksikon,Økonomi og næringsliv,Bedriftsø(...TRUNCATED)
|
["Utdannelse Hans far, Herman Major Backer, hadde en omfattende arkitektpraksis. Som barn må Lars B(...TRUNCATED)
| ["Store norske leksikon,Kunst og estetikk,Arkitektur og landskap","Store norske leksikon,Geografi,Ve(...TRUNCATED)
|
["Man skiller ofte mellom biologiske og psykologiske behov. Biologiske behov oppstår når kroppen h(...TRUNCATED)
| ["Store norske leksikon,Psykologi,Personlighetspsykologi","Store norske leksikon,Kunst og estetikk,B(...TRUNCATED)
|
Webscrabed articles from the Norwegian lexicon 'Det Store Norske Leksikon'. Uses articles categories as clusters.
| Task category | t2c |
| Domains | Encyclopaedic, Non-fiction, Written |
| Reference | https://huggingface.co/datasets/adrlau/navjordj-SNL_summarization_copy |
How to evaluate on this task
You can evaluate an embedding model on this dataset using the following code:
import mteb
task = mteb.get_task("SNLClustering")
evaluator = mteb.MTEB([task])
model = mteb.get_model(YOUR_MODEL)
evaluator.run(model)
To learn more about how to run models on mteb task check out the GitHub repository.
Citation
If you use this dataset, please cite the dataset as well as mteb, as this dataset likely includes additional processing as a part of the MMTEB Contribution.
@mastersthesis{navjord2023beyond,
author = {Navjord, J{\o}rgen Johnsen and Korsvik, Jon-Mikkel Ryen},
school = {Norwegian University of Life Sciences, {\AA}s},
title = {Beyond extractive: advancing abstractive automatic text summarization in Norwegian with transformers},
year = {2023},
}
@article{enevoldsen2025mmtebmassivemultilingualtext,
title={MMTEB: Massive Multilingual Text Embedding Benchmark},
author={Kenneth Enevoldsen and Isaac Chung and Imene Kerboua and Márton Kardos and Ashwin Mathur and David Stap and Jay Gala and Wissam Siblini and Dominik Krzemiński and Genta Indra Winata and Saba Sturua and Saiteja Utpala and Mathieu Ciancone and Marion Schaeffer and Gabriel Sequeira and Diganta Misra and Shreeya Dhakal and Jonathan Rystrøm and Roman Solomatin and Ömer Çağatan and Akash Kundu and Martin Bernstorff and Shitao Xiao and Akshita Sukhlecha and Bhavish Pahwa and Rafał Poświata and Kranthi Kiran GV and Shawon Ashraf and Daniel Auras and Björn Plüster and Jan Philipp Harries and Loïc Magne and Isabelle Mohr and Mariya Hendriksen and Dawei Zhu and Hippolyte Gisserot-Boukhlef and Tom Aarsen and Jan Kostkan and Konrad Wojtasik and Taemin Lee and Marek Šuppa and Crystina Zhang and Roberta Rocca and Mohammed Hamdy and Andrianos Michail and John Yang and Manuel Faysse and Aleksei Vatolin and Nandan Thakur and Manan Dey and Dipam Vasani and Pranjal Chitale and Simone Tedeschi and Nguyen Tai and Artem Snegirev and Michael Günther and Mengzhou Xia and Weijia Shi and Xing Han Lù and Jordan Clive and Gayatri Krishnakumar and Anna Maksimova and Silvan Wehrli and Maria Tikhonova and Henil Panchal and Aleksandr Abramov and Malte Ostendorff and Zheng Liu and Simon Clematide and Lester James Miranda and Alena Fenogenova and Guangyu Song and Ruqiya Bin Safi and Wen-Ding Li and Alessia Borghini and Federico Cassano and Hongjin Su and Jimmy Lin and Howard Yen and Lasse Hansen and Sara Hooker and Chenghao Xiao and Vaibhav Adlakha and Orion Weller and Siva Reddy and Niklas Muennighoff},
publisher = {arXiv},
journal={arXiv preprint arXiv:2502.13595},
year={2025},
url={https://arxiv.org/abs/2502.13595},
doi = {10.48550/arXiv.2502.13595},
}
@article{muennighoff2022mteb,
author = {Muennighoff, Niklas and Tazi, Nouamane and Magne, Loïc and Reimers, Nils},
title = {MTEB: Massive Text Embedding Benchmark},
publisher = {arXiv},
journal={arXiv preprint arXiv:2210.07316},
year = {2022}
url = {https://arxiv.org/abs/2210.07316},
doi = {10.48550/ARXIV.2210.07316},
}
Dataset Statistics
Dataset Statistics
The following code contains the descriptive statistics from the task. These can also be obtained using:
import mteb
task = mteb.get_task("SNLClustering")
desc_stats = task.metadata.descriptive_stats
{
"test": {
"num_samples": 4,
"number_of_characters": 2048,
"min_text_length": 512,
"average_text_length": 512.0,
"max_text_length": 512,
"unique_texts": 2047,
"min_labels_per_text": 1,
"average_labels_per_text": 512.0,
"max_labels_per_text": 206,
"unique_labels": 121,
"labels": {
"Store norske leksikon,Samfunn,Medier": {
"count": 27
},
"Store norske leksikon,Geografi,Verdens geografi": {
"count": 191
},
"Store norske leksikon,Teknologi og industri,Teknologi- og industrihistorie": {
"count": 5
},
"Store norske leksikon,Historie,Verdens historie og samtidshistorie": {
"count": 206
},
"Store norske leksikon,Teknologi og industri,Transport": {
"count": 62
},
"Store norske leksikon,Jus,Internasjonal rett": {
"count": 6
},
"Store norske leksikon,Realfag,Matematikk": {
"count": 10
},
"Store norske leksikon,Spr\u00e5k og litteratur,Norsk og samisk litteratur": {
"count": 16
},
"Store norske leksikon,Religion og filosofi,Religioner og livssyn": {
"count": 90
},
"Store norske leksikon,Samfunn,Samfunnsfag": {
"count": 45
},
"Store norske leksikon,Historie,Historiske hjelpevitenskaper": {
"count": 27
},
"Store norske leksikon,Historie,Kulturhistorie": {
"count": 11
},
"Store norske leksikon,Teknologi og industri,Elektronikk": {
"count": 7
},
"Store norske leksikon,Teknologi og industri,Romvirksomhet": {
"count": 8
},
"Store norske leksikon,Medisin,Helse og samfunn": {
"count": 3
},
"Store norske leksikon,Spr\u00e5k og litteratur,Litteratur i verden": {
"count": 140
},
"Store norske leksikon,Kunst og estetikk,Bildende kunst": {
"count": 78
},
"Store norske leksikon,Religion og filosofi,Religionsvitenskap": {
"count": 11
},
"Store norske leksikon,Kunst og estetikk,Arkitektur og landskap": {
"count": 47
},
"Store norske leksikon,Kunst og estetikk,Musikk": {
"count": 113
},
"Store norske leksikon,Kunst og estetikk,Design": {
"count": 4
},
"Store norske leksikon,Biologi,Planteriket": {
"count": 40
},
"Store norske leksikon,Geografi,Norges geografi": {
"count": 70
},
"Store norske leksikon,Religion og filosofi,Filosofiens fagdisipliner": {
"count": 20
},
"Store norske leksikon,Kunst og estetikk,Film": {
"count": 39
},
"Store norske leksikon,Samfunn,Forsvar og sikkerhet": {
"count": 31
},
"Store norske leksikon,Biologi,Bakterier": {
"count": 2
},
"Store norske leksikon,Biologi,Soppriket": {
"count": 16
},
"Store norske leksikon,N\u00e6ringsmidler og husholdning,N\u00e6ringsmiddelteknologi": {
"count": 2
},
"Store norske leksikon,Sport og spill,Ballsport": {
"count": 26
},
"Store norske leksikon,Kunst og estetikk,Metall- og smykkekunst": {
"count": 2
},
"Store norske leksikon,Realfag,Kjemi": {
"count": 41
},
"Store norske leksikon,Realfag,Fysikk": {
"count": 39
},
"Store norske leksikon,Religion og filosofi,Filosofiens historie": {
"count": 15
},
"Store norske leksikon,Teknologi og industri,Industri": {
"count": 3
},
"Store norske leksikon,Datoartikler": {
"count": 4
},
"Store norske leksikon,Realfag,Geologi": {
"count": 20
},
"Store norske leksikon,Spr\u00e5k og litteratur,Spr\u00e5kvitenskapens fagdisipliner": {
"count": 32
},
"Store norske leksikon,Realfag,Astronomi": {
"count": 21
},
"Store norske leksikon,Teknologi og industri,Maskiner": {
"count": 14
},
"Store norske leksikon,Teknologi og industri,Petroleum": {
"count": 8
},
"Store norske leksikon,\u00d8konomi og n\u00e6ringsliv,Penger": {
"count": 6
},
"Store norske leksikon,Spr\u00e5k og litteratur,Litteraturvitenskap": {
"count": 11
},
"Store norske leksikon,Biologi,Dyreriket": {
"count": 45
},
"Store norske leksikon,Jus,Transportrett": {
"count": 4
},
"Store norske leksikon,Biologi,Vitenskapsgrener i biologien": {
"count": 40
},
"Store norske leksikon,Sport og spill,\u00d8vrig vintersport": {
"count": 4
},
"Store norske leksikon,Historie,Historievitenskap": {
"count": 15
},
"Store norske leksikon,Samfunn,Politikk og offentlig forvaltning": {
"count": 18
},
"Store norske leksikon,Biologi,Veterin\u00e6rmedisin": {
"count": 2
},
"Store norske leksikon,\u00d8konomi og n\u00e6ringsliv,Bedrifts\u00f8konomi": {
"count": 8
},
"Store norske leksikon,Religion og filosofi,Historiske religioner": {
"count": 9
},
"Store norske leksikon,\u00d8konomi og n\u00e6ringsliv,Bank og finans": {
"count": 3
},
"Store norske leksikon,Jus,Formuerett": {
"count": 11
},
"Store norske leksikon,Historie,Norsk og nordisk historie": {
"count": 39
},
"Store norske leksikon,Kunst og estetikk,Kunsth\u00e5ndverk": {
"count": 4
},
"Store norske leksikon,Realfag,Meteorologi": {
"count": 2
},
"Store norske leksikon,Samfunn,Utdanning og forskning": {
"count": 22
},
"Store norske leksikon,Teknologi og industri,IT": {
"count": 7
},
"Store norske leksikon,Teknologi og industri,Bygg og anlegg": {
"count": 6
},
"Store norske leksikon,Spr\u00e5k og litteratur,Litteraturtyper": {
"count": 9
},
"Store norske leksikon,Historie,Arkeologi": {
"count": 14
},
"Store norske leksikon,Psykologi,Personlighetspsykologi": {
"count": 3
},
"Store norske leksikon,Kunst og estetikk,S\u00f8m": {
"count": 11
},
"Store norske leksikon,Ordforklaringer,Fremmedord og l\u00e5nord": {
"count": 4
},
"Store norske leksikon,Teknologi og industri,Standardisering": {
"count": 2
},
"Store norske leksikon,N\u00e6ringsmidler og husholdning,Drikke": {
"count": 5
},
"Store norske leksikon,Jus,Obligasjonsrett": {
"count": 7
},
"Store norske leksikon,Teknologi og industri,Landbruk": {
"count": 11
},
"Store norske leksikon,Samfunn,Politi og kriminalitet": {
"count": 5
},
"Store norske leksikon,Sport og spill,\u00d8vrige sporter": {
"count": 3
},
"Store norske leksikon,Jus,Prosess": {
"count": 2
},
"Store norske leksikon,Ordforklaringer,Ord og uttrykk p\u00e5 andre spr\u00e5k": {
"count": 4
},
"Store norske leksikon,\u00d8konomi og n\u00e6ringsliv,N\u00e6ringsliv": {
"count": 13
},
"Store norske leksikon,Teknologi og industri,Lydteknologi": {
"count": 2
},
"Store norske leksikon,Jus,Arverett og skifterett": {
"count": 2
},
"Store norske leksikon,\u00d8konomi og n\u00e6ringsliv,Reiseliv": {
"count": 4
},
"Store norske leksikon,Spr\u00e5k og litteratur,Spr\u00e5kfamilier": {
"count": 5
},
"Store norske leksikon,Sport og spill,Spill": {
"count": 5
},
"Store norske leksikon,Teknologi og industri,Energi": {
"count": 8
},
"Store norske leksikon,Kunst og estetikk,Dans": {
"count": 9
},
"Store norske leksikon,Geografi,Oppdagelsesreiser": {
"count": 5
},
"Store norske leksikon,Sport og spill,Vannsport": {
"count": 1
},
"Store norske leksikon,N\u00e6ringsmidler og husholdning,Mat": {
"count": 12
},
"Store norske leksikon,Jus,Strafferett": {
"count": 2
},
"Store norske leksikon,Ordforklaringer,Norske ord og uttrykk": {
"count": 2
},
"Store norske leksikon,Samfunn,Inkludering og rettigheter": {
"count": 1
},
"Store norske leksikon,Sport og spill,Friidrett": {
"count": 2
},
"Store norske leksikon,Kunst og estetikk,Kulturinstitusjoner": {
"count": 9
},
"Store norske leksikon,Teknologi og industri,Fiskeri og havbruk": {
"count": 2
},
"Store norske leksikon,Spr\u00e5k og litteratur,Spr\u00e5kforskere": {
"count": 1
},
"Store norske leksikon,Teknologi og industri,H\u00e5ndverk": {
"count": 2
},
"Store norske leksikon,Teknologi og industri,Teknologi": {
"count": 3
},
"Store norske leksikon,Sport og spill,Kamp- og kontaktsport": {
"count": 2
},
"Store norske leksikon,Jus,Familierett": {
"count": 5
},
"Store norske leksikon,Kunst og estetikk,Bokkunst og skrift": {
"count": 3
},
"Store norske leksikon,Jus,Rettshistorie": {
"count": 3
},
"Store norske leksikon,Kunst og estetikk,Fotografi": {
"count": 4
},
"Store norske leksikon,N\u00e6ringsmidler og husholdning,M\u00e5ltider": {
"count": 1
},
"Store norske leksikon,Samfunn,Bolig og eiendom": {
"count": 5
},
"Store norske leksikon,Jus,Avtalerett": {
"count": 2
},
"Store norske leksikon,Realfag,Paleontologi": {
"count": 5
},
"Store norske leksikon,Geografi,Flagg og nasjonalsymboler": {
"count": 3
},
"Store norske leksikon,Ordforklaringer,Uttrykk og ordtak": {
"count": 3
},
"Store norske leksikon,Jus,Arbeidsrett": {
"count": 1
},
"Store norske leksikon,Ordforklaringer,Prefikser og suffikser": {
"count": 2
},
"Store norske leksikon,Jus,Jurister": {
"count": 4
},
"Store norske leksikon,Jus,Jus generelt": {
"count": 4
},
"Store norske leksikon,Samfunn,Arbeid og velferd": {
"count": 5
},
"Store norske leksikon,Biologi,Slimriket": {
"count": 2
},
"Store norske leksikon,Psykologi,Psykologiens historie": {
"count": 2
},
"Store norske leksikon,Sport og spill,Motorsport": {
"count": 1
},
"Store norske leksikon,Religion og filosofi,Religion i ulike land": {
"count": 1
},
"Store norske leksikon,Medisin,Ford\u00f8yelsessystemet": {
"count": 2
},
"Store norske leksikon,Sport og spill,Skytesport": {
"count": 1
},
"Store norske leksikon,Spr\u00e5k og litteratur,Skriftspr\u00e5k": {
"count": 2
},
"Store norske leksikon,Jus,Helserett": {
"count": 2
},
"Store norske leksikon,Teknologi og industri,Telekommunikasjon og kringkasting": {
"count": 2
},
"Store norske leksikon,\u00d8konomi og n\u00e6ringsliv,Samfunns\u00f8konomi": {
"count": 1
},
"Store norske leksikon,Kunst og estetikk,Glass og keramikk": {
"count": 1
},
"Store norske leksikon,Jus,Rettskildel\u00e6re": {
"count": 1
}
}
}
}
This dataset card was automatically generated using MTEB
- Downloads last month
- 5
Size of downloaded dataset files:
1.47 MB
Size of the auto-converted Parquet files:
1.47 MB
Number of rows:
4